一组计算机科学家使用理论计算来证明算法无法控制超级智能AI。
他们的研究解决了牛津哲学家尼克·博斯特罗姆所说的控制问题：我们如何确保超智能机器为我们的利益服务？
研究人员构想了一种理论上的遏制算法，该算法可以通过模拟AI的行为并在程序的动作变得有害时停止程序来解决该问题。
中外科学家联合提出基于区块链的框架致力于食品全球追溯:近日，中国农业科学院农业资源与农业区划研究所智慧农业创新团队与西班牙马德里理工大学、澳大利亚斯威本科技大学、中国检验检疫科学院合作，提出了基于区块链的食品追溯框架，以增强中国和欧盟间食品贸易的可信度。据研究员钱建平介绍，该框架充分利用现有的追溯系统，分析了实物流、数据流和区块链流的特点，考虑到数据容量和数据隐私水平，采用了链上和链下相结合的混合数据存储方法。(新京报)[2020/10/26]
但是，他们的分析发现，建立一种可以控制这种机器的算法从根本上来说是不可能的，人类与机器中心主任IyadRahwan说：
智联招聘首席科学家文镇：用户隐私保护可借鉴区块链技术:近日在第二届世界智能大会上，智联招聘大数据与算法首席科学家文镇表示：“用户的隐私数据应该像金融资产一样进行保护，并通过加密措施及严格的审计制度来预防黑客等角色的攻击。区块链技术给了我们很好的启示，个人数据的处理过程和对应产生的价值也可以通过分布式、可信的方式记录下来，并沿着这个思路把整个数据产生价值的流程透明化、规范化。”[2018/5/22]
如果将问题分解为理论计算机科学的基本规则，就会发现，命令AI不破坏世界的算法可能会无意中止其自身的运行。如果发生这种情况，您将不知道遏制算法是否仍在分析威胁，或者它是否已停止遏制有害的AI。实际上，这使遏制算法无法使用。
科学家推出以加密货币为基础经济的“浮岛项目”:科学家Nathalie Mezza-Garcia与法属波利尼西亚政府合作推出“浮岛项目”，旨在浮动岛屿上拥有加密货币为基础的经济，打造一座“海上永久漂浮的创新型社区”。该项目将使用“Varyon”的加密货币在岛屿上建立300座住宅，容纳气候难民。目前，该项目通过海洋家园协会（Seasteading Institute）和Blue Frontiers慈善捐赠资助，后者负责销售加密货币Varyon。[2018/5/18]
研究发现，由于计算的基本局限性，没有一种算法可以计算出AI是否会危害世界：
假设超级智能将包含一个程序，该程序包含通用图灵机在输入时可能会像世界状况一样复杂地执行的所有程序，那么严格的围堵要求对该程序进行仿真，这在理论上是不可能的。
到目前为止，这种类型的AI仍仅限于幻想领域。但是研究人员指出，这项技术正在朝着科幻小说作家所设想的超级智能系统的类型迈进。
研究的合著者，马克斯·普朗克人类发展研究所的曼努埃尔·塞布里安说：“已经有机器独立执行某些重要任务，而程序员却没有完全了解他们是如何学习的。”
“因此提出了一个问题，在某个时候这是否可能变得不可控制并且对人类构成危险。”
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。