3月22日，生命未来研究所(FutureofLife)向全社会发布了一封《暂停大型人工智能研究》的公开信，呼吁所有人工智能实验室立即暂停比GPT-4更强大的人工智能系统的训练，暂停时间至少为6个月。
目前该公开信已获得超过1100个人士支持，其中包括埃隆马斯克、山姆·奥特曼、约书亚·本吉奥等知名人士。
公开信正文
大量研究表明，具有人类竞争智能的AI系统可能对社会和人类构成深远的风险，这一观点也得到了顶级AI实验室的认可。
Web3支付基础设施Depay因检测到黑客攻击而暂停加密服务:金色财经报道，Web3支付基础设施Depay在官网宣布，检测到黑客尝试攻击其提币服务，已暂停加密货币相关的服务。用户的资产没有任何损失，团队将在修复漏洞后重新开放提币服务。
据悉，Depay是ChatGPT的支付渠道之一，允许用户使用visa、万事达卡、加密货币等支付费用。[2023/4/4 13:44:14]
正如广泛认可的阿西洛马人工智能原则中所述，高级AI可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。
不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——都无法理解，预测或可靠地控制。
当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须扪心自问：
88mph称白帽在其三个池中发现严重漏洞现已暂停，其他池不受影响:6月8日，DeFi固定利率生成协议88mph发推称，智能合约漏洞赏金平台Immunefi上的白帽Ashiq在其CRV:RENWBTC、CRV:STETH和yaLink池中发现了一个严重漏洞，目前团队暂停了这些受影响的池子。资金是安全的。其他池不受影响，将继续正常运行。88mph将在接下来的72个小时内发布完整报告供用户认领回资金。[2021/6/8 23:19:53]
我们是否应该让机器用宣传和谎言充斥我们的信息渠道？
我们应该自动化所有的工作，包括令人满意的工作吗？
我们是否应该发展最终可能超过我们、超越我们、过时并取代我们的非人类思维？
我们应该冒险失去对我们文明的控制吗？
此类决定显然不能委托给未经选举产生的技术领导者。只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。
Casa联合创始人评论Ocean暂停智能合约：权力下放面纱被揭开:对于Ocean Protocol（OCEAN）暂停OCEAN智能合约。加密货币托管公司Casa联合创始人兼CTO Jameson Lopp在推特表示，当“DeFi”项目对被盗资金洗白而惊慌失措时，权力下放的面纱被揭开了。[2020/9/27]
OpenAI最近关于通用人工智能的声明指出，“在某些时候，在开始训练未来系统之前进行独立审查可能很重要，并且对于最先进的努力来说，同意限制用于创建新系统的计算增长率楷模。”我们同意这一观点，并且认为现在就要行动起来。
因此，我们呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。这种暂停应该是公开的和可验证的，并且包括所有关键参与者。如果不能迅速实施这种暂停，政府应介入并暂停。
动态 | 汇丰银行质疑并暂停一对老年夫妇购买比特币的交易:据ambcrypto报道，一对老年夫妇试图利用汇丰银行（HSBC）旗下First Direct的在线账户购买比特币，进而购买医用大麻。银行不仅拒绝该笔交易，还冻结其所有的在线支付。该银行辩解称，这对夫妇称该医用大麻交易商只接受比特币支付，而银行系统对此表示怀疑。然而，当他们试图用另一个理由购买比特币时，银行再次拒绝，称这是对客户的保护。[2019/4/8]
人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，无可置疑。
这并不意味着总体上暂停AI开发，只是从危险的竞赛中倒退到具有紧急功能的更大的不可预测的黑盒模型。
公告 | 币安将于3月12日8时暂停THETA充提:据币安公告，为支持Theta Network（THETA）的主网升级，币安将于3月12日8时暂停THETA充提。主网升级完成后，充值、提现开放时间将另行公告。[2019/3/6]
人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
与此同时，AI开发人员必须与政策制定者合作，以显着加快开发强大的AI治理系统。这些至少应包括：
专门负责AI的新的和有能力的监管机构；
监督和跟踪高性能人工智能系统和大量计算能力；
出处和水印系统，以帮助区分真实与合成并跟踪模型泄漏；
强大的审计和认证生态系统；
人工智能造成的伤害的责任；
为技术人工智能安全研究提供强大的公共资金；
以及资源充足的机构来应对人工智能将造成的巨大的经济和破坏。
人类可以享受人工智能带来的繁荣未来。成功创建强大的AI系统后，我们现在可以享受“AI之夏”，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。社会已经暂停其他可能对社会造成灾难性影响的技术。
我们可以在这里这样做。让我们享受一个漫长的AI夏天，而不是毫无准备地陷入秋天。
云集行业大佬
目前已有超过1000人在该公开信上上签字，包括马斯克、山姆·奥特曼、约书亚·本吉奥、巴勃罗·贾里洛·埃雷罗等行业大佬。
以下是部分名单：
ElonMusk，SpaceX、Tesla和Twitter的首席执行官
SamAltman，OpenAI首席执行官
SteveWozniak，苹果联合创始人
EmadMostaque，StabilityAI首席执行官
YoshuaBengio，因开发深度学习而获得图灵奖，蒙特利尔学习算法研究所所长
StuartRussell，伯克利计算机科学教授，智能系统中心主任，标准教科书“人工智能：现代方法”的合著者
PabloJarillo-Herrero，麻省理工学院物理学教授，美国国家科学院沃尔夫物理学奖
JohnJHopfield，普林斯顿大学名誉教授，联想神经网络的发明者
ConnorLeahy，Conjecture首席执行官
……
顶级精英的忧虑
业内人士对于AI的担心有增无减。
OpenAl公司的首席执行官山姆·阿尔特曼(SamAltman)近日表示，他对人工智能(AI)技术的潜力感到兴奋，但也对一些潜在的滥用行为“有点害怕”。还表示“它有巨大的前景也有巨大的能力，但随之而来的危险也是巨大的。”
「人工智能教父」GeoffreyHinton近日在CBSNEWS的采访表示，人工智能正处于一个「关键时刻」，通用人工智能(AGI)的出现比我们想象的更加迫近。
马斯克在2023年世界政府峰会上谈及ChatGPT，认为短期内人们需要警惕人工智能的安全问题，并呼吁对人工智能进行监管。
“我担心的是，对于人工智能来说，如果它出了问题，从监管的角度来看，反应可能太慢了。我想说，未来文明面临的最大风险之一是人工智能。”
但人工智能既有消极的一面，也有积极的一面。
”它前途无量，力量强大，但也伴随着巨大的危险。看看核物理学的发现，我们可以得到核能发电，但是它也带来了核弹。”
”总之，我认为我们应该深切关注这个问题，我们应该对从根本上对公众构成风险的事情进行某种监管。”马斯克表示。
写在最后
从ChatGPT3、ChatGPT4，再到文心一言，AI几乎正在呈指数级速度发展发展，处于人工智能时代的飓风中，未来人类又应该何去何从......
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。