AI警报频发:美国副总统约见企业CEO,FTC主席撰文呼吁监管_人工智能:Venus Chain

来源:澎湃新闻

记者方晓

·“在人工智能取代你所有的工作之前,它肯定会在垃圾邮件发送者手中造成很大的损害,这些人想要操纵选举。”

·大型科技公司对AI研究的控制如此之大,以至于就职这些公司的许多科学家害怕表达他们的担忧,因为担心会损害职业前景。

美国监管人工智能的行动上升到白宫层面。当地时间5月4日,美国副总统卡马拉·哈里斯将与顶级人工智能企业Alphabet、微软、OpenAI和Anthropic的首席执行官会面,向企业施压以围绕AI实施保障措施。

同时,美国联邦贸易委员会主席莉娜·汗在《纽约时报》撰文称,必须监管人工智能,保护美国人免受不公平或欺诈行为的侵害。

Aave已在Goerli、Mumbai、Optimism和Arbritum测试网上部署V3.0.1版本:据官方推特,DeFi协议Aave已在Goerli、Mumbai、Optimism和Arbritum测试网上部署V3.0.1版本,想进行测试项目方和开发人员可在官网链接测试网模式。

此前金色财经报道,Aave团队成员0xGraham.lens称,Aave V3可能会于本周在以太坊主网上推出。[2023/1/19 11:20:20]

美国联邦贸易委员会主席莉娜·汗。

继“人工智能教父”杰夫里·辛顿发出警报后,微软首席经济学家迈克尔·施瓦茨当地时间5月3日表示,相信人工智能将被不良分子利用,造成真正的破坏。

英国也对AI市场展开审查

彭博社援引一位白宫官员的话称,哈里斯和政府官员计划告诉上述科技企业领导人,他们有责任减轻人工智能工具的潜在危害。

这次会面的邀请函称,美国政府正在寻求“坦诚讨论我们每个人在当前和近期人工智能发展中看到的风险、减轻这些风险的行动,以及我们可以共同努力以确保美国人民受益于人工智能的进步,同时免受其危害。”

Chainalysis以86亿美元的估值完成1.7亿美元F轮融资,GIC领投:5月11日消息,据The Information援引消息人士报道,区块链数据分析公司Chainalysis以86亿美元的估值完成1.7亿美元F轮融资,该公司的现有投资者新加坡主权财富基金GIC领投。Chainalysis于2021年6月以42亿美元估值完成1亿美元E轮融资,Coatue领投;于2021年3月以超20亿美元的估值完成1亿美元D轮融资,Paradigm领投。[2022/5/11 3:05:43]

除副总统外,白宫办公厅主任杰夫·齐恩茨、商务部长吉娜·雷蒙多、国家安全顾问杰克·沙利文和拜登的技术顾问阿拉蒂·普拉巴卡尔预计将出席。拜登的经济顾问莱尔·布雷纳德、高级顾问苏珊·赖斯和布鲁斯·里德以及白宫顾问斯图尔特·德勒里也将参加会议。

白宫官员说,这次会议是让企业、研究人员和民间社会参与进来的更广泛努力的一部分。

在ChatGPT发布后,最近几个月全球生成式人工智能工具的使用激增,批评者对这项技术提出了担忧,包括可能存在的偏见、侵犯隐私、导致错误信息或蔓延。

Warp.Finance平台宣布重启 修复闪电贷漏洞并转向使用Chainlink预言机:据官方消息,此前遭受闪电贷攻击的DeFi项目Warp.Finance发文宣布,Warp.Finance平台已重新启动,并在协议已有的安全制度之上增加了额外的安全措施。官方表示,已进行安全审计并对此前闪电贷攻击漏洞进行了修复。与此同时,官方已将Warp Finance价格预言机从Uniswap预言机转换为Chainlink预言机。此前2020年12月消息,Warp.Finance协议在发布后遭受闪电贷攻击,随后官方追回损失的585万美元资金。[2021/1/15 16:13:54]

上周,七国集团数字与技术部长会议同意对人工智能采取“基于风险的”监管。而欧盟立法者也就人工智能法案达成了初步协议。

据《金融时报》当地时间5月3日报道,英国竞争和市场管理局将对人工智能市场展开审查。该机构负责人萨拉·卡德尔表示,CMA将审查“基础模型”以及“围绕这些模型的市场如何发展”。CMA将评估“该领域的真正机会”,同时“在确保竞争有效运作和消费者得到保护方面,我们应该制定什么样的护栏措施和原则”。

声音 | 联合国副秘书长:互联网涌现了区块链、AI等新技术:第六届世界互联网大会在乌镇召开,联合国副秘书长刘振民在开幕式发言表示,互联网的发展正改变人们的生活,涌现了人工智能、大数据、区块链、物联网等新技术,尽管这些技术仍处在发展阶段。(新京报)[2019/10/21]

而在美国,商务部4月曾表示正在考虑要求AI模型在发布前经过认证程序的法规。

“正面临另一个选择时刻”

当地时间5月3日,美国联邦贸易委员会主席莉娜·汗撰文称,“由于生成式人工智能的快速发展,我们中的许多人现在已经体验了这种潜在的革命性技术,它对世界各地人们的生活、工作和交流方式产生了巨大影响。生成式人工智能的全部潜力仍有待商榷,但毫无疑问它将具有高度破坏性。”

汗回忆了2000年代中期Web2.0时代的到来,像Facebook和谷歌这样的新兴创新公司彻底改变了通信方式,并为快速增长的用户群提供了流行的服务。然而,这些创新服务的成本很高。“我们最初设想的免费服务是通过对使用这些服务的人员和企业进行广泛监控而变现的。其结果是出现了在线经济,在这种经济中,越来越多基本服务的获取取决于我们个人数据的广泛囤积和销售。”

动态 | 黑客利用Excel文档来执行ChainShot恶意软件攻击:近日出现了一款名叫ChainShot的恶意软件攻击,其利用微软 Excel 文件包含的微型 Shockwave Flash ActiveX 对象、以及一个所谓的“电影”的 URL 链接,忽悠人们去下载 Flash 应用程序。

降维安全实验室了解到该 Flash 应用程序其实是一个混淆的下载器:进程会在内存中创建一个随机的 512-bit RSA 密钥对,将私钥保留在内存中、并将公钥发送到攻击者的服务器,以加密 AES 密钥(用于加密有效负载)。如果你对本文所述恶意软件的细节感兴趣,可联系降维安全实验室。[2018/9/12]

“这些商业模式驱使企业开发无休止的侵入性方式来跟踪我们,联邦贸易委员会后来找到理由确认其中几家公司违法了。再加上收购或锁定威胁其地位的公司的激进战略,这些策略巩固了少数公司的主导地位。”汗写道,“最初是一组革命性的技术,最终将巨大的私人权力集中在关键服务上,并锁定了以我们的隐私和安全为代价的商业模式。”

而现在,正面临另一个选择时刻。“人工智能的广泛采用存在进一步锁定现有大型科技公司市场主导地位的风险。少数强大的企业控制着初创企业和其他公司开发和部署人工智能所需的必要原材料、工具,这包括云服务和计算能力,以及海量数据存储。”汗写道,占主导地位的公司可以利用对这些关键投入的控制来排除或歧视下游竞争对手,与此同时,AI企业用来为各种商品定价的工具可能会助长抬高价格的串通行为,以及精准定位的价格歧视。

此外,汗表示,AI可能还没有准备好取代专业作家,但已经可以比子更好地制作看似真实的信息,甚至指示机器人使用针对特定群体和社区的单词或短语。例如,者可以根据个人用户的社交媒体帖子起草针对性很强的网络钓鱼电子邮件。除了创建深度伪造视频和语音克隆的工具外,这些技术还可用于促进大规模欺诈和勒索。

汗表示,面对1960年代后期的反垄断审查,计算机巨头IBM将软件从其硬件系统中分离出来,促进了美国软件行业的崛起并创造了数万亿美元的增长。政府行动要求AT&T开放其专利库,同样释放了数十年的创新,并刺激了无数年轻公司的扩张。现在,联邦贸易委员会正在密切关注,如何才能促进公平竞争并保护美国人免受不公平或欺诈行为的侵害。

微软经济学家也发声

包括Twitter首席执行官埃隆·马斯克在内的一些知名科技领导者,已经呼吁美国联邦政府实施新规定。辛顿5月1日加入批评者行列,称大型科技公司在向公众部署人工智能方面进展太快,人工智能实现类似人类的能力的速度超过了专家预测,很快会对人类构成威胁,他还宣布已辞去谷歌的研究工作。

被称为“人工智能教父”的杰夫里·辛顿。

在5月3日的世界经济论坛活动上,微软首席经济学家施瓦茨也发布了警告。他在一个关于生成式人工智能的小组会议上发言称,“在人工智能取代你所有的工作之前,它肯定会在垃圾邮件发送者手中造成很大的损害,这些人想要操纵选举。”

施瓦茨的警告值得关注,因为微软2019年就向OpenAI投资了10亿美元,今年1月又宣布对OpenAI进行新的投资。OpenAI依靠微软提供计算能力,这种关系可能会为微软带来高达300亿美元的年收入。

但施瓦茨的态度仍然十分缓和,他说,人工智能显然必须受到监管,但立法者应该谨慎行事,等到该技术造成“真正的伤害”。

施瓦茨表示,所有新技术,甚至汽车,在首次进入市场时都会带来一定程度的风险。“当人工智能让我们更有生产力时,我们人类应该过得更好。”他说,“因为我们能够生产更多的东西。”

彭博社专栏作家帕米·奥尔森当地时间5月3日撰文称,辛顿的警报如果早几年出现会更有效。这一事件凸显了AI研究中的一个长期问题:大型科技公司对AI研究的控制如此之大,以至于就职这些公司的许多科学家害怕表达担忧,因为担心会损害职业前景。

2018年,谷歌前研究经理梅雷迪思·惠特克在协助组织2万名谷歌员工罢工后,不得不花费数千美元聘请律师。两年后,谷歌AI研究人员蒂姆尼特·格布鲁和玛格丽特·米切尔在发布了一篇强调大型语言模型风险的研究论文后被解雇。

2015年,《纽约客》的一篇文章描述了辛顿当时的态度。在被问到为什么还在从事AI研究时,他说,“发现的前景太美好了”,谷歌在部署人工智能方面表现得“非常负责任”。如今,辛顿的离职和警告,将有望激发大型科技公司的其他研究人员说出自己的担忧。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

水星链

FIL香港与Web3,Bitget的布局与崛起_BIT:GET

香港,曾经在加密和Web3行业占据着举足轻重地位。吸引了最大稳定币发行商Tether、Bitfinex、Crypto.com的驻足。但其间因监管政策的摇摆不定促使部分加密Web3企业搬离香港.

[0:15ms0-1:281ms