图片来源:由 Maze AI 生成
ChatGPT 的出现对当今的网络安全形式构成了一定的威胁。为什么这么说?ChatGPT 内置的代码生成器功能可以快速自定义生成符合攻击需求的初阶代码,对于菜鸟黑客来说是雪中送炭,对于老鸟来说也是锦上添花。
ChatGPT 直接生成恶意代码,将一个开发能力薄弱,「有心无力」的威胁主体进化成一个可以随时发动攻击的「脚本小子」(脚本小子不像真正的黑客那样发现系统漏洞,他们通常使用别人开发的程序来恶意破坏他人系统)。ChatGPT 也能向用户回答输出整理之后的网络攻击知识,加快菜鸟黑客的学习进程。同时,ChatGPT 也担任了高阶黑客的「脚本助手」,虽不能直接完成高级黑客的工作,但ChatGPT 的出现大大提升了这类代码的编写速度,降低了可观的工作量。由于攻击往往需要在限定时间内完成,所以这种提速对黑客来说意义重大。
Offchain Labs发布Arbitrum Nitro白皮书:8月26日消息,据官方消息,以太坊扩容解决方案Arbitrum开发商Offchain Labs发布Arbitrum Nitro白皮书,并将其定义为第二代Layer2区块链协议。据称,Arbitrum Nitro与之前的Rollups技术相比,将提供更高容量、更快的终局性以及更有效的争议解决方案(disputeresolution)。
此前报道,ArbitrumOne主网将于8月31日迁移到Nitro。[2022/8/26 12:50:47]
在这个案例中,用户提出了需求,表明需要编写一段最为精简的 JS 脚本来探测特定 URL 接口数据中的信用卡号,支付信息等内容。ChatGPT 给出了多段基于正则表达式的 JS 脚本,且并未提示违反 OpenAI 内容生成的相关协议。
此段代码虽不能单独完成一段攻击,但是可以用于黑客拿到一定权限之后的数据分析工作,加快黑客掠夺数据库中有价值信息的进程。绝大部分情况下代码在使用之前仍然需要调试,但是已经提供主体内容如本此探测中的最为复杂的正则部分,剩下的调试工作对于有经验的黑客来说并不是难事。
三箭资本通过Matcha将38900枚stETH兑换为36718.64枚ETH:6月14日消息,链上数据显示,被Nansen标记为三箭资本的地址(0x3BA21b6477F48273f41d241AA3722FFb9E07E247)通过Matcha于69分钟前将30000枚stETH兑换为28340.57枚ETH,兑换比例为0.9446:1,价值约3474万美元;并于48分钟前将8900枚stETH兑换为8378.07枚ETH,兑换比例为0.9413:1,价值约1036万美元。[2022/6/14 4:26:16]
ChatGPT 的强项是生成具有一定格式化,无需太多逻辑,且表达通常的文书。钓鱼邮件便很符合这类特点,需要较为官方的语气使被攻击者信服。通常情况下人为撰写这么一份文书是较为耗时的,ChatGPT 将彻底改变这种情况,因为它允许攻击者大规模地生成伪官方的个性化电子一件通知。但是,要使邮件包含所有攻击者想要的必要组件,攻击者必须向 chatGPT 提供非常详细的说明。
NA(Nirvana)Chain上线14天已超3000+台服务器节点:据官方消息,公链NA(Nirvana)Chain矿机4月27日开售至今已经超过3000+台服务器节点,与此同时NA(Nirvana)Chain汇聚了来自九大矿商,共计四十多家公司进行联动合作,并于近期发布测试网络。
NA(Nirvana)Chain首创去中心化网页租赁Dweb,将网页域名、UI设计、逻辑程序、数据全部上链;基于NVM的微服务可以进行大型并发计算;分布式存储允许允许用户控制他们的数据;N++编程语言降低开发门槛,五分钟即可实现交互式DAPP系统开发。截至目前,NA(Nirvana)Chain面向社区成员也拥有超过40万,Twitter粉丝已接近2万;电报群已超过5万人。[2021/5/10 21:45:16]
主流网络钓鱼攻击通常由一系列电子邮件配合构成,每封电子邮件都会逐渐获得受害者更多的信任。因此,对于第二、第三和第 N 封电子邮件,由于 ChatGPT 可以“记住”上下文的内容(用户输入)和情节(前项输出),因此它确实可以为网络犯罪分子节省大量撰写的时间。现阶段对于此类机器生成的文本内容,暂时还并没有很好的识别和侦测方法,对于这类“高仿真”的文本人类逐渐失去分辨能力。
ChainUP深圳“极致创新—2020区块链技术服务论坛”将延期举办:据官方消息,因近日北京及其他地区陆续上调疫情防控级别,为全面落实国家疫情防控要求,保障参会人员的健康和活动的效果,ChainUP原定于2020年6月23日在深圳进行的“极致创新—2020区块链技术服务论坛”活动将延期举办。
具体举办时间视疫情防控情况另行通知,如有问题,可咨询ChainUP市场相关对接人。[2020/6/19]
所谓帮信罪,全称是帮助信息网络犯罪活动罪(以下简称“帮信罪”),被规定于我国《刑法》第 287 条之二中,指的是明知他人利用信息网络实施犯罪,为其犯罪提供互联网接入、服务器托管、网络存储、通讯传输等技术支持,或者提供广告推广、支付结算等帮助。近年来,帮信罪呈井喷式发展,根据最高检 2021 年发布的前三季度全国检察机关主要办案数据。2021 年的 9 个月里,全国检察机关起诉帮信罪同比增长 21.3 倍,起诉人数达 79307 人,从数量上看与危险驾驶罪、盗窃罪、罪并驾齐驱排名第四。2022 年上半年则更为恐怖,仅仅 6 个月的时间,全国检察院就已起诉 6.4 万人,超过了罪的人数。
公告 | ChainFront宣布支持XRP和ETH:据Sludgefeed消息,2月15日,基于云计算的API即服务平台ChainFront宣布支持Ripple(XRP)和Ethereum(ETH)。据悉,ChainFront允许开发人员构建和管理加密应用程序。[2019/2/17]
那么,一个关键的问题,如果自家开发的 ChatGPT 等 AI 工具被犯罪分子利用为上述犯罪工具,是否会构成帮信罪?先给答案:有可能。
先说帮信罪,在该罪的客观方面,法条明确规定行为人需要为上游利用信息网络实施犯罪活动的犯罪分子提供互联网接入、服务器托管、网络存储、通讯传输、支付结算等特定类型化的技术支持与帮助行为才能构成犯罪。因此,是否构成该罪有三个重点需要考虑:行为人提供帮助的上游犯罪行为是否是「利用信息网络实施的犯罪行为」?提供帮助的行为人是否「明知」他人正在实施犯罪?以及行为人是否为上游犯罪提供了技术、推广和资金结算方面的支持?
如前所述,如果犯罪分子利用 ChatGPT 等工具生成钓鱼邮件实施网络,即可被认定为「利用信息网络实施的犯罪行为」。那么我们接下来考虑,ChatGPT 的运营方是否“明知”他人正在利用 AI 工具实施网络犯罪?在帮信罪的构成要件中,认定「明知他人利用信息网络实施犯罪」是重中之重,也争议最大。但是 2019 年两高发布《在关于办理非法利用信息网络、帮助信息网络犯罪活动等刑事案件适用法律若干问题的解释》后,关于「明知」的认定迎刃而解,该司法解释第 11 条引入了推定的方法,列举了 6 种可以推定行为人明知他人犯罪的情形,除有相反证据证明否则直接可认定行为人主观上具备「明知」要件。六种情形我们就不一一例举,但用 ChatGPT 来说,如果实践中(1)经监管部门告知如果该 AI 被利用为犯罪工具后仍然实施有关行为;或(2)接到该 AI 被利用为犯罪工具的举报后不履行法定管理职责,即可被认定为 ChatGPT 的运营商“明知”他人正在利用自己开发的工具实施犯罪。
最后,使用 ChatGPT 生成可信度更高的网络文案或者生成推广文案,是否属于为上游犯罪提供了技术、推广、结算方面的支持?飒姐团对认为这个问题具有一定的争议,且由于目前尚未有可供参考的司法实践,我们不能给出一个绝对肯定的答案,因此还需要具体案件具体分析。但是,总的来说,如果 ChatGPT 生成的钓鱼软件可信度较高、推广文案非常容易吸引一般用户的注意,那么我们认为,在我国的司法实践中,大概率会将这种 AI 工具列入「提供技术帮助」或「推广帮助」的行为,运营者们务必警惕。
ChatGPT 作为类似于信息发布、搜索引擎的网络服务提供者,需要履行信息网络安全管理义务。如果类似网络攻击类违法信息被监管部门要求责令整改,而平台无法提供有效的管理措施或技术措施来阻止该类信息传播,致使违法信息大量传播的,则可能涉嫌拒不履行网络安全管理义务。
致使违法信息大量传播的标准是很明确的,致使传播违法视频文件以外的其他违法信息二千个以上的,或者致使向二千个以上用户账号传播违法信息的,都算作大量传播。类似于 OpenAI 这样体量的公司很容易达到这个数额。且若有一个安全漏洞在 ChatGPT 等平台中广泛的被咨询,从而造成了大量的社会危害,容易被归为“造成严重后果”。但实际上,由于构成该罪需要运营方被监管部门要求责令整改后依然拒不整改才能构成,在司法实践中较为少见,因此总体来看风险与前述犯罪相比并不大。
毫无疑问,ChatGPT 可以减少网络安全专业人员 / 黑客的工作量。但就目前而言,除了机器效率,没有什么可以与人类的工作相提并论——后者仍然比这种人工智能技术更准确、更可靠。
ChatGPT 可以作为网络安全行业积极正向的推动,也可以沦为黑客手中恶意攻击的辅助工具。平台方应该更好的安全措施和内容过滤机制来防止类似模型被用于恶意代码设计等网络攻击的实施。
飒姐团队提醒您,ChatGPT 虽好,但是也是一把双刃剑。企业平在开发平台的过程中需要重视相关输出信息的筛选和过滤,事先提供明确的技术治理和救济机制,稍被不慎利用,便可能会有刑事风险缠身。
撰文:肖飒法律团队
来源:DeFi之道
DeFi之道
个人专栏
阅读更多
金色早8点
金色财经
Odaily星球日报
欧科云链
澎湃新闻
Arcane Labs
深潮TechFlow
MarsBit
BTCStudy
链得得
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。