撰文:KyleWiggers
来源:TechCrunch
图片来源:由无界AI工具生成
从历史上看,甚至在今天,记忆力差一直是阻碍文本生成式人工智能发挥作用的一个因素。正如《大西洋》杂志最近发表的一篇文章?所说,即使是像ChatGPT这样复杂的生成式文本人工智能,其记忆力也像金鱼一样。每次模型生成响应时,它只考虑到非常有限的文本量,因此它也无法总结一本书或审查一个主要的编码项目。
币安将在法国、意大利、西班牙和波兰下架隐私代币:金色财经报道,法国、意大利、波兰和西班牙的币安用户从6月26日起将不能再购买或出售12种隐私代币。受影响的代币包括Decred (DCR)、Dash (Dash)、Zcash (ZEC)、Horizen (ZEN)、PIVX (PIVX)、Navcoin (NAV)、Secret (SCRT)、Verge (XVG)、Firo (Firo)、BEAM (BEAM)、Monero (XMR)和MobileCoin (MOB)。
币安在给法国客户的电子邮件中表示,由于当地监管要求,它不再能够在几个欧洲国家提供增强型匿名加密资产(CAE)。[2023/5/31 11:50:44]
但Anthropic正试图改变这种状况。
Crypto.com产品负责人:人工智能可以提升加密用户的体验:金色财经报道,Crypto.com的产品负责人表示,在谈到加密货币产品时,用户体验仍然不够轻松。但他认为,将人工智能(AI)纳入行业交易所可以缓解这一问题。本月早些时候,Crypto.com推出了Amy,一个目前处于试验阶段的人工智能伴侣。Amy的基础技术是基于OpenAI的ChatGPT,尽管该公司正在努力专门培训艾米,以便对行业相关问题提供有益的回应。
Crypto.com的全球产品主管Abhi Bisarya表示,Amy目前只在该公司的价格页面上提供。[2023/5/20 15:15:00]
今天,这家人工智能研究初创公司宣布,它已将Claude的上下文窗口从9000个token扩展到了10万个token。上下文窗口指的是模型在生成额外文本之前考虑的文本,而token代表原始文本。
DigiDaigaku将启动“DRAGON ESSENCE”免费空投:2月12日消息,DigiDaigaku母公司Limit Break首席执行官Gabriel Leydon在社交媒体发文称,该生态系统NFT持有者(包括Genesis、Heroes和Super Villains)将获得免费空投的“Dragon Essence”,“Dragon Essence”可以帮助婴儿龙成长进化,但Gabriel Leydon表示用于空投“Dragon Essence”的快照日期目前待定。
此前,Gabriel Leydon曾透露Limit Break将在北京时间2月13日举行的第57届超级碗中投放广告并开启新NFT免费铸造。[2023/2/12 12:02:12]
那么,这意味着什么呢?正如前面所提到的,具有小上下文窗口的模型往往会“忘记”即使是最近的对话内容--导致它们偏离主题。在几千字左右之后,小模型也会忘记最初的指示,只根据上下文窗口中的最后的信息来进行响应。
日本首相:将大力推动元宇宙和NFT等Web3服务的使用:10月3日消息,日本首相岸田文雄在临时国会会议上进行了政策演讲,其中提到将大力推动元宇宙和NFT等Web3服务的使用,他还将“扩大Web3服务的使用”列为“向数字化转型投资”的目标之一。
此外据Itmedia报道,日本去年新设立的政府机构“数字厅”于9月30日宣布将召开“Web3研究会”,根据日本内阁6月份决定“实现数字社会的优先计划”的政策,将考虑推广NFT等Web3相关技术。该活动的日程和议程尚未公布。(Coinpost)[2022/10/3 18:38:25]
鉴于大上下文窗口的好处,找出扩展的方法已成为OpenAI等AI实验室的主要关注点,要知道,OpenAI将整个团队都投入到了这个问题上了。OpenAI的GPT-4在上下文窗口的大小方面保持着之前的领先地位,其规模最高可达32,000个token,而改进后的ClaudeAPI已然超越了这一数字。
有了更强的“记忆力”,Claude应该能够相对连贯地交谈几个小时——甚至几天——而不是几分钟。也许更重要的是,它应该也不太可能偏离轨道。
在博文中,Anthropic对Claude增加上下文窗口的其他好处进行了介绍,包括该模型消化和分析数百页材料的能力。Anthropic称,除了阅读长文本,升级后的Claude可以帮助从多个文件甚至一整本书中检索信息,回答哪些需要跨文本的“综合知识”问题。
Anthropic列出了一些可能的用例:
对财务报表或研究报告等文件进行消化、总结和解释
根据公司的年度报告,分析其风险和机会
评估一项立法的优点和缺点
识别风险、主题和跨法律文件的不同论证形式。
阅读数百页的开发者文档,呈现技术问题的答案
通过将整个代码库放入上下文中并智能地构建或修改它来快速制作原型
“普通人可以在5个小时左右阅读10万个token的文本,然后可能需要大量的时间来消化、记忆和分析这些信息,”Anthropic继续说道。“Claude现在可以在不到一分钟的时间内做到这一点。例如,我们把《了不起的盖茨比》的全部内容输入进了Claude......并修改了其中一行,说Mr.Carraway是‘一个在Anthropic从事机器学习工具的软件工程师’。当我们要求Claude发现有什么不同时,它在22秒内就给出了正确答案。”
此外,Anthropic的合作伙伴AssemblyAI也进行了相关测试。在视频演示中,该团队用Claude-100k将一个长播客转录成58K单词,然后使用Claude进行总结和问答。该团队给出的评价是:insane!太疯狂了!
目前,更长的上下文窗口并不能解决围绕大型语言模型的其他与记忆有关的挑战。Claude,像其同类的大多数模型一样,无法将信息从一个会话保留到下一个会话。而且与人脑不同的是,它把每一条信息都视为同等重要,这使得它并不能成为一个特别可靠的叙述者。一些专家认为,解决这些问题将需要全新的模型架构。
不过,就目前而言,Anthropic似乎走在了前列。
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。