明敏发自凹非寺量子位|公众号QbitAI
0代码微调一个大模型,成本不到20美元?
过程也非常简单,只需5步。
如LLaMA、GPT、StableLM等爆火的开源生成式模型,都能搞定。
这就是MonsterAPI,一个最新火起来的API平台。
有人觉得这个开源领域的新工作,能改写AI开发的游戏规则,加速AI应用的速度。
CertiK已完成对OKX BRC-20代币合约安全审计:据官方消息,区块链和智能合约安全领域机构CertiK宣布已完成对OKX的BRC-20代币合约安全审计。此前报道,本月初CertiK因成功发现并报告SUI网络内名为“仓鼠轮”的安全新型安全威胁,而被SUI授予50万美元赏金。
这次和未来的审计将协助OKX启动一系列的详细操作,并旨在将这种新的代币技术无缝整合到其平台上。该交易平台的路线图包括支持申购,从而扩大其不同用户群的投资机会。此外,该平台将通过实现代币和BTC NFT的购买、出售、转让和报价来增强其交易能力。
CertiK由耶鲁大学和哥伦比亚大学的两位教授创立,已保护超过4000亿美元的数字资产免受损失。[2023/6/26 22:01:19]
BRC-20代币总市值达2.84亿美元:金色财经报道,数据显示,比特币铭文代币Ordi现报9.53美元,24小时涨幅37.88%,当前总市值已突破2亿美元。此外,BRC-20相关代币目前约为13530种,总市值为284,641,152美元,过去24小时的交易量为7772461美元。
据悉,BRC-20协议是直接写到比特币网络上,以聪为载体,用OrdinalInscriptions的JSON数据部署、铸造和转移代币。Ordi是第一个比特币铭文代币,总供应量为2100万枚。[2023/5/7 14:47:46]
还有人兴奋提问,之后会接入GPT-3/GPT-4吗?
DEX聚合器ParaSwap发布PSP 2.0代币经济学:金色财经报道,DEX聚合器ParaSwap发布PSP 2.0代币经济学,引入社会托管和奖励提升系统(ParaBoost),旨在将PSP2.0费用返还给为ParaSwapDAO提供价值的用户;彻底改革PSP Staking系统;提出一个公平的PSP(vPSP)。[2022/10/25 16:38:01]
所以,它具体是怎么实现的?
五步零代码搞定
简单理解,MonsterAPI就是将微调步骤尽可能简易化,让开发者不用再手动进行一系列设置,同时也提供便宜的GPU资源及内存优化。
具体过程如下:
第一步,选择一个模型进行微调。
比如LLaMA-7B、GPT-J-6B、StableLM-7B等,MonsterAPI提供了至少10个基础大模型。
彭博社前撰稿人:ERC-20代币总市值已超过以太坊:金色财经报道,彭博社前撰稿人Camila Russo发布推文称,ERC-20代币的总市值现已超过以太坊。根据Etherscan.io数据,ERC-20代币的总市值已达330亿美元,而以太坊的总市值目前为270亿美元。[2020/7/14]
第二步,选择或创建微调任务。比如指令微调、文本分类等,或者自定义任务。
第三步,选择一个HuggingFace数据集。
MonsterAPI可以无缝集成HuggingFace数据集,可选择范围很大;还可以根据任务类型推荐数据集。
并且不用自己手动操作,就能自动设置好格式。
第四步,设置超参数。
第五步,检查和提交。
在设置好如上所有步骤后,确定没有错误就可以提交了。
MonsterAPI表示可以通过WandB上的日志来监测任务。
在其博客中写道,用DataBricksDolly15k微调LLaMA-7B完成3个epouch,成本仅需不到20美元。
官网显示,注册用户后会赠送2500积分。会员分为三档,收费分别是每月9美元/29美元/39美元。
除了微调以外,MonsterAPI还提供各种生成式AI的API接口,并表示成本比其他方案低80%。
背后公司已获110万美元融资
消息显示,MonsterAPI背后公司拿下了110万美元的种子前资金。
这家AI初创公司给自己的定位是要做“GPU领域的爱彼迎”,把全世界分散的GPU资源实现灵活调度,让开发者们能够以更低的价格使用。
创始人是两兄弟GauravVij和SaurabhVij。
其中GauravVij还创立了一家CV公司,正是因为CV公司需要面临巨大的云计算资本,才启发了他们要做这样一个平台。
SaurabhVij之前是欧洲核研究中心的粒子物理学家,同时也研究分布式计算。
兄弟俩表示在经过多轮技术迭代后,他们优化了消费级GPU在机器学习任务上的性能,使得运行WhisperAI模型的成本相较于AWS平台降低了90%,所以他们就想着为什么不利用这个方法来帮助数以万计的开发者们。
同时他们透露公司的一个客户使用他们的分散的GPU计算资源,已经节省了30万美元。
参考链接:https://blog.monsterapi.ai/no-code-fine-tuning-llm/https://www.enterpriseai.news/2023/06/09/monster-api-launches-the-airbnb-of-gpus-with-1-1m-pre-seed/
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。