假设您是web3新手,开始建立web3分析团队,或者刚刚对web3数据感兴趣。无论哪种方式,您都应该已经大致熟悉了API、数据库、转换和模型在web2中的工作方式。
对于这本就职指南,我将尽量保持简洁,并突出我对以下三个重要的想法:
1.思考:为什么开放数据管道会重塑数据工作的完成方式
2.工具:web3数据堆栈中工具的概述,以及如何利用它们
3.团队:在web3数据团队中应具备的基本注意事项和技能
关于数据思维
让我们首先总结一下在web2中如何构建、查询和访问数据。
对于简化的数据管道,我们有四个步骤:
事件API触发
摄取到数据库
特定产品/分析用例的数据转换
模型训练和部署
数据有时是开源的唯一步骤是在转换完成之后。Kaggle和HuggingFace等社区使用暴露数据的一部分来帮助企业构建更好的模型。有一些特定领域的案例,例如在前三个步骤中打开数据的开放街道地图,但这些仍然有写权限的限制。
Web3支付服务平台Alchemy Pay集成可扩展区块链IoTeX:金色财经报道,Web3支付服务平台Alchemy Pay宣布集成可扩展区块链IoTeX,使开发人员和 dApp 能够顺利集成支付提供商的服务功能,有助于国际客户通过他们喜欢的支付方式和国内货币购买和交换加密货币。在与包括支付巨头万事达卡MasterCard和Visa在内的支付平台整合后,目前Alchemy Pay业务已经遍及近 173 个国家且兼容Apple Pay 和 Google Pay。(cointrust)[2023/5/23 15:21:17]
并不是说web2根本没有任何开源。与大多数其他工程角色一样,web2数据拥有大量用于构建其管道的开源工具。我们仍然在web3中使用所有这些工具。总之,他们的工具是开放的,但他们的数据是封闭的。
Web3也将数据开源——这意味着它不再只是数据科学家在开源中工作,分析工程师和数据工程师也是如此!每个人都参与到一个更连续的工作流程中,而不是一个黑盒数据循环。
Web3孵化器Blockmate Ventures完成超90万美元非经纪私募融资:金色财经报道,Web3 孵化器 Blockmate Ventures已完成总计 903,267 美元的非经纪私募融资并将在本月底提供业务更新信息。Blockmate Ventures 专注于利用区块链技术和去中心化为创业项目提供更大的实用性、可访问性和可持续性发展服务,旗下孵化项目可以获得技术、服务、集成、数字资产和咨询等多方面支持。(globenewswire)[2023/1/13 11:09:31]
工作的形式已经从web2数据大坝转变为web3数据的河流、三角洲和海洋。同样重要的是要注意,这个新周期会同时影响生态系统中的所有产品/协议。
让我们看一个web3分析师如何协同工作的示例。有几十个DEX使用不同的交换机制和费用,允许你将通证A换成通证B。如果这些是典型的交易所,比如纳斯达克,每个交易所都会以10k或一些API报告自己的数据,并且然后像capIQ之类的其他服务会将所有交换数据放在一起,并收取费用让您访问他们的API。也许偶尔,他们会举办一场创新比赛,这样他们就可以在未来拥有额外的数据/图表功能来收费。
使用web3交换,我们有这个数据流:
韩国3A游戏工作室NPIXEL将在Aptos上推出Web3游戏“GranSaga:Unlimited”:1月3日消息,韩国3A游戏工作室NPIXEL将在Aptos上推出一款大型多人在线角色扮演游戏(MMORPG)“GranSaga:Unlimited”,它将基于NPIXEL的原始Web2游戏GranSaga,用户将有机会赚取游戏内资产并将游戏设备铸造为NFT,并能够在Aptos网络上构建的各种NFT市场中自由交易,该游戏将首先在PC平台上推出,随后将能够通过移动智能手机访问游戏,此外测试将于2023年第一季度开始,预计将在第二季度全球发布。
此前金色财经报道,去年11月Aptos宣布与韩国3A游戏工作室NPIXEL达成合作,NPIXEL将在Aptos上构建Web3游戏生态系统METAPIXEL。(VentureBeat)[2023/1/3 22:22:14]
dex.trades是Dune上的一张表,其中汇总了所有DEX交换数据-因此您可以非常轻松地搜索所有交易所中单个代币的交换量之类的东西。
一位数据分析师出现并使用一堆社区开源查询创建了一个仪表板,现在我们对整个DEX行业有了一个公开的了解。即使所有的查询看起来都是一个人写的,你可以打,在某个不和谐的地方有大量的讨论可以准确地拼凑起来。
谷歌招聘Web3社区及合伙经理:金色财经报道,谷歌云发布Web3岗位,招聘Web3社区及合伙经理,需满足以下要求:3年社区管理经验;3年跨功能程序/项目及navigating programs技术管理经验;多链/层协议经验;多个DeFi协议(如Aave、Curve、Uniswap、Pancakeswap等)经验。此外,工作职责要求为,帮助制定跨越整个 Web3 生态系统的多样化和强大的开发人员社区的战略。代表 Google Cloud 授权 Web3 开发人员并支持跨公共区块链的合作伙伴。[2022/6/3 3:59:41]
一位DAO科学家查看仪表板并开始在他们自己的查询中分割数据,查看特定的配对,例如稳定通证。他们研究用户行为和商业模式,并开始建立假设。
由于科学家可以看到哪个DEX占据了更大的交易量份额,因此他们将提出一个新模型并提出对治理参数的更改,以在链上进行投票和执行。
之后,我们可以随时查看仪表板,了解该提案如何创造出更具竞争力的产品。
未来,如果有另一个DEX出来,这个过程会提升产品的功能。有人会创建插入查询来更新此表。这将反过来反映在所有仪表板和模型中。任何其他分析师/科学家都可以在Alex已经完成的工作的基础上再接再厉。
Gavin Wood:WebAssembly是智能合约的未来:金色财经报道,波卡创始人Gavin Wood在2021年共识大会上发表讲话时表示,EVM对Polkadot区块链系统提供支持非常重要,至少在可预见的将来。他认为WebAssembly是智能合约的未来,但“传统” EVM现在就在眼前。据悉,WebAssembly是一种软件格式,可以在网络上使用,并且可以轻松地与多种软件语言一起使用。它是由大型网络公司构建的,并且可以在所有主要的浏览器上运行。[2021/5/26 22:44:19]
由于共享生态系统,讨论、协作和学习发生在更紧密的反馈循环中。这有时会变得非常压倒性,而且我认识的分析师基本上都在轮换数据时表现得倦怠。然而,只要我们中的一个人不断推动数据前进,那么其他所有人都会受益。
它也不一定总是复杂的抽象视图,有时它只是实用功能,例如可以轻松搜索ENS反向解析器或改进工具,例如使用单个CLI命令自动生成大部分graphQL映射!所有这些都可以被每个人重用,并且可以适应某些产品前端或您自己的个人交易模型中的API使用。
虽然这里解锁的可能性是惊人的,但是程序还没有那么顺利地运行。与数据工程相比,数据分析师/科学方面的生态系统仍然非常不成熟。我认为这有几个原因:
数据工程多年来一直是web3的核心焦点,从客户端RPCAPI改进到基本的SQL/graphQL聚合。在theGraph和Dune等产品上的工作确实体现了他们为此付出的努力。
对于分析师来说,理解web3独特的跨协议关系表是一个艰难的过程。例如,分析师可以理解如何仅分析Uniswap,但随后难以将聚合器、其他DEX和不同的代币类型添加到组合中。最重要的是,完成所有这些工作的工具直到去年才真正意义上出现。
数据科学家基本上习惯于进入原始数据转储并独自完成所有工作。我认为他们不习惯在项目早期与分析师和工程师如此密切和公开地合作。这需要一段时间才能适应这样的环境。
除了学习合作之外,web3数据社区还在学习如何在这个新的数据堆栈中工作。您不再需要控制基础架构或从excel中慢慢构建到数据湖或数据仓库-只要您的产品上线,那么您的数据就会无处不在。您的团队基本上进入了数据基础架构的精华部分。
关于数据工具
这就是你们大多数人来这里的目的:?
这些工具并不全面——它们只是我发现自己或其他人在以太坊生态系统中一直使用和引用的工具。
“去中心化”标签意味着有一个基础设施网络或指导框架来阻止单方面发生的变化。我喜欢将其视为解耦基础设施与云基础设施,但这需要有自己的文章。
让我们来看看您何时需要使用每个图层/类别:
交互+数据源:这主要用于前端、钱包和数据摄取到较低层。客户端:虽然以太坊的底层实现是相同的,但每个客户端都有不同的额外功能。例如,Erigon针对数据存储/同步进行了大量优化,Quorum支持启动隐私链。
节点即服务:您无法选择它们运行的客户端,但使用这些服务将为您省去自己维护节点和API正常运行时间的麻烦。节点有很多复杂性,具体取决于您要捕获多少数据。
查询+数据映射:该层中的数据要么在合约中作为URI引用,要么来自使用合约ABI将交易数据从字节映射到表模式。合约ABI告诉我们合约中包含哪些功能和事件,否则我们只能看到已部署的字节码。交易数据:这些是最常用的,主要用于仪表板和报告。theGraph和FlipsideAPI也用于前端。有些表是合约的1:1映射,有些表允许在模式中进行额外的转换。
元数据“协议”:这些不是真正的数据产品,但存在用于存储DID或文件存储。大多数NFT将使用其中的一个或多个,我认为今年我们将开始越来越多地使用这些数据源来增强我们的查询功能。
专业提供商:其中一些是非常强大的数据流产品,用于内存池数据的Blocknative和用于链上交易数据的Parsec。其他人聚合链上和链下数据,例如DAO治理或财务数据。
高频数据提供者:您无法查询/转换他们的数据,但他们已经为您完成了所有繁重的工作。“企业”服务:如果您是VC、调查员或记者,您会经常使用这些服务。您可以使用Nansen的钱包分析器或Chainanalysis的KYT深入了解钱包和钱包关系。或者使用Tolken终端在大量项目/链上获得漂亮的开箱即用图表。
增强的那些API:这些产品将许多查询捆绑到一个中,例如ERC20代币的所有代币余额或为给定地址提取合约ABI。
数据团队
不言而喻,您希望在这些社区中寻找可以雇用到您团队的人。让我们进一步分解重要的web3数据技能和经验,以便您真正知道自己在搜索什么。如果您想被录用,请将其视为您追求的技能和经验!
分析师至少应该是使用Etherscan的高手,并且知道如何阅读Dune仪表板。这可能需要1个月的时间才能慢慢升级,如果您真的预订并狂欢学习,则需要2周。
您还应该考虑更多背景信息,特别是关于时间分配和技能可转移性的内容。
在web3中,数据分析师大约30-40%的时间将用于跟上整个生态系统中的其他分析师和协议。请确保您没有窒息他们,否则,它将成为对每个人的长期损害。与更大的数据社区一起学习、贡献和构建是绝对必要的。
关于可转移性:技能和领域在这个领域都是高度可转移的。如果我使用不同的协议,那么加速时间可能会很短,因为链上数据的表模式都是相同的。如果有的话,我可能在加入之前就已经使用过该协议的数据了!
了解如何使用这些工具并不重要——每个分析师都应该或多或少地能够编写SQL或创建仪表板。这一切都是关于知道如何为社区做出贡献和与社区合作。
郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。