元宇宙不缺创意 缺的是「基建」公司_元宇宙:Katalyo

科幻小说《雪崩》是无比超前的。它出版的1992年,英特尔还在制造486系列处理器,直到次年,586奔腾处理器才被推出。

在小说中,尼尔·斯蒂芬森创造了一个并非以往想象中的互联网——元宇宙,在这个与现实世界紧密联系但又相互平行的时空里,人们可以借由各自的「化身」在其中交流和娱乐。

Facebook改名Meta后,越来越多的人才知道,原来这本科幻小说是「元宇宙」这个词的起点。一瞬间,一个书里并没有准确定义的概念,30年后开始成为了商业世界里火爆的新边疆。

只不过,在目前看起来比较接近「元宇宙」的VR行业里,即使设备销量逐渐攀升,但分辨率低、设备笨重、3D眩晕等问题还未完全解决。元宇宙看起来是个性感,但还有着众多技术问题无法解决,还非常遥远的概念。

「从Utility到Reality,我认为元宇宙是有发展路径的,并且早晚会进化到改变我们现实世界的程度。」王奇所供职的公司声网,最近就开启了「元娱乐」的新探索,他成为了这条业务线的负责人。

这次他们在实践中,对于元宇宙下一步在技术上应该去解决什么这个问题,有了新的思考。

01

「元娱乐」里,声音

技术是关键的下一步

「现在所谓的那些元宇宙的应用,离还原人类的真实体验还差得特别特别远。」

根据SensorTower2022年的报告,自「元宇宙」概念爆发以来,平均每天都会新增一个「元宇宙」软件,其中,元宇宙社交类软件更是层出不穷。在一个个炫酷的demo里,我们似乎离再建一个虚拟现实很近了,但王奇并不这么认为。

报告:今年前7个月元宇宙招聘职位数同比增16%:金财经报道,智联招聘今天发布《2022元宇宙行业人才发展报告》显示:今年1-7月元宇宙招聘职位数同比增长16.6%,实现了招聘需求较大幅度增长。制造业今年1-7月招聘元宇宙岗位同比增加22.3%,发展态势良好。

招聘元宇宙人才的TOP5行业为互联网/IT/电子/通信,职位数占比73.3%;教育培训/科研占4.9%;广告/传媒/文化/体育占4.8%;制造业占4.3%;房地产/建筑占2.5%。

在元宇宙相关岗位中,研发、视觉/交互/设计分别以38.3%、17.9%的占比占据主力,其次为产品占7.5%、运维/测试占7.1%、运营占3.3%。

从细分岗位看,U3D(游戏开发引擎)职位占比最高,为12.1%。U3D是基于虚拟引擎进行游戏开发的岗位,也支持VR/AR相关应用的开发,前景广阔,人才需求相对较高。[2022/10/10 12:51:02]

2020年4月,《堡垒之夜》里举办的「ASTRONOMICAL」虚拟演唱会吸引了1230万观众,玩家在霓虹灯束散射中舞动,很多玩家表示仿佛经历了一场真实的梦境。绚丽的布景渲染了人们对技术的最高想象,然而实际上,观众只是在「看」一场演唱会。算力等客观因素限制下,多人同屏和物理交互往往就如鱼与熊掌,玩家在一个「众人场」里能得到的交互体验其实很低。

Qury发布首款元宇宙搜索引擎“曲率搜索”:金色财经报道,1 月 14 日,搜索引擎公司Qury正式发布基于元宇宙的搜索引擎产品——曲率搜索。现阶段,第一版本的曲率搜索(测试版)已经成功上线,不仅能为用户提供跨元宇宙的非凡搜索体验,搜索到各个不同元宇宙中的建筑、资产、活动、人物等信息,还聚合了当下全网大量的元宇宙相关内容,如资讯、视频、游戏及NFT资产等。[2022/1/15 8:50:30]

《堡垒之夜》中的「ASTRONOMICAL」虚拟演唱会

「我们的元娱乐其实并不等同于元宇宙娱乐」,声网元娱乐业务线负责人王奇在接受采访时说,「我们更接近下一代的娱乐这个概念。」在他看来,现有的技术和体验还不能满足人类超越现实的需求,首先要思考的或许是如何去还原一个真实的世界。

5月16号,声网发布了「元娱乐」四大解决方案,其中,他们对音频的处理十分惹眼。

在发布会上,声网元语聊产品经理杨帆展示了一个多人会议的场景:代表每个参与者的头像分布在不同区域,而从其他人说话的声音信息中,能体会到明显的方位感。

这项技术被称作3D空间音频,贯穿在他们的元语聊、元K歌、元直播等方案里。

当用户操作Avatar在虚拟场景里移动时,听到的音效会根据Avatar的头部及脸部朝向、声源角度和距离不同而变化。比如,在玩家进入一个元语聊的房间时,会听到房间内正在播放的背景音乐,随着位置的移动、墙壁或卡座等障碍物的遮挡,玩家所听到的声音也会相应地逐渐清晰或减弱。

健身元宇宙游戏OliveX完成170万美元战略融资:10月21日消息,据官方消息,健身元宇宙游戏OliveX已完成170万美元战略融资,参投机构包括Animoca Brands、GBV Capital、Double Peak Group、SkyVision Capital、Formless Capital、Darkpool Ventures Limited、The Spartan Group、Bonfire、Chingon Ventures、Eden Digital Holdings PTE LTD.、MADworld Limited、One Football、Blocore、Blockhy.pe、PANONY、SMO Capital以及The Sandbox的Sébastien Borget、Yield Guild Games的Gabby Dizon、Cypherpunk Holdings Inc.的Tony Guoga等行业专家。新资金将用于即将发布的手机游戏“Dustland Runner”、增加游戏内容、创建游戏内NFT以及开发与原生代币DOSE集成的新应用。[2021/10/22 20:47:30]

这项功能的实现,依赖于声网基于HRTF相关传递函数、心理感知声学、声源指向模拟等算法自研的一整套3D声场渲染引擎。通过这套渲染引擎,可以动态模拟空间中任意角度、朝向的声音在传递到左右耳时声音发生的变化。他们还可以通过声学建模的方式,模拟任意角度的音源方向导致的音色差异。

Connectome投资的元宇宙虚拟世界即将上线:据官方消息,Connectome团队投资的元宇宙虚拟世界(3D游戏世界)即将上线,CNTM团队采用3D元素游戏的风格,让用户可以在虚拟世界架构设计和制作编制工具,据官方披露,CNTM在3D游戏世界中独创了三个技术创新点,主要包括工作流(编辑制作工具集)、虚拟社交系统(虚拟土地和3D虚拟人物)以及可扩展的游戏世界,(宠物培养和冒险PVE)主,并将逐步开放给所有的游戏爱好者。

据悉,Connectome是一个基于区块链核心技术开发的DeFi人工智能投顾平台+元宇宙游戏生态。[2021/9/7 23:06:07]

声网的空间音频技术

「这其实在业内还没有几家能够做到」,王奇谈到这些技术时颇为自豪。据他介绍,声网内部有一个音视频实验室,专门研究各种跟音频和视频相关的算法,其中就包括3D空间音频,此外还有人声模糊、模拟现实中空气衰减等技术。

在这些声音技术的加持下,玩家操作Avatar不仅可以「移步换景」,还可以「移步换声」,可以移动到其他玩家身边开启畅聊,也能凭借人声模糊技术既不受周围人说话声音的干扰,又保留环境氛围,在技术上极力还原现实世界中的真实听觉体验。

模拟现实其实十分困难的,因为对于一个玩家来说,一些很细微的「不合常理」都可能影响沉浸感。那些「不合理」会时时刻刻提醒玩家,这不是一个真实的世界。因此对于营造一个「栩栩如生」的虚拟世界来说,要不断地打磨环境,细化交互的颗粒度。

当然,这对技术实现来说并不容易。

酷连科技创始人吴丰恒:NFT在元宇宙生态有广泛的想象空间:7月30日,2021数字艺术未来论坛暨RivvooNFT平台启动仪式在京举行。在现场,酷连科技创始人兼执行董事吴丰恒以《区块链需要创新和艺术》为题进行分享,他指出,加密货币市场是一个热钱汹涌的市场,这个圈子的用户更加追求数字艺术空间。NFT可以可信地去标记现实世界的资产,在元宇宙的生态中拥有更广泛的想象空间。[2021/7/30 1:25:10]

除了声音的拟真外,声网解决方案中同样有对虚拟环境的拟真。在元语聊和元直播中,声网还基于3D引擎建模创建各种场景,能模拟碰撞、重力等物理效果。面部动捕技术、语音驱动嘴型的技术,则让玩家与Avatar的表情匹配,实时表情与语音匹配。

而为了让玩家在选择虚拟形象时不受性别限制,他们还将开发声纹变声技术,在声音上实现「anytoany」的模拟。萌妹子选择大叔形象后,也能在实时交流中拥有与虚拟形象匹配的低沉男音。

影响沉浸感的一大因素还在同步性与低延迟,就像《堡垒之夜》的那场虚拟演唱会,如果没有上千万人的同步参与,或许也不会如此轰动。

在那场盛大的虚拟演唱会中,玩家也被分到了上万个服务器上,才让千万量级的同步参与得以实现。而在实时通信和互动上,声网作为RTC领域全球头部企业,有着行业领先的技术优势。

图注:声网的MetaKTV方案

声网的SD-RTN?,是全球规模最大的软件定义实时网,官网上介绍,这项技术可以实现百万人大频道的实时互动。依靠基于SD-RTN?的解决方案架构,声网打开了万人云蹦迪、在线上造一个超级夜店的想象。

它的合作伙伴XRSPACE,也在近期推出了全球首款音乐元宇宙PartyOn。利用声网的实时音视频技术和XRSPACE自研的表演同步技术,PartyOn实现了50ms以下的同步误差,不仅让让众多玩家享受低延迟的同步K歌,还让人声、歌曲和Avatar肢体表演实时匹配。

这些「拟真」的技术赋能了更沉浸的体验,王奇说,「3D空间音频,包括声纹变声、面部捕捉还原,所有的这些技术,它本身都是跟元宇宙的发展相关的」,「我们本身也是看好元宇宙发展的」。

02

通过提升可用性,

声网在瞄准

下一代的娱乐生态

陈际陶是声网元直播的产品经理,她在发布会上展示的实时面捕功能,可以在直播中同步玩家单边眨眼、挑眉、眼球转动、吐舌头等动作。

这项技术似乎已经在各种AR换脸软件中得到了很好的应用,但对他们来说其实并不容易。她介绍说,「我们要解决移动端的普通单目摄像头的问题,要解决光源的影响,光亮的阴暗对于人脸关键点判别的难题,以及说眼镜遮挡对于眼部的识别的问题。」

这也引出了声网技术解决方案的另一个特点——强兼容性。

图注:声网面侦技术能完成对高级表情的捕捉

作为一家技术服务提供商,声网并不是产品的最终「缔造者」,他们的责任在于对接每个场景内尽可能多的客户,提供底层和通用的技术,让客户能在他们提供的技术服务基础上创造价值。某种意义上来说,他们的最终目标在于客户的使用便利与商业成功。

「大家用过苹果应该都知道,如果在不使用iPhone的情况下使用Airpods,很多体验其实你是用不了的。」杨帆在介绍空间音频技术时,同样提到了声网技术服务的独特性,「我们的跟他们的区别在于,苹果是传感器硬件加上软件算法,我们是纯软件的,安卓端、iOS端、PC端,多平台都能支持。」

这在他们的「互动游戏」解决方案中也有体现。声网为它的技术集成方案适配3万多个移动终端,几乎覆盖所有中低端机型。昌潇潇是声网互动游戏的产品经理,他补充说,「像在海外,特别是在一些落后的地区,市场上一般情况下都是千元机,我们在中低端机型的适配这一块儿是非常看重的。」

声网对元娱乐业务的探索同样是在做适配。

声网创始人赵斌曾说,「实时音视频是一种通用能力,作为服务商,需要持续推动能力与具体场景的碰撞与融合」。实际上,声网开展元娱乐业务并非没有依据。

声网连续多年蝉联全球实时互动解决方案市场份额第一,全球注册应用超过40.5万,活跃客户数量达到2670家。在这些客户中,很大一部分来自于社交娱乐领域,比如一些国民级别的在线K歌应用。

这些客户原本只是采购了实时音视频服务,但在跟客户的沟通中,声网团队发现了这些客户的普遍痛点:没有时间和精力投入研发;一个平台单独去谈音乐版权合作时门槛太高,都要千万打底。

去年9月,声网推出了一个叫「K歌房」的解决方案,由声网提供K歌互动场景的研发,集中解决音乐版权的问题。

声网与数字音乐内容提供方合作,为开发者提供丰富MV资源

解决方案的发布象征着声网业务模式上的进阶。这意味着声网在RTC技术服务商的基础上,尝试叠加基于场景的通用技术服务、整合生态内的其他内容,最终打包成一个整体的解决方案。

这项业务很快验证了新模式的可能性,短短几个月里,「K歌房」发展了几十个客户。在他们看来,声网提供解决方案的尝试提高了行业的效率,同样的逻辑在泛娱乐领域同样如此。

「这些社交娱乐的客户,他们的音视频服务其实之前就已经用声网的了」,王奇说,「在此基础上,如果我们去做一些场景跟内容的叠加,其实会非常方便」。

如果说声网之前提供的RTC技术服务是卖面粉,王奇将提供元娱乐解决方案比喻成对面粉的二次加工,「当我们开始关心到他其实是做饺子馆的时候,我们会把面粉做成一摞一摞的饺子皮,然后去整合了一些优质的牛肉跟猪肉剁成饺子馅。」

声网元娱乐发布会后,CocosCTO林顺参与了圆桌讨论,在他看来社交类应用主要聚焦在特定场景,相较于其他领域确实更易与元宇宙概念结合。

现实却是如此,2021年燃起的「元宇宙」之火,还在以一种更容易落地的「+泛娱乐」的方式延续。

去年,VR社交平台RecRoom融资了1亿美元,VRChat也完成了8000万美元的D轮融资,Snapchat收购6家AR相关底层软件算法和硬件企业。3DAvatars公司Genies近期宣布获得了1.5亿美元的C轮投资,用以扩展MetaverseAvatars的开发。国内网易、腾讯、字节等大厂的元宇宙社交平台,也在2021年底和2022年初纷纷上线。

声网的很多客户也都是元宇宙领域的种子选手,比如中东及北非地区最大的语音社交娱乐平台Yalla、火遍北美与拉美的元宇宙社交软件Oasis。声网还发起了「声选计划」,项目聚焦RTE赛道下的技术型合作方,协作推出更丰富和更优质的联合产品解决方案。

这家实时互动领域的技术领头羊在元娱乐业务上的动作,是要为共建一个面向「元宇宙」的、下一代的娱乐生态做准备了。

郑重声明: 本文版权归原作者所有, 转载文章仅为传播更多信息之目的, 如作者信息标记有误, 请第一时间联系我们修改或删除, 多谢。

水星链

[0:78ms0-1:719ms