中国具身智能独角兽维他动力发布Exo2EgoPolicy模型,实现跨视角视频向第一人称自由转换
AI新闻阅读 0

中国具身智能独角兽企业维他动力(Vbot)近日发布了全新的跨视角生成模型 Exo2EgoPolicy。该模型能够将任意第三人称旁观镜头一键转换为操作者本人的第一人称视角,并实时描摹左右手每一根手指的3D手部骨骼。
在演示案例中,模型成功将1925年卓别林电影《淘金记》的黑白画面转化为第一视角,清晰呈现角色手中煮皮鞋的细节;同时还原了《夺宝奇兵》古墓中的机关操作以及《侏罗纪公园》配电室仪表盘开关的拨动动作。
面对多人同框或镜头频繁切换的场景,Exo2EgoPolicy依然能保持画面稳定。模型处理了电影《闻香识女人》中阿尔·帕西诺饰演的盲人中校探戈舞步,以及《雨中曲》里吉恩·凯利在雨中撑伞旋转的经典片段,生成的雨丝与街景极具沉浸感。
除了影视特效,该模型在日常家务场景中表现优异。它能将旁观视角的叠衣、拿取冰箱饮料、托盘行走等动作转换为带鱼眼畸变的第一人称视图,精准还原手指抓握物体的3D骨骼轨迹及物理接触力细节。
维他动力联合创始人余轶南、宋巍、秦海龙、赵哲伦表示,打造该模型旨在解决具身智能行业长期面临的数据多样性与规模瓶颈。团队指出,相比自动驾驶,机器人领域更缺乏海量具身操作数据,而互联网视频库是巨大的数据金矿。
为克服传统穿戴式采集设备成本高、效率低的难题,维他动力将目光投向互联网海量视频。Exo2EgoPolicy通过融合140亿参数H3 Ref2VA DiT视频生成网络与多模态编码器,无需深度相机或标定参数,即可从纯视觉视频中推算三维关节轨迹与物理接触力。
配合此次发布的端到端通用数据管线Vbot Echo与采集应用Echo App,维他动力即日起向全社会开放该项目。无论是网上的第三人称视频还是手机随手拍摄的生活片段,均可直接喂给系统,助人形机器人快速学习并执行任务。