NVIDIA通过Vid2Vid Cameo演示表演捕捉技术

derivative、notch 和 pixotope 等公司使用 nvidia vid2vid cameo 和 3d 人体姿态估计工具来实时驱动表演。
nvidia ai 工具可为各个级别的创作者(视觉特效和动画工作室、创意专业人士,甚至是摄像头发烧友)实现由深度学习驱动的表演捕捉技术。
借助 nvidia vid2vid cameo,创作者可以利用 ai 从专业摄像头或智能手机拍摄的标准 2d 视频中捕捉面部动作和表情。这种表演可实时用于为虚拟形象、人物或绘画制作动画。
通过 3d 人体姿态估计软件,创作者可以捕捉散步、跳舞和武术表演之类的全身动作,从而利用 ai 让虚拟角色栩栩如生。
对于没有 3d 经验的个人,这些工具可以助力他们使用智能手机视频片段轻松制作创意项目动画。专业人士可以更进一步,结合使用姿态估计和 vid2vid cameo 软件,将自己的动作传输到虚拟角色,用于直播或动画项目。
创意工作室可以利用 ai 驱动的表演捕捉技术进行概念设计或预视觉化,从而快速传达特定动作在数字角色上的样子。
nvidia 通过 vid2vid cameo 演示表演捕捉技术
nvidia vid2vid cameo 通过 nvidia ai playground 上的演示提供,只需两个元素即可生成头部特写视频:可制作动画的虚拟形象或绘画的静止图像,以及原始表演者说话、唱歌或移动头部的视频片段。
该模型基于生成式对抗网络 (gan) 绘制面部动作,以捕捉实时运动,进而将该运动传输至虚拟角色。经过 18 万个视频的训练,该网络学会了如何识别 20 个关键点以对面部运动进行建模,即编码眼睛、嘴、鼻子、眉毛等部位的位置。
这些点从表演者的视频流中提取,然后应用于虚拟形象或数字角色。在下面的演示中了解其工作原理,该演示将埃德加·爱伦·坡的《十四行诗 – 致科学》的表演转换为艺术家 gary kelley 创作的一幅作家肖像。
视觉平台集成 nvidia 的 vid2vid cameo 和姿态估计
虽然 vid2vid cameo 可以捕捉详细的面部表情,但姿态估计 ai 可追踪全身的运动,这是创作者处理负责执行复杂动作或在数字场景中移动的虚拟角色时所需的关键功能。
pose tracker 是一个卷积神经网络模型,可作为 nvidia omniverse 3d 设计协作和世界模拟平台的扩展程序。它允许用户上传视频片段或将直播视频作为运动源进行串流,以实时制作角色动画。创作者可以免费下载 nvidia omniverse,并借助分步教程开始使用。
已将 nvidia ai 表演捕捉技术集成到自身产品的公司包括:
derivative 是基于节点的实时视觉开发平台 touchdesigner 的制造商,已采用 vid2vid cameo,以提供易于使用的面部追踪。
notch 是一家为 3d、视觉效果和直播活动视觉效果提供实时图形工具的公司,该公司使用 nvidia 的人体姿态估计 ai 来帮助艺术家简化舞台设置。notch 用户无需依赖自定义硬件追踪系统,而是可以使用标准摄像头设备实时控制 3d 角色动画。
pixotope 是一家先进的虚拟制作公司,使用 nvidia ai 助力的实时人才追踪来驱动实时制作的交互式元素。在近期的 nvidia gtc 大会上,这家总部位于挪威的公司分享了其工作成果,在屏幕上实现真实元素和虚拟元素之间的交互。


分层视频应该怎样去存储
什么是变送器 CYB3700系列法兰式压力变送器
传感器加上无线通信技术会是怎样的威力
利用运算放大器式电路虚地点减小电缆电容原理图
佳能无反相机眼控自动对焦和RF微距镜头专利揭秘
NVIDIA通过Vid2Vid Cameo演示表演捕捉技术
中国LED照明产品出口月度监测报告
挑选陶瓷电容器的注意事项
谁是更好的驾驶员——您或您的汽车?
小米电视4发布,王川差点儿哭了 小米电视4王川都经历了什么?
iOS10.3怎么样?你的iPhone适合升级到iOS 10.3吗?
3D电视引领未来电视智能潮流
如何用SCL编写数据排序的程序
高颜值与声俱来,彰显商务精英范|售价599的科大讯飞咪鼠人工智能礼品MiMouse S Pro
数据看LED照明:明微电子2020年营收5.25亿元
MQTT协议详解 概念、特性、版本及作用
OPPOR13真机渲染图曝光,外观、配置、配色、功能汇总
技术帖 | 去掉IO扩展芯片后保留扩展引脚功能的实现方法
深度拆解企业数字化转型之路,速来围观!
介绍支持4个双天线DUT的非信令LTE综测解决方案