AI手语主播通过朱广权魔鬼面试,残影级手速无惧贯口,今已正式上岗助力冰雪盛会

百家 作者:量子位 2022-02-04 19:38:50
鱼羊 发自 凹非寺
量子位 | 公众号 QbitAI

什么样的手语主播能跟朱广权battle得有来有回?

话不多说,咱直接板凳瓜子备齐,一起前排围观

只见朱广权语速起飞,妙语连珠,频出“魔鬼”面试题,但这位手语老师完全没在怕的:

如此表现,不仅面试官朱广权连连夸赞“精彩”,网友们也纷纷点赞。

没错,这位手语主播并非真人,而是一名来自百度智能云的虚拟数字人。

现在,她已正式上岗冰雪盛会,将在各类冰雪赛事中,为2780万听障人士提供24小时不间断的手语服务。

虽然是初次上岗,但这位AI手语数字人的专业度不容小觑。

根据测评,其手语可懂度能达到85%以上,与主流的中英、中日机器翻译结果相差无几。

毕竟,“台上一分钟,台下十年功”,为了给听障人士们奉上这精彩的瞬间,AI手语数字人背后的程序员们,已经下了不少苦工。

手语数字人背后的技术挑战

在聊技术之前,或许你会好奇这样一个问题,明明有字幕,为啥体育赛事等电视节目还需要手语解说?

实际上,由于种种现实因素的制约,比起文字,手语对听障人士而言更加亲切,也能更快速地传递信息。

因此,屏幕一角的手语翻译,对于特殊人群而言其实是一个“更加平等享受资讯”的窗口。

这也就给AI手语数字人提出了一个本质的技术问题:如何让听障人士能真正看懂数字人打出的手语?

乍一看,这就是个从语音到文本,从文本到手语符号,再到手语数字人动作的一个翻译流程,但深究其背后的技术细节,就会发现需要克服的难点要比表面看上去复杂得多。

首先,语音转手语,并不是简单地构建一个语音到视觉的转换模型就行。

单就语序而言,手语和自然语言之间就存在较大的差异。举个例子,“我想回家”这样一句话,用手语打出来的顺序其实是“家 回 我想”。

并且,手语还有语言精简的特性,手语的描述会对口语进行精简。

也就是说,如果只是生硬地把口语中的词汇转换成手势,再把动作简单地连接起来,这样打出的手语只能说是“半吊子手语”,听障人士很难看懂。

其次,表情神态同样是手语表达中极为重要的部分

有时一个手势代表好几个意思,如果没有表情和口型的配合,就可能产生误解。

除此之外,还要考虑数据匮乏、数字人动作灵活度欠缺等种种问题。

总而言之,想要打造一个高质量手语数字人,既需要语音、视觉、自然语言处理等AI技术同时发力,也少不了对于听障人士真实需求的深入调研。

所以,这一次百度智能云的程序员们是如何成功让AI手语主播具备助力冰雪盛会的实力的?

2个月,“做难而正确的事”

研发团队接到手语数字人任务时,距离万众期待的冰雪盛会已仅剩不到2个月的时间。

但就是在这种几乎没有时间试错的情况下,程序员们却放弃了现成的手势汉语语料

正如前文所言,汉语到手势的简单转换在很多情况下会让听障观众产生理解歧义,实际效果其实是大打折扣的。

为了“治本”,尽管面临数据需要从头采集标注、额外增加的成本难以预估的压力,百度智能云团队还是果断选择了自然手语语料

做就做难而正确的事。

为此,百度智能云团队联合天津理工大学,组织了上百位听障学生做语料的数据标注,同时邀请手语语言学专家、特殊教育专家等专业人士,将大量行业知识融合到模型效果和听障人群的体验当中。

打下了高质量的基础,接下来,就是一步步解决手语数字人“听得清”、“会翻译”、“会表达”三个问题。

“听得清”,要靠语音识别模型

ASR语音识别方面,在NLP、语音领域有着逾10年积累的百度本身已具备成熟的解决方案,识别准确率能达到98%以上,还能hold住中英文混杂、生僻字、方言等特殊场景。

“会翻译”,用上的就是手语翻译模型

与一般的语言翻译模型不同,由于前文提到的手语表达中语言精简等特性,手语翻译模型需要着重考虑精准度精简度

其中精准度影响到数字人手势的精准,而精简度会影响传递信息的及时性。

在高质量数据资源和百度多年积累的神经网络翻译技术的基础上,研发团队设计了从中文文本到手语符号的翻译方法。

通过大规模知识学习、中间件控制等手段,研发团队成功在保障翻译准确率的情况下缩减了译文长度,实现了翻译效果和时延的平衡。

2个月的时间里,经过6次大的版本迭代,这一手语翻译模型可懂度最终达到了85%以上,媲美主流的中英、中日等方向的机器翻译结果,达到了业界领先水平。

最后,数字人的表达靠的是动作生成模型,包括手势、口型、表情的生成。

针对手势问题,研发团队运用人体动作视觉识别技术,让AI学习手语视频,将其中的二维骨骼点转化为驱动三维数字人的手语动作,并且能够精确到每一根手指。

基于此,百度智能云已经建立起拥有近1万个手语动作的强大动作库。

而在口型和表情方面,研发团队运用首创的4D扫描数据进行训练,对表情和口型进行精准校正,通过超10万个全身多边形面、超1万个脸部面、超240个面部表情行变基、超100个身体骨骼界限,赋予了手语数字人自然生动的表情。

wink、吹泡泡都不在话下:

总体上,口型生成的准确度能够超过98.5%

“降低成本是虚拟数字人发展的关键”

说到这里,想必你也看出来了,百度智能云的程序员们能够大胆挑战更有难度的技术路线,与百度本身长期积累的AI技术、数字人技术不无关系。

实际上,在数字人的生产上,百度已经把上述人像驱动技术、智能对话技术、语音交互技术,以及智能推荐技术汇总到了其平台级产品——百度智能云曦灵平台上。

百度智能云曦灵集数字人生产、内容创作、业务配置服务为一体,无论是虚拟员工这样的服务型数字人,还是虚拟主持人、虚拟偶像这样的演艺型数字人,都能基于该平台一站式打造,甚至是“一句话生成”。

此前与马斯克妈妈梅耶·马斯克对话的百度集团数字人“希加加”:

能够弹琴献唱的“龚俊数字人”:

就都是基于百度智能云曦灵打造。

目前,百度智能云曦灵平台已经推出了3D写实、2D写实、3D卡通三条生产线,实现了银行/保险、运营商、媒体/广电、互娱/品牌商、MCN/艺人经纪等全场景覆盖,一站式打造“能听、能说、能理解、可互动”的数字人。

这就大大加速了一个数字人从设计到落地的流程,有效降低了数字人生产的成本,为数字人的规模化应用打下了基础。

百度集团副总裁吴甜在参加央视《对话》节目录制时还谈到这样的观点:

降低成本是虚拟数字人发展的关键之一。

百度希望通过领先的全栈AI能力,把虚拟人的生产周期缩短到小时级别,降低生产成本,并驱动生成内容。

科技让世界更公平

严格说起来,数字人并不算是全新的事物。

在过去几年中,随着AI等技术的成熟,以及短视频、直播等新兴媒介需求的涌现,数字人正不断涌现出新的面貌和新的应用模式。

而从被提出到今天的广泛落地,“数字人”这一科技热词,其实也已经历了好几个认知阶段。

第一阶段,大家探讨的重点是数字人“真不真”,这是新技术之初见。

当技术落地的尝试开始展开,第二阶段围绕“危机感”的讨论便随之而来:人们开始关注数字人是否会侵占掉人类的工作机会。

现在,或许我们对数字人的认知,又到了进入新阶段的时候。

正如AI手语数字人让冰雪赛事的魅力触达到了更多人群,越来越多的落地案例正在说明,数字人作为一种提升服务效率的方式,并非在“替代”人类工作,而是在填补人力所不能及的空白。

这也正是科技背后真正的价值——并非取而代之,而是帮助人、做人所不能之事。

而当百度这样的科技企业,致力于降低技术的成本、加速技术的落地,体现出的亦正是科技工作者的社会责任担当。

从这个角度来讲,前沿技术俨然不再冰冷和遥远,而是真正在让人类共同体变得更加公平和美好。

你觉得呢?

「智能汽车」交流群招募中!

欢迎关注智能汽车、自动驾驶的小伙伴们加入社群,与行业大咖交流、切磋,不错过智能汽车行业发展&技术进展。

ps.加好友请务必备注您的姓名-公司-职位哦~


点这里

关注公众号:拾黑(shiheibook)了解更多

[广告]赞助链接:

四季很好,只要有你,文娱排行榜:https://www.yaopaiming.com/
让资讯触达的更精准有趣:https://www.0xu.cn/

公众号 关注网络尖刀微信公众号
随时掌握互联网精彩
赞助链接