2D动画唇动合成,根据语音自动生成动画人物口型

只需要输入一段语音,代码会自动生成与之相对的动画唇形。

还是毫无违和感的那种。

这是一个在 GitHub 上拥有 501 星的开源项目,叫做Rhubarb Lip Sync。

它既可以是 Windows 和 OS X 命令行工具,也可以作为软件的插件使用,能够根据语音记录自动创建 2D 嘴型动画。

它可以用于计算机游戏、动画卡通中的角色,或者用于其他需要基于现有录音、对嘴部进行动画处理的的影视项目。

那么,它是怎么实现如此效果的呢?

运作原理

首先,了解一下动画人物说话的六种嘴型。

上述六种嘴型是由汉娜 · 巴贝拉(Hanna-Barbera)发明,已经成为 2D 动画嘴型的制作标准,被迪士尼和华纳兄弟等影视公司在多部影视作品采用。

大多数的发音,都可以用这六种嘴型表示出来。

因此,Rhubarb Lip Sync 工作的步骤如下:

输入一段语音

Lip Sync 识别这段语音

使用六个基本嘴形和最多三个扩展嘴形与语音匹配

输出一个固定格式的文件

假如我说个奇怪的方言,它也能输出相应的嘴型动画吗?

当然不是。

目前,Rhubarb Lip Sync 只提供了两个语音识别系统:

PocketSphinx:只能识别英语,准确率更高。

Phonetic :能识别所有语言,因为它是依据个人的声音和音节判别的,但准确率不如前者。

那么,这个小工具可以跟哪些视频软件融合使用呢?

可适用于多款软件 Adobe After Effects

Moho and OpenToonz

Rhubarb Lip Sync 能够生成 .dat 文件,这种文件可以被 Moho and OpenToonz 识别,并导入使用。

Spine by Esoteric Software

Rhubarb Lip Syn for Spine 是一个图形工具,可让导入 Spine 项目,执行自动唇形同步,然后将结果重新导入 Spine。

Vegas Pro by Magix

Rhubarb Lip Syn 还附带了两个用于 Vegas Pro(以前称为 Sony Vegas)的插件脚本,可直接在 Vegas 中使用。

赶快把这个小工具推荐给你喜欢做视频的朋友吧 ~

量子位
我还没有学会写个人说明!
上一篇

“科普中国-我是科学家”第31期演讲招募

下一篇

图灵奖得主Bengio的AI公司,都不得不「2折出售」了

你也可能喜欢

评论已经被关闭。

插入图片