这是蚂蚁集团最新推出的音频驱动数字人工具——EchoMimic,通过可编辑的地标调节实现逼真的音频驱动人像动画,从而实现图片数字人效果

EchoMimic只需要提供一段音频和一张人脸照片,就能生成口型动作匹配的说话或唱歌视频,做口播视频或趣味唱歌视频都可以。该技术在娱乐、教育、虚拟主播、视频内容生成和在线会议等领域有广泛应用前景。
2024-09-06T01:56:56.png

EchoMimic是一款基于音频驱动的人脸动作生成工具,能同时用音频和指定的面部特征来生成视频,且通过多模态学习技术,使得生成的视频更加生动、自然、稳定。这下好了,任何语音,无论是说话还是唱歌,都可以根据参考面部特征生成生动有趣的动态照片数字人视频!

最厉害的是,EchoMimic不光能通过参考面部特征数据生成视频,还能通过音频驱动生成匹配的口型动作。更绝的是,它还支持两者混合使用!你可以用音频来控制口型,再用参考面部特征数据来指定人脸的整体表情和动作。
2024-09-06T01:57:09.png

EchoMimic功能特点
音频驱动动画,唇音同步:可以根据音频生成人脸的动态视频,比如唱歌、说话视频等,生成口型动作与语音完美匹配的视频,大大提升来视频的真实性和表现力。
面部特征数据驱动人脸的动态画面:可以根据指定的面部特征数据生成人脸的表情动作。
音频和姿势混合驱动:可以同时使用音频和面部特征数据来生成人脸的动态画面。
操作界面简单:提供GradioUI操作界面,易于使用。
自然逼真:融合音频和面部标志点特征,生成的人脸动画符合真实面部运动和表情变化,确保效果高度逼真。
多语言支持:支持多种语言和风格的口型同步,包括普通话、英语和歌唱。
风格多样性:能适应不同表演风格,包括日常对话和歌唱等,应用场景广泛。

应用场景:
娱乐:生成电影、电视和游戏中的角色对话,提升观众的视觉体验。
教育:创建互动教学视频,提高学习效果。
虚拟现实:在VR环境中生成逼真的面部动画,提升用户沉浸感。
在线会议:生成与音频同步的口型动画,提高远程交流效果。
增强现实:在AR应用中生成逼真的面部动画,增强用户互动体验。
以及面部识别、表情识别、视频内容生成等。

配置要求:
建议电脑满足以下配置:

虽然EchoMimic的使用门槛已低到了地板上,但还是要注意显卡和操作系统问题。毕竟,每个细节的打磨,都是为了让数字人更完美,让体验更流畅。

操作系统:Windows 10/11 64位

显卡:至少8G显存的英伟达(NVIDIA)显卡,显卡性能越高生成速度越快

EchoMimic已经开源了。所以不管你是想玩数字人、效果演示、视频创作,还是自己动手玩玩,赶紧来试试这个好玩的数字人工具吧。

项目开源地址

最后修改:2024 年 09 月 06 日
如果觉得我的文章对你有用,请随意赞赏