产品库

SyncAnimation 是一种基于 NeRF 的音频驱动实时生成说话头像和上半身动作的技术框架。

SyncAnimation 是一种创新的音频驱动技术，能够实时生成高度逼真的说话头像和上半身动作。它通过结合音频与姿态、表情的同步技术，解决了传统方法在实时性和细节表现上的不足。该技术主要面向需要高质量实时动画生成的应用场景，如虚拟主播、在线教育、远程会议等，具有重要的应用价值。目前尚未明确其价格和具体市场定位。

编辑3D场景的指令式NeRF编辑器

Instruct-NeRF2NeRF是一款用于编辑NeRF场景的指令式编辑器。它使用图像条件扩散模型（InstructPix2Pix）逐步编辑输入图像，同时优化底层场景，从而得到一个优化的3D场景，该场景符合编辑指令。我们证明了我们的方法能够编辑大规模的现实世界场景，并且能够比之前的工作实现更真实、更有针对性的编辑。

端到端音频驱动的人体动画框架

CyberHost是一个端到端音频驱动的人体动画框架，通过区域码本注意力机制，实现了手部完整性、身份一致性和自然运动的生成。该模型利用双U-Net架构作为基础结构，并通过运动帧策略进行时间延续，为音频驱动的人体动画建立了基线。CyberHost通过一系列以人为先导的训练策略，包括身体运动图、手部清晰度评分、姿势对齐的参考特征和局部增强监督，提高了合成结果的质量。CyberHost是首个能够在人体范围内实现零样本视频生成的音频驱动人体扩散模型。

高分辨率、长时音频驱动的人像图像动画技术

Hallo2是一种基于潜在扩散生成模型的人像图像动画技术，通过音频驱动生成高分辨率、长时的视频。它通过引入多项设计改进，扩展了Hallo的功能，包括生成长时视频、4K分辨率视频，并增加了通过文本提示增强表情控制的能力。Hallo2的主要优点包括高分辨率输出、长时间的稳定性以及通过文本提示增强的控制性，这使得它在生成丰富多样的肖像动画内容方面具有显著优势。

基于扩散模型的音频驱动人像和动物图像动画技术

JoyVASA是一种基于扩散模型的音频驱动人像动画技术，它通过分离动态面部表情和静态3D面部表示来生成面部动态和头部运动。这项技术不仅能够提高视频质量和唇形同步的准确性，还能扩展到动物面部动画，支持多语言，并在训练和推理效率上有所提升。JoyVASA的主要优点包括更长视频生成能力、独立于角色身份的运动序列生成以及高质量的动画渲染。

一个基于音频驱动的实时2D聊天头像生成模型，可在仅使用CPU的设备上实现30fps的实时推理。

LiteAvatar是一个音频驱动的实时2D头像生成模型，主要用于实时聊天场景。该模型通过高效的语音识别和嘴型参数预测技术，结合轻量级的2D人脸生成模型，能够在仅使用CPU的设备上实现30fps的实时推理。其主要优点包括高效的音频特征提取、轻量级的模型设计以及对移动设备的友好支持。该技术适用于需要实时交互的虚拟头像生成场景，如在线会议、虚拟直播等，背景基于对实时交互和低硬件要求的需求而开发，目前开源免费，定位为高效、低资源消耗的实时头像生成解决方案。

实时股市广播，全面市场音频

Squawk Market是最佳的实时市场广播，提供全面的市场音频，包括新闻、评论和分析。通过Squawk Market，您可以即时获取关键信息，并了解股市动态。Squawk Market提供定价方案以满足不同需求，并定位为市场参与者的必备工具。

高效的音频驱动 Avatar 视频生成与自适应身体动画。

OmniAvatar 是一种先进的音频驱动视频生成模型，能够生成高质量的虚拟形象动画。其重要性在于结合了音频和视觉内容，实现高效的身体动画，适用于各种应用场景。该技术利用深度学习算法，实现高保真的动画生成，支持多种输入形式，定位于影视、游戏和社交领域。该模型是开源的，促进了技术的共享与应用。

基于流匹配的音频驱动说话人像视频生成方法

FLOAT是一种音频驱动的人像视频生成方法，它基于流匹配生成模型，将生成建模从基于像素的潜在空间转移到学习到的运动潜在空间，实现了时间上一致的运动设计。该技术引入了基于变换器的向量场预测器，并具有简单而有效的逐帧条件机制。此外，FLOAT支持语音驱动的情感增强，能够自然地融入富有表现力的运动。广泛的实验表明，FLOAT在视觉质量、运动保真度和效率方面均优于现有的音频驱动说话人像方法。

EchoMimicV2：实现逼真、简化、半身人体动画的技术。

EchoMimicV2是由支付宝蚂蚁集团终端技术部研发的半身人体动画技术，它通过参考图像、音频剪辑和一系列手势来生成高质量的动画视频，确保音频内容与半身动作的连贯性。这项技术简化了以往复杂的动画制作流程，通过Audio-Pose动态协调策略，包括姿态采样和音频扩散，增强了半身细节、面部和手势的表现力，同时减少了条件冗余。此外，它还利用头部部分注意力机制将头像数据无缝整合到训练框架中，这一机制在推理过程中可以省略，为动画制作提供了便利。EchoMimicV2还设计了特定阶段的去噪损失，以指导动画在特定阶段的运动、细节和低级质量。该技术在定量和定性评估中均超越了现有方法，展现了其在半身人体动画领域的领先地位。

城市级NeRF实景三维大模型，沉浸式体验。

书生·天际LandMark是一个基于NeRF技术的实景三维大模型，它实现了100平方公里的4K高清训练，具备实时渲染和自由编辑的能力。这项技术代表了城市级三维建模和渲染的新高度，具有极高的训练和渲染效率，为城市规划、建筑设计和虚拟现实等领域提供了强大的工具。

实时预览的高级人脸动画工具

ComfyUI-AdvancedLivePortrait是一个用于实时预览和编辑人脸表情的高级工具。它允许用户在视频中跟踪和编辑人脸，将表情插入到视频中，甚至从样本照片中提取表情。这个项目通过使用ComfyUI-Manager自动安装，简化了安装过程。它结合了图像处理和机器学习技术，为用户提供了一个强大的工具，用于创建动态和互动的媒体内容。

基于Gradio的实时人像动画Web界面

AdvancedLivePortrait-WebUI是一个基于Gradio框架开发的Web界面，用于实时人像动画编辑。该技术允许用户通过上传图片来编辑人物的面部表情，实现了高效的肖像动画制作。它基于LivePortrait算法，利用深度学习技术进行面部特征的捕捉和动画制作，具有操作简便、效果逼真的优点。产品背景信息显示，它是由jhj0517开发的开源项目，适用于需要进行人像动画制作的专业人士和爱好者。目前该项目是免费的，并且开源，用户可以自由使用和修改。

实时AI代理，将音频视频直接集成至视频会议。

Recall.ai Output Media是一个创新的AI技术，它允许用户将任何基于Web的AI应用实时集成到视频会议中。这项技术通过渲染超低延迟的音频和视频，并通过机器人将其流式传输到视频会议中，极大地扩展了AI在会议场景中的应用。Recall.ai的这项技术不仅提高了会议的互动性，还为各种行业提供了构建实时、互动AI代理的可能性，如销售代理、教练、招聘人员、项目经理等。

快速、准确、免费的音频转文字服务

AIbase音频提取文字工具利用人工智能技术，通过机器学习模型快速生成高质量的音频文本描述，优化文本排版，提升可读性，同时完全免费使用，无需安装、下载或付款，为创意人员提供便捷的基础服务。

从长文本中合成无限可控角色动画

Story-to-Motion是一个全新的任务，它接受一个故事（顶部绿色区域）并生成与文本描述相符的动作和轨迹。该系统利用现代大型语言模型作为文本驱动的运动调度器，从长文本中提取一系列（文本、位置）对。它还开发了一个文本驱动的运动检索方案，结合了经典运动匹配和运动语义以及轨迹约束。此外，它设计了一个渐进式掩蔽变换器，以解决过渡动作中常见的问题，如不自然的姿势和滑步。该系统在轨迹跟随、时间动作组合和动作混合等三个不同子任务的评估中表现优异，胜过以往的动作合成方法。

文本驱动的3D头像生成与全身动画表达

DreamWaltz-G是一个创新的框架，用于从文本驱动生成3D头像和表达性的全身动画。它的核心是骨架引导的评分蒸馏和混合3D高斯头像表示。该框架通过整合3D人类模板的骨架控制到2D扩散模型中，提高了视角和人体姿势的一致性，从而生成高质量的头像，解决了多重面孔、额外肢体和模糊等问题。此外，混合3D高斯头像表示通过结合神经隐式场和参数化3D网格，实现了实时渲染、稳定的SDS优化和富有表现力的动画。DreamWaltz-G在生成和动画3D头像方面非常有效，无论是视觉质量还是动画表现力都超越了现有方法。此外，该框架还支持多种应用，包括人类视频重演和多主题场景组合。

Loopy，仅凭音频驱动肖像头像，实现逼真动态。

Loopy是一个端到端的音频驱动视频扩散模型，专门设计了跨剪辑和内部剪辑的时间模块以及音频到潜在表示模块，使模型能够利用数据中的长期运动信息来学习自然运动模式，并提高音频与肖像运动的相关性。这种方法消除了现有方法中手动指定的空间运动模板的需求，实现了在各种场景下更逼真、高质量的结果。

3D头像重建与实时动画生成技术

GAGAvatar是一种基于高斯模型的3D头像重建与动画生成技术，它能够在单张图片的基础上快速生成3D头像，并实现实时的面部表情动画。这项技术的主要优点包括高保真度的3D模型生成、快速的渲染速度以及对未见身份的泛化能力。GAGAvatar通过创新的双提升方法捕捉身份和面部细节，利用全局图像特征和3D可变形模型来控制表情，为数字头像的研究和应用提供了新的基准。

RAIN是一种实时动画无限视频流技术。

RAIN是一种实时动画无限视频流技术，能够在消费级设备上实现高质量、低延迟的实时动画。它通过高效计算不同噪声水平和长时间间隔的帧标记注意力，同时去噪比以往流式方法更多的帧标记，从而在保持视频流连贯性的同时，以更快的速度和更短的延迟生成视频帧。RAIN仅引入少量额外的1D注意力块，对系统负担较小。该技术有望在游戏渲染、直播和虚拟现实等领域与CG结合，利用AI的泛化能力渲染无数新场景和对象，并提供更互动的参与方式。

将静态肖像和输入音频转化为生动的动画对话视频

AniTalker是一个创新的框架，它能够从单一的肖像生成逼真的对话面部动画。它通过两个自监督学习策略增强了动作表现力，同时通过度量学习开发了一个身份编码器，有效减少了对标记数据的需求。AniTalker不仅能够创建详细且逼真的面部动作，还强调了其在现实世界应用中制作动态头像的潜力。

一款简单易用的动画视频制作软件，适合制作企业宣传、教育课件等。

万彩动画大师是一款面向企业和教育领域的动画视频制作软件。它以简单易用的操作界面和丰富的模板资源，帮助用户快速创建高质量的动画视频。该产品的主要优点是操作简单，无需专业动画制作技能，即可生成生动有趣的动画内容。它适用于企业宣传、产品介绍、教育培训等多种场景，能够有效提升信息传播的效果和吸引力。万彩动画大师提供免费版本，同时也有付费会员服务，以满足不同用户的需求。

使用频域分解进行高保真、可迁移的NeRF编辑

Freditor是一种基于频域分解的NeRF编辑方法。它可以实现高保真的NeRF场景编辑,并且可迁移到其他场景。该方法将NeRF场景划分为高频和低频两部分,对低频部分进行风格迁移,并将高频细节重新集成,从而生成高保真的编辑结果。Freditor还支持在推理过程中对编辑强度进行控制。实验表明,该方法在保真度和可迁移性方面都优于现有的NeRF编辑方法。

实时翻译器，捕捉来自WINDOWS扬声器和麦克风的任何音频

Hanami Live Translator是一个实时翻译器，可以捕捉来自WINDOWS扬声器和麦克风的任何音频。它使用轻量级多进程和分块处理音频，每个块处理时间约为3-5秒。该应用程序通过低级访问创建硬件回环，即使扬声器静音，也可以监听内容。它使用soundcard库捕获音频信号，SpeechRecognition库将二进制音频转换为文本，selenium库模拟deepl服务器的网络调用进行免费翻译。该应用程序需要与互联网连接才能运行，并通过Traces.log文件记录所有操作。

轻松构建强大的实时音频和视频应用的VideoSDK。

VideoSDK是一种API，可以让开发人员在任何平台上轻松构建实时音频和视频体验。它具有100%安全的AES 256传输级加密，全面符合HIPAA、GDPR、ISO和SOC 2标准。

轻量级图片数字人驱动算法，快速定制AI伙伴

MiniMates是一款轻量级的图片数字人驱动算法，能够在普通电脑上实时运行，支持语音驱动和表情驱动两种模式。它比市面上的liveportrait、EchoMimic、MuseTalk等算法快10-100倍，让用户能够通过极少的资源消耗定制自己的AI伙伴。该技术的主要优点包括极速体验、个性化定制以及嵌入终端的能力，摆脱了对Python和CUDA的依赖。MiniMates遵循MIT协议，适用于需要快速、高效的人脸动画和语音合成的应用场景。

个性化语音驱动的3D面部动画

Imitator是一种新颖的个性化语音驱动的3D面部动画方法。通过给定音频序列和个性化风格嵌入作为输入，我们生成具有准确唇部闭合的个人特定运动序列，用于双唇辅音（'m'，'b'，'p'）。可以通过短参考视频（例如5秒）计算主体的风格嵌入。

音频驱动的视频编辑，实现高质量唇形同步

VideoReTalking是一个新的系统，可以根据输入的音频编辑真实世界的说话头部视频的面部，产生高质量的唇形同步输出视频，即使情感不同。该系统将此目标分解为三个连续的任务：（1）使用表情编辑网络生成带有规范表情的面部视频；（2）音频驱动的唇形同步；（3）用于提高照片逼真度的面部增强。给定一个说话头部视频，我们首先使用表情编辑网络根据相同的表情模板修改每个帧的表情，从而得到具有规范表情的视频。然后将该视频与给定的音频一起输入到唇形同步网络中，生成唇形同步视频。最后，我们通过一个身份感知的面部增强网络和后处理来提高合成面部的照片逼真度。我们对所有三个步骤使用基于学习的方法，所有模块都可以在顺序管道中处理，无需任何用户干预。

将音频流转换为面部表情，实现实时唇形同步和面部表演。

Audio-to-Face 是 NVIDIA NIM 提供的一项技术，能够将音频流实时转换为面部表情，用于唇形同步和面部表演。这项技术主要应用于数字人领域，通过先进的机器学习算法，实现高度逼真的面部动作生成。它不仅能够提升数字人物的自然度和真实感，还能够在游戏、电影制作、虚拟现实等领域提供强大的支持。

SIGNeRF - 快速、可控的NeRF场景编辑和场景集成对象生成

SIGNeRF是一种用于快速和可控的NeRF场景编辑以及场景集成对象生成的新方法。它引入了一种新的生成更新策略，确保在编辑图像时保持3D一致性，而无需进行迭代优化。SIGNeRF利用了ControlNet的深度条件图像扩散模型的优势，通过几个简单的步骤在单个前向传递中编辑现有的NeRF场景。它可以生成新的对象到现有的NeRF场景中，也可以编辑已存在的对象，从而实现对场景的精确控制。