产品库

高效生成一致性人物视频动画的模型

UniAnimate是一个用于人物图像动画的统一视频扩散模型框架。它通过将参考图像、姿势指导和噪声视频映射到一个共同的特征空间，以减少优化难度并确保时间上的连贯性。UniAnimate能够处理长序列，支持随机噪声输入和首帧条件输入，显著提高了生成长期视频的能力。此外，它还探索了基于状态空间模型的替代时间建模架构，以替代原始的计算密集型时间Transformer。UniAnimate在定量和定性评估中都取得了优于现有最先进技术的合成结果，并且能够通过迭代使用首帧条件策略生成高度一致的一分钟视频。

为ComfyUI定制的字体到图像动画节点

ComfyUI-Mana-Nodes是一套为ComfyUI设计的自定义节点，包括将字体转换为图像动画的功能。用户可以通过这些节点创建动态图像和视频效果。项目遵循MIT许可证，鼓励社区贡献和个性化定制。

使用扩散模型实现时域一致的人体图像动画

MagicAnimate是一款基于扩散模型的先进框架，用于人体图像动画。它能够从单张图像和动态视频生成动画视频，具有时域一致性，能够保持参考图像的特征，并显著提升动画的保真度。MagicAnimate支持使用来自各种来源的动作序列进行图像动画，包括跨身份的动画和未见过的领域，如油画和电影角色。它还与DALLE3等T2I扩散模型无缝集成，可以根据文本生成的图像赋予动态动作。MagicAnimate由新加坡国立大学Show Lab和Bytedance字节跳动共同开发。

Temporally Consistent Human Image Animation

MagicAnimate 是一款使用扩散模型实现的时域一致的人体图像动画工具。它可以通过对人体图像进行扩散模型的运算，实现高质量、自然流畅的人体动画效果。MagicAnimate 具有高度的可控性和灵活性，可以通过微调参数来实现不同的动画效果。它适用于人体动画创作、虚拟角色设计等领域。

让您的模型定制更加个性化

FABRIC 是一个通过迭代反馈来个性化定制扩散模型的工具。它提供了一种简单的方法来根据用户的反馈来改进模型的性能。用户可以通过迭代的方式与模型进行交互，并通过反馈来调整模型的预测结果。FABRIC 还提供了丰富的功能，包括模型训练、参数调整和性能评估。它的定价根据用户的使用情况而定，可满足不同用户的需求。

通过简短提示制作开放领域区域图像动画

Follow-Your-Click是一款通过简短提示制作开放领域区域图像动画的工具。用户可以点击参与动画生成，并可观看和比较不同生成方法和效果。该工具展示了动画结果，并通过与其他最新的开源动画方法和商业工具进行比较，展示了动画生成的对比效果。同时，通过演示我们的运动力量控制和消融研究，用户可以了解我们的方法与其他方法的优劣。

基于视频扩散先验为开放域图像添加动画的工具

DynamiCrafter是一款由Jinbo Xing、Menghan Xia等人开发的图像动画工具。通过利用预训练的视频扩散先验，DynamiCrafter可以基于文本提示为开放域的静止图像添加动画效果。该工具支持高分辨率模型，提供更好的动态效果、更高的分辨率和更强的一致性。DynamiCrafter主要用于故事视频生成、循环视频生成和生成帧插值等场景。

Surya是一个用于任何语言中准确的逐行文本检测和识别（OCR）的项目。

Surya是一个多语言文档OCR工具包，具有准确的逐行文本检测功能。它在一系列文档和语言上都有效（参见使用和基准测试以获取更多细节）。Surya的命名源自印度太阳神，象征着具有普遍视野。Surya通过Python 3.9+和PyTorch实现，支持多种语言的高效OCR处理，包括图像动画和个性化T2I模型。Surya的特点是其高效性和多语言支持能力。

PIA：个性化图像动画师

PIA（Personalized Image Animator）是一款个性化图像动画师。它基于机器学习技术，能够将静态图片转化为有趣的动画效果。用户可以选择不同的动画风格和参数，以定制独特的图像动画。PIA 还提供了 API 接口，供开发者在自己的应用中集成使用。PIA 在图像处理和动画设计领域具有广泛的应用前景。

零样本图像动画生成器

AnimateZero是一款零样本图像动画生成器，通过分离外观和运动生成视频，解决了黑盒、低效、不可控等问题。它可以通过零样本修改将预训练的T2V模型转换为I2V模型，从而实现零样本图像动画生成。AnimateZero还可以用于视频编辑、帧插值、循环视频生成和真实图像动画等场景，具有较高的主观质量和匹配度。

视频DensePose转换工具

Vid2DensePose是一个强大的工具，旨在将DensePose模型应用于视频，为每一帧生成详细的“部位索引”可视化。该工具在增强动画方面非常有用，特别是与MagicAnimate结合使用时，能够实现时间上连贯的人体图像动画。

将文本转换为声音效果的API。

ElevenLabs Texts to Sounds Effects API是一个编程接口，允许开发者将文本转换为相应的声音效果，适用于视频编辑、游戏开发等多种场景。该API是开源的，可在GitHub上找到代码，便于开发者进行个性化定制和二次开发。

多模态文本到图像生成模型

EMMA是一个基于最前沿的文本到图像扩散模型ELLA构建的新型图像生成模型，能够接受多模态提示，通过创新的多模态特征连接器设计，有效整合文本和补充模态信息。该模型通过冻结原始T2I扩散模型的所有参数，并仅调整一些额外层，揭示了预训练的T2I扩散模型可以秘密接受多模态提示的有趣特性。EMMA易于适应不同的现有框架，是生成个性化和上下文感知图像甚至视频的灵活有效工具。

一种高效的遮蔽扩散语言模型。

Masked Diffusion Language Models (MDLM) 是一种新型的语言模型，它通过遮蔽和扩散机制来生成高质量的文本数据。MDLM 通过改进的训练方法和简化的目标函数，提高了遮蔽扩散模型的性能，使其在语言建模基准测试中达到了新的最佳状态，并接近自回归模型的困惑度。MDLM 的主要优点包括高效的采样器、支持生成任意长度的文本，以及在长程依赖和可控生成方面的优势。

视频编辑中的手-物交互意识

HOI-Swap是一个基于扩散模型的视频编辑框架，专注于处理视频编辑中手与物体交互的复杂性。该模型通过自监督训练，能够在单帧中实现物体交换，并学习根据物体属性变化调整手的交互模式，如手的抓握方式。第二阶段将单帧编辑扩展到整个视频序列，通过运动对齐和视频生成，实现高质量的视频编辑。

实时表情生成人类模型

PROTEUS是Apparate Labs推出的一款下一代基础模型，用于实时表情生成人类。它采用先进的transformer架构的潜在扩散模型，创新的潜在空间设计实现了实时效率，并能通过进一步的架构和算法改进，达到每秒100帧以上视频流。PROTEUS旨在提供一种通过语音控制的视觉体现，为人工对话实体提供直观的接口，并且与多种大型语言模型兼容，可定制用于多种不同应用。

生成具有身份一致性和表情丰富性的3D人头模型

ID-to-3D是一种创新的方法，它能够从一张随意拍摄的野外图片中生成具有身份和文本引导的3D人头模型，具有分离的表情。该方法基于组合性，使用特定任务的2D扩散模型作为优化的先验。通过扩展基础模型并添加轻量级的表情感知和身份感知架构，创建了2D先验，用于几何和纹理生成，并通过微调仅0.2%的可用训练参数。结合强大的面部身份嵌入和神经表示，该方法不仅能够准确重建面部特征，还能重建配饰和头发，并可提供适用于游戏和远程呈现的渲染就绪资产。

iPadOS 18，带来全新的工作方式和个性化体验。

iPadOS 18是苹果公司为iPad设备推出的最新操作系统，它通过Apple Pencil、应用程序体验和个性化定制等新功能，进一步增强了iPad的生产力和创造力。该系统利用Apple Intelligence技术，根据用户的个人上下文提供最有帮助和相关的智能服务。

从单一图像或文本生成可探索的3D场景

VividDream是一项创新技术，能够从单一输入图像或文本提示生成具有环境动态的可探索4D场景。它首先将输入图像扩展为静态3D点云，然后使用视频扩散模型生成动画视频集合，并通过优化4D场景表示来实现一致性运动和沉浸式场景探索。这项技术为生成基于多样真实图像和文本提示的引人入胜的4D体验提供了可能。

自由风格人像动画框架

Follow-Your-Emoji是一个基于扩散模型的人像动画框架，能够将目标表情序列动画化到参考人像上，同时保持人像身份的一致性、表情的传递、时间的连贯性和保真度。它通过采用表情感知标志和面部细粒度损失技术，显著提升了模型在控制自由风格人像表情方面的表现，包括真实人物、卡通、雕塑甚至动物。此外，它还通过简单有效的逐步生成策略，扩展到稳定的长期动画，增加了其潜在的应用价值。

提升3D内容创造的合成数据框架

Bootstrap3D是一个用于改善3D内容创造的框架，通过合成数据生成技术，解决了高质量3D资产稀缺的问题。它利用2D和视频扩散模型，基于文本提示生成多视角图像，并使用3D感知的MV-LLaVA模型筛选高质量数据，重写不准确的标题。该框架已生成了100万张高质量合成多视角图像，具有密集的描述性标题，以解决高质量3D数据的短缺问题。此外，它还提出了一种训练时间步重排(TTR)策略，利用去噪过程学习多视角一致性，同时保持原始的2D扩散先验。

视频运动编辑的轻量级得分引导扩散模型

MotionFollower是一个轻量级的得分引导扩散模型，用于视频运动编辑。它通过两个轻量级信号控制器，分别对姿势和外观进行控制，不涉及繁重的注意力计算。该模型设计了基于双分支架构的得分引导原则，包括重建和编辑分支，显著增强了对纹理细节和复杂背景的建模能力。实验表明，MotionFollower在GPU内存使用上比最先进的运动编辑模型MotionEditor减少了约80%，同时提供了更优越的运动编辑性能，并独家支持大范围的摄像机运动和动作。

3D形状的文本驱动逼真材质绘制

MaPa是一种创新的方法，能够根据文本描述为3D网格生成材质。该技术通过创建分段的程序化材质图来表示外观，支持高质量渲染，并在编辑上提供了显著的灵活性。利用预训练的2D扩散模型，MaPa在不需要大量配对数据的情况下，架起了文本描述和材质图之间的桥梁。该技术通过分解形状为多个部分，并设计了控制段的扩散模型来合成与网格部分对齐的2D图像，进而初始化材质图的参数，并通过可微分渲染模块进行微调，以产生符合文本描述的材质。广泛的实验表明，MaPa在逼真度、分辨率和可编辑性方面优于现有技术。

一种通过3D感知递归扩散生成3D模型的框架

Ouroboros3D是一个统一的3D生成框架，它将基于扩散的多视图图像生成和3D重建集成到一个递归扩散过程中。该框架通过自条件机制联合训练这两个模块，使它们能够相互适应，以实现鲁棒的推理。在多视图去噪过程中，多视图扩散模型使用由重建模块在前一时间步渲染的3D感知图作为附加条件。递归扩散框架与3D感知反馈相结合，提高了整个过程的几何一致性。实验表明，Ouroboros3D框架在性能上优于将这两个阶段分开训练的方法，以及在推理阶段将它们结合起来的现有方法。

基于文本提示生成可变长度立体声音频的AI模型。

Stable Audio Open 1.0是一个利用自编码器、基于T5的文本嵌入和基于变压器的扩散模型来生成长达47秒的立体声音频的AI模型。它通过文本提示生成音乐和音频，支持研究和实验，以探索生成性AI模型的当前能力。该模型在Freesound和Free Music Archive (FMA)的数据集上进行训练，确保了数据的多样性和版权合法性。

高质量基于文本的PBR材质生成模型

DreamMat是一款能够根据文本提示为3D网格生成物理基础渲染(PBR)材质的创新模型。它通过解决现有2D扩散模型在材质分解上的不足，生成与给定几何体和光照环境一致且无内置阴影效果的高质量PBR材质。这一技术对于游戏和电影制作等下游任务具有重要意义，因为它能显著提升渲染质量并增强用户的视觉体验。

无需训练的扩散模型个性化定制

RB-Modulation是谷歌发布的一种基于随机最优控制的新型训练免费个性化扩散模型解决方案。它通过终端成本编码所需属性，实现风格和内容的精确提取与控制，无需额外训练，即可生成与参考图像风格一致且遵循给定文本提示的图像。该技术在无需训练的情况下，通过新颖的注意力特征聚合(AFA)模块，保持对参考图像的高保真度，并遵循给定的提示，具有重要的研究和应用价值。

高分辨率多视角扩散模型，使用高效行注意力机制。

Era3D是一个开源的高分辨率多视角扩散模型，它通过高效的行注意力机制来生成高质量的图像。该模型能够生成多视角的颜色和法线图像，支持自定义参数以获得最佳结果。Era3D在图像生成领域具有重要性，因为它提供了一种新的方法来生成逼真的三维图像。

视频虚拟试穿技术

ViViD是一个利用扩散模型进行视频虚拟试穿的新框架。它通过设计服装编码器提取精细的服装语义特征，并引入轻量级姿态编码器以确保时空一致性，生成逼真的视频试穿效果。ViViD收集了迄今为止规模最大、服装类型最多样化、分辨率最高的视频虚拟试穿数据集。

虚拟人物生成的图像到视频框架

MusePose是由腾讯音乐娱乐的Lyra Lab开发的一款图像到视频的生成框架，旨在通过姿势控制信号生成虚拟人物的视频。它是Muse开源系列的最后一个构建块，与MuseV和MuseTalk一起，旨在推动社区向生成具有全身运动和交互能力的虚拟人物的愿景迈进。MusePose基于扩散模型和姿势引导，能够生成参考图像中人物的舞蹈视频，并且结果质量超越了当前几乎所有同一主题的开源模型。