产品库

MMAudio根据视频和/或文本输入生成同步音频。

MMAudio是一种多模态联合训练技术，旨在高质量的视频到音频合成。该技术能够根据视频和文本输入生成同步音频，适用于各种应用场景，如影视制作、游戏开发等。其重要性在于提升了音频生成的效率和质量，适合需要音频合成的创作者和开发者使用。

利用多指令视频到音频合成技术

Draw an Audio是一个创新的视频到音频合成技术，它通过多指令控制，能够根据视频内容生成高质量的同步音频。这项技术不仅提升了音频生成的可控性和灵活性，还能够在多阶段产生混合音频，展现出更广泛的实际应用潜力。

视觉语言模型，能够进行逐步推理

LLaVA-o1是北京大学元组团队开发的一个视觉语言模型，它能够进行自发的、系统的推理，类似于GPT-o1。该模型在六个具有挑战性的多模态基准测试中超越了其他模型，包括Gemini-1.5-pro、GPT-4o-mini和Llama-3.2-90B-Vision-Instruct。LLaVA-o1通过逐步推理解决问题，展示了其在视觉语言模型中的独特优势。

Agent S：一个开放的代理框架，让计算机像人类一样使用计算机。

Agent S是一个开放的代理框架，旨在通过图形用户界面(GUI)实现与计算机的自主交互，通过自动化复杂多步骤任务来转变人机交互。它引入了经验增强的分层规划方法，利用在线网络知识和叙事记忆，从过去的交互中提取高级经验，将复杂任务分解为可管理的子任务，并使用情景记忆进行逐步指导，Agent S不断优化其行动并从经验中学习，实现适应性强且有效的任务规划。Agent S在OSWorld基准测试中的表现超过了基线9.37%的成功率（相对提高了83.6%），并在WindowsAgentArena基准测试中展示了广泛的通用性。

视频眼神校正API，让视频中的眼神看起来始终注视着摄像头。

Sieve Eye Contact Correction API 是一个为开发者设计的快速且高质量的视频眼神校正API。该技术通过重定向眼神，确保视频中的人物即使没有直接看向摄像头，也能模拟出与摄像头进行眼神交流的效果。它支持多种自定义选项来微调眼神重定向，保留了原始的眨眼和头部动作，并通过随机的“看向别处”功能来避免眼神呆板。此外，还提供了分屏视图和可视化选项，以便于调试和分析。该API主要面向视频制作者、在线教育提供者和任何需要提升视频交流质量的用户。定价为每分钟视频0.10美元。

前沿级多模态大型语言模型，实现视觉-语言任务的先进性能。

NVLM 1.0是一系列前沿级的多模态大型语言模型（LLMs），在视觉-语言任务上取得了与领先专有模型和开放访问模型相媲美的先进成果。值得注意的是，NVLM 1.0在多模态训练后，其文本性能甚至超过了其LLM主干模型。我们为社区开源了模型权重和代码。

下一代视频和图像实时对象分割模型。

Meta Segment Anything Model 2 (SAM 2)是Meta公司开发的下一代模型，用于视频和图像中的实时、可提示的对象分割。它实现了最先进的性能，并且支持零样本泛化，即无需定制适配即可应用于之前未见过的视觉内容。SAM 2的发布遵循开放科学的方法，代码和模型权重在Apache 2.0许可下共享，SA-V数据集也在CC BY 4.0许可下共享。

大型多模态模型，处理多图像、视频和3D数据。

LLaVA-NeXT是一个大型多模态模型，它通过统一的交错数据格式处理多图像、视频、3D和单图像数据，展示了在不同视觉数据模态上的联合训练能力。该模型在多图像基准测试中取得了领先的结果，并在不同场景中通过适当的数据混合提高了之前单独任务的性能或保持了性能。

轻量级但功能强大的多模态模型家族。

Bunny 是一系列轻量级但功能强大的多模态模型，提供多种即插即用的视图编码器和语言主干网络。通过从更广泛的数据源进行精选选择，构建更丰富的训练数据，以补偿模型尺寸的减小。Bunny-v1.0-3B 模型在性能上超越了同类大小甚至更大的 MLLMs（7B）模型，并与 13B 模型性能相当。

一款由XTuner优化的LLaVA模型，结合了图像和文本处理能力。

llava-llama-3-8b-v1_1是一个由XTuner优化的LLaVA模型，它基于meta-llama/Meta-Llama-3-8B-Instruct和CLIP-ViT-Large-patch14-336，并通过ShareGPT4V-PT和InternVL-SFT进行了微调。该模型专为图像和文本的结合处理而设计，具有强大的多模态学习能力，适用于各种下游部署和评估工具包。

GoEnhance AI是一款基于AI的图文增强工具

GoEnhance AI是一款基于人工智能的图像和视频增强工具。它可以实现视频到视频、图像增强和超分辨率scaling等功能。GoEnhance AI采用了最先进的深度学习算法,可以增强和上采样图像到极致的细节和高分辨率。它简单易用,功能强大,是创作者、设计师等用户释放创意的绝佳工具。

ComfyUI节点，用于MMAudio模型的音频处理

ComfyUI-MMAudio是一个基于ComfyUI的插件，它允许用户利用MMAudio模型进行音频处理。该插件的主要优点在于能够提供高质量的音频生成和处理能力，支持多种音频模型，并且易于集成到现有的音频处理流程中。产品背景信息显示，它是由kijai开发的，并且是开源的，可以在GitHub上找到。目前，该插件主要面向技术爱好者和音频处理专业人士，可以免费使用。

基于InternViT-300M-448px的增强版本，提升视觉特征提取能力。

InternViT-300M-448px-V2_5是一个基于InternViT-300M-448px的增强版本，通过采用ViT增量学习与NTP损失（Stage 1.5），提升了视觉编码器提取视觉特征的能力，尤其是在大规模网络数据集中代表性不足的领域，如多语言OCR数据和数学图表等。该模型是InternViT 2.5系列的一部分，保留了与前代相同的“ViT-MLP-LLM”模型架构，并集成了新的增量预训练的InternViT与各种预训练的LLMs，如InternLM 2.5和Qwen 2.5，使用随机初始化的MLP投影器。

3D自主角色的沉浸式交互框架

SOLAMI是一个端到端的社交视觉-语言-动作(VLA)建模框架，用于与3D自主角色进行沉浸式交互。该框架通过综合三个主要方面构建3D自主角色：社交VLA架构、交互式多模态数据和沉浸式VR界面。SOLAMI的主要优点包括更精确和自然的字符响应（包括语音和动作），与用户期望一致，并且延迟更低。该技术的重要性在于它为3D自主角色提供了类似人类的社交智能，使其能够感知、理解和与人类进行交互，这是人工智能领域中的一个开放且基础的问题。

基于条件扩散模型的人类-物体交互合成技术

Controllable Human-Object Interaction Synthesis (CHOIS) 是一种先进的技术，它能够根据语言描述、初始物体和人类状态以及稀疏物体路径点来同时生成物体运动和人类运动。这项技术对于模拟真实的人类行为至关重要，尤其在需要精确手-物体接触和由地面支撑的适当接触的场景中。CHOIS通过引入物体几何损失作为额外的监督信息，以及在训练扩散模型的采样过程中设计指导项来强制执行接触约束，从而提高了生成物体运动与输入物体路径点之间的匹配度，并确保了交互的真实性。

视觉语言模型增强工具，结合生成式视觉编码器和深度广度融合技术。

Florence-VL是一个视觉语言模型，通过引入生成式视觉编码器和深度广度融合技术，增强了模型对视觉和语言信息的处理能力。该技术的重要性在于其能够提升机器对图像和文本的理解，进而在多模态任务中取得更好的效果。Florence-VL基于LLaVA项目进行开发，提供了预训练和微调的代码、模型检查点和演示。

高清视频逆问题求解器，使用潜在扩散模型

VISION XL是一个利用潜在扩散模型解决高清视频逆问题的框架。它通过伪批量一致性采样策略和批量一致性反演方法，优化了视频处理的效率和时间，支持多种比例和高分辨率重建。该技术的主要优点包括支持多比例和高分辨率重建、内存和采样时间效率、使用开源潜在扩散模型SDXL。它通过集成SDXL，在各种时空逆问题上实现了最先进的视频重建，包括复杂的帧平均和各种空间退化的组合，如去模糊、超分辨率和修复。

Anduril与OpenAI合作，推进美国人工智能领导力并保护美国及盟军。

Anduril Industries是一家国防技术公司，与OpenAI合作，共同开发并负责任地部署先进的人工智能解决方案，用于国家安全任务。通过结合OpenAI的先进模型和Anduril的高性能国防系统及Lattice软件平台，合作旨在提高保护美国及盟军军事人员免受无人机和其他空中设备攻击的国防系统。这一合作强调了美国在人工智能领域的领导地位

创建并分享你热爱的一切事物的列表。

Hypelist是一个在线平台，允许用户创建和分享关于他们所热爱的一切事物的列表，包括书籍、电影、音乐、旅行地点等。这个平台利用人工智能技术，根据用户的喜好提供个性化推荐，帮助用户发现更多他们可能喜欢的内容。Hypelist的主要优点在于其个性化推荐系统和用户友好的界面，它不仅帮助用户组织和分享他们的兴趣爱好，还能通过智能推荐发现新的兴趣点。产品背景信息显示，Hypelist旨在帮助用户更好地组织和发现他们所热爱的事物，并通过社交分享功能与他人交流。目前，Hypelist提供免费版本，用户可以升级到高级版本以解锁更多AI功能和高级定制选项。

大规模基础世界模型，生成多样的3D可操作环境

Genie 2是由Google DeepMind开发的一款大规模基础世界模型，能够基于单一提示图像生成无尽的、可操作的、可玩的3D环境，用于训练和评估具身智能体。Genie 2代表了深度学习和人工智能领域的一大进步，它通过模拟虚拟世界及其行动后果，展示了在大规模生成模型中的多种紧急能力，如物体交互、复杂角色动画、物理模拟等。Genie 2的研究推动了新的创意工作流程，用于原型化交互体验，并为未来更通用的AI系统和智能体的研究提供了新的可能性。

视频处理界面，提供视频编码和解码功能

ComfyUI-HunyuanVideoWrapper 是一个基于 HunyuanVideo 的视频处理界面，主要功能是视频编码和解码。它利用先进的视频处理技术，允许用户在较低的硬件要求下处理视频，即使在内存较小的设备上也能实现视频功能。该产品背景信息显示，它特别适合需要在资源受限环境下处理视频的用户，并且是开源的，可以免费使用。

Amazon Nova是亚马逊新一代的基础模型，提供前沿智能和行业领先的性价比。

Amazon Nova是亚马逊推出的新一代基础模型，能够处理文本、图像和视频提示，使客户能够使用Amazon Nova驱动的生成性AI应用程序理解视频、图表和文档，或生成视频和其他多媒体内容。Amazon Nova模型在亚马逊内部约有1000个生成性AI应用正在运行，旨在帮助内部和外部构建者应对挑战，并在延迟、成本效益、定制化、信息接地和代理能力方面取得有意义的进展。

自动化DAW副驾驶，告别重复性任务。

Forte!是一个自动化数字音频工作站(DAW)辅助工具，旨在帮助音乐制作人和音频工程师自动化处理重复性任务，如文件导入、静音剥离、音轨路由等。它通过使用人工智能技术，特别是自动乐器识别技术，能够快速准确地识别音频中的每种乐器，从而提高工作效率。Forte!支持无限文件导入，自动静音剥离，自动路由，立体声到单声道转换等功能，是音乐制作领域的一大创新。产品背景信息显示，Forte!目前支持所有Pro Tools版本，并即将支持Logic Pro。价格方面，Forte!提供15天免费试用，无需信用卡信息，之后用户可以选择订阅或购买终身许可证。

基于流匹配的音频驱动说话人像视频生成方法

FLOAT是一种音频驱动的人像视频生成方法，它基于流匹配生成模型，将生成建模从基于像素的潜在空间转移到学习到的运动潜在空间，实现了时间上一致的运动设计。该技术引入了基于变换器的向量场预测器，并具有简单而有效的逐帧条件机制。此外，FLOAT支持语音驱动的情感增强，能够自然地融入富有表现力的运动。广泛的实验表明，FLOAT在视觉质量、运动保真度和效率方面均优于现有的音频驱动说话人像方法。

腾讯开源的大型视频生成模型训练框架

HunyuanVideo是腾讯开源的一个系统性框架，用于训练大型视频生成模型。该框架通过采用数据策划、图像-视频联合模型训练和高效的基础设施等关键技术，成功训练了一个超过130亿参数的视频生成模型，是所有开源模型中最大的。HunyuanVideo在视觉质量、运动多样性、文本-视频对齐和生成稳定性方面表现出色，超越了包括Runway Gen-3、Luma 1.6在内的多个行业领先模型。通过开源代码和模型权重，HunyuanVideo旨在缩小闭源和开源视频生成模型之间的差距，推动视频生成生态系统的活跃发展。

将你的食材瞬间变成食谱

EasyChef是一款利用人工智能技术，根据用户家中已有的食材推荐定制化食谱的应用程序。它通过分析用户输入的食材，智能推荐符合个人口味和烹饪条件的食谱，帮助用户减少食物浪费，节省时间和金钱。EasyChef以其用户友好的界面和个性化服务，在全球范围内受到560多个家庭厨师的欢迎。该应用提供全球各式美食选项，从墨西哥菜到印度菜，满足不同用户的国际美食需求。同时，EasyChef还提供定制饮食食谱，包括无麸质和原始人饮食等，以及根据用户厨房设备（如微波炉、烤箱）定制的餐计划。EasyChef的订阅费用为每月2.99欧元或年度订阅29.99欧元，为用户提供经济实惠的持续服务。

全球合作训练的10B参数语言模型聊天工具

INTELLECT-1 Chat是一个由全球合作训练的10B参数语言模型驱动的聊天工具。它代表了人工智能领域中大规模语言模型的最新进展，通过分散式训练，提高了模型的多样性和适应性。这种技术的主要优点包括能够理解和生成自然语言，提供流畅的对话体验，并且能够处理大量的语言数据。产品背景信息显示，这是一个首次展示分散式训练可能性的演示，易于使用且富有趣味性。价格方面，页面提供了登录以保存和重访聊天的功能，暗示了可能的付费或会员服务模式。

免费在线视频处理工具，支持压缩、转换、倍速等功能

AI-FFmpeg是一个在线视频处理工具，它利用FFmpeg的强大功能，为用户提供了一个简单易用的界面来处理视频文件。该产品支持视频转码、压缩、音频提取、裁剪、旋转和基本效果调整等多种功能，是视频编辑和处理的有力助手。AI-FFmpeg以其免费、易用和功能全面的特点，满足了广大视频爱好者和专业人士的需求。

高性能英文语言模型，适用于多样化任务

OLMo-2-1124-13B-DPO是经过监督微调和DPO训练的13B参数大型语言模型，主要针对英文，旨在提供在聊天、数学、GSM8K和IFEval等多种任务上的卓越性能。该模型是OLMo系列的一部分，旨在推动语言模型的科学研究。模型训练基于Dolma数据集，并公开代码、检查点、日志和训练细节。

从单张图片重建逼真的3D人体模型

PSHuman是一个创新的框架，它利用多视图扩散模型和显式重构技术，从单张图片中重建出逼真的3D人体模型。这项技术的重要性在于它能够处理复杂的自遮挡问题，并且在生成的面部细节上避免了几何失真。PSHuman通过跨尺度扩散模型联合建模全局全身形状和局部面部特征，实现了细节丰富且保持身份特征的新视角生成。此外，PSHuman还通过SMPL-X等参数化模型提供的身体先验，增强了不同人体姿态下的跨视图身体形状一致性。PSHuman的主要优点包括几何细节丰富、纹理保真度高以及泛化能力强。