产品库

零样本视觉跟踪模型，具有运动感知记忆。

SAMURAI是一种基于Segment Anything Model 2 (SAM 2)的视觉对象跟踪模型，专门设计用于处理快速移动或自遮挡对象的视觉跟踪任务。它通过引入时间运动线索和运动感知记忆选择机制，有效预测对象运动并优化掩膜选择，无需重新训练或微调即可实现鲁棒、准确的跟踪。SAMURAI能够在实时环境中运行，并在多个基准数据集上展现出强大的零样本性能，证明了其无需微调即可泛化的能力。在评估中，SAMURAI在成功率和精确度上相较于现有跟踪器取得了显著提升，例如在LaSOT-ext上AUC提升了7.1%，在GOT-10k上AO提升了3.5%。此外，与LaSOT上的全监督方法相比，SAMURAI也展现出了竞争力，强调了其在复杂跟踪场景中的鲁棒性以及在动态环境中的潜在实际应用价值。

Soundlabs AI 提供下一代音频工具，专为音乐专业人士设计，可实时转换声音和乐器。

Soundlabs AI 是一款面向音乐制作人的音频工具，专注于实时声音和乐器转换。它通过先进的 AI 技术，将用户的声音转换为高质量的虚拟歌手或乐器音色，无缝集成到任何数字音频工作站（DAW）中。该技术的主要优点包括实时转换、高质量音频输出以及丰富的音色模型库。Soundlabs AI 不仅提升了音乐创作的灵活性，还为创作者提供了无限的创意可能性，无论是在流行音乐、电子音乐还是其他流派中都能发挥重要作用。其价格定位明确，提供多种购买选项，包括一次性购买和订阅服务，满足不同用户的需求。

Level-Navi Agent是一个无需训练即可使用的框架，利用大语言模型进行深度查询理解和精准搜索。

Level-Navi Agent是一个开源的通用网络搜索代理框架，能够将复杂问题分解并逐步搜索互联网上的信息，直至回答用户问题。它通过提供Web24数据集，覆盖金融、游戏、体育、电影和事件等五大领域，为评估模型在搜索任务上的表现提供了基准。该框架支持零样本和少样本学习，为大语言模型在中文网络搜索代理领域的应用提供了重要参考。

VideoGrain 是一种零样本方法，用于实现类别级、实例级和部件级的视频编辑。

VideoGrain 是一种基于扩散模型的视频编辑技术，通过调节时空注意力机制实现多粒度视频编辑。该技术解决了传统方法中语义对齐和特征耦合的问题，能够对视频内容进行精细控制。其主要优点包括零样本编辑能力、高效的文本到区域控制以及特征分离能力。该技术适用于需要对视频进行复杂编辑的场景，如影视后期、广告制作等，能够显著提升编辑效率和质量。

低成本强化视觉语言模型的泛化能力，仅需不到3美元。

R1-V是一个专注于强化视觉语言模型（VLM）泛化能力的项目。它通过可验证奖励的强化学习（RLVR）技术，显著提升了VLM在视觉计数任务中的泛化能力，尤其是在分布外（OOD）测试中表现出色。该技术的重要性在于，它能够在极低的成本下（仅需2.62美元的训练成本），实现对大规模模型的高效优化，为视觉语言模型的实用化提供了新的思路。项目背景基于对现有VLM训练方法的改进，目标是通过创新的训练策略，提升模型在复杂视觉任务中的表现。R1-V的开源性质也使其成为研究者和开发者探索和应用先进VLM技术的重要资源。

Verizon AI Connect 是一套用于管理和扩展 AI 资源密集型工作负载的策略和产品解决方案。

Verizon AI Connect 是 Verizon 推出的一套面向企业的 AI 解决方案，旨在帮助企业充分利用强大的 AI 能力。该产品利用 Verizon 网络的低延迟、高带宽和智能边缘功能，支持实时 AI 工作负载。它为企业提供了灵活的连接选项，能够按需扩展并优化动态网络路径，同时确保数据安全和合规。Verizon AI Connect 通过整合先进的网络基础设施和 AI 能力，为企业提供了一个强大的平台，以推动业务创新和数字化转型。

X-Dyna是一种基于扩散模型的零样本人类图像动画生成技术。

X-Dyna是一种创新的零样本人类图像动画生成技术，通过将驱动视频中的面部表情和身体动作迁移到单张人类图像上，生成逼真且富有表现力的动态效果。该技术基于扩散模型，通过Dynamics-Adapter模块，将参考外观上下文有效整合到扩散模型的空间注意力中，同时保留运动模块合成流畅复杂动态细节的能力。它不仅能够实现身体姿态控制，还能通过本地控制模块捕捉与身份无关的面部表情，实现精确的表情传递。X-Dyna在多种人类和场景视频的混合数据上进行训练，能够学习物理人体运动和自然场景动态，生成高度逼真和富有表现力的动画。

首款基于行为基础模型的虚拟物理人形代理控制工具

Meta Motivo是由Meta FAIR发布的首款行为基础模型，通过一种新颖的无监督强化学习算法预训练，用于控制复杂的虚拟人形代理完成全身任务。该模型能够在测试时，通过提示解决未见过的任务，如动作跟踪、姿势达到和奖励优化，无需额外学习或微调。这一技术的重要性在于其零样本学习能力，能够处理多种复杂任务，同时保持行为的鲁棒性。Meta Motivo的开发背景是基于对更复杂任务和不同类型代理的泛化能力的追求，其开源的预训练模型和训练代码鼓励社区进一步发展行为基础模型的研究。

一种用于零样本定制图像生成的扩散自蒸馏技术

Diffusion Self-Distillation是一种基于扩散模型的自蒸馏技术，用于零样本定制图像生成。该技术允许艺术家和用户在没有大量配对数据的情况下，通过预训练的文本到图像的模型生成自己的数据集，进而微调模型以实现文本和图像条件的图像到图像任务。这种方法在保持身份生成任务的性能上超越了现有的零样本方法，并能与每个实例的调优技术相媲美，无需测试时优化。

克隆你的声音，就像 Ctrl+C, Ctrl+V

Voicv是一个尖端的语音克隆平台，可在几分钟内将您的语音转换为数字资产，支持多种语言和零样本学习。该平台结合了先进的AI技术和用户友好的设计，提供专业级别的语音克隆能力。Voicv的主要优点包括零样本语音克隆、多语言支持、实时处理、高准确性、跨平台支持和企业级准备。产品背景信息显示，Voicv致力于通过其技术帮助内容创作者、配音演员等用户以多语言制作内容，同时保持个人品牌和声音特征。

根据人类指令修复和编辑照片的框架

PromptFix是一个综合框架，能够使扩散模型遵循人类指令执行各种图像处理任务。该框架通过构建大规模的指令遵循数据集，提出了高频引导采样方法来控制去噪过程，并设计了辅助提示适配器，利用视觉语言模型增强文本提示，提高模型的任务泛化能力。PromptFix在多种图像处理任务中表现优于先前的方法，并在盲恢复和组合任务中展现出优越的零样本能力。

掌握开放世界交互的视觉-时间上下文提示模型

ROCKET-1是一个视觉-语言模型(VLMs)，专门针对开放世界环境中的具身决策制定而设计。该模型通过视觉-时间上下文提示协议，将VLMs与策略模型之间的通信连接起来，利用来自过去和当前观察的对象分割来指导策略-环境交互。ROCKET-1通过这种方式，能够解锁VLMs的视觉-语言推理能力，使其能够解决复杂的创造性任务，尤其是在空间理解方面。ROCKET-1在Minecraft中的实验表明，该方法使代理能够完成以前无法实现的任务，突出了视觉-时间上下文提示在具身决策制定中的有效性。

无需对齐信息的零样本文本到语音转换模型

MaskGCT是一个创新的零样本文本到语音转换（TTS）模型，它通过消除显式对齐信息和音素级持续时间预测的需求，解决了自回归和非自回归系统中存在的问题。MaskGCT采用两阶段模型：第一阶段使用文本预测从语音自监督学习（SSL）模型中提取的语义标记；第二阶段，模型根据这些语义标记预测声学标记。MaskGCT遵循掩码和预测的学习范式，在训练期间学习预测基于给定条件和提示的掩码语义或声学标记。在推理期间，模型以并行方式生成指定长度的标记。实验表明，MaskGCT在质量、相似性和可理解性方面超越了当前最先进的零样本TTS系统。

高效自动语音识别模型

Whisper large-v3-turbo是OpenAI提出的一种先进的自动语音识别(ASR)和语音翻译模型。它在超过500万小时的标记数据上进行训练，能够在零样本设置中泛化到许多数据集和领域。该模型是Whisper large-v3的微调版本，解码层从32减少到4，以提高速度，但可能会略微降低质量。

零样本风格化情侣肖像创作

Omni-Zero-Couples是一个使用diffusers管道的零样本风格化情侣肖像创作模型。它利用深度学习技术，无需预先定义的风格样本，即可生成具有特定艺术风格的情侣肖像。这种技术在艺术创作、个性化礼物制作和数字娱乐领域具有广泛的应用前景。

音乐生成系统，支持多语言声乐生成和音乐编辑。

Seed-Music 是一个音乐生成系统，它通过统一的框架支持生成具有表现力的多语言声乐音乐，允许精确到音符级别的调整，并提供将用户自己的声音融入音乐创作的能力。该系统采用先进的语言模型和扩散模型，为音乐家提供多样化的创作工具，满足不同音乐制作需求。

零样本声音转换技术，实现音质与音色的高保真转换。

seed-vc 是一个基于 SEED-TTS 架构的声音转换模型，能够实现零样本的声音转换，即无需特定人的声音样本即可转换声音。该技术在音频质量和音色相似性方面表现出色，具有很高的研究和应用价值。

一种用于图像和视频的视觉分割基础模型。

Segment Anything Model 2 (SAM 2)是Meta公司AI研究部门FAIR推出的一个视觉分割模型，它通过简单的变换器架构和流式内存设计，实现实时视频处理。该模型通过用户交互构建了一个模型循环数据引擎，收集了迄今为止最大的视频分割数据集SA-V。SAM 2在该数据集上训练，提供了在广泛任务和视觉领域中的强大性能。

学习野外音频视觉数据的机器人操控

ManiWAV是一个研究项目，旨在通过野外的音频和视觉数据学习机器人操控技能。它通过收集人类演示的同步音频和视觉反馈，并通过相应的策略接口直接从演示中学习机器人操控策略。该模型展示了通过四个接触丰富的操控任务来证明其系统的能力，这些任务需要机器人被动地感知接触事件和模式，或主动地感知物体表面的材料和状态。此外，该系统还能够通过学习多样化的野外人类演示来泛化到未见过的野外环境中。

多语种语音理解模型，提供高精度语音识别与情感识别。

SenseVoice是一个包含自动语音识别(ASR)、语音语言识别(LID)、语音情感识别(SER)和音频事件检测(AED)等多语音理解能力的语音基础模型。它专注于高精度多语种语音识别、语音情感识别和音频事件检测，支持超过50种语言，识别性能超越Whisper模型。模型采用非自回归端到端框架，推理延迟极低，是实时语音处理的理想选择。

实时数据提取和检索框架

Indexify是一个开源数据框架，具有实时提取引擎和预构建的提取适配器，能够可靠地从各种非结构化数据（文档、演示文稿、视频和音频）中提取数据。它支持多模态数据，提供先进的嵌入和分块技术，并允许用户使用Indexify SDK创建自定义提取器。Indexify支持使用语义搜索和SQL查询图像、视频和PDF，确保LLM应用能够获取最准确、最新的数据。此外，Indexify能够在本地运行时进行原型设计，并在生产环境中利用预配置的Kubernetes部署模板，实现自动扩展和处理大量数据。

实时视频生成技术

PAB 是一种用于实时视频生成的技术，通过 Pyramid Attention Broadcast 实现视频生成过程的加速，提供了高效的视频生成解决方案。该技术的主要优点包括实时性、高效性和质量保障。PAB 适用于需要实时视频生成能力的应用场景，为视频生成领域带来了重大突破。

零样本图像编辑，一键模仿参考图像风格

MimicBrush是一种创新的图像编辑模型，它允许用户通过指定源图像中的编辑区域和提供一张野外参考图像来实现零样本图像编辑。该模型能够自动捕捉两者之间的语义对应关系，并一次性完成编辑。MimicBrush的开发基于扩散先验，通过自监督学习捕捉不同图像间的语义关系，实验证明其在多种测试案例下的有效性及优越性。

实时视频到视频翻译的扩散模型

StreamV2V是一个扩散模型，它通过用户提示实现了实时的视频到视频（V2V）翻译。与传统的批处理方法不同，StreamV2V采用流式处理方式，能够处理无限帧的视频。它的核心是维护一个特征库，该库存储了过去帧的信息。对于新进来的帧，StreamV2V通过扩展自注意力和直接特征融合技术，将相似的过去特征直接融合到输出中。特征库通过合并存储的和新的特征不断更新，保持紧凑且信息丰富。StreamV2V以其适应性和效率脱颖而出，无需微调即可与图像扩散模型无缝集成。

实时语音提取智能耳机交互系统

LookOnceToHear 是一种创新的智能耳机交互系统，允许用户通过简单的视觉识别来选择想要听到的目标说话者。这项技术在 CHI 2024 上获得了最佳论文荣誉提名。它通过合成音频混合、头相关传输函数(HRTFs)和双耳房间脉冲响应(BRIRs)来实现实时语音提取，为用户提供了一种新颖的交互方式。

基于文本的视频编辑技术，使用时空切片。

Slicedit是一种零样本视频编辑技术，它利用文本到图像的扩散模型，并结合时空切片来增强视频编辑中的时序一致性。该技术能够保留原始视频的结构和运动，同时符合目标文本描述。通过广泛的实验，证明了Slicedit在编辑真实世界视频方面具有明显优势。

提供全面的MLLMs评估

该工具旨在通过对最新专有和开源MLLMs进行定性研究，从文本、代码、图像和视频四个模态的角度，评估其泛化能力、可信度和因果推理能力，以提高MLLMs的透明度。我们相信这些属性是定义MLLMs可靠性的几个代表性因素，支持各种下游应用。具体而言，我们评估了闭源的GPT-4和Gemini以及6个开源LLMs和MLLMs。总体上，我们评估了230个手动设计的案例，定性结果总结为12个分数（即4个模态乘以3个属性）。总共，我们揭示了14个实证发现，有助于了解专有和开源MLLMs的能力和局限性，以更可靠地支持多模态下游应用。

实时零唇语音转换的流式上下文感知语言建模

StreamVoice是一种基于语言模型的零唇语音转换模型，可实现实时转换，无需完整的源语音。它采用全因果上下文感知语言模型，结合时间独立的声学预测器，能够在每个时间步骤交替处理语义和声学特征，从而消除对完整源语音的依赖。为了增强在流式处理中可能出现的上下文不完整而导致的性能下降，StreamVoice通过两种策略增强了语言模型的上下文感知性：1）教师引导的上下文预见，在训练过程中利用教师模型总结当前和未来的语义上下文，引导模型对缺失上下文进行预测；2）语义屏蔽策略，促进从先前受损的语义和声学输入进行声学预测，增强上下文学习能力。值得注意的是，StreamVoice是第一个基于语言模型的流式零唇语音转换模型，无需任何未来预测。实验结果表明，StreamVoice具有流式转换能力，同时保持与非流式语音转换系统相媲美的零唇性能。

开源的实时语音克隆技术

OpenVoice是一个开源的语音克隆技术,可以准确地克隆参考音色,生成多种语言和口音的语音。它可以灵活地控制语音风格,如情感、口音等参数,以及节奏、停顿和语调等。它实现了零样本跨语言语音克隆,即生成语音和参考语音的语言都不需要出现在训练数据中。