产品库

一款基于多模态模型的语音翻译产品，支持近100种语言的自动语音识别、语音翻译、文本翻译、语音合成等功能。

SeamlessM4T是一款基于多模态模型的语音翻译产品，支持近100种语言的自动语音识别、语音翻译、文本翻译、语音合成等功能。该产品采用了全新的多任务UnitY模型架构，能够直接生成翻译文本和语音。SeamlessM4T的自我监督语音编码器w2v-BERT 2.0通过分析数百万小时的多语言语音，学习如何在语音中找到结构和意义。该产品还提供了SONAR、SpeechLASER等多语言语音和文本数据集，以及fairseq2等序列建模工具包。SeamlessM4T的发布，标志着AI技术在实现语音翻译方面取得了重大突破。

实时语音翻译，打破语言障碍

Interpre-X 是一款实时语音翻译工具，支持10多种语言，帮助用户在任何地方打破语言障碍。通过最先进的人工智能技术，提供语音到语音、语音到文字、文字到语音和文字到文字的翻译服务。无需额外设备，只需良好的网络连接即可使用。Interpre-X 提供高质量的翻译，以自然、人类质量的声音和准确的口音进行播放。适用于社交、旅行、观看电视、学习语言以及与不同语言的朋友交流等场景。现已推出beta版，欢迎试用。

多语言多模态嵌入模型，用于文本和图像检索。

jina-clip-v2是由Jina AI开发的多语言多模态嵌入模型，支持89种语言的图像检索，能够处理512x512分辨率的图像，提供从64到1024不同维度的输出，以适应不同的存储和处理需求。该模型结合了强大的文本编码器Jina-XLM-RoBERTa和视觉编码器EVA02-L14，通过联合训练创建了对齐的图像和文本表示。jina-clip-v2在多模态搜索和检索方面提供了更准确、更易用的能力，特别是在打破语言障碍、提供跨模态理解和检索方面表现出色。

语音到语音翻译系统，保留声音和等时性特征

TransVIP是由微软研究院开发的一个创新的语音到语音翻译系统，它能够在翻译过程中保留说话者的声音特征和等时性（即说话的节奏和停顿），这对于视频配音等场景非常有用。TransVIP通过联合概率实现端到端的推理，同时利用不同的数据集进行级联处理。该技术的主要优点包括高适应性、声音特征保留以及等时性保持，这使得它在多语言交流和内容本地化领域具有重要价值。

开源多模态大型语言模型，支持实时语音输入和流式音频输出。

Mini-Omni是一个开源的多模态大型语言模型，能够实现实时的语音输入和流式音频输出的对话能力。它具备实时语音到语音的对话功能，无需额外的ASR或TTS模型。此外，它还可以在思考的同时进行语音输出，支持文本和音频的同时生成。Mini-Omni通过'Audio-to-Text'和'Audio-to-Audio'的批量推理进一步增强性能。

多语言大型语音生成模型，提供全栈推理、训练和部署能力。

CosyVoice 是一个多语言的大型语音生成模型，它不仅支持多种语言的语音生成，还提供了从推理到训练再到部署的全栈能力。该模型在语音合成领域具有重要性，因为它能够生成自然流畅、接近真人的语音，适用于多种语言环境。CosyVoice 的背景信息显示，它是由 FunAudioLLM 团队开发，使用了 Apache-2.0 许可证。

多语言可控文本到语音合成工具包

ToucanTTS是由德国斯图加特大学自然语言处理研究所开发的多语言且可控的文本到语音合成工具包。它使用纯Python和PyTorch构建，以保持简单、易于上手，同时尽可能强大。该工具包支持教学、训练和使用最前沿的语音合成模型，具有高度的灵活性和可定制性，适用于教育和研究领域。

开源多语言多模态对话模型

GLM-4系列是智谱AI推出的新一代预训练模型，包括GLM-4-9B、GLM-4-9B-Chat、GLM-4-9B-Chat-1M和GLM-4V-9B。这些模型在语义理解、数学推理、代码执行等方面表现出色，支持多达26种语言，并具备网页浏览、代码执行等高级功能。GLM-4V-9B模型还具备高分辨率的视觉理解能力，适合多模态应用场景。

自然对话场景下的文字转语音模型

ChatTTS是一个为对话场景设计的声音生成模型，特别适用于大型语言模型助手的对话任务，以及对话式音频和视频介绍等应用。它支持中英文，通过使用约10万小时的中英文数据训练，展现出高质量和自然度的语音合成能力。

Falcon 2 是一款开源、多语言、多模态的模型，具备图像到文本转换能力。

Falcon 2 是一款具有创新功能的生成式 AI 模型，为我们创造了一种充满可能性的未来路径，只有想象力才是限制。Falcon 2 采用开源许可证，具备多语言和多模态的能力，其中独特的图像到文本转换功能标志着 AI 创新的重大进展。

OpenVoice V2是一款支持多语言的语音合成模型，提供高质量的语音克隆与风格控制功能。

OpenVoice V2是一款文本到语音（Text-to-Speech, TTS）的模型，它在2024年4月发布，包含了V1的所有功能，并进行了改进。它采用了不同的训练策略，提供了更好的音质，支持英语、西班牙语、法语、中文、日语和韩语等多种语言。此外，它还允许商业用途的免费使用。OpenVoice V2能够精确地克隆参考音调色彩，并在多种语言和口音中生成语音。它还支持零样本跨语言语音克隆，即生成语音的语言和参考语音的语言不需要在大规模多语种训练数据集中出现。

基于少量语音样本生成逼真的人声音频

Voice Engine是一种先进的语音合成模型,它仅需15秒的语音样本,便能生成与原始说话人极为相似的自然语音。该模型广泛应用于教育、娱乐、医疗等领域,可为非读写人群提供朗读辅助、为视频和播客内容翻译语音、为非语言人群赋予独特语音等。其显著优势在于所需语音样本少、生成语音质量高、支持多语种。Voice Engine目前处于小规模预览阶段,OpenAI正在与各界人士探讨其潜在应用和伦理挑战。

多模态大型语言模型

AnyGPT是一个统一的多模态大型语言模型,利用离散表示进行各种模态的统一处理,包括语音、文本、图像和音乐。AnyGPT可以在不改变当前大型语言模型架构或训练范式的情况下稳定训练。它完全依赖于数据级预处理,促进了新模态无缝集成到语言模型中,类似于新的语言的加入。我们构建了一个用于多模态对齐预训练的以文本为中心的多模态数据集。利用生成模型,我们合成了第一个大规模的任意到任意的多模态指令数据集。它由10.8万个多轮对话样例组成,多种模态交织在一起,因此使模型能够处理任意组合的多模态输入和输出。实验结果表明,AnyGPT能够促进任意到任意的多模态对话,同时在所有模态上达到与专用模型相当的性能,证明了离散表示可以有效且方便地在语言模型中统一多个模态。

实时语音翻译,支持100多种语言的会议、通话和聊天

Byrdhouse提供基于AI的实时语音翻译和字幕翻译,支持100多种语言,可用于你的会议、通话和聊天。Byrdhouse让我们不再为实时翻译操心,让你可以专注于与全球团队和国际合作伙伴的沟通协作。通过Byrdhouse,参会者无需笔记就可以投入到对话中。还可以获得不同语言的会议记录和文字记录。Byrdhouse帮助建立一个包容的文化,让每一个人的声音都能被倾听,无论你说什么语言。

转换和翻译 YouTube 视频中的声音

TurnVoice 是一个命令行工具，可以转换和翻译 YouTube 视频中的声音。它提供了语音转换和语音翻译的功能，可以替换特定的发言人声音，支持本地文件处理，并保留原始背景音频。该工具使用了多个语音合成引擎，并支持多种语言。TurnVoice 适用于各种场景，如创意视频制作、语音翻译等。该产品目前处于开发阶段，支持的功能和定价等详细信息请参考官方网站。

通用语音识别模型

Whisper 是一个通用的语音识别模型。它经过大量多样化音频的训练，并且是一个多任务模型，可以进行多语言语音识别、语音翻译和语种识别。

精准翻译，帮你走遍世界

智能翻译是一款功能强大的翻译工具，能够快速准确地将文本、语音进行翻译。具有实时翻译、离线翻译、语音转文本等功能。同时支持多种语言互译，为用户提供便捷的国际交流工具。定价灵活，提供免费和付费套餐供选择。定位于个人用户、学生、商务人士等。

超逼真AI语音生成

Voxify是一款超逼真的AI语音生成工具，使用先进的人工智能技术，能够在几分钟内创建出真实、自然的语音合成。支持超过140种语言和口音，并且还可以添加情感效果。我们提供高质量、多语言支持、快速交付、可定制的语音合成服务，价格合理，是最便宜的AI语音生成工具。

快速准确 稳定可靠的人工智能翻译平台

讯飞智能翻译是一款快速准确、稳定可靠的人工智能翻译平台。支持文档翻译、文本翻译、语音翻译和图片翻译等多种功能。通过23种文档格式的支持，保留原版格式样式和排版，支持文档内图片翻译。覆盖140种语种互译，支持源语言语种自动检测，实现快速翻译。结合讯飞先进的语音识别和翻译技术，满足跨语言的沟通交流。输入图片，即可快速识别图片中的文本内容，进行翻译。提供SaaS、私有化部署和API接口等多种解决方案，满足不同企业的需求。

AI语音合成工具，真实度超乎想象

Voice Jacket是一款先进的文本到语音工具，使用先进的算法生成多语言的自然语音。适用于视频、音频和多媒体内容，让您轻松创建专业级别的语音合成，吸引和吸引您的受众。立即尝试Voice Jacket，体验我们先进的文本到语音技术的力量。

全球视频翻译利器

Dubbify是一款使视频翻译变得简单、快速和准确的工具。我们支持57种语言的内容输入，并提供20种语言的人工智能语音翻译。无论您是单独使用我们的服务还是通过API集成，我们都能满足您的需求。欢迎注册即可获得5美元的免费额度。

AI视频配音 | FolkTalk

FolkTalk是一款全面多语言的AI视频配音产品，能够帮助您在印度和世界其他地区的观众中传播您的影片。FolkTalk提供强大的语音合成技术，能够将视频中的对话自动翻译和配音成多种语言，为您节省时间和资源。无论您是制作宣传片、教育视频还是娱乐内容，FolkTalk都能满足您的需求。具体定价信息请访问官方网站了解。

桌面客户端，语音翻译和语音合成

SpeechLab是一款桌面客户端，提供语音翻译和语音合成功能。它能够帮助用户进行语音翻译，将语言转换成其他语言，同时还能够合成语音，将文字转换成自然流畅的语音。SpeechLab的优势在于其高质量的语音合成技术，可以生成与人类声音相似的合成语音。SpeechLab的定价为免费试用和付费订阅两种方式，具体定价可在官方网站上查看。SpeechLab定位于帮助用户跨越语言障碍，使内容在全球范围内更容易获得。

多模态原生Mixture-of-Experts模型

Aria-Base-64K是Aria系列的基础模型之一，专为研究目的和继续训练而设计。该模型在长文本预训练阶段后形成，经过33B个token（21B多模态，12B语言，69%为长文本）的训练。它适合于长视频问答数据集或长文档问答数据集的继续预训练或微调，即使在资源有限的情况下，也可以通过短指令调优数据集进行后训练，并转移到长文本问答场景。该模型能够理解多达250张高分辨率图像或多达500张中等分辨率图像，并在语言和多模态场景中保持强大的基础性能。

音频驱动的高保真3D人头化身合成技术

GaussianSpeech是一种新颖的方法，它能够从语音信号中合成高保真度的动画序列，创建逼真、个性化的3D人头化身。该技术通过结合语音信号与3D高斯绘制技术，捕捉人类头部表情和细节动作，包括皮肤皱褶和更细微的面部运动。GaussianSpeech的主要优点包括实时渲染速度、自然的视觉动态效果，以及能够呈现多样化的面部表情和风格。该技术背后是大规模多视角音频-视觉序列数据集的创建，以及音频条件变换模型的开发，这些模型能够直接从音频输入中提取唇部和表情特征。

将您的内容转化为智能播客

ElevenReader 是一款利用人工智能技术将PDF、文章、电子书等文本内容转化为播客的应用。它通过AI技术生成智能播客，让用户在任何时间、任何地点都能聆听内容。产品背景信息显示，ElevenLabs致力于通过高质量的AI音频技术，帮助用户以全新的方式消费和体验内容。GenFM on ElevenReader支持多种语言，满足全球用户的需求。

高性能的文本到语音合成模型

OuteTTS-0.2-500M是基于Qwen-2.5-0.5B构建的文本到语音合成模型，它在更大的数据集上进行了训练，实现了在准确性、自然度、词汇量、声音克隆能力以及多语言支持方面的显著提升。该模型特别感谢Hugging Face提供的GPU资助，支持了模型的训练。

先进的多模态图像生成模型，结合文本提示和视觉参考生成高质量图像。

Qwen2vl-Flux是一个结合了Qwen2VL视觉语言理解能力的FLUX框架的先进多模态图像生成模型。该模型擅长基于文本提示和视觉参考生成高质量图像，提供卓越的多模态理解和控制。产品背景信息显示，Qwen2vl-Flux集成了Qwen2VL的视觉语言能力，增强了FLUX的图像生成精度和上下文感知能力。其主要优点包括增强的视觉语言理解、多种生成模式、结构控制、灵活的注意力机制和高分辨率输出。

克隆你的声音，就像 Ctrl+C, Ctrl+V

Voicv是一个尖端的语音克隆平台，可在几分钟内将您的语音转换为数字资产，支持多种语言和零样本学习。该平台结合了先进的AI技术和用户友好的设计，提供专业级别的语音克隆能力。Voicv的主要优点包括零样本语音克隆、多语言支持、实时处理、高准确性、跨平台支持和企业级准备。产品背景信息显示，Voicv致力于通过其技术帮助内容创作者、配音演员等用户以多语言制作内容，同时保持个人品牌和声音特征。

124B参数的多模态大型语言模型

Pixtral-Large-Instruct-2411是由Mistral AI研发的124B参数的大型多模态模型，基于Mistral Large 2构建，展现出前沿级别的图像理解能力。该模型不仅能够理解文档、图表和自然图像，同时保持了Mistral Large 2在文本理解方面的领先地位。它在MathVista、DocVQA、VQAv2等数据集上达到了最先进的性能，是科研和商业应用的强大工具。