产品库

实时AI语音转文字/文字转语音解决方案

Speech Intellect是第一个实时工作的语音转文字/文字转语音解决方案，完全使用了全新的AI专注的数学理论——Sense Theory。它考虑了客户发音的每个单词的意义。我们的解决方案基于自主研发的Sense-to-Sense算法，可以实现文本以带有语调和特定调性的声音重新产生。该解决方案可以轻松集成到各种业务场景中，如视频游戏中以人形声音复制脚本文本、呼叫中心与客户的交流、网站上的虚拟对话、智能家居中的舒适对话等等。我们的算法使用的是Sense，与市场上其他解决方案的算法不同。

一个开源文本转语音系统，致力于实现人类语音的自然化。

Orpheus TTS 是一个基于 Llama-3b 模型的开源文本转语音系统，旨在提供更加自然的人类语音合成。它具备较强的语音克隆能力和情感表达能力，适合各种实时应用场景。该产品是免费的，旨在为开发者和研究者提供便捷的语音合成工具。

一个用于生成对话式语音的模型，支持从文本和音频输入生成高质量的语音。

CSM 是一个由 Sesame 开发的对话式语音生成模型，它能够根据文本和音频输入生成高质量的语音。该模型基于 Llama 架构，并使用 Mimi 音频编码器。它主要用于语音合成和交互式语音应用，例如语音助手和教育工具。CSM 的主要优点是能够生成自然流畅的语音，并且可以通过上下文信息优化语音输出。该模型目前是开源的，适用于研究和教育目的。

Sesame AI 是一款先进的语音合成平台，能够生成自然对话式语音并具备情感智能。

Sesame AI 代表了下一代语音合成技术，通过结合先进的人工智能技术和自然语言处理，能够生成极其逼真的语音，具备真实的情感表达和自然的对话流程。该平台在生成类似人类的语音模式方面表现出色，同时能够保持一致的性格特征，非常适合内容创作者、开发者和企业，用于为其应用程序增添自然语音功能。目前尚不清楚其具体价格和市场定位，但其强大的功能和广泛的应用场景使其在市场上具有较高的竞争力。

基于Llama框架的TTS基础模型，兼容16万小时标记化语音数据。

Llasa是一个基于Llama框架的文本到语音（TTS）基础模型，专为大规模语音合成任务设计。该模型利用16万小时的标记化语音数据进行训练，具备高效的语言生成能力和多语言支持。其主要优点包括强大的语音合成能力、低推理成本和灵活的框架兼容性。该模型适用于教育、娱乐和商业场景，能够为用户提供高质量的语音合成解决方案。目前该模型在Hugging Face上免费提供，旨在推动语音合成技术的发展和应用。

Octave TTS 是首个能够理解文本含义的语音合成模型，能够生成富有情感和风格的语音。

Octave TTS 是由 Hume AI 开发的下一代语音合成模型，它不仅能够将文本转换为语音，还能理解文本的语义和情感，从而生成富有表现力的语音输出。该技术的核心优势在于其对语言的深度理解能力，使其能够根据上下文生成自然、生动的语音，适用于多种应用场景，如有声读物、虚拟助手和情感化语音交互等。Octave TTS 的出现标志着语音合成技术从简单的文本朗读向更具表现力和交互性的方向发展，为用户提供更加个性化和情感化的语音体验。目前，该产品主要面向开发者和创作者，通过 API 和平台提供服务，未来有望扩展到更多语言和应用场景。

工业级可控高效的零样本文本到语音系统

IndexTTS 是一种基于 GPT 风格的文本到语音（TTS）模型，主要基于 XTTS 和 Tortoise 进行开发。它能够通过拼音纠正汉字发音，并通过标点符号控制停顿。该系统在中文场景中引入了字符-拼音混合建模方法，显著提高了训练稳定性、音色相似性和音质。此外，它还集成了 BigVGAN2 来优化音频质量。该模型在数万小时的数据上进行训练，性能超越了当前流行的 TTS 系统，如 XTTS、CosyVoice2 和 F5-TTS。IndexTTS 适用于需要高质量语音合成的场景，如语音助手、有声读物等，其开源性质也使其适合学术研究和商业应用。

开源的工业级普通话自动语音识别模型，支持多种应用场景。

FireRedASR 是一个开源的工业级普通话自动语音识别模型，采用 Encoder-Decoder 和 LLM 集成架构。它包含两个变体：FireRedASR-LLM 和 FireRedASR-AED，分别针对高性能和高效能需求设计。该模型在普通话基准测试中表现出色，同时在方言和英文语音识别上也有良好表现。它适用于需要高效语音转文字的工业级应用，如智能助手、视频字幕生成等。模型开源，便于开发者集成和优化。

Llasa-1B 是一个基于 LLaMA 的文本转语音 (TTS) 模型，支持中英文语音合成。

Llasa-1B 是一个由香港科技大学音频实验室开发的文本转语音模型。它基于 LLaMA 架构，通过结合 XCodec2 代码本中的语音标记，能够将文本转换为自然流畅的语音。该模型在 25 万小时的中英文语音数据上进行了训练，支持从纯文本生成语音，也可以利用给定的语音提示进行合成。其主要优点是能够生成高质量的多语言语音，适用于多种语音合成场景，如有声读物、语音助手等。该模型采用 CC BY-NC-ND 4.0 许可证，禁止商业用途。

将语音转换为博客文章的助手

Robo Blogger是一个专注于将语音转换为博客文章的人工智能助手。它通过捕捉自然语言中的创意，将其结构化为有条理的博客内容，同时可以结合参考资料以确保文章的准确性和深度。这个工具基于之前Report mAIstro项目的概念，专为博客文章创作优化。通过分离创意捕捉和内容结构化，Robo Blogger帮助保持原始想法的真实性，同时确保专业呈现。

高效、多语种的语音合成模型

CosyVoice语音生成大模型2.0-0.5B是一个高性能的语音合成模型，支持零样本、跨语言的语音合成，能够根据文本内容直接生成相应的语音输出。该模型由通义实验室提供，具有强大的语音合成能力和广泛的应用场景，包括但不限于智能助手、有声读物、虚拟主播等。模型的重要性在于其能够提供自然、流畅的语音输出，极大地丰富了人机交互的体验。

开源的全双工音频生成基础模型

hertz-dev是Standard Intelligence开源的全双工、仅音频的变换器基础模型，拥有85亿参数。该模型代表了可扩展的跨模态学习技术，能够将单声道16kHz语音转换为8Hz潜在表示，具有1kbps的比特率，性能优于其他音频编码器。hertz-dev的主要优点包括低延迟、高效率和易于研究人员进行微调和构建。产品背景信息显示，Standard Intelligence致力于构建对全人类有益的通用智能，而hertz-dev是这一旅程的第一步。

端到端中英语音对话模型

GLM-4-Voice是由清华大学团队开发的端到端语音模型，能够直接理解和生成中英文语音，进行实时语音对话。它通过先进的语音识别和合成技术，实现了语音到文本再到语音的无缝转换，具备低延迟和高智商的对话能力。该模型在语音模态下的智商和合成表现力上进行了优化，适用于需要实时语音交互的场景。

多模态语言模型，融合文本和语音

Spirit LM是一个基础多模态语言模型，能够自由混合文本和语音。该模型基于一个7B预训练的文本语言模型，通过持续在文本和语音单元上训练来扩展到语音模式。语音和文本序列被串联为单个令牌流，并使用一个小的自动策划的语音-文本平行语料库，采用词级交错方法进行训练。Spirit LM有两个版本：基础版使用语音音素单元（HuBERT），而表达版除了音素单元外，还使用音高和风格单元来模拟表达性。对于两个版本，文本都使用子词BPE令牌进行编码。该模型不仅展现了文本模型的语义能力，还展现了语音模型的表达能力。此外，我们展示了Spirit LM能够在少量样本的情况下跨模态学习新任务（例如ASR、TTS、语音分类）。

基于深度学习的高质量文本到语音合成模型

F5-TTS是由SWivid团队开发的一个文本到语音合成（TTS）模型，它利用深度学习技术将文本转换为自然流畅、忠实于原文的语音输出。该模型在生成语音时，不仅追求高自然度，还注重语音的清晰度和准确性，适用于需要高质量语音合成的各种应用场景，如语音助手、有声读物制作、自动新闻播报等。F5-TTS模型在Hugging Face平台上发布，用户可以方便地下载和部署，支持多种语言和声音类型，具有很高的灵活性和可扩展性。

使用Llama模型的语音合成工具

Llama 3.2 3b Voice 是基于Hugging Face平台的一款语音合成模型，能够将文本转换为自然流畅的语音。该模型采用了先进的深度学习技术，能够模仿人类说话的语调、节奏和情感，适用于多种场景，如语音助手、有声读物、自动播报等。

微软亚洲研究院开发的语音合成技术

VALL-E 2 是微软亚洲研究院推出的一款语音合成模型，它通过重复感知采样和分组编码建模技术，大幅提升了语音合成的稳健性与自然度。该模型能够将书面文字转化为自然语音，适用于教育、娱乐、多语言交流等多个领域，为提高无障碍性、增强跨语言交流等方面发挥重要作用。

实时对话式人工智能，一键式API接入。

Deepgram Voice Agent API 是一个统一的语音到语音API，它允许人类和机器之间进行自然听起来的对话。该API由行业领先的语音识别和语音合成模型提供支持，能够自然且实时地听、思考和说话。Deepgram致力于通过其语音代理API推动语音优先AI的未来，通过集成先进的生成AI技术，打造能够进行流畅、类似人类语音代理的业务世界。

全栈式虚拟人多场景应用服务

讯飞虚拟人利用最新的AI虚拟形象技术，结合语音识别、语义理解、语音合成、NLP、星火大模型等AI核心技术，提供虚拟人形象资产构建、AI驱动、多模态交互的多场景虚拟人产品服务。一站式虚拟人音视频内容生产，AIGC助力创作灵活高效；在虚拟'AI演播室'中输入文本或录音，一键完成音、视频作品的输出，3分钟内渲染出稿。

新型基础语音对语音模型，提供人性化对话体验。

EVI 2是Hume AI推出的新型基础语音对语音模型，能够以接近人类的自然方式与用户进行流畅对话。它具备快速响应、理解用户语调、生成不同语调、以及执行特定请求的能力。EVI 2通过特殊训练增强了情感智能，能够预测并适应用户的偏好，维持有趣且引人入胜的性格和个性。此外，EVI 2还具有多语言能力，能够适应不同应用场景和用户需求。

沟通无界，让每次对话都创造价值。

心辰Lingo语音大模型是一款先进的人工智能语音模型，专注于提供高效、准确的语音识别和处理服务。它能够理解并处理自然语言，使得人机交互更加流畅和自然。该模型背后依托西湖心辰强大的AI技术，致力于在各种场景下提供高质量的语音交互体验。

开源多模态大型语言模型，支持实时语音输入和流式音频输出。

Mini-Omni是一个开源的多模态大型语言模型，能够实现实时的语音输入和流式音频输出的对话能力。它具备实时语音到语音的对话功能，无需额外的ASR或TTS模型。此外，它还可以在思考的同时进行语音输出，支持文本和音频的同时生成。Mini-Omni通过'Audio-to-Text'和'Audio-to-Audio'的批量推理进一步增强性能。

开源的语音到语音转换模块

speech-to-speech 是一个开源的模块化GPT4-o项目，通过语音活动检测、语音转文本、语言模型和文本转语音等连续部分实现语音到语音的转换。它利用了Transformers库和Hugging Face hub上可用的模型，提供了高度的模块化和灵活性。

音频指令演示，体验智能交互。

Qwen2 Audio Instruct Demo 是一个基于音频指令的交互式演示网站，它利用最新的人工智能技术，让用户通过语音指令与网页进行互动。这种技术不仅增强了用户体验，还为残障人士提供了更便捷的访问方式。产品背景信息包括其开发团队和技术支持，价格定位为免费试用，主要面向对人工智能交互感兴趣的用户群体。

实时语音交互的人工智能对话系统。

Listening-while-Speaking Language Model (LSLM)是一款旨在提升人机交互自然度的人工智能对话模型。它通过全双工建模(FDM)技术，实现了在说话时同时监听的能力，增强了实时交互性，尤其是在生成内容不满意时能够被打断和实时响应。LSLM采用了基于token的解码器仅TTS进行语音生成，以及流式自监督学习(SSL)编码器进行实时音频输入，通过三种融合策略（早期融合、中期融合和晚期融合）探索最佳交互平衡。

语音助手插件，提升GPT交互体验

Voice Assistant Plugin for GPT 是一款专为GPT设计的语音助手插件，旨在通过语音交互提升用户体验。该插件结合了先进的语音识别技术，允许用户通过语音命令与GPT进行交流，实现更加自然和便捷的对话体验。产品背景信息显示，该插件由Air Tech Studio开发，支持多语言，并且注重用户数据安全，不与第三方分享任何数据。

AI驱动的个人电脑助手

PC Agent是一款利用人工智能技术，通过屏幕内容和音频转录来理解用户的电脑环境，从而提供更加精准的辅助服务。它旨在解决当前聊天机器人的局限性，通过更深层次的交互提升用户体验。产品背景信息显示，PC Agent注重于提升个人电脑的使用效率，其主要优点包括智能理解环境、提供个性化帮助和持续的功能更新。

自然交互的语音理解和生成基础模型

FunAudioLLM是一个旨在增强人类与大型语言模型(Large Language Models, LLMs)之间自然语音交互的框架。它包含两个创新模型：SenseVoice负责高精度多语种语音识别、情绪识别和音频事件检测；CosyVoice负责自然语音生成，支持多语种、音色和情绪控制。SenseVoice支持超过50种语言，具有极低的延迟；CosyVoice擅长多语种语音生成、零样本上下文生成、跨语言语音克隆和指令跟随能力。相关模型已在Modelscope和Huggingface上开源，并在GitHub上发布了相应的训练、推理和微调代码。

让应用通过语音与文本的转换实现智能交互。

Azure 认知服务语音是微软推出的一款语音识别与合成服务，支持超过100种语言和方言的语音转文本和文本转语音功能。它通过创建可处理特定术语、背景噪音和重音的自定义语音模型，提高听录的准确度。此外，该服务还支持实时语音转文本、语音翻译、文本转语音等功能，适用于多种商业场景，如字幕生成、通话后听录分析、视频翻译等。

革命性AI技术，多模态智能互动

GPT-4o是OpenAI的最新创新，代表了人工智能技术的前沿。它通过真正的多模态方法扩展了GPT-4的功能，包括文本、视觉和音频。GPT-4o以其快速、成本效益和普遍可访问性，革命性地改变了我们与AI技术的互动。它在文本理解、图像分析和语音识别方面表现出色，提供流畅直观的AI互动，适合从学术研究到特定行业需求的多种应用。