联合语音转录和实体识别的先进模型
Whisper-NER是一个创新的模型，它允许同时进行语音转录和实体识别。该模型支持开放类型的命名实体识别（NER），能够识别多样化和不断演变的实体。Whisper-NER旨在作为自动语音识别（ASR）和NER下游任务的强大基础模型，并且可以在特定数据集上进行微调以提高性能。
统一的开放命名实体和语音识别模型
WhisperNER是一个结合了自动语音识别（ASR）和命名实体识别（NER）的统一模型，具备零样本能力。该模型旨在作为ASR带NER的下游任务的强大基础模型，并可以在特定数据集上进行微调以提高性能。WhisperNER的重要性在于其能够同时处理语音识别和实体识别任务，提高了处理效率和准确性，尤其在多语言和跨领域的场景中具有显著优势。
Sandra AI，专为汽车分销设计的智能语音代理。
Sandra AI是一个智能语音代理，专为汽车分销行业设计，提供全天候的电话接听服务，帮助经销商不错过任何来电，提高客户满意度和业务机会。Sandra AI具有深厚的行业知识，能够像真正的专家一样与客户交流，并且能够无缝集成到经销商的软件中，实现快速、平滑的部署。产品背景信息显示，Sandra AI致力于通过人工智能技术优化客户服务，让经销商能够专注于核心业务，同时提升团队的工作效率。
语音到语音翻译系统，保留声音和等时性特征
TransVIP是由微软研究院开发的一个创新的语音到语音翻译系统，它能够在翻译过程中保留说话者的声音特征和等时性（即说话的节奏和停顿），这对于视频配音等场景非常有用。TransVIP通过联合概率实现端到端的推理，同时利用不同的数据集进行级联处理。该技术的主要优点包括高适应性、声音特征保留以及等时性保持，这使得它在多语言交流和内容本地化领域具有重要价值。
多模态语音大型语言模型
ultravox-v0_4_1-mistral-nemo是一个基于预训练的Mistral-Nemo-Instruct-2407和whisper-large-v3-turbo的多模态语音大型语言模型（LLM）。该模型能够同时处理语音和文本输入，例如，一个文本系统提示和一个语音用户消息。Ultravox通过特殊的<|audio|>伪标记将输入音频转换为嵌入，并生成输出文本。未来版本计划扩展标记词汇以支持生成语义和声学音频标记，进而可以输入到声码器中产生语音输出。该模型由Fixie.ai开发，采用MIT许可。
多模态语音大型语言模型
fixie-ai/ultravox-v0_4_1-llama-3_1-70b是一个基于预训练的Llama3.1-70B-Instruct和whisper-large-v3-turbo的大型语言模型，能够处理语音和文本输入，生成文本输出。该模型通过特殊伪标记<|audio|>将输入音频转换为嵌入，并与文本提示合并后生成输出文本。Ultravox的开发旨在扩展语音识别和文本生成的应用场景，如语音代理、语音到语音翻译和口语音频分析等。该模型遵循MIT许可，由Fixie.ai开发。
多模态语音大型语言模型
fixie-ai/ultravox-v0_4_1-llama-3_1-8b是一个基于预训练的Llama3.1-8B-Instruct和whisper-large-v3-turbo的大型语言模型，能够处理语音和文本输入，生成文本输出。该模型通过特殊的<|audio|>伪标记将输入音频转换为嵌入，并生成输出文本。未来版本计划扩展标记词汇以支持生成语义和声学音频标记，进而可以用于声码器产生语音输出。该模型在翻译评估中表现出色，且没有偏好调整，适用于语音代理、语音到语音翻译、语音分析等场景。
下一代语音AI，打造自然沟通的AI语音代理。
Ultravox.ai是一个先进的语音语言模型（SLM），直接处理语音，无需转换为文本，实现更自然、流畅的对话。它支持多语言，易于适应新语言或口音，确保与不同受众的顺畅沟通。产品背景信息显示，Ultravox.ai是一个开源模型，用户可以根据自己的需求进行定制和部署，价格为每分钟5美分。
AI助手，通过语音和动画指导用户，提升网站交互体验。
Speek是一款AI驱动的助手，通过语音和动画鼠标指针指导用户在网站上的操作，帮助解答问题、引导用户了解网站功能，并简化购买决策。它通过提供实时帮助，结合支持和引导，快速安装并立即开始工作，改善用户体验，提升销售，并减少客户支持查询。
将书籍转化为有声书，脚本转化为播客的全面工作流程
ElevenLabs Projects 是一个专注于长音频内容制作的平台，它允许用户将书籍和脚本转换成有声书和播客。该产品支持多种文件格式，拥有广泛的语音库，并提供情感范围和上下文适应的AI语音技术。它还提供了一系列高级功能，如多语言支持、特定文本片段的语音分配和片段编辑。ElevenLabs Projects 以其高质量的AI音频技术，帮助创作者和企业在全球范围内传播他们的故事。
基于LLM的智能字幕助手，一键生成高质量视频字幕
卡卡字幕助手（VideoCaptioner）是一款功能强大的视频字幕配制软件，利用大语言模型进行字幕智能断句、校正、优化、翻译，实现字幕视频全流程一键处理。产品无需高配置，操作简单，内置基础LLM模型，保证开箱即用，且消耗模型Token少，适合视频制作者和内容创作者。
用于全球协作的实时语音翻译
DeepL Voice是一款提供即时、安全的语音翻译产品，旨在帮助全球团队打破语言障碍，实现无缝沟通。它利用先进的人工智能技术，提供高质量的语音翻译服务，支持多种语言，并集成到多种平台中，如Microsoft Teams。DeepL Voice的主要优点包括低延迟、高性能的翻译，无与伦比的翻译质量，以及以安全为核心的设计理念。
AI语音代理测试与监控平台
Vocera是一个由Y Combinator支持的AI语音代理测试与监控平台，它允许用户通过模拟各种场景和使用真实音频来测试和评估AI语音代理的性能。该平台的主要优点在于能够快速启动测试，减少将AI代理投入生产环境的时间，同时提供实时监控和性能分析，确保AI代理在各种对话场景中都能提供无缝的用户体验。Vocera适用于需要快速创建和测试AI语音代理的企业和开发者，特别是在合规性要求较高的行业中，如医疗、法律等。
PlayDialog，打造流畅、富有情感的对话体验。
PlayDialog是Play.ai推出的一款端到端AI语音模型，它利用对话的历史背景来控制韵律、语调、情感和节奏，以提供更自然的声音，为匹配人类在现实生活情境中的说话方式树立了新标准。PlayDialog适合创建真实的对话体验，如旁白、声音配音、合成播客以及在商业环境中支持沉浸式和吸引人的一对一语音体验。PlayDialog beta在盲测中以2:1的比例超越了市场上的领先竞争模型，表达性作为偏好因素得分最高。
AI驱动的视频生成工具，一键生成高质量营销视频
小视频宝（ClipTurbo）是一个AI驱动的视频生成工具，旨在帮助用户轻松创建高质量的营销视频。该工具利用AI技术处理文案、翻译、图标匹配和TTS语音合成，最终使用manim渲染视频，避免了纯生成式AI被平台限流的问题。小视频宝支持多种模板，用户可以根据需要选择分辨率、帧率、宽高比或屏幕方向，模板将自动适配。此外，它还支持多种语音服务，包括内置的EdgeTTS语音。目前，小视频宝仍处于早期开发阶段，仅提供给三花AI的注册用户。
将文件和数据转化为引人入胜的音频创作。
PlayNote是一款利用尖端AI语音合成技术，将各种文件和数据转换成音频创作的产品。它支持多种文件格式，包括PDF、CSV、TXT等文档，以及PNG、JPEG等图片格式，还有MP4、MOV等视频格式，以及WAV、MP3等音频格式。用户可以上传文件，PlayNote会将文件内容转化为音频，方便用户在各种场合下收听。这项技术的重要性在于它能够提高信息的可访问性，特别是对于视觉障碍人士或者在无法阅读的情况下需要获取信息的用户。PlayNote的背景信息显示，它是由PlayAI提供的，旨在通过技术创新提升工作效率和生活质量。关于价格，用户可以访问Pricing页面了解更多详情。
轻松捕捉和完善你的音频创意
Bangin' Audio Recorder是一款专为苹果平台设计的应用程序，旨在简化声音捕捉和想法发展的过程。由音乐作曲家、开发者Alistair Cooper创立，该应用支持高质量单声道或立体声音频录制，具备定制的语音时间戳算法，便于用户扫描和跳过语音录音。它还提供星级评分功能，帮助用户筛选出最佳创意，并支持标签、项目和搜索功能，以保持用户对重要录音的专注。此外，它还具备iCloud同步功能，确保用户在所有苹果设备上的录音保持最新。
实时语音交互数字人，支持端到端语音方案
VideoChat是一个实时语音交互数字人项目，支持端到端语音方案（GLM-4-Voice - THG）和级联方案（ASR-LLM-TTS-THG）。用户可以自定义数字人的形象和音色，支持音色克隆，无需训练，首包延迟低至3秒。该项目利用了最新的人工智能技术，包括自动语音识别（ASR）、大型语言模型（LLM）、端到端多模态大型语言模型（MLLM）、文本到语音（TTS）和说话头生成（THG），为用户提供了一个高度定制化和低延迟的交互体验。
© 2024 AIbase 备案号：闽ICP备08105208号-14