产品库

Mistral Small 3 是一款开源的 24B 参数模型，专为低延迟和高效性能设计。

Mistral Small 3 是由 Mistral AI 推出的一款开源语言模型，具有 24B 参数，采用 Apache 2.0 许可证。该模型专为低延迟和高效性能设计，适合需要快速响应的生成式 AI 任务。它在多任务语言理解（MMLU）基准测试中达到 81% 的准确率，并且能够以每秒 150 个标记的速度生成文本。Mistral Small 3 的设计目标是提供一个强大的基础模型，用于本地部署和定制化开发，支持多种行业应用，如金融服务、医疗保健和机器人技术等。该模型未使用强化学习（RL）或合成数据训练，因此在模型生产管线中处于较早期阶段，适合用于构建推理能力。

低延迟语音模型，生成逼真语音

Sonic是由Carteisa团队开发的低延迟语音模型，旨在为各种设备提供逼真的语音生成能力。该模型利用了创新的状态空间模型架构，以实现高分辨率音频和视频的高效、低延迟生成。Sonic模型的延迟仅为135毫秒，是同类模型中最快的。Carteisa团队专注于优化智能的效率，使它更快、更便宜、更易于访问。Sonic模型的发布，标志着实时对话式AI和长期记忆的计算平台的初步进展，预示着未来AI在实时游戏、客户支持等领域的新体验。

低延迟的实时语音交互API

Realtime API 是 OpenAI 推出的一款低延迟语音交互API，它允许开发者在应用程序中构建快速的语音到语音体验。该API支持自然语音到语音对话，并可处理中断，类似于ChatGPT的高级语音模式。它通过WebSocket连接，支持功能调用，使得语音助手能够响应用户请求，触发动作或引入新上下文。该API的推出，意味着开发者不再需要组合多个模型来构建语音体验，而是可以通过单一API调用实现自然对话体验。

全本地AI语音聊天工具，低延迟，高效率。

voicechat2是一个基于WebSocket的快速、完全本地化的AI语音聊天应用程序，使用户能够在本地环境中实现语音到语音的即时通讯。它利用了AMD RDNA3显卡和Faster Whisper技术，显著降低了语音通讯的延迟，提高了通讯效率。该产品适用于需要快速响应和实时通讯的开发者和技术人员。

开源实现分布式低通信AI模型训练

OpenDiLoCo是一个开源框架，用于实现和扩展DeepMind的分布式低通信(DiLoCo)方法，支持全球分布式AI模型训练。它通过提供可扩展的、去中心化的框架，使得在资源分散的地区也能高效地进行AI模型的训练，这对于推动AI技术的普及和创新具有重要意义。

Gemini 2.0 是谷歌推出的最新一代生成式 AI 模型，包含 Flash、Flash-Lite 和 Pro 版本。

Gemini 2.0 是谷歌在生成式 AI 领域的重要进展，代表了最新的人工智能技术。它通过强大的语言生成能力，为开发者提供高效、灵活的解决方案，适用于多种复杂场景。Gemini 2.0 的主要优点包括高性能、低延迟和简化的定价策略，旨在降低开发成本并提高生产效率。该模型通过 Google AI Studio 和 Vertex AI 提供，支持多种模态输入，具备广泛的应用前景。

低延迟、高质量的端到端语音交互模型

LLaMA-Omni是一个基于Llama-3.1-8B-Instruct构建的低延迟、高质量的端到端语音交互模型，旨在实现GPT-4o级别的语音能力。该模型支持低延迟的语音交互，能够同时生成文本和语音响应。它在不到3天的时间内使用仅4个GPU完成训练，展示了其高效的训练能力。

全新的Mistral Small，针对低延迟工作负载进行优化

Mistral Small 是针对低延迟和成本优化的新型模型，优于 Mixtral 8x7B，具有更低的延迟，是开放权重产品和旗舰模型之间的卓越中间解决方案。Mistral Small 具有与 Mistral Large 相同的创新，包括RAG-enablement和函数调用。我们简化了终端点供应，提供开放权重终端点以具有竞争性的定价，并推出了新的优化模型终端点 mistral-small-2402 和 mistral-large-2402。

Stability AI 生成模型是一个开源的生成模型库。

Stability AI 生成模型是一个开源的生成模型库，提供了各种生成模型的训练、推理和应用功能。该库支持各种生成模型的训练，包括基于 PyTorch Lightning 的训练，提供了丰富的配置选项和模块化的设计。用户可以使用该库进行生成模型的训练，并通过提供的模型进行推理和应用。该库还提供了示例训练配置和数据处理的功能，方便用户进行快速上手和定制。

轻松构建内部工具的开源低代码平台

ILLA Cloud是一个开源的低代码平台，具备React组件库，可在几分钟内构建内部应用程序。它提供了多种现成的组件和数据库集成，可用于构建AI工具、管理面板、仪表盘等。拥有美观的用户界面、实时协作、与任何数据源连接、可定制的组件等功能。ILLA Cloud可以帮助您以极快的速度构建内部工具。

一个开源的、增强检索的生成式聊天机器人。

Verba 是一个开源应用程序，旨在提供端到端、流畅且用户友好的检索增强生成（RAG）接口。它结合了最先进的RAG技术和Weaviate的上下文感知数据库，支持本地或通过云部署，可以轻松探索数据集并提取洞见。

使用低延迟语音识别和合成模型与 AI 对话。

Unmute 是一款创新的语音识别与合成工具，旨在使用户能够通过自然语言与 AI 进行高效的互动。其低延迟技术确保用户体验流畅，适合需要实时反馈的场景。该产品将以开源形式发布，推动更多开发者和用户的参与。当前尚未公布价格，预计将采取免费和付费相结合的模式。

开源的MuZero实现，分布式AI框架

MuKoe是一个完全开源的MuZero实现，使用Ray作为分布式编排器在GKE上运行。它提供了Atari游戏的示例，并通过Google Next 2024的演讲提供了代码库的概览。MuKoe支持在CPU和TPU上运行，具有特定的硬件要求，适合需要大规模分布式计算资源的AI研究和开发。

一站式AI数字人系统，支持视频合成、声音合成、声音克隆。

AIGCPanel是一个简单易用的一站式AI数字人系统，小白也可使用。支持视频合成、声音合成、声音克隆，简化本地模型管理、一键导入和使用AI模型。产品背景信息显示，AIGCPanel旨在通过集成多种AI功能，提升数字人素材管理的效率，降低技术门槛，使非专业人士也能轻松管理和使用AI数字人。产品基于AGPL-3.0开源，完全免费，可以直接使用。

比较、测试、构建和部署低代码AI模型

Contentable.ai是一个综合的AI模型测试平台，可以帮助用户快速测试、原型和共享AI模型。它提供了一套完整的工具和功能，使用户能够轻松构建和部署AI模型，从而提高工作效率。

开源云平台，实现超低延迟的语音和视频AI。

Daily Bots是一个开源云平台，专注于提供超低延迟的语音和视频人工智能服务。它支持开发者构建和托管实时的全球基础设施上的代理，并利用快速增长的开源实时框架。该平台拥有全球实时云，提供5亿终端用户的13毫秒首跳延迟，符合SOC 2、HIPAA和GDPR标准。此外，Daily Bots提供了电话和工作流程的一站式企业连接解决方案，以及完整的PSTN和SIP堆栈。

快速AI推理，为开源模型提供即时智能。

Groq是一家提供高性能AI芯片和云服务的公司，专注于为AI模型提供超低延迟的推理服务。其产品GroqCloud™自2024年2月推出以来，已经有超过467,000名开发者使用。Groq的AI芯片技术由Meta的首席AI科学家Yann LeCun提供技术支持，并且获得了BlackRock领投的6.4亿美元融资，公司估值达到28亿美元。Groq的技术优势在于其能够无缝地从其他提供商迁移到Groq，仅需更改三行代码，并且与OpenAI的端点兼容。Groq的AI芯片旨在挑战Nvidia在AI芯片市场的领导地位，为开发者和企业提供更快、更高效的AI推理解决方案。

AlloyDB AI助力PostgreSQL构建生成式AI应用

AlloyDB AI是Google Cloud推出的一项数据库服务,可帮助开发者在PostgreSQL数据库上构建生成式AI应用。它提供了熟悉的PostgreSQL接口,支持向量、模型管理,并可深度集成Google Vertex AI,轻松访问各种生成式AI模型。AlloyDB AI拥有企业级的可扩展性、可用性与安全性,可实现超高性能的向量运算,是构建PostgreSQL生成式AI应用的理想选择。

基于Linux环境快速部署开源大模型的教程

该项目是一个围绕开源大模型的全流程指导教程,包括环境配置、模型部署、高效微调等,简化开源大模型的使用和应用,让更多普通学习者能够使用开源大模型。项目面向对开源大模型感兴趣且想自主上手的学习者,提供详细的环境配置、模型部署和微调方法。

Hibiki 是一款用于流式语音翻译（即同声传译）的模型，能够实时逐块生成正确翻译。

Hibiki 是一款专注于流式语音翻译的先进模型。它通过实时积累足够的上下文信息来逐块生成正确的翻译，支持语音和文本翻译，并可进行声音转换。该模型基于多流架构，能够同时处理源语音和目标语音，生成连续的音频流和时间戳文本翻译。其主要优点包括高保真语音转换、低延迟实时翻译以及对复杂推理策略的兼容性。Hibiki 目前支持法语到英语的翻译，适合需要高效实时翻译的场景，如国际会议、多语言直播等。模型开源免费，适合开发者和研究人员使用。

Oracle云平台的生成式AI服务

Oracle Generative AI Service是一个全托管的生成式AI服务,可以轻松地将多功能的语言模型集成到各种用例中,包括写作辅助、摘要生成和聊天机器人等。该服务基于Oracle Cloud Infrastructure,提供高性能、面向企业的模型,支持高效的微调和多个用例,安全可靠的企业级的数据管理、安全与管控。

MatterGen是一个利用生成式AI进行材料设计的工具。

MatterGen是微软研究院推出的一种生成式AI工具，用于材料设计。它能够根据应用的设计要求直接生成具有特定化学、机械、电子或磁性属性的新型材料，为材料探索提供了新的范式。该工具的出现有望加速新型材料的研发进程，降低研发成本，并在电池、太阳能电池、CO2吸附剂等领域发挥重要作用。目前，MatterGen的源代码已在GitHub上开源，供公众使用和进一步开发。

一款 21B 通用推理模型，适合低延迟应用。

Reka Flash 3 是一款从零开始训练的 21 亿参数的通用推理模型，利用合成和公共数据集进行监督微调，结合基于模型和基于规则的奖励进行强化学习。该模型在低延迟和设备端部署应用中表现优异，具有较强的研究能力。它目前是同类开源模型中的最佳选择，适合于各种自然语言处理任务和应用场景。

实时低延迟语音转换技术

StreamVC是由Google研发的实时低延迟语音转换解决方案，能够在保持源语音内容和韵律的同时，匹配目标语音的音色。该技术特别适合实时通信场景，如电话和视频会议，并且可用于语音匿名化等用例。StreamVC利用SoundStream神经音频编解码器的架构和训练策略，实现轻量级高质量的语音合成。它还展示了学习软语音单元的因果性以及提供白化基频信息以提高音高稳定性而不泄露源音色信息的有效性。

使用生成式AI进行搜索

Hai.surf是一个使用生成式AI进行搜索的产品。它可以根据用户输入的关键词生成相关的新闻和文章，并提供搜索结果。Hai.surf使用强大的人工智能算法，能够理解用户的搜索意图，并提供准确、全面的搜索结果。该产品定价合理，适合个人和企业使用。

开源分布式深度学习工具

The Microsoft Cognitive Toolkit（CNTK）是一个开源的商业级分布式深度学习工具。它通过有向图描述神经网络的计算步骤，支持常见的模型类型，并实现了自动微分和并行计算。CNTK支持64位Linux和Windows操作系统，可以作为Python、C或C++程序的库使用，也可以通过其自身的模型描述语言BrainScript作为独立的机器学习工具使用。

通过生成式AI激活人类潜能

Stability AI是一个专注于生成式人工智能技术的公司，提供多种AI模型，包括文本到图像、视频、音频、3D和语言模型。这些模型能够处理复杂提示，生成逼真的图像和视频，以及高质量的音乐和音效。公司提供灵活的许可选项，包括自托管许可和平台API，以满足不同用户的需求。Stability AI致力于通过开放模型，为全球每个人提供高质量的AI服务。

利用生成式AI技术，快速将文本转化为动画。

text2motion.ai是一个利用生成式人工智能技术，将文本内容快速转化为动画的平台。它通过简化动画制作过程，降低了对专业技能和昂贵设备的需求，使得从独立开发者到专业动画师都能在短时间内将角色赋予生命。该平台提供REST APIs和多种集成方式，支持用户在自己喜欢的工具和工作流程中使用。

Phi开放模型，强大、低成本、低延迟的小语言模型。

Phi Open Models是微软Azure提供的一款小型语言模型（SLMs），以其卓越的性能、低成本和低延迟重新定义了小语言模型的可能性。Phi模型在保持较小体积的同时，提供了强大的AI能力，降低了资源消耗，并确保了成本效益的生成型AI部署。Phi模型的开发遵循了微软的AI原则，包括责任、透明度、公平性、可靠性和安全性、隐私和安全性以及包容性。

一键式生成高质量SEO文章

一键式AI文章助手是一款基于海量数据算法的文章生成工具。它可以帮助网站主快速生成高质量、符合SEO要求的文章，提高网站在搜索引擎中的排名，从而获得更多的流量。使用该工具，只需输入需要写作的主题关键词，它就可以自动为你生成一篇文章，并且该文章将符合搜索引擎的优化规则。该工具利用大数据算法进行文章生成，并针对搜索引擎的算法进行优化，使生成的文章可以更好地满足搜索引擎的排名要求。一键式AI文章助手的优点在于，它可以快速为网站生成符合SEO要求的高质量文章，提高网站在搜索引擎中的排名。使用该工具，可以减少写作的时间和精力成本，同时也提高了文章的质量和可读性。让你的网站能够更好地吸引和保留访问者，提高流量和转化率。