产品库

开源的RAG应用日志工具

RAG-logger是一个为检索增强生成(Retrieval-Augmented Generation, RAG)应用设计的开源日志工具。它是一个轻量级的、针对RAG特定日志需求的开源替代方案，专注于为RAG应用提供全面的日志记录功能，包括查询跟踪、检索结果记录、LLM交互记录以及逐步性能监控。它采用基于JSON的日志格式，支持每日日志组织、自动文件管理和元数据丰富化。RAG-logger以其开源、轻量级和专注于RAG应用的特性，为开发者提供了一个有效的工具来监控和分析RAG应用的性能。

开发者日志监控与调试的开源平台

Helicone AI是一个为开发者设计的开源平台，专注于日志记录、监控和调试。它具备毫秒级延迟影响、100%日志覆盖率和行业领先的查询时间，是为生产级工作负载设计的。平台通过Cloudflare Workers实现低延迟和高可靠性，并支持风险无忧的实验，无需安装SDK，仅需添加头部信息即可访问所有功能。

开源本地RAG，集成ChatGPT和MCP能力

Minima是一个开源的、完全本地化的RAG（Retrieval-Augmented Generation）模型，具备与ChatGPT和MCP（Model Context Protocol）集成的能力。它支持三种模式：完全本地安装、通过ChatGPT查询本地文档以及使用Anthropic Claude查询本地文件。Minima的主要优点包括本地化处理数据，保护隐私，以及能够利用强大的语言模型来增强检索和生成任务。产品背景信息显示，Minima支持多种文件格式，并允许用户自定义配置以适应不同的使用场景。Minima是免费开源的，定位于需要本地化AI解决方案的开发者和企业。

开源的GenAI应用网关，快速构建个性化的AI应用

Arch是一个开源的网关，专为处理提示（prompts）而设计，它利用快速的大型语言模型（LLMs）来处理提示，并与后端系统无缝集成。Arch基于Envoy构建，支持任何应用程序语言，并提供快速部署和透明升级。它提供了包括流量管理、前端/边缘网关、监控和端到端追踪在内的多种功能，帮助开发者构建快速、健壮和个性化的GenAI应用。

AI语音代理测试与监控平台

Vocera是一个由Y Combinator支持的AI语音代理测试与监控平台，它允许用户通过模拟各种场景和使用真实音频来测试和评估AI语音代理的性能。该平台的主要优点在于能够快速启动测试，减少将AI代理投入生产环境的时间，同时提供实时监控和性能分析，确保AI代理在各种对话场景中都能提供无缝的用户体验。Vocera适用于需要快速创建和测试AI语音代理的企业和开发者，特别是在合规性要求较高的行业中，如医疗、法律等。

开源的RAG基础聊天工具，与文档对话。

kotaemon是一个开源的、基于RAG（Retrieval-Augmented Generation）模型的工具，旨在通过聊天界面与用户文档进行交互。它支持多种语言模型API提供商和本地语言模型，提供了一个干净、可定制的用户界面，适用于终端用户进行文档问答以及开发者构建自己的RAG问答流程。

AI可观测性和机器学习监控平台

Evidently AI是一个开源的Python库，用于监控机器学习模型，支持从RAGs到AI助手的LLM驱动产品的评估。它提供了数据漂移、数据质量和生产ML模型性能的监控，拥有超过2000万的下载量和5000+的GitHub星标，是机器学习领域中一个值得信赖的监控工具。

开源监控工具，提升LLM应用性能。

Langtrace是一个开源的可观测性工具，用于收集和分析追踪和指标，帮助提升大型语言模型（LLM）应用的性能。它支持OpenTelemetry标准追踪，可自我托管，避免供应商锁定。Langtrace提供端到端的可观测性，帮助用户全面了解整个机器学习流程，包括RAG或微调模型。此外，Langtrace还支持建立反馈循环，通过追踪的LLM交互创建黄金数据集，不断测试和增强AI应用。

一个开源的、增强检索的生成式聊天机器人。

Verba 是一个开源应用程序，旨在提供端到端、流畅且用户友好的检索增强生成（RAG）接口。它结合了最先进的RAG技术和Weaviate的上下文感知数据库，支持本地或通过云部署，可以轻松探索数据集并提取洞见。

一键式无服务器RAG平台

SciPhi是一个开源的端到端RAG平台，使构建、部署和优化系统变得简单。它提供直观的框架和抽象，可与LangChain等解决方案相比较。通过SciPhi，您可以轻松启动和扩展最好的RAG系统，并选择各种托管和远程提供商以满足您的需求。无论是自托管还是云部署选项都可用。

中间件观测平台|云原生监控

Middleware是一个云原生监控平台，提供完整的应用和基础设施可观测性，以便您能够大规模监控和诊断问题。它包括基础设施监控、日志监控、应用性能监控、数据库监控、合成监控、无服务器监控、容器监控和实时用户监控等功能。通过使用Middleware，您可以轻松识别、理解和解决云基础架构中的问题。

轻松构建和嵌入开源 AI 合作伙伴

OpenCopilot 是一个使构建自己的 AI 合作伙伴变得直观、快速和可靠的工具。无需具备前期 AI 经验，您可以轻松地将 AI 合作伙伴嵌入到产品中。无论是开发工具、SaaS 还是内部工具，每个公司和产品都可以拥有自己的 AI 合作伙伴。OpenCopilot 提供监控、评估系统、易于部署的开箱即用功能，并使用开源构建模块。现在就开始您的第一个 AI 合作伙伴吧！

将任何GitHub仓库转换成交互式图表，用于项目可视化。

GitDiagram是一个在线工具，可以将GitHub上的任何仓库转换成交互式图表，便于用户快速理解和可视化项目结构。这个工具对于开发者和项目管理者来说非常重要，因为它可以帮助他们更直观地理解代码库的组织结构和依赖关系。GitDiagram的背景信息显示，它是由开发者Ahmed Khaleel创建的，并且可以通过API和GitHub访问。产品目前是免费的，并且可以通过替换GitHub URL中的'hub'为'diagram'来使用。

高效的文本到音频生成模型

TangoFlux是一个高效的文本到音频（TTA）生成模型，拥有515M参数，能够在单个A40 GPU上仅用3.7秒生成长达30秒的44.1kHz音频。该模型通过提出CLAP-Ranked Preference Optimization (CRPO)框架，解决了TTA模型对齐的挑战，通过迭代生成和优化偏好数据来增强TTA对齐。TangoFlux在客观和主观基准测试中均实现了最先进的性能，并且所有代码和模型均开源，以支持TTA生成的进一步研究。

先进的医疗领域大型语言模型

HuatuoGPT-o1-8B 是一个专为高级医疗推理设计的医疗领域大型语言模型（LLM）。它在提供最终响应之前会生成一个复杂的思考过程，反映并完善其推理过程。该模型基于LLaMA-3.1-8B构建，支持英文，并且采用'thinks-before-it-answers'的方法，输出格式包括推理过程和最终响应。此模型在医疗领域具有重要意义，因为它能够处理复杂的医疗问题并提供深思熟虑的答案，这对于提高医疗决策的质量和效率至关重要。

医疗领域复杂推理的大型语言模型

HuatuoGPT-o1是一个专为医疗复杂推理设计的大语言模型，能够识别错误、探索替代策略并完善答案。该模型通过利用可验证的医疗问题和专门的医疗验证器，推进了复杂推理的发展。HuatuoGPT-o1的主要优点包括：使用验证器指导复杂推理轨迹的搜索，以微调大型语言模型；应用基于验证器奖励的强化学习（PPO）进一步提升复杂推理能力。HuatuoGPT-o1的开源模型、数据和代码，使其在医疗教育和研究领域具有重要价值。

FlagCX是一个跨芯片通信库。

FlagCX是由北京人工智能研究院（BAAI）支持开发的可扩展和自适应的跨芯片通信库。它是FlagAI-Open开源计划的一部分，旨在促进AI技术的开源生态系统。FlagCX利用原生集体通信库，全面支持不同平台上的单芯片通信。支持的通信后端包括NCCL、IXCCL和CNCL。

开源的端到端自动驾驶多模态模型

OpenEMMA是一个开源项目，复现了Waymo的EMMA模型，提供了一个端到端框架用于自动驾驶车辆的运动规划。该模型利用预训练的视觉语言模型（VLMs）如GPT-4和LLaVA，整合文本和前视摄像头输入，实现对未来自身路径点的精确预测，并提供决策理由。OpenEMMA的目标是为研究人员和开发者提供易于获取的工具，以推进自动驾驶研究和应用。

自动语音识别工具，提供词级时间戳和说话人识别

BetterWhisperX是一个基于WhisperX改进的自动语音识别模型，它能够提供快速的语音转文字服务，并具备词级时间戳和说话人识别功能。这个工具对于需要处理大量音频数据的研究人员和开发者来说非常重要，因为它可以大幅提高语音数据处理的效率和准确性。产品背景基于OpenAI的Whisper模型，但做了进一步的优化和改进。目前，该项目是免费且开源的，定位于为开发者社区提供更高效、更准确的语音识别工具。

一款高效率的2.4亿参数轻量级语言模型

YuLan-Mini是由中国人民大学AI Box团队开发的一款轻量级语言模型，具有2.4亿参数，尽管仅使用1.08T的预训练数据，但其性能可与使用更多数据训练的行业领先模型相媲美。该模型特别擅长数学和代码领域，为了促进可复现性，团队将开源相关的预训练资源。

微软开源的视频分词器家族

VidTok是微软开源的一系列先进的视频分词器，它在连续和离散分词方面表现出色。VidTok在架构效率、量化技术和训练策略上都有显著的创新，提供了高效的视频处理能力，并且在多个视频质量评估指标上超越了以往的模型。VidTok的开发旨在推动视频处理和压缩技术的发展，对于视频内容的高效传输和存储具有重要意义。

一站式AI数字人系统，支持视频合成、声音合成、声音克隆。

AIGCPanel是一个简单易用的一站式AI数字人系统，小白也可使用。支持视频合成、声音合成、声音克隆，简化本地模型管理、一键导入和使用AI模型。产品背景信息显示，AIGCPanel旨在通过集成多种AI功能，提升数字人素材管理的效率，降低技术门槛，使非专业人士也能轻松管理和使用AI数字人。产品基于AGPL-3.0开源，完全免费，可以直接使用。

AI数字人口型同步技术，无限多开贴牌OEM解决方案

小狐狸AI数字人分身系统是一款结合了人工智能技术的数字人口型同步产品，支持无限多开和贴牌OEM，适用于需要虚拟形象进行口型同步互动的场景。该产品背景基于人工智能技术的发展，特别是在虚拟主播和在线教育领域的应用需求日益增长。产品价格为3580元，定位于中高端市场，主要优点包括完全开源、支持自主二次开发和定制二次开发，以及免费搭建服务。

多模态大型语言模型，提升文本、图像和视频数据处理能力。

Valley是由字节跳动开发的多模态大型模型（MLLM），旨在处理涉及文本、图像和视频数据的多种任务。该模型在内部电子商务和短视频基准测试中取得了最佳结果，远超过其他开源模型，并在OpenCompass多模态模型评估排行榜上展现了出色的性能，平均得分67.40，位列已知开源MLLMs（<10B）中的前两名。

一款具有671B参数的Mixture-of-Experts语言模型。

DeepSeek-V3是一个强大的Mixture-of-Experts (MoE) 语言模型，拥有671B的总参数量，每次激活37B参数。它采用了Multi-head Latent Attention (MLA) 和 DeepSeekMoE架构，这些架构在DeepSeek-V2中得到了充分的验证。此外，DeepSeek-V3首次采用了无辅助损失的负载均衡策略，并设置了多令牌预测训练目标，以实现更强大的性能。DeepSeek-V3在14.8万亿高质量令牌上进行了预训练，随后进行了监督式微调和强化学习阶段，以充分利用其能力。综合评估显示，DeepSeek-V3超越了其他开源模型，并达到了与领先的闭源模型相当的性能。尽管性能出色，DeepSeek-V3的完整训练仅需要2.788M H800 GPU小时，并且训练过程非常稳定。

一个集成了Gemini多模态直播和WebRTC技术的单文件应用

Gemini Multimodal Live + WebRTC是一个展示如何构建简单语音AI应用的示例项目，使用Gemini多模态直播API和WebRTC技术。该产品的主要优点包括低延迟、更好的鲁棒性、易于实现核心功能，并且兼容多种平台和语言的SDK。产品背景信息显示，这是一个开源项目，旨在通过WebRTC技术提升实时媒体连接的性能，并简化开发流程。

开源、注重隐私的语音助手

Home Assistant Voice Preview Edition是一款开源、注重隐私的语音助手硬件产品，旨在提供一种开放、本地化、私人化的语音控制解决方案。它允许用户通过语音控制家中的智能设备，同时确保用户的语音数据不会离开本地网络，保护用户隐私。该产品背景是响应对隐私保护日益增长的需求，特别是在智能家居领域。价格方面，产品定价为59美元，推荐零售价，具体价格可能会因零售商而异。

模型评测平台

FlagEval是一个模型评测平台，专注于大语言模型和多模态模型的评测。它提供了一个公正、透明的环境，让不同的模型在同一标准下进行比较，帮助研究者和开发者了解模型性能，推动人工智能技术的发展。该平台涵盖了对话模型、视觉语言模型等多种模型类型，支持开源和闭源模型的评测，并提供专项评测如K12学科测验和金融量化交易评测。

监控、评估和优化你的LLM应用

LangWatch是一个专为大型语言模型（LLM）设计的监控、评估和优化平台。它通过科学的方法来衡量LLM的质量，自动寻找最佳的提示和模型，并提供一个直观的分析仪表板，帮助AI团队以10倍的速度交付高质量的产品。LangWatch的主要优点包括减少手动优化过程、提高开发效率、确保产品质量和安全性，以及支持企业级的数据控制和合规性。产品背景信息显示，LangWatch利用Stanford的DSPy框架，帮助用户在几分钟内而非几周内找到合适的提示或模型，从而加速产品从概念验证到生产的转变。

开源图像到视频生成模型

Ruyi-Mini-7B是由CreateAI团队开发的开源图像到视频生成模型，具有约71亿参数，能够从输入图像生成360p到720p分辨率的视频帧，最长5秒。模型支持不同宽高比，并增强了运动和相机控制功能，提供更大的灵活性和创造力。该模型在Apache 2.0许可下发布，意味着用户可以自由使用和修改。