产品库

开源评估基础设施，为 LLM 提供信心

Confident AI 是一个开源的评估基础设施，为 LLM（Language Model）提供信心。用户可以通过编写和执行测试用例来评估自己的 LLM 应用，并使用丰富的开源指标来衡量其性能。通过定义预期输出并与实际输出进行比较，用户可以确定 LLM 的表现是否符合预期，并找出改进的方向。Confident AI 还提供了高级的差异跟踪功能，帮助用户优化 LLM 配置。此外，用户还可以利用全面的分析功能，识别重点关注的用例，实现 LLM 的有信心地投产。Confident AI 还提供了强大的功能，帮助用户自信地将 LLM 投入生产，包括 A/B 测试、评估、输出分类、报告仪表盘、数据集生成和详细监控。

一个用于从文本和图像中提取结构化数据的代理API，基于LLMs实现。

l1m是一个强大的工具，它通过代理的方式利用大型语言模型（LLMs）从非结构化的文本或图像中提取结构化的数据。这种技术的重要性在于它能够将复杂的信息转化为易于处理的格式，从而提高数据处理的效率和准确性。l1m的主要优点包括无需复杂的提示工程、支持多种LLM模型以及内置缓存功能等。它由Inferable公司开发，旨在为用户提供一个简单、高效且灵活的数据提取解决方案。l1m提供免费试用，适合需要从大量非结构化数据中提取有价值信息的企业和开发者。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

一个开源的交互式开发环境，用于构建和优化基于LLM的数据处理管道。

DocWrangler是一个开源的交互式开发环境，旨在简化构建和优化基于大型语言模型（LLM）的数据处理管道的过程。它提供即时反馈、可视化探索工具和AI辅助功能，帮助用户更容易地探索数据、实验不同操作并根据发现优化管道。该产品基于DocETL框架构建，适用于处理非结构化数据，如文本分析、信息提取等。它不仅降低了LLM数据处理的门槛，还提高了工作效率，使用户能够更有效地利用LLM的强大功能。

开源全栈平台，为打造顶级LLM产品提供支持

Laminar是一个开源的全栈平台，专注于从第一性原理出发进行AI工程。它帮助用户收集、理解和使用数据，以提高大型语言模型（LLM）应用的质量。Laminar支持对文本和图像模型的追踪，并且即将支持音频模型。产品的主要优点包括零开销的可观测性、在线评估、数据集构建和LLM链管理。Laminar完全开源，易于自托管，适合需要构建和管理LLM产品的开发者和团队。

将LLM模型打包成一个可执行文件

llamafile是一个将LLM(大型语言模型)模型及其权重打包成一个自包含可执行文件的工具。它结合了llama.cpp和Cosmopolitan Libc,可以让复杂的LLM模型被压缩成一个llamafile,无需进行任何安装和配置就可以在大多数计算机上本地运行。主要优点是使开源的LLM模型更易于开发者和终端用户访问。

Langroid是一个基于Python的轻量级LLM框架

Langroid是一个轻量级、可扩展和原则性的Python框架,可以轻松地构建基于LLM的应用程序。您可以设置代理,为它们配备可选组件(LLM、向量存储和方法),分配它们任务,并让他们通过交换消息协作解决问题。这个多代理范例的灵感来自Actor框架(但您不需要了解任何关于这个的知识!)。Langroid提供了一个全新的LLM应用程序开发方式,在简化开发人员体验方面进行了深思熟虑;它不使用Langchain。我们欢迎贡献--请参阅贡献文档以获取贡献想法。

开源UI可视化工具，轻松构建定制化的LLM流程

Flowise是一个开源的UI可视化工具，使用LangchainJS编写，用于构建定制化的LLM流程。它支持快速构建LLM应用程序，并提供可扩展的组件集成。Flowise可以用于构建LLM链、问答检索链、语言翻译链等多种应用场景。它是一个免费的开源项目，适用于商业和个人使用。

通过与LLM对话构建持久知识，存于本地Markdown文件

Basic Memory是一款知识管理系统，借助与LLM的自然对话构建持久知识，并保存于本地Markdown文件。它解决了多数LLM互动短暂、知识难留存的问题。其优点包括本地优先、双向读写、结构简单、可形成知识图谱、兼容现有编辑器、基础设施轻量。定位为帮助用户打造个人知识库，采用AGPL - 3.0许可证，无明确价格信息。

一个强大的文本生成模型，适用于多种对话应用。

DeepSeek-V3-0324 是一个先进的文本生成模型，具有 685 亿参数，采用 BF16 和 F32 张量类型，能够支持高效的推理和文本生成。该模型的主要优点在于其强大的生成能力和开放源码的特性，使其可以被广泛应用于多种自然语言处理任务。该模型的定位是为开发者和研究人员提供一个强大的工具，帮助他们在文本生成领域取得突破。

通过强化学习驱动的金融推理大模型。

Fin-R1 是一个专为金融领域设计的大型语言模型，旨在提升金融推理能力。由上海财经大学和财跃星辰联合研发，基于 Qwen2.5-7B-Instruct 进行微调和强化学习，具有高效的金融推理能力，适用于银行、证券等核心金融场景。该模型免费开源，便于用户使用和改进。

生成高质量 SVG 代码的基础模型。

StarVector 是一个先进的生成模型，旨在将图像和文本指令转化为高质量的可缩放矢量图形（SVG）代码。其主要优点在于能够处理复杂的 SVG 元素，并在各种图形风格和复杂性上表现出色。作为开放源代码资源，StarVector 推动了图形设计的创新和效率，适用于设计、插图和技术文档等多种应用场景。

Roblox Foundation Model for 3D Intelligence。

Cube 是一个强大的 3D 智能生成模型，旨在帮助开发者在 Roblox 平台上创建各种 3D 资产和场景。该模型具备生成 3D 对象、角色动画绑定及程序脚本生成等功能。它的出现将极大地提升创作者的生产效率，激发更多的创意，帮助用户以更快的速度构建出丰富的 3D 体验。当前版本已经开放源代码，旨在与研究社区共享，以推进 3D 智能的发展。适用于各种规模的开发者和创作者，支持实验与创新，推动负责任的使用。

一款 21B 通用推理模型，适合低延迟应用。

Reka Flash 3 是一款从零开始训练的 21 亿参数的通用推理模型，利用合成和公共数据集进行监督微调，结合基于模型和基于规则的奖励进行强化学习。该模型在低延迟和设备端部署应用中表现优异，具有较强的研究能力。它目前是同类开源模型中的最佳选择，适合于各种自然语言处理任务和应用场景。

通过训练您的 AI 自我，增强个性，连接世界。

Second Me 是一个开源原型，旨在让用户创造自己的 AI 自我，保留个人特点，并在数字世界中扩展自我。它使用分层记忆建模和用户对齐算法，确保用户数据本地存储且完全私密。这种形式的 AI 不仅帮助用户管理信息，还能与全球网络中的其他 AI 进行交互，从而促进创造力和协作。Second Me 的主要优点在于它保护用户的隐私，让用户真正掌控自己的数字身份，适合技术爱好者、AI 专家和各领域专业人士。此产品当前处于开发阶段，用户可以在 GitHub 上获取最新版本。

LG AI 推出的开源推理 AI 模型，具备卓越的推理能力。

EXAONE Deep 是 LG AI Research 推出的先进推理 AI 模型，标志着韩国在全球 AI 市场中的竞争力。它具备 32 亿参数，表现卓越，尤其在数学和科学问题解决方面展现出色。该模型的发布使得 LG 在 AI 领域迈入了自主决策的时代，其开源特性使得更多开发者能够利用这一技术进行研究与开发。EXAONE Deep 的轻量级和在设备上的模型设计使得其适用于多个行业，包括教育、科学研究、编程等。

一个开源文本转语音系统，致力于实现人类语音的自然化。

Orpheus TTS 是一个基于 Llama-3b 模型的开源文本转语音系统，旨在提供更加自然的人类语音合成。它具备较强的语音克隆能力和情感表达能力，适合各种实时应用场景。该产品是免费的，旨在为开发者和研究者提供便捷的语音合成工具。

增强文本与视觉任务处理能力的开源模型。

Mistral-Small-3.1-24B-Base-2503 是一款具有 240 亿参数的先进开源模型，支持多语言和长上下文处理，适用于文本与视觉任务。它是 Mistral Small 3.1 的基础模型，具有较强的多模态能力，适合企业需求。

一款开源的14B参数量的数学模型，通过强化学习训练，性能卓越。

Light-R1-14B-DS 是由北京奇虎科技有限公司开发的开源数学模型。该模型基于 DeepSeek-R1-Distill-Qwen-14B 进行强化学习训练，在 AIME24 和 AIME25 数学竞赛基准测试中分别达到了 74.0 和 60.2 的高分，超越了许多 32B 参数量的模型。它在轻量级预算下成功实现了对已经长链推理微调模型的强化学习尝试，为开源社区提供了一个强大的数学模型工具。该模型的开源有助于推动自然语言处理在教育领域的应用，特别是数学问题解决方面，为研究人员和开发者提供了宝贵的研究基础和实践工具。

Light-R1 是一个专注于长链推理（Long COT）的开源项目，通过课程式 SFT、DPO 和 RL 提供从零开始的训练方法。

Light-R1 是一个由 Qihoo360 开发的开源项目，旨在通过课程式监督微调（SFT）、直接偏好优化（DPO）和强化学习（RL）训练长链推理模型。该项目通过去污染数据集和高效的训练方法，实现了从零开始的长链推理能力。其主要优点包括开源的训练数据、低成本的训练方式以及在数学推理领域的卓越性能。项目背景基于当前长链推理模型的训练需求，旨在提供一种透明且可复现的训练方法。项目目前免费开源，适合研究机构和开发者使用。

一个可以复制任何网页UI界面并生成代码提示的工具。

Same是一个强大的在线工具，允许用户通过输入网页链接生成对应的代码提示，帮助开发者快速复现目标网站的UI界面。它基于先进的网页解析技术，能够精准提取页面元素并生成可复用的代码片段。该工具对于前端开发者来说是一个高效的辅助工具，能够节省大量的时间和精力，特别是在需要快速搭建原型或进行界面克隆时。目前，Same以免费的形式提供服务，主要面向开发者和设计人员。

一个用于生成对话式语音的模型，支持从文本和音频输入生成高质量的语音。

CSM 是一个由 Sesame 开发的对话式语音生成模型，它能够根据文本和音频输入生成高质量的语音。该模型基于 Llama 架构，并使用 Mimi 音频编码器。它主要用于语音合成和交互式语音应用，例如语音助手和教育工具。CSM 的主要优点是能够生成自然流畅的语音，并且可以通过上下文信息优化语音输出。该模型目前是开源的，适用于研究和教育目的。

RagaAI Catalyst 是一个用于观察、评估和调试 AI 代理的平台，助力开发者优化 AI 工作流并安全部署。

RagaAI Catalyst 是一款专注于 AI 可观察性、监控和评估的平台，旨在帮助开发者和企业优化 AI 开发流程。它提供了从可视化追踪数据到执行图的用户友好仪表板，支持深度调试和性能提升。该平台强调安全性和可靠性，通过 RagaAI Guardrails 确保上下文准确的 LLM 响应，减少幻觉风险。此外，RagaAI Catalyst 支持定制化评估逻辑，满足特定用例的全面测试需求。其开源特性也为企业提供了透明度和灵活性，适合希望在 AI 开发中实现高效、安全和可扩展的企业和开发者。

一个开源的多云平台客户端，支持LangGraph代理和前端应用开发。

open-mcp-client 是一个开源项目，旨在为多云平台（MCP）提供客户端支持。它结合了LangGraph代理和基于CopilotKit的前端应用，支持与MCP服务器的交互和工具调用。该项目采用TypeScript、CSS、Python和JavaScript开发，强调开发效率和用户体验。它适用于开发者和企业，用于管理和交互多云资源。开源免费，适合希望在多云环境中快速开发和部署的用户。

Inductive Moment Matching 是一种新型的生成模型，用于高质量图像生成。

Inductive Moment Matching (IMM) 是一种先进的生成模型技术，主要用于高质量图像生成。该技术通过创新的归纳矩匹配方法，显著提高了生成图像的质量和多样性。其主要优点包括高效性、灵活性以及对复杂数据分布的强大建模能力。IMM 由 Luma AI 和斯坦福大学的研究团队开发，旨在推动生成模型领域的发展，为图像生成、数据增强和创意设计等应用提供强大的技术支持。该项目开源了代码和预训练模型，方便研究人员和开发者快速上手和应用。

BashBuddy 让你能够自然地输入命令，无需担心参数或语法。

BashBuddy 是一款旨在通过自然语言交互简化命令行操作的工具。它能够理解上下文并生成精确的命令，支持多种操作系统和 Shell 环境。BashBuddy 的主要优点在于其自然语言处理能力、跨平台支持以及对隐私的重视。它适合开发者、系统管理员以及任何需要频繁使用命令行的用户。BashBuddy 提供本地部署和云服务两种模式，本地模式完全免费且数据完全私密，而云服务则提供更快的命令生成速度，每月收费 2 美元。

一个轻量级且强大的多智能体工作流框架

OpenAI Agents SDK是一个用于构建多智能体工作流的框架。它允许开发者通过配置指令、工具、安全机制和智能体之间的交接来创建复杂的自动化流程。该框架支持与任何符合OpenAI Chat Completions API格式的模型集成，具有高度的灵活性和可扩展性。它主要用于编程场景中，帮助开发者快速构建和优化智能体驱动的应用程序。

开源的 Chrome 扩展程序，用于 AI 驱动的网络自动化，支持多智能体工作流。

Nanobrowser 是一款开源的 Chrome 扩展工具，旨在通过 AI 技术实现高效的网络自动化操作。它支持多智能体系统，用户可以使用自己的 LLM API 密钥运行复杂的网络任务。与 OpenAI Operator 类似，但完全免费且开源，用户可以在本地浏览器中运行任务，确保隐私安全。Nanobrowser 提供了灵活的 LLM 选项，允许用户根据需求选择不同的模型，并为不同的智能体分配不同的模型，从而在性能和成本之间取得平衡。此外，它还具备任务自动化、交互式侧边栏、会话历史等功能，适合需要高效网络操作的用户。