产品库

自托管的开源OpenAI替代品，支持文本、音频、图像生成

LocalAI 是一个自托管的开源 OpenAI 替代品，可在消费级硬件上运行，支持本地或本地部署的文本、音频、图像生成。它提供了 GPT 等模型的文本生成功能，同时支持文本转语音、图像生成等多种功能。由于其开源自托管的特性，用户可以自由定制和部署，不受云端 API 限制，适合对数据隐私和安全性有要求的用户。LocalAI 的定位是为那些寻求自主控制、不依赖于第三方服务的个人用户或组织提供强大的 AI 生成能力。

一个强大的文本生成模型，适用于多种对话应用。

DeepSeek-V3-0324 是一个先进的文本生成模型，具有 685 亿参数，采用 BF16 和 F32 张量类型，能够支持高效的推理和文本生成。该模型的主要优点在于其强大的生成能力和开放源码的特性，使其可以被广泛应用于多种自然语言处理任务。该模型的定位是为开发者和研究人员提供一个强大的工具，帮助他们在文本生成领域取得突破。

一款 21B 通用推理模型，适合低延迟应用。

Reka Flash 3 是一款从零开始训练的 21 亿参数的通用推理模型，利用合成和公共数据集进行监督微调，结合基于模型和基于规则的奖励进行强化学习。该模型在低延迟和设备端部署应用中表现优异，具有较强的研究能力。它目前是同类开源模型中的最佳选择，适合于各种自然语言处理任务和应用场景。

s1是一个基于Qwen2.5-32B-Instruct微调的推理模型，仅用1000个样本进行训练。

s1是一个推理模型，专注于通过少量样本实现高效的文本生成能力。它通过预算强制技术在测试时进行扩展，能够匹配o1-preview的性能。该模型由Niklas Muennighoff等人开发，相关研究发表在arXiv上。模型使用Safetensors技术，具有328亿参数，支持文本生成任务。其主要优点是能够通过少量样本实现高质量的推理，适合需要高效文本生成的场景。

Inferable 是一个开源平台，用于创建内部运营的对话式 AI 代理。

Inferable 是一个专注于内部运营的对话式 AI 代理平台，旨在帮助企业和团队整合内部系统、碎片化代码库和一次性脚本。通过对话式代理，企业可以减少在内部工具开发上的时间投入，提高工作效率。该平台支持多种编程语言的 SDK，包括 Node.js、Golang 和 C#，并计划扩展更多语言支持。其核心是一个分布式消息队列，确保 AI 自动化的可扩展性和可靠性。此外，Inferable 提供了丰富的功能，如分布式函数编排、人类在循环（Human in the Loop）、代码重用、语言支持、本地执行、可观测性和结构化输出等。它还内置了 ReAct 代理，能够通过逐步推理解决复杂问题，并调用函数解决子问题。Inferable 完全开源，支持自托管，用户可以在自己的基础设施上运行，确保数据和计算的完全控制。其定价和具体定位信息在页面中未明确提及，但从其功能和目标受众来看，主要面向企业级用户，特别是需要高效内部运营和数据隐私保护的团队。

DeepSeek-R1-Distill-Qwen-32B 是一款高性能的开源语言模型，适用于多种文本生成任务。

DeepSeek-R1-Distill-Qwen-32B 是由 DeepSeek 团队开发的高性能语言模型，基于 Qwen-2.5 系列进行蒸馏优化。该模型在多项基准测试中表现出色，尤其是在数学、代码和推理任务上。其主要优点包括高效的推理能力、强大的多语言支持以及开源特性，便于研究人员和开发者进行二次开发和应用。该模型适用于需要高性能文本生成的场景，如智能客服、内容创作和代码辅助等，具有广泛的应用前景。

一个用于检测幻觉的开源评估模型，基于Llama-3架构，拥有700亿参数。

PatronusAI/Llama-3-Patronus-Lynx-70B-Instruct是一个基于Llama-3架构的大型语言模型，旨在检测在RAG设置中的幻觉问题。该模型通过分析给定的文档、问题和答案，评估答案是否忠实于文档内容。其主要优点在于高精度的幻觉检测能力和强大的语言理解能力。该模型由Patronus AI开发，适用于需要高精度信息验证的场景，如金融分析、医学研究等。该模型目前为免费使用，但具体的商业应用可能需要与开发者联系。

先进的医疗领域大型语言模型

HuatuoGPT-o1-8B 是一个专为高级医疗推理设计的医疗领域大型语言模型（LLM）。它在提供最终响应之前会生成一个复杂的思考过程，反映并完善其推理过程。该模型基于LLaMA-3.1-8B构建，支持英文，并且采用'thinks-before-it-answers'的方法，输出格式包括推理过程和最终响应。此模型在医疗领域具有重要意义，因为它能够处理复杂的医疗问题并提供深思熟虑的答案，这对于提高医疗决策的质量和效率至关重要。

高性能英文文本生成模型

OLMo-2-1124-7B-SFT是由艾伦人工智能研究所（AI2）发布的一个英文文本生成模型，它是OLMo 2 7B模型的监督微调版本，专门针对Tülu 3数据集进行了优化。Tülu 3数据集旨在提供多样化任务的顶尖性能，包括聊天、数学问题解答、GSM8K、IFEval等。该模型的主要优点包括强大的文本生成能力、多样性任务处理能力以及开源的代码和训练细节，使其成为研究和教育领域的有力工具。

先进的文本生成模型，支持多样化任务

Llama-3.1-Tulu-3-8B-SFT是Tülu3模型家族中的一员，这是一个领先的指令遵循模型家族，提供完全开源的数据、代码和配方，旨在为现代后训练技术提供全面的指南。该模型不仅在聊天任务上表现出色，还在MATH、GSM8K和IFEval等多样化任务上展现了卓越的性能。

领先的指令遵循模型家族，提供开源数据、代码和指南。

Llama-3.1-Tulu-3-70B-SFT是Tülu3模型家族的一部分，专为现代后训练技术提供全面指南而设计。该模型不仅在聊天任务上表现出色，还在MATH、GSM8K和IFEval等多种任务上实现了最先进的性能。它是基于公开可用的、合成的和人类创建的数据集训练的，主要使用英语，并遵循Llama 3.1社区许可协议。

先进的文本生成模型，支持多样化任务

Llama-3.1-Tulu-3-8B-DPO是Tülu3模型家族中的一员，专注于指令遵循，提供完全开源的数据、代码和配方，旨在作为现代后训练技术的全面指南。该模型专为聊天以外的多样化任务设计，如MATH、GSM8K和IFEval，以达到最先进的性能。模型主要优点包括开源数据和代码、支持多种任务、以及优秀的性能。产品背景信息显示，该模型由Allen AI研究所开发，遵循Llama 3.1社区许可协议，适用于研究和教育用途。

先进的指令遵循模型，提供开源数据和代码。

Llama-3.1-Tulu-3-8B是Tülu3指令遵循模型家族的一部分，专为多样化任务设计，包括聊天、数学问题解答、GSM8K和IFEval等。这个模型家族以其卓越的性能和完全开源的数据、代码以及现代后训练技术的全面指南而著称。模型主要使用英文，并且是基于allenai/Llama-3.1-Tulu-3-8B-DPO模型微调而来。

自托管的网页数据抓取工具

Scraperr是一个自托管的网页数据抓取工具，允许用户通过指定XPath来抓取网页上的元素。用户可以提交URL和相应的元素进行抓取，结果会以表格形式展示，并支持下载为Excel文件。该工具的主要优点包括用户友好的界面、灵活的XPath选择器、批量处理能力以及对AI技术的支持。Scraperr适用于需要从网页上提取大量数据的用户，无论是研究人员、开发者还是市场营销人员。

开源、自托管、AI驱动的应用构建器。

Srcbook是一个开源、自托管的AI驱动应用构建器，它允许用户快速构建和部署各种应用程序。产品背景信息显示，Srcbook旨在提供一个平台，让开发者和非技术用户都能够轻松地构建应用程序，从而提高生产力和创新能力。它支持多种应用场景，如项目管理工具、音乐发现页面、技术文档网站等。Srcbook的主要优点包括开源性、灵活性和易用性，用户可以根据自己的需求定制和扩展功能。

隐私优先，自托管的全开源个人知识管理系统

SiYuan 是一个以隐私保护为核心，支持块级引用和双向链接的个人知识管理系统。它使用 TypeScript 和 Golang 编写，提供了块级内容组织、Markdown 所见即所得编辑器、内容块快照、思维导图、反向链接和引用等功能。SiYuan 支持数据的块级管理和双向链接，允许用户以非线性的方式组织内容，促进了信息的连接和知识网络的构建。此外，SiYuan 还支持数据的自托管，确保用户数据的安全性和隐私性。SiYuan 拥有活跃的社区和丰富的插件生态，支持多种操作系统，包括 Windows、macOS 和 Linux。SiYuan 的大部分功能都是免费的，但也有付费的高级功能，如数据同步等。

高效开源的大型语言模型

OLMoE-1B-7B 是一个具有1亿活跃参数和7亿总参数的专家混合型大型语言模型（LLM），于2024年9月发布。该模型在成本相似的模型中表现卓越，与更大的模型如Llama2-13B竞争。OLMoE完全开源，支持多种功能，包括文本生成、模型训练和部署等。

智能AI辅助编写邮件模板，简化邮件发送流程。

Volamail是一个基于AI的邮件模板编辑和发送平台，它通过AI辅助编辑、HTML导入、自托管等特性，帮助用户轻松创建和发送邮件。该产品完全开源，支持通过简单的HTTP调用发送事务性邮件，无需依赖复杂的SDK或额外的库。Volamail致力于提供简单、可预测的定价策略，满足不同规模用户的需求。

开源自托管AI编程助手

Tabby是一个开源的、自托管的AI编程助手，它利用Rust语言的优势，为开发者提供快速且安全的编程体验。Tabby允许用户通过简单的TOML配置文件来控制部署，确保代码的安全性和合规性。

轻量级、先进的文本生成模型

Gemma 2是Google开发的一系列轻量级、先进的开放模型，基于与Gemini模型相同的研究和技术构建。它们是文本到文本的解码器仅大型语言模型，仅提供英文版本，具有开放的权重，适用于预训练变体和指令调整变体。Gemma模型非常适合各种文本生成任务，包括问答、摘要和推理。其相对较小的体积使其能够部署在资源有限的环境中，如笔记本电脑、桌面或您自己的云基础设施，使先进的AI模型的访问民主化，并帮助为每个人促进创新。

轻量级大语言模型，专注于文本生成。

Index-1.9B-Pure是Index系列模型中的轻量版本，专为文本生成而设计。它在2.8T的中英文语料上进行了预训练，与同等级模型相比，在多个评测基准上表现领先。该模型特别过滤了所有指令相关数据，以验证指令对benchmark的影响，适用于需要高质量文本生成的领域。

高效的自更新视觉工作流，适用于大型语言模型。

OmniChain是一个为大型语言模型设计的高效自更新视觉工作流工具。它通过自定义逻辑流程引导AI语言模型，显著提高了工作效率。OmniChain利用链式记忆能力存储和回忆信息，基于这些信息做出决策。它允许用户创建像不知疲倦的机器人员工一样24/7工作的流程，只有在用户决定与之交流时才会暂停操作。OmniChain还可以通过特定过程引导较小的模型，提高效率和成本效益。此外，它能够访问底层操作系统读写文件和运行命令，生成和运行NodeJS代码片段或脚本，使用API，自动化任务等。OmniChain是私有的（自托管）、完全开源的，并通过非限制性的MIT许可证可供商业使用。

开源字幕生成工具，实现内容无缝翻译。

subtitle是一个开源的字幕生成工具，利用先进的机器学习技术，为用户提供准确且自然的声音字幕。它支持多种语言，易于集成到现有的工作流程中，并允许用户在自己的服务器上自托管，增强控制权和隐私保护。

Falcon 2 是一款开源、多语言、多模态的模型，具备图像到文本转换能力。

Falcon 2 是一款具有创新功能的生成式 AI 模型，为我们创造了一种充满可能性的未来路径，只有想象力才是限制。Falcon 2 采用开源许可证，具备多语言和多模态的能力，其中独特的图像到文本转换功能标志着 AI 创新的重大进展。

谷歌开源的大型语言模型,能够生成高质量的文本内容

RecurrentGemma是谷歌开发的一系列开放语言模型,采用创新的循环架构设计,在文本生成任务上性能优异,包括问答、摘要和推理等。与Gemma模型相比,RecurrentGemma所需的内存更少,生成长序列的推理速度更快。该模型提供了预训练和针对指令的微调版本,可广泛应用于内容创作、对话AI等场景。

谷歌推出的开源预训练语言模型

Gemma-2b是谷歌推出的开源预训练语言模型系列,提供了多个不同规模的变体。它可以生成高质量的文本,广泛应用于问答、摘要、推理等领域。相比其他同类模型,它模型规模较小,可以部署在不同的硬件环境中。Gemma系列追求安全、高效的人工智能技术,使更多研究者和开发者可以接触前沿的语言模型技术。

开源自托管的聊天GPT替代品

Jan是一款开源、自托管的聊天GPT替代品，可以100%离线在您的计算机上运行。Jan提供可定制的AI助手、全局热键和内联AI等功能，可以提高您的生产力。Jan支持在本地主机上提供OpenAI等价API服务器，可以与兼容的应用程序一起使用。Jan的对话、偏好和模型使用等数据都保留在您的计算机上，安全、可导出，并可随时删除。

简化LLM完成和嵌入调用的开源库

LiteLLM是一个开源库，旨在简化LLM完成和嵌入调用。它集成了Azure、Anthropic、OpenAI、Cohere和Replicate等多个平台的API，让你可以使用一个函数轻松调用它们。LiteLLM提供了方便的接口和一致的输出格式，使得使用LLM模型变得更加简单。它可以用于各种场景，如自然语言处理、文本生成、对话系统等。

个人化的 AI 记忆层，确保数据安全与隐私。

OpenMemory 是一个开放源代码的个人记忆层，为大型语言模型（LLMs）提供私密、可携带的记忆管理。它确保用户对自己的数据拥有完全的控制权，能够在构建 AI 应用程序时保持数据的安全性。此项目支持 Docker、Python 和 Node.js，适合开发者进行个性化的 AI 体验。OpenMemory 尤其适合希望在不泄露个人信息的情况下使用 AI 的用户。

开源的手机端 GUI 智能代理，支持中英文应用操作。

AgentCPM-GUI 是一款开源的手机端大型语言模型（LLM）代理，专为操作中英文应用程序而设计，能够根据用户的屏幕截图自动执行任务。其主要优点在于高效的 GUI 元素理解、增强的推理能力以及对中文应用的精准支持。此技术的开发背景是为了提升移动设备上智能代理的用户体验，特别是在复杂任务处理方面。该产品定位于提高移动端的生产力，适用于各类用户。