产品库

开源大型语言模型工具集合

Open Source LLM Tools是一个专注于收集和展示开源大型语言模型（LLM）工具的平台。它提供了一个更新频繁的资源库，帮助开发者和研究者发现和利用最新的开源AI工具。该平台的主要优点在于其高更新频率和对活跃开源AI开发者的聚焦，使得用户能够及时获取到行业的最新动态和技术进展。

世界顶尖的开源大型语言模型

Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。

高效开源的大型语言模型

OLMoE-1B-7B 是一个具有1亿活跃参数和7亿总参数的专家混合型大型语言模型（LLM），于2024年9月发布。该模型在成本相似的模型中表现卓越，与更大的模型如Llama2-13B竞争。OLMoE完全开源，支持多种功能，包括文本生成、模型训练和部署等。

基于大型语言模型的高性能MacOS聊天应用

ChatMLX是一款现代、开源、高性能的MacOS聊天应用程序，基于大型语言模型构建。它利用MLX的强大性能和苹果硅芯片，支持多种模型，为用户提供丰富的对话选择。ChatMLX在本地运行大型语言模型，以确保用户隐私和安全。

最简单的开源实现

nanoPerplexityAI是一个开源的实现，它是一个大型语言模型(LLM)服务，引用Google的信息。没有复杂的GUI或LLM代理，只有100行Python代码。

最前沿的开源AI模型，支持多语言和高级功能。

Llama 3.1是Meta AI推出的最新一代大型语言模型，具有128K的上下文长度扩展、支持八种语言，并首次开源了405B参数级别的前沿AI模型。该模型在通用知识、可控性、数学、工具使用和多语言翻译方面具有最先进的能力，能够与最好的闭源模型相媲美。Llama 3.1的发布，将为开发者提供解锁新工作流程的工具，例如合成数据生成和模型蒸馏。

52B参数的开源多语言大型语言模型

Tele-FLM（亦称FLM-2）是一个52亿参数的开源多语言大型语言模型，具有稳定高效的预训练范式和增强的事实判断能力。基于解码器仅变换器架构，已在大约2T的token上进行训练。Tele-FLM在同等规模上展现出优越的性能，有时甚至超越了更大的模型。除了分享模型权重外，我们还提供了核心设计、工程实践和训练细节，期待它们对学术界和工业界社区都有所裨益。

开源AI工具，推动AI民主化。

ComfyUI是一个开源AI模型，致力于推动AI工具的民主化和开源化。它由一个团队创建和维护，旨在为AI社区提供易于使用、安全和可靠的工具。ComfyUI支持通过各种工具，如节点管理器、节点注册表、命令行界面、自动化测试和公共文档来支持其生态系统。团队相信开源模型将在长期内胜过封闭模型，并致力于通过社区驱动的方式推动AI工具的发展。

双语开源数学推理大型语言模型。

InternLM-Math-Plus 是一个最新的双语（英文和中文）开源大型语言模型（LLM），专注于数学推理，具有解决、证明、验证和增强数学问题的能力。它在非正式数学推理（如思维链和代码解释）和正式数学推理（如LEAN 4翻译和证明）方面都有显著的性能提升。

开源大型语言模型的托管、部署、构建和微调一站式解决方案。

AIKit 是一个开源工具，旨在简化大型语言模型（LLMs）的托管、部署、构建和微调过程。它提供了与OpenAI API兼容的REST API，支持多种推理能力和格式，使用户可以使用任何兼容的客户端发送请求。此外，AIKit 还提供了一个可扩展的微调接口，支持Unsloth，为用户提供快速、内存高效且易于使用的微调体验。

开源工具包，用于大型语言模型水印技术的研究和应用。

MarkLLM是一个开源工具包，旨在促进大型语言模型(Large Language Models, LLM)中水印技术的研究和应用。随着LLM的广泛使用，确保机器生成文本的真实性和来源变得至关重要。MarkLLM通过提供一个统一的、可扩展的平台，简化了水印技术的访问、理解和评估。它支持多种水印算法，包括KGW家族和EXP家族的算法，并提供了可视化工具和评估模块，帮助研究人员和开发者评估水印技术的可检测性、稳健性和对文本质量的影响。

一种用于扩展多模态大型语言模型（LLMs）的先进架构。

CuMo是一种多模态大型语言模型（LLMs）的扩展架构，它通过在视觉编码器和MLP连接器中融入稀疏的Top-K门控专家混合（MoE）块，提高了模型的可扩展性，同时在推理时几乎不增加激活参数。CuMo在预训练MLP块后，初始化MoE块中的每个专家，并在视觉指令调整阶段使用辅助损失以确保专家的均衡负载。CuMo在各种VQA和视觉指令遵循基准测试中超越了其他同类模型，且完全基于开源数据集进行训练。

一款专为生物医学领域设计的开源大型语言模型

OpenBioLLM-8B是由Saama AI Labs开发的先进开源语言模型，专为生物医学领域设计。该模型在大量高质量的生物医学数据上进行了微调，能够理解并生成具有领域特定准确性和流畅性的文字。它在生物医学基准测试中的表现超越了其他类似规模的开源生物医学语言模型，并与更大的专有和开源模型如GPT-3.5和Meditron-70B相比也展现出更好的结果。

一个新的高效开源大型语言模型标准

DBRX是一个由Databricks的Mosaic研究团队构建的通用大型语言模型(LLM),在标准基准测试中表现优于所有现有开源模型。它采用Mixture-of-Experts (MoE)架构,使用362亿个参数,拥有出色的语言理解、编程、数学和逻辑推理能力。DBRX旨在推动高质量开源LLM的发展,并且便于企业根据自身数据对模型进行定制。Databricks为企业用户提供了交互式使用DBRX、利用其长上下文能力构建检索增强系统,并基于自身数据构建定制DBRX模型的能力。

用于提示工程的开源可视化编程环境

ChainForge是一款开源的可视化编程环境,专注于提示工程。它可以让你评估提示和文本生成模型的稳健性,超越了简单的案例证据。我们认为,提示多个大型语言模型、比较它们的响应并测试关于它们的假设,应该不仅容易,而且有趣。ChainForge提供了一套工具,以最小的努力评估和可视化提示(和模型)的质量。换句话说,它旨在让大型语言模型的评估变得简单。ChainForge开箱即用地支持测试提示注入攻击的稳健性、测试响应格式的一致性、发送大量参数化提示并导出到Excel文件、验证同一模型不同设置的响应质量、测量不同系统消息对ChatGPT输出的影响等。

开放发布的Grok-1模型，拥有3140亿参数

Grok-1是由xAI从头开始训练的314亿参数的专家混合模型（Mixture-of-Experts）。该模型未经针对特定应用（如对话）的微调，是Grok-1预训练阶段的原始基础模型检查点。

一款开源大型语言模型，适用于中英文

MediaTek Research发布了名为MR Breeze-7B的新开源大型语言模型，拥有70亿参数，擅长处理中英文。相比先前的BLOOM-3B，MR Breeze-7B吸收了20倍的知识，使其能够精准处理传统中文语言的文化和语言细微差别。优化后，MR Breeze-7B在处理速度上胜过其他模型，为用户带来更流畅的体验。定价免费。

高效单遍统一生成和检索框架，适用于大型语言模型。

OneGen是一个为大型语言模型（LLMs）设计的高效单遍生成和检索框架，用于微调生成、检索或混合任务。它的核心思想是将生成和检索任务整合到同一上下文中，通过将检索任务分配给以自回归方式生成的检索令牌，使得LLM能够在单次前向传递中执行两种任务。这种方法不仅降低了部署成本，还显著减少了推理成本，因为它避免了对查询进行两次前向传递计算的需求。

无审查限制的AI模型平台

FreedomGPT是一个提供多种AI模型的平台，包括无审查限制的模型，用户可以在一个熟悉的界面中轻松切换开源和专有模型。它允许用户在浏览器或直接在计算机上运行这些模型，无需注册，无需技术专长。此外，它还支持离线使用，保证了用户隐私和数据安全。FreedomGPT还提供了一个开放源代码的AI平台，鼓励社区成员共同参与构建。

开源AI代码编辑器，提供强大的AI功能和完全的数据控制。

Void是一个开源的代码编辑器，是Visual Studio Code的分支，它允许用户利用AI工具编写代码，同时完全控制自己的数据。它提供了丰富的AI特性，如自动补全、内联编辑、文件搜索和生成等。此外，它还支持本地模型托管和直接与大型语言模型通信，无需通过中间人。Void的定位是为开发者提供一个高效、安全且功能丰富的编程环境。

世界领先的数学开源大语言模型

Qwen2.5-Math是一系列专门针对数学问题设计的开源大语言模型，包括基础模型和指令微调模型，支持中英双语，能够通过思维链（CoT）和工具集成推理（TIR）方式解决数学问题。该模型在多个数学基准测试中表现优异，特别是在精确计算和算法操作方面。Qwen2.5-Math的开发背景是提升大语言模型在数学领域的应用能力，推动数学教育和研究的发展。

亿图图示AI可快速生成各种图表，提升办公效率。

亿图图示AI是一款强大的在线图表生成工具，用户只需输入需求，即可在1分钟内生成流程图、思维导图等多种图形。该产品支持多种操作系统，适合个人用户和团队使用。提供200个AI点数，部分功能免费体验，适合各类办公需求。

一站式AI工具导航平台，探索人工智能的无限可能。

AI问我是一个集合了多种人工智能工具的导航平台，它为用户展示了从AI写作、设计、编程到娱乐和教育等多个领域的AI工具。该平台通过提供丰富的AI工具列表，帮助用户快速找到适合自己需求的AI解决方案，无论是提高工作效率、创造艺术作品还是进行学术研究，都能在这里找到合适的工具。AI问我的背景信息显示，它旨在为用户提供一个安全、便捷、内容广泛的AI工具搜索和使用环境。

多语言大型语言模型，支持多领域文本生成。

XVERSE-MoE-A36B是由深圳元象科技自主研发的多语言大型语言模型，采用混合专家模型（MoE）架构，具有2554亿的总参数规模和360亿的激活参数量。该模型支持包括中、英、俄、西等40多种语言，特别在中英双语上表现优异。模型使用8K长度的训练样本，并通过精细化的数据采样比例和动态数据切换策略，保证了模型的高质量和多样性。此外，模型还针对MoE架构进行了定制优化，提升了计算效率和整体吞吐量。

AI工具箱和AI资讯平台

AI奇点网是一个专注于AI工具测评、AI应用案例分享、AI学习资源的综合性平台。它提供了丰富的AI工具和资讯，帮助用户了解和应用最新的人工智能技术，推动AI技术的普及和应用。

AI编程智能体语言，实现LLM与IDE之间的通信以自动化编程。

the Shire是一种AI编程智能体语言，旨在实现大型语言模型（LLM）与集成开发环境（IDE）之间的通信，以支持自动化编程。它起源于AutoDev项目，旨在为开发者提供一个AI驱动的IDE，包括DevIns，Shire的前身。Shire通过提供定制化的AI代理，使用户能够构建符合个人需求的AI驱动开发环境。

为初学者设计的AI Python编程课程

AI Python for Beginners 是由 DeepLearning.AI 提供的在线课程，由全球知名的 AI 领导者 Andrew Ng 亲自授课。课程旨在帮助初学者学习 Python 编程基础，并教授如何将 AI 工具集成到数据操作、分析和可视化中。通过这个课程，学习者可以发现 Python 在商业、市场营销和新闻等领域的应用，解决实际问题并提高效率。课程通过 AI 助手辅助学习，提供即时反馈，解答问题，快速识别并解决编程中的错误，确保学习者在编码过程中得到有效支持。

免费且快速的提示链生成器

PromptChainer 是一个旨在提高大型语言模型输出质量的工具，通过自动化提示链的生成，帮助用户将复杂任务分解成可管理的小步骤，从而获得更精确和高质量的结果。它特别适合需要多步骤和/或大量上下文和知识的任务。

将智能设备控制权交到您手中。

01 App是一个基于iOS和Android的应用程序，它通过简单的按键对讲界面，允许用户从世界任何地方控制Mac、Windows和Linux机器。该应用代表了一种新型的计算平台，专注于软件而非硬件，通过提供更好的SDK、集成语音模型、提高教学模式的可靠性和增加多模态功能来增强用户体验。01 App的推出，是为了让用户能够更便捷地体验到01平台的智能设备控制能力，同时避免了制造硬件所带来的复杂性和成本。

使大型语言模型在长文本问答中生成细粒度引用

LongCite是一个开源的模型，它通过训练大型语言模型（LLMs）来实现在长文本问答场景中生成准确的回答和精确的句级引用。该技术的重要性在于它能够提高问答系统的准确性和可信度，使用户能够验证输出信息的来源。LongCite支持高达128K的上下文长度，并且提供了两个模型：LongCite-glm4-9b和LongCite-llama3.1-8b，分别基于GLM-4-9B和Meta-Llama-3.1-8B进行训练。