产品库

Moonlight是一个16B参数的混合专家模型，使用Muon优化器训练，性能优异。

Moonlight是基于Muon优化器训练的16B参数混合专家模型（MoE），在大规模训练中表现出色。它通过添加权重衰减和调整参数更新比例，显著提高了训练效率和稳定性。该模型在多项基准测试中超越了现有模型，同时大幅减少了训练所需的计算量。Moonlight的开源实现和预训练模型为研究人员和开发者提供了强大的工具，支持多种自然语言处理任务，如文本生成、代码生成等。

业界领先的开源大型混合专家模型

Tencent-Hunyuan-Large（混元大模型）是由腾讯推出的业界领先的开源大型混合专家（MoE）模型，拥有3890亿总参数和520亿激活参数。该模型在自然语言处理、计算机视觉和科学任务等领域取得了显著进展，特别是在处理长上下文输入和提升长上下文任务处理能力方面表现出色。混元大模型的开源，旨在激发更多研究者的创新灵感，共同推动AI技术的进步和应用。

大规模深度循环语言模型的预训练代码，支持在4096个AMD GPU上运行。

该产品是一个用于大规模深度循环语言模型的预训练代码库，基于Python开发。它在AMD GPU架构上进行了优化，能够在4096个AMD GPU上高效运行。该技术的核心优势在于其深度循环架构，能够有效提升模型的推理能力和效率。它主要用于研究和开发高性能的自然语言处理模型，特别是在需要大规模计算资源的场景中。该代码库开源且基于Apache-2.0许可证，适合学术研究和工业应用。

RAG-FiT是一个用于提升LLMs利用外部信息能力的库，通过特别创建的RAG增强数据集对模型进行微调。

RAG-FiT是一个强大的工具，旨在通过检索增强生成（RAG）技术提升大型语言模型（LLMs）的能力。它通过创建专门的RAG增强数据集，帮助模型更好地利用外部信息。该库支持从数据准备到模型训练、推理和评估的全流程操作。其主要优点包括模块化设计、可定制化工作流以及对多种RAG配置的支持。RAG-FiT基于开源许可，适合研究人员和开发者进行快速原型开发和实验。

s1是一个基于Qwen2.5-32B-Instruct微调的推理模型，仅用1000个样本进行训练。

s1是一个推理模型，专注于通过少量样本实现高效的文本生成能力。它通过预算强制技术在测试时进行扩展，能够匹配o1-preview的性能。该模型由Niklas Muennighoff等人开发，相关研究发表在arXiv上。模型使用Safetensors技术，具有328亿参数，支持文本生成任务。其主要优点是能够通过少量样本实现高质量的推理，适合需要高效文本生成的场景。

支持100万Token上下文的开源Qwen模型，适用于长序列处理任务

Qwen2.5-1M 是一款开源的人工智能语言模型，专为处理长序列任务而设计，支持最多100万Token的上下文长度。该模型通过创新的训练方法和技术优化，显著提升了长序列处理的性能和效率。它在长上下文任务中表现出色，同时保持了短文本任务的性能，是现有长上下文模型的优秀开源替代。该模型适用于需要处理大量文本数据的场景，如文档分析、信息检索等，能够为开发者提供强大的语言处理能力。

持续搜索和阅读网页，直到找到答案（或超出token预算）。

node-DeepResearch 是一个基于 Jina AI 技术的深度研究模型，专注于通过持续搜索和阅读网页来寻找问题的答案。它利用 Gemini 提供的 LLM 能力和 Jina Reader 的网页搜索功能，能够处理复杂的查询任务，并通过多步骤的推理和信息整合来生成答案。该模型的主要优点在于其强大的信息检索能力和推理能力，能够处理复杂的、需要多步骤解答的问题。它适用于需要深入研究和信息挖掘的场景，如学术研究、市场分析等。目前该模型是开源的，用户可以通过 GitHub 获取代码并自行部署使用。

Mistral Small 24B 是一款多语言、高性能的指令微调型大型语言模型，适用于多种应用场景。

Mistral Small 24B 是一款由 Mistral AI 团队开发的大型语言模型，拥有 240 亿参数，支持多语言对话和指令处理。该模型通过指令微调，能够生成高质量的文本内容，适用于聊天、写作、编程辅助等多种场景。其主要优点包括强大的语言生成能力、多语言支持以及高效推理能力。该模型适合需要高性能语言处理的个人和企业用户，具有开源许可，支持本地部署和量化优化，适合对数据隐私有要求的场景。

Tülu 3 405B 是一个大规模开源语言模型，通过强化学习提升性能。

Tülu 3 405B 是由 Allen Institute for AI 开发的开源语言模型，具有 4050 亿参数。该模型通过创新的强化学习框架（RLVR）提升性能，尤其在数学和指令跟随任务中表现出色。它基于 Llama-405B 模型进行优化，采用监督微调、偏好优化等技术。Tülu 3 405B 的开源性质使其成为研究和开发领域的强大工具，适用于需要高性能语言模型的各种应用场景。

这是一个完全开放的 DeepSeek-R1 模型的复现项目，旨在帮助开发者复现和构建基于 R1 的模型。

huggingface/open-r1 是一个开源项目，致力于复现 DeepSeek-R1 模型。该项目提供了一系列脚本和工具，用于训练、评估和生成合成数据，支持多种训练方法和硬件配置。其主要优点是完全开放，允许开发者自由使用和改进，对于希望在深度学习和自然语言处理领域进行研究和开发的用户来说，是一个非常有价值的资源。该项目目前没有明确的定价，适合学术研究和商业用途。

PengChengStarling 是一个基于 icefall 项目的多语言自动语音识别（ASR）模型开发工具包。

PengChengStarling 是一个专注于多语言自动语音识别（ASR）的开源工具包，基于 icefall 项目开发。它支持完整的 ASR 流程，包括数据处理、模型训练、推理、微调和部署。该工具包通过优化参数配置和集成语言 ID 到 RNN-Transducer 架构中，显著提升了多语言 ASR 系统的性能。其主要优点包括高效的多语言支持、灵活的配置设计以及强大的推理性能。PengChengStarling 的模型在多种语言上表现出色，且模型规模较小，推理速度极快，适合需要高效语音识别的场景。

Janus-Pro-1B 是一个统一多模态理解和生成的自回归框架。

Janus-Pro-1B 是一个创新的多模态模型，专注于统一多模态理解和生成。它通过分离视觉编码路径，解决了传统方法在理解和生成任务中的冲突问题，同时保持了单个统一的 Transformer 架构。这种设计不仅提高了模型的灵活性，还使其在多模态任务中表现出色，甚至超越了特定任务的模型。该模型基于 DeepSeek-LLM-1.5b-base/DeepSeek-LLM-7b-base 构建，使用 SigLIP-L 作为视觉编码器，支持 384x384 的图像输入，并采用特定的图像生成 tokenizer。其开源性和灵活性使其成为下一代多模态模型的有力候选。

首个面向语境智能的人类级实时交互系统，支持多情感、多风格语音交互。

SpeechGPT 2.0-preview 是一款由复旦大学自然语言处理实验室开发的先进语音交互模型。它通过海量语音数据训练，实现了低延迟、高自然度的语音交互能力。该模型能够模拟多种情感、风格和角色的语音表达，同时支持工具调用、在线搜索和外部知识库访问等功能。其主要优点包括强大的语音风格泛化能力、多角色模拟以及低延迟交互体验。目前该模型仅支持中文语音交互，未来计划扩展到更多语言。

百川智能开发的专为医疗场景优化的开源大语言模型，具备卓越的通用能力和医疗领域性能。

Baichuan-M1-14B 是由百川智能开发的开源大语言模型，专为医疗场景优化。它基于20万亿token的高质量医疗与通用数据训练，覆盖20多个医疗科室，具备强大的上下文理解和长序列任务表现能力。该模型在医疗领域表现出色，同时在通用任务中也达到了同尺寸模型的效果。其创新的模型结构和训练方法使其在医疗推理、病症判断等复杂任务中表现出色，为医疗领域的人工智能应用提供了强大的支持。

DeepSeek-R1-Distill-Qwen-1.5B 是一款高效推理的开源语言模型，适用于多种自然语言处理任务。

DeepSeek-R1-Distill-Qwen-1.5B 是由 DeepSeek 团队开发的开源语言模型，基于 Qwen2.5 系列进行蒸馏优化。该模型通过大规模强化学习和数据蒸馏技术，显著提升了推理能力和性能，同时保持了较小的模型体积。它在多项基准测试中表现出色，尤其在数学、代码生成和推理任务中具有显著优势。该模型支持商业使用，并允许用户进行修改和衍生作品开发，适合研究机构和企业用于开发高性能的自然语言处理应用。

这是一个基于Qwen2.5-32B模型的4位量化版本，专为高效推理和低资源部署设计。

该产品是一个基于Qwen2.5-32B的4位量化语言模型，通过GPTQ技术实现高效推理和低资源消耗。它在保持较高性能的同时，显著降低了模型的存储和计算需求，适合在资源受限的环境中使用。该模型主要面向需要高性能语言生成的应用场景，如智能客服、编程辅助、内容创作等。其开源许可和灵活的部署方式使其在商业和研究领域具有广泛的应用前景。

开源的视觉语言模型，可在多种设备上运行。

Moondream AI是一个开源的视觉语言模型，具有强大的多模态处理能力。它支持多种量化格式，如fp16、int8、int4，能够在服务器、PC、移动设备等多种目标设备上进行GPU和CPU优化推理。其主要优点包括快速、高效、易于部署，且采用Apache 2.0许可证，允许用户自由使用和修改。Moondream AI的定位是为开发者提供一个灵活、高效的人工智能解决方案，适用于需要视觉和语言处理能力的各种应用场景。

一款高效率的2.4亿参数轻量级语言模型

YuLan-Mini是由中国人民大学AI Box团队开发的一款轻量级语言模型，具有2.4亿参数，尽管仅使用1.08T的预训练数据，但其性能可与使用更多数据训练的行业领先模型相媲美。该模型特别擅长数学和代码领域，为了促进可复现性，团队将开源相关的预训练资源。

一款具有671B参数的Mixture-of-Experts语言模型。

DeepSeek-V3是一个强大的Mixture-of-Experts (MoE) 语言模型，拥有671B的总参数量，每次激活37B参数。它采用了Multi-head Latent Attention (MLA) 和 DeepSeekMoE架构，这些架构在DeepSeek-V2中得到了充分的验证。此外，DeepSeek-V3首次采用了无辅助损失的负载均衡策略，并设置了多令牌预测训练目标，以实现更强大的性能。DeepSeek-V3在14.8万亿高质量令牌上进行了预训练，随后进行了监督式微调和强化学习阶段，以充分利用其能力。综合评估显示，DeepSeek-V3超越了其他开源模型，并达到了与领先的闭源模型相当的性能。尽管性能出色，DeepSeek-V3的完整训练仅需要2.788M H800 GPU小时，并且训练过程非常稳定。

最强大的RWKV模型变体，打破多项英语基准测试。

Q-RWKV-6 32B Instruct Preview是由Recursal AI开发的最新RWKV模型变体，它在多项英语基准测试中超越了之前所有的RWKV、State Space和Liquid AI模型。这个模型通过将Qwen 32B Instruct模型的权重转换到定制的QRWKV6架构中，成功地用RWKV-V6注意力头替换了现有的Transformer注意力头，这一过程是由Recursal AI团队与RWKV和EleutherAI开源社区联合开发的。该模型的主要优点包括在大规模计算成本上的显著降低，以及对环境友好的开源AI技术。

高性能英文文本生成模型

OLMo-2-1124-7B-SFT是由艾伦人工智能研究所（AI2）发布的一个英文文本生成模型，它是OLMo 2 7B模型的监督微调版本，专门针对Tülu 3数据集进行了优化。Tülu 3数据集旨在提供多样化任务的顶尖性能，包括聊天、数学问题解答、GSM8K、IFEval等。该模型的主要优点包括强大的文本生成能力、多样性任务处理能力以及开源的代码和训练细节，使其成为研究和教育领域的有力工具。

7B参数的大型语言模型，提升自然语言处理能力

OLMo 2 7B是由Allen Institute for AI (Ai2)开发的一款7B参数的大型语言模型，它在多个自然语言处理任务上展现出色的表现。该模型通过在大规模数据集上的训练，能够理解和生成自然语言，支持多种语言模型相关的科研和应用。OLMo 2 7B的主要优点包括其大规模的参数量，使得模型能够捕捉到更加细微的语言特征，以及其开源的特性，促进了学术界和工业界的进一步研究和应用。

科学文献综合检索增强型语言模型

Ai2 OpenScholar是由艾伦人工智能研究所与华盛顿大学合作开发的检索增强型语言模型，旨在帮助科学家通过检索相关文献并基于这些文献生成回答来有效导航和综合科学文献。该模型在多个科学领域中表现出色，特别是在引用准确性和事实性方面。它代表了人工智能在科学研究中应用的重要进步，能够加速科学发现并提高研究效率。

先进的指令遵循模型，提供全面后训练技术指南。

Llama-3.1-Tulu-3-8B-RM是Tülu3模型家族的一部分，该家族以开源数据、代码和配方为特色，旨在为现代后训练技术提供全面指南。该模型专为聊天以外的多样化任务（如MATH、GSM8K和IFEval）提供最先进的性能。

领先的指令遵循模型家族，提供开源数据、代码和指南。

Llama-3.1-Tulu-3-70B-SFT是Tülu3模型家族的一部分，专为现代后训练技术提供全面指南而设计。该模型不仅在聊天任务上表现出色，还在MATH、GSM8K和IFEval等多种任务上实现了最先进的性能。它是基于公开可用的、合成的和人类创建的数据集训练的，主要使用英语，并遵循Llama 3.1社区许可协议。

先进的文本生成模型，支持多样化任务

Llama-3.1-Tulu-3-8B-DPO是Tülu3模型家族中的一员，专注于指令遵循，提供完全开源的数据、代码和配方，旨在作为现代后训练技术的全面指南。该模型专为聊天以外的多样化任务设计，如MATH、GSM8K和IFEval，以达到最先进的性能。模型主要优点包括开源数据和代码、支持多种任务、以及优秀的性能。产品背景信息显示，该模型由Allen AI研究所开发，遵循Llama 3.1社区许可协议，适用于研究和教育用途。

使用Anthropic API进行Playwright测试的AI工具

playwright-ai是一个集成了Anthropic的AI能力的Playwright测试插件。它允许开发者使用自然语言描述测试步骤，通过AI来执行复杂的测试任务，提高了测试的效率和准确性。该技术的主要优点包括简化测试流程、减少重复代码和提高测试覆盖率。产品背景是基于Playwright测试框架和Anthropic的AI技术，适用于需要进行自动化测试的软件开发项目。目前该项目是开源的，因此对于开发者来说是免费的。

先进的指令遵循模型，提供开源数据和代码。

Llama-3.1-Tulu-3-8B是Tülu3指令遵循模型家族的一部分，专为多样化任务设计，包括聊天、数学问题解答、GSM8K和IFEval等。这个模型家族以其卓越的性能和完全开源的数据、代码以及现代后训练技术的全面指南而著称。模型主要使用英文，并且是基于allenai/Llama-3.1-Tulu-3-8B-DPO模型微调而来。

AI模型部署和推理优化的专家

Neural Magic是一家专注于AI模型优化和部署的公司，提供领先的企业级推理解决方案，以最大化性能和提高硬件效率。公司的产品支持在GPU和CPU基础设施上运行领先的开源大型语言模型（LLMs），帮助企业在云、私有数据中心或边缘环境中安全、高效地部署AI模型。Neural Magic的产品背景信息强调了其在机器学习模型优化方面的专业知识，以及与科研机构合作开发的创新LLM压缩技术，如GPTQ和SparseGPT。产品价格和定位方面，Neural Magic提供了免费试用和付费服务，旨在帮助企业降低成本、提高效率，并保持数据隐私和安全。

将自然语言描述转化为可执行的shell命令的本地推理命令行工具。

llmc是一个基于llama.cpp的本地推理命令行工具，能够将自然语言描述转化为可执行的shell命令。它支持多种预配置的模型，并允许用户自定义模型以适应特定的工作流程。该工具的主要优点包括自然语言命令生成、可定制化模型、多种操作模式、命令解释以及追踪功能。llmc的背景信息显示，它是由guoriyue开发的一个开源项目，拥有活跃的社区和持续的更新。产品定位为免费开源工具，旨在提高开发者和技术人员的工作效率。