产品库

70B参数的大型量化语言模型

PatronusAI/Llama-3-Patronus-Lynx-70B-Instruct-Q4_K_M-GGUF是一个基于70B参数的大型量化语言模型，使用了4-bit量化技术，以减少模型大小并提高推理效率。该模型属于PatronusAI系列，是基于Transformers库构建的，适用于需要高性能自然语言处理的应用场景。模型遵循cc-by-nc-4.0许可协议，意味着可以非商业性地使用和分享。

一款具有671B参数的Mixture-of-Experts语言模型。

DeepSeek-V3是一个强大的Mixture-of-Experts (MoE) 语言模型，拥有671B的总参数量，每次激活37B参数。它采用了Multi-head Latent Attention (MLA) 和 DeepSeekMoE架构，这些架构在DeepSeek-V2中得到了充分的验证。此外，DeepSeek-V3首次采用了无辅助损失的负载均衡策略，并设置了多令牌预测训练目标，以实现更强大的性能。DeepSeek-V3在14.8万亿高质量令牌上进行了预训练，随后进行了监督式微调和强化学习阶段，以充分利用其能力。综合评估显示，DeepSeek-V3超越了其他开源模型，并达到了与领先的闭源模型相当的性能。尽管性能出色，DeepSeek-V3的完整训练仅需要2.788M H800 GPU小时，并且训练过程非常稳定。

70亿参数的量化文本生成模型

Llama-Lynx-70b-4bit-Quantized是由PatronusAI开发的一个大型文本生成模型，具有70亿参数，并且经过4位量化处理，以优化模型大小和推理速度。该模型基于Hugging Face的Transformers库构建，支持多种语言，特别是在对话生成和文本生成领域表现出色。它的重要性在于能够在保持较高性能的同时减少模型的存储和计算需求，使得在资源受限的环境中也能部署强大的AI模型。

70亿参数的文本生成模型

Llama-lynx-70b-4bitAWQ是一个由Hugging Face托管的70亿参数的文本生成模型，使用了4-bit精度和AWQ技术。该模型在自然语言处理领域具有重要性，特别是在需要处理大量数据和复杂任务时。它的优势在于能够生成高质量的文本，同时保持较低的计算成本。产品背景信息显示，该模型与'transformers'和'safetensors'库兼容，适用于文本生成任务。

高性能的量化语言模型

PatronusAI/glider-gguf是一个基于Hugging Face平台的高性能量化语言模型，采用GGUF格式，支持多种量化版本，如BF16、Q8_0、Q5_K_M、Q4_K_M等。该模型基于phi3架构，拥有3.82B参数，主要优点包括高效的计算性能和较小的模型体积，适用于需要快速推理和低资源消耗的场景。产品背景信息显示，该模型由PatronusAI提供，适合需要进行自然语言处理和文本生成的开发者和企业使用。

7B参数的大型语言模型，提升自然语言处理能力

OLMo 2 7B是由Allen Institute for AI (Ai2)开发的一款7B参数的大型语言模型，它在多个自然语言处理任务上展现出色的表现。该模型通过在大规模数据集上的训练，能够理解和生成自然语言，支持多种语言模型相关的科研和应用。OLMo 2 7B的主要优点包括其大规模的参数量，使得模型能够捕捉到更加细微的语言特征，以及其开源的特性，促进了学术界和工业界的进一步研究和应用。

高性能的7B参数因果语言模型

tiiuae/falcon-mamba-7b是由TII UAE开发的高性能因果语言模型，基于Mamba架构，专为生成任务设计。该模型在多个基准测试中展现出色的表现，并且能够在不同的硬件配置上运行，支持多种精度设置，以适应不同的性能和资源需求。模型的训练使用了先进的3D并行策略和ZeRO优化技术，使其在大规模GPU集群上高效训练成为可能。

开源的高性能语言模型，支持多端应用。

Qwen2.5系列语言模型是一系列开源的decoder-only稠密模型，参数规模从0.5B到72B不等，旨在满足不同产品对模型规模的需求。这些模型在自然语言理解、代码生成、数学推理等多个领域表现出色，特别适合需要高性能语言处理能力的应用场景。Qwen2.5系列模型的发布，标志着在大型语言模型领域的一次重要进步，为开发者和研究者提供了强大的工具。

Llama-3 70B模型的LoRA适配器，扩展上下文长度至超过524K。

Llama-3 70B Gradient 524K Adapter是一个基于Llama-3 70B模型的适配器，由Gradient AI Team开发，旨在通过LoRA技术扩展模型的上下文长度至524K，从而提升模型在处理长文本数据时的性能。该模型使用了先进的训练技术，包括NTK-aware插值和RingAttention库，以高效地在高性能计算集群上进行训练。

Sonus-1：开启大型语言模型（LLMs）的新时代

Sonus-1是Sonus AI推出的一系列大型语言模型（LLMs），旨在推动人工智能的边界。这些模型以其高性能和多应用场景的多功能性而设计，包括Sonus-1 Mini、Sonus-1 Air、Sonus-1 Pro和Sonus-1 Pro (w/ Reasoning)等不同版本，以满足不同需求。Sonus-1 Pro (w/ Reasoning)在多个基准测试中表现突出，特别是在推理和数学问题上，展现了其超越其他专有模型的能力。Sonus AI致力于开发高性能、可负担、可靠且注重隐私的大型语言模型。

从自然语言提示创建B-Rep CAD文件和网格

Text-to-CAD UI是一个利用自然语言提示生成B-Rep CAD文件和网格的平台。它通过ML-ephant API，由Zoo提供支持，能够将用户的自然语言描述直接转化为精确的CAD模型。这项技术的重要性在于它极大地简化了设计过程，使得非专业人士也能轻松创建复杂的CAD模型，从而推动了设计的民主化和创新。产品背景信息显示，它是由Zoo开发的，旨在通过机器学习技术提升设计效率。关于价格和定位，用户需要登录后才能获取更多信息。

LG AI Research开发的双语生成模型

EXAONE 3.5是LG AI Research开发的一系列指令调优的双语（英语和韩语）生成模型，参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理，并在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与最近发布的类似大小模型相比的一般领域中保持竞争力。EXAONE 3.5模型包括：1) 2.4B模型，优化用于小型或资源受限设备的部署；2) 7.8B模型，与前代模型大小相匹配，但提供改进的性能；3) 32B模型，提供强大的性能。

开源幻觉评估模型

Patronus-Lynx-8B-Instruct-v1.1是基于meta-llama/Meta-Llama-3.1-8B-Instruct模型的微调版本，主要用于检测RAG设置中的幻觉。该模型经过CovidQA、PubmedQA、DROP、RAGTruth等多个数据集的训练，包含人工标注和合成数据。它能够评估给定文档、问题和答案是否忠实于文档内容，不提供超出文档范围的新信息，也不与文档信息相矛盾。

多模态大型语言模型，展示卓越的整体性能。

InternVL2.5-MPO是一个先进的多模态大型语言模型系列，它基于InternVL2.5和混合偏好优化构建。该模型整合了新增量预训练的InternViT与各种预训练的大型语言模型，包括InternLM 2.5和Qwen 2.5，使用随机初始化的MLP投影器。InternVL2.5-MPO在新版本中保留了与InternVL 2.5及其前身相同的模型架构，遵循“ViT-MLP-LLM”范式。该模型支持多图像和视频数据，通过混合偏好优化（MPO）进一步提升模型性能，使其在多模态任务中表现更优。

70B参数的文本生成模型

Llama-3.1-70B-Instruct-AWQ-INT4是一个由Hugging Face托管的大型语言模型，专注于文本生成任务。该模型拥有70B个参数，能够理解和生成自然语言文本，适用于多种文本相关的应用场景，如内容创作、自动回复等。它基于深度学习技术，通过大量的数据训练，能够捕捉语言的复杂性和多样性。模型的主要优点包括高参数量带来的强大表达能力，以及针对特定任务的优化，使其在文本生成领域具有较高的效率和准确性。

知识增强型故事角色定制的统一世界模型

StoryWeaver是一个为知识增强型故事角色定制而设计的统一世界模型，旨在实现单一和多角色故事可视化。该模型基于AAAI 2025论文，能够通过统一的框架处理故事中角色的定制和可视化，这对于自然语言处理和人工智能领域具有重要意义。StoryWeaver的主要优点包括其能够处理复杂故事情境的能力，以及能够持续更新和扩展其功能。产品背景信息显示，该模型将不断更新arXiv论文，并添加更多实验结果。

ModernBERT是新一代的编码器模型，性能卓越。

ModernBERT是由Answer.AI和LightOn共同发布的新一代编码器模型，它是BERT模型的全面升级版，提供了更长的序列长度、更好的下游性能和更快的处理速度。ModernBERT采用了最新的Transformer架构改进，特别关注效率，并使用了现代数据规模和来源进行训练。作为编码器模型，ModernBERT在各种自然语言处理任务中表现出色，尤其是在代码搜索和理解方面。它提供了基础版（139M参数）和大型版（395M参数）两种模型尺寸，适合各种规模的应用需求。

FlagCX是一个跨芯片通信库。

FlagCX是由北京人工智能研究院（BAAI）支持开发的可扩展和自适应的跨芯片通信库。它是FlagAI-Open开源计划的一部分，旨在促进AI技术的开源生态系统。FlagCX利用原生集体通信库，全面支持不同平台上的单芯片通信。支持的通信后端包括NCCL、IXCCL和CNCL。

LG AI Research开发的多语言生成模型

EXAONE-3.5-32B-Instruct-AWQ是LG AI Research开发的一系列指令调优的双语（英语和韩语）生成模型，参数从2.4B到32B不等。这些模型支持长达32K令牌的长上下文处理，在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与最近发布的类似大小模型相比，在通用领域保持竞争力。该模型通过AWQ量化技术，实现了4位组级别的权重量化，优化了模型的部署效率。

一款高效率的2.4亿参数轻量级语言模型

YuLan-Mini是由中国人民大学AI Box团队开发的一款轻量级语言模型，具有2.4亿参数，尽管仅使用1.08T的预训练数据，但其性能可与使用更多数据训练的行业领先模型相媲美。该模型特别擅长数学和代码领域，为了促进可复现性，团队将开源相关的预训练资源。

场景感知的语义导航与指令引导控制模型

SCENIC是一个文本条件的场景交互模型，能够适应具有不同地形的复杂场景，并支持使用自然语言进行用户指定的语义控制。该模型通过用户指定的轨迹作为子目标和文本提示，来导航3D场景。SCENIC利用层次化推理场景的方法，结合运动与文本之间的帧对齐，实现不同运动风格之间的无缝过渡。该技术的重要性在于其能够生成符合真实物理规则和用户指令的角色导航动作，对于虚拟现实、增强现实以及游戏开发等领域具有重要意义。

多模态大型语言模型，展示卓越的整体性能

InternVL2.5-MPO是一个先进的多模态大型语言模型系列，基于InternVL2.5和混合偏好优化构建。该模型集成了新增量预训练的InternViT和各种预训练的大型语言模型，如InternLM 2.5和Qwen 2.5，使用随机初始化的MLP投影器。它支持多图像和视频数据，并且在多模态任务中表现出色，能够理解和生成与图像相关的文本内容。

将文本描述转换成高质量音效的AI技术。

AI Sound Effect Generator是一款革命性的工具，它利用先进的AI技术将书面描述转换成自定义音效。该技术结合了自然语言处理和神经音频合成，以产生高质量的输出。系统使用在大量音频数据集上训练的深度学习模型来理解复杂的音频特征，并生成相应的效果。它适用于需要快速获取自定义音效的内容创作者、游戏开发者和音频专业人士。AI Sound Effect Generator处理详细的描述和上下文信息，创建细腻、层次分明的音频效果，以匹配您的创意愿景。无论是环境氛围、机械噪音、音乐元素还是抽象效果，我们的系统都能准确且保真地生成。这种音频生成方法通过人工智能的力量提供了创意可能性。

一个基于Llama模型的量化版本，用于对话和幻觉检测。

PatronusAI/Llama-3-Patronus-Lynx-8B-v1.1-Instruct-Q8-GGUF是一个基于Llama模型的量化版本，专为对话和幻觉检测设计。该模型使用了GGUF格式，拥有8.03亿参数，属于大型语言模型。它的重要性在于能够提供高质量的对话生成和幻觉检测能力，同时保持模型的高效运行。该模型是基于Transformers库和GGUF技术构建的，适用于需要高性能对话系统和内容生成的应用场景。

LG AI Research开发的双语文本生成模型

EXAONE-3.5-2.4B-Instruct-AWQ是由LG AI Research开发的一系列双语（英语和韩语）指令调优生成模型，参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理，并且在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与近期发布的类似大小模型相比，在通用领域保持竞争力。该模型在部署到小型或资源受限设备上进行了优化，并且采用了AWQ量化技术，实现了4位群组权重量化（W4A16g128）。

轻量级库，用于构建高效能的智能代理

Smolagents是一个轻量级的库，允许用户以几行代码运行强大的智能代理。它以简洁性为特点，支持任何语言模型（LLM），包括Hugging Face Hub上的模型以及通过LiteLLM集成的OpenAI、Anthropic等模型。特别支持代码代理，即代理通过编写代码来执行动作，而不是让代理来编写代码。Smolagents还提供了代码执行的安全选项，包括安全的Python解释器和使用E2B的沙箱环境。

一站式大模型算法、模型及优化工具开源项目

FlagAI是由北京智源人工智能研究院推出的一站式、高质量开源项目，集成了全球各种主流大模型算法技术以及多种大模型并行处理和训练加速技术。它支持高效训练和微调，旨在降低大模型开发和应用的门槛，提高开发效率。FlagAI涵盖了多个领域明星模型，如语言大模型OPT、T5，视觉大模型ViT、Swin Transformer，多模态大模型CLIP等。智源研究院也持续将“悟道2.0”“悟道3.0”大模型项目成果开源至FlagAI，目前该项目已经加入Linux基金会，吸引全球科研力量共同创新、共同贡献。

深度推理翻译模型，通过长思考链优化神经机器翻译。

DRT-o1是一个神经机器翻译模型，它通过长思考链的方式优化翻译过程。该模型通过挖掘含有比喻或隐喻的英文句子，并采用多代理框架（包括翻译者、顾问和评估者）来合成长思考的机器翻译样本。DRT-o1-7B和DRT-o1-14B是基于Qwen2.5-7B-Instruct和Qwen2.5-14B-Instruct训练的大型语言模型。DRT-o1的主要优点在于其能够处理复杂的语言结构和深层次的语义理解，这对于提高机器翻译的准确性和自然性至关重要。

开源的端到端视觉语言模型（VLM）基础的GUI代理

CogAgent是一个基于视觉语言模型（VLM）的GUI代理，它通过屏幕截图和自然语言实现双语（中文和英文）交云。CogAgent在GUI感知、推理预测准确性、操作空间完整性和任务泛化方面取得了显著进步。该模型已经在ZhipuAI的GLM-PC产品中得到应用，旨在帮助研究人员和开发者推进基于视觉语言模型的GUI代理的研究和应用。

先进的多模态大型语言模型

InternVL2_5-2B-MPO是一个多模态大型语言模型系列，展示了卓越的整体性能。该系列基于InternVL2.5和混合偏好优化构建。它集成了新增量预训练的InternViT与各种预训练的大型语言模型，包括InternLM 2.5和Qwen 2.5，使用随机初始化的MLP投影器。该模型在多模态任务中表现出色，能够处理包括图像和文本在内的多种数据类型，适用于需要理解和生成多模态内容的场景。