产品库

大型语言模型，支持多语言和代码数据

Mistral-Nemo-Instruct-2407是由Mistral AI和NVIDIA联合训练的大型语言模型（LLM），是Mistral-Nemo-Base-2407的指导微调版本。该模型在多语言和代码数据上进行了训练，显著优于大小相似或更小的现有模型。其主要特点包括：支持多语言和代码数据训练、128k上下文窗口、可替代Mistral 7B。模型架构包括40层、5120维、128头维、1436隐藏维、32个头、8个kv头（GQA）、2^17词汇量（约128k）、旋转嵌入（theta=1M）。该模型在多种基准测试中表现出色，如HellaSwag（0-shot）、Winogrande（0-shot）、OpenBookQA（0-shot）等。

大型语言模型，支持多语言和编程语言文本生成。

Nemotron-4-340B-Base是由NVIDIA开发的大型语言模型，拥有3400亿参数，支持4096个token的上下文长度，适用于生成合成数据，帮助研究人员和开发者构建自己的大型语言模型。模型经过9万亿token的预训练，涵盖50多种自然语言和40多种编程语言。NVIDIA开放模型许可允许商业使用和派生模型的创建与分发，不声明对使用模型或派生模型生成的任何输出拥有所有权。

大型多语言预训练语言模型

Meta Llama 3.1-405B 是由 Meta 开发的一系列大型多语言预训练语言模型，包含8B、70B和405B三种规模的模型。这些模型经过优化的变压器架构，使用监督式微调（SFT）和强化学习与人类反馈（RLHF）进行调优，以符合人类对帮助性和安全性的偏好。Llama 3.1 模型支持多种语言，包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语。该模型在多种自然语言生成任务中表现出色，并在行业基准测试中超越了许多现有的开源和封闭聊天模型。

多语言大型语言模型，优化对话场景。

Meta Llama 3.1是一系列多语言的大型预训练和指令调整的生成模型，包含8B、70B和405B大小的版本。这些模型专为多语言对话用例而优化，并在常见行业基准测试中表现优于许多开源和闭源聊天模型。模型使用优化的transformer架构，并通过监督式微调(SFT)和强化学习与人类反馈(RLHF)进行调整，以符合人类对有用性和安全性的偏好。

52B参数的开源多语言大型语言模型

Tele-FLM（亦称FLM-2）是一个52亿参数的开源多语言大型语言模型，具有稳定高效的预训练范式和增强的事实判断能力。基于解码器仅变换器架构，已在大约2T的token上进行训练。Tele-FLM在同等规模上展现出优越的性能，有时甚至超越了更大的模型。除了分享模型权重外，我们还提供了核心设计、工程实践和训练细节，期待它们对学术界和工业界社区都有所裨益。

新一代开源预训练模型，支持多语言和高级功能

GLM-4-9B是智谱AI推出的新一代预训练模型，属于GLM-4系列中的开源版本。它在语义、数学、推理、代码和知识等多方面的数据集测评中表现优异，具备多轮对话、网页浏览、代码执行、自定义工具调用和长文本推理等高级功能。此外，还支持包括日语、韩语、德语在内的26种语言，并有支持1M上下文长度的模型版本。

多语言大型语言模型

Llama 3.2是由Meta公司推出的多语言大型语言模型（LLMs），包含1B和3B两种规模的预训练和指令调优生成模型。这些模型在多种语言对话用例中进行了优化，包括代理检索和总结任务。Llama 3.2在许多行业基准测试中的表现优于许多现有的开源和封闭聊天模型。

多语言大型语言模型，优化对话和文本生成。

Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B三种大小的模型，专门针对多语言对话使用案例进行了优化，并在行业基准测试中表现优异。该模型使用优化的transformer架构，并通过监督式微调（SFT）和人类反馈的强化学习（RLHF）进一步与人类偏好对齐，以确保其有用性和安全性。

多语言大型语言模型，支持23种语言

Aya Expanse是一个具有高级多语言能力的开放权重研究模型。它专注于将高性能的预训练模型与Cohere For AI一年的研究成果相结合，包括数据套利、多语言偏好训练、安全调整和模型合并。该模型是一个强大的多语言大型语言模型，服务于23种语言，包括阿拉伯语、中文（简体和繁体）、捷克语、荷兰语、英语、法语、德语、希腊语、希伯来语、印地语、印尼语、意大利语、日语、韩语、波斯语、波兰语、葡萄牙语、罗马尼亚语、俄语、西班牙语、土耳其语、乌克兰语和越南语。

多语言大型语言模型，支持多领域文本生成。

XVERSE-MoE-A36B是由深圳元象科技自主研发的多语言大型语言模型，采用混合专家模型（MoE）架构，具有2554亿的总参数规模和360亿的激活参数量。该模型支持包括中、英、俄、西等40多种语言，特别在中英双语上表现优异。模型使用8K长度的训练样本，并通过精细化的数据采样比例和动态数据切换策略，保证了模型的高质量和多样性。此外，模型还针对MoE架构进行了定制优化，提升了计算效率和整体吞吐量。

70B参数的多语言大型预训练语言模型

Meta Llama 3.3是一个70B参数的多语言大型预训练语言模型（LLM），专为多语言对话用例优化，并在常见行业基准测试中表现优于许多现有的开源和封闭聊天模型。该模型采用优化的Transformer架构，并使用监督式微调（SFT）和基于人类反馈的强化学习（RLHF）来符合人类的有用性和安全性偏好。

多语言预训练数据集

FineWeb2是由Hugging Face提供的一个大规模多语言预训练数据集，覆盖超过1000种语言。该数据集经过精心设计，用于支持自然语言处理(NLP)模型的预训练和微调，特别是在多种语言上。它以其高质量、大规模和多样性而闻名，能够帮助模型学习跨语言的通用特征，提升在特定语言任务上的表现。FineWeb2在多个语言的预训练数据集中表现出色，甚至在某些情况下，比一些专门为单一语言设计的数据库表现更好。

70亿参数的多语言大型语言模型

Llama-3.3-70B-Instruct是由Meta开发的一个70亿参数的大型语言模型，专门针对多语言对话场景进行了优化。该模型使用优化的Transformer架构，并通过监督式微调(SFT)和基于人类反馈的强化学习(RLHF)来提高其有用性和安全性。它支持多种语言，并能够处理文本生成任务，是自然语言处理领域的一项重要技术。

LG AI Research开发的多语言、高性能大型语言模型

EXAONE-3.5-32B-Instruct-GGUF是LG AI Research开发的一系列指令调优的双语（英语和韩语）生成模型，包含2.4B至32B参数的不同版本。这些模型支持长达32K令牌的长上下文处理，展现了在真实世界用例和长上下文理解中的最前沿性能，同时在与近期发布的类似规模模型相比，在通用领域保持竞争力。该模型系列通过技术报告、博客和GitHub提供了详细信息，并且包含了多种精度的指令调优32B语言模型，具有以下特点：参数数量（不含嵌入）为30.95B，层数为64，注意力头数为GQA，包含40个Q头和8个KV头，词汇量为102,400，上下文长度为32,768令牌，量化包括Q8_0、Q6_0、Q5_K_M、Q4_K_M、IQ4_XS等GGUF格式（也包括BF16权重）。

新一代多语言预训练模型，支持长文本和代码执行。

GLM-4-9B-Chat是智谱AI推出的新一代预训练模型GLM-4系列中的开源版本，具备多轮对话、网页浏览、代码执行、自定义工具调用和长文本推理等高级功能。支持包括日语、韩语、德语在内的26种语言，并且推出了支持1M上下文长度的模型。

Qwen3是Qwen系列大型语言模型的最新成员，支持多种思考模式和多语言。

Qwen3是通义千问团队推出的最新大型语言模型，旨在通过强大的思考和快速响应能力，为用户提供高效、灵活的解决方案。该模型支持多种思考模式，能够根据任务需求灵活调整推理深度，同时支持119种语言和方言，适用于国际应用。Qwen3的发布和开源，将极大地推动大型基础模型的研究与开发，帮助全球研究人员、开发者和组织利用前沿模型构建创新解决方案。

开源大型语言模型，支持多语言和专业领域应用。

Qwen2.5是一系列基于Qwen2语言模型构建的新型语言模型，包括通用语言模型Qwen2.5，以及专门针对编程的Qwen2.5-Coder和数学的Qwen2.5-Math。这些模型在大规模数据集上进行了预训练，具备强大的知识理解能力和多语言支持，适用于各种复杂的自然语言处理任务。它们的主要优点包括更高的知识密度、增强的编程和数学能力、以及对长文本和结构化数据的更好理解。Qwen2.5的发布是开源社区的一大进步，为开发者和研究人员提供了强大的工具，以推动人工智能领域的研究和发展。

开源代码语言模型，支持多编程语言。

DeepSeek-Coder-V2是一个开源的Mixture-of-Experts代码语言模型，性能可与GPT4-Turbo相媲美，在代码特定任务上表现突出。它通过额外的6万亿个token进一步预训练，增强了编码和数学推理能力，同时保持了在一般语言任务上的相似性能。与DeepSeek-Coder-33B相比，在代码相关任务、推理和一般能力方面都有显著进步。此外，它支持的编程语言从86种扩展到338种，上下文长度从16K扩展到128K。

新一代开源预训练模型，支持多轮对话和多语言。

GLM-4-9B-Chat-1M 是智谱 AI 推出的新一代预训练模型，属于 GLM-4 系列的开源版本。它在语义、数学、推理、代码和知识等多方面的数据集测评中展现出较高的性能。该模型不仅支持多轮对话，还具备网页浏览、代码执行、自定义工具调用和长文本推理等高级功能。支持包括日语、韩语、德语在内的26种语言，并特别推出了支持1M上下文长度的模型版本，适合需要处理大量数据和多语言环境的开发者和研究人员使用。

多语言对话生成模型

Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型（LLMs），支持8种语言，专为对话使用案例优化，并通过监督式微调（SFT）和人类反馈的强化学习（RLHF）来提高安全性和有用性。

12B参数的大型语言模型

Mistral-Nemo-Base-2407是由Mistral AI和NVIDIA联合训练的12B参数大型预训练生成文本模型。该模型在多语言和代码数据上进行了训练，显著优于相同或更小规模的现有模型。其主要特点包括：Apache 2.0许可证发布，支持预训练和指令版本，128k上下文窗口训练，支持多种语言和代码数据，是Mistral 7B的替代品。模型架构包括40层、5120维、128头维、14364隐藏维、32头数、8个kv头（GQA）、词汇量约128k、旋转嵌入（theta=1M）。该模型在多个基准测试中表现出色，如HellaSwag、Winogrande、OpenBookQA等。

70亿参数的大型多语言对话生成模型

Meta Llama 3.1是Meta公司推出的一种大型语言模型，拥有70亿参数，支持8种语言的文本生成和对话。该模型使用优化的Transformer架构，并通过监督微调(SFT)和人类反馈强化学习(RLHF)进行调优，以符合人类对有用性和安全性的偏好。它旨在为商业和研究用途提供支持，特别是在多语言对话场景下表现出色。

最前沿的开源AI模型，支持多语言和高级功能。

Llama 3.1是Meta AI推出的最新一代大型语言模型，具有128K的上下文长度扩展、支持八种语言，并首次开源了405B参数级别的前沿AI模型。该模型在通用知识、可控性、数学、工具使用和多语言翻译方面具有最先进的能力，能够与最好的闭源模型相媲美。Llama 3.1的发布，将为开发者提供解锁新工作流程的工具，例如合成数据生成和模型蒸馏。

多语言对话生成模型

Meta Llama 3.1系列模型是一套预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B三种规模的模型，专为多语言对话使用案例优化，性能优于许多开源和闭源聊天模型。

8B参数的大型多语言生成模型

Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B大小的版本，支持8种语言，专为多语言对话用例优化，并在行业基准测试中表现优异。Llama 3.1模型采用自回归语言模型，使用优化的Transformer架构，并通过监督式微调（SFT）和强化学习结合人类反馈（RLHF）来提高模型的有用性和安全性。

多功能代码沙箱，适用于大型语言模型。

Sandbox Fusion是一个多功能代码沙箱，专为大型语言模型（LLMs）设计。它支持多达20种编程语言，能够全面测试包括编程、数学和硬件编程在内的多个领域。Sandbox Fusion集成了超过10个与编码相关的评估数据集，这些数据集具有标准化的数据格式，并且可以通过统一的HTTP API访问。此外，Sandbox Fusion针对云基础设施部署进行了优化，并在有特权容器时提供内置的安全隔离。产品背景信息显示，Sandbox Fusion由字节跳动有限公司开发，旨在为开发者提供一个安全、高效的代码测试环境。

多语言大型语言模型

Llama-3.2-1B是由Meta公司发布的多语言大型语言模型，专注于文本生成任务。该模型使用优化的Transformer架构，并通过监督式微调（SFT）和人类反馈的强化学习（RLHF）进行调优，以符合人类对有用性和安全性的偏好。该模型支持8种语言，包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语，并在多种对话使用案例中表现优异。

多语言AI模型，支持101种语言。

Aya是由Cohere For AI领导的全球性倡议，涉及119个国家的3000多名独立研究人员。Aya是一个尖端模型和数据集，通过开放科学推进101种语言的多语言AI。Aya模型能够理解并按照101种语言的指令执行任务，是迄今为止最大的开放科学机器学习项目之一，重新定义了研究领域，通过与全球独立研究人员合作，实现了完全开源的数据集和模型。

多语言预训练语言模型

「书生·浦语2.0」InternLM2是一个面向中文和英文的大型多语言预训练语言模型。它具有语言理解、自然语言生成、多模式推理、代码理解等强大的能力。模型采用Transformer架构并进行海量数据的预训练,在长文本理解、对话、数学运算等多个方向上都达到了业界领先水平。该系列模型包含多种规模,用户可以选择合适的模型进行下游任务微调或构建聊天机器人等应用。

多语言大型语言模型，支持23种语言

Aya Expanse 32B是由Cohere For AI开发的多语言大型语言模型，拥有32亿参数，专注于提供高性能的多语言支持。它结合了先进的数据仲裁、多语言偏好训练、安全调整和模型合并技术，以支持23种语言，包括阿拉伯语、中文（简体和繁体）、捷克语、荷兰语、英语、法语、德语、希腊语、希伯来语、印地语、印尼语、意大利语、日语、韩语、波斯语、波兰语、葡萄牙语、罗马尼亚语、俄语、西班牙语、土耳其语、乌克兰语和越南语。该模型的发布旨在使社区基础的研究工作更加易于获取，通过发布高性能的多语言模型权重，供全球研究人员使用。