产品库

一个用于训练高性能奖励模型的开源数据集。

HelpSteer2是由NVIDIA发布的一个开源数据集，旨在支持训练能够对齐模型以使其更加有帮助、事实正确和连贯，同时在响应的复杂性和冗余度方面具有可调节性。该数据集与Scale AI合作创建，当与Llama 3 70B基础模型一起使用时，在RewardBench上达到了88.8%的表现，是截至2024年6月12日最佳的奖励模型之一。

构建定制的大型语言模型（LLM）以增强聊天机器人的能力。

ChatRTX 是 NVIDIA 提供的一个用于构建定制大型语言模型（LLM）的平台，旨在提升聊天机器人的智能水平和交互能力。它利用先进的 AI 技术，通过理解自然语言处理（NLP）来提供更加人性化的对话体验。ChatRTX 的主要优点包括高度的可定制性、强大的语言理解能力和高效的交互设计，适合需要高级对话系统的各种商业应用。

快速训练和微调大型语言模型

Unsloth 是一个旨在提高大型语言模型（LLMs）训练和微调速度的平台。它通过手动推导所有计算密集型数学步骤并手写GPU内核，实现了无需硬件更改即可显著加快训练速度。Unsloth 支持多种GPU，包括NVIDIA、AMD和Intel，并提供开源版本供用户在Google Colab或Kaggle Notebooks上免费试用。它还提供了不同级别的定价方案，包括免费版、Pro版和企业版，以满足不同用户的需求。

高速大型语言模型本地部署推理引擎

PowerInfer 是一个在个人电脑上利用消费级 GPU 进行高速大型语言模型推理的引擎。它利用 LLM 推理中的高局部性特点，通过预加载热激活的神经元到 GPU 上，从而显著降低了 GPU 内存需求和 CPU-GPU 数据传输。PowerInfer 还集成了自适应预测器和神经元感知的稀疏运算符，优化神经元激活和计算稀疏性的效率。它可以在单个 NVIDIA RTX 4090 GPU 上以平均每秒 13.20 个标记的生成速率进行推理，比顶级服务器级 A100 GPU 仅低 18%。同时保持模型准确性。

TensorRT加速的Stable Diffusion扩展

Stable-Diffusion-WebUI-TensorRT是一个用于Stable Diffusion的TensorRT加速扩展，可在NVIDIA RTX GPU上实现最佳性能。该扩展需要安装并生成优化的引擎才能使用。支持Stable Diffusion 1.5和2.1版本。安装步骤请参考官方网址。使用时，可以生成默认引擎，选择TRT模型，加速生成图像。可以根据需要生成多个优化引擎。详细的使用说明和常见问题请参考官方文档。

AI绘画工具

NVIDIA Canvas是一款AI绘画工具，利用人工智能技术将简单的笔触转化为逼真的景观图像。快速创建背景或加速概念探索，让您更多时间来构思创意。适用于搭载GeForce RTX GPU的设备。详情请访问官方网站。

70亿参数的多方面奖励模型

Llama3-70B-SteerLM-RM是一个70亿参数的语言模型，用作属性预测模型，一个多方面的奖励模型，它在多个方面对模型响应进行评分，而不是传统奖励模型中的单一分数。该模型使用HelpSteer2数据集训练，并通过NVIDIA NeMo-Aligner进行训练，这是一个可扩展的工具包，用于高效和高效的模型对齐。

大型语言模型，支持多语言和编程语言文本生成。

Nemotron-4-340B-Base是由NVIDIA开发的大型语言模型，拥有3400亿参数，支持4096个token的上下文长度，适用于生成合成数据，帮助研究人员和开发者构建自己的大型语言模型。模型经过9万亿token的预训练，涵盖50多种自然语言和40多种编程语言。NVIDIA开放模型许可允许商业使用和派生模型的创建与分发，不声明对使用模型或派生模型生成的任何输出拥有所有权。

多维奖励模型，助力构建自定义大型语言模型。

Nemotron-4-340B-Reward是由NVIDIA开发的多维奖励模型，用于合成数据生成管道，帮助研究人员和开发者构建自己的大型语言模型（LLMs）。该模型由Nemotron-4-340B-Base模型和一个线性层组成，能够将响应末尾的标记转换为五个标量值，对应于HelpSteer2属性。它支持最多4096个标记的上下文长度，并能够对每个助手轮次的五个属性进行评分。

NVIDIA的高级语言模型，优化于英文对话场景。

Nemotron-4-340B-Instruct是由NVIDIA开发的大型语言模型(LLM)，专为英文单轮和多轮对话场景优化。该模型支持4096个token的上下文长度，经过监督式微调(SFT)、直接偏好优化(DPO)和奖励感知偏好优化(RPO)等额外的对齐步骤。模型在约20K人工标注数据的基础上，通过合成数据生成管道合成了超过98%的用于监督微调和偏好微调的数据。这使得模型在人类对话偏好、数学推理、编码和指令遵循方面表现良好，并且能够为多种用例生成高质量的合成数据。

用于训练大型语言模型的开源合成数据生成管道。

Nemotron-4 340B是NVIDIA发布的一系列开放模型，专为生成合成数据以训练大型语言模型（LLMs）而设计。这些模型经过优化，可以与NVIDIA NeMo和NVIDIA TensorRT-LLM配合使用，以提高训练和推理的效率。Nemotron-4 340B包括基础、指令和奖励模型，形成一个生成合成数据的管道，用于训练和完善LLMs。这些模型在Hugging Face上提供下载，并很快将在ai.nvidia.com上提供，作为NVIDIA NIM微服务的一部分。

TensorDock 提供高性能的云端 GPU 服务，专为深度学习、AI 和渲染工作负载设计。

TensorDock 是一个为需要无可妥协可靠性的工作负载而构建的专业云服务提供商。它提供多种 GPU 服务器选项，包括 NVIDIA H100 SXMs，以及针对深度学习、AI 和渲染的最具成本效益的虚拟机基础设施。TensorDock 还提供全托管容器托管服务，具备操作系统级监控、自动扩展和负载均衡功能。此外，TensorDock 提供世界级别的企业支持，由专业人员提供服务。

一款基于NVIDIA的高性能对话式问答和检索增强型生成模型。

Llama3-ChatQA-1.5-70B 是由 NVIDIA 开发的一款先进的对话式问答和检索增强型生成（RAG）模型。该模型基于 Llama-3 基础模型，并使用改进的训练方法，特别增强了表格和算术计算能力。它有两个变体：Llama3-ChatQA-1.5-8B 和 Llama3-ChatQA-1.5-70B。该模型在多个对话式问答基准测试中取得了优异的成绩，显示出其在处理复杂对话和生成相关回答方面的高效能力。

一款基于NVIDIA技术构建的高级对话问答和生成模型

Llama3-ChatQA-1.5-8B是一款由NVIDIA开发的高级对话问答和检索增强生成(RAG)模型。该模型在ChatQA (1.0)的基础上进行了改进，通过增加对话问答数据来增强其表格和算术计算能力。它有两个变体：Llama3-ChatQA-1.5-8B和Llama3-ChatQA-1.5-70B，都是使用Megatron-LM进行训练，然后转换为Hugging Face格式。该模型在ChatRAG Bench的基准测试中表现出色，适用于需要复杂对话理解和生成的场景。

开创计算新时代的NVIDIA Blackwell平台现已发布

NVIDIA Blackwell平台使用六项变革技术推动加速计算，能够在减少成本和能耗的同时，实现实时生成AI和处理高达数万亿参数的大型语言模型。

用于人形机器人学习的通用基础模型

NVIDIA Project GR00T是一种通用基础模型,可在仿真和真实世界中改变人形机器人的学习方式。通过在NVIDIA GPU加速模拟中进行训练,GR00T使得人形机器人能够从少量的人类演示中通过模仿学习和NVIDIA Isaac Lab进行强化学习,并可从视频数据生成机器人动作。GR00T模型接受多模态指令和过去的交互作为输入,并输出机器人需要执行的动作。

Google Gemma, 轻量级开放模型

Google Gemma是由Google开发的前沿轻量级开放模型。这些模型分为2B和7B参数版本，包括基础和调优版本。Gemini模型的基础技术和指令调优技术都来自Google的技术，Gemma遵循AI原则，确保安全可靠的使用，并针对Google Cloud和NVIDIA GPU进行了优化，在全球范围内提供支持。

大规模训练 Transformer 模型的持续研究

Megatron-LM 是由 NVIDIA 应用深度学习研究团队开发的一种强大的大规模 Transformer 模型。该产品用于大规模训练 Transformer 语言模型的持续研究。我们使用混合精度，高效的模型并行和数据并行，以及多节点的 Transformer 模型（如 GPT、BERT 和 T5）的预训练。

AI图像生成与无限Moodboard合成

M👀D.tech是一款AI图像生成与无限Moodboard合成的工具。它提供了易于设置的界面，支持TXT2IMG、IMG2IMG、InPaint、Upscale等功能，并支持与渲染节点共享资源。具备基本的绘画工具，支持SDXL和Stable Diffusion 1.5，拥有时间线界面和多人协作功能。适用于Windows NVIDIA CUDA和Mac M1系统。

GPU加速AI SDK，提升实时音视频质量

NVIDIA Maxine是一套GPU加速的AI SDK，通过人工智能技术提升实时音频、视频和增强现实效果的质量。Maxine的先进模型可以在标准麦克风和摄像头设备上实现高质量的效果。Maxine可在本地、云端或边缘部署。定价请咨询官方网站。

生成精确的视觉 AI 模型，用成本效益的数据

syntheticAIdata 是一个平台，可以快速生成大规模的合成数据集，用于训练视觉 AI 模型。通过使用 syntheticAIdata，您可以轻松生成大量的合成数据集，从而显著加快图像分类、图像分割和目标检测等任务的视觉 AI 模型训练速度。我们的解决方案将帮助您更快地将基于 AI 的应用推向市场。syntheticAIdata 得到了 Microsoft for Startups 的支持，并成为 NVIDIA Inception 计划的一部分。

AI驱动的后端代码生成平台

Amplication是一个开源的、强大的开发平台，旨在革新.NET和Node.js应用程序的创建过程。它通过AI技术将想法快速转化为生产就绪的代码，自动化后端应用程序开发，确保一致性、可预测性，并符合最高标准。Amplication的用户友好界面促进了API、数据模型、数据库、认证和授权的无缝集成。它基于灵活的插件架构构建，允许轻松定制代码，并提供多样化的集成选项。Amplication专注于协作，简化了面向团队的开发，使其成为从初创公司到大型企业各规模团队的理想选择。

开源实时翻译应用，支持多语种对话。

RTranslator 是全球首款开源的实时翻译应用，专为 Android 设计，支持多种语言的实时对话翻译。它利用 Meta 的 NLLB 和 OpenAI 的 Whisper 模型，实现高质量的翻译和语音识别，保护用户隐私，且支持离线使用。

一站式AI聊天平台，自由定制，支持多种AI服务。

LibreChat是一个免费、开源的AI聊天平台，提供广泛的定制选项，支持众多AI提供商、服务和集成。它以熟悉的界面，创新的增强功能，服务于所有AI对话，满足您所需的用户数量。

一个用于Lumina模型的Python包装器

ComfyUI-LuminaWrapper是一个开源的Python包装器，用于简化Lumina模型的加载和使用。它支持自定义节点和工作流，使得开发者能够更便捷地集成Lumina模型到自己的项目中。该插件主要面向希望在Python环境中使用Lumina模型进行深度学习或机器学习的开发者。

52B参数的开源多语言大型语言模型

Tele-FLM（亦称FLM-2）是一个52亿参数的开源多语言大型语言模型，具有稳定高效的预训练范式和增强的事实判断能力。基于解码器仅变换器架构，已在大约2T的token上进行训练。Tele-FLM在同等规模上展现出优越的性能，有时甚至超越了更大的模型。除了分享模型权重外，我们还提供了核心设计、工程实践和训练细节，期待它们对学术界和工业界社区都有所裨益。

开源AI工具，推动AI民主化。

ComfyUI是一个开源AI模型，致力于推动AI工具的民主化和开源化。它由一个团队创建和维护，旨在为AI社区提供易于使用、安全和可靠的工具。ComfyUI支持通过各种工具，如节点管理器、节点注册表、命令行界面、自动化测试和公共文档来支持其生态系统。团队相信开源模型将在长期内胜过封闭模型，并致力于通过社区驱动的方式推动AI工具的发展。

开源代码语言模型，支持多编程语言。

DeepSeek-Coder-V2是一个开源的Mixture-of-Experts代码语言模型，性能可与GPT4-Turbo相媲美，在代码特定任务上表现突出。它通过额外的6万亿个token进一步预训练，增强了编码和数学推理能力，同时保持了在一般语言任务上的相似性能。与DeepSeek-Coder-33B相比，在代码相关任务、推理和一般能力方面都有显著进步。此外，它支持的编程语言从86种扩展到338种，上下文长度从16K扩展到128K。

一站式团队协作平台

Huly是一个开源的一站式团队协作平台，旨在替代Linear、Jira、Slack和Notion。它集成了项目管理、团队计划、虚拟办公室、聊天和文档管理等功能，为开发者和产品团队提供了强大的协作机会。Huly支持键盘快捷键、团队日历、即时通知、时间块管理、高质量音视频会议等特性，并且可以与GitHub双向同步，帮助团队高效管理任务和知识。