产品库

PyTorch原生量化和稀疏性训练与推理库

torchao是PyTorch的一个库，专注于自定义数据类型和优化，支持量化和稀疏化权重、梯度、优化器和激活函数，用于推理和训练。它与torch.compile()和FSDP2兼容，能够为大多数PyTorch模型提供加速。torchao旨在通过量化感知训练（QAT）和后训练量化（PTQ）等技术，提高模型的推理速度和内存效率，同时尽量减小精度损失。

使用文本生成音乐的模型

FluxMusic是一个基于PyTorch实现的文本到音乐生成模型，它通过扩散式修正流变换器探索了一种简单的文本到音乐生成方法。这个模型可以生成根据文本提示的音乐片段，具有创新性和高度的技术复杂性。它代表了音乐生成领域的前沿技术，为音乐创作提供了新的可能。

从零开始学习深度学习，实现GPT模型

zero_to_gpt是一个旨在帮助用户从零基础学习深度学习，并最终实现训练自己的GPT模型的教程。随着人工智能技术走出实验室并广泛应用于各行各业，社会对于能够理解并应用AI技术的人才需求日益增长。本教程结合理论与实践，通过解决实际问题（如天气预测、语言翻译等）来深入讲解深度学习的理论基础，如梯度下降和反向传播。课程内容从基础的神经网络架构和训练方法开始，逐步深入到复杂主题，如变换器、GPU编程和分布式训练。

GGUF量化支持，优化ComfyUI原生模型性能

ComfyUI-GGUF是一个为ComfyUI原生模型提供GGUF量化支持的项目。它允许模型文件以GGUF格式存储，这种格式由llama.cpp推广。尽管常规的UNET模型（conv2d）不适用于量化，但像flux这样的transformer/DiT模型似乎受量化影响较小。这使得它们可以在低端GPU上以更低的每权重变量比特率进行运行。

高效训练高质量文本到图像扩散模型

ml-mdm是一个Python包，用于高效训练高质量的文本到图像扩散模型。该模型利用Matryoshka扩散模型技术，能够在1024x1024像素的分辨率上训练单一像素空间模型，展现出强大的零样本泛化能力。

大规模参数扩散变换器模型

DiT-MoE是一个使用PyTorch实现的扩散变换器模型，能够扩展到160亿参数，与密集网络竞争的同时展现出高度优化的推理能力。它代表了深度学习领域在处理大规模数据集时的前沿技术，具有重要的研究和应用价值。

谷歌下一代Gemma模型，提供突破性的性能和效率。

Gemma 2是下一代谷歌Gemma模型，拥有27亿参数，提供与Llama 3 70B相当的性能，但模型大小仅为其一半。它在NVIDIA的GPU上运行优化，或在Vertex AI上的单个TPU主机上高效运行，降低了部署成本，使更广泛的用户能够访问和使用。Gemma 2还提供了强大的调优工具链，支持云解决方案和社区工具，如Google Cloud和Axolotl，以及与Hugging Face和NVIDIA TensorRT-LLM的无缝合作伙伴集成。

提供干净的视觉特征

去噪视觉变换器（Denoising Vision Transformers，DVT）是一种针对视觉变换器（ViTs）的新型噪声模型。通过解剖ViT输出并引入可学习的去噪器，DVT能够提取无噪声的特征，从而在离线应用和在线功能中显著改善基于Transformer的模型的性能。DVT不需要重新训练现有的预训练ViTs，可立即应用于任何基于Transformer的架构。通过在多个数据集上进行广泛评估，我们发现DVT在语义和几何任务中持续显著改善现有的最先进通用模型（例如，+3.84 mIoU）。我们希望我们的研究能够鼓励重新评估ViT设计，特别是关于位置嵌入的天真使用。

一款用于训练PyTorch计算机视觉模型的开源库。

YOLO-NAS Pose是一款免费的、开源的库，用于训练基于PyTorch的计算机视觉模型。它提供了训练脚本和快速简单复制模型结果的示例。内置SOTA模型，可以轻松加载和微调生产就绪的预训练模型，包括最佳实践和验证的超参数，以实现最佳的准确性。可以缩短训练生命周期，消除不确定性。提供分类、检测、分割等不同任务的模型，可以轻松集成到代码库中。

视觉位置识别通过图像片段检索

Revisit Anything 是一个视觉位置识别系统，通过图像片段检索技术，能够识别和匹配不同图像中的位置。它结合了SAM（Spatial Attention Module）和DINO（Distributed Knowledge Distillation）技术，提高了视觉识别的准确性和效率。该技术在机器人导航、自动驾驶等领域具有重要的应用价值。

使用Llama模型的语音合成工具

Llama 3.2 3b Voice 是基于Hugging Face平台的一款语音合成模型，能够将文本转换为自然流畅的语音。该模型采用了先进的深度学习技术，能够模仿人类说话的语调、节奏和情感，适用于多种场景，如语音助手、有声读物、自动播报等。

手写文本识别和字符检测模型

DTLR是一个基于检测的手写文本行识别模型，基于DINO-DETR进行改进，用于文本识别和字符检测。该模型在合成数据上预训练，然后在真实数据集上进行微调。它对于OCR（光学字符识别）领域具有重要意义，特别是在处理手写文本时，能够提高识别的准确性和效率。

零样本风格化情侣肖像创作

Omni-Zero-Couples是一个使用diffusers管道的零样本风格化情侣肖像创作模型。它利用深度学习技术，无需预先定义的风格样本，即可生成具有特定艺术风格的情侣肖像。这种技术在艺术创作、个性化礼物制作和数字娱乐领域具有广泛的应用前景。

提供AI和机器学习课程

Udacity人工智能学院提供包括深度学习、计算机视觉、自然语言处理和AI产品管理在内的AI培训和机器学习课程。这些课程旨在帮助学生掌握人工智能领域的最新技术，为未来的职业生涯打下坚实的基础。

一款基于Hugging Face的图像放大模型。

Flux.1-dev Controlnet Upscaler 是一个基于Hugging Face平台的图像放大模型，它使用先进的深度学习技术来提高图像的分辨率，同时保持图像质量。该模型特别适合需要对图像进行无损放大的场景，如图像编辑、游戏开发、虚拟现实等。

高性能AI加速器，专为AI工作负载设计。

Intel® Gaudi® 3 AI Accelerator是英特尔推出的一款高性能人工智能加速器，它基于高效的英特尔® Gaudi® 平台构建，具备出色的MLPerf基准性能，旨在处理要求苛刻的训练和推理任务。该加速器支持数据中心或云中的大型语言模型、多模态模型和企业RAG等人工智能应用程序，能够在您可能已经拥有的以太网基础设施上运行。无论您需要单个加速器还是数千个加速器，英特尔Gaudi 3都可以在您的AI成功中发挥关键作用。

FLUX模型的Cog推理引擎

Cog inference for flux models 是一个用于FLUX.1 [schnell] 和 FLUX.1 [dev] 模型的推理引擎，由Black Forest Labs开发。它支持编译与量化，敏感内容检查，以及img2img支持，旨在提高图像生成模型的性能和安全性。

开源的音乐生成模型

QA-MDT是一个开源的音乐生成模型，集成了最先进的模型用于音乐生成。它基于多个开源项目，如AudioLDM、PixArt-alpha、MDT、AudioMAE和Open-Sora等。QA-MDT模型通过使用不同的训练策略，能够生成高质量的音乐。此模型特别适合对音乐生成有兴趣的研究人员和开发者使用。

利用AI创作音乐

OpenMusic是一个基于人工智能的音乐创作模型，它利用深度学习技术，能够根据用户输入的指令或音乐片段生成新的音乐作品。这个模型在音乐制作和创作领域具有革命性的意义，因为它降低了创作音乐的门槛，让没有音乐背景的人也能创作出动听的音乐。

革命性AI数据管理，提升99%准确率

Future AGI是一个自动化AI模型评估平台，通过自动评分AI模型输出，消除了手动QA评估的需求，使QA团队能够专注于更战略性的任务，提高效率和带宽高达10倍。该平台使用自然语言定义对业务最重要的指标，提供增强的灵活性和控制力，以评估模型性能，确保与业务目标的一致性。它还通过整合性能数据和用户反馈到开发过程中，创建了一个持续改进的循环，使AI在每次互动中变得更智能。

图像条件扩散模型的微调工具

diffusion-e2e-ft是一个开源的图像条件扩散模型微调工具，它通过微调预训练的扩散模型来提高特定任务的性能。该工具支持多种模型和任务，如深度估计和法线估计，并提供了详细的使用说明和模型检查点。它在图像处理和计算机视觉领域具有重要应用，能够显著提升模型在特定任务上的准确性和效率。

AI领域的专业课程和资源平台

DeepLearning.AI 是由著名人工智能专家Andrew Ng创立的在线教育平台，专注于提供机器学习和深度学习领域的高质量课程和专业证书。该平台为初学者和专业人士提供了一个学习AI技能和应用它们的实践机会。通过与行业领导者的合作，DeepLearning.AI 确保了课程内容的前沿性和实用性，帮助学习者在AI领域建立坚实的基础，并推动他们的职业发展。

开源自回归视觉生成模型项目

Open-MAGVIT2是由腾讯ARC实验室开源的一个自回归图像生成模型系列，包含从300M到1.5B不同规模的模型。该项目复现了Google的MAGVIT-v2分词器，实现了在ImageNet 256×256数据集上达到1.17 rFID的先进重建性能。通过引入不对称分词技术，将大词汇表分解为不同大小的子词汇表，并引入'下一个子标记预测'来增强子标记间的交互，以提高生成质量。所有模型和代码均已开源，旨在推动自回归视觉生成领域的创新和创造力。

在线AI音乐生成器，将文本转化为音乐。

AI Music Generator Free Online是一个创新的音乐生成平台，利用先进的深度学习技术，将用户输入的文本转化为充满情感和高质量的音乐作品。该平台能够覆盖广泛的音乐风格，从古典音乐的复杂和声到现代电子音乐的动态节奏，都能轻松创作。它不仅能够生成完整的歌曲，而且在音质上能够与专业录音室制作相媲美。AI Music Generator的核心优势在于其出色的适应性和广泛的音乐范围，使其成为生成无与伦比音质的强大工具。它的庞大音乐库包含了多种风格，确保每首音乐作品不仅质量上乘，而且能够独特地符合用户的创意愿景。这种个性化的音乐生成方法保证了每首作品都是独特的艺术品，反映了创作者的特定意图和艺术感觉。

谷歌旗下领先的人工智能研究公司

Google DeepMind 是谷歌旗下的一家领先的人工智能公司，专注于开发先进的机器学习算法和系统。DeepMind 以其在深度学习和强化学习领域的开创性工作而闻名，其研究涵盖了从游戏到医疗保健等多个领域。DeepMind 的目标是通过构建智能系统来解决复杂的问题，推动科学和医学的进步。

用于角色扮演、检索增强生成和功能调用的小型语言模型

Nemotron-Mini-4B-Instruct 是 NVIDIA 开发的一款小型语言模型，通过蒸馏、剪枝和量化优化，以提高速度和便于在设备上部署。它是从 Nemotron-4 15B 通过 NVIDIA 的大型语言模型压缩技术剪枝和蒸馏得到的 nvidia/Minitron-4B-Base 的微调版本。此指令模型针对角色扮演、检索增强问答（RAG QA）和功能调用进行了优化，支持 4096 个令牌的上下文长度，已准备好用于商业用途。

基于FLUX.1-dev模型的图像修复工具

FLUX-Controlnet-Inpainting 是由阿里妈妈创意团队发布的基于FLUX.1-dev模型的图像修复工具。该工具利用深度学习技术对图像进行修复，填补缺失部分，适用于图像编辑和增强。它在768x768分辨率下表现最佳，能够提供高质量的图像修复效果。目前该工具处于alpha测试阶段，未来将推出更新版本。

通过统一的端到端模型实现OCR-2.0

GOT-OCR2.0是一个开源的OCR模型，旨在通过一个统一的端到端模型推动光学字符识别技术向OCR-2.0迈进。该模型支持多种OCR任务，包括但不限于普通文本识别、格式化文本识别、细粒度OCR、多裁剪OCR和多页OCR。它基于最新的深度学习技术，能够处理复杂的文本识别场景，并且具有较高的准确率和效率。

轻量级端到端文本到语音模型

OptiSpeech是一个高效、轻量级且快速的文本到语音模型，专为设备端文本到语音转换设计。它利用了先进的深度学习技术，能够将文本转换为自然听起来的语音，适合需要在移动设备或嵌入式系统中实现语音合成的应用。OptiSpeech的开发得到了Pneuma Solutions提供的GPU资源支持，显著加速了开发进程。

NVIDIA深度学习教学套件，助力教育者融入GPU课程。

NVIDIA DLI Teaching Kits是由NVIDIA深度学习研究所（DLI）提供的一套教学资源，旨在帮助大学教育者将GPU技术融入到他们的课程中。这些教学套件与领先的大学教师共同开发，提供完整的课程设计和易于使用的资源，使教育者能够将学术理论与现实世界的应用相结合，培养下一代创新者的关键计算技能。大多数教学套件现在也作为现成的Canvas LMS课程提供。