产品库

分析 V3/R1 中的计算与通信重叠策略，提供深度学习框架的性能分析数据。

DeepSeek Profile Data 是一个专注于深度学习框架性能分析的项目。它通过 PyTorch Profiler 捕获训练和推理框架的性能数据，帮助研究人员和开发者更好地理解计算与通信重叠策略以及底层实现细节。这些数据对于优化大规模分布式训练和推理任务至关重要，能够显著提升系统的效率和性能。该项目是 DeepSeek 团队在深度学习基础设施领域的重要贡献，旨在推动社区对高效计算策略的探索。

基于 PyTorch 的音乐、歌曲和音频生成工具包，支持高质量音频生成

InspireMusic 是一个专注于音乐、歌曲和音频生成的 AIGC 工具包和模型框架，采用 PyTorch 开发。它通过音频标记化和解码过程，结合自回归 Transformer 和条件流匹配模型，实现高质量音乐生成。该工具包支持文本提示、音乐风格、结构等多种条件控制，能够生成 24kHz 和 48kHz 的高质量音频，并支持长音频生成。此外，它还提供了方便的微调和推理脚本，方便用户根据需求调整模型。InspireMusic 的开源旨在赋能普通用户通过音乐创作提升研究中的音效表现。

PyTorch原生量化和稀疏性训练与推理库

torchao是PyTorch的一个库，专注于自定义数据类型和优化，支持量化和稀疏化权重、梯度、优化器和激活函数，用于推理和训练。它与torch.compile()和FSDP2兼容，能够为大多数PyTorch模型提供加速。torchao旨在通过量化感知训练（QAT）和后训练量化（PTQ）等技术，提高模型的推理速度和内存效率，同时尽量减小精度损失。

使用文本生成音乐的模型

FluxMusic是一个基于PyTorch实现的文本到音乐生成模型，它通过扩散式修正流变换器探索了一种简单的文本到音乐生成方法。这个模型可以生成根据文本提示的音乐片段，具有创新性和高度的技术复杂性。它代表了音乐生成领域的前沿技术，为音乐创作提供了新的可能。

从零开始学习深度学习，实现GPT模型

zero_to_gpt是一个旨在帮助用户从零基础学习深度学习，并最终实现训练自己的GPT模型的教程。随着人工智能技术走出实验室并广泛应用于各行各业，社会对于能够理解并应用AI技术的人才需求日益增长。本教程结合理论与实践，通过解决实际问题（如天气预测、语言翻译等）来深入讲解深度学习的理论基础，如梯度下降和反向传播。课程内容从基础的神经网络架构和训练方法开始，逐步深入到复杂主题，如变换器、GPU编程和分布式训练。

高效训练高质量文本到图像扩散模型

ml-mdm是一个Python包，用于高效训练高质量的文本到图像扩散模型。该模型利用Matryoshka扩散模型技术，能够在1024x1024像素的分辨率上训练单一像素空间模型，展现出强大的零样本泛化能力。

大规模参数扩散变换器模型

DiT-MoE是一个使用PyTorch实现的扩散变换器模型，能够扩展到160亿参数，与密集网络竞争的同时展现出高度优化的推理能力。它代表了深度学习领域在处理大规模数据集时的前沿技术，具有重要的研究和应用价值。

高效的分布式数据并行框架，专为大型语言模型设计。

YaFSDP是一个分布式数据并行框架，专为与transformer类神经网络结构良好协作而设计。它在预训练大型语言模型(Large Language Models, LLMs)时比传统的FSDP快20%，并且在高内存压力条件下表现更佳。YaFSDP旨在减少通信和内存操作的开销。

一款用于训练PyTorch计算机视觉模型的开源库。

YOLO-NAS Pose是一款免费的、开源的库，用于训练基于PyTorch的计算机视觉模型。它提供了训练脚本和快速简单复制模型结果的示例。内置SOTA模型，可以轻松加载和微调生产就绪的预训练模型，包括最佳实践和验证的超参数，以实现最佳的准确性。可以缩短训练生命周期，消除不确定性。提供分类、检测、分割等不同任务的模型，可以轻松集成到代码库中。

HunyuanVideo-I2V 是腾讯推出的基于 HunyuanVideo 的图像到视频生成框架。

HunyuanVideo-I2V 是腾讯开源的图像到视频生成模型，基于 HunyuanVideo 架构开发。该模型通过图像潜在拼接技术，将参考图像信息有效整合到视频生成过程中，支持高分辨率视频生成，并提供可定制的 LoRA 效果训练功能。该技术在视频创作领域具有重要意义，能够帮助创作者快速生成高质量的视频内容，提升创作效率。

QwQ-32B 是一款强大的推理模型，专为复杂问题解决和文本生成设计，性能卓越。

QwQ-32B 是 Qwen 系列的推理模型，专注于复杂问题的思考和推理能力。它在下游任务中表现出色，尤其是在解决难题方面。该模型基于 Qwen2.5 架构，经过预训练和强化学习优化，具有 325 亿参数，支持 131072 个完整上下文长度的处理能力。其主要优点包括强大的推理能力、高效的长文本处理能力和灵活的部署选项。该模型适用于需要深度思考和复杂推理的场景，如学术研究、编程辅助和创意写作等。

CogView4-6B 是一个强大的文本到图像生成模型，专注于高质量图像生成。

CogView4-6B 是由清华大学知识工程组开发的文本到图像生成模型。它基于深度学习技术，能够根据用户输入的文本描述生成高质量的图像。该模型在多个基准测试中表现优异，尤其是在中文文本生成图像方面具有显著优势。其主要优点包括高分辨率图像生成、支持多种语言输入以及高效的推理速度。该模型适用于创意设计、图像生成等领域，能够帮助用户快速将文字描述转化为视觉内容。

UniTok是一个用于视觉生成和理解的统一视觉分词器。

UniTok是一种创新的视觉分词技术，旨在弥合视觉生成和理解之间的差距。它通过多码本量化技术，显著提升了离散分词器的表示能力，使其能够捕捉到更丰富的视觉细节和语义信息。这一技术突破了传统分词器在训练过程中的瓶颈，为视觉生成和理解任务提供了一种高效且统一的解决方案。UniTok在图像生成和理解任务中表现出色，例如在ImageNet上实现了显著的零样本准确率提升。该技术的主要优点包括高效性、灵活性以及对多模态任务的强大支持，为视觉生成和理解领域带来了新的可能性。

PhotoDoodle 是一个基于少量样本对数据学习艺术图像编辑的代码实现。

PhotoDoodle 是一个专注于艺术图像编辑的深度学习模型，通过少量样本对数据进行训练，能够快速实现图像的艺术化编辑。该技术的核心优势在于其高效的少样本学习能力，能够在仅有少量图像对的情况下学习到复杂的艺术效果，从而为用户提供强大的图像编辑功能。该模型基于深度学习框架开发，具有较高的灵活性和可扩展性，可以应用于多种图像编辑场景，如艺术风格转换、特效添加等。其背景信息显示，该模型由新加坡国立大学 Show Lab 团队开发，旨在推动艺术图像编辑技术的发展。目前，该模型通过开源方式提供给用户，用户可以根据自身需求进行使用和二次开发。

自动化AI语音代理测试与性能分析平台，提供真实场景模拟与评估。

TestAI是一个专注于AI语音代理的自动化测试与性能分析平台。它通过真实世界的场景模拟和详细的性能评估，帮助企业确保其语音和聊天代理的可靠性和流畅性。该平台提供快速设置、可靠洞察以及自定义指标等功能，能够有效提升AI代理的性能和用户体验。TestAI主要面向需要快速部署和优化AI语音代理的企业，帮助他们节省时间和成本，同时提高AI代理的可信度和安全性。

一个用于专家并行负载均衡的开源算法，旨在优化多GPU环境下的专家分配和负载平衡。

Expert Parallelism Load Balancer (EPLB)是一种用于深度学习中专家并行（EP）的负载均衡算法。它通过冗余专家策略和启发式打包算法，确保不同GPU之间的负载平衡，同时利用组限制专家路由减少节点间数据流量。该算法对于大规模分布式训练具有重要意义，能够提高资源利用率和训练效率。

一种用于V3/R1训练中计算与通信重叠的双向流水线并行算法。

DualPipe是一种创新的双向流水线并行算法，由DeepSeek-AI团队开发。该算法通过优化计算与通信的重叠，显著减少了流水线气泡，提高了训练效率。它在大规模分布式训练中表现出色，尤其适用于需要高效并行化的深度学习任务。DualPipe基于PyTorch开发，易于集成和扩展，适合需要高性能计算的开发者和研究人员使用。

DeepGEMM是一个用于高效FP8矩阵乘法的CUDA库，支持细粒度缩放和多种优化技术。

DeepGEMM是一个专注于高效FP8矩阵乘法的CUDA库。它通过细粒度缩放和多种优化技术，如Hopper TMA特性、持久化线程专业化、全JIT设计等，显著提升了矩阵运算的性能。该库主要面向深度学习和高性能计算领域，适用于需要高效矩阵运算的场景。它支持NVIDIA Hopper架构的Tensor Core，并且在多种矩阵形状下展现出卓越的性能。DeepGEMM的设计简洁，核心代码仅约300行，易于学习和使用，同时性能与专家优化的库相当或更好。开源免费的特性使其成为研究人员和开发者进行深度学习优化和开发的理想选择。

DeepEP 是一个针对 Mixture-of-Experts 和专家并行通信的高效通信库。

DeepEP 是一个专为混合专家模型（MoE）和专家并行（EP）设计的通信库。它提供了高吞吐量和低延迟的全连接 GPU 内核，支持低精度操作（如 FP8）。该库针对非对称域带宽转发进行了优化，适合训练和推理预填充任务。此外，它还支持流处理器（SM）数量控制，并引入了一种基于钩子的通信-计算重叠方法，不占用任何 SM 资源。DeepEP 的实现虽然与 DeepSeek-V3 论文略有差异，但其优化的内核和低延迟设计使其在大规模分布式训练和推理任务中表现出色。

快速且内存高效的精确注意力机制

FlexHeadFA 是一个基于 FlashAttention 的改进模型，专注于提供快速且内存高效的精确注意力机制。它支持灵活的头维度配置，能够显著提升大语言模型的性能和效率。该模型的主要优点包括高效利用 GPU 资源、支持多种头维度配置以及与 FlashAttention-2 和 FlashAttention-3 兼容。它适用于需要高效计算和内存优化的深度学习场景，尤其在处理长序列数据时表现出色。

FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核，适用于变长序列服务。

FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核，专为变长序列服务设计。它基于 CUDA 12.3 及以上版本开发，支持 PyTorch 2.0 及以上版本。FlashMLA 的主要优势在于其高效的内存访问和计算性能，能够在 H800 SXM5 上实现高达 3000 GB/s 的内存带宽和 580 TFLOPS 的计算性能。该技术对于需要大规模并行计算和高效内存管理的深度学习任务具有重要意义，尤其是在自然语言处理和计算机视觉领域。FlashMLA 的开发灵感来源于 FlashAttention 2&3 和 cutlass 项目，旨在为研究人员和开发者提供一个高效的计算工具。

QwQ-Max-Preview 是 Qwen 系列的最新成果，基于 Qwen2.5-Max 构建，具备强大的推理和多领域应用能力。

QwQ-Max-Preview 是 Qwen 系列的最新成果，基于 Qwen2.5-Max 构建。它在数学、编程以及通用任务中展现了更强的能力，同时在与 Agent 相关的工作流中也有不错的表现。作为即将发布的 QwQ-Max 的预览版，这个版本还在持续优化中。其主要优点包括深度推理、数学、编程和 Agent 任务的强大能力。未来计划以 Apache 2.0 许可协议开源发布 QwQ-Max 以及 Qwen2.5-Max，旨在推动跨领域应用的创新。

Claude 3.7 Sonnet 是 Anthropic 推出的最新智能模型，支持快速响应和深度推理。

Claude 3.7 Sonnet 是 Anthropic 推出的最新混合推理模型，能够实现快速响应和深度推理的无缝切换。它在编程、前端开发等领域表现出色，并通过 API 提供对推理深度的精细控制。该模型不仅提升了代码生成和调试能力，还优化了对复杂任务的处理，适用于企业级应用。其定价与前代产品一致，输入每百万 token 收费 3 美元，输出每百万 token 收费 15 美元。

VLM-R1 是一个稳定且通用的强化视觉语言模型，专注于视觉理解任务。

VLM-R1 是一种基于强化学习的视觉语言模型，专注于视觉理解任务，如指代表达理解（Referring Expression Comprehension, REC）。该模型通过结合 R1（Reinforcement Learning）和 SFT（Supervised Fine-Tuning）方法，展示了在领域内和领域外数据上的出色性能。VLM-R1 的主要优点包括其稳定性和泛化能力，使其能够在多种视觉语言任务中表现出色。该模型基于 Qwen2.5-VL 构建，利用了先进的深度学习技术，如闪存注意力机制（Flash Attention 2），以提高计算效率。VLM-R1 旨在为视觉语言任务提供一种高效且可靠的解决方案，适用于需要精确视觉理解的应用场景。

BioEmu 是一个用于可扩展模拟蛋白质平衡系综的生成式深度学习模型。

BioEmu 是微软开发的一种深度学习模型，用于模拟蛋白质的平衡系综。该技术通过生成式深度学习方法，能够高效地生成蛋白质的结构样本，帮助研究人员更好地理解蛋白质的动态行为和结构多样性。该模型的主要优点在于其可扩展性和高效性，能够处理复杂的生物分子系统。它适用于生物化学、结构生物学和药物设计等领域的研究，为科学家提供了一种强大的工具来探索蛋白质的动态特性。

FlashVideo 是一个高效的高分辨率视频生成模型，专注于细节和保真度的流动。

FlashVideo 是一款专注于高效高分辨率视频生成的深度学习模型。它通过分阶段的生成策略，首先生成低分辨率视频，再通过增强模型提升至高分辨率，从而在保证细节的同时显著降低计算成本。该技术在视频生成领域具有重要意义，尤其是在需要高质量视觉内容的场景中。FlashVideo 适用于多种应用场景，包括内容创作、广告制作和视频编辑等。其开源性质使得研究人员和开发者可以灵活地进行定制和扩展。

检测设备是否能运行不同规模的 DeepSeek 模型，提供兼容性预测。

DeepSeek 模型兼容性检测是一个用于评估设备是否能够运行不同规模 DeepSeek 模型的工具。它通过检测设备的系统内存、显存等配置，结合模型的参数量、精度位数等信息，为用户提供模型运行的预测结果。该工具对于开发者和研究人员在选择合适的硬件资源以部署 DeepSeek 模型时具有重要意义，能够帮助他们提前了解设备的兼容性，避免因硬件不足而导致的运行问题。DeepSeek 模型本身是一种先进的深度学习模型，广泛应用于自然语言处理等领域，具有高效、准确的特点。通过该检测工具，用户可以更好地利用 DeepSeek 模型进行项目开发和研究。

Huginn-0125是一个35亿参数的潜变量循环深度模型，擅长推理和代码生成。

Huginn-0125是一个由马里兰大学帕克分校Tom Goldstein实验室开发的潜变量循环深度模型。该模型拥有35亿参数，经过8000亿个token的训练，在推理和代码生成方面表现出色。其核心特点是通过循环深度结构在测试时动态调整计算量，能够根据任务需求灵活增加或减少计算步骤，从而在保持性能的同时优化资源利用。该模型基于开源的Hugging Face平台发布，支持社区共享和协作，用户可以自由下载、使用和进一步开发。其开源性和灵活的架构使其成为研究和开发中的重要工具，尤其是在资源受限或需要高性能推理的场景中。

大规模深度循环语言模型的预训练代码，支持在4096个AMD GPU上运行。

该产品是一个用于大规模深度循环语言模型的预训练代码库，基于Python开发。它在AMD GPU架构上进行了优化，能够在4096个AMD GPU上高效运行。该技术的核心优势在于其深度循环架构，能够有效提升模型的推理能力和效率。它主要用于研究和开发高性能的自然语言处理模型，特别是在需要大规模计算资源的场景中。该代码库开源且基于Apache-2.0许可证，适合学术研究和工业应用。

Lumina-Video 是一个用于视频生成的初步尝试项目，支持文本到视频的生成。

Lumina-Video 是 Alpha-VLLM 团队开发的一个视频生成模型，主要用于从文本生成高质量的视频内容。该模型基于深度学习技术，能够根据用户输入的文本提示生成对应的视频，具有高效性和灵活性。它在视频生成领域具有重要意义，为内容创作者提供了强大的工具，能够快速生成视频素材。目前该项目已开源，支持多种分辨率和帧率的视频生成，并提供了详细的安装和使用指南。