产品库

DeepEP 是一个针对 Mixture-of-Experts 和专家并行通信的高效通信库。

DeepEP 是一个专为混合专家模型（MoE）和专家并行（EP）设计的通信库。它提供了高吞吐量和低延迟的全连接 GPU 内核，支持低精度操作（如 FP8）。该库针对非对称域带宽转发进行了优化，适合训练和推理预填充任务。此外，它还支持流处理器（SM）数量控制，并引入了一种基于钩子的通信-计算重叠方法，不占用任何 SM 资源。DeepEP 的实现虽然与 DeepSeek-V3 论文略有差异，但其优化的内核和低延迟设计使其在大规模分布式训练和推理任务中表现出色。

FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核，适用于变长序列服务。

FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核，专为变长序列服务设计。它基于 CUDA 12.3 及以上版本开发，支持 PyTorch 2.0 及以上版本。FlashMLA 的主要优势在于其高效的内存访问和计算性能，能够在 H800 SXM5 上实现高达 3000 GB/s 的内存带宽和 580 TFLOPS 的计算性能。该技术对于需要大规模并行计算和高效内存管理的深度学习任务具有重要意义，尤其是在自然语言处理和计算机视觉领域。FlashMLA 的开发灵感来源于 FlashAttention 2&3 和 cutlass 项目，旨在为研究人员和开发者提供一个高效的计算工具。

Cloudflare 推出的用于构建 AI 代理的平台，支持高效自动化任务执行。

Cloudflare AI Agents 是一个基于 Cloudflare Workers 和 Workers AI 的平台，旨在帮助开发者构建能够自主执行任务的 AI 代理。该平台通过提供 agents-sdk 和其他工具，使开发者能够快速创建、部署和管理 AI 代理。其主要优势在于低延迟、高可扩展性和成本效益，同时支持复杂任务的自动化和动态决策。Cloudflare 的全球分布式网络和 Durable Objects 技术为 AI 代理提供了强大的基础支持。

快速且内存高效的精确注意力机制

FlexHeadFA 是一个基于 FlashAttention 的改进模型，专注于提供快速且内存高效的精确注意力机制。它支持灵活的头维度配置，能够显著提升大语言模型的性能和效率。该模型的主要优点包括高效利用 GPU 资源、支持多种头维度配置以及与 FlashAttention-2 和 FlashAttention-3 兼容。它适用于需要高效计算和内存优化的深度学习场景，尤其在处理长序列数据时表现出色。

QwQ-Max-Preview 是 Qwen 系列的最新成果，基于 Qwen2.5-Max 构建，具备强大的推理和多领域应用能力。

QwQ-Max-Preview 是 Qwen 系列的最新成果，基于 Qwen2.5-Max 构建。它在数学、编程以及通用任务中展现了更强的能力，同时在与 Agent 相关的工作流中也有不错的表现。作为即将发布的 QwQ-Max 的预览版，这个版本还在持续优化中。其主要优点包括深度推理、数学、编程和 Agent 任务的强大能力。未来计划以 Apache 2.0 许可协议开源发布 QwQ-Max 以及 Qwen2.5-Max，旨在推动跨领域应用的创新。

Claude 3.7 Sonnet 是 Anthropic 推出的最新智能模型，支持快速响应和深度推理。

Claude 3.7 Sonnet 是 Anthropic 推出的最新混合推理模型，能够实现快速响应和深度推理的无缝切换。它在编程、前端开发等领域表现出色，并通过 API 提供对推理深度的精细控制。该模型不仅提升了代码生成和调试能力，还优化了对复杂任务的处理，适用于企业级应用。其定价与前代产品一致，输入每百万 token 收费 3 美元，输出每百万 token 收费 15 美元。

VLM-R1 是一个稳定且通用的强化视觉语言模型，专注于视觉理解任务。

VLM-R1 是一种基于强化学习的视觉语言模型，专注于视觉理解任务，如指代表达理解（Referring Expression Comprehension, REC）。该模型通过结合 R1（Reinforcement Learning）和 SFT（Supervised Fine-Tuning）方法，展示了在领域内和领域外数据上的出色性能。VLM-R1 的主要优点包括其稳定性和泛化能力，使其能够在多种视觉语言任务中表现出色。该模型基于 Qwen2.5-VL 构建，利用了先进的深度学习技术，如闪存注意力机制（Flash Attention 2），以提高计算效率。VLM-R1 旨在为视觉语言任务提供一种高效且可靠的解决方案，适用于需要精确视觉理解的应用场景。

Moonlight是一个16B参数的混合专家模型，使用Muon优化器训练，性能优异。

Moonlight是基于Muon优化器训练的16B参数混合专家模型（MoE），在大规模训练中表现出色。它通过添加权重衰减和调整参数更新比例，显著提高了训练效率和稳定性。该模型在多项基准测试中超越了现有模型，同时大幅减少了训练所需的计算量。Moonlight的开源实现和预训练模型为研究人员和开发者提供了强大的工具，支持多种自然语言处理任务，如文本生成、代码生成等。

BioEmu 是一个用于可扩展模拟蛋白质平衡系综的生成式深度学习模型。

BioEmu 是微软开发的一种深度学习模型，用于模拟蛋白质的平衡系综。该技术通过生成式深度学习方法，能够高效地生成蛋白质的结构样本，帮助研究人员更好地理解蛋白质的动态行为和结构多样性。该模型的主要优点在于其可扩展性和高效性，能够处理复杂的生物分子系统。它适用于生物化学、结构生物学和药物设计等领域的研究，为科学家提供了一种强大的工具来探索蛋白质的动态特性。

FlashVideo 是一个高效的高分辨率视频生成模型，专注于细节和保真度的流动。

FlashVideo 是一款专注于高效高分辨率视频生成的深度学习模型。它通过分阶段的生成策略，首先生成低分辨率视频，再通过增强模型提升至高分辨率，从而在保证细节的同时显著降低计算成本。该技术在视频生成领域具有重要意义，尤其是在需要高质量视觉内容的场景中。FlashVideo 适用于多种应用场景，包括内容创作、广告制作和视频编辑等。其开源性质使得研究人员和开发者可以灵活地进行定制和扩展。

一个用于即时代码应用的7B模型，专为快速、准确的代码编辑任务设计。

FastApply-7B-v1.0 是一个专为代码编辑任务设计的大型语言模型。它基于 Qwen2.5 Coder 架构，经过微调以实现快速、准确的代码修改功能。该模型能够快速生成完整的文件编辑，支持即时代码应用任务，特别适合集成到 AI 驱动的代码编辑器中。它在部署时表现出高吞吐量和高编辑准确率，速度可达约 150 tokens/second。该模型由 Kortix 开发，采用 Apache-2.0 许可证，旨在通过快速应用流程为数据生成和模型微调提供支持。

检测设备是否能运行不同规模的 DeepSeek 模型，提供兼容性预测。

DeepSeek 模型兼容性检测是一个用于评估设备是否能够运行不同规模 DeepSeek 模型的工具。它通过检测设备的系统内存、显存等配置，结合模型的参数量、精度位数等信息，为用户提供模型运行的预测结果。该工具对于开发者和研究人员在选择合适的硬件资源以部署 DeepSeek 模型时具有重要意义，能够帮助他们提前了解设备的兼容性，避免因硬件不足而导致的运行问题。DeepSeek 模型本身是一种先进的深度学习模型，广泛应用于自然语言处理等领域，具有高效、准确的特点。通过该检测工具，用户可以更好地利用 DeepSeek 模型进行项目开发和研究。

Huginn-0125是一个35亿参数的潜变量循环深度模型，擅长推理和代码生成。

Huginn-0125是一个由马里兰大学帕克分校Tom Goldstein实验室开发的潜变量循环深度模型。该模型拥有35亿参数，经过8000亿个token的训练，在推理和代码生成方面表现出色。其核心特点是通过循环深度结构在测试时动态调整计算量，能够根据任务需求灵活增加或减少计算步骤，从而在保持性能的同时优化资源利用。该模型基于开源的Hugging Face平台发布，支持社区共享和协作，用户可以自由下载、使用和进一步开发。其开源性和灵活的架构使其成为研究和开发中的重要工具，尤其是在资源受限或需要高性能推理的场景中。

大规模深度循环语言模型的预训练代码，支持在4096个AMD GPU上运行。

该产品是一个用于大规模深度循环语言模型的预训练代码库，基于Python开发。它在AMD GPU架构上进行了优化，能够在4096个AMD GPU上高效运行。该技术的核心优势在于其深度循环架构，能够有效提升模型的推理能力和效率。它主要用于研究和开发高性能的自然语言处理模型，特别是在需要大规模计算资源的场景中。该代码库开源且基于Apache-2.0许可证，适合学术研究和工业应用。

基于 PyTorch 的音乐、歌曲和音频生成工具包，支持高质量音频生成

InspireMusic 是一个专注于音乐、歌曲和音频生成的 AIGC 工具包和模型框架，采用 PyTorch 开发。它通过音频标记化和解码过程，结合自回归 Transformer 和条件流匹配模型，实现高质量音乐生成。该工具包支持文本提示、音乐风格、结构等多种条件控制，能够生成 24kHz 和 48kHz 的高质量音频，并支持长音频生成。此外，它还提供了方便的微调和推理脚本，方便用户根据需求调整模型。InspireMusic 的开源旨在赋能普通用户通过音乐创作提升研究中的音效表现。

Lumina-Video 是一个用于视频生成的初步尝试项目，支持文本到视频的生成。

Lumina-Video 是 Alpha-VLLM 团队开发的一个视频生成模型，主要用于从文本生成高质量的视频内容。该模型基于深度学习技术，能够根据用户输入的文本提示生成对应的视频，具有高效性和灵活性。它在视频生成领域具有重要意义，为内容创作者提供了强大的工具，能够快速生成视频素材。目前该项目已开源，支持多种分辨率和帧率的视频生成，并提供了详细的安装和使用指南。

一种非侵入式脑机接口技术，通过脑电图或脑磁图解码大脑活动以实现文本输入。

Brain2Qwerty 是一种创新的非侵入式脑机接口技术，旨在通过解码大脑活动来实现文本输入。该技术利用深度学习架构，结合脑电图（EEG）或脑磁图（MEG）信号，能够将大脑活动转化为文本输出。这种技术的重要性在于为失去语言能力或运动能力的患者提供了一种安全、有效的沟通方式，同时缩小了侵入式和非侵入式脑机接口之间的差距。目前该技术仍处于研究阶段，但其潜在应用前景广阔，未来有望在医疗、康复等领域发挥重要作用。

Hibiki 是一款用于流式语音翻译（即同声传译）的模型，能够实时逐块生成正确翻译。

Hibiki 是一款专注于流式语音翻译的先进模型。它通过实时积累足够的上下文信息来逐块生成正确的翻译，支持语音和文本翻译，并可进行声音转换。该模型基于多流架构，能够同时处理源语音和目标语音，生成连续的音频流和时间戳文本翻译。其主要优点包括高保真语音转换、低延迟实时翻译以及对复杂推理策略的兼容性。Hibiki 目前支持法语到英语的翻译，适合需要高效实时翻译的场景，如国际会议、多语言直播等。模型开源免费，适合开发者和研究人员使用。

强大的视频替换与编辑软件，利用AI技术实现自然效果。

VisoMaster是一款专注于视频替换和编辑的桌面客户端软件。它利用先进的AI技术，能够在图像和视频中实现高质量的替换，效果自然逼真。该软件操作简单，支持多种输入输出格式，并通过GPU加速提高处理效率。VisoMaster的主要优点是易于使用、高效处理以及高度定制化，适合视频创作者、影视后期制作人员以及对视频编辑有需求的普通用户。软件目前免费提供给用户，旨在帮助用户快速生成高质量的视频内容。

MNN 是阿里巴巴开源的轻量级高性能推理引擎，支持多种主流模型格式。

MNN 是阿里巴巴淘系技术开源的深度学习推理引擎，支持 TensorFlow、Caffe、ONNX 等主流模型格式，兼容 CNN、RNN、GAN 等常用网络。它通过极致优化算子性能，全面支持 CPU、GPU、NPU，充分发挥设备算力，广泛应用于阿里巴巴 70+ 场景下的 AI 应用。MNN 以高性能、易用性和通用性著称，旨在降低 AI 部署门槛，推动端智能的发展。

LLaSA： 扩展基于 LLaMA 的语音合成的训练时间和测试时间计算量

LLaSA_training 是一个基于 LLaMA 的语音合成训练项目，旨在通过优化训练时间和推理时间的计算资源，提升语音合成模型的效率和性能。该项目利用开源数据集和内部数据集进行训练，支持多种配置和训练方式，具有较高的灵活性和可扩展性。其主要优点包括高效的数据处理能力、强大的语音合成效果以及对多种语言的支持。该项目适用于需要高性能语音合成解决方案的研究人员和开发者，可用于开发智能语音助手、语音播报系统等应用场景。

VideoJAM 是一种用于增强视频生成模型运动连贯性的框架。

VideoJAM 是一种创新的视频生成框架，旨在通过联合外观 - 运动表示来提升视频生成模型的运动连贯性和视觉质量。该技术通过引入内指导机制（Inner-Guidance），利用模型自身预测的运动信号动态引导视频生成，从而在生成复杂运动类型时表现出色。VideoJAM 的主要优点是能够显著提高视频生成的连贯性，同时保持高质量的视觉效果，且无需对训练数据或模型架构进行大规模修改，即可应用于任何视频生成模型。该技术在视频生成领域具有重要的应用前景，尤其是在需要高度运动连贯性的场景中。

BEN2是一个基于深度学习的图像分割模型，专注于背景擦除和前景提取。

BEN2（Background Erase Network）是一个创新的图像分割模型，采用了Confidence Guided Matting（CGM）流程。它通过一个细化网络专门处理模型置信度较低的像素，从而实现更精确的抠图效果。BEN2在头发抠图、4K图像处理、目标分割和边缘细化方面表现出色。其基础模型是开源的，用户可以通过API或Web演示免费试用完整模型。该模型训练数据包括DIS5k数据集和22K专有分割数据集，能够满足多种图像处理需求。

AI研究资源导航网站，提供AI研究资源、文档和实践案例

DeepResearch123是一个AI研究资源导航平台，旨在为研究人员、开发者和爱好者提供丰富的AI研究资源、文档和实践案例。该平台涵盖了机器学习、深度学习和人工智能等多个领域的最新研究成果，帮助用户快速了解和掌握相关知识。其主要优点是资源丰富、分类清晰，便于用户查找和学习。该平台面向对AI研究感兴趣的各类人群，无论是初学者还是专业人士都能从中受益。目前平台免费开放，用户无需付费即可使用所有功能。

Gemini 2.0 是谷歌推出的最新一代生成式 AI 模型，包含 Flash、Flash-Lite 和 Pro 版本。

Gemini 2.0 是谷歌在生成式 AI 领域的重要进展，代表了最新的人工智能技术。它通过强大的语言生成能力，为开发者提供高效、灵活的解决方案，适用于多种复杂场景。Gemini 2.0 的主要优点包括高性能、低延迟和简化的定价策略，旨在降低开发成本并提高生产效率。该模型通过 Google AI Studio 和 Vertex AI 提供，支持多种模态输入，具备广泛的应用前景。

持续搜索和阅读网页，直到找到答案（或超出token预算）。

node-DeepResearch 是一个基于 Jina AI 技术的深度研究模型，专注于通过持续搜索和阅读网页来寻找问题的答案。它利用 Gemini 提供的 LLM 能力和 Jina Reader 的网页搜索功能，能够处理复杂的查询任务，并通过多步骤的推理和信息整合来生成答案。该模型的主要优点在于其强大的信息检索能力和推理能力，能够处理复杂的、需要多步骤解答的问题。它适用于需要深入研究和信息挖掘的场景，如学术研究、市场分析等。目前该模型是开源的，用户可以通过 GitHub 获取代码并自行部署使用。

MatAnyone 是一个支持目标指定的稳定视频抠像框架，适用于复杂背景。

MatAnyone 是一种先进的视频抠像技术，专注于通过一致的记忆传播实现稳定的视频抠像。它通过区域自适应记忆融合模块，结合目标指定的分割图，能够在复杂背景中保持语义稳定性和细节完整性。该技术的重要性在于它能够为视频编辑、特效制作和内容创作提供高质量的抠像解决方案，尤其适用于需要精确抠像的场景。MatAnyone 的主要优点是其在核心区域的语义稳定性和边界细节的精细处理能力。它由南洋理工大学和商汤科技的研究团队开发，旨在解决传统抠像方法在复杂背景下的不足。

Mistral Small 3 是一款开源的 24B 参数模型，专为低延迟和高效性能设计。

Mistral Small 3 是由 Mistral AI 推出的一款开源语言模型，具有 24B 参数，采用 Apache 2.0 许可证。该模型专为低延迟和高效性能设计，适合需要快速响应的生成式 AI 任务。它在多任务语言理解（MMLU）基准测试中达到 81% 的准确率，并且能够以每秒 150 个标记的速度生成文本。Mistral Small 3 的设计目标是提供一个强大的基础模型，用于本地部署和定制化开发，支持多种行业应用，如金融服务、医疗保健和机器人技术等。该模型未使用强化学习（RL）或合成数据训练，因此在模型生产管线中处于较早期阶段，适合用于构建推理能力。

这是一个完全开放的 DeepSeek-R1 模型的复现项目，旨在帮助开发者复现和构建基于 R1 的模型。

huggingface/open-r1 是一个开源项目，致力于复现 DeepSeek-R1 模型。该项目提供了一系列脚本和工具，用于训练、评估和生成合成数据，支持多种训练方法和硬件配置。其主要优点是完全开放，允许开发者自由使用和改进，对于希望在深度学习和自然语言处理领域进行研究和开发的用户来说，是一个非常有价值的资源。该项目目前没有明确的定价，适合学术研究和商业用途。

Video Depth Anything: Consistent Depth Estimation for Super-Long Videos

Video Depth Anything 是一个基于深度学习的视频深度估计模型，能够为超长视频提供高质量、时间一致的深度估计。该技术基于 Depth Anything V2 开发，具有强大的泛化能力和稳定性。其主要优点包括对任意长度视频的深度估计能力、时间一致性以及对开放世界视频的良好适应性。该模型由字节跳动的研究团队开发，旨在解决长视频深度估计中的挑战，如时间一致性问题和复杂场景的适应性问题。目前，该模型的代码和演示已公开，供研究人员和开发者使用。