DeepSeek-V3/R1 推理系统是一个高性能的分布式推理架构，专为大规模 AI 模型优化设计。
DeepSeek-V3/R1 推理系统是 DeepSeek 团队开发的高性能推理架构，旨在优化大规模稀疏模型的推理效率。它通过跨节点专家并行（EP）技术，显著提升 GPU 矩阵计算效率，降低延迟。该系统采用双批量重叠策略和多级负载均衡机制，确保在大规模分布式环境中高效运行。其主要优点包括高吞吐量、低延迟和优化的资源利用率，适用于高性能计算和 AI 推理场景。
一个用于专家并行负载均衡的开源算法，旨在优化多GPU环境下的专家分配和负载平衡。
Expert Parallelism Load Balancer (EPLB)是一种用于深度学习中专家并行（EP）的负载均衡算法。它通过冗余专家策略和启发式打包算法，确保不同GPU之间的负载平衡，同时利用组限制专家路由减少节点间数据流量。该算法对于大规模分布式训练具有重要意义，能够提高资源利用率和训练效率。
DeepEP 是一个针对 Mixture-of-Experts 和专家并行通信的高效通信库。
DeepEP 是一个专为混合专家模型（MoE）和专家并行（EP）设计的通信库。它提供了高吞吐量和低延迟的全连接 GPU 内核，支持低精度操作（如 FP8）。该库针对非对称域带宽转发进行了优化，适合训练和推理预填充任务。此外，它还支持流处理器（SM）数量控制，并引入了一种基于钩子的通信-计算重叠方法，不占用任何 SM 资源。DeepEP 的实现虽然与 DeepSeek-V3 论文略有差异，但其优化的内核和低延迟设计使其在大规模分布式训练和推理任务中表现出色。
Moonlight-16B-A3B 是一个基于 Muon 优化器训练的 16B 参数的混合专家模型，用于高效的语言生成。
Moonlight-16B-A3B 是由 Moonshot AI 开发的一种大规模语言模型，采用先进的 Muon 优化器进行训练。该模型通过优化训练效率和性能，显著提升了语言生成的能力。其主要优点包括高效的优化器设计、较少的训练 FLOPs 和卓越的性能表现。该模型适用于需要高效语言生成的场景，如自然语言处理、代码生成和多语言对话等。其开源的实现和预训练模型为研究人员和开发者提供了强大的工具。
Moonlight是一个16B参数的混合专家模型，使用Muon优化器训练，性能优异。
Moonlight是基于Muon优化器训练的16B参数混合专家模型（MoE），在大规模训练中表现出色。它通过添加权重衰减和调整参数更新比例，显著提高了训练效率和稳定性。该模型在多项基准测试中超越了现有模型，同时大幅减少了训练所需的计算量。Moonlight的开源实现和预训练模型为研究人员和开发者提供了强大的工具，支持多种自然语言处理任务，如文本生成、代码生成等。
AI驱动的职业分析工具，帮助优化职业发展路径
Career Check 是一个基于人工智能技术的职业分析平台，用户通过上传简历和输入目标职位描述，系统能够快速分析简历的优劣势，并提供个性化的职业发展建议。该产品的核心优势在于其高效的AI分析能力，能够精准匹配用户的职业技能与职位要求，帮助用户在求职过程中更好地展示自身优势，提升求职成功率。此外，平台还提供与职业专家的连接服务，为用户提供更深入的职业指导。Career Check 适用于各类求职者，尤其是对职业发展有明确规划的人群，其便捷的使用方式和专业的分析结果，使其在职业发展领域具有重要的价值。
与顶级专家进行实时对话，获取专业建议和反馈。
Outpost 是一个在线平台，允许用户与顶级行业专家进行实时对话，获取专业建议和反馈。该平台的主要优点在于能够快速连接用户与专家，提供即时的反馈和建议，帮助用户在职业发展、产品设计、技术咨询等方面取得进步。产品背景信息显示，Outpost 旨在打破传统咨询的壁垒，使用户能够以更低的成本获得高质量的专业服务。其价格根据服务类型不同而有所差异，例如简历审核为20美元，UI/UX 评论为50美元等，定位为提供高效、便捷的专业咨询服务。
先进的大型混合专家视觉语言模型
DeepSeek-VL2是一系列先进的大型混合专家(MoE)视觉语言模型，相较于前代DeepSeek-VL有显著提升。该模型系列在视觉问答、光学字符识别、文档/表格/图表理解以及视觉定位等多种任务上展现出卓越的能力。DeepSeek-VL2由三种变体组成：DeepSeek-VL2-Tiny、DeepSeek-VL2-Small和DeepSeek-VL2，分别拥有10亿、28亿和45亿激活参数。DeepSeek-VL2在激活参数相似或更少的情况下，与现有的开源密集型和基于MoE的模型相比，达到了竞争性或最先进的性能。
先进的大型混合专家视觉语言模型
DeepSeek-VL2是一系列先进的大型混合专家（MoE）视觉语言模型，相较于前代DeepSeek-VL有显著提升。该模型系列在视觉问答、光学字符识别、文档/表格/图表理解、视觉定位等多项任务中展现出卓越的能力。DeepSeek-VL2由三种变体组成：DeepSeek-VL2-Tiny、DeepSeek-VL2-Small和DeepSeek-VL2，分别拥有1.0B、2.8B和4.5B激活参数。DeepSeek-VL2在激活参数相似或更少的情况下，与现有的开源密集型和基于MoE的模型相比，达到了竞争性或最先进的性能。
高性能混合专家语言模型
DeepSeek-V2.5-1210是DeepSeek-V2.5的升级版本，它在多个能力方面进行了改进，包括数学、编码和写作推理。模型在MATH-500基准测试中的性能从74.8%提高到82.8%，在LiveCodebench (08.01 - 12.01)基准测试中的准确率从29.2%提高到34.38%。此外，新版本优化了文件上传和网页摘要功能的用户体验。DeepSeek-V2系列（包括基础和聊天）支持商业用途。
专家评估界面和数据评估脚本
OpenScholar_ExpertEval是一个用于专家评估和数据评估的界面和脚本集合，旨在支持OpenScholar项目。该项目通过检索增强型语言模型合成科学文献，对模型生成的文本进行细致的人工评估。产品背景基于AllenAI的研究项目，具有重要的学术和技术价值，能够帮助研究人员和开发者更好地理解和改进语言模型。
Integral替代Slack和Discord，为专家社区和组织提供新世代的桌面和移动应用。
Integral是一款旨在替代Slack和Discord的新世代桌面和移动应用，专为专家社区和组织设计。它通过提供一个平台，使得专业知识和关系的传递速度提高10倍。Integral的背景信息显示，它刚刚在Product Hunt上推出公测版本，这表明它是一个新兴的、面向特定用户群体的产品。产品的主要优点在于其能够快速传递专业知识和建立关系，这对于需要高效沟通和知识共享的组织来说至关重要。目前，Integral提供免费试用的下载链接，但具体的定价信息在页面上未提及。
业界领先的开源大型混合专家模型
Tencent-Hunyuan-Large（混元大模型）是由腾讯推出的业界领先的开源大型混合专家（MoE）模型，拥有3890亿总参数和520亿激活参数。该模型在自然语言处理、计算机视觉和科学任务等领域取得了显著进展，特别是在处理长上下文输入和提升长上下文任务处理能力方面表现出色。混元大模型的开源，旨在激发更多研究者的创新灵感，共同推动AI技术的进步和应用。
多模态原生混合专家模型
Aria是一个多模态原生混合专家模型，具有强大的多模态、语言和编码任务性能。它在视频和文档理解方面表现出色，支持长达64K的多模态输入，能够在10秒内描述一个256帧的视频。Aria模型的参数量为25.3B，能够在单个A100（80GB）GPU上使用bfloat16精度进行加载。Aria的开发背景是满足对多模态数据理解的需求，特别是在视频和文档处理方面。它是一个开源模型，旨在推动多模态人工智能的发展。
中国遥遥领先的AI全职业办公写作平台
厉害猫AI是一个专注于提供全职业写作服务的AI平台，它通过专家级的写作模型，能够满足不同行业和职业的写作需求。该平台拥有超过100000+的写作模型，覆盖自媒体、营销、运营、产品、销售、设计、人力、技术、咨询、财务、零售、本地生活、招商连锁、影视、媒体、地产、物流、生产、电子、医疗、投行、法务、运输、工商、税务等多个领域。厉害猫AI通过其先进的AI技术，帮助用户提升写作效率，优化内容质量，从而在各自的职业领域中取得更好的成绩。
高效能、低资源消耗的混合专家模型
GRIN-MoE是由微软开发的混合专家(Mixture of Experts, MoE)模型，专注于提高模型在资源受限环境下的性能。该模型通过使用SparseMixer-v2来估计专家路由的梯度，与传统的MoE训练方法相比，GRIN-MoE在不依赖专家并行处理和令牌丢弃的情况下，实现了模型训练的扩展。它在编码和数学任务上表现尤为出色，适用于需要强推理能力的场景。
开源的专家混合语言模型，具有1.3亿活跃参数。
OLMoE是一个完全开放的、最先进的专家混合模型，具有1.3亿活跃参数和6.9亿总参数。该模型的所有数据、代码和日志都已发布。它提供了论文'OLMoE: Open Mixture-of-Experts Language Models'的所有资源概览。该模型在预训练、微调、适应和评估方面都具有重要应用，是自然语言处理领域的一个里程碑。
A directory for web development experts.
cursor.directory 是一个为网络开发专家设计的资源目录，它提供了一个平台，让专家可以分享他们对各种技术和工具的专业知识。它让提供了各种编程语言的Cursor配置文件和提示词库，提供提示词能够帮助 Cursor 编辑器更好地理解开发者的意图，为代码补全、错误修复和其他编辑功能提供更准确的支持。这些提示词涵盖了多种流行的编程语言和框架，如Python、React、TypeScript、Next.js、FastAPI等。同时，用户也可以通过提交自己的规则来贡献内容。这个平台特别强调了对TypeScript、Node.js、React等现代web开发技术的深入理解和最佳实践。
高效能混合专家语言模型
Yuan2.0-M32-hf-int8是一个具有32个专家的混合专家(MoE)语言模型，其中2个是活跃的。该模型通过采用新的路由网络——注意力路由器，提高了专家选择的效率，使得准确率比使用传统路由网络的模型提高了3.8%。Yuan2.0-M32从头开始训练，使用了2000亿个token，其训练计算量仅为同等参数规模的密集模型所需计算量的9.25%。该模型在编程、数学和各种专业领域展现出竞争力，并且只使用37亿个活跃参数，占总参数40亿的一小部分，每个token的前向计算仅为7.4 GFLOPS，仅为Llama3-70B需求的1/19。Yuan2.0-M32在MATH和ARC-Challenge基准测试中超越了Llama3-70B，分别达到了55.9%和95.8%的准确率。
© 2025 AIbase 备案号：闽ICP备08105208号-14