产品库

EasyContext演示了如何利用现有技术组合，来训练700K和1M上下文的语言模型。

EasyContext是一个开源项目,旨在通过结合多种技术手段,实现使用普通硬件训练语言模型的上下文长度达到100万词元。主要采用的技术包括序列并行、Deepspeed zero3离载、Flash注意力以及激活checkpoint等。该项目不提出新的创新点,而是展示如何组合现有的技术手段来实现这一目标。已成功训练出Llama-2-7B和Llama-2-13B两个模型,分别在8块A100和16块A100上实现了700K和1M词元的上下文长度。

Gemma 2B模型，支持10M序列长度，优化内存使用，适用于大规模语言模型应用。

Gemma 2B - 10M Context是一个大规模的语言模型，它通过创新的注意力机制优化，能够在内存使用低于32GB的情况下处理长达10M的序列。该模型采用了循环局部注意力技术，灵感来源于Transformer-XL论文，是处理大规模语言任务的强大工具。

提供更好的语言模型体验，帮助用户提高生产力和准确性。

BrAIs是一个平台，允许用户结构化和管理与语言模型的交互。它旨在提高非技术用户的语言模型体验，帮助用户节省时间并减少摩擦。

一个社区驱动的深度研究框架，结合语言模型与多种工具。

DeerFlow 是一个深度研究框架，旨在结合语言模型与如网页搜索、爬虫及 Python 执行等专用工具，以推动深入研究工作。该项目源于开源社区，强调贡献回馈，具备多种灵活的功能，适合各类研究需求。

一个高效的强化学习框架，用于训练推理和搜索引擎调用的语言模型。

Search-R1 是一个强化学习框架，旨在训练能够进行推理和调用搜索引擎的语言模型（LLMs）。它基于 veRL 构建，支持多种强化学习方法和不同的 LLM 架构，使得在工具增强的推理研究和开发中具备高效性和可扩展性。

一款高效的推理与聊天大语言模型。

Llama-3.1-Nemotron-Ultra-253B-v1 是一个基于 Llama-3.1-405B-Instruct 的大型语言模型，经过多阶段的后训练以提升推理和聊天能力。该模型支持高达 128K 的上下文长度，具备较好的准确性和效率平衡，适用于商业用途，旨在为开发者提供强大的 AI 助手功能。

通过强化学习驱动的金融推理大模型。

Fin-R1 是一个专为金融领域设计的大型语言模型，旨在提升金融推理能力。由上海财经大学和财跃星辰联合研发，基于 Qwen2.5-7B-Instruct 进行微调和强化学习，具有高效的金融推理能力，适用于银行、证券等核心金融场景。该模型免费开源，便于用户使用和改进。

AI21推出的Jamba 1.6模型，专为企业私有部署设计，具备卓越的长文本处理能力。

Jamba 1.6 是 AI21 推出的最新语言模型，专为企业私有部署而设计。它在长文本处理方面表现出色，能够处理长达 256K 的上下文窗口，采用混合 SSM-Transformer 架构，可高效准确地处理长文本问答任务。该模型在质量上超越了 Mistral、Meta 和 Cohere 等同类模型，同时支持灵活的部署方式，包括在本地或 VPC 中私有部署，确保数据安全。它为企业提供了一种无需在数据安全和模型质量之间妥协的解决方案，适用于需要处理大量数据和长文本的场景，如研发、法律和金融分析等。目前，Jamba 1.6 已在多个企业中得到应用，如 Fnac 使用其进行数据分类，Educa Edtech 利用其构建个性化聊天机器人等。

Inception Labs 推出新一代扩散式大语言模型，提供极速、高效和高质量的语言生成能力。

Inception Labs 是一家专注于开发扩散式大语言模型（dLLMs）的公司。其技术灵感来源于先进的图像和视频生成系统，如 Midjourney 和 Sora。通过扩散模型，Inception Labs 提供了比传统自回归模型快 5-10 倍的速度、更高的效率和更强的生成控制能力。其模型支持并行文本生成，能够纠正错误和幻觉，适合多模态任务，并且在推理和结构化数据生成方面表现出色。公司由斯坦福、UCLA 和康奈尔大学的研究人员和工程师组成，是扩散模型领域的先驱。

OpenManus 是一个无需邀请码即可使用的开源智能代理项目。

OpenManus 是一个开源的智能代理项目，旨在通过开源的方式实现类似于 Manus 的功能，但无需邀请码即可使用。该项目由多个开发者共同开发，基于强大的语言模型和灵活的插件系统，能够快速实现各种复杂的任务。OpenManus 的主要优点是开源、免费且易于扩展，适合开发者和研究人员进行二次开发和研究。项目背景源于对现有智能代理工具的改进需求，目标是打造一个完全开放且易于使用的智能代理平台。

Instella 是由 AMD 开发的高性能开源语言模型，专为加速开源语言模型的发展而设计。

Instella 是由 AMD GenAI 团队开发的一系列高性能开源语言模型，基于 AMD Instinct™ MI300X GPU 训练而成。该模型在性能上显著优于同尺寸的其他开源语言模型，并且在功能上与 Llama-3.2-3B 和 Qwen2.5-3B 等模型相媲美。Instella 提供模型权重、训练代码和训练数据，旨在推动开源语言模型的发展。其主要优点包括高性能、开源开放以及对 AMD 硬件的优化支持。

OpenAI推出的最新语言模型GPT-4.5，专注于提升无监督学习能力，提供更自然的交互体验。

GPT-4.5是OpenAI发布的最新语言模型，代表了当前无监督学习技术的前沿水平。该模型通过大规模计算和数据训练，提升了对世界知识的理解和模式识别能力，减少了幻觉现象，能够更自然地与人类进行交互。它在写作、编程、解决问题等任务上表现出色，尤其适合需要高创造力和情感理解的场景。GPT-4.5目前处于研究预览阶段，面向Pro用户和开发者开放，旨在探索其潜在能力。

Gemini 2.0 Flash-Lite 是高效的语言模型，专为长文本处理和多种应用场景优化。

Gemini 2.0 Flash-Lite 是 Google 推出的高效语言模型，专为长文本处理和复杂任务优化。它在推理、多模态、数学和事实性基准测试中表现出色，具备简化的价格策略，使得百万级上下文窗口更加经济实惠。Gemini 2.0 Flash-Lite 已在 Google AI Studio 和 Vertex AI 中全面开放，适合企业级生产使用。

Phi-4-mini-instruct 是一款轻量级的开源语言模型，专注于高质量推理密集型数据。

Phi-4-mini-instruct 是微软推出的一款轻量级开源语言模型，属于 Phi-4 模型家族。它基于合成数据和经过筛选的公开网站数据进行训练，专注于高质量、推理密集型数据。该模型支持 128K 令牌上下文长度，并通过监督微调和直接偏好优化来增强指令遵循能力和安全性。Phi-4-mini-instruct 在多语言支持、推理能力（尤其是数学和逻辑推理）以及低延迟场景下表现出色，适用于资源受限的环境。该模型于 2025 年 2 月发布，支持多种语言，包括英语、中文、日语等。

DeepSeek 是一款先进的 AI 语言模型，擅长逻辑推理、数学和编程任务，提供免费使用。

DeepSeek 是由 High-Flyer 基金支持的中国 AI 实验室开发的先进语言模型，专注于开源模型和创新训练方法。其 R1 系列模型在逻辑推理和问题解决方面表现出色，采用强化学习和混合专家框架优化性能，以低成本实现高效训练。DeepSeek 的开源策略推动了社区创新，同时引发了关于 AI 竞争和开源模型影响力的行业讨论。其免费且无需注册的使用方式进一步降低了用户门槛，适合广泛的应用场景。

快速且内存高效的精确注意力机制

FlexHeadFA 是一个基于 FlashAttention 的改进模型，专注于提供快速且内存高效的精确注意力机制。它支持灵活的头维度配置，能够显著提升大语言模型的性能和效率。该模型的主要优点包括高效利用 GPU 资源、支持多种头维度配置以及与 FlashAttention-2 和 FlashAttention-3 兼容。它适用于需要高效计算和内存优化的深度学习场景，尤其在处理长序列数据时表现出色。

FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核，适用于变长序列服务。

FlashMLA 是一个针对 Hopper GPU 优化的高效 MLA 解码内核，专为变长序列服务设计。它基于 CUDA 12.3 及以上版本开发，支持 PyTorch 2.0 及以上版本。FlashMLA 的主要优势在于其高效的内存访问和计算性能，能够在 H800 SXM5 上实现高达 3000 GB/s 的内存带宽和 580 TFLOPS 的计算性能。该技术对于需要大规模并行计算和高效内存管理的深度学习任务具有重要意义，尤其是在自然语言处理和计算机视觉领域。FlashMLA 的开发灵感来源于 FlashAttention 2&3 和 cutlass 项目，旨在为研究人员和开发者提供一个高效的计算工具。

一种通过文本迷宫解决任务来增强大型语言模型视觉推理能力的创新方法

AlphaMaze 是一个专注于提升大型语言模型（LLM）视觉推理能力的项目。它通过文本形式描述的迷宫任务来训练模型，使其能够理解和规划空间结构。这种方法不仅避免了复杂的图像处理，还通过文本描述直接评估模型的空间理解能力。其主要优点是能够揭示模型如何思考空间问题，而不仅仅是能否解决问题。该模型基于开源框架，旨在推动语言模型在视觉推理领域的研究和发展。

AlphaMaze 是一款专注于视觉推理任务的解码器语言模型，旨在解决传统语言模型在视觉任务上的不足。

AlphaMaze 是一款专为解决视觉推理任务而设计的解码器语言模型。它通过针对迷宫解谜任务的训练，展示了语言模型在视觉推理方面的潜力。该模型基于 15 亿参数的 Qwen 模型构建，并通过监督微调（SFT）和强化学习（RL）进行训练。其主要优点在于能够将视觉任务转化为文本格式进行推理，从而弥补传统语言模型在空间理解上的不足。该模型的开发背景是提升 AI 在视觉任务上的表现，尤其是在需要逐步推理的场景中。目前，AlphaMaze 作为研究项目，暂未明确其商业化定价和市场定位。

通过Model Context Protocol服务器扩展语言模型的能力。

Smithery是一个基于Model Context Protocol的平台，允许用户通过连接各种服务器来扩展语言模型的功能。它为用户提供了一个灵活的工具集，能够根据需求动态增强语言模型的能力，从而更好地完成各种任务。该平台的核心优势在于其模块化和可扩展性，用户可以根据自己的需求选择合适的服务器进行集成。

Moonlight-16B-A3B 是一个基于 Muon 优化器训练的 16B 参数的混合专家模型，用于高效的语言生成。

Moonlight-16B-A3B 是由 Moonshot AI 开发的一种大规模语言模型，采用先进的 Muon 优化器进行训练。该模型通过优化训练效率和性能，显著提升了语言生成的能力。其主要优点包括高效的优化器设计、较少的训练 FLOPs 和卓越的性能表现。该模型适用于需要高效语言生成的场景，如自然语言处理、代码生成和多语言对话等。其开源的实现和预训练模型为研究人员和开发者提供了强大的工具。

DeepHermes 3 是一款支持推理和常规响应模式的大型语言模型。

DeepHermes 3 是 NousResearch 开发的先进语言模型，能够通过系统性推理提升回答准确性。它支持推理模式和常规响应模式，用户可以通过系统提示切换。该模型在多轮对话、角色扮演、推理等方面表现出色，旨在为用户提供更强大和灵活的语言生成能力。模型基于 Llama-3.1-8B 微调，参数量达 80.3 亿，支持多种应用场景，如推理、对话、函数调用等。

Lora 是一个为移动设备优化的本地语言模型，支持 iOS 和 Android 平台。

Lora 是一款为移动设备优化的本地语言模型，通过其 SDK 可以快速集成到移动应用中。它支持 iOS 和 Android 平台，性能与 GPT-4o-mini 相当，拥有 1.5GB 大小和 24 亿参数，专为实时移动推理进行了优化。Lora 的主要优点包括低能耗、轻量化和快速响应，相比其他模型，它在能耗、体积和速度上都有显著优势。Lora 由 PeekabooLabs 提供，主要面向开发者和企业客户，帮助他们快速将先进的语言模型能力集成到移动应用中，提升用户体验和应用竞争力。

PaliGemma 2 mix 是一款多功能的视觉语言模型，适用于多种任务和领域。

PaliGemma 2 mix 是 Google 推出的升级版视觉语言模型，属于 Gemma 家族。它能够处理多种视觉和语言任务，如图像分割、视频字幕生成、科学问题回答等。该模型提供不同大小的预训练检查点（3B、10B 和 28B 参数），可轻松微调以适应各种视觉语言任务。其主要优点是多功能性、高性能和开发者友好性，支持多种框架（如 Hugging Face Transformers、Keras、PyTorch 等）。该模型适用于需要高效处理视觉和语言任务的开发者和研究人员，能够显著提升开发效率。

Mistral Saba 是一款专为中东和南亚地区定制的区域语言模型。

Mistral Saba 是 Mistral AI 推出的首个专门针对中东和南亚地区的定制化语言模型。该模型拥有 240 亿参数，通过精心策划的数据集进行训练，能够提供比同类大型模型更准确、更相关且更低成本的响应。它支持阿拉伯语和多种印度起源语言，尤其擅长南印度语言（如泰米尔语），适用于需要精准语言理解和文化背景支持的场景。Mistral Saba 可通过 API 使用，也可本地部署，具有轻量化、单 GPU 系统部署和快速响应的特点，适合企业级应用。

Ai2 OLMoE 是一款可在 iOS 设备上运行的开源语言模型应用

OLMoE 是由 Ai2 开发的开源语言模型应用，旨在为研究人员和开发者提供一个完全开放的工具包，用于在设备上进行人工智能实验。该应用支持在 iPhone 和 iPad 上离线运行，确保用户数据完全私密。它基于高效的 OLMoE 模型构建，通过优化和量化，使其在移动设备上运行时保持高性能。该应用的开源特性使其成为研究和开发新一代设备端人工智能应用的重要基础。

一个用于生成播客及其他音频文件转录文本的工具，支持多种语言模型和语音识别API。

Podscript 是一个强大的音频转录工具，它利用语言模型和语音到文本（STT）API，为播客和其他音频内容生成高质量的转录文本。该工具支持多种流行的STT服务，如Deepgram、AssemblyAI和Groq，并且可以处理YouTube视频的自动生成字幕。Podscript的主要优点是其灵活性和易用性，用户可以通过简单的命令行界面或方便的Web界面来操作。它适用于播客创作者、内容制作者以及需要快速转录音频的用户。Podscript是开源的，用户可以根据自己的需求进行定制和扩展。

Xwen-Chat是专注中文对话的大语言模型集合，提供多版本模型及语言生成服务

Xwen-Chat由xwen-team开发，为满足高质量中文对话模型需求而生，填补领域空白。其有多个版本，具备强大语言理解与生成能力，可处理复杂语言任务，生成自然对话内容，适用于智能客服等场景，在Hugging Face平台免费提供。

一个基于LLM的创意命名工具，帮助用户快速生成独特的名称。

LLM Codenames 是一个基于语言模型的创意命名工具。它利用先进的自然语言处理技术，能够根据用户输入的关键词或主题，快速生成一系列独特且富有创意的名称。这种工具对于需要进行品牌命名、产品命名或创意写作的用户来说非常实用。它可以帮助用户节省大量时间和精力，避免命名过程中的重复劳动。LLM Codenames 的主要优点是其高效性和创意性，能够提供多样化的命名选择，满足不同用户的需求。该工具目前以网站形式提供服务，用户可以通过浏览器直接访问使用，无需安装任何软件。

为语言模型和AI代理提供视频处理服务，支持多种视频来源。

Deeptrain 是一个专注于视频处理的平台，旨在将视频内容无缝集成到语言模型和AI代理中。通过其强大的视频处理技术，用户可以像使用文本和图像一样轻松地利用视频内容。该产品支持超过200种语言模型，包括GPT-4o、Gemini等，并且支持多语言视频处理。Deeptrain 提供免费的开发支持，仅在生产环境中使用时才收费，这使得它成为开发AI应用的理想选择。其主要优点包括强大的视频处理能力、多语言支持以及与主流语言模型的无缝集成。