产品库

从语言到视觉的长上下文转换模型

LongVA是一个能够处理超过2000帧或超过200K视觉标记的长上下文转换模型。它在Video-MME中的表现在7B模型中处于领先地位。该模型基于CUDA 11.8和A100-SXM-80G进行了测试，并且可以通过Hugging Face平台进行快速启动和使用。

高效无限上下文语言模型的官方实现

Samba是一个简单而强大的混合模型，具有无限的上下文长度。它的架构非常简单：Samba = Mamba + MLP + 滑动窗口注意力 + 层级MLP堆叠。Samba-3.8B模型在Phi3数据集上训练了3.2万亿个token，主要基准测试（例如MMLU、GSM8K和HumanEval）上的表现大大超过了Phi3-mini。Samba还可以通过最少的指令调整实现完美的长上下文检索能力，同时保持与序列长度的线性复杂度。这使得Samba-3.8B-instruct在下游任务（如长上下文摘要）上表现出色。

全球最长上下文窗口大模型

Baichuan2-192K推出全球最长上下文窗口大模型Baichuan2-192K，一次可输入35万字超越Claude2。Baichuan2-192K不仅在上下文窗口长度上超越Claude2，在长窗口文本生成质量、长上下文理解以及长文本问答、摘要等方面的表现也全面领先Claude2。Baichuan2-192K通过算法和工程的极致优化，实现了窗口长度和模型性能之间的平衡，做到了窗口长度和模型性能的同步提升。Baichuan2-192K已经开放了API接口，提供给企业用户，并已经在法律、媒体、金融等行业落地应用。

评估大型语言模型的逻辑推理和上下文理解能力。

Turtle Benchmark是一款基于'Turtle Soup'游戏的新型、无法作弊的基准测试，专注于评估大型语言模型（LLMs）的逻辑推理和上下文理解能力。它通过消除对背景知识的需求，提供了客观和无偏见的测试结果，具有可量化的结果，并且通过使用真实用户生成的问题，使得模型无法被'游戏化'。

强大的语言模型，拥有4560亿总参数，可处理长达400万token的上下文。

MiniMax-01是一个具有4560亿总参数的强大语言模型，其中每个token激活459亿参数。它采用混合架构，结合了闪电注意力、softmax注意力和专家混合（MoE），通过先进的并行策略和创新的计算-通信重叠方法，如线性注意力序列并行主义加（LASP+）、varlen环形注意力、专家张量并行（ETP）等，将训练上下文长度扩展到100万tokens，在推理时可处理长达400万tokens的上下文。在多个学术基准测试中，MiniMax-01展现了顶级模型的性能。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

超长上下文模型，革新软件开发

Magic团队开发的超长上下文模型（LTM）能够处理高达100M tokens的上下文信息，这在AI领域是一个重大突破。该技术主要针对软件开发领域，通过在推理过程中提供大量代码、文档和库的上下文，极大地提升了代码合成的质量和效率。与传统的循环神经网络和状态空间模型相比，LTM模型在存储和检索大量信息方面具有明显优势，能够构建更复杂的逻辑电路。此外，Magic团队还与Google Cloud合作，利用NVIDIA GB200 NVL72构建下一代AI超级计算机，进一步推动模型的推理和训练效率。

一款多功能大型视觉语言模型

InternLM-XComposer-2.5是一款支持长上下文输入和输出的多功能大型视觉语言模型。它在各种文本图像理解和创作应用中表现出色，实现了与GPT-4V相当的水平，但仅使用了7B的LLM后端。该模型通过24K交错图像文本上下文进行训练，能够无缝扩展到96K长上下文，通过RoPE外推。这种长上下文能力使其在需要广泛输入和输出上下文的任务中表现突出。此外，它还支持超高分辨率理解、细粒度视频理解、多轮多图像对话、网页制作以及撰写高质量图文文章等功能。

MiniMax-Text-01是一个强大的语言模型，具有4560亿总参数，能够处理长达400万token的上下文。

MiniMax-Text-01是一个由MiniMaxAI开发的大型语言模型，拥有4560亿总参数，其中每个token激活459亿参数。它采用了混合架构，结合了闪电注意力、softmax注意力和专家混合（MoE）技术，通过先进的并行策略和创新的计算-通信重叠方法，如线性注意力序列并行主义加（LASP+）、变长环形注意力、专家张量并行（ETP）等，将训练上下文长度扩展到100万token，并能在推理时处理长达400万token的上下文。在多个学术基准测试中，MiniMax-Text-01展现出了顶级模型的性能。

将LLM上下文窗口扩展至200万令牌的技术

LongRoPE是微软推出的技术，可以将预训练大型语言模型（LLM）的上下文窗口扩展到2048k（200万）令牌，实现从短上下文到长上下文的扩展，降低训练成本和时间，同时保持原有短上下文窗口性能。适用于提高语言模型在长文本上的理解和生成能力，提升机器阅读理解、文本摘要和长篇文章生成等任务。

智能对话应用，上下文理解、代码展示、多端同步

小秋 AI 是优秀的智能对话应用，支持上下文理解、代码块展示、代码块一键复制，兼容适配移动端与 PC 端，会话数据可进行多端同步。同时支持切换不同的 AI 应用并创建属于自己的 AI 应用，希望它能够成为您的得力助手，让每个人能尽情享受人工智能的魅力。

权限感知上下文提供者

ReLLM提供权限感知上下文，可用于大型语言模型（如ChatGPT）的应用中。通过将用户的长期记忆提供给ChatGPT，实现更自然的对话体验。ReLLM还处理与ChatGPT的通信和消息链管理，保证数据安全性。只提供用户可以访问的数据。数据加密存储，解密只在使用时进行。定价详见官方网站。

加速长上下文大型语言模型的预填充处理

MInference 1.0 是一种稀疏计算方法，旨在加速长序列处理的预填充阶段。它通过识别长上下文注意力矩阵中的三种独特模式，实现了对长上下文大型语言模型（LLMs）的动态稀疏注意力方法，加速了1M token提示的预填充阶段，同时保持了LLMs的能力，尤其是检索能力。

实时零唇语音转换的流式上下文感知语言建模

StreamVoice是一种基于语言模型的零唇语音转换模型，可实现实时转换，无需完整的源语音。它采用全因果上下文感知语言模型，结合时间独立的声学预测器，能够在每个时间步骤交替处理语义和声学特征，从而消除对完整源语音的依赖。为了增强在流式处理中可能出现的上下文不完整而导致的性能下降，StreamVoice通过两种策略增强了语言模型的上下文感知性：1）教师引导的上下文预见，在训练过程中利用教师模型总结当前和未来的语义上下文，引导模型对缺失上下文进行预测；2）语义屏蔽策略，促进从先前受损的语义和声学输入进行声学预测，增强上下文学习能力。值得注意的是，StreamVoice是第一个基于语言模型的流式零唇语音转换模型，无需任何未来预测。实验结果表明，StreamVoice具有流式转换能力，同时保持与非流式语音转换系统相媲美的零唇性能。

EasyContext演示了如何利用现有技术组合，来训练700K和1M上下文的语言模型。

EasyContext是一个开源项目,旨在通过结合多种技术手段,实现使用普通硬件训练语言模型的上下文长度达到100万词元。主要采用的技术包括序列并行、Deepspeed zero3离载、Flash注意力以及激活checkpoint等。该项目不提出新的创新点,而是展示如何组合现有的技术手段来实现这一目标。已成功训练出Llama-2-7B和Llama-2-13B两个模型,分别在8块A100和16块A100上实现了700K和1M词元的上下文长度。

超级上下文定向引擎！

Neuwo是一款领先的上下文人工智能引擎，用于内容分类和品牌安全。我们的技术帮助出版商和数字资产管理者改善用户体验并提供不打扰的广告。Neuwo通过丰富您的宝贵数据，提供元标签、相关内容和IAB分类，实现上下文广告的最大化利用。我们的使命是使您的数据更有价值！

在本地运行GPT-4和基础模型，无需上传屏幕上下文。

AmbientGPT是一个革命性的编程辅助工具，它允许开发者在本地运行GPT-4和基础模型，同时能够直接推断屏幕上下文，从而无需手动上传上下文信息。这大大提高了代码编写和问题解决的效率。产品目前处于测试阶段，适用于拥有ARM64架构MacBook的开发者，并且需要一个兼容的OpenAI API密钥。

体验革命性的FLUX Kontext AI图像生成和编辑，利用具有上下文感知的技术创建、修改和增强图像。

Kontext AI的FLUX Kontext是一项具有上下文感知能力的技术，可用于图像生成和编辑。其主要优点包括快速、准确的生成和编辑图像，支持复杂的编辑工作流程，结合了传统文本到图像模型和流式生成建模。

使用自然语言指令编辑图片，保持上下文和身份一致。

FLUX.1 Kontext是一款AI图像编辑工具，通过自然语言指令实现编辑，保持上下文和身份一致。其主要优点包括快速编辑、保持人物特征和身份一致、支持多种编辑模式，适用于各种创意需求。

加速长上下文大型语言模型的推理过程

MInference是一个针对长上下文大型语言模型（LLMs）的推理加速框架。它利用了LLMs注意力机制中的动态稀疏特性，通过静态模式识别和在线稀疏索引近似计算，显著提升了预填充（pre-filling）的速度，实现了在单个A100 GPU上处理1M上下文的10倍加速，同时保持了推理的准确性。

一个多图像视觉语言模型，具有训练、推理和评估方案，可从云端部署到边缘设备（如Jetson Orin和笔记本电脑）。

VILA是一个预训练的视觉语言模型（VLM），它通过大规模的交错图像-文本数据进行预训练，从而实现视频理解和多图像理解能力。VILA通过AWQ 4bit量化和TinyChat框架在边缘设备上可部署。主要优点包括：1) 交错图像-文本数据对于提升性能至关重要；2) 在交错图像-文本预训练期间不冻结大型语言模型（LLM）可以促进上下文学习；3) 重新混合文本指令数据对于提升VLM和纯文本性能至关重要；4) 标记压缩可以扩展视频帧数。VILA展示了包括视频推理、上下文学习、视觉思维链和更好的世界知识等引人入胜的能力。

月之暗面推出的最新AI模型，支持自动同步更新和大上下文长度，适用于AI聊天和智能助手构建。

kimi-latest 是月之暗面公司推出的最新 AI 模型，与 Kimi 智能助手同步升级，具备强大的上下文处理能力和自动缓存功能，能够有效降低使用成本。该模型支持图像理解和多种功能，如 ToolCalls 和联网搜索，适用于构建 AI 智能助手或客服系统。其价格为每百万 Tokens 1 元，定位为高效、灵活的 AI 模型解决方案。

扩展大语言模型的上下文窗口

LLM Maybe LongLM是一个面向开发者和研究人员的人工智能平台，提供各种模型、数据集和解决方案。其中，LLM Maybe LongLM是针对大语言模型长上下文处理的研究成果，通过自我扩展实现了对长上下文的处理能力。该方法无需训练，只需对原始模型进行少量代码修改即可扩展上下文窗口，为处理长文本提供了有效的解决方案。

LG AI Research开发的多语言生成模型

EXAONE-3.5-7.8B-Instruct是由LG AI Research开发的一系列指令调优的双语（英语和韩语）生成模型，参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理，并在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与近期发布的类似大小模型相比，在通用领域保持竞争力。

70亿参数的超长上下文对话模型

InternLM2.5-7B-Chat-1M 是一个开源的70亿参数的对话模型，具有卓越的推理能力，在数学推理方面超越了同量级模型。该模型支持1M超长上下文窗口，能够处理长文本任务，如LongBench等。此外，它还具备强大的工具调用能力，能够从上百个网页搜集信息进行分析推理。

自由形式文本图像合成与理解的视觉语言大模型

InternLM-XComposer2是一款领先的视觉语言模型，擅长自由形式文本图像合成与理解。该模型不仅能够理解传统的视觉语言，还能熟练地从各种输入中构建交织的文本图像内容，如轮廓、详细的文本规范和参考图像，实现高度可定制的内容创作。InternLM-XComposer2提出了一种部分LoRA（PLoRA）方法，专门将额外的LoRA参数应用于图像标记，以保留预训练语言知识的完整性，实现精确的视觉理解和具有文学才能的文本构成之间的平衡。实验结果表明，基于InternLM2-7B的InternLM-XComposer2在生成高质量长文本多模态内容方面优越，以及在各种基准测试中其出色的视觉语言理解性能，不仅明显优于现有的多模态模型，还在某些评估中与甚至超过GPT-4V和Gemini Pro。这凸显了它在多模态理解领域的卓越能力。InternLM-XComposer2系列模型具有7B参数，可在https://github.com/InternLM/InternLM-XComposer 上公开获取。

MCP Defender是一款AI防火墙，旨在监控和保护模型上下文协议（MCP）通信。

MCP Defender是一款AI防火墙，用于监控和保护MCP通信。它拦截工具调用和响应，并根据安全签名验证它们。MCP Defender提供高级的LLM驱动的恶意活动检测，并允许用户管理扫描过程中使用的签名。

高效编码的开源大型语言模型

Yi-Coder是一系列开源的代码大型语言模型（LLMs），在少于100亿参数的情况下提供最先进的编码性能。它有两种尺寸—1.5B和9B参数—提供基础和聊天版本，旨在高效推理和灵活训练。Yi-Coder-9B在GitHub的代码库级别代码语料库和从CommonCrawl筛选的代码相关数据上，额外训练了2.4万亿高质量token。Yi-Coder在多种编程任务中表现出色，包括基础和竞技编程、代码编辑和仓库级完成、长上下文理解以及数学推理。

代码生成与理解的大型语言模型

Qwen2.5-Coder-14B是Qwen系列中专注于代码的大型语言模型，覆盖了0.5到32亿参数的不同模型尺寸，以满足不同开发者的需求。该模型在代码生成、代码推理和代码修复方面有显著提升，基于强大的Qwen2.5，训练令牌扩展到5.5万亿，包括源代码、文本代码接地、合成数据等。Qwen2.5-Coder-32B已成为当前最先进的开源代码LLM，其编码能力与GPT-4o相匹配。此外，它还为现实世界应用如代码代理提供了更全面的基础，不仅增强了编码能力，还保持了在数学和通用能力方面的优势。支持长达128K令牌的长上下文。

掌握开放世界交互的视觉-时间上下文提示模型

ROCKET-1是一个视觉-语言模型(VLMs)，专门针对开放世界环境中的具身决策制定而设计。该模型通过视觉-时间上下文提示协议，将VLMs与策略模型之间的通信连接起来，利用来自过去和当前观察的对象分割来指导策略-环境交互。ROCKET-1通过这种方式，能够解锁VLMs的视觉-语言推理能力，使其能够解决复杂的创造性任务，尤其是在空间理解方面。ROCKET-1在Minecraft中的实验表明，该方法使代理能够完成以前无法实现的任务，突出了视觉-时间上下文提示在具身决策制定中的有效性。