产品库

多模态大型语言模型设计空间探索

EAGLE是一个面向视觉中心的高分辨率多模态大型语言模型（LLM）系列，通过混合视觉编码器和不同输入分辨率来加强多模态LLM的感知能力。该模型包含基于通道连接的'CLIP+X'融合，适用于具有不同架构（ViT/ConvNets）和知识（检测/分割/OCR/SSL）的视觉专家。EAGLE模型家族支持超过1K的输入分辨率，并在多模态LLM基准测试中取得了优异的成绩，特别是在对分辨率敏感的任务上，如光学字符识别和文档理解。

高效扩展多模态大型语言模型至1000图像

LongLLaVA是一个多模态大型语言模型，通过混合架构高效扩展至1000图像，旨在提升图像处理和理解能力。该模型通过创新的架构设计，实现了在大规模图像数据上的有效学习和推理，对于图像识别、分类和分析等领域具有重要意义。

视频理解与推理的免训练大型语言模型。

SlowFast-LLaVA是一个无需训练的多模态大型语言模型，专为视频理解和推理设计。它无需在任何数据上进行微调，就能在多种视频问答任务和基准测试中达到与最先进视频大型语言模型相当甚至更好的性能。

一种用于扩展多模态大型语言模型（LLMs）的先进架构。

CuMo是一种多模态大型语言模型（LLMs）的扩展架构，它通过在视觉编码器和MLP连接器中融入稀疏的Top-K门控专家混合（MoE）块，提高了模型的可扩展性，同时在推理时几乎不增加激活参数。CuMo在预训练MLP块后，初始化MoE块中的每个专家，并在视觉指令调整阶段使用辅助损失以确保专家的均衡负载。CuMo在各种VQA和视觉指令遵循基准测试中超越了其他同类模型，且完全基于开源数据集进行训练。

多语言大型语言模型，支持多领域文本生成。

XVERSE-MoE-A36B是由深圳元象科技自主研发的多语言大型语言模型，采用混合专家模型（MoE）架构，具有2554亿的总参数规模和360亿的激活参数量。该模型支持包括中、英、俄、西等40多种语言，特别在中英双语上表现优异。模型使用8K长度的训练样本，并通过精细化的数据采样比例和动态数据切换策略，保证了模型的高质量和多样性。此外，模型还针对MoE架构进行了定制优化，提升了计算效率和整体吞吐量。

AI编程智能体语言，实现LLM与IDE之间的通信以自动化编程。

the Shire是一种AI编程智能体语言，旨在实现大型语言模型（LLM）与集成开发环境（IDE）之间的通信，以支持自动化编程。它起源于AutoDev项目，旨在为开发者提供一个AI驱动的IDE，包括DevIns，Shire的前身。Shire通过提供定制化的AI代理，使用户能够构建符合个人需求的AI驱动开发环境。

免费且快速的提示链生成器

PromptChainer 是一个旨在提高大型语言模型输出质量的工具，通过自动化提示链的生成，帮助用户将复杂任务分解成可管理的小步骤，从而获得更精确和高质量的结果。它特别适合需要多步骤和/或大量上下文和知识的任务。

使大型语言模型在长文本问答中生成细粒度引用

LongCite是一个开源的模型，它通过训练大型语言模型（LLMs）来实现在长文本问答场景中生成准确的回答和精确的句级引用。该技术的重要性在于它能够提高问答系统的准确性和可信度，使用户能够验证输出信息的来源。LongCite支持高达128K的上下文长度，并且提供了两个模型：LongCite-glm4-9b和LongCite-llama3.1-8b，分别基于GLM-4-9B和Meta-Llama-3.1-8B进行训练。

利用大型语言模型增量构建知识图谱

iText2KG是一个Python包，旨在利用大型语言模型从文本文档中提取实体和关系，增量构建一致的知识图谱。它具备零样本能力，允许在没有特定训练的情况下跨不同领域进行知识提取。该包包括文档蒸馏、实体提取和关系提取模块，确保实体和关系得到解决和唯一性。它通过Neo4j提供知识图谱的可视化表示，支持交互式探索和分析结构化数据。

世界顶尖的开源大型语言模型

Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。

高效开源的大型语言模型

OLMoE-1B-7B 是一个具有1亿活跃参数和7亿总参数的专家混合型大型语言模型（LLM），于2024年9月发布。该模型在成本相似的模型中表现卓越，与更大的模型如Llama2-13B竞争。OLMoE完全开源，支持多种功能，包括文本生成、模型训练和部署等。

基于大型语言模型的高性能MacOS聊天应用

ChatMLX是一款现代、开源、高性能的MacOS聊天应用程序，基于大型语言模型构建。它利用MLX的强大性能和苹果硅芯片，支持多种模型，为用户提供丰富的对话选择。ChatMLX在本地运行大型语言模型，以确保用户隐私和安全。

35亿参数的高性能生成模型

C4AI Command R 08-2024是由Cohere和Cohere For AI开发的35亿参数大型语言模型，专为推理、总结和问答等多种用例优化。该模型支持23种语言的训练，并在10种语言中进行了评估，具有高性能的RAG（检索增强生成）能力。它通过监督式微调和偏好训练，以符合人类对有用性和安全性的偏好。此外，该模型还具备对话工具使用能力，能够通过特定的提示模板生成基于工具的响应。

最新多模态检查点，提升语音理解能力。

Llama3-s v0.2 是 Homebrew Computer Company 开发的多模态检查点，专注于提升语音理解能力。该模型通过早期融合语义标记的方式，利用社区反馈进行改进，以简化模型结构，提高压缩效率，并实现一致的语音特征提取。Llama3-s v0.2 在多个语音理解基准测试中表现稳定，并提供了实时演示，允许用户亲自体验其功能。尽管模型仍在早期开发阶段，存在一些限制，如对音频压缩敏感、无法处理超过10秒的音频等，但团队计划在未来更新中解决这些问题。

多模态大型语言模型，理解长图像序列。

mPLUG-Owl3是一个多模态大型语言模型，专注于长图像序列的理解。它能够从检索系统中学习知识，与用户进行图文交替对话，并观看长视频，记住其细节。模型的源代码和权重已在HuggingFace上发布，适用于视觉问答、多模态基准测试和视频基准测试等场景。

基于大型语言模型的语音识别技术。

Seed-ASR是由字节跳动公司开发的基于大型语言模型(Large Language Model, LLM)的语音识别模型。它通过将连续的语音表示和上下文信息输入到LLM中，利用LLM的能力，在大规模训练和上下文感知能力的引导下，显著提高了在包括多个领域、口音/方言和语言的综合评估集上的表现。与最近发布的大型ASR模型相比，Seed-ASR在中英文公共测试集上实现了10%-40%的词错误率降低，进一步证明了其强大的性能。

轻量级Python库，用于使用大型语言模型进行网站抓取。

Parsera是一个轻量级的Python库，专门设计用于与大型语言模型（LLMs）结合，以简化网站数据抓取的过程。它通过使用最少的令牌来提高速度并降低成本，使得数据抓取变得更加高效和经济。Parsera支持多种聊天模型，并且可以自定义使用不同的模型，如OpenAI或Azure。

一个正在训练中的开源语言模型，具备“听力”能力。

llama3-s是一个开放的、正在进行中的研究实验，旨在将基于文本的大型语言模型(LLM)扩展到具有原生“听力”能力。该项目使用Meta的Chameleon论文启发的技术，专注于令牌传递性，将声音令牌扩展到LLM的词汇表中，未来可能扩展到各种输入类型。作为一个开源科学实验，代码库和数据集都是公开的。

开源AI搜索引擎框架，性能媲美Perplexity.ai Pro。

MindSearch是一个基于大型语言模型（LLM）的多智能体网络搜索引擎框架，具有与Perplexity.ai Pro相似的性能。用户可以轻松部署自己的搜索引擎，支持闭源大型语言模型（如GPT、Claude）或开源大型语言模型（如InternLM2.5-7b-chat）。它具备以下特点：能够解决生活中的任何问题，利用网络知识提供深入和广泛的知识库答案；展示详细的解决方案路径，提高最终响应的可信度和可用性；提供优化的UI体验，包括React、Gradio、Streamlit和Terminal等多种接口；动态构建图谱，将用户查询分解为图谱中的原子子问题，并根据WebSearcher的搜索结果逐步扩展图谱。

安全内容审核模型

ShieldGemma是由Google开发的一系列基于Gemma 2构建的安全内容审核模型，专注于四个危害类别（儿童不宜内容、危险内容、仇恨和骚扰）。它们是文本到文本的解码器仅大型语言模型，仅包含英文版本，具有开放权重，包括2B、9B和27B参数大小的模型。这些模型旨在作为负责任的生成AI工具包的一部分，提高AI应用的安全性。

最简单的开源实现

nanoPerplexityAI是一个开源的实现，它是一个大型语言模型(LLM)服务，引用Google的信息。没有复杂的GUI或LLM代理，只有100行Python代码。

高质量、类人同声传译系统

CLASI是一个由字节跳动研究团队开发的高质量、类人同声传译系统。它通过新颖的数据驱动读写策略平衡翻译质量和延迟，采用多模态检索模块来增强特定领域术语的翻译，利用大型语言模型（LLMs）生成容错翻译，考虑输入音频、历史上下文和检索信息。在真实世界场景中，CLASI在中英和英中翻译方向上分别达到了81.3%和78.0%的有效信息比例（VIP），远超其他系统。

多语言大型语言模型，优化对话场景。

Meta Llama 3.1是一系列多语言的大型预训练和指令调整的生成模型，包含8B、70B和405B大小的版本。这些模型专为多语言对话用例而优化，并在常见行业基准测试中表现优于许多开源和闭源聊天模型。模型使用优化的transformer架构，并通过监督式微调(SFT)和强化学习与人类反馈(RLHF)进行调整，以符合人类对有用性和安全性的偏好。

多语言对话生成模型

Meta Llama 3.1系列模型是一套预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B三种规模的模型，专为多语言对话使用案例优化，性能优于许多开源和闭源聊天模型。

70亿参数的大型多语言对话生成模型

Meta Llama 3.1是Meta公司推出的一种大型语言模型，拥有70亿参数，支持8种语言的文本生成和对话。该模型使用优化的Transformer架构，并通过监督微调(SFT)和人类反馈强化学习(RLHF)进行调优，以符合人类对有用性和安全性的偏好。它旨在为商业和研究用途提供支持，特别是在多语言对话场景下表现出色。

先进的大型语言模型，具备推理和编程能力。

Mistral-Large-Instruct-2407是一个拥有123B参数的先进大型语言模型(LLM)，具备最新的推理、知识和编程能力。它支持多语言，包括中文、英语、法语等十种语言，并且在80多种编程语言上受过训练，如Python、Java等。此外，它还具备代理中心能力和先进的数学及推理能力。

大型语言模型，支持多种参数规模

Meta Llama 3 是 Meta 推出的最新大型语言模型，旨在为个人、创作者、研究人员和各类企业解锁大型语言模型的能力。该模型包含从8B到70B参数的不同规模版本，支持预训练和指令调优。模型通过 GitHub 仓库提供，用户可以通过下载模型权重和分词器进行本地推理。Meta Llama 3 的发布标志着大型语言模型技术的进一步普及和应用，具有广泛的研究和商业潜力。

8B参数的大型多语言生成模型

Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B大小的版本，支持8种语言，专为多语言对话用例优化，并在行业基准测试中表现优异。Llama 3.1模型采用自回归语言模型，使用优化的Transformer架构，并通过监督式微调（SFT）和强化学习结合人类反馈（RLHF）来提高模型的有用性和安全性。

70亿参数的大型多语言文本生成模型

Meta Llama 3.1是Meta公司推出的大型语言模型，拥有70亿个参数，支持8种语言的文本生成。该模型采用优化的Transformer架构，并通过监督式微调和人类反馈强化学习进一步优化，以符合人类对帮助性和安全性的偏好。模型在多语言对话使用案例中表现优异，超越了许多现有的开源和封闭聊天模型。