产品库

AI对编程的辅助，提升代码效率。

aider 是一款集成在终端的AI配对编程工具，它允许开发者与大型语言模型(LLMs)进行配对编程，以编辑本地Git仓库中的代码。aider 与 GPT-4o 和 Claude 3 Opus 等模型配合使用效果最佳，并且可以连接到几乎所有的LLM。它通过自动提交代码变更，并使用合理的提交信息来帮助开发者提高编程效率。aider 支持多种流行编程语言，包括 Python、JavaScript、TypeScript 等，并且能够处理大型代码库中的协调变更。

一款支持80+编程语言的AI代码生成模型

Codestral-22B-v0.1是由Mistral AI Team开发的大型语言模型，它经过了80多种编程语言的训练，包括Python、Java、C、C++、JavaScript和Bash等。该模型能够根据指令生成代码，或对代码片段进行解释、重构等。它还支持Fill in the Middle (FIM)功能，用于预测代码中的中间部分，特别适合软件开发工具的插件使用，如VS Code。该模型目前没有内容审查机制，但开发团队正在寻求社区合作，以实现在需要内容审查的环境中部署。

强大的多模态LLM，商业解决方案

Reka Core是一个GPT-4级别的多模态大型语言模型（LLM），具备图像、视频和音频的强大上下文理解能力。它是目前市场上仅有的两个商用综合多模态解决方案之一。Core在多模态理解、推理能力、编码和Agent工作流程、多语言支持以及部署灵活性方面表现出色。

AI辅助量子计算

Quantum Copilot是一个AI辅助量子计算工具，帮助量子计算爱好者和专业人士编写量子计算程序。它可以用简单的语言编写量子算法，绘制量子电路，将量子代码转换为各种编程语言和库之间的格式，并在量子模拟器或实际的量子硬件上运行量子程序。Quantum Copilot由最新的人工智能和大型语言模型驱动，能够理解复杂的问题并提供准确和有用的答案。

先进的大型语言模型，用于编程

Code Llama 是一款先进的大型语言模型，可以通过文本提示生成代码。它是当前公开可用的语言模型中在编程任务上达到最佳性能的模型之一。Code Llama 可以帮助开发人员提高工作效率，降低编码门槛，并作为一个教育工具帮助编程学习者编写更健壮、更好文档化的软件。Code Llama 提供了多个版本，包括基础版、针对 Python 的专用版和针对自然语言指令的定制版。它支持多种流行的编程语言，如 Python、C++、Java 等。Code Llama 免费供研究和商业使用。

RAG-based LLM agents的Elo排名工具

RAGElo是一个工具集，使用Elo评分系统帮助选择最佳的基于检索增强生成（RAG）的大型语言模型（LLM）代理。随着生成性LLM在生产中的原型设计和整合变得更加容易，评估仍然是解决方案中最具有挑战性的部分。RAGElo通过比较不同RAG管道和提示对多个问题的答案，计算不同设置的排名，提供了一个良好的概览，了解哪些设置有效，哪些无效。

利用知识图谱和文档网络增强语言模型性能

Knowledge Graph RAG 是一个开源的Python库，它通过创建知识图谱和文档网络来增强大型语言模型（LLM）的性能。这个库允许用户通过图谱结构来搜索和关联信息，从而为语言模型提供更丰富的上下文。它主要应用于自然语言处理领域，尤其是在文档检索和信息抽取任务中。

你的私人AI聊天工具，运行在浏览器中。

Chatty是一个利用WebGPU技术在浏览器中本地且私密地运行大型语言模型(LLMs)的私人AI聊天工具。它提供了丰富的浏览器内AI体验，包括本地数据处理、离线使用、聊天历史管理、支持开源模型、响应式设计、直观UI、Markdown和代码高亮显示、文件聊天、自定义内存支持、导出聊天记录、语音输入支持、重新生成响应以及明暗模式切换等功能。

构建一个会讲故事的人工智能大型语言模型。

LLM101n是一个开源课程，旨在教授如何从头开始构建一个能讲故事的人工智能大型语言模型（LLM）。课程内容涵盖了从基础到高级的多个方面，包括语言模型、机器学习、深度学习框架等，适合希望深入理解AI和LLM的编程人员和研究人员。

免费开源的浏览器侧边栏插件，集成AI功能

BrainyAI是一个完全免费的Chrome浏览器扩展，用户只需登录一次即可使用各种AI网站。通过便捷的侧边栏，BrainyAI提供AI聊天聚合、AI搜索、AI阅读和增强的AI网页浏览等功能。支持多种大型语言模型，如Gpt3.5、Gpt4等，并且注重用户隐私，所有聊天历史、设置和登录数据都安全地存储在本地设备上。

使用大型语言模型编辑大型代码库的工具。

Moatless Tools 是一个业余项目，作者在这里尝试一些关于如何使用大型语言模型(LLMs)来编辑大型现有代码库的想法。项目认为，构建好工具以插入正确的上下文到提示中并处理响应，比依赖代理推理解决方案更为关键。

52B参数的开源多语言大型语言模型

Tele-FLM（亦称FLM-2）是一个52亿参数的开源多语言大型语言模型，具有稳定高效的预训练范式和增强的事实判断能力。基于解码器仅变换器架构，已在大约2T的token上进行训练。Tele-FLM在同等规模上展现出优越的性能，有时甚至超越了更大的模型。除了分享模型权重外，我们还提供了核心设计、工程实践和训练细节，期待它们对学术界和工业界社区都有所裨益。

探索大型语言模型的偏好和价值观对齐。

prism-alignment 是一个由 HannahRoseKirk 创建的数据集，专注于研究大型语言模型（LLMs）的偏好和价值观对齐问题。数据集通过调查问卷和与语言模型的多轮对话，收集了来自不同国家和文化背景的参与者对模型回答的评分和反馈。这些数据对于理解和改进人工智能的价值观对齐至关重要。

无代码LLM平台，用于结构化非结构化文档。

Unstract是一个无代码的LLM（大型语言模型）平台，它允许用户通过简单的无代码方法启动APIs和ETL管道来处理非结构化文档。它支持从多种云文件/对象存储系统中读取复杂文档，并将结构化数据写入流行的数据仓库和数据库。Unstract利用大型语言模型的能力，超越了传统的RPA（机器人流程自动化），实现了机器到机器的自动化。

提升市场搜索、推荐和原生广告的排名

Promoted是一个专注于市场搜索、推荐和原生广告排名的解决方案，通过先进的机器学习技术和大型语言模型搜索相关性AI技术，显著提升转化率和广告质量。它为市场平台提供了统一的搜索、推荐和广告服务，帮助企业实现更好的匹配和更高的收益。

19亿参数规模的角色扮演模型，支持few shots角色定制。

Index-1.9B-Character是由Index团队自主研发的大型语言模型，专注于角色扮演领域，拥有19亿参数规模。该模型支持用户通过上传角色对话语料实现快速的角色定制，具备较高的角色一致性、对话能力和角色扮演吸引力。在CharacterEval权威benchmark评估中，整体均分排名第九，表现优于同量级模型。

多令牌预测模型，提升语言模型的效率与性能

multi-token prediction模型是Facebook基于大型语言模型研究开发的技术，旨在通过预测多个未来令牌来提高模型的效率和性能。该技术允许模型在单次前向传播中生成多个令牌，从而加快生成速度并可能提高模型的准确性。该模型在非商业研究用途下免费提供，但使用时需遵守Meta的隐私政策和相关法律法规。

大型视频-语言模型，提供视觉问答和视频字幕生成。

VideoLLaMA2-7B是由DAMO-NLP-SG团队开发的多模态大型语言模型，专注于视频内容的理解和生成。该模型在视觉问答和视频字幕生成方面具有显著的性能，能够处理复杂的视频内容，并生成准确、自然的语言描述。它在空间-时间建模和音频理解方面进行了优化，为视频内容的智能分析和处理提供了强大的支持。

提升大型语言模型性能的混合代理技术

MoA（Mixture of Agents）是一种新颖的方法，它利用多个大型语言模型（LLMs）的集体优势来提升性能，实现了最先进的结果。MoA采用分层架构，每层包含多个LLM代理，显著超越了GPT-4 Omni在AlpacaEval 2.0上的57.5%得分，达到了65.1%的得分，使用的是仅开源模型。

多维奖励模型，助力构建自定义大型语言模型。

Nemotron-4-340B-Reward是由NVIDIA开发的多维奖励模型，用于合成数据生成管道，帮助研究人员和开发者构建自己的大型语言模型（LLMs）。该模型由Nemotron-4-340B-Base模型和一个线性层组成，能够将响应末尾的标记转换为五个标量值，对应于HelpSteer2属性。它支持最多4096个标记的上下文长度，并能够对每个助手轮次的五个属性进行评分。

NVIDIA的高级语言模型，优化于英文对话场景。

Nemotron-4-340B-Instruct是由NVIDIA开发的大型语言模型(LLM)，专为英文单轮和多轮对话场景优化。该模型支持4096个token的上下文长度，经过监督式微调(SFT)、直接偏好优化(DPO)和奖励感知偏好优化(RPO)等额外的对齐步骤。模型在约20K人工标注数据的基础上，通过合成数据生成管道合成了超过98%的用于监督微调和偏好微调的数据。这使得模型在人类对话偏好、数学推理、编码和指令遵循方面表现良好，并且能够为多种用例生成高质量的合成数据。

基于大型语言模型的多智能体应用开发框架

agentUniverse 是一个基于大型语言模型的多智能体应用开发框架，提供了构建单一智能体和多智能体协作机制的所有必需组件。通过模式工厂，允许开发者构建和自定义多智能体协作模式，轻松构建多智能体应用，并分享不同技术与业务领域的模式实践。

轻量级文本分类工具，使用大型语言模型嵌入。

fastc是一个基于大型语言模型嵌入的简单且轻量级的文本分类工具。它专注于CPU执行，使用高效的模型如deepset/tinyroberta-6l-768d生成嵌入。通过余弦相似度分类代替微调，实现文本分类。它还可以在不增加额外开销的情况下，使用相同的模型运行多个分类器。

长视频理解基准测试

LVBench是一个专门设计用于长视频理解的基准测试，旨在推动多模态大型语言模型在理解数小时长视频方面的能力，这对于长期决策制定、深入电影评论和讨论、现场体育解说等实际应用至关重要。

一个交互式绘图应用，用于数学方程的绘制和计算。

AI Math Notes 是一个开源的交互式绘图应用程序，允许用户在画布上绘制数学方程。应用程序利用多模态大型语言模型（LLM）计算并显示结果。该应用程序使用Python开发，利用Tkinter库创建图形用户界面，使用PIL进行图像处理。灵感来源于Apple在2024年全球开发者大会（WWDC）上展示的'Math Notes'。

多模态语言模型的视觉推理工具

Visual Sketchpad 是一种为多模态大型语言模型（LLMs）提供视觉草图板和绘图工具的框架。它允许模型在进行规划和推理时，根据自己绘制的视觉工件进行操作。与以往使用文本作为推理步骤的方法不同，Visual Sketchpad 使模型能够使用线条、框、标记等更接近人类绘图方式的元素进行绘图，从而更好地促进推理。此外，它还可以在绘图过程中使用专家视觉模型，例如使用目标检测模型绘制边界框，或使用分割模型绘制掩码，以进一步提高视觉感知和推理能力。

多轮交互式图像生成技术

AutoStudio是一个基于大型语言模型的多轮交互式图像生成框架，它通过三个代理与一个基于稳定扩散的代理来生成高质量图像。该技术在多主题一致性方面取得了显著进步，通过并行UNet结构和主题初始化生成方法，提高了图像生成的质量和一致性。

用于训练大型语言模型的开源合成数据生成管道。

Nemotron-4 340B是NVIDIA发布的一系列开放模型，专为生成合成数据以训练大型语言模型（LLMs）而设计。这些模型经过优化，可以与NVIDIA NeMo和NVIDIA TensorRT-LLM配合使用，以提高训练和推理的效率。Nemotron-4 340B包括基础、指令和奖励模型，形成一个生成合成数据的管道，用于训练和完善LLMs。这些模型在Hugging Face上提供下载，并很快将在ai.nvidia.com上提供，作为NVIDIA NIM微服务的一部分。

实时表情生成人类模型

PROTEUS是Apparate Labs推出的一款下一代基础模型，用于实时表情生成人类。它采用先进的transformer架构的潜在扩散模型，创新的潜在空间设计实现了实时效率，并能通过进一步的架构和算法改进，达到每秒100帧以上视频流。PROTEUS旨在提供一种通过语音控制的视觉体现，为人工对话实体提供直观的接口，并且与多种大型语言模型兼容，可定制用于多种不同应用。

使用反思工作流的代理翻译模型

Translation Agent 是一个使用反思工作流的机器翻译演示项目。它由 Andrew Ng 以及合作者开发，主要利用大型语言模型(LLM)进行文本翻译，并反思翻译结果以提出改进建议。该模型的可定制性高，可以调整翻译风格、处理习语和专有名词，以及针对特定地区或方言进行优化。尽管目前该软件还不够成熟，但已经显示出与传统机器翻译系统相比有时更具竞争力的潜力。