产品库

构建知识图谱的Neo4j应用

llm-graph-builder是一个利用大型语言模型（如OpenAI、Gemini等）从非结构化数据（PDF、DOCS、TXT、YouTube视频、网页等）中提取节点、关系及其属性，并使用Langchain框架创建结构化知识图谱的应用程序。它支持从本地机器、GCS或S3存储桶或网络资源上传文件，选择LLM模型并生成知识图谱。

开源知识图谱构建模型，成本低廉

Triplex是一个创新的开源模型，能够将大量非结构化数据转换为结构化数据，其在知识图谱构建方面的表现超越了gpt-4o，且成本仅为其十分之一。它通过高效的将非结构化文本转换为知识图谱的构建基础——语义三元组，大幅降低了知识图谱的生成成本。

世界顶尖的开源大型语言模型

Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。

高效开源的大型语言模型

OLMoE-1B-7B 是一个具有1亿活跃参数和7亿总参数的专家混合型大型语言模型（LLM），于2024年9月发布。该模型在成本相似的模型中表现卓越，与更大的模型如Llama2-13B竞争。OLMoE完全开源，支持多种功能，包括文本生成、模型训练和部署等。

基于大型语言模型的高性能MacOS聊天应用

ChatMLX是一款现代、开源、高性能的MacOS聊天应用程序，基于大型语言模型构建。它利用MLX的强大性能和苹果硅芯片，支持多种模型，为用户提供丰富的对话选择。ChatMLX在本地运行大型语言模型，以确保用户隐私和安全。

35亿参数的高性能生成模型

C4AI Command R 08-2024是由Cohere和Cohere For AI开发的35亿参数大型语言模型，专为推理、总结和问答等多种用例优化。该模型支持23种语言的训练，并在10种语言中进行了评估，具有高性能的RAG（检索增强生成）能力。它通过监督式微调和偏好训练，以符合人类对有用性和安全性的偏好。此外，该模型还具备对话工具使用能力，能够通过特定的提示模板生成基于工具的响应。

多模态大型语言模型设计空间探索

EAGLE是一个面向视觉中心的高分辨率多模态大型语言模型（LLM）系列，通过混合视觉编码器和不同输入分辨率来加强多模态LLM的感知能力。该模型包含基于通道连接的'CLIP+X'融合，适用于具有不同架构（ViT/ConvNets）和知识（检测/分割/OCR/SSL）的视觉专家。EAGLE模型家族支持超过1K的输入分辨率，并在多模态LLM基准测试中取得了优异的成绩，特别是在对分辨率敏感的任务上，如光学字符识别和文档理解。

视频理解与推理的免训练大型语言模型。

SlowFast-LLaVA是一个无需训练的多模态大型语言模型，专为视频理解和推理设计。它无需在任何数据上进行微调，就能在多种视频问答任务和基准测试中达到与最先进视频大型语言模型相当甚至更好的性能。

多模态大型语言模型，理解长图像序列。

mPLUG-Owl3是一个多模态大型语言模型，专注于长图像序列的理解。它能够从检索系统中学习知识，与用户进行图文交替对话，并观看长视频，记住其细节。模型的源代码和权重已在HuggingFace上发布，适用于视觉问答、多模态基准测试和视频基准测试等场景。

基于大型语言模型的语音识别技术。

Seed-ASR是由字节跳动公司开发的基于大型语言模型(Large Language Model, LLM)的语音识别模型。它通过将连续的语音表示和上下文信息输入到LLM中，利用LLM的能力，在大规模训练和上下文感知能力的引导下，显著提高了在包括多个领域、口音/方言和语言的综合评估集上的表现。与最近发布的大型ASR模型相比，Seed-ASR在中英文公共测试集上实现了10%-40%的词错误率降低，进一步证明了其强大的性能。

基于知识图谱的智能问答系统。

Fact Finder 是一个开源的智能问答系统，它使用语言模型和知识图谱来生成自然语言回答和提供证据。该系统通过调用语言模型生成Cypher查询，查询知识图谱以获取答案，并使用另一个语言模型调用生成最终的自然语言回答。Fact Finder 的主要优点包括能够提供透明性，允许用户查看查询和证据，以及通过可视化子图提供直观的证据。

轻量级Python库，用于使用大型语言模型进行网站抓取。

Parsera是一个轻量级的Python库，专门设计用于与大型语言模型（LLMs）结合，以简化网站数据抓取的过程。它通过使用最少的令牌来提高速度并降低成本，使得数据抓取变得更加高效和经济。Parsera支持多种聊天模型，并且可以自定义使用不同的模型，如OpenAI或Azure。

一个适合学习、使用、自主扩展的RAG系统。

Easy-RAG是一个检索增强生成(RAG)系统，它不仅适合学习者了解和掌握RAG技术，同时也便于开发者使用和进行自主扩展。该系统通过集成知识图谱提取解析工具、rerank重新排序机制以及faiss向量数据库等技术，提高了检索效率和生成质量。

轻量级、高性能的深度PDF表格提取工具

gmft是一个用于将PDF中的表格转换为多种格式的工具包。它轻量级、模块化且性能优越。gmft依赖于微软的Table Transformers，这是众多替代方案中性能最好、最可靠的。gmft无需GPU即可运行，具有高吞吐量，并且安装简便，仅需一行代码即可完成安装。它使用PyPDFium2，因其高吞吐量和宽松的许可证而受到青睐。gmft使用的训练模型TATR在多样化的数据集PubTables-1M上训练，具有高可靠性。

开源记忆层，为自主智能体提供人类式记忆功能

Memary是一个开源的记忆层，专为自主智能体设计，通过模仿人类记忆的方式，提升智能体的推理和学习能力。它使用Neo4j图数据库存储知识，并结合了Llama Index和Perplexity模型来增强知识图谱的查询能力。Memary的主要优点包括自动生成记忆、记忆模块、系统改进和回溯记忆等功能，旨在以最小的开发者实现与现有智能体集成，并通过仪表盘提供记忆分析和系统改进的可视化数据。

开源AI搜索引擎框架，性能媲美Perplexity.ai Pro。

MindSearch是一个基于大型语言模型（LLM）的多智能体网络搜索引擎框架，具有与Perplexity.ai Pro相似的性能。用户可以轻松部署自己的搜索引擎，支持闭源大型语言模型（如GPT、Claude）或开源大型语言模型（如InternLM2.5-7b-chat）。它具备以下特点：能够解决生活中的任何问题，利用网络知识提供深入和广泛的知识库答案；展示详细的解决方案路径，提高最终响应的可信度和可用性；提供优化的UI体验，包括React、Gradio、Streamlit和Terminal等多种接口；动态构建图谱，将用户查询分解为图谱中的原子子问题，并根据WebSearcher的搜索结果逐步扩展图谱。

安全内容审核模型

ShieldGemma是由Google开发的一系列基于Gemma 2构建的安全内容审核模型，专注于四个危害类别（儿童不宜内容、危险内容、仇恨和骚扰）。它们是文本到文本的解码器仅大型语言模型，仅包含英文版本，具有开放权重，包括2B、9B和27B参数大小的模型。这些模型旨在作为负责任的生成AI工具包的一部分，提高AI应用的安全性。

最简单的开源实现

nanoPerplexityAI是一个开源的实现，它是一个大型语言模型(LLM)服务，引用Google的信息。没有复杂的GUI或LLM代理，只有100行Python代码。

将文本转换为知识图谱的Python工具。

knowledge_graph_maker是一个Python库，能够根据给定的本体论将任意文本转换为知识图谱。知识图谱是一种语义网络，代表现实世界实体之间的网络和它们之间的关系。该库通过图算法和中心性计算，帮助用户深入分析文本内容，实现概念之间的连接性分析，以及通过图检索增强生成（GRAG）技术，提升与文本的交流深度。

通过GPT等大型语言模型与你的文档对话

IncarnaMind是一个开源项目，旨在通过大型语言模型（LLMs）如GPT、Claude和本地开源LLMs，实现与个人文档（PDF、TXT）的交互对话。该项目利用滑动窗口分块机制和集成检索器，提高查询效率，增强LLMs的准确性。它支持多文档对话问答，突破了单文档限制，并兼容多种文件格式和LLM模型。

高质量、类人同声传译系统

CLASI是一个由字节跳动研究团队开发的高质量、类人同声传译系统。它通过新颖的数据驱动读写策略平衡翻译质量和延迟，采用多模态检索模块来增强特定领域术语的翻译，利用大型语言模型（LLMs）生成容错翻译，考虑输入音频、历史上下文和检索信息。在真实世界场景中，CLASI在中英和英中翻译方向上分别达到了81.3%和78.0%的有效信息比例（VIP），远超其他系统。

多语言大型语言模型，优化对话场景。

Meta Llama 3.1是一系列多语言的大型预训练和指令调整的生成模型，包含8B、70B和405B大小的版本。这些模型专为多语言对话用例而优化，并在常见行业基准测试中表现优于许多开源和闭源聊天模型。模型使用优化的transformer架构，并通过监督式微调(SFT)和强化学习与人类反馈(RLHF)进行调整，以符合人类对有用性和安全性的偏好。

多语言对话生成模型

Meta Llama 3.1系列模型是一套预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B三种规模的模型，专为多语言对话使用案例优化，性能优于许多开源和闭源聊天模型。

70亿参数的大型多语言对话生成模型

Meta Llama 3.1是Meta公司推出的一种大型语言模型，拥有70亿参数，支持8种语言的文本生成和对话。该模型使用优化的Transformer架构，并通过监督微调(SFT)和人类反馈强化学习(RLHF)进行调优，以符合人类对有用性和安全性的偏好。它旨在为商业和研究用途提供支持，特别是在多语言对话场景下表现出色。

先进的大型语言模型，具备推理和编程能力。

Mistral-Large-Instruct-2407是一个拥有123B参数的先进大型语言模型(LLM)，具备最新的推理、知识和编程能力。它支持多语言，包括中文、英语、法语等十种语言，并且在80多种编程语言上受过训练，如Python、Java等。此外，它还具备代理中心能力和先进的数学及推理能力。

大型语言模型，支持多种参数规模

Meta Llama 3 是 Meta 推出的最新大型语言模型，旨在为个人、创作者、研究人员和各类企业解锁大型语言模型的能力。该模型包含从8B到70B参数的不同规模版本，支持预训练和指令调优。模型通过 GitHub 仓库提供，用户可以通过下载模型权重和分词器进行本地推理。Meta Llama 3 的发布标志着大型语言模型技术的进一步普及和应用，具有广泛的研究和商业潜力。

8B参数的大型多语言生成模型

Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B大小的版本，支持8种语言，专为多语言对话用例优化，并在行业基准测试中表现优异。Llama 3.1模型采用自回归语言模型，使用优化的Transformer架构，并通过监督式微调（SFT）和强化学习结合人类反馈（RLHF）来提高模型的有用性和安全性。

70亿参数的大型多语言文本生成模型

Meta Llama 3.1是Meta公司推出的大型语言模型，拥有70亿个参数，支持8种语言的文本生成。该模型采用优化的Transformer架构，并通过监督式微调和人类反馈强化学习进一步优化，以符合人类对帮助性和安全性的偏好。模型在多语言对话使用案例中表现优异，超越了许多现有的开源和封闭聊天模型。

最前沿的开源AI模型，支持多语言和高级功能。

Llama 3.1是Meta AI推出的最新一代大型语言模型，具有128K的上下文长度扩展、支持八种语言，并首次开源了405B参数级别的前沿AI模型。该模型在通用知识、可控性、数学、工具使用和多语言翻译方面具有最先进的能力，能够与最好的闭源模型相媲美。Llama 3.1的发布，将为开发者提供解锁新工作流程的工具，例如合成数据生成和模型蒸馏。

深入研究大型语言模型的内部一致性和自我反馈

ICSFSurvey是一个关于大型语言模型内部一致性和自我反馈的调查研究。它提供了对LLMs自我评估和自我更新机制的统一视角，包括理论框架、系统分类、评估方法、未来研究方向等。