产品库

一个适合学习、使用、自主扩展的RAG系统。

Easy-RAG是一个检索增强生成(RAG)系统，它不仅适合学习者了解和掌握RAG技术，同时也便于开发者使用和进行自主扩展。该系统通过集成知识图谱提取解析工具、rerank重新排序机制以及faiss向量数据库等技术，提高了检索效率和生成质量。

创建您自己的高级搜索引擎，结合AI技术。

Inquir是一个强大的工具，用于创建个性化的搜索引擎，根据您的数据量身定制。它解锁了诸如自定义搜索解决方案、数据组合、AI驱动的检索增强生成(RAG)系统以及上下文感知搜索功能等强大功能。通过启动您的引擎或安排演示，迈向改善用户体验的第一步。

轻量级、快速的RAG文本分块库

Chonkie是一个为检索增强型生成（RAG）应用设计的文本分块库，它轻量级、快速，并且易于使用。该库提供了多种文本分块方法，支持多种分词器，并且具有高性能。Chonkie的主要优点包括丰富的功能、易用性、快速处理速度、广泛的支持和轻量级的设计。它适用于需要高效处理文本数据的开发者和研究人员，特别是在自然语言处理和机器学习领域。Chonkie是开源的，遵循MIT许可证，可以免费使用。

从文本中提取知识图谱三元组的管道工具

Graphusion是一个用于从文本中提取知识图谱三元组的管道工具。它通过一系列步骤，包括概念提取、候选三元组提取和三元组融合，来构建知识图谱。这个工具的重要性在于它能够帮助研究人员和开发者自动化地从大量文本数据中提取结构化信息，进而支持知识管理和数据科学项目。Graphusion的主要优点包括其自动化处理能力、对不同数据集的适应性以及灵活的配置选项。产品背景信息显示，Graphusion是由tdurieux开发的，可以在GitHub上找到相关代码和文档。目前，该工具是免费的，但具体的定价策略可能会根据开发者的更新和维护情况而变化。

AI优先的基础设施API，提供搜索、推荐和RAG服务

Trieve是一个AI优先的基础设施API，结合了语言模型和工具，用于微调排名和相关性，提供一站式的搜索、推荐、RAG和分析解决方案。它能够自动持续改进，基于数十个反馈信号，确保相关性。Trieve支持语义向量搜索、BM25和SPlade全文搜索，以及混合搜索，结合全文搜索和语义向量搜索。此外，它还提供了商品推销和相关性调整功能，帮助用户通过API或无代码仪表板调整搜索结果以实现KPI。Trieve建立在最佳基础之上，使用开源嵌入模型和LLMs，运行在自己的服务器上，确保数据安全。

A tool for integrating private data with AI large language models.

Dabarqus是一个Retrieval Augmented Generation（RAG）框架，它允许用户将私有数据实时提供给大型语言模型（LLM）。这个工具通过提供REST API、SDKs和CLI工具，使得用户能够轻松地将各种数据源（如PDF、电子邮件和原始数据）存储到语义索引中，称为“记忆库”。Dabarqus支持LLM风格的提示，使用户能够以简单的方式与记忆库进行交互，而无需构建特殊的查询或学习新的查询语言。此外，Dabarqus还支持多语义索引（记忆库）的创建和使用，使得数据可以根据主题、类别或其他分组方式进行组织。Dabarqus的产品背景信息显示，它旨在简化私有数据与AI语言模型的集成过程，提高数据检索的效率和准确性。

快速、准确的生产级RAG管道

Vectorize是一个专注于将非结构化数据转化为优化的向量搜索索引的平台，专为检索增强生成(RAG)而设计。它通过连接内容管理系统、文件系统、CRM、协作工具等多种数据源，帮助用户创建提高生产力的辅助系统和创新的客户体验。Vectorize的主要优点包括易于使用、快速部署和高精度的搜索结果，适合需要处理大量数据并希望快速实现AI应用的企业。

基于知识增强的生成框架，用于构建专业的知识服务

KAG（Knowledge Augmented Generation）是一个专业的领域知识服务框架，旨在通过知识图谱和向量检索的优势，双向增强大型语言模型和知识图谱，解决RAG（Retrieval Augmentation Generation）技术在向量相似性与知识推理相关性之间的大差距、对知识逻辑不敏感等问题。KAG在多跳问答任务上的表现显著优于NaiveRAG、HippoRAG等方法，例如在hotpotQA上的F1分数相对提高了19.6%，在2wiki上提高了33.5%。KAG已成功应用于蚂蚁集团的两个专业知识问答任务中，包括政务问答和健康问答，与RAG方法相比，专业性得到了显著提升。

开源工具，简化从非结构化文档中提取和探索结构化数据。

Knowledge Table 是一个开源工具包，旨在简化从非结构化文档中提取和探索结构化数据的过程。它通过自然语言查询界面，使用户能够创建结构化的知识表示，如表格和图表。该工具包具有可定制的提取规则、精细调整的格式化选项，并通过UI显示的数据溯源，适应多种用例。它的目标是为业务用户提供熟悉的电子表格界面，同时为开发者提供灵活且高度可配置的后端，确保与现有RAG工作流程的无缝集成。

一个可以本地与多个PDF文件进行对话的聊天机器人。

rag-chatbot是一个基于人工智能技术的聊天机器人模型，它能够让用户通过自然语言与多个PDF文件进行交互。该模型使用了最新的机器学习技术，如Huggingface和Ollama，来实现对PDF内容的理解和回答生成。它的重要性在于能够处理大量文档信息，为用户提供快速、准确的问答服务。产品背景信息表明，这是一个开源项目，旨在通过技术创新提升文档处理的效率。目前该项目是免费的，主要面向开发者和技术爱好者。

构建LLM应用的框架

LlamaIndex.TS是一个为构建基于大型语言模型（LLM）的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面，用于连接人类和推断出的数据，使得开发者无需成为机器学习或自然语言处理的专家，也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。

终端中的个人AI助手，具备本地工具。

gptme是一个运行在终端的个人AI助手，它装备了本地工具，可以编写代码、使用终端、浏览网页、视觉识别等。它是一个不受软件、互联网访问、超时或隐私问题限制的ChatGPT“代码解释器”的本地替代方案。

基于图的科学发现与知识提取

GraphReasoning是一个利用生成式人工智能技术将1000篇科学论文转化为知识图谱的项目。通过结构化分析，计算节点度、识别社区和连接性，评估聚类系数和关键节点的介数中心性，揭示了迷人的知识架构。该图谱具有无标度性质，高度互联，可用于图推理，利用传递性和同构性质揭示前所未有的跨学科关系，用于回答问题、识别知识空白、提出前所未有的材料设计和预测材料行为。

无需编码即可构建生产就绪的LLM应用程序

Epsilla是一个无需编码的RAG即服务(RAG-as-a-Service)平台，它允许用户基于私有或公共数据构建生产就绪的大型语言模型(Large Language Model, LLM)应用程序。该平台提供了一站式服务，包括数据管理、RAG工具、CI/CD风格的评估以及企业级安全措施，旨在降低总拥有成本(TCO)，提高查询速度和吞吐量，同时确保信息的时效性和安全性。

利用本地Llama模型构建知识图谱，探索相关问题和答案。

Local Knowledge Graph是一个基于Flask的Web应用程序，它使用本地Llama语言模型来处理用户查询，生成逐步推理，并以交互式知识图谱的形式可视化思考过程。它还能根据语义相似性找到并显示相关问题和答案。该应用程序的主要优点包括实时显示推理过程、动态知识图谱可视化、计算并显示最强推理路径、以及基于语义相似性的相关问答。

自动化科学研究的多智能体图推理系统。

SciAgentsDiscovery 是一个利用多智能体系统和大规模本体知识图谱，自动化科学研究的系统。它通过整合大型语言模型、数据检索工具和多智能体学习系统，能够自主生成和完善研究假设，揭示潜在的机制、设计原则和意外材料属性。该系统在生物启发材料领域展示了其跨学科关系的发现能力，超越了传统人类驱动的研究方法。

用于角色扮演、检索增强生成和功能调用的小型语言模型

Nemotron-Mini-4B-Instruct 是 NVIDIA 开发的一款小型语言模型，通过蒸馏、剪枝和量化优化，以提高速度和便于在设备上部署。它是从 Nemotron-4 15B 通过 NVIDIA 的大型语言模型压缩技术剪枝和蒸馏得到的 nvidia/Minitron-4B-Base 的微调版本。此指令模型针对角色扮演、检索增强问答（RAG QA）和功能调用进行了优化，支持 4096 个令牌的上下文长度，已准备好用于商业用途。

云端AI开发平台，助力高效创新。

SambaNova是一个云端AI开发平台，提供了一系列工具和资源，旨在帮助开发者和企业快速构建、测试和部署AI应用。平台通过提供高性能的计算资源、丰富的API接口和易于使用的AI Starter Kits，使得AI开发变得更加高效和便捷。

利用AI自动化开发流程，提升开发效率。

Fine AI Coding Workflows是一个AI驱动的软件开发自动化平台，它通过定制化的AI工作流程来加速开发周期。该平台基于Atlas知识图谱，整合了团队使用的工具，为AI代理提供丰富的上下文信息，以实现更精确的任务执行。它支持与多种开发工具集成，比如OpenAI、Anthropic、Sentry、GitHub等，旨在提高开发效率、代码质量和问题解决速度。

由知识图谱引擎驱动的创新Agent框架

muAgent是一个创新的Agent框架，由知识图谱引擎驱动，支持多Agent编排和协同技术。它利用LLM+EKG（Eventic Knowledge Graph 行业知识承载）技术，结合FunctionCall、CodeInterpreter等，通过画布式拖拽和轻文字编写，实现复杂SOP流程的自动化。muAgent兼容市面上各类Agent框架，具备复杂推理、在线协同、人工交互、知识即用等核心功能。该框架已在蚂蚁集团多个复杂DevOps场景中得到验证。

利用大型语言模型增量构建知识图谱

iText2KG是一个Python包，旨在利用大型语言模型从文本文档中提取实体和关系，增量构建一致的知识图谱。它具备零样本能力，允许在没有特定训练的情况下跨不同领域进行知识提取。该包包括文档蒸馏、实体提取和关系提取模块，确保实体和关系得到解决和唯一性。它通过Neo4j提供知识图谱的可视化表示，支持交互式探索和分析结构化数据。

35亿参数的高性能生成模型

C4AI Command R 08-2024是由Cohere和Cohere For AI开发的35亿参数大型语言模型，专为推理、总结和问答等多种用例优化。该模型支持23种语言的训练，并在10种语言中进行了评估，具有高性能的RAG（检索增强生成）能力。它通过监督式微调和偏好训练，以符合人类对有用性和安全性的偏好。此外，该模型还具备对话工具使用能力，能够通过特定的提示模板生成基于工具的响应。

104B参数的多语种高级对话生成模型

C4AI Command R+ 08-2024是一个拥有104B参数的大规模研究发布模型，具备高度先进的能力，包括检索增强生成（RAG）和工具使用，以自动化复杂任务。该模型支持23种语言的训练，并在10种语言中进行评估。它优化了多种用例，包括推理、总结和问答。

开源的RAG基础聊天工具，与文档对话。

kotaemon是一个开源的、基于RAG（Retrieval-Augmented Generation）模型的工具，旨在通过聊天界面与用户文档进行交互。它支持多种语言模型API提供商和本地语言模型，提供了一个干净、可定制的用户界面，适用于终端用户进行文档问答以及开发者构建自己的RAG问答流程。

开发者友好的RAG即服务。

Ragie是一款面向开发者的RAG（Retrieval-Augmented Generation）即服务产品，它通过易于使用的API和SDK，帮助开发者快速启动并实现生成式AI应用。Ragie具备高级功能，如LLM重排、摘要索引、实体提取等，确保提供精确可靠的信息。它还支持与Google Drive、Notion等流行数据源的直接连接，并支持自动同步，保持数据最新。Ragie由Craft Ventures领导，提供简单明了的定价策略，无需设置费用或隐藏成本。

AI驱动的生成式UI工具

v0是由Vercel推出的基于AI的生成式用户界面系统，它可以根据简单的文本提示生成适用于项目的React代码。v0使用AI模型生成代码，基于shadcn/ui和Tailwind CSS，提供了易于复制和粘贴的代码。v0不使用任何Vercel客户数据或代码进行训练，保证了数据的安全性和隐私性。

AI辅助编程的强有力界面

Zed AI是一个集成到编程工作流中的插件，通过与大型语言模型（LLMs）的直接对话，增强了代码生成、转换和分析的能力。它提供了多种交互方式，包括助手面板、斜杠命令、内联助手和提示库，以提高开发效率。Zed AI还支持多种LLMs提供商，允许开发者根据需要选择不同的模型来提高开发效能。此外，Zed AI提供了一个全新的托管服务，第一个月免费使用，并配备了Anthropic API，专为快速转换现有文本而设计。

革命性的检索增强生成系统技术集合。

RAG_Techniques 是一个专注于检索增强生成(Retrieval-Augmented Generation, RAG)系统的技术集合，旨在提升系统的准确性、效率和上下文丰富性。它提供了一个前沿技术的中心，通过社区贡献和协作环境，推动RAG技术的发展和创新。

基于知识图谱的智能问答系统。

Fact Finder 是一个开源的智能问答系统，它使用语言模型和知识图谱来生成自然语言回答和提供证据。该系统通过调用语言模型生成Cypher查询，查询知识图谱以获取答案，并使用另一个语言模型调用生成最终的自然语言回答。Fact Finder 的主要优点包括能够提供透明性，允许用户查看查询和证据，以及通过可视化子图提供直观的证据。

GGUF量化支持，优化ComfyUI原生模型性能

ComfyUI-GGUF是一个为ComfyUI原生模型提供GGUF量化支持的项目。它允许模型文件以GGUF格式存储，这种格式由llama.cpp推广。尽管常规的UNET模型（conv2d）不适用于量化，但像flux这样的transformer/DiT模型似乎受量化影响较小。这使得它们可以在低端GPU上以更低的每权重变量比特率进行运行。