产品库

嵌入AI的影子平台

Humanloop是一个用于构建和监控以大语言模型为基础的生产级应用的协作平台。它提供了一套完整的工具集,可以帮助开发者更快速地将AI从原型开发到生产环境,同时保证系统的可靠性。主要功能包括:提示工程,可以迭代和版本化提示,提高命中率;模型管理,支持各种模型并进行跟踪;内容评估,收集反馈并进行定量分析;以及合作平台,让非技术人员也可以参与到AI应用开发中。典型应用场景有构建聊天机器人、自动化客户支持以及生成营销内容等。Humanloop已经受到了成千上万开发者的青睐,被多家知名企业所使用。

一个用于可视化和探索微软GraphRAG工具的网络工具。

GraphRAG Visualizer是一个基于网络的工具，旨在可视化和探索微软GraphRAG工具产生的数据。GraphRAG是微软开发的一种用于生成图结构数据的技术，GraphRAG Visualizer通过让用户上传parquet文件，无需额外软件或脚本即可轻松查看和分析数据。该工具的主要优点包括图形可视化、数据表格展示、搜索功能以及本地处理数据，确保数据安全和隐私。

一站式数据处理系统，为大型语言模型提供高质量数据。

Data-Juicer 是一个一站式的多模态数据处理系统，旨在为大型语言模型(LLMs)提供更高质量、更丰富、更易消化的数据。它提供了一个系统化和可复用的数据处理库，支持数据与模型的协同开发，通过沙盒实验室实现快速迭代，并提供基于数据和模型的反馈循环、可视化和多维度自动评估等功能，帮助用户更好地理解和改进他们的数据和模型。Data-Juicer 正在积极更新和维护，定期增强和添加更多功能、数据配方和数据集。

通过GPT等大型语言模型与你的文档对话

IncarnaMind是一个开源项目，旨在通过大型语言模型（LLMs）如GPT、Claude和本地开源LLMs，实现与个人文档（PDF、TXT）的交互对话。该项目利用滑动窗口分块机制和集成检索器，提高查询效率，增强LLMs的准确性。它支持多文档对话问答，突破了单文档限制，并兼容多种文件格式和LLM模型。

AI原生数据应用开发框架

DB-GPT是一个开源的AI原生数据应用开发框架，利用AWEL(Agentic Workflow Expression Language)和代理(agent)技术，简化了大型模型应用与数据的结合。它通过多模型管理、Text2SQL效果优化、RAG框架优化、多代理框架协作等技术能力，使企业和开发者能够以更少的代码构建定制化应用。DB-GPT在数据3.0时代，基于模型和数据库，为构建企业级报告分析和业务洞察提供了基础数据智能技术。

一个开放平台，用于日常使用的语言代理。

OpenAgents是一个开放平台，旨在使用户和开发者能够在日常生活中使用和托管语言代理。该平台已经实现了三种代理：数据分析的Data Agent、集成200+日常工具的Plugins Agent和自动网页浏览的Web Agent。OpenAgents通过优化的Web UI使普通用户能够与代理功能进行交互，同时为开发者和研究人员提供在本地设置上的无缝部署体验，为创新语言代理的构建和现实世界评估提供了基础。

基于ChatTTS模型的文本到语音转换项目

ChatTTS-Forge是一个围绕TTS生成模型ChatTTS开发的项目，实现了API服务器和基于Gradio的WebUI，能够提供全面的API服务，支持生成1000字以上的长文本，保持一致性，并通过内置32种不同风格进行风格管理。

基于AI的Python网络爬虫库，自动化提取网页信息。

ScrapeGraphAI是一个使用LLM（大型语言模型）和直接图逻辑来为网站、文档和XML文件创建抓取管道的Python网络爬虫库。用户只需指定想要提取的信息，库就会自动完成这项工作。该库的主要优点在于简化了网络数据抓取的过程，提高了数据提取的效率和准确性。它适用于数据探索和研究目的，但不应被滥用。

基于 LLM 大语言模型的知识库问答系统。

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统，旨在成为企业的最强大脑。支持文档上传、自动爬取在线文档，智能问答交互体验好。支持快速嵌入到第三方业务系统。技术栈包括 Vue.js、Python/Django、Langchain、PostgreSQL/pgvector。

通过与LLM对话构建持久知识，存于本地Markdown文件

Basic Memory是一款知识管理系统，借助与LLM的自然对话构建持久知识，并保存于本地Markdown文件。它解决了多数LLM互动短暂、知识难留存的问题。其优点包括本地优先、双向读写、结构简单、可形成知识图谱、兼容现有编辑器、基础设施轻量。定位为帮助用户打造个人知识库，采用AGPL - 3.0许可证，无明确价格信息。

一个轻量级且强大的多智能体工作流框架

OpenAI Agents SDK是一个用于构建多智能体工作流的框架。它允许开发者通过配置指令、工具、安全机制和智能体之间的交接来创建复杂的自动化流程。该框架支持与任何符合OpenAI Chat Completions API格式的模型集成，具有高度的灵活性和可扩展性。它主要用于编程场景中，帮助开发者快速构建和优化智能体驱动的应用程序。

一个关于大型语言模型（LLM）后训练方法的教程、调查和指南资源库。

Awesome-LLM-Post-training 是一个专注于大型语言模型（LLM）后训练方法的资源库。它提供了关于 LLM 后训练的深入研究，包括教程、调查和指南。该资源库基于论文《LLM Post-Training: A Deep Dive into Reasoning Large Language Models》，旨在帮助研究人员和开发者更好地理解和应用 LLM 后训练技术。该资源库免费开放，适合学术研究和工业应用。

一个用于从文本和图像中提取结构化数据的代理API，基于LLMs实现。

l1m是一个强大的工具，它通过代理的方式利用大型语言模型（LLMs）从非结构化的文本或图像中提取结构化的数据。这种技术的重要性在于它能够将复杂的信息转化为易于处理的格式，从而提高数据处理的效率和准确性。l1m的主要优点包括无需复杂的提示工程、支持多种LLM模型以及内置缓存功能等。它由Inferable公司开发，旨在为用户提供一个简单、高效且灵活的数据提取解决方案。l1m提供免费试用，适合需要从大量非结构化数据中提取有价值信息的企业和开发者。

为LLM训练和推理生成网站整合文本文件的工具

LLMs.txt生成器是一个由Firecrawl提供支持的在线工具，旨在帮助用户从网站生成用于LLM训练和推理的整合文本文件。它通过整合网页内容，为训练大型语言模型提供高质量的文本数据，从而提高模型的性能和准确性。该工具的主要优点是操作简单、高效，能够快速生成所需的文本文件。它主要面向需要大量文本数据进行模型训练的开发者和研究人员，为他们提供了一种便捷的解决方案。

基于LLM的文章翻译工具，自动翻译并创建多语言Markdown文件。

hugo-translator是一个基于大型语言模型（LLM）驱动的文章翻译工具。它能够自动将文章从一种语言翻译为另一种语言，并生成新的Markdown文件。该工具支持OpenAI和DeepSeek的模型，用户可以通过简单的配置和命令快速完成翻译任务。它主要面向使用Hugo静态网站生成器的用户，帮助他们快速实现多语言内容的生成和管理。产品目前免费开源，旨在提高内容创作者的效率，降低多语言内容发布的门槛。

基于LLM的代理框架，用于在代码库中执行大规模代码迁移。

Aviator Agents 是一款专注于代码迁移的编程工具。它通过集成LLM技术，能够直接与GitHub连接，支持多种模型，如Open-AI o1、Claude Sonnet 3.5、Llama 3.1和DeepSeek R1。该工具可以自动执行代码迁移任务，包括搜索代码依赖、优化代码、生成PR等，极大提高了代码迁移的效率和准确性。它主要面向开发团队，帮助他们高效完成代码迁移工作，节省时间和精力。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

一个用于比较大型语言模型在总结短文档时产生幻觉的排行榜。

该产品是一个由Vectara开发的开源项目，用于评估大型语言模型（LLM）在总结短文档时的幻觉产生率。它使用了Vectara的Hughes幻觉评估模型（HHEM-2.1），通过检测模型输出中的幻觉来计算排名。该工具对于研究和开发更可靠的LLM具有重要意义，能够帮助开发者了解和改进模型的准确性。

VisionAgent是一个用于生成代码以解决视觉任务的库，支持多种LLM提供商。

VisionAgent是一个强大的工具，它利用人工智能和大语言模型（LLM）来生成代码，帮助用户快速解决视觉任务。该工具的主要优点是能够自动将复杂的视觉任务转化为可执行的代码，极大地提高了开发效率。VisionAgent支持多种LLM提供商，用户可以根据自己的需求选择不同的模型。它适用于需要快速开发视觉应用的开发者和企业，能够帮助他们在短时间内实现功能强大的视觉解决方案。VisionAgent目前是免费的，旨在为用户提供高效、便捷的视觉任务处理能力。

OmniParser V2 是一种将任何 LLM 转化为计算机使用代理的技术。

OmniParser V2 是微软研究团队开发的一种先进的人工智能模型，旨在将大型语言模型（LLM）转化为能够理解和操作图形用户界面（GUI）的智能代理。该技术通过将界面截图从像素空间转换为可解释的结构化元素，使 LLM 能够更准确地识别可交互图标，并在屏幕上执行预定动作。OmniParser V2 在检测小图标和快速推理方面取得了显著进步，其结合 GPT-4o 在 ScreenSpot Pro 基准测试中达到了 39.6% 的平均准确率，远超原始模型的 0.8%。此外，OmniParser V2 还提供了 OmniTool 工具，支持与多种 LLM 结合使用，进一步推动了 GUI 自动化的发展。

Thoughtflow 是一款基于树状结构的聊天助手，帮助用户以更自然的方式与AI进行互动。

Thoughtflow 是一款创新的AI聊天工具，采用树状结构对话格式，使复杂话题的管理和探索变得直观和有条理。它支持与多种GPT模型的灵活集成，无论是本地运行的Ollama还是通过API连接的OpenAI模型，都能轻松适配。其主要优点在于能够保留上下文的分支探索功能，让用户在不丢失主线的情况下深入探讨细节。Thoughtflow 主要面向学生、思考者、创作者和创新者，旨在通过结构化的对话系统提升创造力和解决问题的能力。目前，该产品通过App Store提供下载，具体价格未明确提及。

非结构化数据处理平台，助力企业快速构建行业数据集并集成到LLM RAG知识库

Supametas.AI是一款专注于非结构化数据处理的平台，旨在帮助企业快速将音频、视频、图片、文本等多种格式的数据转化为适用于LLM RAG知识库的结构化数据。该平台通过提供多种数据采集方式和强大的预处理功能，极大地简化了数据处理流程，降低了企业构建行业数据集的门槛。其无缝集成到LLM RAG知识库的能力，使得企业能够更高效地利用数据驱动业务发展。Supametas.AI的定位是成为行业领先的LLM数据结构化处理开发平台，满足企业在数据隐私和灵活性方面的需求。

检测设备是否能运行不同规模的 DeepSeek 模型，提供兼容性预测。

DeepSeek 模型兼容性检测是一个用于评估设备是否能够运行不同规模 DeepSeek 模型的工具。它通过检测设备的系统内存、显存等配置，结合模型的参数量、精度位数等信息，为用户提供模型运行的预测结果。该工具对于开发者和研究人员在选择合适的硬件资源以部署 DeepSeek 模型时具有重要意义，能够帮助他们提前了解设备的兼容性，避免因硬件不足而导致的运行问题。DeepSeek 模型本身是一种先进的深度学习模型，广泛应用于自然语言处理等领域，具有高效、准确的特点。通过该检测工具，用户可以更好地利用 DeepSeek 模型进行项目开发和研究。

一个集成DeepSeek API的多功能项目，包括智能聊天机器人、文件处理及模型部署。

DeepSeek Project 是一个综合性技术项目，旨在通过集成 DeepSeek API 提供多种功能。它包括一个智能聊天机器人，能够通过微信接口实现自动化消息响应，支持多轮对话和上下文敏感型回复。此外，该项目还提供了一个本地化的文件处理解决方案，用于解决 DeepSeek 平台未开放文件上传 API 的技术限制。它还包括快速部署 DeepSeek 蒸馏模型的功能，支持服务器本地运行并包含前端界面。该项目主要面向开发者和企业用户，帮助他们快速实现智能化的聊天机器人和文件处理功能，同时提供高效的模型部署方案。项目开源免费，适合需要快速集成 AI 功能的用户。

基于LLM和LangChain的全栈应用，用于检索股票数据和新闻

该产品是一个全栈应用，通过LLM（大型语言模型）和LangChain技术，结合LangGraph实现股票数据和新闻的检索与分析。它利用ChromaDB作为向量数据库，支持语义搜索和数据可视化，为用户提供股票市场的深入洞察。该产品主要面向投资者、金融分析师和数据科学家，帮助他们快速获取和分析股票相关信息，辅助决策。产品目前开源免费，适合需要高效处理金融数据和新闻的用户。

一个基于AI的深度研究工具，能够持续搜索信息直至满足用户查询需求。

OpenDeepResearcher 是一个基于 AI 的研究工具，通过结合 SERPAPI、Jina 和 OpenRouter 等服务，能够根据用户输入的查询主题，自动进行多轮迭代搜索，直至收集到足够的信息并生成最终报告。该工具的核心优势在于其高效的异步处理能力、去重功能以及强大的 LLM 决策支持，能够显著提升研究效率。它主要面向需要进行大量文献搜索和信息整理的科研人员、学生以及相关领域的专业人士，帮助他们快速获取高质量的研究资料。该工具目前以开源形式提供，用户可以根据需要自行部署和使用。

一个由LLM驱动的数据处理系统。

DocETL是一个强大的系统，用于处理和分析大量文本数据。它通过利用大型语言模型（LLM）的能力，能够自动优化数据处理流程，并将LLM与非LLM操作无缝集成。该系统的主要优点包括其声明式的YAML定义方式，使得用户可以轻松地定义复杂的数据处理流程。此外，DocETL还提供了一个交互式的playground，方便用户进行提示工程的实验。产品背景信息显示，DocETL在2024年12月推出了DocWrangler，这是一个新的交互式playground，旨在简化提示工程。价格方面，虽然没有明确标出，但从提供的使用案例来看，运行和优化数据处理流程的成本相对较低。产品定位主要是为需要处理大量文本数据并从中提取有价值信息的用户提供服务。

一个开源的交互式开发环境，用于构建和优化基于LLM的数据处理管道。

DocWrangler是一个开源的交互式开发环境，旨在简化构建和优化基于大型语言模型（LLM）的数据处理管道的过程。它提供即时反馈、可视化探索工具和AI辅助功能，帮助用户更容易地探索数据、实验不同操作并根据发现优化管道。该产品基于DocETL框架构建，适用于处理非结构化数据，如文本分析、信息提取等。它不仅降低了LLM数据处理的门槛，还提高了工作效率，使用户能够更有效地利用LLM的强大功能。

高质量的数据集、工具和概念，用于大型语言模型的微调。

mlabonne/llm-datasets 是一个专注于大型语言模型（LLM）微调的高质量数据集和工具的集合。该产品为研究人员和开发者提供了一系列经过精心筛选和优化的数据集，帮助他们更好地训练和优化自己的语言模型。其主要优点在于数据集的多样性和高质量，能够覆盖多种使用场景，从而提高模型的泛化能力和准确性。此外，该产品还提供了一些工具和概念，帮助用户更好地理解和使用这些数据集。其背景信息包括由 mlabonne 创建和维护，旨在推动 LLM 领域的发展。