产品库

一个集成了Django、Llamaindex和Google Drive的RAG应用框架。

Omakase RAG Orchestrator是一个旨在解决构建RAG应用时遇到的挑战的项目，它通过提供一个综合的Web应用程序和API来封装大型语言模型(LLMs)及其包装器。该项目整合了Django、Llamaindex和Google Drive，以提高应用的可用性、可扩展性和数据及用户访问管理。

LLM应用开发平台，提升文档处理能力。

Farspeak是一个LLM应用开发平台，它允许开发者通过API接入，使用自然语言查询（NLQ）和自然语言开发（NLD）技术，与MongoDB Atlas等数据库进行交互，处理结构化和非结构化数据。其主要优点包括实时嵌入更新、单一存储解决方案以及对多种数据库的支持。

AI项目成本计算器，比较不同AI模型的成本。

OpenAI和其他大型语言模型(LLM)API的成本计算器，帮助企业和开发者评估和比较不同AI模型在项目中的成本。该工具提供了包括OpenAI、Azure、Anthropic、Llama 3、Google Gemini、Mistral和Cohere等在内的多个模型的价格计算。它基于输入的token数、输出的token数和API调用次数来计算成本。

ComfyUI的节点，能够根据用户指令生成任何类型的输出。

AnyNode是一个为ComfyUI设计的插件，它利用LLMs（大型语言模型）的能力，根据用户的输入生成所需的输出。它支持使用OpenAI API或本地LLMs API，允许用户通过简单的配置和指令，实现复杂的编程任务，无需编写代码。该插件的主要优点包括易用性、灵活性和强大的功能，能够显著提高开发效率，尤其适合需要快速原型开发和自动化任务的开发者。

开源大型语言模型的托管、部署、构建和微调一站式解决方案。

AIKit 是一个开源工具，旨在简化大型语言模型（LLMs）的托管、部署、构建和微调过程。它提供了与OpenAI API兼容的REST API，支持多种推理能力和格式，使用户可以使用任何兼容的客户端发送请求。此外，AIKit 还提供了一个可扩展的微调接口，支持Unsloth，为用户提供快速、内存高效且易于使用的微调体验。

汇总和比较全球主要AI模型提供商的价格信息

AIGCRank大语言模型API价格对比是一个专门汇总和比较全球主要AI模型提供商的价格信息的工具。它为用户提供最新的大语言模型（LLM）的价格数据，包括一些免费的AI大模型API。通过这个平台，用户可以轻松查找和比较OpenAI、Claude、Mixtral、Kimi、星火大模型、通义千问、文心一语、Llama 3、GPT-4、AWS和Google等国内外主要API提供商的最新价格，确保找到最适合自己项目的模型定价。

开源AI搜索引擎，支持本地或云LLMs。

Farfalle是一个开源的AI驱动搜索引擎，它允许用户运行本地大型语言模型(LLMs)或使用云模型。它是基于Perplexity克隆的，可以与多种技术栈集成，如Next.js前端、FastAPI后端、Tavily搜索API等。它还提供了自定义设置的文档和演示视频，以帮助用户快速开始。

一款私人且离线的AI个人知识管理桌面应用

Reor是一个AI驱动的桌面笔记应用，它通过自动链接相关笔记、回答笔记上的问题、提供语义搜索以及生成AI闪卡来增强个人的知识管理。所有数据本地存储，支持类似Obsidian的Markdown编辑器。Reor项目的核心假设是，思考工具的AI模型应默认在本地运行。它利用了Ollama、Transformers.js和LanceDB等技术，使得大型语言模型（LLM）和嵌入模型能够在本地运行。同时，也支持连接到OpenAI或兼容的API，如Oobabooga。

AI预算优化工具，比较和计算大型语言模型API的最新价格。

LLM Price Check是一个在线工具，它允许用户比较和计算不同大型语言模型（LLM）API的价格，这些API由领先的提供商如OpenAI、Anthropic、Google等提供。该工具可以帮助用户优化他们的AI预算，通过比较不同模型的价格和性能，用户可以做出更明智的选择。

用于构建理解和模拟人类语音表情的声控人工智能接口。

Hume AI的同理心语音接口(EVI)是一种由同理心大型语言模型(eLLM)驱动的API,可以理解和模拟语音音调、词语重音等,从而优化人机交互。它基于10多年的研究成果、数百万专利数据点和30多篇发表在顶尖期刊的论文。EVI旨在为任何应用程序提供更自然、富有同情心的语音界面,让人与AI的互动更加人性化。该技术可广泛应用于销售/会议分析、健康与保健、AI研究服务、社交网络等领域。

AI 聚合搜索 API 服务

Tavily 是您的 AI 研究助手，为您提供快速准确的洞察和全面研究。它可以帮助您的 AI 做出更好的决策，提供智能搜索 API，以快速、准确、实时的方式获取信息。通过连接 LLMs 和 AI 应用程序到可信实时知识，减少幻觉和偏见。

将LLM接入Comfy UI的插件

Tara是一款插件，可以将大型语言模型（LLM）接入到Comfy UI中，支持简单的API设置，并集成LLaVa模型。其中包含TaraPrompter节点用于生成精确结果、TaraApiKeyLoader节点管理API密钥、TaraApiKeySaver节点安全保存密钥、TaraDaisyChainNode节点串联输出实现复杂工作流。

使用LLMs和计算机视觉自动化基于浏览器的工作流程

Skyvern是一个自动化工具，它结合了大型语言模型（LLMs）和计算机视觉技术，用于自动化基于浏览器的工作流程。它提供了一个简单的API端点，可以完全自动化手动工作流程，替代易碎或不可靠的自动化解决方案。

用户友好的LLMs WebUI

Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。

100个AI模型，1个API，最高可访问性

aimlapi.com是一个AI模型平台，通过1个API可以访问100多个AI模型。该平台提供低延迟、全天候访问的AI服务，可节省高达80%的成本。AI模型包括高级LLM、语音转文字、文字转语音、聊天机器人和图像生成等功能。定价简单明了，为开发者提供最低市场价格。支持与OpenAI兼容，无缝切换使用。适用于各种场景，包括聊天、语音、图像等。支持快速响应和高效扩展，保证99%的运行时间。欢迎免费试用1个月。

一个快速的AI网关

Portkey的AI网关是应用程序和托管LLM之间的接口。它使用统一的API对OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等的API请求进行了优化,从而实现了流畅的路由。该网关快速、轻量,内置重试机制,支持多模型负载均衡,确保应用程序的可靠性和性能。

统一的语言模型评估框架

PromptBench是一个基于Pytorch的Python包,用于评估大型语言模型(LLM)。它为研究人员提供了用户友好的API,以便对LLM进行评估。主要功能包括:快速模型性能评估、提示工程、对抗提示评估以及动态评估等。优势是使用简单,可以快速上手评估已有数据集和模型,也可以轻松定制自己的数据集和模型。定位为LLM评估的统一开源库。

快速将LLM集成到生产应用

Merlin提供统一的API和SDK,用于将LLM/LLVM快速集成到生产应用中。性能高、可靠、易于使用。它可以在5分钟内将Google的Gemini SDK集成进去。提供20多个AI模型,无需管理多个API密钥,没有速率限制,也不必担心记忆窗口或记号计算。所有模型都遵循OpenAI API结构,误差率比OpenAI低10倍,零宕机时间。

安全、私密、企业级对话式AI平台

Cape Privacy是一个对话式AI平台，可直接部署到您的基础架构中。它具有CapeChat和Cape API功能，可提高终端用户和开发人员的生产力。Cape Privacy允许企业在其环境中安全、私密地利用大型语言模型（LLM）的能力。平台提供了大量的企业级数据连接器，以及用于自动化业务流程的AI机器人。此外，该产品提供全面的审计、报告和可观察性功能，以支持您的法律、风险和合规要求。

LLM驱动的主代理框架

Agent M是一个强大的大型语言模型或ChatGPT驱动的主代理开发框架,可让您创建多个基于LLM的代理。Agent Mbetween多个执行各种任务的代理之间进行编排,例如基于自然语言的API调用,连接到您的数据并帮助自动化复杂的对话。

协作监控LLM

Llog是一个协作监控LLM应用程序的终端到终端平台，为团队提供洞察力，了解他们的LLM应用程序在生产后的情况。团队成员可以在一个协作空间中审查日志、标记重要事项并分配任务。无论团队规模多大，都可以在任何价格层级下享受无限的席位支持。通过直接观察用户交互，全面了解终端用户的行为，并永远不再担心LLM实际上在说什么。使用我们简单的格式，进行几个API请求，即可立即在我们的平台上查看结果。

将您的API转化为AI代理

Monoid可以将API转化为行动，增强LLMs获取相关上下文并代表用户行动的能力。您可以在几分钟内创建代理，选择基础LLM、代理类型和一些行动。只需提供您的API，选择AI代理控制的参数，以自然语言响应模拟AI代理使用您的API。您还可以与您的代理进行交谈，并在Hub上分享您的行动和代理，帮助创建充满活力的行动和代理网络。

Generative AI 模型评估工具

Deepmark AI 是一款用于评估大型语言模型（LLM）的基准工具，可在自己的数据上对各种任务特定指标进行评估。它与 GPT-4、Anthropic、GPT-3.5 Turbo、Cohere、AI21 等领先的生成式 AI API 进行预集成。

一站式LLM开发自动化平台

Pulze.ai是一站式LLM开发自动化平台，提供单一API，将所有最佳LLM插入您的产品，并在几分钟内简化您的LLM功能开发。Pulze.ai的API遵循LLMOps最佳实践，并使您的团队轻松使用。Pulze.ai允许您一次测试所有最佳模型，以加速开发。您可以在Pulze.ai内动态控制预算和成本目标，并在扩展时保护您的利润。Pulze.ai还提供企业级安全性，以管理所有用户数据的数据隐私和安全性。Pulze.ai提供了多个功能点，如上传数据源、优化结果、一键部署、实时跟踪和版本控制等。

用于记录和测试LLM提示的MLops工具

Prompt Joy是一个用于帮助理解和调试LLM(大语言模型)提示的工具。主要功能包括日志记录和分割测试。日志记录可以记录LLM的请求与响应,便于检查输出结果。分割测试可以轻松进行A/B测试,找出效果最佳的提示。它与具体的LLM解耦,可以配合OpenAI、Anthropic等LLM使用。它提供了日志和分割测试的API。采用Node.js+PostgreSQL构建。

Carbon是一个统一的API，用于将外部数据连接到您的向量数据库。

Carbon是一个统一的API，用于将外部数据连接到您的向量数据库。开发人员可以使用Carbon的智能API将非结构化的业务数据整合到他们的LLM应用程序中，无论数据来源如何。Carbon支持从各种来源收集数据，并将其转换为AI友好的纯文本，适用于希望无缝整合AI到他们业务中的公司。

用简单语言指令实现自动化

Neural Wave是一款基于生成式人工智能技术的自动化工具，通过简单的语言指令，使任何企业都能够轻松实现自动化任务，无需昂贵的技术专业知识。我们的自定义大型语言模型（LLM）可以在任何软件应用程序上自动化任何任务（具有或不具有API），并处理任何结构化和完全非结构化的文档。我们的工具不需要任何RPA开发技能或技术专业知识，任何用户都可以通过简单的语言解释任务来自动化任何任务，无需技术技能。

开源的 LLM 应用程序分析

Langfuse 是一个开源的 LLM（Low-Code Low-Magic）应用程序分析工具，提供详细的生产追踪和对质量、成本和延迟的精细视图。它能帮助团队更好地跟踪和调试复杂的 LLM 应用程序，提供预构建的分析功能，帮助团队关注改进 LLM 应用程序的关键指标。Langfuse 与任何 LLM 应用程序集成，并提供多种 SDK 和 API 供开发者使用。

更多模态、更长记忆、更低成本

JinaChat是一种多功能的大型语言模型 (LLM) 服务，提供高级会话功能，可以回答问题、解释图像等等。JinaChat开创了多模式聊天功能的新时代，超越了文本，融入了图像等。享受我们提供的低于100个词元的免费简短互动。我们的API使开发人员能够利用长期对话历史记录，消除冗余提示来构建复杂的应用程序。使用JinaChat率先进入LLM服务的未来，其中的对话是多模式的、长记忆的和负担得起的。