产品库

一款私人且离线的AI个人知识管理桌面应用

Reor是一个AI驱动的桌面笔记应用，它通过自动链接相关笔记、回答笔记上的问题、提供语义搜索以及生成AI闪卡来增强个人的知识管理。所有数据本地存储，支持类似Obsidian的Markdown编辑器。Reor项目的核心假设是，思考工具的AI模型应默认在本地运行。它利用了Ollama、Transformers.js和LanceDB等技术，使得大型语言模型（LLM）和嵌入模型能够在本地运行。同时，也支持连接到OpenAI或兼容的API，如Oobabooga。

AI预算优化工具，比较和计算大型语言模型API的最新价格。

LLM Price Check是一个在线工具，它允许用户比较和计算不同大型语言模型（LLM）API的价格，这些API由领先的提供商如OpenAI、Anthropic、Google等提供。该工具可以帮助用户优化他们的AI预算，通过比较不同模型的价格和性能，用户可以做出更明智的选择。

用于构建理解和模拟人类语音表情的声控人工智能接口。

Hume AI的同理心语音接口(EVI)是一种由同理心大型语言模型(eLLM)驱动的API,可以理解和模拟语音音调、词语重音等,从而优化人机交互。它基于10多年的研究成果、数百万专利数据点和30多篇发表在顶尖期刊的论文。EVI旨在为任何应用程序提供更自然、富有同情心的语音界面,让人与AI的互动更加人性化。该技术可广泛应用于销售/会议分析、健康与保健、AI研究服务、社交网络等领域。

AI 聚合搜索 API 服务

Tavily 是您的 AI 研究助手，为您提供快速准确的洞察和全面研究。它可以帮助您的 AI 做出更好的决策，提供智能搜索 API，以快速、准确、实时的方式获取信息。通过连接 LLMs 和 AI 应用程序到可信实时知识，减少幻觉和偏见。

将LLM接入Comfy UI的插件

Tara是一款插件，可以将大型语言模型（LLM）接入到Comfy UI中，支持简单的API设置，并集成LLaVa模型。其中包含TaraPrompter节点用于生成精确结果、TaraApiKeyLoader节点管理API密钥、TaraApiKeySaver节点安全保存密钥、TaraDaisyChainNode节点串联输出实现复杂工作流。

使用LLMs和计算机视觉自动化基于浏览器的工作流程

Skyvern是一个自动化工具，它结合了大型语言模型（LLMs）和计算机视觉技术，用于自动化基于浏览器的工作流程。它提供了一个简单的API端点，可以完全自动化手动工作流程，替代易碎或不可靠的自动化解决方案。

用户友好的LLMs WebUI

Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。

100个AI模型，1个API，最高可访问性

aimlapi.com是一个AI模型平台，通过1个API可以访问100多个AI模型。该平台提供低延迟、全天候访问的AI服务，可节省高达80%的成本。AI模型包括高级LLM、语音转文字、文字转语音、聊天机器人和图像生成等功能。定价简单明了，为开发者提供最低市场价格。支持与OpenAI兼容，无缝切换使用。适用于各种场景，包括聊天、语音、图像等。支持快速响应和高效扩展，保证99%的运行时间。欢迎免费试用1个月。

一个快速的AI网关

Portkey的AI网关是应用程序和托管LLM之间的接口。它使用统一的API对OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等的API请求进行了优化,从而实现了流畅的路由。该网关快速、轻量,内置重试机制,支持多模型负载均衡,确保应用程序的可靠性和性能。

统一的语言模型评估框架

PromptBench是一个基于Pytorch的Python包,用于评估大型语言模型(LLM)。它为研究人员提供了用户友好的API,以便对LLM进行评估。主要功能包括:快速模型性能评估、提示工程、对抗提示评估以及动态评估等。优势是使用简单,可以快速上手评估已有数据集和模型,也可以轻松定制自己的数据集和模型。定位为LLM评估的统一开源库。

快速将LLM集成到生产应用

Merlin提供统一的API和SDK,用于将LLM/LLVM快速集成到生产应用中。性能高、可靠、易于使用。它可以在5分钟内将Google的Gemini SDK集成进去。提供20多个AI模型,无需管理多个API密钥,没有速率限制,也不必担心记忆窗口或记号计算。所有模型都遵循OpenAI API结构,误差率比OpenAI低10倍,零宕机时间。

安全、私密、企业级对话式AI平台

Cape Privacy是一个对话式AI平台，可直接部署到您的基础架构中。它具有CapeChat和Cape API功能，可提高终端用户和开发人员的生产力。Cape Privacy允许企业在其环境中安全、私密地利用大型语言模型（LLM）的能力。平台提供了大量的企业级数据连接器，以及用于自动化业务流程的AI机器人。此外，该产品提供全面的审计、报告和可观察性功能，以支持您的法律、风险和合规要求。

LLM驱动的主代理框架

Agent M是一个强大的大型语言模型或ChatGPT驱动的主代理开发框架,可让您创建多个基于LLM的代理。Agent Mbetween多个执行各种任务的代理之间进行编排,例如基于自然语言的API调用,连接到您的数据并帮助自动化复杂的对话。

协作监控LLM

Llog是一个协作监控LLM应用程序的终端到终端平台，为团队提供洞察力，了解他们的LLM应用程序在生产后的情况。团队成员可以在一个协作空间中审查日志、标记重要事项并分配任务。无论团队规模多大，都可以在任何价格层级下享受无限的席位支持。通过直接观察用户交互，全面了解终端用户的行为，并永远不再担心LLM实际上在说什么。使用我们简单的格式，进行几个API请求，即可立即在我们的平台上查看结果。

将您的API转化为AI代理

Monoid可以将API转化为行动，增强LLMs获取相关上下文并代表用户行动的能力。您可以在几分钟内创建代理，选择基础LLM、代理类型和一些行动。只需提供您的API，选择AI代理控制的参数，以自然语言响应模拟AI代理使用您的API。您还可以与您的代理进行交谈，并在Hub上分享您的行动和代理，帮助创建充满活力的行动和代理网络。

Generative AI 模型评估工具

Deepmark AI 是一款用于评估大型语言模型（LLM）的基准工具，可在自己的数据上对各种任务特定指标进行评估。它与 GPT-4、Anthropic、GPT-3.5 Turbo、Cohere、AI21 等领先的生成式 AI API 进行预集成。

用于记录和测试LLM提示的MLops工具

Prompt Joy是一个用于帮助理解和调试LLM(大语言模型)提示的工具。主要功能包括日志记录和分割测试。日志记录可以记录LLM的请求与响应,便于检查输出结果。分割测试可以轻松进行A/B测试,找出效果最佳的提示。它与具体的LLM解耦,可以配合OpenAI、Anthropic等LLM使用。它提供了日志和分割测试的API。采用Node.js+PostgreSQL构建。

Carbon是一个统一的API，用于将外部数据连接到您的向量数据库。

Carbon是一个统一的API，用于将外部数据连接到您的向量数据库。开发人员可以使用Carbon的智能API将非结构化的业务数据整合到他们的LLM应用程序中，无论数据来源如何。Carbon支持从各种来源收集数据，并将其转换为AI友好的纯文本，适用于希望无缝整合AI到他们业务中的公司。

用简单语言指令实现自动化

Neural Wave是一款基于生成式人工智能技术的自动化工具，通过简单的语言指令，使任何企业都能够轻松实现自动化任务，无需昂贵的技术专业知识。我们的自定义大型语言模型（LLM）可以在任何软件应用程序上自动化任何任务（具有或不具有API），并处理任何结构化和完全非结构化的文档。我们的工具不需要任何RPA开发技能或技术专业知识，任何用户都可以通过简单的语言解释任务来自动化任何任务，无需技术技能。

开源的 LLM 应用程序分析

Langfuse 是一个开源的 LLM（Low-Code Low-Magic）应用程序分析工具，提供详细的生产追踪和对质量、成本和延迟的精细视图。它能帮助团队更好地跟踪和调试复杂的 LLM 应用程序，提供预构建的分析功能，帮助团队关注改进 LLM 应用程序的关键指标。Langfuse 与任何 LLM 应用程序集成，并提供多种 SDK 和 API 供开发者使用。

更多模态、更长记忆、更低成本

JinaChat是一种多功能的大型语言模型 (LLM) 服务，提供高级会话功能，可以回答问题、解释图像等等。JinaChat开创了多模式聊天功能的新时代，超越了文本，融入了图像等。享受我们提供的低于100个词元的免费简短互动。我们的API使开发人员能够利用长期对话历史记录，消除冗余提示来构建复杂的应用程序。使用JinaChat率先进入LLM服务的未来，其中的对话是多模式的、长记忆的和负担得起的。

简化LLM完成和嵌入调用的开源库

LiteLLM是一个开源库，旨在简化LLM完成和嵌入调用。它集成了Azure、Anthropic、OpenAI、Cohere和Replicate等多个平台的API，让你可以使用一个函数轻松调用它们。LiteLLM提供了方便的接口和一致的输出格式，使得使用LLM模型变得更加简单。它可以用于各种场景，如自然语言处理、文本生成、对话系统等。

监控OpenAI API使用情况的工具

LLM Report是一个可以监控OpenAI API使用情况的工具。用户只需输入OpenAI API密钥，工具会直接从OpenAI API中获取数据并创建仪表板，无需安装任何软件。用户可以清楚地了解每个模型、API密钥和用户的费用情况，避免盲目消耗资源。LLM Report得到了全球2500多个用户和公司的认可。

大规模聚合AI和Open API的代码生成工具

GenPen.AI是第一个大规模集成开发环境（IDE），通过无缝聚合访问VLLM和Open API代码生成、序列文档和无代码全代码解决方案，实现高度灵活的代码解决方案。使用该工具可以快速测试多个不同配置的形状，而不是等待几个月才发现设计中的缺陷。自动化GIT/代码/文档，使您的分支保持最新状态。多个狭义AI代理同时使用，代理根据输入进行投票，用户反馈有助于训练我们的投票算法。

Andes - 大型语言模型（LLM）API市场

Andes是一个大型语言模型（LLM）API市场，连接领先的人工智能技术，提供自然语言处理、自动文本生成、翻译等功能，为您的应用增加智能能力。

Boundless AI带给您自定义聊天机器人的构建和API服务，帮助您充分利用LLMs的强大功能。

Boundless AI带给您自定义聊天机器人的构建和API服务，帮助您充分利用LLMs的强大功能。我们提供定制、上下文感知和灵活的聊天机器人体验，旨在满足您的需求。通过我们的平台和API，轻松创建训练在您自己数据上的LLM聊天机器人！

添加记忆和语义搜索到LLM

DopplerAI是一个向LLMs添加记忆和语义搜索的解决方案。通过几个API调用，您可以实现对数据的对话式搜索和洞察。DopplerAI管理您的向量数据库的基础设施，让您专注于产品交付。

简化AI生成的提示的创建、测试和分享过程。

GeneratedBy简化了为提示工程师和数字劳动者创建、测试和分享AI生成的提示的过程。通过我们的平台，您可以轻松编写、优化和共享提示，提高工作效率。主要功能包括：提示编辑和优化、多模态内容和LLM支持、启发式提示收藏、表单、聊天泡泡或微型SaaS生成、ChatGPT插件和提示工具、协作API和角色管理等。

ChatGPT应用分析和使用计量

LLM App Analytics and Usage Metering是一个基于Propel数据应用API平台的产品，为基于ChatGPT的生成式人工智能应用添加使用计量功能。通过只需5行代码，您可以跟踪应用的使用情况、限制使用量，并可视化分析结果。该产品提供了对ChatGPT API的使用情况、延迟和用户反馈等重要指标的跟踪。您可以通过API查询这些指标，以实施使用限制、计费和优化产品体验。