产品库

Prompto是一个开源的网络应用程序，旨在使与LLM的交互简单高效。

Prompto是一个开源的网页应用程序，旨在使与大型语言模型（LLMs）的交互简单高效。它可以轻松切换不同的LLMs，通过调整温度设置来调整LLM的创造力和风险水平，提供聊天机器人界面和笔记本界面，可以创建常用提示的模板，并且在浏览器中运行，确保流畅响应的体验。所有设置和聊天记录仅存储在浏览器的本地存储中，保护用户隐私。

低代码生成AI应用程序的生成性AI RAG工具包。

create-tsi是一个生成性AI RAG（Retrieval-Augmented Generation）工具包，用于低代码生成AI应用程序。它利用LlamaIndex和T-Systems在Open Telekom Cloud上托管的大型语言模型（LLMs），简化了AI应用程序的创建过程，使其变得快捷、灵活。用户可以使用create-tsi生成聊天机器人、编写代理并针对特定用例进行定制。

用于构建理解和模拟人类语音表情的声控人工智能接口。

Hume AI的同理心语音接口(EVI)是一种由同理心大型语言模型(eLLM)驱动的API,可以理解和模拟语音音调、词语重音等,从而优化人机交互。它基于10多年的研究成果、数百万专利数据点和30多篇发表在顶尖期刊的论文。EVI旨在为任何应用程序提供更自然、富有同情心的语音界面,让人与AI的互动更加人性化。该技术可广泛应用于销售/会议分析、健康与保健、AI研究服务、社交网络等领域。

100% Java实现的LLM代理和大型行动模型

Tools4AI是100%用Java实现的大型行动模型(LAM),可作为企业Java应用程序的LLM代理。该项目演示了如何将AI与企业工具或外部工具集成,将自然语言提示转换为可执行行为。这些提示可以被称为"行动提示"或"可执行提示"。通过利用AI能力,它简化了用户与复杂系统的交互,提高了生产力和创新能力。

AI 聚合搜索 API 服务

Tavily 是您的 AI 研究助手，为您提供快速准确的洞察和全面研究。它可以帮助您的 AI 做出更好的决策，提供智能搜索 API，以快速、准确、实时的方式获取信息。通过连接 LLMs 和 AI 应用程序到可信实时知识，减少幻觉和偏见。

使用想象力描述UI,并实时查看渲染效果。

构建UI组件通常是一项乏味的工作。OpenUI旨在使这一过程变得有趣、快捷和灵活。这也是我们在W&B用于测试和原型化下一代工具的工具,用于在LLM的基础上构建强大的应用程序。您可以使用想象力描述UI,然后实时查看渲染效果。您可以要求进行更改,并将HTML转换为React、Svelte、Web组件等。就像是V0的开源和不太精致的版本。

LLM应用开发者平台

LangSmith是一个统一的DevOps平台,用于开发、协作、测试、部署和监控LLM应用程序。它支持LLM应用程序开发生命周期的所有阶段,为构建LLM应用提供端到端的解决方案。主要功能包括:链路追踪、提示工具、数据集、自动评估、线上部署等。适用于构建基于LLM的AI助手、 ChatGPT应用的开发者。

一个快速的AI网关

Portkey的AI网关是应用程序和托管LLM之间的接口。它使用统一的API对OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等的API请求进行了优化,从而实现了流畅的路由。该网关快速、轻量,内置重试机制,支持多模型负载均衡,确保应用程序的可靠性和性能。

AI 原生产品的分析工具

Align AI 是一款为 AI 原生产品提供分析对话数据的工具。它可以帮助产品团队轻松分通过 LLM 技术驱动的应用程序生成的对话数据，将其转化为有用的产品洞察力。Align AI 已被全球范围内的 AI 原生产品所信任。

协作监控LLM

Llog是一个协作监控LLM应用程序的终端到终端平台，为团队提供洞察力，了解他们的LLM应用程序在生产后的情况。团队成员可以在一个协作空间中审查日志、标记重要事项并分配任务。无论团队规模多大，都可以在任何价格层级下享受无限的席位支持。通过直接观察用户交互，全面了解终端用户的行为，并永远不再担心LLM实际上在说什么。使用我们简单的格式，进行几个API请求，即可立即在我们的平台上查看结果。

构建更好、更具差异化的AI产品

Autoblocks是一个协作的云工作空间，专为产品团队快速迭代GenAI产品而构建。它提供了从原型设计到生产环境的所有工具，包括Prompt管理、可观察性、持续评估和微调。Autoblocks可以帮助您快速测试应用程序管道的更改、跟踪用户交互、评估用户结果，并为您的数据提供可视化和深入的理解。Autoblocks支持所有技术栈，并且具有企业级的LLMOps功能，包括可扩展的数据摄取和搜索、强大的协作功能、AI专家的支持以及安全性和隐私保护。

一键将LLM应用程序连接到Slack等工具

PlugBear可以在几秒钟内将您的LLM应用程序连接到Slack等工具,无需编写任何代码。它支持主流的LLM框架,让您只需开发一次LLM应用,就可以连接到各种流行的协作和交流工具。

Langroid是一个基于Python的轻量级LLM框架

Langroid是一个轻量级、可扩展和原则性的Python框架,可以轻松地构建基于LLM的应用程序。您可以设置代理,为它们配备可选组件(LLM、向量存储和方法),分配它们任务,并让他们通过交换消息协作解决问题。这个多代理范例的灵感来自Actor框架(但您不需要了解任何关于这个的知识!)。Langroid提供了一个全新的LLM应用程序开发方式,在简化开发人员体验方面进行了深思熟虑;它不使用Langchain。我们欢迎贡献--请参阅贡献文档以获取贡献想法。

AI 质量门卫，你现有发布流程中的 AI 质量把关人

Spellforge是一个 AI 质量门卫工具，可以在你现有的发布流程中对 AI 进行质量把关。它通过模拟和评估使用合成用户角色进行交互，确保你的应用程序在面对真实用户之前得到充分的测试。它还可以自动评估每个 prompt 版本和 LLM 组合的质量，并监控真实用户的交互。通过与现有的工具顺畅集成，Spellforge.ai 可以轻松管理你的发布流程，提供高效的服务。

将AI本地化产品的对话数据转化为可行动的产品见解！

impaction.ai是一个用于AI本地化产品的分析工具，帮助产品团队轻松分析由LLM驱动的应用程序生成的对话数据。它提供强大的搜索功能，可通过自然语言查找特定对话，并通过Columbus Copilot提供定制的建议和分析结果。impaction.ai支持多种数据源，并且已获得SOC II Type 1认证。定价根据数据量和具体业务情况而定。

下一代LLM申请框架

AutoGen 是一个基于多代理对话框架的下一代大语言模型应用程序。它简化了复杂 LLM 工作流的编排、自动化和优化，最大化了 LLM 模型的性能并克服了其弱点。AutoGen 支持多种复杂对话模式，具有可自定义和可对话的代理，开发人员可以使用 AutoGen 构建各种对话模式。

自动生成多角色智能体框架

AutoAgents是一个开源的基于LLM的自动智能体生成实验应用程序。该程序由LLM驱动,可以根据你设定的目标自动生成多角色智能体。它可以根据问题确定需要添加的专家角色和具体的执行计划。包含智能体生成器、执行计划生成器、结果反思模块等。使LLM像人一样,可以根据问题自主地分配不同的角色,制定解决问题的计划并执行。

发现和运行本地LLM

LM Studio是一个易于使用的桌面应用程序，用于在本地实验和运行本地和开源的Large Language Models (LLMs)。LM Studio跨平台桌面应用程序允许您从Hugging Face下载和运行任何ggml兼容的模型，并提供了一个简单而强大的模型配置和推理界面。该应用程序在有GPU的情况下利用您的GPU。

LLM的评估和单元测试框架

DeepEval提供了不同方面的度量来评估LLM对问题的回答,以确保答案是相关的、一致的、无偏见的、非有毒的。这些可以很好地与CI/CD管道集成在一起,允许机器学习工程师快速评估并检查他们改进LLM应用程序时,LLM应用程序的性能是否良好。DeepEval提供了一种Python友好的离线评估方法,确保您的管道准备好投入生产。它就像是“针对您的管道的Pytest”,使生产和评估管道的过程与通过所有测试一样简单直接。

加速AI转型

利用您自己的数据发挥LLM AI的力量，构建真正理解您业务的定制AI应用程序，提供精确的洞察或自动化。

LLM prompt测试库

promptfoo是一个用于评估LLM prompt质量和进行测试的库。它能够帮助您创建测试用例，设置评估指标，并与现有的测试和CI流程集成。promptfoo还提供了一个Web Viewer，让您可以轻松地比较不同的prompt和模型输出。它被用于服务超过1000万用户的LLM应用程序。

Carbon是一个统一的API，用于将外部数据连接到您的向量数据库。

Carbon是一个统一的API，用于将外部数据连接到您的向量数据库。开发人员可以使用Carbon的智能API将非结构化的业务数据整合到他们的LLM应用程序中，无论数据来源如何。Carbon支持从各种来源收集数据，并将其转换为AI友好的纯文本，适用于希望无缝整合AI到他们业务中的公司。

连接自定义数据源到大型语言模型的数据框架

LlamaIndex是一个简单、灵活的数据框架，用于连接自定义数据源到大型语言模型。它提供了关键工具，用于增强您的LLM应用程序的数据。包括数据摄取、数据索引和查询接口。可以轻松构建强大的终端用户应用程序，如文档问答、数据增强聊天机器人、知识代理、结构化分析等。支持连接非结构化、结构化或半结构化的数据源。

用简单语言指令实现自动化

Neural Wave是一款基于生成式人工智能技术的自动化工具，通过简单的语言指令，使任何企业都能够轻松实现自动化任务，无需昂贵的技术专业知识。我们的自定义大型语言模型（LLM）可以在任何软件应用程序上自动化任何任务（具有或不具有API），并处理任何结构化和完全非结构化的文档。我们的工具不需要任何RPA开发技能或技术专业知识，任何用户都可以通过简单的语言解释任务来自动化任何任务，无需技术技能。

开源的 LLM 应用程序分析

Langfuse 是一个开源的 LLM（Low-Code Low-Magic）应用程序分析工具，提供详细的生产追踪和对质量、成本和延迟的精细视图。它能帮助团队更好地跟踪和调试复杂的 LLM 应用程序，提供预构建的分析功能，帮助团队关注改进 LLM 应用程序的关键指标。Langfuse 与任何 LLM 应用程序集成，并提供多种 SDK 和 API 供开发者使用。

更多模态、更长记忆、更低成本

JinaChat是一种多功能的大型语言模型 (LLM) 服务，提供高级会话功能，可以回答问题、解释图像等等。JinaChat开创了多模式聊天功能的新时代，超越了文本，融入了图像等。享受我们提供的低于100个词元的免费简短互动。我们的API使开发人员能够利用长期对话历史记录，消除冗余提示来构建复杂的应用程序。使用JinaChat率先进入LLM服务的未来，其中的对话是多模式的、长记忆的和负担得起的。

开源UI可视化工具，轻松构建定制化的LLM流程

Flowise是一个开源的UI可视化工具，使用LangchainJS编写，用于构建定制化的LLM流程。它支持快速构建LLM应用程序，并提供可扩展的组件集成。Flowise可以用于构建LLM链、问答检索链、语言翻译链等多种应用场景。它是一个免费的开源项目，适用于商业和个人使用。

构建和控制你自己的LLMs

xTuring是一个开源的人工智能个性化软件。xTuring通过提供简单的界面来为您的数据和应用程序个性化LLMs提供便利。xTuring提供了以下工具：使用不同方法微调LLMs、从数据源生成数据集、评估修改后的模型。xTuring的优势在于简单易用、计算和内存效率高、灵活可定制。xTuring可通过pip进行安装。

创建、测试、部署和扩展AI应用程序的AirOps Studio

AirOps Studio是一个功能强大的工具和工作流程平台，可以帮助用户快速创建、测试、部署和扩展AI应用程序。它提供了基于LLM的工作流程、工具和聊天代理，可用于处理各种任务。AirOps Studio的主要功能包括创建LLM驱动的工作流程、工具和聊天代理，以及快速部署和扩展应用程序。它还提供了丰富的文档和支持，以帮助用户更好地使用和理解平台。AirOps Studio的定价根据用户的使用情况而定，详情请查看官方网站。该产品定位于帮助用户快速创建和部署AI应用程序，提高工作效率。

在几分钟内构建AI应用程序

PostgresML是一个GPU加速的Postgres数据库，可帮助您快速构建AI应用程序。它简化了AI堆栈的复杂性，让您更快地进入市场。通过PostgresML，您可以使用各种机器学习模型，如文本分类、机器翻译、问题回答等。它还提供了可扩展性、高效性和安全性。了解更多信息，请访问官方网站。