产品库

LLM驱动的主代理框架

Agent M是一个强大的大型语言模型或ChatGPT驱动的主代理开发框架,可让您创建多个基于LLM的代理。Agent Mbetween多个执行各种任务的代理之间进行编排,例如基于自然语言的API调用,连接到您的数据并帮助自动化复杂的对话。

无需编写代码即可创建智能代理的LLM工具。

Nerve是一个可以创建具有状态的代理的LLM工具，用户无需编写代码即可定义和执行复杂任务。它通过动态更新系统提示和在多个推理过程中保持状态，使代理能够规划和逐步执行完成任务所需的操作。Nerve支持任何通过ollama、groq或OpenAI API可访问的模型，具有高度的灵活性和效率，同时注重内存安全。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

100% Java实现的LLM代理和大型行动模型

Tools4AI是100%用Java实现的大型行动模型(LAM),可作为企业Java应用程序的LLM代理。该项目演示了如何将AI与企业工具或外部工具集成,将自然语言提示转换为可执行行为。这些提示可以被称为"行动提示"或"可执行提示"。通过利用AI能力,它简化了用户与复杂系统的交互,提高了生产力和创新能力。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

HuggingFace的全新AI代理框架，助力开发者轻松创建强大AI代理。

Smolagents是Hugging Face团队开发的极简AI代理框架，旨在让开发者仅用少量代码就能部署强大的代理。它专注于代码代理，即代理通过编写和执行Python代码片段来执行任务，而非生成JSON或文本块。这种模式利用了大型语言模型（LLMs）生成和理解代码的能力，提供了更好的组合性、灵活性以及丰富的训练数据利用，能高效处理复杂逻辑和对象管理。Smolagents与Hugging Face Hub深度集成，便于工具的分享和加载，促进社区协作。此外，它还支持传统工具调用代理，兼容多种LLMs，包括Hugging Face Hub上的模型以及OpenAI、Anthropic等通过LiteLLM集成的模型。Smolagents的出现，降低了AI代理开发的门槛，使开发者能够更便捷地构建和部署AI驱动的应用程序。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

快速部署会说话的AI代理

ElevenLabs Conversational AI是一款能够快速部署在网页、移动设备或电话上的语音代理产品。它以低延迟、全配置性和无缝扩展性为特点，支持自然对话中的轮流发言和打断处理，适用于嘈杂环境中的不可预测对话。产品结合了语音转文本、大型语言模型（LLM）和文本转语音技术，支持多语言和自定义声音，适用于客户支持、调度、外呼销售等多种场景。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

帮助您打造AI代理

Tradomate AI是一款专注于帮助用户构建AI代理的人工智能产品。通过提供先进的技术解决方案，帮助用户快速、高效地搭建个性化的AI代理，并提供灵活的定价方案。定位于为各行业提供定制化的AI解决方案。

设计、部署和优化LLM应用与Klu

Klu是一款全能的LLM应用平台，可以在Klu上快速构建、评估和优化基于LLM技术的应用。它提供了多种最先进的LLM模型选择，让用户可以根据自己的需求进行选择和调整。Klu还支持团队协作、版本管理、数据评估等功能，为AI团队提供了一个全面而便捷的开发平台。

AI代理增加销售演示

GetCustomer.AI是一款AI代理工具，通过个性化销售演示，提高销售回复率。它可以自动处理潜在客户的问题，预定销售演示，并提供无缝个性化体验，从而增加转化率和收入。使用GetCustomer.AI，您可以轻松应对销售前期的重复问题，节省宝贵时间专注于核心销售活动和成交。体验我们的个性化外展解决方案，将您的回复率提高三倍，获得更多销售机会和业务增长。

监控和调试你的LLM模型

Athina AI是一个用于监控和调试LLM（大型语言模型）模型的工具。它可以帮助你发现和修复LLM模型在生产环境中的幻觉和错误，并提供详细的分析和改进建议。Athina AI支持多种LLM模型，可以配置定制化的评估来满足不同的使用场景。你可以通过Athina AI来检测错误的输出、分析成本和准确性、调试模型输出、探索对话内容以及比较不同模型的性能表现等。

AI代理和多代理系统的无限画布

Canvas by MindPal是一个为现代专业人士提供AI解决方案的平台，旨在提高工作效率。它突破了线性聊天的限制，提供了一个无限的画布，让用户可以同时运行多个AI代理和多代理系统。这个平台允许用户以更符合人类思维的方式与AI互动，通过并行或顺序运行AI代理来实现复杂的工作流程。产品背景信息显示，MindPal致力于通过AI技术帮助用户打破线性限制，重新想象AI的可能性。价格方面，目前有黑五促销活动，所有年度计划享受60%的折扣。

LLM应用开发者平台

LangSmith是一个统一的DevOps平台,用于开发、协作、测试、部署和监控LLM应用程序。它支持LLM应用程序开发生命周期的所有阶段,为构建LLM应用提供端到端的解决方案。主要功能包括:链路追踪、提示工具、数据集、自动评估、线上部署等。适用于构建基于LLM的AI助手、 ChatGPT应用的开发者。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

构建LLM应用的框架

LlamaIndex.TS是一个为构建基于大型语言模型（LLM）的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面，用于连接人类和推断出的数据，使得开发者无需成为机器学习或自然语言处理的专家，也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。

科学测试LLM提示，确保其健壮性、可靠性和安全性。

Prompt Hippo是一个专门用于测试大型语言模型（LLM）提示的工具，它通过科学的方法来确保提示的质量和效果。该工具可以节省用户在测试提示时的时间，提高工作效率。它还集成了LangServe，允许用户测试自定义代理并优化它们，确保它们在生产环境中的可靠性和安全性。

用于记录和测试LLM提示的MLops工具

Prompt Joy是一个用于帮助理解和调试LLM(大语言模型)提示的工具。主要功能包括日志记录和分割测试。日志记录可以记录LLM的请求与响应,便于检查输出结果。分割测试可以轻松进行A/B测试,找出效果最佳的提示。它与具体的LLM解耦,可以配合OpenAI、Anthropic等LLM使用。它提供了日志和分割测试的API。采用Node.js+PostgreSQL构建。

企业软件开发的AI LLM平台

Lamini是一款面向企业软件开发的AI LLM平台，利用生成式人工智能和机器学习技术，自动化工作流程，优化软件开发过程，提高生产效率。体验Lamini，感受软件开发的未来。

无需技术技能即可创建AI代理自动化工作流程。

GenFuse AI是一个无需代码的AI代理构建平台，由前谷歌工程师打造，支持OpenAI、Gemini等多种语言模型，并定期添加新模型。用户可以通过拖拽、连接预构建的AI代理来创建多代理工作流程自动化，无需任何编码。平台提供预构建模板，用户可以快速实现结果，并根据需要进行定制。GenFuse AI处理构建AI自动化的复杂性，让用户专注于业务增长。产品背景信息包括由经验丰富的工程师团队开发，注重数据安全和隐私保护，提供本地部署选项。价格方面，GenFuse AI提供免费试用，用户可以创建账户后开始使用。

基于LLM的代理框架，用于在代码库中执行大规模代码迁移。

Aviator Agents 是一款专注于代码迁移的编程工具。它通过集成LLM技术，能够直接与GitHub连接，支持多种模型，如Open-AI o1、Claude Sonnet 3.5、Llama 3.1和DeepSeek R1。该工具可以自动执行代码迁移任务，包括搜索代码依赖、优化代码、生成PR等，极大提高了代码迁移的效率和准确性。它主要面向开发团队，帮助他们高效完成代码迁移工作，节省时间和精力。

AI驱动的电话通话代理

AutoCalls.ai是一款革命性的电话通信解决方案，利用先进的人工智能技术管理和自动化电话交互。它提供了AI驱动的电话通话代理，可以优化客户支持和销售呼叫，提高效率和用户体验。AutoCalls.ai还具有可定制的Bot蓝图，深度学习分析和可视化流程构建器，帮助用户实现精准和定制化的电话交互。

AI智能代理的微调平台

Finetune是一个面向开发者的AI智能代理微调平台，它通过创建反映客户特征的合成用户，让开发者的智能代理在模拟环境中进行测试和学习。平台提供会话报告和加权执行图，帮助开发者了解代理的性能并进行优化。此外，Finetune支持多种流行的AI模型和框架，使得集成和部署过程更加便捷。