产品库

Flapico是一个用于管理和评估提示的工具。

Flapico是一个用于版本控制、测试和评估提示的LLMOps平台。它为企业提供银行级别的安全性，旨在构建和发布LLM应用程序。

优化LLM应用的提示设计、测试和优化工具

Query Vary提供开发人员设计、测试和优化提示的工具，确保可靠性、降低延迟并优化成本。它具有强大的功能，包括比较不同的LLM模型、跟踪成本、延迟和质量、版本控制提示、将调优的LLM直接嵌入JavaScript等。Query Vary适用于个人开发者、初创公司和大型企业，提供灵活的定价计划。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

AI版本管理，自动化API和端点版本控制

apiversion.dev是一个基于人工智能的平台，可以自动化API和端点版本控制，确保准确和标准化的版本号。它提供全面的版本历史记录、语义版本控制、日历版本控制、增量版本控制等功能。同时，它还支持开发者反馈、沟通、更新监控、增强客户信心和提高开发效率。不同的定价计划适用于不同阶段的创业公司和企业。

开发平台，构建 LLM 应用

Vellum 是一个开发平台，用于构建 LLM 应用。它提供了快速工程、语义搜索、版本控制、测试和监控等工具，兼容所有主要的 LLM 提供商。Vellum 可以帮助您将 LLM 功能带入生产环境，支持迅速开发和部署 LLM 模型，同时提供质量测试和性能监控等功能。定价和定位请参考官方网站。

科学测试LLM提示，确保其健壮性、可靠性和安全性。

Prompt Hippo是一个专门用于测试大型语言模型（LLM）提示的工具，它通过科学的方法来确保提示的质量和效果。该工具可以节省用户在测试提示时的时间，提高工作效率。它还集成了LangServe，允许用户测试自定义代理并优化它们，确保它们在生产环境中的可靠性和安全性。

LLM prompt测试库

promptfoo是一个用于评估LLM prompt质量和进行测试的库。它能够帮助您创建测试用例，设置评估指标，并与现有的测试和CI流程集成。promptfoo还提供了一个Web Viewer，让您可以轻松地比较不同的prompt和模型输出。它被用于服务超过1000万用户的LLM应用程序。

WordPress插件构建工具，集成AI和版本控制。

BudCoder是一个为WordPress插件开发者设计的构建工具，它通过集成AI技术帮助用户快速创建和优化插件。该工具支持版本控制，允许开发者跟踪和管理代码的每个版本，提高开发效率和代码质量。

AI原生版本控制工具，提升代码协作效率。

gait是一个AI原生版本控制工具，它通过存储提示、上下文和代码的结合，帮助团队更容易理解和编辑AI生成的代码。gait自动保存AI代码生成对话，并通过版本控制与团队共享开发上下文。它支持GitHub Copilot和Cursor，并且提供了包括AI Blame、Codegen Analytics和Team Collaboration在内的多种功能。gait旨在通过AI技术提高开发人员的生产力，同时确保代码的版权和知识产权得到保护。

一键式GPT提示管理工具

Iterate是一个旨在简化GPT提示管理的网站，它允许用户存储、测试和分享GPT提示，通过一键操作来验证提示的一致性和质量，确保获得可靠的结果。它支持版本控制，方便用户调整每个词和句子，而不会丢失进度。此外，它还支持团队协作，使得每个团队成员都能成为提示工程的专家。

AI模型测试评估工具

Openlayer是一个评估工具，适用于您的开发和生产流程，帮助您自信地发布高质量的模型。它提供强大的测试、评估和可观察性，无需猜测您的提示是否足够好。支持LLMs、文本分类、表格分类、表格回归等功能。通过实时通知让您在AI模型失败时获得通知，让您自信地发布。

用于记录和测试LLM提示的MLops工具

Prompt Joy是一个用于帮助理解和调试LLM(大语言模型)提示的工具。主要功能包括日志记录和分割测试。日志记录可以记录LLM的请求与响应,便于检查输出结果。分割测试可以轻松进行A/B测试,找出效果最佳的提示。它与具体的LLM解耦,可以配合OpenAI、Anthropic等LLM使用。它提供了日志和分割测试的API。采用Node.js+PostgreSQL构建。

AI Prompt管理与版本跟踪

PromptGround是一个简化AI Prompt管理的平台，集成版本跟踪和测试功能于一体，提供协作和版本控制，让AI Prompt的管理更加简单高效。平台提供结构化的项目管理工具，可自定义Prompt变量，无缝集成到现有项目中。通过详细的分析和洞察，帮助用户了解Prompt的性能和用户参与度，以便不断改进。平台适用于开发人员、Prompt工程师和团队，旨在简化Prompt管理流程。

LLM平台，助力AI产品创造惊艳用户体验

Parea AI是一个LLM平台，帮助开发者通过严格的测试和版本控制来改进LLM应用的性能。它提供了实验不同提示版本、评估和比较不同测试用例的提示、一键优化提示、分享等功能。通过Parea，您可以优化AI开发工作流程，提高生产力。

开发LLM应用的平台

Vellum是一个用于构建LLM驱动应用的开发平台。它具有提示工程、语义搜索、版本控制、测试和监控等工具,可以帮助开发者将LLM的功能引入生产环境。它与所有主要的LLM提供商兼容,开发者可以选择最适合的模型,也可以随时切换,避免业务过于依赖单一的LLM提供商。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

mutatio是一个AI提示工程平台，帮助AI工程师系统测试，衡量和优化提示。

mutatio是一个现代LLM提示实验平台，可帮助用户Craft，refine和optimize他们的AI提示。它允许用户创建和测试各种提示变异，以提高AI的输出质量。

大语言模型的提示工程指南

提示工程指南是一份全面介绍提示工程的指南，包括基本概念、设计提示的通用技巧、提示技术、提示应用等内容。它帮助用户更好地了解大型语言模型的能力和局限性，并掌握与大语言模型交互和研发的各种技能和技术。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

一站式构建、部署和测试提示语的工具。

BasicPrompt是一个可以帮助您构建、部署和测试通用提示语的工具。它提供了一个编辑器，您可以使用其中的U块来编写通用的提示语。BasicPrompt会自动优化您的提示语以适应不同的语言模型。您可以通过内置的测试工具来评估提示语在不同模型上的性能。BasicPrompt还支持一键部署提示语到应用程序中，无需编码。通过BasicPrompt，您可以快速构建、部署和共享提示语，让团队成员轻松贡献。

探索优化的商业和个人任务提示。

Anthropic的提示库是一个在线平台，提供针对各种商业和个人任务优化的提示。它通过用户提交的提示，帮助用户更高效地完成任务，提高工作效率。平台支持多种任务类型，从编程、写作到商业分析等，是一个多功能的辅助工具。

创建、优化、测试和分享 AI 提示

ZenPrompts 是一款强大的提示编辑器，帮助您创建、优化、测试和分享提示。通过比较多个模型输出、展示提示作品集、实验提示版本、与他人分享提示、使用动态变量优化提示结构和添加注释记录，ZenPrompts 让您成为专业的提示工程师。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

一站式LLM开发自动化平台

Pulze.ai是一站式LLM开发自动化平台，提供单一API，将所有最佳LLM插入您的产品，并在几分钟内简化您的LLM功能开发。Pulze.ai的API遵循LLMOps最佳实践，并使您的团队轻松使用。Pulze.ai允许您一次测试所有最佳模型，以加速开发。您可以在Pulze.ai内动态控制预算和成本目标，并在扩展时保护您的利润。Pulze.ai还提供企业级安全性，以管理所有用户数据的数据隐私和安全性。Pulze.ai提供了多个功能点，如上传数据源、优化结果、一键部署、实时跟踪和版本控制等。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

W&B Prompts: 高效生产级 LLM 操作

W&B Prompts 是 W&B 的最新产品，专注于 LLM（Language Model）技术。它提供了生产级的 LLM 操作，帮助用户解锁更好的 LLM 性能和提示工程。W&B Prompts 提供强大的功能和优势，定价灵活，适用于各种应用场景。

您最佳的Midjourney绘画提示词辅助工具

喵呜助手是一个可对复杂的 Midjourney 绘画提示词进行可视化编辑和二次修改的工具。它帮助用户更好地创作绘画作品，提供功能强大的提示词编辑和二次修改功能。喵呜助手还提供了各种绘画使用场景的示例和标签，方便用户选择和应用。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。