产品库

随时随地，一键生成文本。

InlineGPT是一个插件，它允许用户在任何应用程序中通过快捷键快速生成文本。它利用OpenAI的API，将选定的文本作为提示，生成新的文本输出，极大地提高了写作和文本编辑的效率。产品背景是解决用户在不同应用程序间切换的不便，提供一种无缝的文本生成体验。InlineGPT目前是免费的，用户只需提供OpenAI API密钥即可使用。

快速易用的LLM推理和服务平台

vLLM是一个为大型语言模型(LLM)推理和提供服务的快速、易用且高效的库。它通过使用最新的服务吞吐量技术、高效的内存管理、连续批处理请求、CUDA/HIP图快速模型执行、量化技术、优化的CUDA内核等，提供了高性能的推理服务。vLLM支持与流行的HuggingFace模型无缝集成，支持多种解码算法，包括并行采样、束搜索等，支持张量并行性，适用于分布式推理，支持流式输出，并兼容OpenAI API服务器。此外，vLLM还支持NVIDIA和AMD GPU，以及实验性的前缀缓存和多lora支持。

使用GPT解析PDF为Markdown

gptpdf是一个利用大型视觉语言模型（如GPT-4o）将PDF文件解析为Markdown格式的工具。它通过PyMuPDF库识别非文本区域，并使用OpenAI API进行内容解析，几乎可以完美地处理排版、数学公式、表格、图片和图表等。平均成本为每页0.013美元，具有高效和低成本的特点。

无需编写代码即可创建智能代理的LLM工具。

Nerve是一个可以创建具有状态的代理的LLM工具，用户无需编写代码即可定义和执行复杂任务。它通过动态更新系统提示和在多个推理过程中保持状态，使代理能够规划和逐步执行完成任务所需的操作。Nerve支持任何通过ollama、groq或OpenAI API可访问的模型，具有高度的灵活性和效率，同时注重内存安全。

AI时代的命令行助手

Agent Mode是Warp AI的一个特性，它允许用户使用自然语言在终端中完成多步骤工作流程。它能够识别和解释自然语言指令，提供环境特定的指导，并引导用户完成多步骤任务。Agent Mode利用OpenAI的API，但不会存储或保留用户的输入或输出数据。

Sumr，一键摘要，高效获取网页核心信息。

Sumr是一个Safari浏览器插件，利用OpenAI API快速生成网页摘要，帮助用户高效获取文章核心内容。它无需切换应用或订阅ChatGPT，使用本地存储功能，节省时间和API使用成本。Sumr支持跨平台使用，包括iOS、iPadOS和macOS，并且用户可以自定义API密钥，实现成本效益的使用。

一键部署，开箱即用的多平台大模型API适配器。

simple-one-api是一个适配多种大模型接口的程序，支持OpenAI接口，允许用户通过统一的API格式调用不同的大模型服务，简化了不同平台接口差异带来的复杂性。它支持包括千帆大模型平台、讯飞星火大模型、腾讯混元大模型等在内的多个平台，并且提供了一键部署和开箱即用的便利性。

AI项目成本计算器，比较不同AI模型的成本。

OpenAI和其他大型语言模型(LLM)API的成本计算器，帮助企业和开发者评估和比较不同AI模型在项目中的成本。该工具提供了包括OpenAI、Azure、Anthropic、Llama 3、Google Gemini、Mistral和Cohere等在内的多个模型的价格计算。它基于输入的token数、输出的token数和API调用次数来计算成本。

ComfyUI的节点，能够根据用户指令生成任何类型的输出。

AnyNode是一个为ComfyUI设计的插件，它利用LLMs（大型语言模型）的能力，根据用户的输入生成所需的输出。它支持使用OpenAI API或本地LLMs API，允许用户通过简单的配置和指令，实现复杂的编程任务，无需编写代码。该插件的主要优点包括易用性、灵活性和强大的功能，能够显著提高开发效率，尤其适合需要快速原型开发和自动化任务的开发者。

开源大型语言模型的托管、部署、构建和微调一站式解决方案。

AIKit 是一个开源工具，旨在简化大型语言模型（LLMs）的托管、部署、构建和微调过程。它提供了与OpenAI API兼容的REST API，支持多种推理能力和格式，使用户可以使用任何兼容的客户端发送请求。此外，AIKit 还提供了一个可扩展的微调接口，支持Unsloth，为用户提供快速、内存高效且易于使用的微调体验。

汇总和比较全球主要AI模型提供商的价格信息

AIGCRank大语言模型API价格对比是一个专门汇总和比较全球主要AI模型提供商的价格信息的工具。它为用户提供最新的大语言模型（LLM）的价格数据，包括一些免费的AI大模型API。通过这个平台，用户可以轻松查找和比较OpenAI、Claude、Mixtral、Kimi、星火大模型、通义千问、文心一语、Llama 3、GPT-4、AWS和Google等国内外主要API提供商的最新价格，确保找到最适合自己项目的模型定价。

在本地运行GPT-4和基础模型，无需上传屏幕上下文。

AmbientGPT是一个革命性的编程辅助工具，它允许开发者在本地运行GPT-4和基础模型，同时能够直接推断屏幕上下文，从而无需手动上传上下文信息。这大大提高了代码编写和问题解决的效率。产品目前处于测试阶段，适用于拥有ARM64架构MacBook的开发者，并且需要一个兼容的OpenAI API密钥。

基于2千亿MoE模型的领先AI技术，提供超低价格和越级场景体验。

DeepSeek-V2是一款基于2千亿参数量的MoE（Mixture of Experts）模型的AI技术产品，它在对话官网和API上全面上线，提供领先性能和超低价格。该产品在中文综合能力（AlignBench）和英文综合能力（MT-Bench）的评测中表现出色，与GPT-4-Turbo等闭源模型处于同一梯队。DeepSeek-V2支持128K上下文的开源模型，而对话官网/API支持32K上下文。产品的主要优点包括即刻接入、能力卓越、价格低廉，并且兼容OpenAI API接口，提供丝滑的体验。

使用OpenAI Assistants API和Next.js快速搭建聊天机器人应用

OpenAI Assistants API quickstart with Next.js 是一个使用OpenAI的Assistants API和Next.js框架快速搭建聊天机器人的模板项目。它支持流式传输、代码解释器和文件搜索等高级功能，旨在展示如何在Next.js应用中集成OpenAI的强大能力。

一款私人且离线的AI个人知识管理桌面应用

Reor是一个AI驱动的桌面笔记应用，它通过自动链接相关笔记、回答笔记上的问题、提供语义搜索以及生成AI闪卡来增强个人的知识管理。所有数据本地存储，支持类似Obsidian的Markdown编辑器。Reor项目的核心假设是，思考工具的AI模型应默认在本地运行。它利用了Ollama、Transformers.js和LanceDB等技术，使得大型语言模型（LLM）和嵌入模型能够在本地运行。同时，也支持连接到OpenAI或兼容的API，如Oobabooga。

使用OpenAI、Claude 3和Azure等模型构建AI助手，轻松连接工具和数据库，并将其作为API聊天机器人或HTML嵌入式小部件发布

AI助手构建器使用OpenAI、Claude和Azure等模型，提供了一个简单的无代码方式来构建AI助手。它可以轻松连接到您的工具和数据库，并以API聊天机器人或HTML嵌入式小部件的形式发布。它具有灵活的低代码功能，可以满足各种需求。

开源项目，实现AI音乐服务的API接口

Suno API是一个开源项目，允许用户设置自己的Suno AI音乐服务API。它实现了app.suno.ai的创建API，兼容OpenAI的API格式，支持自定义模式，一键部署到Vercel，并且拥有开放源代码许可证，允许自由集成和修改。

AI预算优化工具，比较和计算大型语言模型API的最新价格。

LLM Price Check是一个在线工具，它允许用户比较和计算不同大型语言模型（LLM）API的价格，这些API由领先的提供商如OpenAI、Anthropic、Google等提供。该工具可以帮助用户优化他们的AI预算，通过比较不同模型的价格和性能，用户可以做出更明智的选择。

自托管的开源OpenAI替代品，支持文本、音频、图像生成

LocalAI 是一个自托管的开源 OpenAI 替代品，可在消费级硬件上运行，支持本地或本地部署的文本、音频、图像生成。它提供了 GPT 等模型的文本生成功能，同时支持文本转语音、图像生成等多种功能。由于其开源自托管的特性，用户可以自由定制和部署，不受云端 API 限制，适合对数据隐私和安全性有要求的用户。LocalAI 的定位是为那些寻求自主控制、不依赖于第三方服务的个人用户或组织提供强大的 AI 生成能力。

OpenAI GPT-3 API的网络界面,极受欢迎的提示工程工具

GPT-3 Playground是OpenAI的GPT-3 API的网络界面,可能是最早并最为人熟知的提示工程工具。它提供了一个简洁的界面,可以调整GPT-3的不同参数和行为。也可以访问不同大小和价格的GPT模型。他们提供免费的积分,但3个月后到期。

简化编码任务的ChatGPT提示生成

16x Prompt是一款桌面应用程序,旨在简化为ChatGPT创建编码任务提示的过程。用户可以轻松添加上下文、源代码和格式化说明。主要功能包括零设置即可使用、添加格式化说明、管理源代码、支持GPT-4和ChatGPT Plus、支持现有代码库、离线和本地化使用、提高生产力、与OpenAI API集成等。产品定位于开发人员,帮助他们利用ChatGPT在5分钟内完成编码任务。可免费下载使用,付费版本每日提示数不受限制。

为团队协作设计的轻量级ChatGPT替代品

Joia是一个为团队协作设计的轻量级ChatGPT替代品，注重隐私保护且开源。它允许用户轻松地为组织中的每个人提供AI聊天访问权限，创建特定用途的聊天机器人并与团队共享。Joia直接与OpenAI等大型语言模型提供商通过API链接，只按实际使用的令牌付费，相比ChatGPT的定价计划可节省高达75%的订阅成本。

一个由Open AI驱动的扩展，分析并执行与您当前标签页内容相关的操作，提升浏览体验。

Tab GPT是一个由Open AI驱动的Chrome插件，可分析并执行与您当前标签页内容相关的操作，提升浏览体验。通过自定义提示、快速操作和GPT驱动的人工智能功能，Tab GPT允许您轻松地对任何网页进行摘要、提问和提取信息。最大限度地提高您的在线生产力，将所需的见解轻松获取到手指尖，同时只需支付您使用的OpenAI API消耗量。

在搜索引擎结果中显示聊天助手响应

这是一个插件，可以在诸如Google、Bing、Yahoo等搜索引擎的结果中显示聊天助手的响应。它支持与ChatGPT进行对话并提供答案，支持使用官方OpenAI API，包括GPT 3.5 Turbo和GPT 4。可以直接从插件弹出窗口访问ChatGPT，支持Markdown渲染、代码高亮和暗黑模式。您可以通过自定义触发模式方便地将内容复制到剪贴板。

用户友好的LLMs WebUI

Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。

AI驱动的内容创作解决方案

ClarityWrite是一款使用OpenAI API驱动的开源SaaS脚本，可以解锁AI驱动的内容创作能力。它包含AI写作、AI图像、AI代码和转录等功能，提供500个内置模板，还配备强大的编辑器和管理工具。ClarityWrite通过简化内容创作流程，使内容制作更加高效和轻松。

100个AI模型，1个API，最高可访问性

aimlapi.com是一个AI模型平台，通过1个API可以访问100多个AI模型。该平台提供低延迟、全天候访问的AI服务，可节省高达80%的成本。AI模型包括高级LLM、语音转文字、文字转语音、聊天机器人和图像生成等功能。定价简单明了，为开发者提供最低市场价格。支持与OpenAI兼容，无缝切换使用。适用于各种场景，包括聊天、语音、图像等。支持快速响应和高效扩展，保证99%的运行时间。欢迎免费试用1个月。

Ollama能在Windows本地运行大型AI模型

Ollama是一个开源项目,能够在Windows本地运行各类大型AI模型,支持GPU加速,内置OpenAI模型兼容层,提供永久在线的API。用户可以无缝访问Ollama的完整模型库,进行图片和语音交互。Ollama免配置就能获得强大的AI能力,帮助开发者和创作者在Windows上构建AI应用。