产品库

快速易用的LLM推理和服务平台

vLLM是一个为大型语言模型(LLM)推理和提供服务的快速、易用且高效的库。它通过使用最新的服务吞吐量技术、高效的内存管理、连续批处理请求、CUDA/HIP图快速模型执行、量化技术、优化的CUDA内核等，提供了高性能的推理服务。vLLM支持与流行的HuggingFace模型无缝集成，支持多种解码算法，包括并行采样、束搜索等，支持张量并行性，适用于分布式推理，支持流式输出，并兼容OpenAI API服务器。此外，vLLM还支持NVIDIA和AMD GPU，以及实验性的前缀缓存和多lora支持。

无需编写代码即可创建智能代理的LLM工具。

Nerve是一个可以创建具有状态的代理的LLM工具，用户无需编写代码即可定义和执行复杂任务。它通过动态更新系统提示和在多个推理过程中保持状态，使代理能够规划和逐步执行完成任务所需的操作。Nerve支持任何通过ollama、groq或OpenAI API可访问的模型，具有高度的灵活性和效率，同时注重内存安全。

Sumr，一键摘要，高效获取网页核心信息。

Sumr是一个Safari浏览器插件，利用OpenAI API快速生成网页摘要，帮助用户高效获取文章核心内容。它无需切换应用或订阅ChatGPT，使用本地存储功能，节省时间和API使用成本。Sumr支持跨平台使用，包括iOS、iPadOS和macOS，并且用户可以自定义API密钥，实现成本效益的使用。

ComfyUI的节点，能够根据用户指令生成任何类型的输出。

AnyNode是一个为ComfyUI设计的插件，它利用LLMs（大型语言模型）的能力，根据用户的输入生成所需的输出。它支持使用OpenAI API或本地LLMs API，允许用户通过简单的配置和指令，实现复杂的编程任务，无需编写代码。该插件的主要优点包括易用性、灵活性和强大的功能，能够显著提高开发效率，尤其适合需要快速原型开发和自动化任务的开发者。

开源大型语言模型的托管、部署、构建和微调一站式解决方案。

AIKit 是一个开源工具，旨在简化大型语言模型（LLMs）的托管、部署、构建和微调过程。它提供了与OpenAI API兼容的REST API，支持多种推理能力和格式，使用户可以使用任何兼容的客户端发送请求。此外，AIKit 还提供了一个可扩展的微调接口，支持Unsloth，为用户提供快速、内存高效且易于使用的微调体验。

在本地运行GPT-4和基础模型，无需上传屏幕上下文。

AmbientGPT是一个革命性的编程辅助工具，它允许开发者在本地运行GPT-4和基础模型，同时能够直接推断屏幕上下文，从而无需手动上传上下文信息。这大大提高了代码编写和问题解决的效率。产品目前处于测试阶段，适用于拥有ARM64架构MacBook的开发者，并且需要一个兼容的OpenAI API密钥。

基于2千亿MoE模型的领先AI技术，提供超低价格和越级场景体验。

DeepSeek-V2是一款基于2千亿参数量的MoE（Mixture of Experts）模型的AI技术产品，它在对话官网和API上全面上线，提供领先性能和超低价格。该产品在中文综合能力（AlignBench）和英文综合能力（MT-Bench）的评测中表现出色，与GPT-4-Turbo等闭源模型处于同一梯队。DeepSeek-V2支持128K上下文的开源模型，而对话官网/API支持32K上下文。产品的主要优点包括即刻接入、能力卓越、价格低廉，并且兼容OpenAI API接口，提供丝滑的体验。

简化编码任务的ChatGPT提示生成

16x Prompt是一款桌面应用程序,旨在简化为ChatGPT创建编码任务提示的过程。用户可以轻松添加上下文、源代码和格式化说明。主要功能包括零设置即可使用、添加格式化说明、管理源代码、支持GPT-4和ChatGPT Plus、支持现有代码库、离线和本地化使用、提高生产力、与OpenAI API集成等。产品定位于开发人员,帮助他们利用ChatGPT在5分钟内完成编码任务。可免费下载使用,付费版本每日提示数不受限制。

一个由Open AI驱动的扩展，分析并执行与您当前标签页内容相关的操作，提升浏览体验。

Tab GPT是一个由Open AI驱动的Chrome插件，可分析并执行与您当前标签页内容相关的操作，提升浏览体验。通过自定义提示、快速操作和GPT驱动的人工智能功能，Tab GPT允许您轻松地对任何网页进行摘要、提问和提取信息。最大限度地提高您的在线生产力，将所需的见解轻松获取到手指尖，同时只需支付您使用的OpenAI API消耗量。

在搜索引擎结果中显示聊天助手响应

这是一个插件，可以在诸如Google、Bing、Yahoo等搜索引擎的结果中显示聊天助手的响应。它支持与ChatGPT进行对话并提供答案，支持使用官方OpenAI API，包括GPT 3.5 Turbo和GPT 4。可以直接从插件弹出窗口访问ChatGPT，支持Markdown渲染、代码高亮和暗黑模式。您可以通过自定义触发模式方便地将内容复制到剪贴板。

用户友好的LLMs WebUI

Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。

AI驱动的内容创作解决方案

ClarityWrite是一款使用OpenAI API驱动的开源SaaS脚本，可以解锁AI驱动的内容创作能力。它包含AI写作、AI图像、AI代码和转录等功能，提供500个内置模板，还配备强大的编辑器和管理工具。ClarityWrite通过简化内容创作流程，使内容制作更加高效和轻松。

AI艺术生成

欢迎来到AI艺术生成的世界！'Promptum - AI images feed'让您探索创作和分享AI生成艺术的可能性。通过我们的应用，您可以从我们庞大的AI生成图像或视频库中进行选择，或者使用OpenAI API或各种不同模型的选择来创建您自己的AI生成图像。此外，您还可以轻松与朋友和家人分享您的作品。释放您的创造力，探索AI生成艺术的世界吧！

快速轻松地撰写下一部小说

AIStoryBuilders是一个AI写作工具，可以根据你提供的角色、地点和背景信息生成内容。它可以帮助你克服创作障碍，提供创意和灵感，同时提供故事管理功能。这是一款性价比极高的使用AI写作的工具，只需支付OpenAI API的批发费用。

将OpenAI协议转换为Google Gemini Pro协议

Gemini-OpenAI-Proxy是一个代理软件。它旨在将OpenAI API协议调用转换为Google Gemini Pro协议,以便使用OpenAI协议的软件可以在不改变感知的情况下使用Gemini Pro模型。如果您有兴趣使用Google Gemini但不想修改软件,Gemini-OpenAI-Proxy是一个很好的选择。它允许您轻松地集成Google Gemini的强大功能,而无需进行任何复杂的开发工作。

SupaLaunch — 快速启动您的创业项目

SupaLaunch是一个集成了Supabase和NextJS的创业项目启动套件，包括OpenAI API流式化、Supabase认证、Stripe支付、Postgres数据库、邮件、文件存储等功能。您可以在几天内启动一个新的创业项目。

AI包装部署，分钟级完成

DeployFast是一个ML代码模板，使用FastAPI、Streamlit、Docker、ElevenLabs API和OpenAI API，可以帮助用户快速部署和演示人工智能应用。它可以轻松进行云端容器化，并且适用于从AI新手到忙碌专业人士的用户群。

在Windows上获得最佳的ChatGPT体验

EasyChat AI是一款第三方应用，为您在Windows平台上提供最佳的ChatGPT体验。它具有快速、响应迅速且令人惊叹的特点。您可以使用自己的OpenAI API密钥，随时准备启动。该应用提供了多种使用方式，包括免费下载、订阅和终身许可证。此外，它还支持Markdown，拥有优雅的暗黑模式，以及优质的UI设计。

一款免费工具，用于计算OpenAI API模型的成本。

OpenAI API 成本计算器是一个免费工具，可以用来计算不同OpenAI API模型的使用成本，包括GPT-4、GPT-3.5 Turbo、不同fine-tuning模型以及图像和音频处理模型。

React.js LLM Agent,使用GPT-4为你生成React组件

ReactAgent是一个基于GPT-4语言模型的实验性自动化代理,它可以根据用户故事生成和组合React组件。它使用React、TailwindCSS、Typescript、Radix UI、Shandcn UI和OpenAI API构建。遵循原子设计原则,以提高代码质量。

用OpenAI API生成故事、图片和音频

Tonight's Bedtime Story是一个使用OpenAI API生成故事、图片和音频的实验性产品。用户可以通过该产品创作自己的睡前故事。产品定位于提供轻松有趣的睡前娱乐体验。

多语言阅读的AI助手

EasyTranslator是一个基于OpenAI API的命令行工具，支持多种文件格式（包括.txt、.pdf、.docx、.md、.mobi和.epub）的翻译。它可以轻松地翻译文本文件，消除语言障碍。

将网页截图转换为Anki单词卡

FlashFlashCards是一个将任何网站或PDF的屏幕截图转换为单词卡，并自动将它们添加到Anki中的工具。目前处于Beta版本。安装FlashFlashCards后，您需要添加您的OpenAI API密钥，并安装Anki-Connect插件。使用方法为按下Control+Command+A进行截图，然后点击“生成单词卡”按钮，最后点击“添加到Anki”。

快速将LLM集成到生产应用

Merlin提供统一的API和SDK,用于将LLM/LLVM快速集成到生产应用中。性能高、可靠、易于使用。它可以在5分钟内将Google的Gemini SDK集成进去。提供20多个AI模型,无需管理多个API密钥,没有速率限制,也不必担心记忆窗口或记号计算。所有模型都遵循OpenAI API结构,误差率比OpenAI低10倍,零宕机时间。

个性化人工智能助手，让您的日常任务更轻松、更高效。

Wandee My AI Assistant是一款个性化人工智能助手应用，由尖端的OpenAI API、GPT3.5 Turbo和DALL·E 3支持。主要特点包括AI支持的协助、文本到语音集成、对话界面、学习和适应。用户只需向Wandee提出问题或提供提示，即可快速获得有用的响应。应用可用于获取信息、建议、聊天等，旨在改善用户的日常生活。新功能包括根据提示创建图像。

AI助手电话化，让交流更自然

Adola是一款将AI助手赋予电话号码和人类化声音的产品。通过Adola，用户可以为其AI助手提供电话号码，使其能够进行真实的语音对话。Adola以无与伦比的速度和易用性，以每月25美元的价格（包括25分钟通话时间）让先进的通讯变得负担得起。用户可以从多种美国电话号码中选择，并且只需输入OpenAI API密钥即可将AI助手与电话线连接。此外，Adola还提供了全面的通话分析、24/7可用性、可扩展的解决方案等功能。产品定位于为用户提供便捷、实惠、安全的AI电话化解决方案。

一种简单的一页式Web界面，用于OpenAI ChatGPT API。

ChatGPT-web是一个简单的一页式Web界面，用于OpenAI ChatGPT API。您需要先注册OpenAI API密钥才能使用它。OpenAI按照token计费（基于使用），这意味着它比ChatGPT Plus便宜得多，除非您每月使用超过1000万个token。所有消息都存储在浏览器的本地存储中，因此一切都是私密的。您还可以关闭浏览器标签，稍后回来继续对话。作为OpenAI的替代方案，您还可以使用Petals swarm作为免费的API选项，用于开放式聊天模型，如Llama 2。

在手机上绘制并构建网站

UIDraw 是一个可以在手机上绘制并构建网站的应用。它使用 GPT-4 Vision 和 PencilKit/PKCanvasView 来绘制用户界面并将其转换为 HTML 代码。用户可以通过绘制直观的界面来快速构建网站，实现简单易用的网站开发体验。UIDraw 还提供替代 OpenAI API 密钥的选项，使用户能够自由使用该应用。

跟踪AI API使用情况

Monitor AI是一款为使用OpenAI API的用户设计的应用程序。该应用帮助用户跟踪其API成本和使用情况。主要功能包括每日成本概览、可视化使用分析和小部件支持。该应用定价为$0.99，定位于帮助用户管理和优化API使用成本。