产品库

将LLM接入Comfy UI的插件

Tara是一款插件，可以将大型语言模型（LLM）接入到Comfy UI中，支持简单的API设置，并集成LLaVa模型。其中包含TaraPrompter节点用于生成精确结果、TaraApiKeyLoader节点管理API密钥、TaraApiKeySaver节点安全保存密钥、TaraDaisyChainNode节点串联输出实现复杂工作流。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

优质Figma UI Kits

UIAnts是一家提供高质量Figma UI Kits的公司，产品包括Avatar AI、Convo AI、GoGroceries、Crypto Valley等多个UI Kit。UIAnts的UI Kits提供了丰富的设计元素和界面模板，帮助用户在设计中实现完美的界面效果。

开源UI可视化工具，轻松构建定制化的LLM流程

Flowise是一个开源的UI可视化工具，使用LangchainJS编写，用于构建定制化的LLM流程。它支持快速构建LLM应用程序，并提供可扩展的组件集成。Flowise可以用于构建LLM链、问答检索链、语言翻译链等多种应用场景。它是一个免费的开源项目，适用于商业和个人使用。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

专注于UI/UX设计工具和资源分享的平台。

UI root是一个专注于提供UI/UX设计工具和资源的平台，帮助设计师提高工作效率和创造力。其主要优点包括丰富的设计工具、灵感资源和优质内容，定位于为设计师提供全面的支持和灵感。

将草图转化为 UI 代码

UI Sketcher 是一个可以将草图转化为 UI 代码的插件。它可以帮助用户快速将草图设计转化为可用的 UI 代码，提高开发效率。该插件支持在 Visual Studio Code 中使用，用户可以通过在插件中进行草图设计并转化为 UI 代码。UI Sketcher 支持下载安装，并提供详细的使用文档。该插件主要优势在于快速、高效地将草图转化为 UI 代码，提供了简单易用的界面和丰富的功能。

OpenAI聊天机器人UI

Chatbot UI是OpenAI ChatGPT UI的开源克隆版，允许用户插入API密钥以使用OpenAI的API。它仅用于与其API通信。

AI辅助的UI设计工具，支持暗色系UI设计。

FLUX_UI设计是一个利用AI技术辅助用户生成具有艺术感的UI设计模型。它特别适用于B端的深色UI设计，支持发光效果，能够生成具有专业感和技术感的电商管理界面。该模型通过数据可视化和商业洞察，为商家提供全面的运营决策支持。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

使用Ollama和Gradio UI的GraphRAG本地模型

GraphRAG-Ollama-UI是一个基于微软GraphRAG的本地模型适配版本，支持使用Ollama进行本地模型支持。它通过Gradio UI提供了一个交互式用户界面，使得用户可以更方便地管理数据、运行查询和可视化结果。该模型的主要优点包括本地模型支持、成本效益高、交互式用户界面、实时图可视化、文件管理、设置管理、输出探索和日志记录。

绘制UI并用GPT4生成HTML

这是一个使用 tldraw 和 gpt-4-vision api 根据您绘制的线框生成 html 的应用程序。可以快速创建静态网页的原型，并自动生成对应的HTML代码，提高前端开发效率。该工具简单易用，适合前端开发人员和UI设计师使用。定位于提升界面设计和开发效率，降低工作量。其工作原理是，只需获取当前画布 SVG，将其转换为 PNG，并将该 png 发送到 gpt-4-vision，并附有指令以返回带有 tailwind 的单个 html 文件。

智能图像识别API

Monster API是一个智能图像识别API，可以帮助开发者快速实现图像识别功能。它提供了多种功能，包括物体识别、人脸识别、文字识别等。优势是准确率高、响应速度快、易于集成。价格根据使用情况计费，具体请查看官方网站。Monster API的定位是为开发者提供强大的图像识别能力，帮助他们构建智能应用。

高精度将图片或PDF转换为Markdown文本或JSON结构化文档的API

pdf-extract-api是一个使用现代OCR技术和Ollama支持的模型将任何文档或图片转换为结构化的JSON或Markdown文本的API。它使用FastAPI构建，并使用Celery进行异步任务处理，Redis用于缓存OCR结果。该API无需云或外部依赖，所有处理都在本地开发或服务器环境中完成，确保数据安全。它支持PDF到Markdown的高精度转换，包括表格数据、数字或数学公式，并且可以使用Ollama支持的模型进行PDF到JSON的转换。此外，该API还支持LLM改进OCR结果，去除PDF中的个人身份信息（PII），以及分布式队列处理和缓存。

提供OpenAI和Claude模型支持的API服务。

API易是一个提供OpenAI和Claude模型支持的API服务平台，用户可以通过API接口调用这些模型进行各种AI任务。该平台具有稳定性高、价格优惠、无需代理即可使用等特点，适合需要AI模型支持的开发者和企业。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

ChatGPT更好的UI定制化工具

Botrush Custom Design for ChatGPT是一款为ChatGPT提供更好UI的插件，用户可以自定义颜色、字体、背景等，打造符合个人喜好的ChatGPT UI。功能包括25种暗色和亮色配色方案、25张高质量背景图、25种Google字体，支持自定义聊天窗口尺寸、字体大小和透明度等。

Gemini API的指南和示例集合

Gemini API Cookbook是一个包含Gemini API使用指南和示例的集合，旨在帮助开发者快速上手并使用Gemini API。这些示例大多数是用Python编写的Colab Notebooks，可以直接在Google Colab中打开或下载到本地环境中运行。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

简洁美观的OpenAPI/Swagger UI文档工具

openapi-ui是一个比Swagger UI更简洁美观的OpenAPI文档网站，它能够快速生成模拟参数并调用API请求，同时也是一个简化版的Postman工具。

AI音乐API

WarpSound是一款灵活的生成式AI音乐API，能够为无限的动态音乐内容、应用和体验提供动力。它采用行业领先的工作室级创作技术，使您能够通过API轻松创建高质量的音乐体验。WarpSound还提供多种定价方案，适用于不同的用户需求。

监控OpenAI API使用情况的工具

LLM Report是一个可以监控OpenAI API使用情况的工具。用户只需输入OpenAI API密钥，工具会直接从OpenAI API中获取数据并创建仪表板，无需安装任何软件。用户可以清楚地了解每个模型、API密钥和用户的费用情况，避免盲目消耗资源。LLM Report得到了全球2500多个用户和公司的认可。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

基于 Python 和 FastAPI 的非官方 Suno API。

SunoAPI 是一个基于 Python 和 FastAPI 的非官方 Suno API。它支持生成歌曲、歌词等功能，并带有内置的令牌维护和保持活跃功能，让您无需担心令牌过期。SunoAPI 采用全异步设计，运行速度快，适合后续扩展。用户可以轻松使用 API 生成各种音乐内容。

使用想象力描述UI,并实时查看渲染效果。

构建UI组件通常是一项乏味的工作。OpenUI旨在使这一过程变得有趣、快捷和灵活。这也是我们在W&B用于测试和原型化下一代工具的工具,用于在LLM的基础上构建强大的应用程序。您可以使用想象力描述UI,然后实时查看渲染效果。您可以要求进行更改,并将HTML转换为React、Svelte、Web组件等。就像是V0的开源和不太精致的版本。