产品库

LLMOps全球社区

LLMOps.Space是一个全球社区，面向LLM从业者和爱好者。社区聚焦于关于将LLM部署到生产环境的内容、讨论和活动。加入LLMOps Discord服务器，认识其他社区成员并参与讨论。社区提供有关LLM的教育资源、LLM公司和产品信息、即将举行的演讲和演示活动，以及LLM咨询师和相关事件的列表。

自托管的AI界面，完全离线操作，适应您的工作流程。

Open WebUI是一个可扩展的、自托管的人工智能界面，完全在离线状态下运行，能够适应用户的工作流程。它提供了多种功能和模型，包括文档阅读、代码编写、心理健康分析等，旨在提高用户的工作效率和生活质量。产品背景信息显示，Open WebUI拥有超过97K的用户，并且持续更新和扩展其功能。

Sidecar是Aide编辑器的AI大脑，与编辑器协同工作。

Sidecar是为Aide编辑器设计的人工智能插件，它在本地机器上与编辑器一起工作，负责创建提示、与大型语言模型（LLM）通信以及处理它们之间的所有交互。Sidecar的主要优点包括提高编程效率、智能代码补全和集成化的AI辅助开发。它基于Rust语言开发，确保了性能和安全性。Sidecar适用于需要在本地机器上进行高效编程和代码管理的开发者。

漫画阅读与支持平台

comilio是一个漫画阅读平台，用户可以在这里阅读各种漫画作品，同时也能对喜欢的漫画家进行支持。该平台以其丰富的漫画资源和便捷的阅读体验受到用户的喜爱。此外，上传的漫画会利用图像识别等技术快速自动翻译成全球多种语言。它不仅提供了一个漫画爱好者交流的社区，还为漫画家提供了展示作品和获得收入的机会。comilio以其用户友好的界面和高质量的内容，在漫画阅读领域占有一席之地。

AI内容审核服务，保护下游部署安全。

Mistral Moderation API是Mistral AI推出的内容审核服务，旨在帮助用户检测和过滤不受欢迎的文本内容。该API是Le Chat中使用的审核服务的同一技术，现在对外开放，以便用户可以根据特定的应用和安全标准定制和使用这一工具。该模型是一个基于LLM（大型语言模型）的分类器，能够将文本输入分类到9个预定义的类别中。Mistral AI的这一API支持原生多语言，特别针对阿拉伯语、中文、英语、法语、德语、意大利语、日语、韩语、葡萄牙语、俄语和西班牙语进行了训练。该API的主要优点包括提高审核的可扩展性和鲁棒性，以及通过技术文档提供的详细政策定义和启动指南，帮助用户有效实施系统级的安全防护。

利用LLM读取源代码并提供问题解答

askrepo是一个基于LLM（大型语言模型）的源代码阅读工具，它能够读取Git管理的文本文件内容，发送至Google Gemini API，并根据指定的提示提供问题的答案。该产品代表了自然语言处理和机器学习技术在代码分析领域的应用，其主要优点包括能够理解和解释代码的功能，帮助开发者快速理解新项目或复杂代码库。产品背景信息显示，askrepo适用于需要深入理解代码的场景，尤其是在代码审查和维护阶段。该产品是开源的，可以免费使用。

高精度将图片或PDF转换为Markdown文本或JSON结构化文档的API

pdf-extract-api是一个使用现代OCR技术和Ollama支持的模型将任何文档或图片转换为结构化的JSON或Markdown文本的API。它使用FastAPI构建，并使用Celery进行异步任务处理，Redis用于缓存OCR结果。该API无需云或外部依赖，所有处理都在本地开发或服务器环境中完成，确保数据安全。它支持PDF到Markdown的高精度转换，包括表格数据、数字或数学公式，并且可以使用Ollama支持的模型进行PDF到JSON的转换。此外，该API还支持LLM改进OCR结果，去除PDF中的个人身份信息（PII），以及分布式队列处理和缓存。

国内领先的LLM一站式企业解决方案

Chat Nio是一个国内领先的LLM（Large Language Model）一站式企业解决方案，提供强大的AI集成工具，支持35+主流AI模型，涵盖文本生成、图像创作、音频处理和视频编辑等领域，并支持私有化部署和中转服务。它为开发者、个人用户和企业提供定制化的AI解决方案，包括但不限于多租户令牌分发、计费管理系统、深度集成Midjourney Proxy Plus绘画功能、全方位调用日志记录系统等。Chat Nio以其多功能性、灵活性和易用性，满足企业和团队的多样化需求，帮助他们高效开发和部署AI应用。

AI驱动的个性化健身训练APP

Kiwi Fitness是一款结合AI技术和健身训练的应用程序，它通过个性化的健身计划和游戏化元素，帮助用户提高体能和健康。产品背景信息显示，Kiwi Fitness利用研究支持的训练方法和引人入胜的内容，创建能够有效提升力量、耐力、灵活性和整体健康的健身程序。此外，它还提供了一个社交网络，让用户可以分享健身成果，跟随朋友的进步，并在支持性的社区中庆祝成就。Kiwi Fitness的价格定位是免费试用，用户可以通过应用商店下载体验。

开源全栈平台，为打造顶级LLM产品提供支持

Laminar是一个开源的全栈平台，专注于从第一性原理出发进行AI工程。它帮助用户收集、理解和使用数据，以提高大型语言模型（LLM）应用的质量。Laminar支持对文本和图像模型的追踪，并且即将支持音频模型。产品的主要优点包括零开销的可观测性、在线评估、数据集构建和LLM链管理。Laminar完全开源，易于自托管，适合需要构建和管理LLM产品的开发者和团队。

开源人工智能定义，推动AI领域的开放与合作

Open Source AI Definition（OSAID）是由Open Source Initiative（OSI）发布的行业首个开源人工智能定义。它提供了一个标准，通过社区领导的开放和公共评估来验证一个AI系统是否可以被认为是开源AI。OSAID v1.0的发布是多年研究和合作的结果，经过国际研讨会和为期一年的共同设计过程。这个定义要求开源模型提供足够的训练数据信息，以便熟练的人可以使用相同或类似的数据重建一个大致等效的系统。OSAID的发布对于推动AI领域的开放性、透明度和合作具有重要意义，它强调了开源原则在AI发展中的核心地位，并为独立机器学习研究人员和大型AI开发者之间的透明度提供了支持。

AI驱动的小说阅读平台

WhatNovel是一个利用人工智能技术增强的小说阅读平台，它通过AI技术为用户提供个性化的小说推荐、智能问答、社区讨论等功能，旨在提升用户的阅读体验，帮助他们更深入地了解和参与到小说的世界中。该平台拥有超过1000万的AI增强章节阅读量，覆盖50多个国家，98%的用户愿意推荐给其他小说爱好者。

A tool for integrating private data with AI large language models.

Dabarqus是一个Retrieval Augmented Generation（RAG）框架，它允许用户将私有数据实时提供给大型语言模型（LLM）。这个工具通过提供REST API、SDKs和CLI工具，使得用户能够轻松地将各种数据源（如PDF、电子邮件和原始数据）存储到语义索引中，称为“记忆库”。Dabarqus支持LLM风格的提示，使用户能够以简单的方式与记忆库进行交互，而无需构建特殊的查询或学习新的查询语言。此外，Dabarqus还支持多语义索引（记忆库）的创建和使用，使得数据可以根据主题、类别或其他分组方式进行组织。Dabarqus的产品背景信息显示，它旨在简化私有数据与AI语言模型的集成过程，提高数据检索的效率和准确性。

基于位置的社交分享APP，连接你与周围的世界。

StuntMark是一款基于位置的社交分享应用，使用人工智能情感分析来分析基于位置的内容。它允许用户发现并分享周围的帖子，增强对周边环境的意识。这款应用通过位置服务，让用户能够实时更新并查看附近的帖子，无论是探索新地点、评论事件还是分享个人想法，都能轻松实现。主要优点包括实时位置更新、基于地址的帖子分享、表情评论、内容转发以及增强本地兴趣意识。背景信息显示，该应用由Aivent LLC开发，支持iOS 17.5或更高版本，并且是免费的。

教育滚动应用，用学习取代浪费时间

JustLearn是一个教育性质的滚动应用，旨在用快速、有趣且共享的学习机会替代我们在社交媒体上的无效时间消耗。开发者通过观察到许多人在社交媒体上浪费大量时间，决定创建一个平台，让人们在短短5分钟内学到新知识，就像刷TikTok一样轻松有趣。JustLearn提供选择话题、浏览验证过的视频、回答问题、进行测验和参加由顶尖教授制作的迷你课程等功能，让用户在短时间内学到超过90%的人一天所学。产品背景是创造一个让学习变得吸引人、快速且社区化的平台。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

一个由FlagEval提供的辩论空间

Debate是由FlagEval在Hugging Face平台上创建的一个空间，旨在提供一个辩论的场所。这个空间可能利用了自然语言处理技术来促进用户之间的讨论和辩论，帮助用户提高批判性思维和沟通技巧。它可能包含了多种语言模型，以支持不同语言的用户参与。Debate作为一个教育工具，对于学习语言、逻辑和辩论技巧的人来说是非常重要的。目前，该产品是免费提供的，定位于教育和自我提升的市场。

高效的大型语言模型（LLM）研究代码库

Meta Lingua 是一个轻量级、高效的大型语言模型（LLM）训练和推理库，专为研究而设计。它使用了易于修改的PyTorch组件，使得研究人员可以尝试新的架构、损失函数和数据集。该库旨在实现端到端的训练、推理和评估，并提供工具以更好地理解模型的速度和稳定性。尽管Meta Lingua目前仍在开发中，但已经提供了多个示例应用来展示如何使用这个代码库。

一个全面的Prompt Engineering技术资源库

Prompt Engineering是人工智能领域的前沿技术，它改变了我们与AI技术的交互方式。这个开源项目旨在为初学者和经验丰富的实践者提供一个学习、构建和分享Prompt Engineering技术的平台。该项目包含了从基础到高级的各种示例，旨在促进Prompt Engineering领域的学习、实验和创新。此外，它还鼓励社区成员分享自己的创新技术，共同推动Prompt Engineering技术的发展。

由NVIDIA定制的大型语言模型，提升查询回答的帮助性。

Llama-3.1-Nemotron-70B-Instruct是NVIDIA定制的大型语言模型，专注于提升大型语言模型（LLM）生成回答的帮助性。该模型在多个自动对齐基准测试中表现优异，例如Arena Hard、AlpacaEval 2 LC和GPT-4-Turbo MT-Bench。它通过使用RLHF（特别是REINFORCE算法）、Llama-3.1-Nemotron-70B-Reward和HelpSteer2-Preference提示在Llama-3.1-70B-Instruct模型上进行训练。此模型不仅展示了NVIDIA在提升通用领域指令遵循帮助性方面的技术，还提供了与HuggingFace Transformers代码库兼容的模型转换格式，并可通过NVIDIA的build平台进行免费托管推理。

一个可以本地与多个PDF文件进行对话的聊天机器人。

rag-chatbot是一个基于人工智能技术的聊天机器人模型，它能够让用户通过自然语言与多个PDF文件进行交互。该模型使用了最新的机器学习技术，如Huggingface和Ollama，来实现对PDF内容的理解和回答生成。它的重要性在于能够处理大量文档信息，为用户提供快速、准确的问答服务。产品背景信息表明，这是一个开源项目，旨在通过技术创新提升文档处理的效率。目前该项目是免费的，主要面向开发者和技术爱好者。

构建LLM应用的框架

LlamaIndex.TS是一个为构建基于大型语言模型（LLM）的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面，用于连接人类和推断出的数据，使得开发者无需成为机器学习或自然语言处理的专家，也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

终端中的个人AI助手，具备本地工具。

gptme是一个运行在终端的个人AI助手，它装备了本地工具，可以编写代码、使用终端、浏览网页、视觉识别等。它是一个不受软件、互联网访问、超时或隐私问题限制的ChatGPT“代码解释器”的本地替代方案。

一个简单而强大的Python库，用于使用大型语言模型（LLMs）。

promptic是一个轻量级、基于装饰器的Python库，它通过litellm简化了与大型语言模型（LLMs）交互的过程。使用promptic，你可以轻松创建提示，处理输入参数，并从LLMs接收结构化输出，仅需几行代码。

ComfyUI社区峰会，连接设计和技术的桥梁。

ComfyUI Community Summit是一个专注于用户界面设计和用户体验的社区峰会，旨在通过分享最新的设计理念和技术，促进设计师和开发者之间的交流与合作。峰会聚集了来自全球的行业专家，共同探讨设计的未来趋势和挑战。

无需编码即可构建生产就绪的LLM应用程序

Epsilla是一个无需编码的RAG即服务(RAG-as-a-Service)平台，它允许用户基于私有或公共数据构建生产就绪的大型语言模型(Large Language Model, LLM)应用程序。该平台提供了一站式服务，包括数据管理、RAG工具、CI/CD风格的评估以及企业级安全措施，旨在降低总拥有成本(TCO)，提高查询速度和吞吐量，同时确保信息的时效性和安全性。

为LLM聊天机器人提供强大灵活的长期记忆系统。

MemoryScope是一个为大型语言模型（LLM）聊天机器人提供长期记忆能力的框架。它通过记忆数据库和工作库，使得聊天机器人能够存储和检索记忆片段，从而实现个性化的用户交互体验。该产品通过记忆检索和记忆整合等操作，使得机器人能够理解并记住用户的习惯和偏好，为用户提供更加个性化和连贯的对话体验。MemoryScope支持多种模型API，包括openai和dashscope，并且可以与现有的代理框架如AutoGen和AgentScope结合使用，提供了丰富的定制化和扩展性。

国内优秀原创插画师聚集地

触站是一个为插画师、设计师和艺术爱好者提供作品展示、交流和学习的平台。它汇集了众多P站(pixiv)画师与认证画师的作品，包括动漫图片、动漫壁纸、插画、CG原画等。触站不仅为艺术家提供了一个展示自己作品的空间，也为爱好者提供了一个发现和学习优秀作品的场所。

面向开发者的谷歌AI

Gemini API是Google AI Studio提供的一个强大的人工智能模型，它允许开发者轻松地将Google最大的AI模型集成到他们的应用程序中。这个API支持多种编程语言和平台，包括Python、Node.js、Go、Android、Dart (Flutter)和Swift。Gemini API的主要优点是其强大的生成能力，能够处理复杂的AI任务，如内容生成、语言理解等。此外，它还提供了Gemma开放模型，这些模型具有灵活性和可定制性，以加速负责任的AI开发。Gemini API是为那些希望利用最新AI技术来提升其应用程序的开发者设计的，无论是在生产力、图像处理、视频编辑还是其他领域。目前，Gemini API是免费的，但具体的定价策略可能会随着时间和服务的发展而变化。