产品库

专为Kindle优化的无干扰LLM聊天Web应用

Kindllm是一款专为Kindle优化的无干扰LLM聊天Web应用，是您阅读的完美伴侣。由Mistral AI的Mixtral提供技术支持。主要在Kindle Paperwhite上进行了测试。为什么？作者之前尝试制作这款应用，但在旧版Kindle浏览器上无法很好地运行。令人惊讶的是，亚马逊最近更新了一些Kindle的网络浏览器，现在似乎已经足够好以运行这样的简单交互应用！

Sidecar是Aide编辑器的AI大脑，与编辑器协同工作。

Sidecar是为Aide编辑器设计的人工智能插件，它在本地机器上与编辑器一起工作，负责创建提示、与大型语言模型（LLM）通信以及处理它们之间的所有交互。Sidecar的主要优点包括提高编程效率、智能代码补全和集成化的AI辅助开发。它基于Rust语言开发，确保了性能和安全性。Sidecar适用于需要在本地机器上进行高效编程和代码管理的开发者。

漫画阅读与支持平台

comilio是一个漫画阅读平台，用户可以在这里阅读各种漫画作品，同时也能对喜欢的漫画家进行支持。该平台以其丰富的漫画资源和便捷的阅读体验受到用户的喜爱。此外，上传的漫画会利用图像识别等技术快速自动翻译成全球多种语言。它不仅提供了一个漫画爱好者交流的社区，还为漫画家提供了展示作品和获得收入的机会。comilio以其用户友好的界面和高质量的内容，在漫画阅读领域占有一席之地。

AI内容审核服务，保护下游部署安全。

Mistral Moderation API是Mistral AI推出的内容审核服务，旨在帮助用户检测和过滤不受欢迎的文本内容。该API是Le Chat中使用的审核服务的同一技术，现在对外开放，以便用户可以根据特定的应用和安全标准定制和使用这一工具。该模型是一个基于LLM（大型语言模型）的分类器，能够将文本输入分类到9个预定义的类别中。Mistral AI的这一API支持原生多语言，特别针对阿拉伯语、中文、英语、法语、德语、意大利语、日语、韩语、葡萄牙语、俄语和西班牙语进行了训练。该API的主要优点包括提高审核的可扩展性和鲁棒性，以及通过技术文档提供的详细政策定义和启动指南，帮助用户有效实施系统级的安全防护。

利用LLM读取源代码并提供问题解答

askrepo是一个基于LLM（大型语言模型）的源代码阅读工具，它能够读取Git管理的文本文件内容，发送至Google Gemini API，并根据指定的提示提供问题的答案。该产品代表了自然语言处理和机器学习技术在代码分析领域的应用，其主要优点包括能够理解和解释代码的功能，帮助开发者快速理解新项目或复杂代码库。产品背景信息显示，askrepo适用于需要深入理解代码的场景，尤其是在代码审查和维护阶段。该产品是开源的，可以免费使用。

高精度将图片或PDF转换为Markdown文本或JSON结构化文档的API

pdf-extract-api是一个使用现代OCR技术和Ollama支持的模型将任何文档或图片转换为结构化的JSON或Markdown文本的API。它使用FastAPI构建，并使用Celery进行异步任务处理，Redis用于缓存OCR结果。该API无需云或外部依赖，所有处理都在本地开发或服务器环境中完成，确保数据安全。它支持PDF到Markdown的高精度转换，包括表格数据、数字或数学公式，并且可以使用Ollama支持的模型进行PDF到JSON的转换。此外，该API还支持LLM改进OCR结果，去除PDF中的个人身份信息（PII），以及分布式队列处理和缓存。

国内领先的LLM一站式企业解决方案

Chat Nio是一个国内领先的LLM（Large Language Model）一站式企业解决方案，提供强大的AI集成工具，支持35+主流AI模型，涵盖文本生成、图像创作、音频处理和视频编辑等领域，并支持私有化部署和中转服务。它为开发者、个人用户和企业提供定制化的AI解决方案，包括但不限于多租户令牌分发、计费管理系统、深度集成Midjourney Proxy Plus绘画功能、全方位调用日志记录系统等。Chat Nio以其多功能性、灵活性和易用性，满足企业和团队的多样化需求，帮助他们高效开发和部署AI应用。

开源全栈平台，为打造顶级LLM产品提供支持

Laminar是一个开源的全栈平台，专注于从第一性原理出发进行AI工程。它帮助用户收集、理解和使用数据，以提高大型语言模型（LLM）应用的质量。Laminar支持对文本和图像模型的追踪，并且即将支持音频模型。产品的主要优点包括零开销的可观测性、在线评估、数据集构建和LLM链管理。Laminar完全开源，易于自托管，适合需要构建和管理LLM产品的开发者和团队。

AI驱动的小说阅读平台

WhatNovel是一个利用人工智能技术增强的小说阅读平台，它通过AI技术为用户提供个性化的小说推荐、智能问答、社区讨论等功能，旨在提升用户的阅读体验，帮助他们更深入地了解和参与到小说的世界中。该平台拥有超过1000万的AI增强章节阅读量，覆盖50多个国家，98%的用户愿意推荐给其他小说爱好者。

A tool for integrating private data with AI large language models.

Dabarqus是一个Retrieval Augmented Generation（RAG）框架，它允许用户将私有数据实时提供给大型语言模型（LLM）。这个工具通过提供REST API、SDKs和CLI工具，使得用户能够轻松地将各种数据源（如PDF、电子邮件和原始数据）存储到语义索引中，称为“记忆库”。Dabarqus支持LLM风格的提示，使用户能够以简单的方式与记忆库进行交互，而无需构建特殊的查询或学习新的查询语言。此外，Dabarqus还支持多语义索引（记忆库）的创建和使用，使得数据可以根据主题、类别或其他分组方式进行组织。Dabarqus的产品背景信息显示，它旨在简化私有数据与AI语言模型的集成过程，提高数据检索的效率和准确性。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

高效的大型语言模型（LLM）研究代码库

Meta Lingua 是一个轻量级、高效的大型语言模型（LLM）训练和推理库，专为研究而设计。它使用了易于修改的PyTorch组件，使得研究人员可以尝试新的架构、损失函数和数据集。该库旨在实现端到端的训练、推理和评估，并提供工具以更好地理解模型的速度和稳定性。尽管Meta Lingua目前仍在开发中，但已经提供了多个示例应用来展示如何使用这个代码库。

一个全面的Prompt Engineering技术资源库

Prompt Engineering是人工智能领域的前沿技术，它改变了我们与AI技术的交互方式。这个开源项目旨在为初学者和经验丰富的实践者提供一个学习、构建和分享Prompt Engineering技术的平台。该项目包含了从基础到高级的各种示例，旨在促进Prompt Engineering领域的学习、实验和创新。此外，它还鼓励社区成员分享自己的创新技术，共同推动Prompt Engineering技术的发展。

由NVIDIA定制的大型语言模型，提升查询回答的帮助性。

Llama-3.1-Nemotron-70B-Instruct是NVIDIA定制的大型语言模型，专注于提升大型语言模型（LLM）生成回答的帮助性。该模型在多个自动对齐基准测试中表现优异，例如Arena Hard、AlpacaEval 2 LC和GPT-4-Turbo MT-Bench。它通过使用RLHF（特别是REINFORCE算法）、Llama-3.1-Nemotron-70B-Reward和HelpSteer2-Preference提示在Llama-3.1-70B-Instruct模型上进行训练。此模型不仅展示了NVIDIA在提升通用领域指令遵循帮助性方面的技术，还提供了与HuggingFace Transformers代码库兼容的模型转换格式，并可通过NVIDIA的build平台进行免费托管推理。

一个可以本地与多个PDF文件进行对话的聊天机器人。

rag-chatbot是一个基于人工智能技术的聊天机器人模型，它能够让用户通过自然语言与多个PDF文件进行交互。该模型使用了最新的机器学习技术，如Huggingface和Ollama，来实现对PDF内容的理解和回答生成。它的重要性在于能够处理大量文档信息，为用户提供快速、准确的问答服务。产品背景信息表明，这是一个开源项目，旨在通过技术创新提升文档处理的效率。目前该项目是免费的，主要面向开发者和技术爱好者。

构建LLM应用的框架

LlamaIndex.TS是一个为构建基于大型语言模型（LLM）的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面，用于连接人类和推断出的数据，使得开发者无需成为机器学习或自然语言处理的专家，也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。

高效OCR阅读工具，快速获取书籍精华。

小虫快读是一款基于OCR和AI大语言模型的高效阅读工具，通过手机相机拍摄书籍页面，利用先进的OCR技术自动识别文字，AI大语言模型几秒内生成书籍的核心内容和精华总结，并通过AI语音播放功能，让用户轻松听书，解放双眼，提升学习效率。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

终端中的个人AI助手，具备本地工具。

gptme是一个运行在终端的个人AI助手，它装备了本地工具，可以编写代码、使用终端、浏览网页、视觉识别等。它是一个不受软件、互联网访问、超时或隐私问题限制的ChatGPT“代码解释器”的本地替代方案。

一个简单而强大的Python库，用于使用大型语言模型（LLMs）。

promptic是一个轻量级、基于装饰器的Python库，它通过litellm简化了与大型语言模型（LLMs）交互的过程。使用promptic，你可以轻松创建提示，处理输入参数，并从LLMs接收结构化输出，仅需几行代码。

无需编码即可构建生产就绪的LLM应用程序

Epsilla是一个无需编码的RAG即服务(RAG-as-a-Service)平台，它允许用户基于私有或公共数据构建生产就绪的大型语言模型(Large Language Model, LLM)应用程序。该平台提供了一站式服务，包括数据管理、RAG工具、CI/CD风格的评估以及企业级安全措施，旨在降低总拥有成本(TCO)，提高查询速度和吞吐量，同时确保信息的时效性和安全性。

为LLM聊天机器人提供强大灵活的长期记忆系统。

MemoryScope是一个为大型语言模型（LLM）聊天机器人提供长期记忆能力的框架。它通过记忆数据库和工作库，使得聊天机器人能够存储和检索记忆片段，从而实现个性化的用户交互体验。该产品通过记忆检索和记忆整合等操作，使得机器人能够理解并记住用户的习惯和偏好，为用户提供更加个性化和连贯的对话体验。MemoryScope支持多种模型API，包括openai和dashscope，并且可以与现有的代理框架如AutoGen和AgentScope结合使用，提供了丰富的定制化和扩展性。

AI提示工程师，优化大型语言模型应用

Weavel是一个AI提示工程师，它通过追踪、数据集管理、批量测试和评估等功能，帮助用户优化大型语言模型（LLM）的应用。Weavel与Weavel SDK结合使用，能够自动记录并添加LLM生成的数据到您的数据集中，实现无缝集成和针对特定用例的持续改进。此外，Weavel能够自动生成评估代码，并使用LLM作为复杂任务的公正裁判，简化评估流程，确保准确、细致的性能指标。

与文学巨著中的角色对话，让阅读体验生动起来。

Hello Literature 是一款应用程序，它允许用户与文学名著中的角色进行对话。这款应用通过创新的方式，将书籍的世界带入生活，无论是教育工作者、家长、学生还是终身学习者，都能通过这款应用获得前所未有的阅读体验。该应用支持基于项目的沉浸式学习，帮助学生与他们学习的书籍中的角色互动，加深理解和参与度。它使用真实的语音生成技术，使应用更加易于访问和沉浸。

未来派的AI驱动网页爬虫工具。

CyberScraper 2077是一款基于AI的网页爬虫工具，它利用OpenAI和Ollama等大型语言模型(LLM)来智能解析网页内容，提供数据提取服务。这款工具不仅拥有用户友好的图形界面，还支持多种数据导出格式，包括JSON、CSV、HTML、SQL和Excel。此外，它还具备隐形模式，以降低被检测为机器人的风险，以及遵循robots.txt和网站政策的道德爬取特性。

革命性的检索增强生成系统技术集合。

RAG_Techniques 是一个专注于检索增强生成(Retrieval-Augmented Generation, RAG)系统的技术集合，旨在提升系统的准确性、效率和上下文丰富性。它提供了一个前沿技术的中心，通过社区贡献和协作环境，推动RAG技术的发展和创新。

一站式数据处理系统，为大型语言模型提供高质量数据。

Data-Juicer 是一个一站式的多模态数据处理系统，旨在为大型语言模型(LLMs)提供更高质量、更丰富、更易消化的数据。它提供了一个系统化和可复用的数据处理库，支持数据与模型的协同开发，通过沙盒实验室实现快速迭代，并提供基于数据和模型的反馈循环、可视化和多维度自动评估等功能，帮助用户更好地理解和改进他们的数据和模型。Data-Juicer 正在积极更新和维护，定期增强和添加更多功能、数据配方和数据集。

AI技术与纸质书的结合，让阅读体验无限扩展。

BookLed是一款结合了AI技术与纸质书的产品，它通过内置的电子硬件和页面识别传感器，能够识别用户正在阅读的页面，并在用户翻页时将页码信息发送至电脑。随后，通过Python代码调用OpenAI API，利用生成性AI技术丰富和扩展用户的阅读体验。所有相关代码均为开源，可在GitHub上下载。

开源版Anthropic的Claude Artifacts界面

AI Artifacts是一个开源的Anthropic Claude Artifacts界面版本，使用E2B的代码解释器SDK和核心SDK执行AI代码。E2B提供了一个云沙箱来安全地运行AI生成的代码，并可以处理安装库、运行shell命令、运行Python、JavaScript、R以及Nextjs应用程序等。

新一代AI工程师在GitHub上构建

GitHub Models是GitHub推出的新一代AI模型服务，旨在帮助开发者成为AI工程师。它将行业领先的大型和小型语言模型直接集成到GitHub平台，让超过1亿用户能够直接在GitHub上访问和使用这些模型。GitHub Models提供了一个交互式的模型游乐场，用户可以在这里测试不同的提示和模型参数，无需支付费用。此外，GitHub Models与Codespaces和VS Code集成，允许开发者在开发环境中无缝使用这些模型，并通过Azure AI实现生产部署，提供企业级安全和数据隐私保护。