产品库

专为Kindle优化的无干扰LLM聊天Web应用

Kindllm是一款专为Kindle优化的无干扰LLM聊天Web应用，是您阅读的完美伴侣。由Mistral AI的Mixtral提供技术支持。主要在Kindle Paperwhite上进行了测试。为什么？作者之前尝试制作这款应用，但在旧版Kindle浏览器上无法很好地运行。令人惊讶的是，亚马逊最近更新了一些Kindle的网络浏览器，现在似乎已经足够好以运行这样的简单交互应用！

AI助手为Kindle读书会员提供智能摘要和阅读推荐

Kindle GPT是一款为Kindle读书会员打造的AI助手，通过深度学习技术，能够为用户自动生成书籍摘要和个性化阅读推荐。无需手动阅读整本书籍，Kindle GPT能够提供书籍的关键内容摘要，帮助用户快速了解书籍的核心思想和知识点。同时，它还可以根据用户的阅读习惯和兴趣，推荐适合用户的书籍，提供个性化的阅读推荐服务。Kindle GPT旨在提升Kindle读书会员的阅读效率和体验。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

包阅AI帮你阅读广、理解深、效率高

包阅AI阅读助手支持一键总结、AI问答、多语言翻译,涵盖网页、论文文献、法律文档、学术科研、产品手册、市场报告、电子书等多种内容类型。功能包括总结提炼、深度理解、问答解惑、文献检索、文案润色等。定位于帮助用户高效阅读和理解各类文本资料。

智能伴读工具，支持文献阅读与思维导图生成。

Migo AI文献阅读助手是一个集成了先进 AI 技术的文献阅读工具，旨在提升学术研究和文献阅读效率。通过智能伴读和思维导图生成功能，帮助用户更好地理解和整理知识。该产品为学生、研究人员和教育工作者提了供高效的阅读提效支持。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

AI阅读助手，智能提升阅读能力

SRead是一款AI阅读助手，利用人工智能技术，将每篇文章和书籍都变成您成长之路上的助推器。它能够帮助您提升阅读速度、理解能力和记忆力，让阅读变得更高效、更有趣。SRead提供多种定价方案，满足不同用户的需求。无论您是学生、职场人士还是阅读爱好者，SRead都能为您带来极大的帮助。

阅读跟踪器

Bookshelf 帮助您追踪您的书籍，建立持久的阅读习惯，并更好地记住您读过的内容。通过添加已读、在读和想读的书籍来丰富您的书库。通过深入的统计数据和趋势报告改善您的阅读习惯。通过阅读目标、连续阅读记录和提醒功能保持动力。通过编写和回顾笔记和摘录来记住您读过的内容。

在线AI语音阅读插件

NaturalReader - AI Text to Speech 是一款Chrome插件，能够将在线文本转换成自然流畅的音频。只需点击播放，就可以让您的电子邮件、网页、PDF文件、Google文档和Kindle图书朗读给您听！通过使用我们的语音阅读器，用户可以节省时间，以比阅读更快的速度听取文本，并在无法阅读的时间提高工作效率，例如通勤、遛狗或做饭！免费版本功能丰富，还有两个付费高级套餐可供选择，适合各种预算。

记录阅读时间，记录情感，保存书籍想法

Basmo是一款智能阅读工具，通过AI技术提供更优质的阅读体验。使用Basmo的AI ChatBook与图书进行对话，了解更多关于书籍的信息。记录阅读时间，保存喜欢的书摘，记录阅读情感，创建书单并设置阅读目标。Basmo帮助您成为更优秀的读者。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

利用LLM读取源代码并提供问题解答

askrepo是一个基于LLM（大型语言模型）的源代码阅读工具，它能够读取Git管理的文本文件内容，发送至Google Gemini API，并根据指定的提示提供问题的答案。该产品代表了自然语言处理和机器学习技术在代码分析领域的应用，其主要优点包括能够理解和解释代码的功能，帮助开发者快速理解新项目或复杂代码库。产品背景信息显示，askrepo适用于需要深入理解代码的场景，尤其是在代码审查和维护阶段。该产品是开源的，可以免费使用。

一个关于大型语言模型（LLM）后训练方法的教程、调查和指南资源库。

Awesome-LLM-Post-training 是一个专注于大型语言模型（LLM）后训练方法的资源库。它提供了关于 LLM 后训练的深入研究，包括教程、调查和指南。该资源库基于论文《LLM Post-Training: A Deep Dive into Reasoning Large Language Models》，旨在帮助研究人员和开发者更好地理解和应用 LLM 后训练技术。该资源库免费开放，适合学术研究和工业应用。

AI彻底改变阅读

DocuSpeed是一款文档阅读助手，利用AI技术帮助用户快速阅读和理解各种文档。它包括总结、问答、翻译等功能，可以大大缩短阅读时间，克服语言障碍，并提供准确的文档解读。DocuSpeed专注于提升文档阅读效率，适用于学术论文解读、图书阅读等场景。

提升阅读体验的智能阅读工具

Read Fast是一个旨在提升用户阅读体验和理解能力的智能阅读工具。它通过Quick Read功能将长篇文本压缩成简洁、易于管理的阅读材料，帮助用户在更短的时间内阅读更多书籍。此外，Translation功能让用户轻松探索新语言，并利用Vocabulary Builder进一步提升语言技能。Read Fast还提供个性化的阅读环境，通过Key Insights和Critical Analysis为用户提供全面的学习体验，并通过Question Generation功能实现个性化学习。

智能阅读工具，提高阅读效率

Wiseone是一款智能阅读工具，帮助用户提高在线阅读的效率和理解能力。它提供了多种功能，包括聚焦模式、交叉验证、提问搜索、文章探索和摘要功能。用户可以更加专注地阅读复杂的内容，获取多个来源的可靠信息，简化复杂信息，并快速浏览文章摘要。Wiseone是免费使用的，适用于学生、教师、记者、写作人员等广大在线阅读用户。

基于AI的阅读辅导软件,提高学生的阅读流畅度

Reading Coach是一个基于AI的在线阅读辅导软件。它可以帮助学生根据自己的兴趣和能力,与AI共同创作个性化的故事,从而提高他们的阅读流畅度和信心。该软件会检测学生在阅读中遇到的难词,并自动设置阅读练习,帮助巩固这些难点词汇。它还具有Immersive Reader功能,可以为通用认知障碍和阅读障碍学生提供辅助。学生可以通过连续阅读和解锁新的故事元素来获得成就感。Reading Coach可供教师和学校使用,也可供家长通过网页或Windows应用为孩子使用。

提升阅读记忆，释放知识潜能

Bookwield通过每周复习将你阅读的书籍与你的认知融合，让你更好地理解核心概念，并实现卓越的记忆力。使用基于认知科学的间隔重复技术，只需六周，你就可以记住核心概念多年。Bookwield还利用人工智能针对和突出关键术语和概念，创建精心设计的问题来进行有效的复习。而且，几乎任何一本书都可以适用于Bookwield的AI处理能力。

一款高效的浏览器翻译插件，提供基于母语般的阅读体验。

流畅阅读（FluentRead）是一款基于人工智能翻译引擎的浏览器插件，它能够将网页上的文字翻译成任何语言，支持快捷键翻译、滑动翻译等多种翻译方式，并具备翻译缓存与回译功能。该插件采用TypeScript + Vue3 + Element-Plus + WXT框架编写，支持编译成可安装在绝大多数浏览器的插件。它的重要性在于为非母语读者提供流畅的阅读体验，减少语言障碍，提高信息获取效率。

Ai助力PDF阅读扩展

JoyReading是一款通过人工智能检测PDF文档中表格和公式位置的扩展，帮助用户快速定位。

借助 AI 提高阅读效率

Read Copilot是一个基于AI的RSS阅读器APP。它可以智能地为您生成文章摘要,以提高阅读效率。同时具有文章翻译功能,打破语言障碍。订阅管理功能方便您订阅喜欢的网站RSS。支持调整字体大小、样式,定制个性化阅读体验。

3D可视化的GPT-style LLM

LLM Visualization项目显示了一个GPT-style网络的3D模型。也就是OpenAI的GPT-2、GPT-3（可能还有GPT-4）中使用的网络拓扑。第一个显示工作权重的网络是一个小型网络，对由字母A、B和C组成的小列表进行排序。这是Andrej Karpathy的minGPT实现中的演示示例模型。渲染器还支持可视化任意大小的网络，并且与较小的gpt2大小一起工作，尽管权重没有被下载（它有数百MB）。CPU Simulation项目运行2D原理数字电路，具有完整的编辑器。意图是添加一些演练，展示诸如：如何构建一个简单的RISC-V CPU；构成部分下至门级：指令解码、ALU、加法等；更高级的CPU思想，如各种级别的流水线、缓存等。