产品库

LLM辅助的文稿处理工具

Rambler是一款基于LLM技术的桌面客户端，支持通过图形用户界面进行口述文本的要点提取和宏观修订。它包括要点提取和宏观修订两大功能，能够生成关键词和摘要，支持口述文本的审阅和交互，并通过LLM辅助的宏观修订功能，让用户在不指定具体编辑位置的情况下进行重述、拆分、合并和转换文稿。Rambler在口述文本处理方面表现优异，能够帮助用户更好地进行口述和修订，弥合口语和结构化写作之间的差距。在与12名参与者进行口头作文任务的比较研究中，Rambler表现优于基于语音转文本编辑器+ChatGPT的基准，因为它更好地促进了用户对内容的迭代修订，同时支持多样化的用户策略。

省时，提高效率的口述软件

Talkatoo是一款口述软件，可以比平均打字速度快5倍地转录内容，帮助用户节省时间。它提供了三种级别的控制，用户可以选择更自动化的方式来使用。Talkatoo具有验证记录、自动格式化记录和桌面口述等功能，适用于兽医等行业的专业人士。定价根据具体需求而定。Talkatoo还可以自动转化成SOAP（主诉、体检、诊断、处方）模板，提高医疗记录的效率。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

AI生成演示文稿

SlidesAI是一款AI辅助文本转演示文稿工具，可以从任何文本生成摘要和演示文稿。它可以在几秒钟内自动创建专业、吸引人的演示文稿，让你告别繁琐、手动的幻灯片制作。

一个由LLM驱动的数据处理系统。

DocETL是一个强大的系统，用于处理和分析大量文本数据。它通过利用大型语言模型（LLM）的能力，能够自动优化数据处理流程，并将LLM与非LLM操作无缝集成。该系统的主要优点包括其声明式的YAML定义方式，使得用户可以轻松地定义复杂的数据处理流程。此外，DocETL还提供了一个交互式的playground，方便用户进行提示工程的实验。产品背景信息显示，DocETL在2024年12月推出了DocWrangler，这是一个新的交互式playground，旨在简化提示工程。价格方面，虽然没有明确标出，但从提供的使用案例来看，运行和优化数据处理流程的成本相对较低。产品定位主要是为需要处理大量文本数据并从中提取有价值信息的用户提供服务。

Fugaku-LLM是一个专注于文本生成的人工智能模型。

Fugaku-LLM是一个由Fugaku-LLM团队开发的人工智能语言模型，专注于文本生成领域。它通过先进的机器学习技术，能够生成流畅、连贯的文本，适用于多种语言和场景。Fugaku-LLM的主要优点包括其高效的文本生成能力、对多种语言的支持以及持续的模型更新，以保持技术领先。该模型在社区中拥有广泛的应用，包括但不限于写作辅助、聊天机器人开发和教育工具。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

用AI处理文本

Plus on Setapp是一款AI助手应用，可以帮助您撰写、翻译、总结和解释文本。它可以在任何应用程序中选择文本，并通过简单的快捷键将其发送给AI助手，让它帮您改进、校对、总结、解释或翻译文本。此外，您还可以自定义提示来完成特定任务。Plus on Setapp是Setapp订阅服务中的一部分，订阅费用为9.99美元/月。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

快速创建有说服力的演示文稿

Pitch Deck Generator 是一个在线工具，旨在帮助用户通过其7步模板工作流程，快速创建出具有说服力的演示文稿。它从识别问题或机会到自信地提出请求，通过引导性的提示帮助用户创建清晰、简洁的演示，展示其独特的解决方案和团队。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

一个关于大型语言模型（LLM）后训练方法的教程、调查和指南资源库。

Awesome-LLM-Post-training 是一个专注于大型语言模型（LLM）后训练方法的资源库。它提供了关于 LLM 后训练的深入研究，包括教程、调查和指南。该资源库基于论文《LLM Post-Training: A Deep Dive into Reasoning Large Language Models》，旨在帮助研究人员和开发者更好地理解和应用 LLM 后训练技术。该资源库免费开放，适合学术研究和工业应用。

为LLM训练和推理生成网站整合文本文件的工具

LLMs.txt生成器是一个由Firecrawl提供支持的在线工具，旨在帮助用户从网站生成用于LLM训练和推理的整合文本文件。它通过整合网页内容，为训练大型语言模型提供高质量的文本数据，从而提高模型的性能和准确性。该工具的主要优点是操作简单、高效，能够快速生成所需的文本文件。它主要面向需要大量文本数据进行模型训练的开发者和研究人员，为他们提供了一种便捷的解决方案。

AI生成演示文稿

Peach App是一款基于AI技术的演示文稿生成工具。用户只需输入内容，AI将生成独特的幻灯片，包含生成文本。Peach App具有简单易用的界面和丰富的功能，能够帮助用户快速创建精美的演示文稿。该产品定价灵活，根据用户的使用情况进行计费。定位于提高演示文稿制作效率和质量的工具。

AI辅助的Figma设计文本工具

UIQuill是一个为Figma设计的上下文感知文本工具，利用最新的AI技术为设计内容提供优化和上下文适当的文本建议。它能够理解设计的功能、风格、语气和长度，生成无缝融入设计的文本，支持单层文本、组合、框架或整个页面的优化建议。UIQuill还支持SEO优化文本，提升设计内容的搜索排名。

AI助手轻松创建专业演示文稿

AI GPT for SlidesTM 是一款基于 GPT 技术的 Google Slides 插件,使用户能够通过简单的语音指令就能自动生成、翻译和生成高质量的演示文稿。该产品拥有强大的 GPT 模型,可生成标题、正文、列表等内容,还可自动搜索相关图片。用户只需简单描述所需的演示文稿主题,AI GPT for SlidesTM 就可以自动生成精美的演示文稿。关键功能包括语音输入、多语言支持、演示文稿智能生成等。适用于商业演示、学术报告、教学课件等场景。该产品可节省80%的演示文稿制作时间,是演示文稿制作的利器。

基于先进AI模型，能精准识别AI生成文本，中英文检测能力出色。

朱雀大模型检测是腾讯推出的AI文本检测工具。它利用多种先进AI模型，经数百万级数据训练，能精准识别AI与人类书写模式。在中文数据处理上表现尤为出色，为内容创作者、教育工作者等提供了有力的检测支持，帮助他们辨别文本来源，确保内容原创性。该产品目前处于特邀测试阶段，具体价格和定位尚未明确。

设计引人入胜的演示文稿，并在任何设备上实时协作。

Microsoft PowerPoint 是一款功能强大的演示文稿制作工具，它允许用户创建、编辑和共享演示文稿。作为 Microsoft 365 套件的一部分，PowerPoint 提供了丰富的模板、图形和协作功能，支持用户在不同设备上进行实时协作。该产品以其易用性、强大的功能和广泛的兼容性而闻名，是全球数百万用户进行商务演示、教育讲座和个人演讲的首选工具。

AI生成演示文稿

MagicSlides App是一款AI生成演示文稿的插件。它可以从任何文本生成演示文稿幻灯片，并自动概括文本内容，创建专业的演示文稿。用户只需输入主题和幻灯片数量，MagicSlides App会自动生成符合主题的幻灯片，并提供不同的主题、字体选择、配色方案和布局等个性化设置，让演示文稿看起来更加美观。MagicSlides App支持多种语言，适用于Google Slides和PowerPoint。

AI助手快速生成演示文稿

Presentations.AI是一款基于人工智能的演示文稿应用，帮助用户轻松构建漂亮的演示文稿。通过输入提示，使用AI在几秒钟内从零开始生成整个PPT演示文稿。试试免费创建一个吧！

AI助力的演示文稿制作工具

Prezo是一款全新的AI助力演示文稿制作工具，旨在为您的工作提供美观的网页和移动端展示效果。它可以将长篇内容如文章或备忘录一键转化为演示文稿，保留关键信息并创建合适的分段，以便格式化为演示文稿。您还可以使用AI生成自定义图像和文本，选择不同的风格生成艺术作品。利用AI重写和调整文本，使其完美适应您的受众。Prezo提供多种布局供不同场景使用，包括活动、研究、营销和课程计划等。它在网页和移动端提供无缝体验，通过拖放轻松重新排列模块，自动适应移动端展示效果。您可以轻松编辑布局，调整模块大小或移动位置，以获得完美的效果。Prezo还提供丰富的模块，包括表格、图表和与您喜爱的工具集成，增强演示文稿的功能，并在所有设备上呈现出色。

快速AI制作演示文稿

Wonderslide是一个快速简单的设计演示文稿的工具。利用成千上万个专业设计模板和AI技术，Wonderslide可以即时将你的初稿转化为精美的演示文稿。它支持定制化和品牌化，可以根据你的公司形象选择颜色、字体和样式，还可以添加logo。Wonderslide与PowerPoint和Google Slides兼容，可以自动排列和对齐所有元素，生成可编辑的文件。

一个开源的交互式开发环境，用于构建和优化基于LLM的数据处理管道。

DocWrangler是一个开源的交互式开发环境，旨在简化构建和优化基于大型语言模型（LLM）的数据处理管道的过程。它提供即时反馈、可视化探索工具和AI辅助功能，帮助用户更容易地探索数据、实验不同操作并根据发现优化管道。该产品基于DocETL框架构建，适用于处理非结构化数据，如文本分析、信息提取等。它不仅降低了LLM数据处理的门槛，还提高了工作效率，使用户能够更有效地利用LLM的强大功能。

Gemini Embedding 是一种先进的文本嵌入模型，通过 Gemini API 提供强大的语言理解能力。

Gemini Embedding 是 Google 推出的一种实验性文本嵌入模型，通过 Gemini API 提供服务。该模型在多语言文本嵌入基准测试（MTEB）中表现卓越，超越了之前的顶尖模型。它能够将文本转换为高维数值向量，捕捉语义和上下文信息，广泛应用于检索、分类、相似性检测等场景。Gemini Embedding 支持超过 100 种语言，具备 8K 输入标记长度和 3K 输出维度，同时引入了嵌套表示学习（MRL）技术，可灵活调整维度以满足存储需求。该模型目前处于实验阶段，未来将推出稳定版本。