产品库

辅助人类校验大型语言模型（LLM）输出中的事实错误并提供证据的工具

GenAudit 是一个旨在帮助校验大型语言模型（LLM）在文档支持任务中的响应的工具。它可以建议对LLM响应进行编辑，通过修正或移除未被参考文档支持的声明，并且为看似有支持的事实提供参考证据。GenAudit 通过训练模型执行这些任务，并设计了一个交互式界面向用户展示建议的编辑和证据。

使用AI进行写作事实核查

Parafact是一个利用人工智能技术进行文本事实核查的平台。它能够实时识别人类或AI撰写文本中的不准确之处，并提供可靠的来源。产品背景信息表明，Parafact旨在提高信息的准确性和可靠性，特别是在信息泛滥的互联网时代。产品价格分为三个档次，满足不同用户的需求，从个人用户到大型组织。

FactSnap是您可靠的事实核查伴侣。

FactSnap是一款可靠的事实核查工具，利用人工智能辅助在浏览网页时即时验证信息。该工具的主要优点在于提供准确的事实核查，帮助用户避免误导性信息。

AI驱动的事实核查工具

Sourcer AI 是一款利用人工智能技术进行在线信息评估的工具。它通过分析文章的语言，即时揭示在线来源的可信度和政治偏见，帮助用户在充满虚假信息的世界中做出明智的决策。该工具的主要优点包括实时评估、透明度高、易于使用等。

最强大的AI事实核查工具

Fact Check Anything是一款可靠的浏览器插件，通过AI技术快速核实信息，帮助用户对抗虚假内容传播。功能包括验证信息、过滤误导性帖子、深度解析、提供可靠来源等。适用于学生、专业人士、好奇心强的人等各行各业。

不要盲目相信AI生成的内容，请先用Katteb进行事实核查

Katteb是最佳的AI写作工具，可进行事实核查并生成可靠的AI内容。加入超过200,000位依赖Katteb的作者！Katteb提供多达30种类型、超过110种语言的内容生成，通过引用可信赖来源的内文引文，确保内容的准确性。

实时事实核查工具，提升信息准确性。

HighlightFactCheck是一个先进的事实核查工具，它通过算法分析和多源验证，为用户提供准确、全面的事实核查服务。该工具特别适合记者、研究人员、内容创作者和任何致力于信息真实性的人。它通过Chrome扩展、网站和API支持90多种语言，帮助用户快速提升内容的准确性和可信度。产品背景信息显示，该工具旨在应对信息过载时代对可靠事实核查的需求，通过自动化和算法化提高事实核查的效率和准确性。价格方面，提供$19.99/月的FactCheckPro计划，包括高级算法分析、多源验证、详细解释、持续学习、重写建议和安全认证等功能。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

免费、自动、完美色彩校正

使用AI色彩校正工具，上传您的照片，它将自动平衡颜色，修复曝光问题，并增加图像的整体对比度。您将在几秒钟内获得色彩均衡的照片。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

简化LLM和RAG模型输出评估，提供对定性指标的洞察

Algomax简化LLM和RAG模型的评估，优化提示开发，并通过直观的仪表板提供对定性指标的独特洞察。我们的评估引擎精确评估LLM，并通过广泛测试确保可靠性。平台提供了全面的定性和定量指标，帮助您更好地理解模型的行为，并提供具体的改进建议。Algomax的用途广泛，适用于各个行业和领域。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

提升写作技能，智能润色、语法校正、拼写检查

AIWritingPal (智写助手) 是一款强大的AI内容创作工具，利用先进的人工智能技术提升你的写作技能，优化语法、拼写和风格等方面。无论是文章、广告、产品介绍、邮件还是论文，都可以通过AIWritingPal轻松地打造独特而引人入胜的内容。

Rio是领先的AI新闻主播

Rio是一款领先的AI新闻主播，通过事实核查提供准确的新闻报道。Rio具有自动化播报、多语言支持、实时更新等功能。Rio目前免费提供给早期用户使用，后续会推出付费套餐。

AI辅助的事实检查插件

Filtir是一个事实检查的ChatGPT插件，通过评估文本中的声明是否有公开可查证的证据来提高内容的事实性。它可以帮助作者识别并更正AI生成内容中的虚假声明。Filtir通过检查声明是否有支持的证据来评估其可靠性，并提供相关的源链接和事实检查结果。

比较不同大型语言模型的输出

LLM Comparator是一个在线工具，用于比较不同大型语言模型（LLMs）的输出。它允许用户输入问题或提示，然后由多个模型生成回答。通过比较这些回答，用户可以了解不同模型在理解、生成文本和遵循指令方面的能力。该工具对于研究人员、开发者和任何对人工智能语言模型有兴趣的人来说都非常重要。

领先的LLM服务提供平台

Mooncake是Kimi的服务平台，由Moonshot AI提供，是一个领先的大型语言模型(LLM)服务。它采用了以KVCache为中心的解耦架构，通过分离预填充(prefill)和解码(decoding)集群，以及利用GPU集群中未充分利用的CPU、DRAM和SSD资源来实现KVCache的解耦缓存。Mooncake的核心是其KVCache中心调度器，它在确保满足延迟相关的服务级别目标(SLOs)要求的同时，平衡最大化整体有效吞吐量。与传统研究不同，Mooncake面对的是高度过载的场景，为此开发了基于预测的早期拒绝策略。实验表明，Mooncake在长上下文场景中表现出色，与基线方法相比，在某些模拟场景中吞吐量可提高525%，同时遵守SLOs。在实际工作负载下，Mooncake的创新架构使Kimi能够处理75%以上的请求。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

用于评估大型语言模型事实性的最新基准

FACTS Grounding是Google DeepMind推出的一个全面基准测试，旨在评估大型语言模型（LLMs）生成的回应是否不仅在给定输入方面事实准确，而且足够详细，能够为用户提供满意的答案。这一基准测试对于提高LLMs在现实世界中应用的信任度和准确性至关重要，有助于推动整个行业在事实性和基础性方面的进步。

一个关于大型语言模型（LLM）后训练方法的教程、调查和指南资源库。

Awesome-LLM-Post-training 是一个专注于大型语言模型（LLM）后训练方法的资源库。它提供了关于 LLM 后训练的深入研究，包括教程、调查和指南。该资源库基于论文《LLM Post-Training: A Deep Dive into Reasoning Large Language Models》，旨在帮助研究人员和开发者更好地理解和应用 LLM 后训练技术。该资源库免费开放，适合学术研究和工业应用。

创建、共享和管理金融事实表

FactBox AI是一个可轻松创建、共享和管理综合事实表的平台。它提供丰富的模板库和直观的拖放界面，让您可以自定义布局并展示有效的信息。您可以轻松上传CSV数据，利用自定义和高级小部件增强事实表。通过生成公共URL，您可以方便地分享事实表。同时，您可以一键导出事实表为PDF格式，便于离线访问和打印。

开源评估基础设施，为 LLM 提供信心

Confident AI 是一个开源的评估基础设施，为 LLM（Language Model）提供信心。用户可以通过编写和执行测试用例来评估自己的 LLM 应用，并使用丰富的开源指标来衡量其性能。通过定义预期输出并与实际输出进行比较，用户可以确定 LLM 的表现是否符合预期，并找出改进的方向。Confident AI 还提供了高级的差异跟踪功能，帮助用户优化 LLM 配置。此外，用户还可以利用全面的分析功能，识别重点关注的用例，实现 LLM 的有信心地投产。Confident AI 还提供了强大的功能，帮助用户自信地将 LLM 投入生产，包括 A/B 测试、评估、输出分类、报告仪表盘、数据集生成和详细监控。