产品库

基于LLM的领域特定知识助手，处理群聊中的复杂场景，回答用户问题而不引起消息泛滥。

茴香豆是一个基于LLM的领域特定知识助手，能够处理群聊中的复杂场景，回答用户问题而不引起消息泛滥。它提供算法管道来回答技术问题，并且部署成本低，只需LLM模型满足4个特点就能回答大部分用户问题。茴香豆在运行的场景中能够处理各种问题，并且欢迎加入他们的微信群体验最新版本。

通过与LLM对话构建持久知识，存于本地Markdown文件

Basic Memory是一款知识管理系统，借助与LLM的自然对话构建持久知识，并保存于本地Markdown文件。它解决了多数LLM互动短暂、知识难留存的问题。其优点包括本地优先、双向读写、结构简单、可形成知识图谱、兼容现有编辑器、基础设施轻量。定位为帮助用户打造个人知识库，采用AGPL - 3.0许可证，无明确价格信息。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

整合所有资料，让 AI 搜索回答，提升知识获取效率。

飞书知识问答是一款基于 AI 的知识管理工具，能够整合用户上传的各类资料，如 PDF、Word、PowerPoint 等，通过 AI 搜索技术快速提供精准答案。该产品主要面向企业用户和知识工作者，帮助他们高效管理和检索知识，提升工作效率。其技术优势在于强大的 AI 搜索算法和对多种文件格式的支持，能够快速解析和理解用户上传的内容，提供准确的问答服务。

群聊、好友和AI，畅快聊天

Wavelength是一款全新的群聊应用，无缝集结了你的好友、AI和直观的线程化功能，带来全新的聊天体验。通过提及@AI来轻松添加由GPT-3.5驱动的AI助手参与到你的群聊中。Wavelength是第一款允许多人一起与AI交谈的消息应用。直观的线程化系统使得群聊不再混乱，你可以在一个群组中同时进行多个对话。保持讨论有序、易于跟进。对话都采用先进的双向哈钥匙端到端加密，保证了Wavelength上的对话私密和安全。只有提及@AI的消息才会被解密以便机器人做出回应。新成员加入时，历史同步功能可以轻松进行群组入职培训。当新成员加入时，现有成员将自动重新加密并安全共享最近的消息历史记录。Wavelength是第一个端到端加密消息应用提供这样的功能。现已支持iPhone、iPad和Mac，Android版本即将推出。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

基于LLM的企业智能工作助手

LLime是一个基于大型语言模型的企业智能工作助手,可以为企业的各个部门提供定制化的AI助手,提升工作效率。它提供简单易用的界面,支持根据企业数据进行模型微调,确保模型精准适配企业需求。主要功能包括代码探索、数据分析、内容策略等,可以帮助开发者、管理者和市场人员的工作决策。该产品采用订阅制,根据部门和员工人数定价。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

你的AI知识助手

Gems是你的AI知识助手，能够从你的所有知识中获取现成的答案，帮助你摆脱繁琐的手动整理工作。通过Gems，你只需要提问，就能获得准备好的答案，让你摆脱繁琐的组织工作。

智能AI助手，保存整理知识

myReach是一个智能AI助手，可以帮助你保存和整理知识。它具有强大的搜索和问答功能，能够回答你的所有问题。此外，myReach还提供了定价和定位等详细信息。

基于 LLM 大语言模型的知识库问答系统。

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统，旨在成为企业的最强大脑。支持文档上传、自动爬取在线文档，智能问答交互体验好。支持快速嵌入到第三方业务系统。技术栈包括 Vue.js、Python/Django、Langchain、PostgreSQL/pgvector。

AI个人知识管理助手

知我AI是一个个性化、专业的AI个人知识管理助手，旨在帮助用户回忆知识、解答问题、创作内容、生成摘要和思维导图。它通过全能知识采集、AI知识处理、AI知识问答等功能，帮助用户高效管理知识，打造个人第二大脑。知我AI适用于学术研究、政企咨询、金融行研、备考高手、学科学习、医学论文阅读等多个领域，是专业精英的最佳选择。

一站式AI知识库搭建系统，轻松创建企业知识库大模型、智能客服、智能问答

怪兽智能AI知识库是一款企业知识库大模型+智能AI问答机器人的一站式搭建系统。支持零代码搭建企业知识库平台,团队多人协同与权限管理,支持智能回复和第三方集成,可以轻松地集成在网站、小程序、公众号、电商平台等应用中,为企业提供智能客服和知识问答服务。

星辰心流是一款 AI 助手，帮助你高效获取知识，让知识随心流动！

星辰心流是一款 AI 助手，通过强大的 AI 技术，帮助用户高效获取知识，无论是日常娱乐生活百科还是专业学术论文知识，都能轻松解答。该产品的优点包括智能化搜索、快速解答、便捷获取知识等。定位于提升用户获取知识的效率。

AI驱动的个人知识中心，助力多任务专业人士管理知识

remio是一款AI驱动的个人知识中心，主要为多任务专业人士打造。它能简化信息管理，减少手动操作，无缝捕捉想法。优势在于自动捕捉信息、保障数据隐私、支持本地文件集成等。目前处于邀请制早期访问阶段，仅在Mac（Apple Silicon）运行。

构建知识图谱的Neo4j应用

llm-graph-builder是一个利用大型语言模型（如OpenAI、Gemini等）从非结构化数据（PDF、DOCS、TXT、YouTube视频、网页等）中提取节点、关系及其属性，并使用Langchain框架创建结构化知识图谱的应用程序。它支持从本地机器、GCS或S3存储桶或网络资源上传文件，选择LLM模型并生成知识图谱。

将您的知识库转化为聊天助手

Chat with your Data 是一个强大的 SaaS 平台，可以将您的知识库转化为 ChatGPT，提供智能的聊天助手功能。它具有丰富的功能和优势，价格灵活定制，适用于各种应用场景。

超级提升战略团队效率的企业知识助手

Coral 是一款专为企业打造的知识助手，旨在提升最关键团队的工作效率。无论是财务、支持、销售还是其他团队，都可以根据自身的工作职能定制 Coral，通过连接数据源来增强其知识库。Coral 支持 100 多个 CRM、协作工具、数据库等集成。您可以在安全的云环境中管理 Coral，并且数据始终在您的环境中保密。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

知识型AI助手,提供更快更准确的无限外部知识获取功能

My AskAI允许您创建自己的AI助手,您可以将公司的所有文档、报告、手册和其他内容添加到其中,以提供任何问题的即时答案。它可以用作嵌入在您的网站上的聊天机器人或与其他应用程序和服务集成。

LLM SEO Monitor是一个全面的SEO报告生成工具，帮助您分析品牌在AI助手中的可见性。

LLM SEO Monitor是一个为品牌提供跨AI平台可见性分析的工具。它通过监控LLM建议的网页搜索结果来帮助企业优化SEO策略，以便在AI助手中获得更好的曝光。该工具提供了全面的SEO报告，帮助品牌了解其在各个AI平台上的表现。

与您的知识库聊天的 AI 助手

Hansei 让您可以用自然语言与数据交互，AI 助手将以清晰简明的方式回答您的问题。Hansei 非常适合企业简化他们和客户对知识库的访问。

非结构化数据处理平台，助力企业快速构建行业数据集并集成到LLM RAG知识库

Supametas.AI是一款专注于非结构化数据处理的平台，旨在帮助企业快速将音频、视频、图片、文本等多种格式的数据转化为适用于LLM RAG知识库的结构化数据。该平台通过提供多种数据采集方式和强大的预处理功能，极大地简化了数据处理流程，降低了企业构建行业数据集的门槛。其无缝集成到LLM RAG知识库的能力，使得企业能够更高效地利用数据驱动业务发展。Supametas.AI的定位是成为行业领先的LLM数据结构化处理开发平台，满足企业在数据隐私和灵活性方面的需求。