产品库

开源全栈平台，为打造顶级LLM产品提供支持

Laminar是一个开源的全栈平台，专注于从第一性原理出发进行AI工程。它帮助用户收集、理解和使用数据，以提高大型语言模型（LLM）应用的质量。Laminar支持对文本和图像模型的追踪，并且即将支持音频模型。产品的主要优点包括零开销的可观测性、在线评估、数据集构建和LLM链管理。Laminar完全开源，易于自托管，适合需要构建和管理LLM产品的开发者和团队。

大语言模型的提示工程指南

提示工程指南是一份全面介绍提示工程的指南，包括基本概念、设计提示的通用技巧、提示技术、提示应用等内容。它帮助用户更好地了解大型语言模型的能力和局限性，并掌握与大语言模型交互和研发的各种技能和技术。

ChatGPT 数据与分析是一个全面的资源、材料和指南目录，旨在帮助您掌握人工智能的艺术。

ChatGPT 数据与分析是一个包含资源、材料和指南的综合目录，涵盖了与 ChatGPT 相关的内容。该目录旨在帮助您提高 AI 技能。本书提供了 ChatGPT 的提示，可帮助您释放创造力，提高工作效率。提示清晰简明。本目录中的所有材料都经过精心策划，确保来源可靠和权威，为您提供高质量的信息和指导。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

简化分析和数据工程

Weld是一个简单易用的数据仓库构建工具，提供强大的ELT、SQL转换、rELT和AI助手功能。它可以连接100多个应用程序、文件和数据库，让你在几分钟内构建数据仓库，无需麻烦设置。Weld可以从100多个数据源获取数据，包括PostgreSQL、Stripe、Salesforce、Hubspot和Google Sheets等。它还提供预建的连接器，可自动同步数据，并可选择存储数据在Weld上或连接自己的数据仓库，如BigQuery和Snowflake等。你可以使用SQL编辑器来合并来自多个源的数据，并通过AI助手来编写定制的SQL代码。Weld还提供多个模板，方便你快速开始数据分析工作。你可以轻松导出数据到其他应用程序，并与你喜欢的BI工具集成。除此之外，Weld还提供逆向ETL功能，可以直接将数据发送到你的工作场所。Weld的数据管道经过了战斗测试，每天有超过100,000次同步，具有端到端的加密和访问控制，保证数据的安全性。Weld已经被1000多家公司信任，包括Hubspot、Shopify、Facebook Ads和Stripe等。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

工程团队的时间序列数据分析平台

Marple是一个面向工程团队的时间序列数据分析平台。它提供了强大的数据可视化功能，用于处理测试和测量中传感器数据。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

mutatio是一个AI提示工程平台，帮助AI工程师系统测试，衡量和优化提示。

mutatio是一个现代LLM提示实验平台，可帮助用户Craft，refine和optimize他们的AI提示。它允许用户创建和测试各种提示变异，以提高AI的输出质量。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

开源的 LLM 应用程序分析

Langfuse 是一个开源的 LLM（Low-Code Low-Magic）应用程序分析工具，提供详细的生产追踪和对质量、成本和延迟的精细视图。它能帮助团队更好地跟踪和调试复杂的 LLM 应用程序，提供预构建的分析功能，帮助团队关注改进 LLM 应用程序的关键指标。Langfuse 与任何 LLM 应用程序集成，并提供多种 SDK 和 API 供开发者使用。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

自动化的数据工程师

engraph是一款自动化的数据工程平台，提供自然语言接口生成完整的ETL管道，可重用的DBT模型，无缝集成和高级协作工具。它可以大大提高数据工程团队的效率和生产力。我们提供多种定价计划以适应各种团队规模和需求。

开发LLM应用的平台

Vellum是一个用于构建LLM驱动应用的开发平台。它具有提示工程、语义搜索、版本控制、测试和监控等工具,可以帮助开发者将LLM的功能引入生产环境。它与所有主要的LLM提供商兼容,开发者可以选择最适合的模型,也可以随时切换,避免业务过于依赖单一的LLM提供商。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

开源编码 LLM，专为软件工程任务设计。

Kimi-Dev 是一款强大的开源编码 LLM，旨在解决软件工程中的问题。它通过大规模强化学习优化，确保在真实开发环境中的正确性和稳健性。Kimi-Dev-72B 在 SWE-bench 验证中实现了 60.4% 的性能，超越其他开源模型，是目前最先进的编码 LLM 之一。该模型可在 Hugging Face 和 GitHub 上下载和部署，适合开发者和研究人员使用。

高质量的数据集、工具和概念，用于大型语言模型的微调。

mlabonne/llm-datasets 是一个专注于大型语言模型（LLM）微调的高质量数据集和工具的集合。该产品为研究人员和开发者提供了一系列经过精心筛选和优化的数据集，帮助他们更好地训练和优化自己的语言模型。其主要优点在于数据集的多样性和高质量，能够覆盖多种使用场景，从而提高模型的泛化能力和准确性。此外，该产品还提供了一些工具和概念，帮助用户更好地理解和使用这些数据集。其背景信息包括由 mlabonne 创建和维护，旨在推动 LLM 领域的发展。

W&B Prompts: 高效生产级 LLM 操作

W&B Prompts 是 W&B 的最新产品，专注于 LLM（Language Model）技术。它提供了生产级的 LLM 操作，帮助用户解锁更好的 LLM 性能和提示工程。W&B Prompts 提供强大的功能和优势，定价灵活，适用于各种应用场景。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

AI追踪篮球统计数据，一键生成精彩瞬间

Hooper是一款利用人工智能技术帮助篮球爱好者追踪比赛统计数据和生成精彩瞬间的应用程序。它通过手机即可实现对1v1至5v5等不同规模比赛的追踪，自动识别球员并统计数据，提供比赛剪辑和个人进步跟踪。Hooper的背景是为篮球爱好者提供专业级别的技术，使他们能够像NBA球员一样分析比赛，提升技能。产品价格分为免费和9.99美元/月的Pro版，后者提供更多高级功能。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

开源AI软件工程师

Devika AI是一个开源的AI软件工程师，可以理解高级人类指令，将其分解为步骤，研究相关信息并生成相应代码。它使用Claude 3、GPT 4、GPT 3.5和Local LLMs via Ollama。

AI搜索引擎品牌表现追踪

RankRaven是一款AI搜索引擎品牌表现追踪工具。它能够在不同的AI搜索模型（如OpenAI ChatGPT、Google Bard和Microsoft Bing）中跟踪您的品牌表现。每天自动运行您的关键词检查，并通过电子邮件通知您关键词排名的变化。同时，RankRaven还提供多语言支持和图表展示功能，让您能够比较和追踪排名的改善情况。快速、准确、全面的AI SEO追踪，让您的品牌在AI搜索引擎中始终保持竞争力。

AI追踪器，精简视频内容

AI Watcher Pro (AWP)是你个人的基于AI的YouTube频道追踪器。AWP跟踪YouTube上的主题集合，并为你精心制作独家的视频文字摘要。AWP翻译和总结视频内容，提炼出关键思想和见解。让你不会错过任何重要信息。节省宝贵的时间，赚更多的钱。信息就是财富。

使用大型语言模型进行逆向工程：反编译二进制代码

LLM4Decompile是一个开源项目，旨在创建并发布第一个专门用于反编译的LLM（大型语言模型），并通过构建首个专注于可重编译性和可执行性的反编译基准测试来评估其能力。该项目通过编译大量C代码样本到汇编代码，然后使用这些数据对DeepSeek-Coder模型进行微调，构建了评估基准Decompile-Eval。

基于LLM和LangChain的全栈应用，用于检索股票数据和新闻

该产品是一个全栈应用，通过LLM（大型语言模型）和LangChain技术，结合LangGraph实现股票数据和新闻的检索与分析。它利用ChromaDB作为向量数据库，支持语义搜索和数据可视化，为用户提供股票市场的深入洞察。该产品主要面向投资者、金融分析师和数据科学家，帮助他们快速获取和分析股票相关信息，辅助决策。产品目前开源免费，适合需要高效处理金融数据和新闻的用户。

AI提示工程师，优化大型语言模型应用

Weavel是一个AI提示工程师，它通过追踪、数据集管理、批量测试和评估等功能，帮助用户优化大型语言模型（LLM）的应用。Weavel与Weavel SDK结合使用，能够自动记录并添加LLM生成的数据到您的数据集中，实现无缝集成和针对特定用例的持续改进。此外，Weavel能够自动生成评估代码，并使用LLM作为复杂任务的公正裁判，简化评估流程，确保准确、细致的性能指标。