产品库

一个仅100行代码的极简LLM框架，使LLM能够自主编程。

PocketFlow是一个极简的LLM框架，仅用100行代码实现，旨在让LLM能够自主编程。它强调高级编程范式，去除低级实现细节，使LLM能专注于重要部分。该框架可作为LLM的学习资源，因其简洁性，易于理解和上手。它采用嵌套有向图的核心抽象，将任务分解为多个LLM步骤，支持分支和递归决策。PocketFlow是开源项目，采用MIT许可证，具有高度的灵活性和可扩展性。

HuggingFace的全新AI代理框架，助力开发者轻松创建强大AI代理。

Smolagents是Hugging Face团队开发的极简AI代理框架，旨在让开发者仅用少量代码就能部署强大的代理。它专注于代码代理，即代理通过编写和执行Python代码片段来执行任务，而非生成JSON或文本块。这种模式利用了大型语言模型（LLMs）生成和理解代码的能力，提供了更好的组合性、灵活性以及丰富的训练数据利用，能高效处理复杂逻辑和对象管理。Smolagents与Hugging Face Hub深度集成，便于工具的分享和加载，促进社区协作。此外，它还支持传统工具调用代理，兼容多种LLMs，包括Hugging Face Hub上的模型以及OpenAI、Anthropic等通过LiteLLM集成的模型。Smolagents的出现，降低了AI代理开发的门槛，使开发者能够更便捷地构建和部署AI驱动的应用程序。

自主编码代理，直接在你的IDE中创建和编辑文件，执行命令。

Cline是一个集成在IDE中的自主编码代理，它利用人工智能技术帮助开发者进行代码编写、编辑、文件创建和命令执行。Cline通过结合强大的API和模型，如OpenRouter、Anthropic、OpenAI等，提供了一个安全且易于操作的图形用户界面，让用户在每一步操作中都能控制和批准文件更改和终端命令。这不仅提高了开发效率，还确保了操作的安全性。Cline的主要优点包括支持多种API和模型、直接在终端执行命令、创建和编辑文件、分析图像和浏览器截图，以及通过上下文信息如URL、问题面板、文件和文件夹内容来增强其功能。

基于仓颉编程语言构建的 LLM Agent 开发框架。

CangjieMagic 是一个基于仓颉编程语言构建的 LLM Agent 开发框架，支持多种功能，包括任务智能规划和模块化调用。该框架旨在提升应用程序的智能和创造力，适合开发者使用。

基于LLM的代理框架，用于在代码库中执行大规模代码迁移。

Aviator Agents 是一款专注于代码迁移的编程工具。它通过集成LLM技术，能够直接与GitHub连接，支持多种模型，如Open-AI o1、Claude Sonnet 3.5、Llama 3.1和DeepSeek R1。该工具可以自动执行代码迁移任务，包括搜索代码依赖、优化代码、生成PR等，极大提高了代码迁移的效率和准确性。它主要面向开发团队，帮助他们高效完成代码迁移工作，节省时间和精力。

商汤自研代码大模型赋能

代码小浣熊（Raccoon）是商汤自研的代码大模型赋能工具，提供多种编程语言支持，包括 Python、C#、C/C++、Java、Go、JavaScript 等。它以 IDE 插件的形式为用户提供智能编程服务，帮助用户在日常编程中随时随地开启 AI 编程。代码小浣熊能够快速定位代码中的问题，提供自动补全、代码纠错、语法优化等功能，大大提升编程效率。

智能编程助手，助力高效编程。

JoyCoder 是京东自主研发的智能编程助手，基于大语言模型，适配多种 IDE，提供代码预测、智能问答等功能。它能够提升开发人员的编程效率和代码质量，减少编程错误，降低修复问题的频率。该产品适合各种开发者使用，特别是在快速开发和测试需求中。随着智能编程的兴起，JoyCoder 为开发者提供了一个高效、流畅的编程环境，满足其多样化需求。产品定价方面，具体信息请联系售前顾问。

LLM的评估和单元测试框架

DeepEval提供了不同方面的度量来评估LLM对问题的回答,以确保答案是相关的、一致的、无偏见的、非有毒的。这些可以很好地与CI/CD管道集成在一起,允许机器学习工程师快速评估并检查他们改进LLM应用程序时,LLM应用程序的性能是否良好。DeepEval提供了一种Python友好的离线评估方法,确保您的管道准备好投入生产。它就像是“针对您的管道的Pytest”,使生产和评估管道的过程与通过所有测试一样简单直接。

构建LLM应用的框架

LlamaIndex.TS是一个为构建基于大型语言模型（LLM）的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面，用于连接人类和推断出的数据，使得开发者无需成为机器学习或自然语言处理的专家，也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。

AI代码编程平台

AI Code Playground是一款AI代码编程平台，提供实时编辑器、代码可视化、自定义功能等特点。用户可以在平台上编写、调试和分享代码，提供丰富的代码库和教程，帮助用户提高编程技能。定价根据使用情况而定，定位于为编程爱好者和专业开发人员提供便捷的编程环境。

极简产品摄影服务

DoMyShoot是一个提供极简产品摄影服务的平台。我们帮助您在亚马逊、Shopify等市场上销售任何产品，提供高质量的产品摄影。通过我们的服务，您可以轻松获得专业的产品照片，提升产品的销售力。定价灵活合理，适用于各类产品和商家。无需摄影技能，只需选择拍摄风格和场景，寄送产品给我们，即可获得精美的产品照片。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

易用、灵活、高效的开源大模型应用开发框架。

Agently是一个开源的大模型应用开发框架，旨在帮助开发者快速构建基于大语言模型的AI agent原生应用。它通过提供一系列工具和接口，简化了与大型语言模型的交互过程，使得开发者可以更专注于业务逻辑的实现。Agently框架支持多种模型，易于安装和配置，具有高度的灵活性和扩展性。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

优秀的代码助手，智能化编程体验

Fitten Code是一个GPT驱动的代码生成和完成工具，支持多种语言：Python、Javascript、Typescript、Java等。它能够自动为您的代码补充缺失的部分，节省您宝贵的开发时间。基于AI大模型对代码进行语义级翻译，支持多种编程语言互译。同时，它能够根据您的代码自动生成相关注释，为您的代码提供清晰易懂的解释和文档。除此之外，它还拥有智能bug查找、解释代码、自动生成单元测试的功能，以及根据代码自动产生相应的测试用例等功能。

Cradle框架：用于控制计算机的多模态代理

Cradle框架旨在使基础模型能够通过与人类相同的通用接口（屏幕作为输入，键盘和鼠标操作作为输出）执行复杂的计算机任务。该框架在Red Dead Redemption II游戏中进行了案例研究，展示了其在复杂环境中的泛化和适应能力。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

高效的大型语言模型（LLM）研究代码库

Meta Lingua 是一个轻量级、高效的大型语言模型（LLM）训练和推理库，专为研究而设计。它使用了易于修改的PyTorch组件，使得研究人员可以尝试新的架构、损失函数和数据集。该库旨在实现端到端的训练、推理和评估，并提供工具以更好地理解模型的速度和稳定性。尽管Meta Lingua目前仍在开发中，但已经提供了多个示例应用来展示如何使用这个代码库。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

AI编程代码检查工具，提升开发速度。

aiCode.fail是一个AI编程代码检查工具，它通过使用大型语言模型（LLM）来分析代码，从新的角度检查代码错误和安全问题，支持所有编程语言，且不会编译用户代码。该产品的主要优点包括代码错误检测、安全性问题暴露、加速调试过程，以及提供不同级别的审计服务。它适用于需要快速检查和优化代码的开发者，特别是在敏捷开发和代码审查中。产品提供免费和付费服务，包括免费试用和不同级别的审计服务。

利用LLM读取源代码并提供问题解答

askrepo是一个基于LLM（大型语言模型）的源代码阅读工具，它能够读取Git管理的文本文件内容，发送至Google Gemini API，并根据指定的提示提供问题的答案。该产品代表了自然语言处理和机器学习技术在代码分析领域的应用，其主要优点包括能够理解和解释代码的功能，帮助开发者快速理解新项目或复杂代码库。产品背景信息显示，askrepo适用于需要深入理解代码的场景，尤其是在代码审查和维护阶段。该产品是开源的，可以免费使用。

结合全功能代码编辑器和AI能力，提供100+大厂真题，助力高效掌握算法知识。

豆包 MarsCode 是一款面向编程学习者的在线代码练习平台。它通过整合先进的AI技术和全功能代码编辑器，为用户提供了一个高效、实用的学习环境。该平台拥有100+道大厂真题，能够帮助用户精准掌握编程知识点，提升算法能力，顺利获得心仪的工作机会。其主要优点在于AI陪练功能，能够随时为用户解答编程疑惑，提供详细的解题思路和方法。此外，原生IDE体验让用户能够更加得心应手地进行代码练习。产品由北京引力弹弓科技有限公司开发，定位为编程学习领域的辅助工具，价格策略暂未明确，但提供了免费试用的机会。

AI设计助手，极简设计

mnml.ai是一个AI设计助手，提供多个工具来帮助建筑和室内设计师实现他们的创意。通过使用mnml.ai的强大的AI工具，用户可以将他们的想法和草图转化为令人惊叹的设计。mnml.ai提供了多个功能，包括重新设计外部和内部空间、渲染设计、修改设计部分、生成设计理念等。mnml.ai的定价灵活，提供免费试用和付费套餐。它的定位是为建筑和室内设计师提供更高效、更灵活的设计工具。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

LLM驱动的主代理框架

Agent M是一个强大的大型语言模型或ChatGPT驱动的主代理开发框架,可让您创建多个基于LLM的代理。Agent Mbetween多个执行各种任务的代理之间进行编排,例如基于自然语言的API调用,连接到您的数据并帮助自动化复杂的对话。

节省LLM成本，不牺牲质量的框架

RouteLLM是一个用于服务和评估大型语言模型（LLM）路由器的框架。它通过智能路由查询到不同成本和性能的模型，以节省成本同时保持响应质量。它提供了开箱即用的路由器，并在广泛使用的基准测试中显示出高达85%的成本降低和95%的GPT-4性能。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。