需求人群:
"目标受众是希望利用LLM进行自主编程、构建LLM应用的开发者,以及对LLM编程范式感兴趣的学者和研究人员。对于开发者来说,PocketFlow提供了一个简洁、高效的框架,能够快速搭建和实验LLM应用;对于学者和研究人员,它是一个研究LLM编程范式和自主编程能力的良好工具。"
使用场景示例:
利用PocketFlow构建一个基于PDF目录的聊天机器人
使用该框架开发一个文本摘要生成器,并结合问答智能体进行交互
通过PocketFlow实现一个简单的任务分解和多智能体协作示例
产品特色:
提供极简的LLM框架,仅100行代码,易于理解和使用
强调高级编程范式,如任务分解、多智能体等,助力LLM进行复杂任务处理
去除低级实现细节,让LLM专注于核心逻辑和决策过程
支持嵌套有向图结构,实现任务的灵活分解和决策流程的定制
开源项目,采用MIT许可证,方便开发者自由使用和扩展
使用教程:
1. 安装PocketFlow:通过pip install pocketflow命令安装,或直接复制源代码
2. 阅读文档:访问https://minillmflow.github.io/PocketFlow/了解详细使用方法和功能介绍
3. 设计应用:根据需求设计LLM应用的高级流程和节点,定义共享内存结构
4. 实现应用:使用PocketFlow框架编写简洁的代码实现应用逻辑,可参考文档中的示例
5. 测试与优化:运行应用进行测试,根据测试结果对应用进行优化和调整
浏览量:102
最新流量情况
月访问量
4.93m
平均访问时长
00:06:29
每次访问页数
6.10
跳出率
36.08%
流量来源
直接访问
54.82%
自然搜索
31.76%
邮件
0.04%
外链引荐
11.31%
社交媒体
1.86%
展示广告
0
截止目前所有流量趋势图
地理流量分布情况
中国
12.56%
德国
3.93%
印度
9.82%
俄罗斯
5.43%
美国
18.51%
一个仅100行代码的极简LLM框架,使LLM能够自主编程。
PocketFlow是一个极简的LLM框架,仅用100行代码实现,旨在让LLM能够自主编程。它强调高级编程范式,去除低级实现细节,使LLM能专注于重要部分。该框架可作为LLM的学习资源,因其简洁性,易于理解和上手。它采用嵌套有向图的核心抽象,将任务分解为多个LLM步骤,支持分支和递归决策。PocketFlow是开源项目,采用MIT许可证,具有高度的灵活性和可扩展性。
HuggingFace的全新AI代理框架,助力开发者轻松创建强大AI代理。
Smolagents是Hugging Face团队开发的极简AI代理框架,旨在让开发者仅用少量代码就能部署强大的代理。它专注于代码代理,即代理通过编写和执行Python代码片段来执行任务,而非生成JSON或文本块。这种模式利用了大型语言模型(LLMs)生成和理解代码的能力,提供了更好的组合性、灵活性以及丰富的训练数据利用,能高效处理复杂逻辑和对象管理。Smolagents与Hugging Face Hub深度集成,便于工具的分享和加载,促进社区协作。此外,它还支持传统工具调用代理,兼容多种LLMs,包括Hugging Face Hub上的模型以及OpenAI、Anthropic等通过LiteLLM集成的模型。Smolagents的出现,降低了AI代理开发的门槛,使开发者能够更便捷地构建和部署AI驱动的应用程序。
自主编码代理,直接在你的IDE中创建和编辑文件,执行命令。
Cline是一个集成在IDE中的自主编码代理,它利用人工智能技术帮助开发者进行代码编写、编辑、文件创建和命令执行。Cline通过结合强大的API和模型,如OpenRouter、Anthropic、OpenAI等,提供了一个安全且易于操作的图形用户界面,让用户在每一步操作中都能控制和批准文件更改和终端命令。这不仅提高了开发效率,还确保了操作的安全性。Cline的主要优点包括支持多种API和模型、直接在终端执行命令、创建和编辑文件、分析图像和浏览器截图,以及通过上下文信息如URL、问题面板、文件和文件夹内容来增强其功能。
基于仓颉编程语言构建的 LLM Agent 开发框架。
CangjieMagic 是一个基于仓颉编程语言构建的 LLM Agent 开发框架,支持多种功能,包括任务智能规划和模块化调用。该框架旨在提升应用程序的智能和创造力,适合开发者使用。
基于LLM的代理框架,用于在代码库中执行大规模代码迁移。
Aviator Agents 是一款专注于代码迁移的编程工具。它通过集成LLM技术,能够直接与GitHub连接,支持多种模型,如Open-AI o1、Claude Sonnet 3.5、Llama 3.1和DeepSeek R1。该工具可以自动执行代码迁移任务,包括搜索代码依赖、优化代码、生成PR等,极大提高了代码迁移的效率和准确性。它主要面向开发团队,帮助他们高效完成代码迁移工作,节省时间和精力。
商汤自研代码大模型赋能
代码小浣熊(Raccoon)是商汤自研的代码大模型赋能工具,提供多种编程语言支持,包括 Python、C#、C/C++、Java、Go、JavaScript 等。它以 IDE 插件的形式为用户提供智能编程服务,帮助用户在日常编程中随时随地开启 AI 编程。代码小浣熊能够快速定位代码中的问题,提供自动补全、代码纠错、语法优化等功能,大大提升编程效率。
LLM的评估和单元测试框架
DeepEval提供了不同方面的度量来评估LLM对问题的回答,以确保答案是相关的、一致的、无偏见的、非有毒的。这些可以很好地与CI/CD管道集成在一起,允许机器学习工程师快速评估并检查他们改进LLM应用程序时,LLM应用程序的性能是否良好。DeepEval提供了一种Python友好的离线评估方法,确保您的管道准备好投入生产。它就像是“针对您的管道的Pytest”,使生产和评估管道的过程与通过所有测试一样简单直接。
智能编程助手,助力高效编程。
JoyCoder 是京东自主研发的智能编程助手,基于大语言模型,适配多种 IDE,提供代码预测、智能问答等功能。它能够提升开发人员的编程效率和代码质量,减少编程错误,降低修复问题的频率。该产品适合各种开发者使用,特别是在快速开发和测试需求中。随着智能编程的兴起,JoyCoder 为开发者提供了一个高效、流畅的编程环境,满足其多样化需求。产品定价方面,具体信息请联系售前顾问。
构建LLM应用的框架
LlamaIndex.TS是一个为构建基于大型语言模型(LLM)的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面,用于连接人类和推断出的数据,使得开发者无需成为机器学习或自然语言处理的专家,也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。
AI代码编程平台
AI Code Playground是一款AI代码编程平台,提供实时编辑器、代码可视化、自定义功能等特点。用户可以在平台上编写、调试和分享代码,提供丰富的代码库和教程,帮助用户提高编程技能。定价根据使用情况而定,定位于为编程爱好者和专业开发人员提供便捷的编程环境。
极简产品摄影服务
DoMyShoot是一个提供极简产品摄影服务的平台。我们帮助您在亚马逊、Shopify等市场上销售任何产品,提供高质量的产品摄影。通过我们的服务,您可以轻松获得专业的产品照片,提升产品的销售力。定价灵活合理,适用于各类产品和商家。无需摄影技能,只需选择拍摄风格和场景,寄送产品给我们,即可获得精美的产品照片。
构建自主代理与直观UI的开源框架,一次定义能力多端复用。
Agent-Native是一个开源的TypeScript框架,用于构建具有直观用户界面的自主代理。它允许开发者通过defineAction定义一次能力,然后自动应用于代理、React UI、HTTP客户端和集成。框架内置了共享应用状态、嵌入式代理聊天、技能与记忆、自动化、代理团队等功能,并支持自带LLM和部署到任意环境。其核心理念是“一个动作驱动所有界面”,极大简化了开发流程,让代理和UI共享同一套数据与逻辑。框架还提供了丰富的示例应用(如Design、Slides、Analytics等),帮助开发者快速上手。完全开源免费,强调可定制性和自托管能力。
将GitHub链接转换为适合LLM的格式
GitHub to LLM Converter是一个在线工具,旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型(LLM)处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要,因为它简化了数据准备过程,使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发,提供了一个简洁的用户界面,用户只需输入GitHub链接,即可一键转换,极大地提高了工作效率。
易用、灵活、高效的开源大模型应用开发框架。
Agently是一个开源的大模型应用开发框架,旨在帮助开发者快速构建基于大语言模型的AI agent原生应用。它通过提供一系列工具和接口,简化了与大型语言模型的交互过程,使得开发者可以更专注于业务逻辑的实现。Agently框架支持多种模型,易于安装和配置,具有高度的灵活性和扩展性。
高效的 Intel GPU 上的 LLM 推理解决方案
这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核,该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。
比较各种大型语言模型(LLM)的定价信息
LLM Pricing是一个聚合并比较各种大型语言模型(LLMs)定价信息的网站,这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。
优秀的代码助手,智能化编程体验
Fitten Code是一个GPT驱动的代码生成和完成工具,支持多种语言:Python、Javascript、Typescript、Java等。它能够自动为您的代码补充缺失的部分,节省您宝贵的开发时间。基于AI大模型对代码进行语义级翻译,支持多种编程语言互译。同时,它能够根据您的代码自动生成相关注释,为您的代码提供清晰易懂的解释和文档。除此之外,它还拥有智能bug查找、解释代码、自动生成单元测试的功能,以及根据代码自动产生相应的测试用例等功能。
Cradle框架:用于控制计算机的多模态代理
Cradle框架旨在使基础模型能够通过与人类相同的通用接口(屏幕作为输入,键盘和鼠标操作作为输出)执行复杂的计算机任务。该框架在Red Dead Redemption II游戏中进行了案例研究,展示了其在复杂环境中的泛化和适应能力。
AI编程代码检查工具,提升开发速度。
aiCode.fail是一个AI编程代码检查工具,它通过使用大型语言模型(LLM)来分析代码,从新的角度检查代码错误和安全问题,支持所有编程语言,且不会编译用户代码。该产品的主要优点包括代码错误检测、安全性问题暴露、加速调试过程,以及提供不同级别的审计服务。它适用于需要快速检查和优化代码的开发者,特别是在敏捷开发和代码审查中。产品提供免费和付费服务,包括免费试用和不同级别的审计服务。
高效的大型语言模型(LLM)研究代码库
Meta Lingua 是一个轻量级、高效的大型语言模型(LLM)训练和推理库,专为研究而设计。它使用了易于修改的PyTorch组件,使得研究人员可以尝试新的架构、损失函数和数据集。该库旨在实现端到端的训练、推理和评估,并提供工具以更好地理解模型的速度和稳定性。尽管Meta Lingua目前仍在开发中,但已经提供了多个示例应用来展示如何使用这个代码库。
扩展LLM上下文窗口
LLM Context Extender是一款旨在扩展大型语言模型(LLMs)上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式,帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性,并展示了在仅有100个样本和6个训练步骤的情况下,将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外,还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展,建议以长对话进行LLMs的精细调整作为良好的起点。
AI设计助手,极简设计
mnml.ai是一个AI设计助手,提供多个工具来帮助建筑和室内设计师实现他们的创意。通过使用mnml.ai的强大的AI工具,用户可以将他们的想法和草图转化为令人惊叹的设计。mnml.ai提供了多个功能,包括重新设计外部和内部空间、渲染设计、修改设计部分、生成设计理念等。mnml.ai的定价灵活,提供免费试用和付费套餐。它的定位是为建筑和室内设计师提供更高效、更灵活的设计工具。
从单个提示构建自主AI员工,无代码运行,全天工作。
Verse是一款商业应用程序,它能够将自然语言描述的角色转变为自主AI员工。这些AI员工具备独立的身份,拥有自己的收件箱、电脑和工具,能够保持上下文信息,运行工作流程,并全天候持续工作。其重要性在于为企业提供了一种高效的自动化解决方案,减少人力成本,提高工作效率。产品提供免费试用,之后有Solo(59美元/月)、Professional(149美元/月)和Scale(399美元/月)等不同的付费计划。该产品于2024年成立,由Thomas Guthrie创立。
利用LLM读取源代码并提供问题解答
askrepo是一个基于LLM(大型语言模型)的源代码阅读工具,它能够读取Git管理的文本文件内容,发送至Google Gemini API,并根据指定的提示提供问题的答案。该产品代表了自然语言处理和机器学习技术在代码分析领域的应用,其主要优点包括能够理解和解释代码的功能,帮助开发者快速理解新项目或复杂代码库。产品背景信息显示,askrepo适用于需要深入理解代码的场景,尤其是在代码审查和维护阶段。该产品是开源的,可以免费使用。
使用简单、原始的 C/CUDA 进行 LLM 训练
karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。
下一代LLM申请框架
AutoGen 是一个基于多代理对话框架的下一代大语言模型应用程序。它简化了复杂 LLM 工作流的编排、自动化和优化,最大化了 LLM 模型的性能并克服了其弱点。AutoGen 支持多种复杂对话模式,具有可自定义和可对话的代理,开发人员可以使用 AutoGen 构建各种对话模式。
Aider 是一款 AI 辅助编程工具,支持在终端进行 AI 配对编程。
Aider 是一款创新的 AI 辅助编程工具,旨在通过与大型语言模型(LLM)集成,帮助开发者在本地代码库中高效完成编程任务。它支持多种流行编程语言,能够理解复杂需求并直接在代码中实现更改。Aider 的主要优点包括高效性、灵活性和对多种 LLM 的兼容性。它适用于希望提升编程效率的开发者,无论是新手还是经验丰富的程序员。Aider 目前免费开放,旨在推动 AI 编程的普及。
一个为LLM生成Git提交信息的插件
llm-commit 是一个为 LLM(Large Language Model)设计的插件,用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异,利用 LLM 的语言生成能力,自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率,还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境,免费开源,易于安装和使用。
© 2026 AIbase 备案号:闽ICP备08105208号-14