需求人群:
["开发人员:Honchokey提供了多种安装方式和插件,方便开发人员将其集成到不同的AI工具中,为有状态的代理提供持久内存,解决内存和上下文管理问题,提高开发效率。", "AI研究人员:其先进的推理模型和持续学习能力,能够为AI研究人员提供更丰富的上下文信息和更高效的令牌使用方式,帮助他们进行更深入的研究和实验。", "企业用户:对于需要处理大量数据和复杂交互的企业用户,Honchokey可以帮助他们节省令牌成本,提高系统的性能和响应速度,从而更好地满足业务需求。"]
使用场景示例:
开发人员在集成Claude时,使用Honchokey的持久内存功能,让Claude能够更好地处理有状态的对话,提高对话的连贯性和准确性。
企业用户在使用OpenAI Codex进行编程时,借助Honchokey的令牌节省功能,减少了令牌的使用成本,同时提高了代码生成的效率。
AI研究人员在进行实验时,利用Honchokey的多等级推理服务,对用户的行为和情感进行深入分析,为研究提供了更有力的支持。
产品特色:
支持多种AI工具集成:Honchokey可以与Claude、OpenAI Codex、OpenClaw、Hermes Agent、DeepSeek Harness等多种AI工具集成,为这些工具提供持久内存功能,方便开发人员在不同的AI开发场景中使用。
持续学习与推理:Honchokey不仅仅是简单的数据存储,它能够对每一条消息进行全面的推理和持续的学习,从而在后续的交互中节省令牌,同时为用户提供更丰富的上下文信息。
多等级推理服务:提供从最小到最大五个不同等级的推理服务,用户可以根据具体的查询需求选择合适的推理等级,以获取相应的推理结果。例如,最小等级适合快速获取单一语义信息,而最大等级则适用于进行详尽的历史搜索和定量分析。
灵活的对等实体管理:支持对各种实体进行学习和建模,包括用户、代理、NPC、群组等。这些对等实体可以自由地添加或移除会话,并且可以对其视角进行全局或局部的范围设定,大大提高了系统的灵活性。
高效的令牌管理:帮助用户优化令牌使用,解决上下文窗口管理问题,让用户能够以较少的令牌获取所需的信息,避免了不必要的令牌浪费,提高了效率和准确性。
使用教程:
1. 确定要集成的AI工具,如Claude、OpenAI Codex等。
2. 根据所选工具,选择合适的安装方式。例如,对于Claude,可以通过npx命令安装Honcho技能;对于OpenAI Codex,可以使用npm命令安装插件。
3. 按照安装提示完成插件的安装和配置。
4. 在使用过程中,根据具体的查询需求,选择合适的推理等级。
5. 可以根据需要添加或移除对等实体,并对其视角进行范围设定。
浏览量:0
Honchokey是支持持续学习的AI原生内存系统,节省令牌并提供丰富上下文。
Honchokey是一款AI原生内存系统,其核心技术在于通过持续学习和推理,为有状态的代理提供更好的上下文,减少令牌使用。主要优点包括节省令牌、提供丰富上下文、实现上下文窗口管理、支持无限检索等。它由Plastic Labs开发,定位为帮助开发人员解决内存和上下文管理问题的工具。文档中未提及价格相关信息。
业界首个超大规模混合 Mamba 推理模型,强推理能力。
混元T1 是腾讯推出的超大规模推理模型,基于强化学习技术,通过大量后训练显著提升推理能力。它在长文处理和上下文捕捉上表现突出,同时优化了计算资源的消耗,具备高效的推理能力。适用于各类推理任务,尤其在数学、逻辑推理等领域表现优异。该产品以深度学习为基础,结合实际反馈不断优化,适合科研、教育等多个领域的应用。
开放的大型推理模型,解决现实世界问题
Marco-o1是一个开放的大型推理模型,旨在通过先进的技术如Chain-of-Thought (CoT) fine-tuning、Monte Carlo Tree Search (MCTS)、反射机制和创新的推理策略,优化复杂现实世界问题的解决任务。该模型不仅关注数学、物理和编程等有标准答案的学科,还强调开放性问题的解决。Marco-o1由阿里巴巴国际数字商务的MarcoPolo团队开发,具有强大的推理能力,已在多个领域展示出卓越的性能。
DeepSeek-R1-Distill-Qwen-7B 是一个开源的推理模型,专注于数学、代码和推理任务。
DeepSeek-R1-Distill-Qwen-7B 是一个经过强化学习优化的推理模型,基于 Qwen-7B 进行了蒸馏优化。它在数学、代码和推理任务上表现出色,能够生成高质量的推理链和解决方案。该模型通过大规模强化学习和数据蒸馏技术,显著提升了推理能力和效率,适用于需要复杂推理和逻辑分析的场景。
DeepSeek-R1-Zero 是一款通过大规模强化学习训练的推理模型,无需监督微调即可实现卓越推理能力。
DeepSeek-R1-Zero 是由 DeepSeek 团队开发的推理模型,专注于通过强化学习提升模型的推理能力。该模型在无需监督微调的情况下,展现出强大的推理行为,如自我验证、反思和生成长链推理。其主要优点包括高效推理能力、无需预训练即可使用,以及在数学、代码和推理任务上的卓越表现。该模型基于 DeepSeek-V3 架构开发,支持大规模推理任务,适用于研究和商业应用。
一个通用框架,用于在测试时调节大型推理模型的思维进度。
AlphaOne(α1)是一种调节大型推理模型(LRMs)在测试时思维进度的通用框架。通过引入 α 时刻和动态安排慢速思维转变,α1 实现了慢速到快速推理的灵活调节。这一方法统一并推广了现有的单调缩放方法,优化了推理能力与计算效率。该产品适用于需要处理复杂推理任务的科研人员和开发者。
新一代最强推理模型
OpenAI o3模型是继o1之后的新一代推理模型,包括o3和o3-mini两个版本。o3在某些条件下接近于通用人工智能(AGI),在ARC-AGI基准测试中得分高达87.5%,远超人类平均水平。它在数学和编程任务中表现出色,在2024年美国数学邀请赛(AIME)中得分96.7%,在Codeforces评级中达到2727分。o3能够自我事实核查,通过“私人思维链”进行推理,提高答案的准确性。o3是首个使用“审议对齐”技术训练的模型,以符合安全原则。目前,o3模型尚未广泛可用,但安全研究人员可以注册预览o3-mini模型。o3 mini版将在1月底推出,之后不久推出o3完整版。
大型推理模型框架,支持PyTorch和HuggingFace。
LLaMA-O1是一个大型推理模型框架,它结合了蒙特卡洛树搜索(MCTS)、自我强化学习、PPO等技术,并借鉴了AlphaGo Zero的双重策略范式以及大型语言模型。该模型主要针对奥林匹克级别的数学推理问题,提供了一个开放的平台用于训练、推理和评估。产品背景信息显示,这是一个个人实验项目,与任何第三方组织或机构无关。
一款在推理和编程基准测试中表现与o1-preview相当的推理模型。
Sky-T1-32B-Preview是由加州大学伯克利分校的NovaSky团队开发的推理模型。该模型在流行的推理和编程基准测试中表现出色,与o1-preview相当,且训练成本不到450美元,展示了以低成本高效复制高级推理能力的可能性。该模型完全开源,包括数据、代码和模型权重,旨在推动学术界和开源社区的发展。其主要优点是低成本、高性能和开源,为研究人员和开发者提供了宝贵的资源。
OpenThinker-32B 是一款强大的开源推理模型,专为提升开放数据推理能力而设计。
OpenThinker-32B 是由 Open Thoughts 团队开发的一款开源推理模型。它通过扩展数据规模、验证推理路径和扩展模型大小来实现强大的推理能力。该模型在数学、代码和科学等推理基准测试中表现卓越,超越了现有的开放数据推理模型。其主要优点包括开源数据、高性能和可扩展性。该模型基于 Qwen2.5-32B-Instruct 进行微调,并在大规模数据集上训练,旨在为研究人员和开发者提供强大的推理工具。
LG AI 推出的开源推理 AI 模型,具备卓越的推理能力。
EXAONE Deep 是 LG AI Research 推出的先进推理 AI 模型,标志着韩国在全球 AI 市场中的竞争力。它具备 32 亿参数,表现卓越,尤其在数学和科学问题解决方面展现出色。该模型的发布使得 LG 在 AI 领域迈入了自主决策的时代,其开源特性使得更多开发者能够利用这一技术进行研究与开发。EXAONE Deep 的轻量级和在设备上的模型设计使得其适用于多个行业,包括教育、科学研究、编程等。
Steiner 是一个基于合成数据训练的推理模型,旨在探索多种推理路径并自主验证。
Steiner 是由 Yichao 'Peak' Ji 开发的推理模型系列,专注于通过强化学习在合成数据上训练,能够在推理时探索多种路径并自主验证或回溯。该模型的目标是复现 OpenAI o1 的推理能力,并验证推理时的扩展曲线。Steiner-preview 是一个正在进行中的项目,其开源目的是为了分享知识并获取更多真实用户的反馈。尽管该模型在某些基准测试中表现出色,但尚未完全实现 OpenAI o1 的推理扩展能力,因此仍处于开发阶段。
一款 21B 通用推理模型,适合低延迟应用。
Reka Flash 3 是一款从零开始训练的 21 亿参数的通用推理模型,利用合成和公共数据集进行监督微调,结合基于模型和基于规则的奖励进行强化学习。该模型在低延迟和设备端部署应用中表现优异,具有较强的研究能力。它目前是同类开源模型中的最佳选择,适合于各种自然语言处理任务和应用场景。
OpenAI o3-mini 是 OpenAI 推出的最新高性价比推理模型,专为 STEM 领域优化。
OpenAI o3-mini 是 OpenAI 推出的最新推理模型,专为科学、技术、工程和数学(STEM)领域优化。它在保持低成本和低延迟的同时,提供了强大的推理能力,尤其在数学、科学和编程方面表现出色。该模型支持多种开发者功能,如函数调用、结构化输出等,并且可以根据需求选择不同的推理强度。o3-mini 的推出进一步降低了推理模型的使用成本,使其更适合广泛的应用场景。
小米首个推理大模型MiMo开源,专为推理任务设计,性能卓越。
Xiaomi MiMo是小米公司开源的首个推理大模型,专为推理任务设计,具备卓越的数学推理和代码生成能力。该模型在数学推理(AIME 24-25)和代码竞赛(LiveCodeBench v5)公开测评集上表现出色,仅用7B的参数规模就超越了OpenAI的o1-mini和阿里Qwen的QwQ-32B-Preview等更大规模的模型。MiMo通过预训练和后训练阶段的多层面创新,包括数据挖掘、训练策略和强化学习算法等,显著提升了推理能力。该模型的开源为研究人员和开发者提供了强大的工具,推动了人工智能在推理领域的进一步发展。
s1是一个基于Qwen2.5-32B-Instruct微调的推理模型,仅用1000个样本进行训练。
s1是一个推理模型,专注于通过少量样本实现高效的文本生成能力。它通过预算强制技术在测试时进行扩展,能够匹配o1-preview的性能。该模型由Niklas Muennighoff等人开发,相关研究发表在arXiv上。模型使用Safetensors技术,具有328亿参数,支持文本生成任务。其主要优点是能够通过少量样本实现高质量的推理,适合需要高效文本生成的场景。
Dolphin R1是一个用于训练推理模型的数据集,包含80万条样本。
Dolphin R1是一个由Cognitive Computations团队创建的数据集,旨在训练类似DeepSeek-R1 Distill模型的推理模型。该数据集包含30万条来自DeepSeek-R1的推理样本、30万条来自Gemini 2.0 flash thinking的推理样本以及20万条Dolphin聊天样本。这些数据集的组合为研究人员和开发者提供了丰富的训练资源,有助于提升模型的推理能力和对话能力。该数据集的创建得到了Dria、Chutes、Crusoe Cloud等多家公司的赞助支持,这些赞助商为数据集的开发提供了计算资源和资金支持。Dolphin R1数据集的发布,为自然语言处理领域的研究和开发提供了重要的基础,推动了相关技术的发展。
DeepSeek-R1 是一款高性能推理模型,支持多种语言和任务,适用于研究和商业应用。
DeepSeek-R1 是 DeepSeek 团队推出的第一代推理模型,通过大规模强化学习训练,无需监督微调即可展现出卓越的推理能力。该模型在数学、代码和推理任务上表现优异,与 OpenAI-o1 模型相当。DeepSeek-R1 还提供了多种蒸馏模型,适用于不同规模和性能需求的场景。其开源特性为研究社区提供了强大的工具,支持商业使用和二次开发。
智谱深度推理模型,擅长数理逻辑和代码推理
GLM-Zero-Preview是智谱首个基于扩展强化学习技术训练的推理模型,专注于增强AI推理能力,擅长处理数理逻辑、代码和需要深度推理的复杂问题。与基座模型相比,在不显著降低通用任务能力的情况下,专家任务能力大幅提升。在AIME 2024、MATH500和LiveCodeBench评测中,效果与OpenAI o1-preview相当。产品背景信息显示,智谱华章科技有限公司致力于通过强化学习技术,提升模型的深度推理能力,未来将推出正式版GLM-Zero,扩展深度思考的能力到更多技术领域。
上海人工智能实验室开发的强推理AI模型
InternThinker是上海人工智能实验室(上海AI实验室)研发的一款强推理AI模型,致力于通过“通专融合”路径探索开放、可控、可信的通用人工智能(AGI)。该模型具备长思维能力,并能在推理过程中进行自我反思和纠正,从而在数学、代码、推理谜题等多种复杂推理任务上取得更优结果。InternThinker的创新之处在于其元动作思考能力,能够自主生成高智力密度数据,并通过大规模沙盒环境获取反馈,实现高质量思维链的独立构建,大幅提升模型的复杂任务处理性能。
利用强化学习提升扩散大语言模型的推理能力。
该模型通过强化学习和高质量推理轨迹的掩蔽自监督微调,实现了对扩散大语言模型的推理能力的提升。此技术的重要性在于它能够优化模型的推理过程,减少计算成本,同时保证学习动态的稳定性。适合希望在写作和推理任务中提升效率的用户。
昆仑万维开源的高性能数学代码推理模型,性能卓越
Skywork-OR1是由昆仑万维天工团队开发的高性能数学代码推理模型。该模型系列在同等参数规模下实现了业界领先的推理性能,突破了大模型在逻辑理解与复杂任务求解方面的能力瓶颈。Skywork-OR1系列包括Skywork-OR1-Math-7B、Skywork-OR1-7B-Preview和Skywork-OR1-32B-Preview三款模型,分别聚焦数学推理、通用推理和高性能推理任务。此次开源不仅涵盖模型权重,还全面开放了训练数据集和完整训练代码,所有资源均已上传至GitHub和Huggingface平台,为AI社区提供了完全可复现的实践参考。这种全方位的开源策略有助于推动整个AI社区在推理能力研究上的共同进步。
一款先进的视觉推理模型,能分析图片和视频内容。
QVQ-Max 是 Qwen 团队推出的视觉推理模型,能够理解和分析图像及视频内容,提供解决方案。它不仅限于文本输入,更能够处理复杂的视觉信息。适合需要多模态信息处理的用户,如教育、工作和生活场景。该产品是基于深度学习和计算机视觉技术开发,适用于学生、职场人士和创意工作者。此版本为首发,后续将持续优化。
网易有道开发的轻量级推理模型,可在单个GPU上部署,具备类似o1的推理能力。
Confucius-o1-14B是由网易有道团队开发的推理模型,基于Qwen2.5-14B-Instruct优化而成。它采用两阶段学习策略,能够自动生成推理链,并总结出逐步的问题解决过程。该模型主要面向教育领域,尤其适合K12数学问题的解答,能够帮助用户快速获取正确解题思路和答案。模型具备轻量化的特点,无需量化即可在单个GPU上部署,降低了使用门槛。其推理能力在内部评估中表现出色,为教育领域的AI应用提供了强大的技术支持。
Stability AI 生成模型是一个开源的生成模型库。
Stability AI 生成模型是一个开源的生成模型库,提供了各种生成模型的训练、推理和应用功能。该库支持各种生成模型的训练,包括基于 PyTorch Lightning 的训练,提供了丰富的配置选项和模块化的设计。用户可以使用该库进行生成模型的训练,并通过提供的模型进行推理和应用。该库还提供了示例训练配置和数据处理的功能,方便用户进行快速上手和定制。
全球最强的编程和推理模型,提升开发效率。
Claude 4 是 Anthropic 最新推出的 AI 模型系列,具备强大的编程和推理能力,能够高效处理复杂任务。其卓越的性能使其在编程基准测试中名列前茅,成为开发者的重要工具。Claude 4 通过多项新功能的引入,提升了信息处理的效率和准确性,适合需要高效编码和逻辑推理的用户。
全球最快的AI推理服务提供商,部署模型速度无与伦比
General Compute是全球最快的推理服务提供商,专为推理而构建,采用专用ASIC芯片,而非传统的GPU。其主要优点包括:超高速推理,每秒可达1000个令牌,比其他方案快7倍;亚毫秒级的首次响应时间;高吞吐量;与OpenAI兼容的API,方便用户集成。产品背景基于对传统GPU在推理场景局限性的认识,传统GPU有70年的遗留架构,专为渲染像素设计,后用于训练,现在用于推理并非最优选择。而General Compute从底层开始为推理设计,具有更低的能耗和更高的效率。价格方面,提供200美元的免费额度供用户体验,具体付费方式需联系销售。其定位是为需要快速部署AI模型并进行高效推理的用户提供解决方案。
基于LLaMA-3.1 8B的小型推理模型,实现透明可控的AI推理。
Deepthought-8B是一个小型但功能强大的推理模型,它基于LLaMA-3.1 8B构建,旨在使AI推理更加透明和可控。尽管模型相对较小,但它实现了与更大模型相媲美的复杂推理能力。该模型以其独特的问题解决方法而设计,将其思考过程分解为清晰、独特、有记录的步骤,并将推理过程以结构化的JSON格式输出,便于理解和验证其决策过程。
微软最新的小型语言模型,专注于复杂推理
Phi-4是微软Phi系列小型语言模型的最新成员,拥有14B参数,擅长数学等复杂推理领域。Phi-4通过使用高质量的合成数据集、精选有机数据和后训练创新,在大小与质量之间取得了平衡。Phi-4体现了微软在小型语言模型(SLM)领域的技术进步,推动了AI技术的边界。Phi-4目前已在Azure AI Foundry上提供,并将在未来几周登陆Hugging Face平台。
NovaSky 是一个专注于代码生成和推理模型优化的人工智能技术平台。
NovaSky 是一个专注于提升代码生成和推理模型性能的人工智能技术平台。它通过创新的测试时扩展技术(如 S*)、强化学习蒸馏推理等技术,显著提升了非推理模型的性能,使其在代码生成领域表现出色。该平台致力于为开发者提供高效、低成本的模型训练和优化解决方案,帮助他们在编程任务中实现更高的效率和准确性。NovaSky 的技术背景源于 Sky Computing Lab @ Berkeley,具有强大的学术支持和前沿的技术研究基础。目前,NovaSky 提供多种模型优化方法,包括但不限于推理成本优化和模型蒸馏技术,满足不同开发者的需求。
© 2026 AIbase 备案号:闽ICP备08105208号-14