产品库

免费开源AI模型推理服务

Tost AI是一个免费、非盈利、开源的服务，它为最新的AI论文提供推理服务，使用非盈利GPU集群。Tost AI不存储任何推理数据，所有数据在12小时内过期。此外，Tost AI提供将数据发送到Discord频道的选项。每个账户每天提供100个免费钱包余额，如果希望每天获得1100个钱包余额，可以订阅GitHub赞助者或Patreon。Tost AI将演示的所有利润都发送给论文的第一作者，其预算由公司和个人赞助者支持。

释放超级推理能力，提升AIME & MATH基准测试性能。

DeepSeek-R1-Lite-Preview是一款专注于提升推理能力的AI模型，它在AIME和MATH基准测试中展现了出色的性能。该模型具备实时透明的思考过程，并且计划推出开源模型和API。DeepSeek-R1-Lite-Preview的推理能力随着思考长度的增加而稳步提升，显示出更好的性能。产品背景信息显示，DeepSeek-R1-Lite-Preview是DeepSeek公司推出的最新产品，旨在通过人工智能技术提升用户的工作效率和问题解决能力。目前，产品提供免费试用，具体的定价和定位信息尚未公布。

开源大语言模型，匹配专有强大能力。

Open O1是一个开源项目，旨在通过开源创新，匹配专有的强大O1模型能力。该项目通过策划一组O1风格的思考数据，用于训练LLaMA和Qwen模型，赋予了这些较小模型更强大的长期推理和解决问题的能力。随着Open O1项目的推进，我们将继续推动大型语言模型的可能性，我们的愿景是创建一个不仅能够实现类似O1的性能，而且在测试时扩展性方面也处于领先地位的模型，使高级AI能力为所有人所用。通过社区驱动的开发和对道德实践的承诺，Open O1将成为AI进步的基石，确保技术的未来发展是开放的，并对所有人有益。

AI模型部署和推理优化的专家

Neural Magic是一家专注于AI模型优化和部署的公司，提供领先的企业级推理解决方案，以最大化性能和提高硬件效率。公司的产品支持在GPU和CPU基础设施上运行领先的开源大型语言模型（LLMs），帮助企业在云、私有数据中心或边缘环境中安全、高效地部署AI模型。Neural Magic的产品背景信息强调了其在机器学习模型优化方面的专业知识，以及与科研机构合作开发的创新LLM压缩技术，如GPTQ和SparseGPT。产品价格和定位方面，Neural Magic提供了免费试用和付费服务，旨在帮助企业降低成本、提高效率，并保持数据隐私和安全。

开源AI开发者助手，提升开发效率。

OpenHands是由All Hands AI开发的开源AI软件工程师，旨在帮助开发者处理积压的工作，让他们能够专注于解决难题、创造性挑战和过度工程化他们的配置文件。该产品在SWE-bench验证问题集中解决了超过一半的问题，是首个得分超过50%的AI工程师。此外，来自十几个学术机构的顶级代码生成研究人员每天都在帮助改进它。OpenHands在GitHub上以MIT许可证开源，拥有35k星标和190+贡献者。它与AI安全专家如Invariant Labs合作，以平衡创新与安全。

人类中心语言模型和模拟器的领导者

Nous Research专注于开发以人为中心的语言模型和模拟器，致力于将AI系统与现实世界用户体验对齐。我们的主要研究领域包括模型架构、数据合成、微调和推理。我们优先开发开源、人类兼容的模型，挑战传统的封闭模型方法。

开源、自托管、AI驱动的应用构建器。

Srcbook是一个开源、自托管的AI驱动应用构建器，它允许用户快速构建和部署各种应用程序。产品背景信息显示，Srcbook旨在提供一个平台，让开发者和非技术用户都能够轻松地构建应用程序，从而提高生产力和创新能力。它支持多种应用场景，如项目管理工具、音乐发现页面、技术文档网站等。Srcbook的主要优点包括开源性、灵活性和易用性，用户可以根据自己的需求定制和扩展功能。

简单易用，释放AI的强大力量

5ire是一个以简洁和用户友好为核心的AI产品，旨在让即使是初学者也能轻松利用大型语言模型。它支持多种文档格式的解析和向量化，具备本地知识库、使用分析、提示库、书签和快速关键词搜索等功能。作为一个开源项目，5ire提供免费下载，并且提供了按需付费的大型语言模型API服务。

开源机器人模拟平台，用于生成无限机器人数据和泛化AI。

ManiSkill是一个领先的开源平台，专注于机器人模拟、无限机器人数据生成和泛化机器人AI。由HillBot.ai领导，该平台支持通过状态和/或视觉输入快速训练机器人，与其它平台相比，ManiSkill/SAPIEN实现了10-100倍的视觉数据收集速度。它支持在GPU上并行模拟和渲染RGB-D，速度高达30,000+FPS。ManiSkill提供了40多种技能/任务和2000多个对象的预构建任务，拥有数百万帧的演示和密集的奖励函数，用户无需自己收集资产或设计任务，可以专注于算法开发。此外，它还支持在每个并行环境中同时模拟不同的对象和关节，训练泛化机器人策略/AI的时间从天缩短到分钟。ManiSkill易于使用，可以通过pip安装，并提供简单灵活的GUI以及所有功能的广泛文档。

首款实时生成式AI开放世界模型

Decart是一个高效的AI平台，提供了在训练和推理大型生成模型方面的数量级改进。利用这些先进的能力，Decart能够训练基础的生成交互模型，并使每个人都能在实时中访问。Decart的OASIS模型是一个实时生成的AI开放世界模型，代表了实时视频生成的未来。该平台还提供了对1000+ NVIDIA H100 Tensor Core GPU集群进行训练或推理的能力，为AI视频生成领域带来了突破性进展。

模块化仿人机器人，具有高自由度

Agibot X1是由Agibot开发的模块化仿人机器人，具有高自由度，基于Agibot开源框架AimRT作为中间件，并使用强化学习进行运动控制。该项目包括模型推理、平台驱动和软件仿真等多个功能模块。AimRT框架是一个用于机器人应用开发的开源框架，它提供了一套完整的工具和库，以支持机器人的感知、决策和行动。Agibot X1项目的重要性在于它为机器人研究和教育提供了一个高度可定制和可扩展的平台。

轻量级推理模型，用于生成高质量图像

Stable Diffusion 3.5是一个用于简单推理的轻量级模型，它包含了文本编码器、VAE解码器和核心MM-DiT技术。该模型旨在帮助合作伙伴组织实现SD3.5，并且可以用于生成高质量的图像。它的重要性在于其高效的推理能力和对资源的低要求，使得广泛的用户群体能够使用和享受生成图像的乐趣。该模型遵循Stability AI Community License Agreement，并且可以免费使用。

开源的去蒸馏FLUX模型

LibreFLUX是一个基于Apache 2.0许可的开源版本，提供了完整的T5上下文长度，使用注意力掩码，恢复了分类器自由引导，并去除了大部分FLUX美学微调/DPO。这意味着它比基础FLUX更不美观，但有潜力更容易地微调到任何新的分布。LibreFLUX的开发秉承开源软件的核心原则，即使用困难，比专有解决方案更慢、更笨拙，并且审美停留在21世纪初。

现代服务开发的终极平台

Batteries Included是一个为现代服务开发设计的全功能平台，提供源代码可用的一站式解决方案。它基于开源代码构建，支持从Docker到Knative的部署，拥有自动化安全和更新、智能自动化、高可靠性、先进的AI技术、以及易于集成的SSO等特点。这个平台旨在帮助开发者构建、部署和轻松扩展项目，同时确保数据隐私和成本效益。

高效能小型语言模型

Zamba2-7B是由Zyphra团队开发的一款小型语言模型，它在7B规模上超越了当前领先的模型，如Mistral、Google的Gemma和Meta的Llama3系列，无论是在质量还是性能上。该模型专为在设备上和消费级GPU上运行以及需要强大但紧凑高效模型的众多企业应用而设计。Zamba2-7B的发布，展示了即使在7B规模上，前沿技术仍然可以被小团队和适度预算所触及和超越。

与数据库对话，用自然语言查询数据。

Chat with your Database 是一个创新的数据库交互工具，它允许用户通过自然语言与Postgres数据库进行交互。利用AI技术，用户可以轻松地查询、分析和操作数据库，而无需编写复杂的SQL代码。该产品支持开源，鼓励社区参与开发和贡献，代码在GitHub上公开，用户可以自由探索、贡献或定制以满足特定需求。

利用AI生成的Next.js开源应用模板。

Fragments是一个基于Next.js的开源模板，用于构建完全由AI生成的应用。它集成了E2B Sandbox SDK和Code Interpreter SDK，支持多种编程语言和框架，如Python、Next.js、Vue.js等，并支持多种人工智能大型语言模型（LLM）提供商，如OpenAI、Anthropic等。此模板特别适合希望快速启动并利用AI进行应用开发的开发者。

AI模型选择助手

Lumigator 是 Mozilla.ai 开发的一款产品，旨在帮助开发者从众多大型语言模型（LLM）中选择最适合其特定项目的模型。它通过提供任务特定的指标框架来评估模型，确保所选模型能够满足项目需求。Lumigator 的愿景是成为一个开源平台，促进道德和透明的AI开发，并填补行业工具链中的空白。

终极AI、Mermaid和可视化制图套件

Mermaid Whiteboard是一个基于文本的制图工具，由获奖的开源项目Mermaid JS背后的团队开发。它允许用户通过文本创建各种图表，包括流程图、序列图、甘特图等。Mermaid Chart通过简化文档流程、提高工作流程和团队间的沟通效率，为系统设计和新团队成员的培训带来了革命性的变化。

开源AI模型，可微调、蒸馏、部署。

Llama 3.2是一系列大型语言模型（LLMs），预训练和微调在1B和3B大小的多语言文本模型，以及11B和90B大小的文本和图像输入输出文本的模型。这些模型可以用于开发高性能和高效率的应用。Llama 3.2的模型可以在移动设备和边缘设备上运行，支持多种编程语言，并且可以通过Llama Stack构建代理应用程序。

可视化和透明的开源ChatGPT替代品

Show-Me是一个开源应用程序，旨在提供传统大型语言模型(如ChatGPT)交互的可视化和透明替代方案。它通过将复杂问题分解成一系列推理子任务，使用户能够理解语言模型的逐步思考过程。该应用程序使用LangChain与语言模型交互，并通过动态图形界面可视化推理过程。

macOS用户的原生AI聊天界面

HuggingChat macOS是一个为macOS用户设计的原生聊天界面，利用开源语言模型的强大功能。它将高级AI对话的能力直接带到您的桌面上，提供了无缝且直观的体验。

精选全球AI前沿科技和开源产品

漫话开发者 - UWL.ME 是一个专注于人工智能前沿科技和开源产品的平台，提供最新的AI技术动态、开源产品介绍、以及相关领域的深度分析。它不仅为开发者和科技爱好者提供了一个获取信息的渠道，也为行业内部人员提供了交流和学习的平台。

先进的小型语言模型，专为设备端应用设计。

Zamba2-mini是由Zyphra Technologies Inc.发布的小型语言模型，专为设备端应用设计。它在保持极小的内存占用(<700MB)的同时，实现了与更大模型相媲美的评估分数和性能。该模型采用了4bit量化技术，具有7倍参数下降的同时保持相同性能的特点。Zamba2-mini在推理效率上表现出色，与Phi3-3.8B等更大模型相比，具有更快的首令牌生成时间、更低的内存开销和更低的生成延迟。此外，该模型的权重已开源发布(Apache 2.0)，允许研究人员、开发者和公司利用其能力，推动高效基础模型的边界。

个人AI助手，将私有和企业知识转化为智能搜索。

Quivr是一个基于AI的云端个人第二大脑，通过连接文件、应用程序、API、数据库等，为用户提供个性化的搜索和知识管理服务。它通过持续学习用户公司的特定上下文来提高搜索相关性和知识发现能力。Quivr支持自定义集成，用户可以选择适合其任务的GenAI模型，并根据提示指令获得更准确和更好的响应。

AI提示工程师，提升AI交互效率。

Ape是一个开源的AI提示工程师，由Weavel公司开发，旨在通过优化AI的交互方式来提升效率。它是一个专门为AI设计的提示工程库，支持自定义和自动化的AI交互流程，帮助开发者和用户更高效地利用AI技术。Ape的核心优势在于其开源性、灵活性和易用性，适用于需要与AI进行复杂交互的场景。

开源云平台，实现超低延迟的语音和视频AI。

Daily Bots是一个开源云平台，专注于提供超低延迟的语音和视频人工智能服务。它支持开发者构建和托管实时的全球基础设施上的代理，并利用快速增长的开源实时框架。该平台拥有全球实时云，提供5亿终端用户的13毫秒首跳延迟，符合SOC 2、HIPAA和GDPR标准。此外，Daily Bots提供了电话和工作流程的一站式企业连接解决方案，以及完整的PSTN和SIP堆栈。

轻量级、多语言的AI模型，支持长文本生成和推理。

Phi-3.5-MoE-instruct是由微软开发的轻量级、多语言的AI模型，基于高质量、推理密集型数据构建，支持128K的上下文长度。该模型经过严格的增强过程，包括监督式微调、近端策略优化和直接偏好优化，以确保精确的指令遵循和强大的安全措施。它旨在加速语言和多模态模型的研究，作为生成性AI功能的构建模块。

与任何大型语言模型进行快速的免提语音交互。

Open-LLM-VTuber 是一个开源项目，旨在通过语音与大型语言模型（LLM）进行交互，具有实时的Live2D面部捕捉和跨平台的长期记忆功能。该项目支持macOS、Windows和Linux平台，允许用户选择不同的语音识别和语音合成后端，以及自定义的长期记忆解决方案。它特别适合希望在不同平台上实现与AI进行自然语言对话的开发者和爱好者。

先进的文档智能AI模型，开源易用。

Datalab 的 AI For Document Intelligence 是一系列用于文档智能处理的AI模型，包括OCR、布局分析、PDF转Markdown等。这些模型代表了文档处理技术的最新发展，易于使用，并且是开源的，可以广泛应用于提高文档处理的效率和准确性。