产品库

开发者日志监控与调试的开源平台

Helicone AI是一个为开发者设计的开源平台，专注于日志记录、监控和调试。它具备毫秒级延迟影响、100%日志覆盖率和行业领先的查询时间，是为生产级工作负载设计的。平台通过Cloudflare Workers实现低延迟和高可靠性，并支持风险无忧的实验，无需安装SDK，仅需添加头部信息即可访问所有功能。

AI可观测性和机器学习监控平台

Evidently AI是一个开源的Python库，用于监控机器学习模型，支持从RAGs到AI助手的LLM驱动产品的评估。它提供了数据漂移、数据质量和生产ML模型性能的监控，拥有超过2000万的下载量和5000+的GitHub星标，是机器学习领域中一个值得信赖的监控工具。

开源监控工具，提升LLM应用性能。

Langtrace是一个开源的可观测性工具，用于收集和分析追踪和指标，帮助提升大型语言模型（LLM）应用的性能。它支持OpenTelemetry标准追踪，可自我托管，避免供应商锁定。Langtrace提供端到端的可观测性，帮助用户全面了解整个机器学习流程，包括RAG或微调模型。此外，Langtrace还支持建立反馈循环，通过追踪的LLM交互创建黄金数据集，不断测试和增强AI应用。

用于提示工程的开源可视化编程环境

ChainForge是一款开源的可视化编程环境,专注于提示工程。它可以让你评估提示和文本生成模型的稳健性,超越了简单的案例证据。我们认为,提示多个大型语言模型、比较它们的响应并测试关于它们的假设,应该不仅容易,而且有趣。ChainForge提供了一套工具,以最小的努力评估和可视化提示(和模型)的质量。换句话说,它旨在让大型语言模型的评估变得简单。ChainForge开箱即用地支持测试提示注入攻击的稳健性、测试响应格式的一致性、发送大量参数化提示并导出到Excel文件、验证同一模型不同设置的响应质量、测量不同系统消息对ChatGPT输出的影响等。

监控和调试你的LLM模型

Athina AI是一个用于监控和调试LLM（大型语言模型）模型的工具。它可以帮助你发现和修复LLM模型在生产环境中的幻觉和错误，并提供详细的分析和改进建议。Athina AI支持多种LLM模型，可以配置定制化的评估来满足不同的使用场景。你可以通过Athina AI来检测错误的输出、分析成本和准确性、调试模型输出、探索对话内容以及比较不同模型的性能表现等。

全栈监控、调试和测试

Autoblocks是一个协作式的云工作空间，为产品团队快速迭代GenAI产品提供了所需的所有工具。通过Autoblocks，您可以原型和测试应用程序流水线，跟踪用户交互并了解用户体验的影响，评估和可视化用户结果，无缝集成到任何代码库和技术堆栈。

中间件观测平台|云原生监控

Middleware是一个云原生监控平台，提供完整的应用和基础设施可观测性，以便您能够大规模监控和诊断问题。它包括基础设施监控、日志监控、应用性能监控、数据库监控、合成监控、无服务器监控、容器监控和实时用户监控等功能。通过使用Middleware，您可以轻松识别、理解和解决云基础架构中的问题。

轻松构建和嵌入开源 AI 合作伙伴

OpenCopilot 是一个使构建自己的 AI 合作伙伴变得直观、快速和可靠的工具。无需具备前期 AI 经验，您可以轻松地将 AI 合作伙伴嵌入到产品中。无论是开发工具、SaaS 还是内部工具，每个公司和产品都可以拥有自己的 AI 合作伙伴。OpenCopilot 提供监控、评估系统、易于部署的开箱即用功能，并使用开源构建模块。现在就开始您的第一个 AI 合作伙伴吧！

将智能设备控制权交到您手中。

01 App是一个基于iOS和Android的应用程序，它通过简单的按键对讲界面，允许用户从世界任何地方控制Mac、Windows和Linux机器。该应用代表了一种新型的计算平台，专注于软件而非硬件，通过提供更好的SDK、集成语音模型、提高教学模式的可靠性和增加多模态功能来增强用户体验。01 App的推出，是为了让用户能够更便捷地体验到01平台的智能设备控制能力，同时避免了制造硬件所带来的复杂性和成本。

开源的AI代理/RAG应用的监控与分析工具

Laminar是一个开源的监控和分析工具，专为AI代理和RAG应用设计，提供类似于DataDog和PostHog的功能。它基于OpenTelemetry进行自动监控，支持快速、可靠的数据收集和分析。Laminar使用Rust编写，具有高性能和可靠性，适用于大规模数据处理。它通过提供详细的追踪、事件和分析功能，帮助开发者和企业优化AI应用的性能和用户体验。

开源视频编辑框架，支持自动化视频工作流。

Revideo是一个基于Motion Canvas的开源框架，用于程序化视频编辑。它允许开发者自动化复杂的视频工作流程，或在浏览器中构建完整的视频编辑器。Revideo支持使用Typescript创建视频模板，并能够即时预览和渲染为MP4格式的视频。它适用于大规模视频生成、A/B测试视频广告、构建网页内的视频编辑器或视频游戏等场景。

世界顶尖的开源大型语言模型

Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。

高效开源的大型语言模型

OLMoE-1B-7B 是一个具有1亿活跃参数和7亿总参数的专家混合型大型语言模型（LLM），于2024年9月发布。该模型在成本相似的模型中表现卓越，与更大的模型如Llama2-13B竞争。OLMoE完全开源，支持多种功能，包括文本生成、模型训练和部署等。

开源的专家混合语言模型，具有1.3亿活跃参数。

OLMoE是一个完全开放的、最先进的专家混合模型，具有1.3亿活跃参数和6.9亿总参数。该模型的所有数据、代码和日志都已发布。它提供了论文'OLMoE: Open Mixture-of-Experts Language Models'的所有资源概览。该模型在预训练、微调、适应和评估方面都具有重要应用，是自然语言处理领域的一个里程碑。

AI助手，简化代码审查流程

pr-agent是CodiumAI推出的一款AI助手工具，旨在帮助开发者更快速、高效地审查代码。它能够自动分析提交和PR，并提供多种反馈，如自动生成PR描述、主题反馈、安全问题、代码建议等。该工具支持多种编程语言，并且是开源的，可在GitHub上找到。它通过简化代码审查流程，提高软件质量，是开发团队和个人开发者的得力助手。

使用AI技术，快速总结网站法律政策。

DocDecoder是一款Chrome浏览器插件，利用GPT-4技术，为用户提供网站法律政策的清晰、简洁摘要。它通过颜色编码直观地突出显示对用户有实际影响的条款，包括积极、消极和中性影响。用户可以输入任何法律政策的URL，DocDecoder会告诉用户它如何影响他们。此外，它还标记出潜在有害的条款，并允许用户无限次查看现有的摘要。DocDecoder旨在帮助用户快速理解他们在网上实际同意的内容。

高效编码的开源大型语言模型

Yi-Coder是一系列开源的代码大型语言模型（LLMs），在少于100亿参数的情况下提供最先进的编码性能。它有两种尺寸—1.5B和9B参数—提供基础和聊天版本，旨在高效推理和灵活训练。Yi-Coder-9B在GitHub的代码库级别代码语料库和从CommonCrawl筛选的代码相关数据上，额外训练了2.4万亿高质量token。Yi-Coder在多种编程任务中表现出色，包括基础和竞技编程、代码编辑和仓库级完成、长上下文理解以及数学推理。

精选全球AI前沿科技和开源产品

漫话开发者 - UWL.ME 是一个专注于人工智能前沿科技和开源产品的平台，提供最新的AI技术动态、开源产品介绍、以及相关领域的深度分析。它不仅为开发者和科技爱好者提供了一个获取信息的渠道，也为行业内部人员提供了交流和学习的平台。

StatusSight 是一款全面的监控工具。

StatusSight 是一款用于实时监控系统状态的工具，能够帮助企业及时了解其服务的运行状态。它提供直观的仪表板，用户可以轻松跟踪各项指标，确保系统的高可用性与性能。适合各种规模的企业，支持定制化配置，以满足不同需求。此工具通常以订阅方式收费，具体定价根据所需功能而定。

无需编写代码，快速构建AI工作流

BuildEL是一个无需编写代码即可构建AI工作流的平台，它通过提供多种模块和接口，支持用户快速搭建复杂的工作流程。该产品特别适合需要快速实现自动化任务和提升工作效率的企业和个人。BuildEL的开源特性使得用户可以自由地在本地部署和贡献代码，同时支持多种接口和模块，满足不同场景的需求。

一个用于与ChatGPT模型交互的提示集合

Awesome ChatGPT Prompts是一个开源仓库，收集了用于与ChatGPT模型交互的提示示例。这个仓库鼓励用户添加自己的提示，并使用ChatGPT生成新的提示。

RWKV v6 Finch 14B，开源大模型，高效处理长文本。

RWKV v6 Finch 14B是RWKV架构的第六个版本，也是该系列中最大的模型。它通过引入数据依赖性到token shift和time-mixing中，提高了处理长文本时的效率。Finch 14B模型在处理提示时，能够更好地管理其长期记忆，从而提供更广泛的应用范围。该模型是开源的，由Linux Foundation认可，并且接受社区的GPU集群时间捐赠以支持训练。

开源AI代码编辑器，为10倍效率工程师设计。

Melty是一款开源的AI代码编辑器，它能够理解用户从终端到GitHub的操作，并与用户协作编写生产就绪的代码。由Charlie和Jackson开发，他们有着丰富的编程工具使用经验，旨在通过AI技术提高编程效率和代码质量。Melty在28天内已经能够编写其一半的代码，展现了其强大的自适应和学习能力。

开源多模态大型语言模型，支持实时语音输入和流式音频输出。

Mini-Omni是一个开源的多模态大型语言模型，能够实现实时的语音输入和流式音频输出的对话能力。它具备实时语音到语音的对话功能，无需额外的ASR或TTS模型。此外，它还可以在思考的同时进行语音输出，支持文本和音频的同时生成。Mini-Omni通过'Audio-to-Text'和'Audio-to-Audio'的批量推理进一步增强性能。

基于大型语言模型的高性能MacOS聊天应用

ChatMLX是一款现代、开源、高性能的MacOS聊天应用程序，基于大型语言模型构建。它利用MLX的强大性能和苹果硅芯片，支持多种模型，为用户提供丰富的对话选择。ChatMLX在本地运行大型语言模型，以确保用户隐私和安全。

个性化AI助手，记录每一刻，与AI对话获取反馈。

OMI APP是一个任务驱动的个性化AI助手，旨在通过语音和音频转录功能帮助用户提高记忆力和沟通效率。它是一个开源的AI记事本，提供提醒、建议等功能，同时注重用户隐私。

先进的小型语言模型，专为设备端应用设计。

Zamba2-mini是由Zyphra Technologies Inc.发布的小型语言模型，专为设备端应用设计。它在保持极小的内存占用(<700MB)的同时，实现了与更大模型相媲美的评估分数和性能。该模型采用了4bit量化技术，具有7倍参数下降的同时保持相同性能的特点。Zamba2-mini在推理效率上表现出色，与Phi3-3.8B等更大模型相比，具有更快的首令牌生成时间、更低的内存开销和更低的生成延迟。此外，该模型的权重已开源发布(Apache 2.0)，允许研究人员、开发者和公司利用其能力，推动高效基础模型的边界。

城市级NeRF实景三维大模型，沉浸式体验。

书生·天际LandMark是一个基于NeRF技术的实景三维大模型，它实现了100平方公里的4K高清训练，具备实时渲染和自由编辑的能力。这项技术代表了城市级三维建模和渲染的新高度，具有极高的训练和渲染效率，为城市规划、建筑设计和虚拟现实等领域提供了强大的工具。

开源的RAG基础聊天工具，与文档对话。

kotaemon是一个开源的、基于RAG（Retrieval-Augmented Generation）模型的工具，旨在通过聊天界面与用户文档进行交互。它支持多种语言模型API提供商和本地语言模型，提供了一个干净、可定制的用户界面，适用于终端用户进行文档问答以及开发者构建自己的RAG问答流程。

AI即时推理解决方案，速度领先世界。

Cerebras Inference是Cerebras公司推出的AI推理平台，提供20倍于GPU的速度和1/5的成本。它利用Cerebras的高性能计算技术，为大规模语言模型、高性能计算等提供快速、高效的推理服务。该平台支持多种AI模型，包括医疗、能源、政府和金融服务等行业应用，具有开放源代码的特性，允许用户训练自己的基础模型或微调开源模型。