产品库

开源监控工具，提升LLM应用性能。

Langtrace是一个开源的可观测性工具，用于收集和分析追踪和指标，帮助提升大型语言模型（LLM）应用的性能。它支持OpenTelemetry标准追踪，可自我托管，避免供应商锁定。Langtrace提供端到端的可观测性，帮助用户全面了解整个机器学习流程，包括RAG或微调模型。此外，Langtrace还支持建立反馈循环，通过追踪的LLM交互创建黄金数据集，不断测试和增强AI应用。

声音AI分析工具，优化语音助手性能

Canonical AI提供的声音AI分析工具，专注于分析和优化语音助手的通话性能。该工具通过可视化通话流程、识别关键性能指标（KPIs）和自定义度量标准，帮助企业理解语音AI通话的失败原因，并提供实时监控和深度分析功能。产品背景信息显示，它适用于需要提升语音AI服务质量的企业和团队，价格方面提供免费试用和不同规模的专业及企业方案。

OpenLIT是用于GenAI和LLM应用可观察性的开源平台。

OpenLIT是一个开源的AI工程平台，专注于生成式AI和大型语言模型（LLM）应用的可观察性。它通过提供代码透明度、隐私保护、性能可视化等功能，帮助开发者简化AI开发流程，提高开发效率和应用性能。作为开源项目，用户可以自由查看代码或自行托管，确保数据安全和隐私。其主要优点包括易于集成、支持OpenTelemetry原生集成、提供细粒度的使用洞察等。OpenLIT面向AI开发者、数据科学家和企业，旨在帮助他们更好地构建、优化和管理AI应用。目前未明确具体价格，但从开源特性来看，可能对基础功能提供免费使用。

开源的RAG应用日志工具

RAG-logger是一个为检索增强生成(Retrieval-Augmented Generation, RAG)应用设计的开源日志工具。它是一个轻量级的、针对RAG特定日志需求的开源替代方案，专注于为RAG应用提供全面的日志记录功能，包括查询跟踪、检索结果记录、LLM交互记录以及逐步性能监控。它采用基于JSON的日志格式，支持每日日志组织、自动文件管理和元数据丰富化。RAG-logger以其开源、轻量级和专注于RAG应用的特性，为开发者提供了一个有效的工具来监控和分析RAG应用的性能。

AI可观测性和机器学习监控平台

Evidently AI是一个开源的Python库，用于监控机器学习模型，支持从RAGs到AI助手的LLM驱动产品的评估。它提供了数据漂移、数据质量和生产ML模型性能的监控，拥有超过2000万的下载量和5000+的GitHub星标，是机器学习领域中一个值得信赖的监控工具。

开发者日志监控与调试的开源平台

Helicone AI是一个为开发者设计的开源平台，专注于日志记录、监控和调试。它具备毫秒级延迟影响、100%日志覆盖率和行业领先的查询时间，是为生产级工作负载设计的。平台通过Cloudflare Workers实现低延迟和高可靠性，并支持风险无忧的实验，无需安装SDK，仅需添加头部信息即可访问所有功能。

监控、评估和优化你的LLM应用

LangWatch是一个专为大型语言模型（LLM）设计的监控、评估和优化平台。它通过科学的方法来衡量LLM的质量，自动寻找最佳的提示和模型，并提供一个直观的分析仪表板，帮助AI团队以10倍的速度交付高质量的产品。LangWatch的主要优点包括减少手动优化过程、提高开发效率、确保产品质量和安全性，以及支持企业级的数据控制和合规性。产品背景信息显示，LangWatch利用Stanford的DSPy框架，帮助用户在几分钟内而非几周内找到合适的提示或模型，从而加速产品从概念验证到生产的转变。

AI驱动的网站监控工具，通过模拟真实用户行为检测网站问题。

Flowtest.ai 是一款基于人工智能的网站监控工具，通过模拟真实用户行为来检测网站的可用性和性能问题。它利用先进的AI技术，能够像真实用户一样浏览网站、执行操作，并实时监控网站的运行状态。与传统监控工具相比，Flowtest.ai 的AI代理能够适应网站变化，无需频繁维护脚本，同时提供即时警报和详细的故障报告，帮助用户快速定位和解决问题。该产品主要面向电商企业、SaaS产品提供商和数字营销机构，旨在帮助企业减少因网站故障导致的销售损失，提升用户体验，并优化网站性能。其定价模式灵活，提供免费试用选项，适合不同规模的企业使用。

开源的AI代理/RAG应用的监控与分析工具

Laminar是一个开源的监控和分析工具，专为AI代理和RAG应用设计，提供类似于DataDog和PostHog的功能。它基于OpenTelemetry进行自动监控，支持快速、可靠的数据收集和分析。Laminar使用Rust编写，具有高性能和可靠性，适用于大规模数据处理。它通过提供详细的追踪、事件和分析功能，帮助开发者和企业优化AI应用的性能和用户体验。

提升机器翻译性能的对比偏好优化

Contrastive Preference Optimization是一种用于机器翻译的创新方法，通过训练模型避免生成仅仅足够而不完美的翻译，从而显著提高了ALMA模型的性能。该方法在WMT'21、WMT'22和WMT'23测试数据集上可以达到或超过WMT竞赛获胜者和GPT-4的性能。

优化AI性能的无代码Fine-Tuning

Fine-Tuner是一款优化AI性能的无代码Fine-Tuning工具。通过使用先进的Fine-Tuning技术，您可以在更少的数据和时间内获得更好的结果。Fine-Tuner可以帮助您提升NLP模型的性能，无需编写任何代码。您可以使用Fine-Tuner对现有的模型进行改进，优化其性能，从而节省时间和资源。Fine-Tuner还提供了丰富的功能列表，适用于各种场景。

开源AI芯片性能基准测试平台

FlagPerf是由智源研究院联合AI硬件厂商共建的一体化AI硬件评测引擎，旨在建立以产业实践为导向的指标体系，评测AI硬件在软件栈组合（模型+框架+编译器）下的实际能力。该平台支持多维度评测指标体系，覆盖大模型训练推理场景，并支持多训练框架及推理引擎，连接AI硬件与软件生态。

一个现代化的GitHub仓库浏览工具，提供智能代码导航和优化性能。

ExplainGitHub 是一个专为开发者设计的工具，旨在提供一种现代化的GitHub仓库浏览体验。它通过智能代码导航和优化性能，帮助用户更高效地理解和探索GitHub上的项目。该工具支持多种编程语言，并提供直观的界面和强大的搜索功能，使代码探索变得轻松愉快。它主要面向开发者和开源社区，帮助他们快速找到感兴趣的项目和技术。

下一代开源AI模型，性能卓越。

Gemma 2是谷歌DeepMind推出的下一代开源AI模型，提供9亿和27亿参数版本，具有卓越的性能和推理效率，支持在不同硬件上以全精度高效运行，大幅降低部署成本。Gemma 2在27亿参数版本中，提供了两倍于其大小模型的竞争力，并且可以在单个NVIDIA H100 Tensor Core GPU或TPU主机上实现，显著降低部署成本。

开源的高性能语言模型，支持多端应用。

Qwen2.5系列语言模型是一系列开源的decoder-only稠密模型，参数规模从0.5B到72B不等，旨在满足不同产品对模型规模的需求。这些模型在自然语言理解、代码生成、数学推理等多个领域表现出色，特别适合需要高性能语言处理能力的应用场景。Qwen2.5系列模型的发布，标志着在大型语言模型领域的一次重要进步，为开发者和研究者提供了强大的工具。

AI 驱动的 CUDA 代码优化平台，快速提升 GPU 性能，无需手动优化复杂代码。

RightNow AI 是一个创新的 AI 驱动的 CUDA 代码优化平台，旨在帮助开发者快速提升 GPU 性能。它通过强大的 AI 技术，自动分析 CUDA 内核，识别性能瓶颈，并生成优化后的代码，相比手动优化，大大节省了时间和精力。该平台支持多种优化策略，如共享内存利用、线程协作、循环展开等，可实现高达 4 倍的性能提升。其主要面向需要高性能 GPU 计算的开发者和企业，尤其是那些缺乏专业 GPU 优化知识的团队。RightNow AI 提供多种付费计划，包括按需付费、开发者、专业和企业套餐，满足不同规模用户的需求。

昆仑万维开源的高性能数学代码推理模型，性能卓越

Skywork-OR1是由昆仑万维天工团队开发的高性能数学代码推理模型。该模型系列在同等参数规模下实现了业界领先的推理性能，突破了大模型在逻辑理解与复杂任务求解方面的能力瓶颈。Skywork-OR1系列包括Skywork-OR1-Math-7B、Skywork-OR1-7B-Preview和Skywork-OR1-32B-Preview三款模型，分别聚焦数学推理、通用推理和高性能推理任务。此次开源不仅涵盖模型权重，还全面开放了训练数据集和完整训练代码，所有资源均已上传至GitHub和Huggingface平台，为AI社区提供了完全可复现的实践参考。这种全方位的开源策略有助于推动整个AI社区在推理能力研究上的共同进步。

基于Linux环境快速部署开源大模型的教程

该项目是一个围绕开源大模型的全流程指导教程,包括环境配置、模型部署、高效微调等,简化开源大模型的使用和应用,让更多普通学习者能够使用开源大模型。项目面向对开源大模型感兴趣且想自主上手的学习者,提供详细的环境配置、模型部署和微调方法。

AI语音代理测试与监控平台

Vocera是一个由Y Combinator支持的AI语音代理测试与监控平台，它允许用户通过模拟各种场景和使用真实音频来测试和评估AI语音代理的性能。该平台的主要优点在于能够快速启动测试，减少将AI代理投入生产环境的时间，同时提供实时监控和性能分析，确保AI代理在各种对话场景中都能提供无缝的用户体验。Vocera适用于需要快速创建和测试AI语音代理的企业和开发者，特别是在合规性要求较高的行业中，如医疗、法律等。

一站式云资源监控与管理平台

Onepane.ai是一个一站式的云资源监控和管理平台。它可以发现和映射业务服务,实时显示状态,并在发生故障时自动发出警报,帮助业务负责人和技术支持人员进行故障根因分析。平台提供自动化的云端管控,标准化的命名规则,智能标签,以及资源优化等功能。

协作监控LLM

Llog是一个协作监控LLM应用程序的终端到终端平台，为团队提供洞察力，了解他们的LLM应用程序在生产后的情况。团队成员可以在一个协作空间中审查日志、标记重要事项并分配任务。无论团队规模多大，都可以在任何价格层级下享受无限的席位支持。通过直接观察用户交互，全面了解终端用户的行为，并永远不再担心LLM实际上在说什么。使用我们简单的格式，进行几个API请求，即可立即在我们的平台上查看结果。

高效监控和事故管理

Spectate是一个简单但功能强大的监控和事故管理平台，具备AI驱动的状态更新和事故解决方案。快速设置，帮助您轻松高效地进行云监控和事故管理。提供30秒检测，通知速度是传统监控的两倍；支持多种集成，包括Slack、Pushover等；提供自定义状态页面，支持全球性能监控等功能。适用于各种大小的团队和企业。

开源工业级自动语音识别模型，支持普通话、方言和英语，性能卓越。

FireRedASR-AED-L 是一个开源的工业级自动语音识别模型，专为满足高效率和高性能的语音识别需求而设计。该模型采用基于注意力的编码器-解码器架构，支持普通话、中文方言和英语等多种语言。它在公共普通话语音识别基准测试中达到了新的最高水平，并且在歌唱歌词识别方面表现出色。该模型的主要优点包括高性能、低延迟和广泛的适用性，适用于各种语音交互场景。其开源特性使得开发者可以自由地使用和修改代码，进一步推动语音识别技术的发展。

释放超级推理能力，提升AIME & MATH基准测试性能。

DeepSeek-R1-Lite-Preview是一款专注于提升推理能力的AI模型，它在AIME和MATH基准测试中展现了出色的性能。该模型具备实时透明的思考过程，并且计划推出开源模型和API。DeepSeek-R1-Lite-Preview的推理能力随着思考长度的增加而稳步提升，显示出更好的性能。产品背景信息显示，DeepSeek-R1-Lite-Preview是DeepSeek公司推出的最新产品，旨在通过人工智能技术提升用户的工作效率和问题解决能力。目前，产品提供免费试用，具体的定价和定位信息尚未公布。

AI代码优化工具

Refiner是一款利用人工智能提升代码质量的工具。它能够分析代码并提供改进建议，帮助开发者优化代码的性能、可读性和可维护性。Refiner的功能包括自动重构、代码规范检查和性能优化等。它具有极快的响应速度，平均响应时间不到1秒。Refiner注重用户隐私，不会保留用户输入的代码信息。该产品免费试用前三次。

提升大型语言模型性能的混合代理技术

MoA（Mixture of Agents）是一种新颖的方法，它利用多个大型语言模型（LLMs）的集体优势来提升性能，实现了最先进的结果。MoA采用分层架构，每层包含多个LLM代理，显著超越了GPT-4 Omni在AlpacaEval 2.0上的57.5%得分，达到了65.1%的得分，使用的是仅开源模型。

AI搜索监控平台，提升品牌在AI搜索中的可见度。

Otterly.AI是一个创新的AI搜索监控平台，专注于新AI搜索平台上的内容和品牌监控。它可以帮助用户了解品牌在Google AI Overviews、ChatGPT和Perplexity.AI等AI搜索平台上的存在情况，监控链接和内容的变化，从而做出有关内容、营销和SEO策略的明智决策。该平台使用户能够及时获得品牌可见性、SEO和内容性能的洞察，节省时间并提高在AI驱动的搜索体验中的可见度。

Steev 是一款用于优化 AI 模型训练的工具，帮助用户提升训练效率和模型性能。

Steev 是一款专为 AI 模型训练设计的工具，旨在简化训练流程，提升模型性能。它通过自动优化训练参数、实时监控训练过程，并提供代码审查和建议，帮助用户更高效地完成模型训练。Steev 的主要优点是无需配置即可使用，适合希望提高模型训练效率和质量的工程师和研究人员。目前处于免费试用阶段，用户可以免费体验其全部功能。

以低成本实现高性能的大型语言模型

JetMoE-8B是一个开源的大型语言模型，通过使用公共数据集和优化的训练方法，以低于10万美元的成本实现了超越Meta AI LLaMA2-7B的性能。该模型在推理时仅激活22亿参数，大幅降低了计算成本，同时保持了优异的性能。

Instella 是由 AMD 开发的高性能开源语言模型，专为加速开源语言模型的发展而设计。

Instella 是由 AMD GenAI 团队开发的一系列高性能开源语言模型，基于 AMD Instinct™ MI300X GPU 训练而成。该模型在性能上显著优于同尺寸的其他开源语言模型，并且在功能上与 Llama-3.2-3B 和 Qwen2.5-3B 等模型相媲美。Instella 提供模型权重、训练代码和训练数据，旨在推动开源语言模型的发展。其主要优点包括高性能、开源开放以及对 AMD 硬件的优化支持。