产品库

Portkey.ai - AI应用控制面板

Portkey是一个LLMOps平台，帮助企业更快地开发、发布、维护和迭代生成式AI应用和功能。通过Portkey的可观测性套件和AI网关，数百个团队可以发布可靠、高效和快速的应用。价格根据需求定制。

一款私人且离线的AI个人知识管理桌面应用

Reor是一个AI驱动的桌面笔记应用，它通过自动链接相关笔记、回答笔记上的问题、提供语义搜索以及生成AI闪卡来增强个人的知识管理。所有数据本地存储，支持类似Obsidian的Markdown编辑器。Reor项目的核心假设是，思考工具的AI模型应默认在本地运行。它利用了Ollama、Transformers.js和LanceDB等技术，使得大型语言模型（LLM）和嵌入模型能够在本地运行。同时，也支持连接到OpenAI或兼容的API，如Oobabooga。

AI基础设施，适用于每个人，一键部署团队AI助手。

NextChat是一个多功能的AI聊天服务平台，支持与领先的大型语言模型（LLMs）兼容，允许用户轻松部署团队范围内的AI辅助工具。它提供了一个优雅的用户界面，集中管理所有数据，并提供统计追踪团队AI使用情况的功能。此外，它还包括反馈分析工具，帮助用户聆听并分析其受众。NextChat支持OpenAI和Gemini模型，是一个面向所有人的AI基础设施，旨在提供个性化的AI聊天服务。

AI预算优化工具，比较和计算大型语言模型API的最新价格。

LLM Price Check是一个在线工具，它允许用户比较和计算不同大型语言模型（LLM）API的价格，这些API由领先的提供商如OpenAI、Anthropic、Google等提供。该工具可以帮助用户优化他们的AI预算，通过比较不同模型的价格和性能，用户可以做出更明智的选择。

用户友好的LLMs WebUI

Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。

100个AI模型，1个API，最高可访问性

aimlapi.com是一个AI模型平台，通过1个API可以访问100多个AI模型。该平台提供低延迟、全天候访问的AI服务，可节省高达80%的成本。AI模型包括高级LLM、语音转文字、文字转语音、聊天机器人和图像生成等功能。定价简单明了，为开发者提供最低市场价格。支持与OpenAI兼容，无缝切换使用。适用于各种场景，包括聊天、语音、图像等。支持快速响应和高效扩展，保证99%的运行时间。欢迎免费试用1个月。

构建GPT-4级别的对话问答模型

ChatQA是一系列对话问答（QA）模型，可以达到GPT-4级别的准确性。我们提出了一种两阶段指导调优方法，可以显著提高大型语言模型（LLMs）的零射击对话QA结果。为了处理对话式QA中的检索，我们在多轮QA数据集上对密集检索器进行微调，这提供了与使用最先进的查询重写模型相当的结果，同时大大降低了部署成本。值得注意的是，我们的ChatQA-70B在10个对话QA数据集的平均得分上可以胜过GPT-4（54.14 vs. 53.90），而不依赖于OpenAI GPT模型的任何合成数据。

快速将LLM集成到生产应用

Merlin提供统一的API和SDK,用于将LLM/LLVM快速集成到生产应用中。性能高、可靠、易于使用。它可以在5分钟内将Google的Gemini SDK集成进去。提供20多个AI模型,无需管理多个API密钥,没有速率限制,也不必担心记忆窗口或记号计算。所有模型都遵循OpenAI API结构,误差率比OpenAI低10倍,零宕机时间。

AI命令行助手，提高CLI智能化

Kel是一个AI命令行助手，通过在CLI中集成AI能力，可以自动化重复任务，提高生产力，使CLI更智能高效。支持OpenAI、Anthropic和Ollama LLMs以及OpenAI助手。用户可以上传文件并与其进行交互对话。同时支持使用OpenAI/Anthropic密钥，其他LLM支持即将推出。

用于记录和测试LLM提示的MLops工具

Prompt Joy是一个用于帮助理解和调试LLM(大语言模型)提示的工具。主要功能包括日志记录和分割测试。日志记录可以记录LLM的请求与响应,便于检查输出结果。分割测试可以轻松进行A/B测试,找出效果最佳的提示。它与具体的LLM解耦,可以配合OpenAI、Anthropic等LLM使用。它提供了日志和分割测试的API。采用Node.js+PostgreSQL构建。

简化LLM完成和嵌入调用的开源库

LiteLLM是一个开源库，旨在简化LLM完成和嵌入调用。它集成了Azure、Anthropic、OpenAI、Cohere和Replicate等多个平台的API，让你可以使用一个函数轻松调用它们。LiteLLM提供了方便的接口和一致的输出格式，使得使用LLM模型变得更加简单。它可以用于各种场景，如自然语言处理、文本生成、对话系统等。

监控OpenAI API使用情况的工具

LLM Report是一个可以监控OpenAI API使用情况的工具。用户只需输入OpenAI API密钥，工具会直接从OpenAI API中获取数据并创建仪表板，无需安装任何软件。用户可以清楚地了解每个模型、API密钥和用户的费用情况，避免盲目消耗资源。LLM Report得到了全球2500多个用户和公司的认可。

将短信转化为利润

SMSGenius是一款#1短信营销软件，帮助您获得更多点击、潜在客户和销售额。通过连接您的网关、个性化短信、定向受众分割、A/B测试和批量发送等功能，提升您的业务。适用于联盟营销和潜在客户生成。AI发送优化和无Cookie转化跟踪等功能，提升您的短信效果。

RapidPay是一款方便快捷的移动支付应用

RapidPay是一个移动支付APP,致力于提供简单、安全、快捷的支付体验。正在通过其突破性的人工智能支付网关改变支付世界。该APP支持各大银行信用卡及借记卡,用户可以通过手机随时随地完成支付。RapidPay具有支付流程简单、支持指纹识别、数据安全加密等优势,可以实现秒级支付,大大提升支付效率。该APP适用于餐饮、购物、娱乐、出行等多个场景,targeted positioning向年轻用户群体。

一体化后端平台，满足各类项目需求

Nokori是一体化后端平台，提供了通用数据层、即时数据库API、认证与用户管理、即时第三方API集成和事务性邮件等功能。它被广大开发者信任，并能帮助他们快速启动项目，轻松构建和扩展SaaS业务。通过Nokori Hubs，您可以轻松配置、测试和部署API集成和数据库连接，还可以将它们部署为边缘函数，实现无缝的应用集成。Nokori Hubs还提供了无缝的API网关和高可扩展性，让您的应用能够轻松应对各种需求和突发的流量高峰。减少上线时间、集中管理API和数据库调用，让您能更专注于核心业务，快速上线产品。

提升大型语言模型解决数学问题的能力

ChatGLM-Math 是一个基于自我批评流程定制的数学问题解决模型，旨在提高大型语言模型（LLMs）在数学问题解决方面的能力。该模型通过训练一个通用的Math-Critique模型来提供反馈信号，并采用拒绝采样微调和直接偏好优化来增强LLM的数学问题解决能力。它在学术数据集和新创建的挑战性数据集MathUserEval上进行了实验，显示出在保持语言能力的同时，显著提升了数学问题解决能力。

职位申请必备！一键生成专业求职信

GPT Cover Letter Generator是一款强大的工具，利用AI技术帮助求职者快速撰写专业且个性化的求职信。通过OpenAI的GPT 3.5模型，简化求职者撰写引人注目的求职信的过程，帮助他们在求职过程中脱颖而出。

Prompto是一个开源的网络应用程序，旨在使与LLM的交互简单高效。

Prompto是一个开源的网页应用程序，旨在使与大型语言模型（LLMs）的交互简单高效。它可以轻松切换不同的LLMs，通过调整温度设置来调整LLM的创造力和风险水平，提供聊天机器人界面和笔记本界面，可以创建常用提示的模板，并且在浏览器中运行，确保流畅响应的体验。所有设置和聊天记录仅存储在浏览器的本地存储中，保护用户隐私。

基于2千亿MoE模型的领先AI技术，提供超低价格和越级场景体验。

DeepSeek-V2是一款基于2千亿参数量的MoE（Mixture of Experts）模型的AI技术产品，它在对话官网和API上全面上线，提供领先性能和超低价格。该产品在中文综合能力（AlignBench）和英文综合能力（MT-Bench）的评测中表现出色，与GPT-4-Turbo等闭源模型处于同一梯队。DeepSeek-V2支持128K上下文的开源模型，而对话官网/API支持32K上下文。产品的主要优点包括即刻接入、能力卓越、价格低廉，并且兼容OpenAI API接口，提供丝滑的体验。

低代码生成AI应用程序的生成性AI RAG工具包。

create-tsi是一个生成性AI RAG（Retrieval-Augmented Generation）工具包，用于低代码生成AI应用程序。它利用LlamaIndex和T-Systems在Open Telekom Cloud上托管的大型语言模型（LLMs），简化了AI应用程序的创建过程，使其变得快捷、灵活。用户可以使用create-tsi生成聊天机器人、编写代理并针对特定用例进行定制。

用于评估其他语言模型的开源工具集

Prometheus-Eval 是一个用于评估大型语言模型（LLM）在生成任务中表现的开源工具集。它提供了一个简单的接口，使用 Prometheus 模型来评估指令和响应对。Prometheus 2 模型支持直接评估（绝对评分）和成对排名（相对评分），能够模拟人类判断和专有的基于语言模型的评估，解决了公平性、可控性和可负担性的问题。

使用OpenAI Assistants API和Next.js快速搭建聊天机器人应用

OpenAI Assistants API quickstart with Next.js 是一个使用OpenAI的Assistants API和Next.js框架快速搭建聊天机器人的模板项目。它支持流式传输、代码解释器和文件搜索等高级功能，旨在展示如何在Next.js应用中集成OpenAI的强大能力。

AI眼镜，赋予你视觉分析与实时翻译的超能力

Frame是Brilliant Labs推出的一款AI眼镜，它通过集成的AI技术，为用户提供实时的视觉分析和翻译功能。这款眼镜结合了OpenAI和Whisper技术，允许用户通过视觉和听觉来搜索和理解他们所看到和听到的内容。Frame的主要优点在于它的开放源代码特性，鼓励开发者、艺术家和黑客探索和创造新的功能，推动产品的创新和个性化。此外，它还包括了Mister Power功能，确保全天候的电池续航。

使用ollama Python客户端与ComfyUI工作流集成的大型语言模型（LLM）

ComfyUI Ollama是为ComfyUI工作流设计的自定义节点，它使用ollama Python客户端，允许用户轻松地将大型语言模型（LLM）集成到他们的工作流程中，或者仅仅是进行GPT实验。这个插件的主要优点在于它提供了与Ollama服务器交互的能力，使得用户可以执行图像查询、通过给定的提示查询LLM，以及使用精细调整参数进行LLM查询，同时保持生成链的上下文。

一种通过大型语言模型引导的模拟到现实世界转移策略，用于获取机器人技能。

DrEureka是一个利用大型语言模型（LLMs）自动化和加速模拟到现实（sim-to-real）设计的方法。它通过物理模拟自动构建合适的奖励函数和领域随机化分布，以支持现实世界中的转移。DrEureka在四足机器人运动和灵巧操作任务上展示了与人工设计相媲美的sim-to-real配置，并能够解决如四足机器人在瑜伽球上平衡和行走等新颖任务，无需人工迭代设计。

使用OpenAI、Claude 3和Azure等模型构建AI助手，轻松连接工具和数据库，并将其作为API聊天机器人或HTML嵌入式小部件发布

AI助手构建器使用OpenAI、Claude和Azure等模型，提供了一个简单的无代码方式来构建AI助手。它可以轻松连接到您的工具和数据库，并以API聊天机器人或HTML嵌入式小部件的形式发布。它具有灵活的低代码功能，可以满足各种需求。

构建定制的大型语言模型（LLM）以增强聊天机器人的能力。

ChatRTX 是 NVIDIA 提供的一个用于构建定制大型语言模型（LLM）的平台，旨在提升聊天机器人的智能水平和交互能力。它利用先进的 AI 技术，通过理解自然语言处理（NLP）来提供更加人性化的对话体验。ChatRTX 的主要优点包括高度的可定制性、强大的语言理解能力和高效的交互设计，适合需要高级对话系统的各种商业应用。

基于AI的Python网络爬虫库，自动化提取网页信息。

ScrapeGraphAI是一个使用LLM（大型语言模型）和直接图逻辑来为网站、文档和XML文件创建抓取管道的Python网络爬虫库。用户只需指定想要提取的信息，库就会自动完成这项工作。该库的主要优点在于简化了网络数据抓取的过程，提高了数据提取的效率和准确性。它适用于数据探索和研究目的，但不应被滥用。

使用大型语言模型（LLMs）进行数据清洗和整理的Python库。

databonsai是一个Python库，利用大型语言模型（LLMs）执行数据清洗任务。它提供了一系列工具，包括数据分类、转换和提取，以及对LLM输出的验证，支持批量处理以节省令牌，并且具备重试逻辑以处理速率限制和瞬时错误。

一款基于生物医学数据的8亿参数大型语言模型

Llama-3[8B] Meditron V1.0是一款专为生物医学领域设计的8亿参数的大型语言模型（LLM），在Meta发布Llama-3后24小时内完成微调。该模型在MedQA和MedMCQA等标准基准测试中超越了同参数级别的所有现有开放模型，并且接近70B参数级别医学领域领先的开放模型Llama-2[70B]-Meditron的性能。该工作展示了开放基础模型的创新潜力，是确保资源匮乏地区公平参与访问该技术更大倡议的一部分。