产品库

提升大型语言模型解决数学问题的能力

ChatGLM-Math 是一个基于自我批评流程定制的数学问题解决模型，旨在提高大型语言模型（LLMs）在数学问题解决方面的能力。该模型通过训练一个通用的Math-Critique模型来提供反馈信号，并采用拒绝采样微调和直接偏好优化来增强LLM的数学问题解决能力。它在学术数据集和新创建的挑战性数据集MathUserEval上进行了实验，显示出在保持语言能力的同时，显著提升了数学问题解决能力。

Prompto是一个开源的网络应用程序，旨在使与LLM的交互简单高效。

Prompto是一个开源的网页应用程序，旨在使与大型语言模型（LLMs）的交互简单高效。它可以轻松切换不同的LLMs，通过调整温度设置来调整LLM的创造力和风险水平，提供聊天机器人界面和笔记本界面，可以创建常用提示的模板，并且在浏览器中运行，确保流畅响应的体验。所有设置和聊天记录仅存储在浏览器的本地存储中，保护用户隐私。

低代码生成AI应用程序的生成性AI RAG工具包。

create-tsi是一个生成性AI RAG（Retrieval-Augmented Generation）工具包，用于低代码生成AI应用程序。它利用LlamaIndex和T-Systems在Open Telekom Cloud上托管的大型语言模型（LLMs），简化了AI应用程序的创建过程，使其变得快捷、灵活。用户可以使用create-tsi生成聊天机器人、编写代理并针对特定用例进行定制。

一种通过大型语言模型引导的模拟到现实世界转移策略，用于获取机器人技能。

DrEureka是一个利用大型语言模型（LLMs）自动化和加速模拟到现实（sim-to-real）设计的方法。它通过物理模拟自动构建合适的奖励函数和领域随机化分布，以支持现实世界中的转移。DrEureka在四足机器人运动和灵巧操作任务上展示了与人工设计相媲美的sim-to-real配置，并能够解决如四足机器人在瑜伽球上平衡和行走等新颖任务，无需人工迭代设计。

使用大型语言模型（LLMs）进行数据清洗和整理的Python库。

databonsai是一个Python库，利用大型语言模型（LLMs）执行数据清洗任务。它提供了一系列工具，包括数据分类、转换和提取，以及对LLM输出的验证，支持批量处理以节省令牌，并且具备重试逻辑以处理速率限制和瞬时错误。

下一代本地优先的大型语言模型（LLMs）

anime.gf 是由 moecorp 发起的下一代本地优先的大型语言模型（LLMs），目前正处于积极开发阶段。它代表了一种新兴的本地化和开源的人工智能技术，旨在提供更高效、更个性化的用户体验。

在线聊天机器人竞技场，比较不同语言模型的表现。

LMSYS Chatbot Arena 是一个在线平台，旨在通过用户与匿名聊天机器人模型的互动，对大型语言模型(Large Language Models, LLMs)进行基准测试。该平台收集了超过70万次人类投票，计算出LLM的Elo排行榜，以确定谁是聊天机器人领域的冠军。平台提供了一个研究预览，具有有限的安全措施，可能生成不当内容，因此需要用户遵守特定的使用条款。

与多个AI聊天机器人同时对话，发现最佳答案

ChatALL是一款桌面客户端软件，它允许用户同时与多个大型语言模型（LLMs）基础的AI聊天机器人进行对话，帮助用户发现最佳的对话结果。这款软件的主要优点在于其能够并发发送提示给不同的AI机器人，从而快速比较它们在不同任务上的表现，并找到最适合的机器人。产品背景信息显示，ChatALL适合于希望从LLMs中找到最佳答案或创作的专家、研究人员以及LLM应用的开发者。目前，ChatALL是免费提供给用户的。

AI基础设施，适用于每个人，一键部署团队AI助手。

NextChat是一个多功能的AI聊天服务平台，支持与领先的大型语言模型（LLMs）兼容，允许用户轻松部署团队范围内的AI辅助工具。它提供了一个优雅的用户界面，集中管理所有数据，并提供统计追踪团队AI使用情况的功能。此外，它还包括反馈分析工具，帮助用户聆听并分析其受众。NextChat支持OpenAI和Gemini模型，是一个面向所有人的AI基础设施，旨在提供个性化的AI聊天服务。

轻量级但功能强大的多模态模型家族。

Bunny 是一系列轻量级但功能强大的多模态模型，提供多种即插即用的视图编码器和语言主干网络。通过从更广泛的数据源进行精选选择，构建更丰富的训练数据，以补偿模型尺寸的减小。Bunny-v1.0-3B 模型在性能上超越了同类大小甚至更大的 MLLMs（7B）模型，并与 13B 模型性能相当。

快速训练和微调大型语言模型

Unsloth 是一个旨在提高大型语言模型（LLMs）训练和微调速度的平台。它通过手动推导所有计算密集型数学步骤并手写GPU内核，实现了无需硬件更改即可显著加快训练速度。Unsloth 支持多种GPU，包括NVIDIA、AMD和Intel，并提供开源版本供用户在Google Colab或Kaggle Notebooks上免费试用。它还提供了不同级别的定价方案，包括免费版、Pro版和企业版，以满足不同用户的需求。

开源AI软件工程师

Devika AI是一个开源的AI软件工程师，可以理解高级人类指令，将其分解为步骤，研究相关信息并生成相应代码。它使用Claude 3、GPT 4、GPT 3.5和Local LLMs via Ollama。

开源的先进文本嵌入模型

Snowflake Arctic Embed是一系列基于Apache 2.0许可开源的文本嵌入模型，专为检索用例设计。这些模型在Massive Text Embedding Benchmark (MTEB)检索基准测试中提供了领先的检索性能，为组织在结合专有数据集与大型语言模型（LLMs）进行检索增强生成（RAG）或语义搜索服务时提供了新的优势。这些模型的尺寸从超小型（xs）到大型（l），具有不同的上下文窗口和参数数量，以满足不同企业的延迟、成本和检索性能需求。

AI 聚合搜索 API 服务

Tavily 是您的 AI 研究助手，为您提供快速准确的洞察和全面研究。它可以帮助您的 AI 做出更好的决策，提供智能搜索 API，以快速、准确、实时的方式获取信息。通过连接 LLMs 和 AI 应用程序到可信实时知识，减少幻觉和偏见。

深入探索Prompt Engineering的前沿领域，这是一个全面的学习路径

CodeSignal Learn提供的Prompt Engineering for Everyone是一个全面的学习路径，旨在为初学者和经验丰富的实践者介绍有效的提示构建技术，以便与大型语言模型（LLMs）有效协作。通过这个学习旅程，你将掌握影响LLM输出、控制生成文本的格式和大小以及遵循复杂指令的艺术。准备好提升你的技能，创造精确、具有上下文感知的提示，引导AI模型达到预期结果。

使用LLMs和计算机视觉自动化基于浏览器的工作流程

Skyvern是一个自动化工具，它结合了大型语言模型（LLMs）和计算机视觉技术，用于自动化基于浏览器的工作流程。它提供了一个简单的API端点，可以完全自动化手动工作流程，替代易碎或不可靠的自动化解决方案。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

Apollo是一个多语言医学领域的模型、数据集、基准和代码库

Apollo项目由FreedomIntelligence组织维护，旨在通过提供多语言医学领域的大型语言模型（LLMs）来民主化医疗AI，覆盖6亿人。该项目包括模型、数据集、基准测试和相关代码。

PocketLLM是您的个人知识搜索引擎，能够记忆数千页PDF和文档，以及抓取URL进行搜索。

PocketLLM由ThirdAi提供，是一款基于AI和大型语言模型（LLMs）的个人知识搜索工具。它允许用户在本地设备上存储和处理文件和模型，以保护隐私。用户可以轻松添加、更新或删除模型和文件，并通过对模型进行反馈来训练模型，以适应特定的用例或术语。

深入理解语言模型中的标记化过程

KarpathyLLMChallenge是一个教育性质的网站，专注于解释和展示语言模型（LLMs）中标记化的重要性和复杂性。它通过详细的文章和实例，帮助用户理解标记化如何影响语言模型的性能和能力。

免费使用开源LLMs的AI答案引擎

Ubdroid AI Answer Engine是一款基于人工智能的工具，使用开源LLMs为用户提供答案。它通过处理用户查询并从开源LLMs中获取相关信息来工作。准确性取决于开源LLMs提供的数据。对于免费模型，请求限制为每分钟10个。如果发现某个模型不起作用，请选择另一个模型。

结合视觉语音处理与大型语言模型的框架

VSP-LLM是一个结合视觉语音处理（Visual Speech Processing）与大型语言模型（LLMs）的框架，旨在通过LLMs的强大能力最大化上下文建模能力。VSP-LLM设计用于执行视觉语音识别和翻译的多任务，通过自监督视觉语音模型将输入视频映射到LLM的输入潜在空间。该框架通过提出一种新颖的去重方法和低秩适配器（LoRA），可以高效地进行训练。

用户友好的LLMs WebUI

Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。

给 LLMs 提供灵活的格式化文本输出的UI Kit

LanguageGUI是一个开源的设计系统和UI Kit，为LLMs提供了将文本输出格式化为丰富图形用户界面的灵活性。它包括数十个独特的UI元素，可用于丰富对话式用户界面的不同用例。主要功能包括100个可自定义的UI组件和屏幕、10个对话式UI小部件、20个聊天气泡、30个预建屏幕、5个可自定义设置的聊天侧边栏、多个提示框、深色模式等。LanguageGUI是免费的，可以用于个人或商业项目。它由Tonki Labs团队开发，并以MIT许可证发布。

通过自然语言指令实现智能图像编辑的开源技术。

MGIE（多模态大语言模型引导的编辑）是一项由苹果开源的技术，利用多模态大型语言模型（MLLMs）生成图像编辑指令，通过端到端训练，捕捉视觉想象力并执行图像处理操作，使图像编辑更加智能、直观。

多模态视觉语言模型

MouSi是一种多模态视觉语言模型，旨在解决当前大型视觉语言模型（VLMs）面临的挑战。它采用集成专家技术，将个体视觉编码器的能力进行协同，包括图像文本匹配、OCR、图像分割等。该模型引入融合网络来统一处理来自不同视觉专家的输出，并在图像编码器和预训练LLMs之间弥合差距。此外，MouSi还探索了不同的位置编码方案，以有效解决位置编码浪费和长度限制的问题。实验结果表明，具有多个专家的VLMs表现出比孤立的视觉编码器更出色的性能，并随着整合更多专家而获得显著的性能提升。

矢量图形生成的划分标记

StrokeNUWA是一项开创性的工作，探索了在矢量图形上更好的视觉表示“划分标记”，其视觉语义丰富，与LLMs自然兼容，并具有高度压缩性。配备划分标记，StrokeNUWA在矢量图形生成任务的各种指标上显著超越传统的LLM-based和基于优化的方法。此外，StrokeNUWA在推理速度上实现了高达94倍的加速，与先前方法相比具有卓越的SVG代码压缩比达6.9%。

深入了解大型语言模型的内部工作

LLMs-from-scratch将带您逐步了解LLMs的工作原理。本书将逐步指导您创建自己的LLM，通过清晰的文本、图表和示例解释每个阶段。所描述的用于教育目的的训练和开发自己的小型但功能齐全模型的方法，与创建ChatGPT等大规模基础模型的方法相似。

通过加权平均奖励模型提高大型语言模型的效率和可靠性。

WARM是一种通过加权平均奖励模型（WARM）来对齐大型语言模型（LLMs）与人类偏好的解决方案。首先，WARM对多个奖励模型进行微调，然后在权重空间中对它们进行平均。通过加权平均，WARM相对于传统的预测集成方法提高了效率，同时改善了在分布转移和偏好不一致性下的可靠性。我们的实验表明，WARM在摘要任务上的表现优于传统方法，使用最佳N和RL方法，WARM提高了LLM预测的整体质量和对齐性。

代码生成优化工具

AlphaCodium是一种基于测试的、多阶段、面向代码的迭代流方法，旨在提高LLMs在代码问题上的性能。它通过优化模型在代码生成任务上的表现，特别适用于竞赛性编程问题。用户可以根据配置选择相应的模型（如“gpt-4”、“gpt-3.5-turbo-16k”等），并使用AlphaCodium解决特定问题或整个数据集。该工具还提供了一系列最佳实践，如YAML结构化输出、语义推理、模块化代码生成等，可广泛适用于其他代码生成任务。