产品库

将大型语言模型和聊天引入到 Web 浏览器中

Web LLM 是一个模块化、可定制的 JavaScript 包，可直接将语言模型聊天引入到 Web 浏览器中。一切都在浏览器内部运行，无需服务器支持，并且通过 WebGPU 进行加速。它可以为大家构建 AI 助手提供很多有趣的机会，并在享受 GPU 加速时保护隐私。此项目是 MLC LLM 的附属项目，MLC LLM 可以在 iPhone 和其他本地环境中本地运行 LLM。

高性能浏览器内语言模型推理引擎

WebLLM是一个高性能的浏览器内语言模型推理引擎，利用WebGPU进行硬件加速，使得强大的语言模型操作可以直接在网页浏览器内执行，无需服务器端处理。这个项目旨在将大型语言模型（LLM）直接集成到客户端，从而实现成本降低、个性化增强和隐私保护。它支持多种模型，并与OpenAI API兼容，易于集成到项目中，支持实时交互和流式处理，是构建个性化AI助手的理想选择。

ChatGPT Online是一个无需注册或登录即可直接通过网络浏览器访问的ChatGPT版本。它允许您与AI助手进行互动式聊天，无需安装任何额外的软件。

ChatGPT Online是一个无需注册或登录即可直接通过网络浏览器访问的ChatGPT版本。它基于OpenAI的GPT-3和GPT-4技术，具有自然语言处理和生成能力，可以与用户进行各种主题的自然对话。它是一个强大的AI助手，可以用于客户支持、学习支持、内容创作等领域。

新的聊天，面具插件

gAIgle.com是一个面具插件，提供新的聊天功能。它使用了先进的语言模型技术，可以自动生成对话内容。gAIgle.com的主要优点是快速、准确、易用，并可以适应不同的聊天场景。它可以用于社交娱乐、教育培训、客服支持等多个领域。

ChatNBX: 能力强大的聊天应用

ChatNBX 是一款下一代聊天界面，结合了类似 ChatGPT 的用户界面和在后台运行的开源大模型。它基于强大的语言模型，可以实现智能的对话交互。ChatNBX 能够广泛应用于不同场景，从日常娱乐到商业问题解答，都能提供高效准确的帮助。它还支持多种功能和定制选项，为用户提供个性化的聊天体验。

iPad和iPhone上的开源语言模型聊天应用

MLC Chat允许用户在iPad和iPhone上本地与开源语言模型进行聊天。在将模型下载到应用程序后，一切都在本地运行，无需服务器支持，而且无需互联网连接，不记录任何信息。由于模型在本地运行，它仅适用于具有足够VRAM的设备，具体取决于所使用的模型。MLC Chat是开源项目MLC LLM的一部分，允许在各种硬件后端和本机应用程序上本地部署任何语言模型。MLC Chat是在您的手机上运行不同开源模型架构的运行时。该应用旨在非商业目的。它允许您运行从互联网上下载的开源语言模型。每个模型可能受其各自的许可证约束。

更多模态、更长记忆、更低成本

JinaChat是一种多功能的大型语言模型 (LLM) 服务，提供高级会话功能，可以回答问题、解释图像等等。JinaChat开创了多模式聊天功能的新时代，超越了文本，融入了图像等。享受我们提供的低于100个词元的免费简短互动。我们的API使开发人员能够利用长期对话历史记录，消除冗余提示来构建复杂的应用程序。使用JinaChat率先进入LLM服务的未来，其中的对话是多模式的、长记忆的和负担得起的。

独家访问最好的大型语言模型

WNR.AI是一个独家访问的大型语言模型平台，为超凡人类般的沟通而设计，为对话型人工智能设定了新的标准。它具有卓越的人类化交流能力，可应用于专业领域，包括教练、销售、客户支持、健康和心理健康等。通过WNR.AI，您可以体验到前所未有的语言模型的能力，它将改变您对人工智能交流的认知。

领先的聊天AI平台

Chai Research是领先的聊天AI平台，拥有数十亿条聊天消息的专有数据集，并投入300万美元进行语言模型训练，以提供独特而吸引人的体验。现在，数百万人在我们的平台上进行聊天，我们不断优化语言模型，让它们比以往任何时候都更具娱乐性。我们的愿景是让数百万人参与聊天、创造和共享聊天AI人格，打造一个更开放、民主的智能聊天平台。

全球合作训练的10B参数语言模型聊天工具

INTELLECT-1 Chat是一个由全球合作训练的10B参数语言模型驱动的聊天工具。它代表了人工智能领域中大规模语言模型的最新进展，通过分散式训练，提高了模型的多样性和适应性。这种技术的主要优点包括能够理解和生成自然语言，提供流畅的对话体验，并且能够处理大量的语言数据。产品背景信息显示，这是一个首次展示分散式训练可能性的演示，易于使用且富有趣味性。价格方面，页面提供了登录以保存和重访聊天的功能，暗示了可能的付费或会员服务模式。

高性能英文语言模型，适用于多样化任务

OLMo-2-1124-13B-DPO是经过监督微调和DPO训练的13B参数大型语言模型，主要针对英文，旨在提供在聊天、数学、GSM8K和IFEval等多种任务上的卓越性能。该模型是OLMo系列的一部分，旨在推动语言模型的科学研究。模型训练基于Dolma数据集，并公开代码、检查点、日志和训练细节。

科学文献综合评估平台

ScholarQABench是一个用于测试大型语言模型（LLMs）在协助研究人员进行科学文献综合方面能力的综合评估平台。它来源于OpenScholar项目，提供了一个全面的评估框架，包括多个数据集和评估脚本，以衡量模型在不同科学领域的表现。该平台的重要性在于它能够帮助研究人员和开发者理解并提升语言模型在科学文献研究中的实用性和准确性。

科学文献合成的检索增强型语言模型

OpenScholar是一个检索增强型语言模型（LM），旨在通过首先搜索文献中的相关论文，然后基于这些来源生成回答，来帮助科学家有效地导航和综合科学文献。该模型对于处理每年发表的数百万篇科学论文，以及帮助科学家找到他们需要的信息或跟上单一子领域最新发现具有重要意义。

AI聊天应用，提供安全私密的对话体验。

PocketPal AI是一款可以在iOS设备上运行的AI聊天应用，它允许用户直接在设备上与先进的AI模型进行互动，而无需互联网连接，确保了对话的私密性和安全性。该应用代表了人工智能技术在移动设备上的应用，主要优点包括无需联网的离线聊天、数据本地处理以保护隐私、以及与Hugging Face平台的集成，方便用户搜索、下载和使用GGUF格式的模型。PocketPal AI是LLM Ventures公司的产品，免费提供给用户，定位于需要私密AI对话和数据处理的用户群体。

高性能的英文学术基准语言模型

OLMo 2 13B是由Allen Institute for AI (Ai2)开发的一款基于Transformer的自回归语言模型，专注于英文学术基准测试。该模型在训练过程中使用了高达5万亿个token，展现出与同等规模的全开放模型相媲美或更优的性能，并在英语学术基准上与Meta和Mistral的开放权重模型竞争。OLMo 2 13B的发布包括所有代码、检查点、日志和相关的训练细节，旨在推动语言模型的科学研究。

先进的AI模型，专注于复杂问题的推理和解决

Skywork-o1-Open-Llama-3.1-8B是由昆仑科技Skywork团队开发的一系列模型，这些模型结合了o1风格的慢思考和推理能力。该系列模型不仅在输出中展现出天生的思考、规划和反思能力，而且在标准基准测试中的推理技能有显著提升。这一系列代表了AI能力的战略进步，将原本较弱的基础模型推向了推理任务的最新技术（SOTA）。

最先进的全开放语言模型

OLMo 2是由Ai2推出的最新全开放语言模型，包括7B和13B两种规模的模型，训练数据高达5T tokens。这些模型在性能上与同等规模的全开放模型相当或更优，并且在英语学术基准测试中与开放权重模型如Llama 3.1竞争。OLMo 2的开发注重模型训练的稳定性、阶段性训练干预、最先进的后训练方法和可操作的评估框架。这些技术的应用使得OLMo 2在多个任务上表现出色，特别是在知识回忆、常识、一般和数学推理方面。

先进的文本生成模型，支持多样化任务

Llama-3.1-Tulu-3-8B-SFT是Tülu3模型家族中的一员，这是一个领先的指令遵循模型家族，提供完全开源的数据、代码和配方，旨在为现代后训练技术提供全面的指南。该模型不仅在聊天任务上表现出色，还在MATH、GSM8K和IFEval等多样化任务上展现了卓越的性能。

开源的先进语言模型后训练框架

Tülu 3是一系列开源的先进语言模型，它们经过后训练以适应更多的任务和用户。这些模型通过结合专有方法的部分细节、新颖技术和已建立的学术研究，实现了复杂的训练过程。Tülu 3的成功根植于精心的数据管理、严格的实验、创新的方法论和改进的训练基础设施。通过公开分享数据、配方和发现，Tülu 3旨在赋予社区探索新的和创新的后训练方法的能力。

潮汐 AI 提供即时答案和创意灵感。

潮汐 AI 是一个基于大型语言模型的聊天平台，旨在为用户提供高效的问答服务。它的主要优点包括快速响应、丰富的知识库和用户友好的界面。该产品适合需要快速获取信息和灵感的用户，定位于教育和生产力领域。

专为软件改进设计的开源大型语言模型。

Lingma SWE-GPT是一个开源的大型语言模型，专注于软件工程领域的任务，旨在提供智能化的开发支持。该模型基于Qwen系列基础模型，经过额外训练以增强其在复杂软件工程任务中的能力。它在软件工程智能代理的权威排行榜上表现出色，适合需要自动化软件改进的开发团队和研究人员。

人类中心语言模型和模拟器的领导者

Nous Research专注于开发以人为中心的语言模型和模拟器，致力于将AI系统与现实世界用户体验对齐。我们的主要研究领域包括模型架构、数据合成、微调和推理。我们优先开发开源、人类兼容的模型，挑战传统的封闭模型方法。

开源的网页自动化库，支持任何大型语言模型（LLM）

browser-use是一个开源的网页自动化库，允许大型语言模型（LLM）与网站进行交互，通过简单的接口实现复杂的网页操作。该技术的主要优点包括对多种语言模型的通用支持、交互元素自动检测、多标签页管理、XPath提取、视觉模型支持等。它解决了传统网页自动化中的一些痛点，如动态内容处理、长任务解决等。browser-use以其灵活性和易用性，为开发者提供了一个强大的工具，以构建更加智能和自动化的网页交互体验。

一款通过纯语言模型实现的文本到语音合成模型

OuteTTS-0.1-350M是一款基于纯语言模型的文本到语音合成技术，它不需要外部适配器或复杂架构，通过精心设计的提示和音频标记实现高质量的语音合成。该模型基于LLaMa架构，使用350M参数，展示了直接使用语言模型进行语音合成的潜力。它通过三个步骤处理音频：使用WavTokenizer进行音频标记化、CTC强制对齐创建精确的单词到音频标记映射、以及遵循特定格式的结构化提示创建。OuteTTS的主要优点包括纯语言建模方法、声音克隆能力、与llama.cpp和GGUF格式的兼容性。

Meta 开发的子十亿参数语言模型，适用于设备端应用。

Meta 开发的自回归语言模型，采用优化架构，适合资源受限设备。优点多，如集成多种技术，支持零样本推理等，价格免费，面向自然语言处理研究人员和开发者。

高效优化的600M参数语言模型，专为设备端应用设计。

MobileLLM-600M是由Meta开发的自回归语言模型，采用了优化的Transformer架构，专为资源受限的设备端应用而设计。该模型集成了SwiGLU激活函数、深度薄架构、嵌入共享和分组查询注意力等关键技术。MobileLLM-600M在零样本常识推理任务上取得了显著的性能提升，与之前的125M/350M SoTA模型相比，分别提高了2.7%/4.3%的准确率。该模型的设计理念可扩展至更大模型，如MobileLLM-1B/1.5B，均取得了SoTA结果。

高效优化的子十亿参数语言模型，专为设备端应用设计

MobileLLM-350M是由Meta开发的自回归语言模型，采用优化的Transformer架构，专为设备端应用设计，以满足资源受限的环境。该模型整合了SwiGLU激活函数、深层薄架构、嵌入共享和分组查询注意力等关键技术，实现了在零样本常识推理任务上的显著准确率提升。MobileLLM-350M在保持较小模型尺寸的同时，提供了与更大模型相媲美的性能，是设备端自然语言处理应用的理想选择。

高效优化的小型语言模型，专为设备端应用设计。

MobileLLM-125M是由Meta开发的自动回归语言模型，它利用优化的变换器架构，专为资源受限的设备端应用而设计。该模型集成了包括SwiGLU激活函数、深度薄架构、嵌入共享和分组查询注意力等多项关键技术。MobileLLM-125M/350M在零样本常识推理任务上相较于前代125M/350M SoTA模型分别取得了2.7%和4.3%的准确率提升。该模型的设计理念可有效扩展到更大模型，MobileLLM-600M/1B/1.5B均取得了SoTA结果。

优化的小型语言模型，适用于移动设备

MobileLLM是一种针对移动设备优化的小型语言模型，专注于设计少于十亿参数的高质量LLMs，以适应移动部署的实用性。与传统观念不同，该研究强调了模型架构在小型LLMs中的重要性。通过深度和薄型架构，结合嵌入共享和分组查询注意力机制，MobileLLM在准确性上取得了显著提升，并提出了一种不增加模型大小且延迟开销小的块级权重共享方法。此外，MobileLLM模型家族在聊天基准测试中显示出与之前小型模型相比的显著改进，并在API调用任务中接近LLaMA-v2 7B的正确性，突出了小型模型在普通设备用例中的能力。