产品库

Qwen1.5系列首个千亿参数开源模型，多语言支持，高效Transformer解码器架构。

Qwen1.5-110B是Qwen1.5系列中规模最大的模型，拥有1100亿参数，支持多语言，采用高效的Transformer解码器架构，并包含分组查询注意力（GQA），在模型推理时更加高效。它在基础能力评估中与Meta-Llama3-70B相媲美，在Chat评估中表现出色，包括MT-Bench和AlpacaEval 2.0。该模型的发布展示了在模型规模扩展方面的巨大潜力，并且预示着未来通过扩展数据和模型规模，可以获得更大的性能提升。

RWKV v6 Finch 14B，开源大模型，高效处理长文本。

RWKV v6 Finch 14B是RWKV架构的第六个版本，也是该系列中最大的模型。它通过引入数据依赖性到token shift和time-mixing中，提高了处理长文本时的效率。Finch 14B模型在处理提示时，能够更好地管理其长期记忆，从而提供更广泛的应用范围。该模型是开源的，由Linux Foundation认可，并且接受社区的GPU集群时间捐赠以支持训练。

104B参数的多语种高级对话生成模型

C4AI Command R+ 08-2024是一个拥有104B参数的大规模研究发布模型，具备高度先进的能力，包括检索增强生成（RAG）和工具使用，以自动化复杂任务。该模型支持23种语言的训练，并在10种语言中进行评估。它优化了多种用例，包括推理、总结和问答。

一个完全开源的大型语言模型，提供先进的自然语言处理能力。

MAP-NEO是一个完全开源的大型语言模型，它包括预训练数据、数据处理管道（Matrix）、预训练脚本和对齐代码。该模型从零开始训练，使用了4.5T的英文和中文token，展现出与LLaMA2 7B相当的性能。MAP-NEO在推理、数学和编码等具有挑战性的任务中表现出色，超越了同等规模的模型。为了研究目的，我们致力于实现LLM训练过程的完全透明度，因此我们全面发布了MAP-NEO，包括最终和中间检查点、自训练的分词器、预训练语料库以及高效稳定的优化预训练代码库。

高效的企业级人工智能模型，低成本实现高质量定制模型。

Snowflake Arctic 是一款专为企业级人工智能任务设计的大规模语言模型（LLM），它在 SQL 生成、编码以及指令遵循等基准测试中表现出色，即使与计算预算更高的开源模型相比也毫不逊色。Arctic 通过其高效的训练和推理，为 Snowflake 客户以及广大 AI 社区提供了一种成本效益极高的定制模型创建方式。此外，Arctic 采用 Apache 2.0 许可，提供无门槛的权重和代码访问，并通过开源数据配方和研究洞察，进一步推动了社区的开放性和成本效益。

Qwen Turbo 1M Demo是一个由Qwen提供的Hugging Face空间。

Qwen Turbo 1M Demo是一个基于Hugging Face平台的人工智能模型演示。这个模型代表了自然语言处理技术的最新进展，特别是在中文文本理解和生成方面。它的重要性在于能够提供高效、准确的语言模型，以支持各种语言相关的应用，如机器翻译、文本摘要、问答系统等。Qwen Turbo 1M Demo以其较小的模型尺寸和快速的处理速度而受到青睐，适合需要快速部署和高效运行的场合。目前，该模型是免费试用的，具体价格和定位可能需要进一步的商业洽谈。

O1复制之旅：战略进展报告第一部分

O1-Journey是由上海交通大学GAIR研究组发起的一个项目，旨在复制和重新想象OpenAI的O1模型的能力。该项目提出了“旅程学习”的新训练范式，并构建了首个成功整合搜索和学习在数学推理中的模型。这个模型通过试错、纠正、回溯和反思等过程，成为处理复杂推理任务的有效方法。

业界领先的开源大型混合专家模型

Tencent-Hunyuan-Large（混元大模型）是由腾讯推出的业界领先的开源大型混合专家（MoE）模型，拥有3890亿总参数和520亿激活参数。该模型在自然语言处理、计算机视觉和科学任务等领域取得了显著进展，特别是在处理长上下文输入和提升长上下文任务处理能力方面表现出色。混元大模型的开源，旨在激发更多研究者的创新灵感，共同推动AI技术的进步和应用。

开源视频生成模型

genmoai/models 是一个开源的视频生成模型，代表了视频生成技术的最新进展。该模型名为 Mochi 1，是一个基于 Asymmetric Diffusion Transformer (AsymmDiT) 架构的10亿参数扩散模型，从零开始训练，是迄今为止公开发布的最大的视频生成模型。它具有高保真运动和强提示遵循性，显著缩小了封闭和开放视频生成系统之间的差距。该模型在 Apache 2.0 许可下发布，用户可以在 Genmo 的 playground 上免费试用此模型。

高效能小型语言模型

Zamba2-7B是由Zyphra团队开发的一款小型语言模型，它在7B规模上超越了当前领先的模型，如Mistral、Google的Gemma和Meta的Llama3系列，无论是在质量还是性能上。该模型专为在设备上和消费级GPU上运行以及需要强大但紧凑高效模型的众多企业应用而设计。Zamba2-7B的发布，展示了即使在7B规模上，前沿技术仍然可以被小团队和适度预算所触及和超越。

小型语言模型调研、测量与洞察

SLM_Survey是一个专注于小型语言模型（SLMs）的研究项目，旨在通过调研和测量，提供对这些模型的深入了解和技术评估。该项目涵盖了基于Transformer的、仅解码器的语言模型，参数范围在100M至5B之间。通过对59个最先进的开源SLMs进行调研，分析了它们的技术创新，并在多个领域评估了它们的能力，包括常识推理、上下文学习、数学和编程。此外，还对它们的运行时成本进行了基准测试，包括推理延迟和内存占用。这些研究对于推动SLMs领域的研究具有重要价值。

无需编码，快速构建神经机器翻译器

Gaia是一个无需编码即可构建神经机器翻译器（NMT）的工具。它允许用户通过简单的点击操作来训练、部署和商业化自己的神经机器翻译器。该工具支持多语言，包括资源较少的语言对，并提供实时监控功能，帮助用户跟踪训练进度和性能指标。此外，Gaia还提供了易于集成的API，方便开发者将训练好的模型与自己的系统相结合。

多语言大型语言模型

Llama 3.2是由Meta公司推出的多语言大型语言模型（LLMs），包含1B和3B两种规模的预训练和指令调优生成模型。这些模型在多种语言对话用例中进行了优化，包括代理检索和总结任务。Llama 3.2在许多行业基准测试中的表现优于许多现有的开源和封闭聊天模型。

创造无限可能的人工智能助手

YunHu Ai 是一个基于人工智能技术的聊天助手，旨在通过自然语言处理和机器学习技术，为用户提供高效、智能的对话体验。它能够理解用户的需求，提供准确的信息和建议，帮助用户解决问题。YunHu Ai 以其强大的语言理解能力、快速响应和用户友好的界面而受到用户的喜爱。

探索无限智能，构建更完美的聚合之路。

智语1号是一个以智能系统为基础的聊天平台，提供用户与AI进行互动交流的体验。它利用大模型技术，通过自然语言处理和机器学习，使得AI能够理解和回应用户的各种问题和需求。智语1号的背景是随着人工智能技术的发展，人们对于智能助手的需求日益增长，它旨在为用户提供一个高效、智能的交流环境。产品目前是免费试用，主要面向对智能聊天感兴趣的用户群体。

高效能、低资源消耗的混合专家模型

GRIN-MoE是由微软开发的混合专家(Mixture of Experts, MoE)模型，专注于提高模型在资源受限环境下的性能。该模型通过使用SparseMixer-v2来估计专家路由的梯度，与传统的MoE训练方法相比，GRIN-MoE在不依赖专家并行处理和令牌丢弃的情况下，实现了模型训练的扩展。它在编码和数学任务上表现尤为出色，适用于需要强推理能力的场景。

高效能的指令式微调AI模型

Mistral-Small-Instruct-2409是由Mistral AI Team开发的一个具有22B参数的指令式微调AI模型，支持多种语言，并能够支持高达128k的序列长度。该模型特别适用于需要长文本处理和复杂指令理解的场景，如自然语言处理、机器学习等领域。

开源大型语言模型，支持多语言和专业领域应用。

Qwen2.5是一系列基于Qwen2语言模型构建的新型语言模型，包括通用语言模型Qwen2.5，以及专门针对编程的Qwen2.5-Coder和数学的Qwen2.5-Math。这些模型在大规模数据集上进行了预训练，具备强大的知识理解能力和多语言支持，适用于各种复杂的自然语言处理任务。它们的主要优点包括更高的知识密度、增强的编程和数学能力、以及对长文本和结构化数据的更好理解。Qwen2.5的发布是开源社区的一大进步，为开发者和研究人员提供了强大的工具，以推动人工智能领域的研究和发展。

加速人类科学发现的人工智能

xAI是一家专注于构建人工智能以加速人类科学发现的公司。我们由埃隆·马斯克领导，他是特斯拉和SpaceX的CEO。我们的团队贡献了一些该领域最广泛使用的方法，包括Adam优化器、批量归一化、层归一化和对抗性示例的发现。我们进一步引入了Transformer-XL、Autoformalization、记忆变换器、批量大小缩放、μTransfer和SimCLR等创新技术和分析。我们参与并领导了AlphaStar、AlphaCode、Inception、Minerva、GPT-3.5和GPT-4等该领域一些最大的突破性发展。我们的团队由AI安全中心主任Dan Hendrycks提供咨询。我们与X公司紧密合作，将我们的技术带给超过5亿X应用用户。

基于记忆的RAG框架，用于全目的应用

MemoRAG是一个基于记忆的RAG框架，它通过高效的超长记忆模型，为各种应用提供支持。与传统的RAG不同，MemoRAG利用其记忆模型实现对整个数据库的全局理解，通过从记忆中回忆查询特定的线索，增强证据检索，从而生成更准确、更丰富的上下文响应。MemoRAG的开发活跃，不断有资源和原型在此仓库发布。

模块化研究导向的检索增强生成统一框架

RAGLAB是一个模块化、研究导向的开源框架，专注于检索增强生成(RAG)算法。它提供了6种现有RAG算法的复现，以及一个包含10个基准数据集的全面评估系统，支持公平比较不同RAG算法，并便于高效开发新算法、数据集和评估指标。

集成了通用和编程能力的人工智能模型

DeepSeek-V2.5 是一个升级版本，结合了 DeepSeek-V2-Chat 和 DeepSeek-Coder-V2-Instruct 的功能。这个新模型整合了两个先前版本的通用和编程能力，更好地符合人类的偏好，并在写作和指令遵循等多个方面进行了优化。

情商智商俱佳的多模态大模型

西湖大模型是心辰智能云推出的一款具有高情商和智商的多模态大模型，它能够处理包括文本、图像、声音等多种数据类型，为用户提供智能对话、写作、绘画、语音等AI服务。该模型通过先进的人工智能算法，能够理解和生成自然语言，适用于多种场景，如心理咨询、内容创作、客户服务等，具有高度的定制性和灵活性。西湖大模型的推出，标志着心辰智能云在AI领域的技术实力和创新能力，为用户提供了更加丰富和高效的智能服务体验。

世界顶尖的开源大型语言模型

Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。

高效开源的大型语言模型

OLMoE-1B-7B 是一个具有1亿活跃参数和7亿总参数的专家混合型大型语言模型（LLM），于2024年9月发布。该模型在成本相似的模型中表现卓越，与更大的模型如Llama2-13B竞争。OLMoE完全开源，支持多种功能，包括文本生成、模型训练和部署等。

一个用于与ChatGPT模型交互的提示集合

Awesome ChatGPT Prompts是一个开源仓库，收集了用于与ChatGPT模型交互的提示示例。这个仓库鼓励用户添加自己的提示，并使用ChatGPT生成新的提示。

一个用于加载和测试大型语言模型的互动平台。

LLM Playground是一个在线平台，允许用户加载和测试各种大型语言模型。它为开发者和研究者提供了一个实验和探索人工智能最新进展的环境。该平台的主要优点是易于使用，支持多种模型，并且可以即时看到模型的输出结果。

9天内预训练的紧凑型大型语言模型

1.5-Pints是一个开源的紧凑型大型语言模型（LLM），它在9天内使用高质量数据进行预训练，旨在成为与Apple OpenELM和Microsoft Phi相当的AI助手。该模型的代码库和架构公开，以促进模型的复制、实验和进一步的开源开发。

一个正在训练中的开源语言模型，具备“听力”能力。

llama3-s是一个开放的、正在进行中的研究实验，旨在将基于文本的大型语言模型(LLM)扩展到具有原生“听力”能力。该项目使用Meta的Chameleon论文启发的技术，专注于令牌传递性，将声音令牌扩展到LLM的词汇表中，未来可能扩展到各种输入类型。作为一个开源科学实验，代码库和数据集都是公开的。

300行代码实现基于LLM的语音转录。

WeST是一个开源的语音识别转录模型，以300行代码的简洁形式，基于大型语言模型（LLM）实现语音到文本的转换。它由一个大型语言模型、一个语音编码器和一个投影器组成，其中仅投影器部分可训练。WeST的开发灵感来源于SLAM-ASR和LLaMA 3.1，旨在通过简化的代码实现高效的语音识别功能。