产品库

一款高效经济的语言模型，具有强大的专家混合特性。

DeepSeek-V2是一个由236B参数构成的混合专家（MoE）语言模型，它在保持经济训练和高效推理的同时，激活每个token的21B参数。与前代DeepSeek 67B相比，DeepSeek-V2在性能上更强，同时节省了42.5%的训练成本，减少了93.3%的KV缓存，并提升了最大生成吞吐量至5.76倍。该模型在8.1万亿token的高质量语料库上进行了预训练，并通过监督式微调（SFT）和强化学习（RL）进一步优化，使其在标准基准测试和开放式生成评估中表现出色。

国内领先的通用大模型

元象大模型 XChat 是一款国内领先的通用大模型产品。它自研高性能，从零训练，可以大幅降低开发门槛与推理成本，满足不同复杂度的多任务需求。该产品融合了意图理解、信息检索以及强化学习技术，结合有监督微调与人类意图对齐，在知识问答、文本创作领域表现突出。欲了解更多详情，请访问官网：[元象大模型 XChat](https://www.xverse.ai/)

统一高效的RAG检索微调和推理框架

RAG-Retrieval是一个全链路的RAG检索微调和推理框架，支持多种RAG Reranker模型的推理，包括向量模型、迟交互式模型和交互式模型。它提供了一个轻量级的Python库，使得用户能够以统一的方式调用不同的RAG排序模型，简化了排序模型的使用和部署。

Phi-3 Mini-128K-Instruct ONNX优化模型促进推理加速

Phi-3 Mini是一个轻量级的顶尖开源模型,建立在Phi-2使用的合成数据和过滤网站之上,专注于高质量的推理密集型数据。这个模型属于Phi-3系列,mini版本有两个变体支持4K和128K上下文长度。该模型经过了严格的增强过程,包括监督式微调和直接偏好优化,以确保精准遵循指令和强大的安全措施。这些经过ONNX优化的Phi-3 Mini模型可在CPU、GPU和移动设备上高效运行。微软还推出了ONNX Runtime Generate() API,简化了Phi-3的使用。

领先的代码生成大语言模型

CodeGemma是谷歌公司推出的先进大语言模型，专注于生成代码、理解和追踪指令，旨在为全球开发人员提供高质量的代码辅助工具。包括20亿参数的基础模型，70亿参数的基础模型和用于指导追踪的70亿参数模型，针对代码开发场景进行优化和微调。在各种编程语言中表现卓越，具有超凡的逻辑和数学推理能力。

谷歌开源的大型语言模型,能够生成高质量的文本内容

RecurrentGemma是谷歌开发的一系列开放语言模型,采用创新的循环架构设计,在文本生成任务上性能优异,包括问答、摘要和推理等。与Gemma模型相比,RecurrentGemma所需的内存更少,生成长序列的推理速度更快。该模型提供了预训练和针对指令的微调版本,可广泛应用于内容创作、对话AI等场景。

突破性SSM-Transformer开放模型

Jamba是一款基于SSM-Transformer混合架构的开放语言模型,提供顶级的质量和性能表现。它融合了Transformer和SSM架构的优势,在推理基准测试中表现出色,同时在长上下文场景下提供3倍的吞吐量提升。Jamba是目前该规模下唯一可在单GPU上支持14万字符上下文的模型,成本效益极高。作为基础模型,Jamba旨在供开发者微调、训练并构建定制化解决方案。

Phi-2-super是一款高级的基于大规模文本训练的对话AI模型。

Phi-2-super是在Phi-2基础模型上进行微调优化得到的对话AI系统,通过大量文本数据训练,应用了直接偏好优化算法,能够高质量地理解和生成人性化的文本。该模型具有以下优势和功能:1) 文本生成:可以针对广泛的话题生成连贯、相关的文本。2)多轮对话:能够进行多轮顺畅自然的对话。3)个性化:可以根据不同用户进行个性化的对话。4)安全性:集成了过滤机制,可以生成安全、负责任的回复。5)可解释性:内置的因果推理功能,可以解释自己的回答。6)参数可调:可以调整温度参数等来控制生成文本的多样性。

多语言预训练语言模型

「书生·浦语2.0」InternLM2是一个面向中文和英文的大型多语言预训练语言模型。它具有语言理解、自然语言生成、多模式推理、代码理解等强大的能力。模型采用Transformer架构并进行海量数据的预训练,在长文本理解、对话、数学运算等多个方向上都达到了业界领先水平。该系列模型包含多种规模,用户可以选择合适的模型进行下游任务微调或构建聊天机器人等应用。

开源文本到图像生成模型

aMUSEd是一个开源平台，提供各种自然语言处理（NLP）模型、数据集和工具。其中包括aMUSEd，一个基于MUSE的轻量级遮蔽图像模型（MIM），用于文本到图像的生成。相比于潜在扩散（latent diffusion），MIM需要更少的推理步骤并且更易解释。此外，MIM可以通过仅有一张图片进行微调以学习额外的风格。aMUSEd还提供了两个模型的检查点，可以直接生成256x256和512x512分辨率的图像。

训练属于你的文本大模型，独立部署

Modihand是一个训练属于你的文本大模型的平台，无需专业知识，只需要准备好训练数据，即可训练出专属于你的文本大模型。内置市面上大多数的开源模型，支持多种微调训练方式，性价比高，独立可部署，推理 API 支持，提供更多问题解决支持。

知识图推理的基础模型

ULTRA是一个知识图谱推理的基础模型。单个预训练的ULTRA模型可以在任何多关系图谱上执行链接预测任务,并支持任意实体/关系词汇。性能优于许多专门针对每个图谱进行训练的SOTA模型。遵循基础模型的预训练-微调范式,可以在任何图谱上立即使用预训练的ULTRA检查点进行零样本推理,也可以进行进一步的微调。ULTRA为任何知识图谱提供了统一的、可学习的、可转移的表示。ULTRA使用图神经网络和NBFNet的修改版本。它不学习针对下游图谱的特定实体和关系嵌入,而是基于关系之间的交互获得相对关系表示。

高分辨率图像生成模型，快速生成，少步推理

Latent Consistency Models是一种高分辨率图像生成模型，通过少步推理快速生成高保真度图像。LCMs可以从任何预训练的稳定扩散模型中提取，只需要32个A100 GPU小时的训练即可生成高质量的768×768分辨率图像。此外，LCMs还引入了一种名为Latent Consistency Fine-tuning（LCF）的新方法，可以在自定义图像数据集上进行微调，实现定制化图像生成。

SafeCoder 是一款企业级代码生成辅助工具

SafeCoder 是一款面向企业的代码生成解决方案。它基于大型开源语言模型,可针对企业内部代码库进行微调,生成适用于企业业务场景的代码建议,从而显著提升开发效率。该解决方案非常注重安全与合规,代码训练和推理全部在客户的基础设施内完成,保证代码和模型不会泄露给任何第三方。关键特性包括:基于开源模型与dataset训练,无供应商锁定;支持多种硬件部署,针对企业IT基础设施优化;兼容主流IDE,为开发者提供即时代码提示。

更高效、先进的文本和图像生成模型

CM3leon是一款集文本到图像和图像到文本生成于一身的先进模型。它采用了适应自文本模型的训练配方，包括大规模检索增强预训练阶段和多任务监督微调阶段。CM3leon具有与自回归模型相似的多样性和有效性，同时训练成本低、推理效率高。它是一种因果屏蔽的混合模态（CM3）模型，可以根据任意图像和文本内容生成文本和图像序列。相比以往只能进行文本到图像或图像到文本生成的模型，CM3leon在多模态生成方面具有更高的功能拓展。

致力于收录开源社区的phi3训练变体版本，整理训练、推理、部署教程。

phi3-Chinese是一个公共的GitHub仓库，专注于收集和整理开源社区中关于phi3模型的各种训练变体版本。它不仅提供了不同版本的phi3模型下载链接，还包含了训练、推理、部署的相关教程，旨在帮助开发者更好地理解和使用phi3模型。

AI图片生成式开发者平台

fal.ai 是一款面向开发者的生成媒体平台，提供了业界最快的推理引擎，可以让您以更低的成本运行扩散模型，创造出全新的用户体验。它拥有实时、无缝的 WebSocket 推理基础设施，为开发者带来了卓越的使用体验。fal.ai 的定价方案根据实际使用情况灵活调整，确保您只为消耗的计算资源付费，实现了最佳的可扩展性和经济性。

Qwen1.5系列首个千亿参数开源模型，多语言支持，高效Transformer解码器架构。

Qwen1.5-110B是Qwen1.5系列中规模最大的模型，拥有1100亿参数，支持多语言，采用高效的Transformer解码器架构，并包含分组查询注意力（GQA），在模型推理时更加高效。它在基础能力评估中与Meta-Llama3-70B相媲美，在Chat评估中表现出色，包括MT-Bench和AlpacaEval 2.0。该模型的发布展示了在模型规模扩展方面的巨大潜力，并且预示着未来通过扩展数据和模型规模，可以获得更大的性能提升。

HiDiffusion，解锁预训练扩散模型中的高分辨率创作与效率。

HiDiffusion是一个预训练扩散模型，通过仅添加一行代码即可提高扩散模型的分辨率和速度。该模型通过Resolution-Aware U-Net (RAU-Net)和Modified Shifted Window Multi-head Self-Attention (MSW-MSA)技术，动态调整特征图大小以解决对象复制问题，并优化窗口注意力以减少计算量。HiDiffusion能够将图像生成分辨率扩展到4096×4096，同时保持1.5-6倍于以往方法的推理速度。

高效的企业级人工智能模型，低成本实现高质量定制模型。

Snowflake Arctic 是一款专为企业级人工智能任务设计的大规模语言模型（LLM），它在 SQL 生成、编码以及指令遵循等基准测试中表现出色，即使与计算预算更高的开源模型相比也毫不逊色。Arctic 通过其高效的训练和推理，为 Snowflake 客户以及广大 AI 社区提供了一种成本效益极高的定制模型创建方式。此外，Arctic 采用 Apache 2.0 许可，提供无门槛的权重和代码访问，并通过开源数据配方和研究洞察，进一步推动了社区的开放性和成本效益。

高效图像合成的新框架

Hyper-SD是一个创新的图像合成框架，它通过轨迹分割一致性模型和低步数推理的优势，实现了高效的图像合成。该框架结合了ODE轨迹保留和重构的优势，同时通过人类反馈学习进一步提升了性能，并通过分数蒸馏技术增强了低步数生成能力。Hyper-SD在1到8步推理步骤中实现了SOTA性能，特别适合需要快速且高质量图像生成的应用场景。

首个llama3中文版，多轮对话AI模型

llama3-Chinese-chat是首个llama3的中文对话版本，专为中文用户设计，支持高质量的多轮对话。它使用了170k+的中文对话数据进行训练，具备角色扮演、agent能力增强等特性，并提供了详细的训练和推理教程。此外，项目还计划开源浏览器插件，增加AI笔记和思维导图功能，进一步增强用户体验。

Meta 新一代开源大型语言模型,性能卓越

Meta Llama 3是Meta公司推出的新一代开源大型语言模型,性能卓越,在多项行业基准测试中表现出色。它可支持广泛的使用场景,包括改善推理能力等新功能。该模型将在未来支持多语种、多模态,提供更长的上下文窗口和整体性能提升。Llama 3秉承开放理念,将被部署在主要云服务、托管和硬件平台上,供开发者和社区使用。

万亿参数MoE文本大模型

abab 6.5系列包含两个模型：abab 6.5和abab 6.5s，均支持200k tokens的上下文长度。abab 6.5包含万亿参数，而abab 6.5s则更高效，能在1秒内处理近3万字的文本。它们在知识、推理、数学、编程、指令遵从等核心能力测试中表现出色，接近行业领先水平。

4K文本到图像生成的扩散变换器

PixArt-Sigma是一个基于PyTorch的模型定义、预训练权重和推理/采样代码的集合，用于探索4K文本到图像生成的弱到强训练扩散变换器。它支持从低分辨率到高分辨率的图像生成，提供了多种功能和优势，如快速体验、用户友好的代码库和多种模型选择。

面向AI开发者的GPU云平台,高性价比,极致体验,计费灵活

GpuMall智算云是一个面向AI开发者的GPU云平台,提供高性价比的计算资源,灵活的计费方式,以及弹性的调度能力,可以满足AI开发者的各种需求。用户可以在这里快速租用GPU资源进行AI模型训练和推理,并且可以根据实际使用情况灵活调整资源配置,达到最佳性价比。平台还提供了丰富的使用文档和在线客服支持,让用户使用起来更加便捷。

分析Transformer语言模型的内部工作机制

LLM Transparency Tool（LLM-TT）是一个开源的交互式工具包，用于分析基于Transformer的语言模型的内部工作机制。它允许用户选择模型、添加提示并运行推理，通过可视化的方式展示模型的注意力流动和信息传递路径。该工具旨在提高模型的透明度，帮助研究人员和开发者更好地理解和改进语言模型。

以低成本实现高性能的大型语言模型

JetMoE-8B是一个开源的大型语言模型，通过使用公共数据集和优化的训练方法，以低于10万美元的成本实现了超越Meta AI LLaMA2-7B的性能。该模型在推理时仅激活22亿参数，大幅降低了计算成本，同时保持了优异的性能。

强大的多模态LLM，商业解决方案

Reka Core是一个GPT-4级别的多模态大型语言模型（LLM），具备图像、视频和音频的强大上下文理解能力。它是目前市场上仅有的两个商用综合多模态解决方案之一。Core在多模态理解、推理能力、编码和Agent工作流程、多语言支持以及部署灵活性方面表现出色。

多模态AI模型，图像理解与生成兼备

Mini-Gemini是由香港中文大学终身教授贾佳亚团队开发的多模态模型，具备精准的图像理解能力和高质量的训练数据。该模型结合图像推理和生成，提供不同规模的版本，性能与GPT-4和DALLE3相媲美。Mini-Gemini采用Gemini的视觉双分支信息挖掘方法和SDXL技术，通过卷积网络编码图像并利用Attention机制挖掘信息，同时结合LLM生成文本链接两个模型。