产品库

多模态理解和生成的统一模型

Janus是一个创新的自回归框架，它通过分离视觉编码来实现多模态理解和生成的统一。这种解耦不仅缓解了视觉编码器在理解和生成中的角色冲突，还增强了框架的灵活性。Janus超越了以往的统一模型，并与特定任务的模型性能相匹配或超越。Janus的简单性、高灵活性和有效性使其成为下一代统一多模态模型的强有力候选者。

新一代自回归框架，统一多模态理解和生成

Janus是一个创新的自回归框架，通过将视觉编码分离成不同的路径，同时利用单一的、统一的变换器架构进行处理，解决了以往方法的局限性。这种解耦不仅减轻了视觉编码器在理解和生成中的角色冲突，还增强了框架的灵活性。Janus的性能超越了以往的统一模型，并且达到了或超过了特定任务模型的性能。Janus的简单性、高灵活性和有效性使其成为下一代统一多模态模型的强有力候选。

多模态语言模型，融合文本和语音

Spirit LM是一个基础多模态语言模型，能够自由混合文本和语音。该模型基于一个7B预训练的文本语言模型，通过持续在文本和语音单元上训练来扩展到语音模式。语音和文本序列被串联为单个令牌流，并使用一个小的自动策划的语音-文本平行语料库，采用词级交错方法进行训练。Spirit LM有两个版本：基础版使用语音音素单元（HuBERT），而表达版除了音素单元外，还使用音高和风格单元来模拟表达性。对于两个版本，文本都使用子词BPE令牌进行编码。该模型不仅展现了文本模型的语义能力，还展现了语音模型的表达能力。此外，我们展示了Spirit LM能够在少量样本的情况下跨模态学习新任务（例如ASR、TTS、语音分类）。

下一代多模态智能模型

Emu3是一套最新的多模态模型，仅通过下一个token预测进行训练，能够处理图像、文本和视频。它在生成和感知任务上超越了多个特定任务的旗舰模型，并且不需要扩散或组合架构。Emu3通过将多模态序列统一到一个单一的transformer模型中，简化了复杂的多模态模型设计，展示了在训练和推理过程中扩展的巨大潜力。

一个全面的AI神经网络工具目录

AILIBRI是一个汇集了超过2000个AI神经网络工具的目录网站，涵盖了文本、图像、视频、音频等多个领域的工具。它为用户寻找合适的AI工具提供了极大的便利，无论是专业人士还是初学者，都能在这里找到满足其需求的工具。该网站提供了详细的分类和搜索功能，帮助用户快速定位到所需的工具。

多模态大型语言模型，支持图像和文本处理。

Llama-3.2-11B-Vision 是 Meta 发布的一款多模态大型语言模型（LLMs），它结合了图像和文本处理的能力，旨在提高视觉识别、图像推理、图像描述和回答有关图像的一般问题的性能。该模型在常见的行业基准测试中的表现超过了众多开源和封闭的多模态模型。

首个多模态 Mistral 模型，支持图像和文本的混合任务处理。

Pixtral 12B 是 Mistral AI 团队开发的一款多模态 AI 模型，它能够理解自然图像和文档，具备出色的多模态任务处理能力，同时在文本基准测试中也保持了最先进的性能。该模型支持多种图像尺寸和宽高比，能够在长上下文窗口中处理任意数量的图像，是 Mistral Nemo 12B 的升级版，专为多模态推理而设计，不牺牲关键文本处理能力。

多模态自回归模型，擅长文本生成图像

Lumina-mGPT是一个多模态自回归模型家族，能够执行各种视觉和语言任务，特别是在从文本描述生成灵活的逼真图像方面表现突出。该模型基于xllmx模块实现，支持以LLM为中心的多模态任务，适用于深度探索和快速熟悉模型能力。

多模态文本到图像生成模型

EMMA是一个基于最前沿的文本到图像扩散模型ELLA构建的新型图像生成模型，能够接受多模态提示，通过创新的多模态特征连接器设计，有效整合文本和补充模态信息。该模型通过冻结原始T2I扩散模型的所有参数，并仅调整一些额外层，揭示了预训练的T2I扩散模型可以秘密接受多模态提示的有趣特性。EMMA易于适应不同的现有框架，是生成个性化和上下文感知图像甚至视频的灵活有效工具。

支持同时理解和生成图像的多模态大型语言模型

Mini-Gemini是一个多模态视觉语言模型,支持从2B到34B的系列密集和MoE大型语言模型,同时具备图像理解、推理和生成能力。它基于LLaVA构建,利用双视觉编码器提供低分辨率视觉嵌入和高分辨率候选区域,采用补丁信息挖掘在高分辨率区域和低分辨率视觉查询之间进行补丁级挖掘,将文本与图像融合用于理解和生成任务。支持包括COCO、GQA、OCR-VQA、VisualGenome等多个视觉理解基准测试。

多模态大型语言模型

AnyGPT是一个统一的多模态大型语言模型,利用离散表示进行各种模态的统一处理,包括语音、文本、图像和音乐。AnyGPT可以在不改变当前大型语言模型架构或训练范式的情况下稳定训练。它完全依赖于数据级预处理,促进了新模态无缝集成到语言模型中,类似于新的语言的加入。我们构建了一个用于多模态对齐预训练的以文本为中心的多模态数据集。利用生成模型,我们合成了第一个大规模的任意到任意的多模态指令数据集。它由10.8万个多轮对话样例组成,多种模态交织在一起,因此使模型能够处理任意组合的多模态输入和输出。实验结果表明,AnyGPT能够促进任意到任意的多模态对话,同时在所有模态上达到与专用模型相当的性能,证明了离散表示可以有效且方便地在语言模型中统一多个模态。

统一图像生成

UNIMO-G是一个简单的多模态条件扩散框架，用于处理交错的文本和视觉输入。它包括两个核心组件：用于编码多模态提示的多模态大语言模型（MLLM）和用于基于编码的多模态输入生成图像的条件去噪扩散网络。我们利用两阶段训练策略来有效地训练该框架：首先在大规模文本-图像对上进行预训练，以开发条件图像生成能力，然后使用多模态提示进行指导调整，以实现统一图像生成能力。我们采用了精心设计的数据处理流程，包括语言接地和图像分割，用于构建多模态提示。UNIMO-G在文本到图像生成和零样本主题驱动合成方面表现出色，并且在生成涉及多个图像实体的复杂多模态提示的高保真图像方面非常有效。

多模态图像生成模型

Instruct-Imagen是一个多模态图像生成模型，通过引入多模态指令，实现对异构图像生成任务的处理，并在未知任务中实现泛化。该模型利用自然语言整合不同的模态（如文本、边缘、风格、主题等），标准化丰富的生成意图。通过在预训练文本到图像扩散模型上进行两阶段框架的微调，采用检索增强训练和多样的图像生成任务微调，使得该模型在各种图像生成数据集上的人工评估结果表明，其在领域内与先前的任务特定模型相匹配或超越，并展现出对未知和更复杂任务的有希望的泛化能力。

开源文本到图像生成模型

aMUSEd是一个开源平台，提供各种自然语言处理（NLP）模型、数据集和工具。其中包括aMUSEd，一个基于MUSE的轻量级遮蔽图像模型（MIM），用于文本到图像的生成。相比于潜在扩散（latent diffusion），MIM需要更少的推理步骤并且更易解释。此外，MIM可以通过仅有一张图片进行微调以学习额外的风格。aMUSEd还提供了两个模型的检查点，可以直接生成256x256和512x512分辨率的图像。

一框架，统一所有语言模态

OneLLM是一个旨在统一所有语言模态的框架。它提供了预览模型，并允许本地演示。该框架的功能包括模型安装、模型预览和本地演示。OneLLM的优势在于能够统一不同的模态，如图像和文本，以及语音和文本。该框架的定位是为了简化多模态任务的处理。

小型多模态模型，支持图像和文本生成

Fuyu-8B是由Adept AI训练的多模态文本和图像转换模型。它具有简化的架构和训练过程，易于理解、扩展和部署。它专为数字代理设计，可以支持任意图像分辨率，回答关于图表和图形的问题，回答基于UI的问题，并对屏幕图像进行细粒度定位。它的响应速度很快，可以在100毫秒内处理大型图像。尽管针对我们的用例进行了优化，但它在标准图像理解基准测试中表现良好，如视觉问答和自然图像字幕。请注意，我们发布的模型是一个基础模型，我们希望您根据具体的用例进行微调，例如冗长的字幕或多模态聊天。在我们的经验中，该模型对于少样本学习和各种用例的微调都表现良好。

赋予LLM查看和绘图的能力

SEED是一个大规模预训练的模型，通过对交错的文本和视觉数据进行预训练和指导调整，展现了在广泛的多模态理解和生成任务上的出色性能。SEED还具有组合性新兴能力，例如多轮上下文多模态生成，就像您的AI助手一样。SEED还包括SEED Tokenizer v1和SEED Tokenizer v2，它们可以将文本转换为图像。

多模态综合理解与创作

DreamLLM是一个学习框架，首次实现了多模态大型语言模型（LLM）在多模态理解和创作之间的协同效应。它通过直接在原始多模态空间中进行采样，生成语言和图像的后验模型。这种方法避免了像CLIP这样的外部特征提取器所固有的限制和信息损失，从而获得了更全面的多模态理解。DreamLLM还通过建模文本和图像内容以及无结构布局的原始交叉文档，有效地学习了所有条件、边缘和联合多模态分布。因此，DreamLLM是第一个能够生成自由形式交叉内容的MLLM。全面的实验证明了DreamLLM作为零样本多模态通才的卓越性能，充分利用了增强的学习协同效应。

开源的去蒸馏FLUX模型

LibreFLUX是一个基于Apache 2.0许可的开源版本，提供了完整的T5上下文长度，使用注意力掩码，恢复了分类器自由引导，并去除了大部分FLUX美学微调/DPO。这意味着它比基础FLUX更不美观，但有潜力更容易地微调到任何新的分布。LibreFLUX的开发秉承开源软件的核心原则，即使用困难，比专有解决方案更慢、更笨拙，并且审美停留在21世纪初。

利用AI提升媒体处理和数字资产管理效率

ImageKit AI是一个结合了人工智能和生成式AI的媒体处理和数字资产管理平台。它通过AI技术，如图像扩展、智能裁剪、背景移除、添加阴影、通过文本提示生成图像等，帮助用户提升媒体内容的质量和处理效率。ImageKit AI的背景是满足现代数字媒体管理的需求，它通过AI技术简化了图像处理流程，降低了成本，并提高了内容的个性化和质量。产品定位于为企业提供高效、智能的媒体内容管理解决方案。

文本到图像生成的自适应工作流

ComfyGen 是一个专注于文本到图像生成的自适应工作流系统，它通过学习用户提示来自动化并定制有效的工作流。这项技术的出现，标志着从使用单一模型到结合多个专业组件的复杂工作流的转变，旨在提高图像生成的质量。ComfyGen 背后的主要优点是能够根据用户的文本提示自动调整工作流，以生成更高质量的图像，这对于需要生成特定风格或主题图像的用户来说非常重要。

实时多模态内容审核平台

Seyft AI 是一个实时的多模态内容审核平台，能够过滤文本、图像和视频中的有害和不相关内容，确保合规性，并为不同的语言和文化背景提供个性化解决方案。该平台的主要优点包括实时审核、多语言支持、无需人工干预的图像和视频审核，以及易于集成的API。Seyft AI 的背景信息显示，它旨在帮助企业保持数字空间的清洁和安全，适用于需要内容审核的各种应用场景。

基于AI的动画图片生成平台

AnimeGen是一个利用先进AI模型将文本提示转化为动漫风格图片的在线工具。它通过复杂的算法和机器学习技术，为用户提供了一种简单快捷的方式来生成高质量的动漫图片，非常适合艺术家、内容创作者和动漫爱好者探索新的创作可能性。AnimeGen支持80多种语言，生成的图片公开显示并可被搜索引擎抓取，是一个多功能的创意工具。

基于AI生成图像的3D渲染模型

Toy Box Flux是一个基于AI生成图像训练的3D渲染模型，它结合了现有的3D LoRA模型和Coloring Book Flux LoRA的权重，形成了独特的风格。该模型特别适合生成具有特定风格的玩具设计图像。它在物体和人物主体上表现最佳，动物的表现则因训练图像中的数据不足而不稳定。此外，该模型还能提高室内3D渲染的真实感。计划在v2版本中通过混合更多生成的输出和预先存在的输出来加强这种风格的一致性。

免费在线视频和图片编辑器

GStory是一个在线视频和图片编辑平台，提供多种智能编辑功能，如背景更换、增强器、水印去除和AI图像生成器。它通过AI技术简化商业视频编辑流程，提高效率，降低成本，并被超过50,000家不同规模的公司所信赖。

定制化图像生成的先进方法

DisEnvisioner是一种先进的图像生成技术，它通过分离和增强主题特征来生成定制化的图像，无需繁琐的调整或依赖多张参考图片。该技术有效地区分并增强了主题特征，同时过滤掉了不相关的属性，实现了在编辑性和身份保持方面的卓越个性化质量。DisEnvisioner的研究背景基于当前图像生成领域对于从视觉提示中提取主题特征的需求，它通过创新的方法解决了现有技术在这一领域的挑战。

利用随机微分方程进行语义图像反转和编辑

RF-Inversion是一个专注于图像生成和编辑的技术，它通过随机微分方程（SDE）来实现图像的反转和编辑。这项技术的主要优点在于它不需要额外的训练、潜在优化、提示调整或复杂的注意力处理器，即可实现高效的图像反转和编辑。RF-Inversion在零样本反转和编辑方面表现出色，超越了以往的工作，在笔画到图像合成和语义图像编辑方面，通过大规模人类评估确认了用户偏好。该技术背景信息显示，它由德克萨斯大学奥斯汀分校和谷歌的研究人员共同开发，得到了NSF资助和其他研究合作奖的支持。

基于Stable Diffusion的LoRA模型，生成逼真动漫风格图像

RealAnime - Detailed V1 是一个基于Stable Diffusion的LoRA模型，专门用于生成逼真的动漫风格图像。该模型通过深度学习技术，能够理解并生成高质量的动漫人物图像，满足动漫爱好者和专业插画师的需求。它的重要性在于能够大幅度提高动漫风格图像的生成效率和质量，为动漫产业提供强大的技术支持。目前，该模型在Tensor.Art平台上提供，用户可以通过在线方式使用，无需下载安装，方便快捷。价格方面，用户可以通过购买Buffet计划来解锁下载权益，享受更灵活的使用方式。

文本到图像生成模型，支持高分辨率图像生成

由清华大学团队开发的文本到图像生成模型，开源，在图像生成领域有广泛应用前景，有高分辨率输出等优点。

生成融合宫崎骏风格和新海诚氛围的梦幻风景图

Flux Ghibsky Illustration 是一个基于文本生成图像的模型，它结合了宫崎骏动画工作室的奇幻细节和新海诚作品中的宁静天空，创造出迷人的场景。该模型特别适合创造梦幻般的视觉效果，用户可以通过特定的触发词来生成具有独特审美的图像。它是基于Hugging Face平台的开源项目，允许用户下载模型并在Replicate上运行。