产品库

高保真新视角合成的视频扩散模型

ViewCrafter 是一种新颖的方法，它利用视频扩散模型的生成能力以及基于点的表示提供的粗略3D线索，从单个或稀疏图像合成通用场景的高保真新视角。该方法通过迭代视图合成策略和相机轨迹规划算法，逐步扩展3D线索和新视角覆盖的区域，从而扩大新视角的生成范围。ViewCrafter 可以促进各种应用，例如通过优化3D-GS表示实现沉浸式体验和实时渲染，以及通过场景级文本到3D生成实现更富有想象力的内容创作。

一种优化扩散模型采样时间表的方法，以提高生成模型的输出质量。

Align Your Steps 是一种用于优化扩散模型（Diffusion Models, DMs）采样时间表的方法。这种方法利用随机微积分的方法，为不同的求解器、训练有素的DMs和数据集找到特定的最优采样时间表。它通过最小化KLUB项来优化时间离散化，即采样调度，从而在相同的计算预算下提高输出质量。该方法在图像、视频以及2D玩具数据合成基准测试中表现出色，优化的采样时间表在几乎所有实验中都优于之前手工制定的时间表。

轻量级推理模型，用于生成高质量图像

Stable Diffusion 3.5是一个用于简单推理的轻量级模型，它包含了文本编码器、VAE解码器和核心MM-DiT技术。该模型旨在帮助合作伙伴组织实现SD3.5，并且可以用于生成高质量的图像。它的重要性在于其高效的推理能力和对资源的低要求，使得广泛的用户群体能够使用和享受生成图像的乐趣。该模型遵循Stability AI Community License Agreement，并且可以免费使用。

强大的图像生成模型

Stable Diffusion 3.5是Stability AI推出的一款图像生成模型，具有多种变体，包括Stable Diffusion 3.5 Large和Stable Diffusion 3.5 Large Turbo。这些模型可高度定制，能在消费级硬件上运行，并且根据Stability AI社区许可协议，可以免费用于商业和非商业用途。该模型的发布体现了Stability AI致力于让视觉媒体变革的工具更易于获取、更前沿、更自由的使命。

开源的去蒸馏FLUX模型

LibreFLUX是一个基于Apache 2.0许可的开源版本，提供了完整的T5上下文长度，使用注意力掩码，恢复了分类器自由引导，并去除了大部分FLUX美学微调/DPO。这意味着它比基础FLUX更不美观，但有潜力更容易地微调到任何新的分布。LibreFLUX的开发秉承开源软件的核心原则，即使用困难，比专有解决方案更慢、更笨拙，并且审美停留在21世纪初。

高效3D高斯重建模型，实现大场景快速重建

Long-LRM是一个用于3D高斯重建的模型，能够从一系列输入图像中重建出大场景。该模型能在1.3秒内处理32张960x540分辨率的源图像，并且仅在单个A100 80G GPU上运行。它结合了最新的Mamba2模块和传统的transformer模块，通过高效的token合并和高斯修剪步骤，在保证质量的同时提高了效率。与传统的前馈模型相比，Long-LRM能够一次性重建整个场景，而不是仅重建场景的一小部分。在大规模场景数据集上，如DL3DV-140和Tanks and Temples，Long-LRM的性能可与基于优化的方法相媲美，同时效率提高了两个数量级。

利用随机微分方程进行语义图像反转和编辑

RF-Inversion是一个专注于图像生成和编辑的技术，它通过随机微分方程（SDE）来实现图像的反转和编辑。这项技术的主要优点在于它不需要额外的训练、潜在优化、提示调整或复杂的注意力处理器，即可实现高效的图像反转和编辑。RF-Inversion在零样本反转和编辑方面表现出色，超越了以往的工作，在笔画到图像合成和语义图像编辑方面，通过大规模人类评估确认了用户偏好。该技术背景信息显示，它由德克萨斯大学奥斯汀分校和谷歌的研究人员共同开发，得到了NSF资助和其他研究合作奖的支持。

从单张图片或文本提示生成高质量3D资产

Flex3D是一个两阶段流程，能够从单张图片或文本提示生成高质量的3D资产。该技术代表了3D重建领域的最新进展，可以显著提高3D内容的生成效率和质量。Flex3D的开发得到了Meta的支持，并且团队成员在3D重建和计算机视觉领域有着深厚的背景。

最先进的图像生成模型

FLUX1.1 [pro] 是 Black Forest Labs 发布的最新图像生成模型，它在速度和图像质量上都有显著提升。该模型提供六倍于前代的速度，同时改善了图像质量、提示遵循度和多样性。FLUX1.1 [pro] 还提供了更高级的定制化选项，以及更优的性价比，适合需要高效、高质量图像生成的开发者和企业。

使用扩散模型进行图像外延

Diffusers Image Outpaint 是一个基于扩散模型的图像外延技术，它能够根据已有的图像内容，生成图像的额外部分。这项技术在图像编辑、游戏开发、虚拟现实等领域具有广泛的应用前景。它通过先进的机器学习算法，使得图像生成更加自然和逼真，为用户提供了一种创新的图像处理方式。

统一的图像生成框架，简化多任务图像生成。

OmniGen是一个创新的扩散框架，它将多种图像生成任务统一到单一模型中，无需特定任务的网络或微调。这一技术简化了图像生成流程，提高了效率，降低了开发和维护成本。

谷歌旗下领先的人工智能研究公司

Google DeepMind 是谷歌旗下的一家领先的人工智能公司，专注于开发先进的机器学习算法和系统。DeepMind 以其在深度学习和强化学习领域的开创性工作而闻名，其研究涵盖了从游戏到医疗保健等多个领域。DeepMind 的目标是通过构建智能系统来解决复杂的问题，推动科学和医学的进步。

生成新视角的图像，保持语义信息。

GenWarp是一个用于从单张图像生成新视角图像的模型，它通过语义保持的生成变形框架，使文本到图像的生成模型能够学习在哪里变形和在哪里生成。该模型通过增强交叉视角注意力与自注意力来解决现有方法的局限性，通过条件化生成模型在源视图图像上，并纳入几何变形信号，提高了在不同领域场景下的性能。

AI脚本集合，主要用于Stable Diffusion模型。

ai-toolkit是一个研究性质的GitHub仓库，由Ostris创建，主要用于Stable Diffusion模型的实验和训练。它包含了各种AI脚本，支持模型训练、图像生成、LoRA提取器等。该工具包仍在开发中，可能存在不稳定性，但提供了丰富的功能和高度的自定义性。

图像生成领域的革新工具。

Amazon Titan Image Generator v2是AWS推出的一款AI图像生成模型，它通过使用参考图像、编辑现有视觉效果、去除背景、生成图像变体以及安全定制模型来保持品牌风格和主题一致性，从而简化工作流程、提高生产力，并将创意愿景变为现实。

可控视频和图像生成技术

ControlNeXt是一个开源的图像和视频生成模型，它通过减少高达90%的可训练参数，实现了更快的收敛速度和卓越的效率。该项目支持多种控制信息形式，并且可以与LoRA技术结合使用，以改变风格并确保更稳定的生成效果。

高效渲染被遮挡的人体

OccFusion是一种创新的人体渲染技术，利用3D高斯散射和预训练的2D扩散模型，即使在人体部分被遮挡的情况下也能高效且高保真地渲染出完整的人体图像。这项技术通过三个阶段的流程：初始化、优化和细化，显著提高了在复杂环境下人体渲染的准确性和质量。

将大型语言模型的编码能力转换为图像生成能力。

Omost是一个旨在将大型语言模型(LLM)的编码能力转化为图像生成（更准确地说是图像组合）能力的项目。它提供了基于Llama3和Phi3变体的预训练LLM模型，这些模型能够编写代码以使用Omost的虚拟Canvas代理来组合图像视觉内容。Canvas可以由特定的图像生成器实现来实际生成图像。Omost项目背后的技术包括Direct Preference Optimization (DPO)和OpenAI GPT4o的多模态能力。

高效能的文本到图像生成模型

SDXL Flash是由SD社区与Project Fluently合作推出的文本到图像生成模型。它在保持生成图像质量的同时，提供了比LCM、Turbo、Lightning和Hyper更快的处理速度。该模型基于Stable Diffusion XL技术，通过优化步骤和CFG（Guidance）参数，实现了图像生成的高效率和高质量。

MuLan：为110多种语言适配多语言扩散模型

MuLan是一个开源的多语言扩散模型，旨在为超过110种语言提供无需额外训练即可使用的扩散模型支持。该模型通过适配技术，使得原本需要大量训练数据和计算资源的扩散模型能够快速适应新的语言环境，极大地扩展了扩散模型的应用范围和语言多样性。MuLan的主要优点包括对多种语言的支持、优化的内存使用、以及通过技术报告和代码模型的发布，为研究人员和开发者提供了丰富的资源。

AI学习平台

Generative AI Courses是一家提供AI学习课程的在线平台。通过课程学习，用户可以掌握GenAI、AI、机器学习、深度学习、chatGPT、DALLE、图像生成、视频生成、文本生成等技术，并了解2024年AI领域的最新发展。

个性化图像生成的注意力混合架构

Mixture-of-Attention (MoA) 是一种用于个性化文本到图像扩散模型的新架构，它通过两个注意力路径——个性化分支和非个性化先验分支——来分配生成工作负载。MoA 设计用于保留原始模型的先验，同时通过个性化分支最小干预生成过程，该分支学习将主题嵌入到先验分支生成的布局和上下文中。MoA 通过一种新颖的路由机制管理每层像素在这些分支之间的分布，以优化个性化和通用内容创建的混合。训练完成后，MoA 能够创建高质量、个性化的图像，展示多个主题的组成和互动，与原始模型生成的一样多样化。MoA 增强了模型的先有能力与新增强的个性化干预之间的区别，从而提供了以前无法实现的更解耦的主题上下文控制。

基于预训练的文本到图像模型生成高质量、多视角一致的3D物体图像。

ViewDiff 是一种利用预训练的文本到图像模型作为先验知识,从真实世界数据中学习生成多视角一致的图像的方法。它在U-Net网络中加入了3D体积渲染和跨帧注意力层,能够在单个去噪过程中生成3D一致的图像。与现有方法相比,ViewDiff生成的结果具有更好的视觉质量和3D一致性。

实时一步潜在扩散模型,可用图像条件控制生成

SDXS是一种新的扩散模型,通过模型微型化和减少采样步骤,大幅降低了模型延迟。它利用知识蒸馏来简化U-Net和图像解码器架构,并引入了一种创新的单步DM训练技术,使用特征匹配和分数蒸馆。SDXS-512和SDXS-1024模型可在单个GPU上分别实现约100 FPS和30 FPS的推理速度,比之前模型快30至60倍。此外,该训练方法在图像条件控制方面也有潜在应用,可实现高效的图像到图像翻译。

连接不同语言模型和生成视觉模型进行文本到图像生成

LaVi-Bridge是一种针对文本到图像扩散模型设计的桥接模型,能够连接各种预训练的语言模型和生成视觉模型。它通过利用LoRA和适配器,提供了一种灵活的插拔式方法,无需修改原始语言和视觉模型的权重。该模型与各种语言模型和生成视觉模型兼容,可容纳不同的结构。在这一框架内,我们证明了通过整合更高级的模块(如更先进的语言模型或生成视觉模型)可以明显提高文本对齐或图像质量等能力。该模型经过大量评估,证实了其有效性。

重新思考 FID：为图像生成提供更好的评估指标

该论文提出了对图像生成模型进行评估的新指，提出了 Frechet Inception Distance (FID) 指标存在的问题，并提出了一种新的评估指标 CMMD。通过大量实验证明，FID 指标对文本到图像模型的评估可能不可靠，而 CMMD 指标可以更可靠地评估图像质量。

机器人图像渲染的新发展

Wild2Avatar是一个用于渲染被遮挡的野外单目视频中的人类外观的神经渲染方法。它可以在真实场景下渲染人类,即使障碍物可能会阻挡相机视野并导致部分遮挡。该方法通过将场景分解为三部分(遮挡物、人类和背景)来实现,并使用特定的目标函数强制分离人类与遮挡物和背景,以确保人类模型的完整性。

AI驱动的内容创作

AIrticle flow是一款先进的AI驱动内容创作工具，能够高效而轻松地生成高质量、独特而相关的内容。它结合了先进的机器学习算法和用户反馈循环，确保生成的内容与品牌声音和受众偏好一致，使其与传统的内容生成工具区别开来。AIrticle flow不仅能够生成优质的文本内容，还能生成引人注目的图像，为用户提供全面的内容解决方案。用户可以根据自己的品牌风格和口吻对生成的内容进行定制，以确保生成的内容与品牌的独特声音匹配。AIrticle flow支持多语言，用户可以轻松地为全球受众创建内容。它还提供WordPress插件，方便用户在多个WordPress博客上快速发布生成的内容。AIrticle flow不仅适用于个人写作，也适用于各行业的企业，为其内容创作流程带来了极大的便利和效率提升。

用扩散模型生成细节丰富的3D人类网格

Chupa是一个3D人体生成流水线,它结合了扩散模型的生成能力和神经渲染技术,可创建多样化、逼真的3D人体。该流水线可以轻松地泛化到未见过的人体姿态,并呈现逼真的效果。Chupa从SMPL-X网格生成潜在空间中的多样化高质量人体网格。

在自己的GPU上免费生成AI图像

NMKD稳定扩散GUI是一个方便的界面工具，可以在自己的硬件上本地运行稳定扩散，这是一个用于从文本生成图像的机器学习工具包。它完全没有审查和过滤，生成的内容我不负责。不会共享/收集任何数据。该工具正在积极开发中，可能会出现一些小问题。 主要功能： - 包含依赖项，无需复杂安装 - 支持文本到图像和图像到图像（图像+文本提示） - 支持基于指令的图像编辑（InstructPix2Pix） - 提示功能：关注/强调，负面提示 - 支持自定义稳定扩散模型和自定义VAE模型 - 同时运行多个提示 - 内置图像查看器，显示生成图像的信息 - 内置超分辨率（RealESRGAN）和人脸修复（CodeFormer或GFPGAN） - 提示队列和提示历史 - 创建无缝（平铺）图像的选项，例如用于游戏纹理 - 支持加载自定义概念（文本反转） - 支持加载LoRA概念/角色/风格 - 各种用户体验功能 - 速度快，取决于您的GPU（RTX 4090每张图像<1秒，RTX 3090每张图像<2秒） - 内置安全措施，扫描下载的模型是否包含恶意软件 - 内置更新工具 系统要求：请参阅GitHub指南 如果您想支持开发，请查看我的Patreon，您还可以获得我最新的视频插帧工具Flowframes。 https://www.patreon.com/platform/iframe?widget=become-patron-button&redirectURI=https%3A%2F%2Fitch.io%2Fgame%2Fedit%2F755540%23published&creatorID=19695417 如果需要帮助或有问题，请加入Discord： https://discord.com/widget?id=777892450232434688&theme=dark 请不要直接私信或@我，如果需要帮助，请使用stable-diffusion-gui频道。