On-device Sora

On-device Sora

On-device Sora 是一个开源项目,旨在通过线性比例跳跃(LPL)、时间维度标记合并(TDTM)和动态加载并发推理(CI-DL)等技术,实现在移动设备(如 iPhone 15 Pro)上高效的视频生成。该项目基于 Open-Sora 模型开发,能够根据文本输入生成高质量视频。其主要优点包括高效性、低功耗和对移动设备的优化。该技术适用于需要在移动设备上快速生成视频内容的场景,如短视频创作、广告制作等。项目目前开源,用户可以免费使用。

需求人群:

"该产品适合需要在移动设备上快速生成视频内容的创作者、广告商和内容开发者。它能够帮助用户在不依赖云端计算的情况下,高效地生成高质量视频,特别适合需要在移动场景下快速创作的用户。"

使用场景示例:

创作者可以使用该模型在移动设备上快速生成短视频内容。

广告商可以在移动设备上根据广告文案生成视频广告。

内容开发者可以利用该模型为移动应用生成动态视频素材。

产品特色:

支持文本到视频的生成,可根据输入文本生成高质量视频。

优化移动设备性能,适用于 iPhone 15 Pro 等设备。

采用线性比例跳跃(LPL)技术,提高生成效率。

支持时间维度标记合并(TDTM),降低计算资源消耗。

提供动态加载并发推理(CI-DL),提升运行速度。

使用教程:

1. 克隆项目仓库到本地。

2. 安装必要的依赖包(如 Python 3.10 和相关库)。

3. 将模型转换为 MLPackage 格式(支持 T5、STDiT 和 VAE)。

4. 在 Xcode 中打开项目并配置 Apple 开发者账号。

5. 在 iPhone 15 Pro 或更高版本设备上运行应用。

浏览量:41

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
网站流量情况

最新流量情况

月访问量

5.21m

平均访问时长

00:06:29

每次访问页数

6.12

跳出率

35.96%

流量来源

直接访问

52.10%

自然搜索

32.78%

邮件

0.05%

外链引荐

12.82%

社交媒体

2.16%

展示广告

0

截止目前所有流量趋势图

地理流量分布情况

中国

13.96%

德国

3.65%

印度

9.02%

俄罗斯

4.03%

美国

19.10%

类似产品

生成和交互控制开放世界游戏视频的扩散变换模型

GameGen-X是专为生成和交互控制开放世界游戏视频而设计的扩散变换模型。该模型通过模拟游戏引擎的多种特性,如创新角色、动态环境、复杂动作和多样事件,实现了高质量、开放领域的视频生成。此外,它还提供了交互控制能力,能够根据当前视频片段预测和改变未来内容,从而实现游戏玩法模拟。为了实现这一愿景,我们首先从零开始收集并构建了一个开放世界视频游戏数据集(OGameData),这是第一个也是最大的开放世界游戏视频生成和控制数据集,包含超过150款游戏的100多万个多样化游戏视频片段,这些片段都配有GPT-4o的信息性字幕。GameGen-X经历了两阶段的训练过程,包括基础模型预训练和指令调优。首先,模型通过文本到视频生成和视频续集进行预训练,赋予了其长序列、高质量开放领域游戏视频生成的能力。进一步,为了实现交互控制能力,我们设计了InstructNet来整合与游戏相关的多模态控制信号专家。这使得模型能够根据用户输入调整潜在表示,首次在视频生成中统一角色交互和场景内容控制。在指令调优期间,只有InstructNet被更新,而预训练的基础模型被冻结,使得交互控制能力的整合不会损失生成视频内容的多样性和质量。GameGen-X代表了使用生成模型进行开放世界视频游戏设计的一次重大飞跃。它展示了生成模型作为传统渲染技术的辅助工具的潜力,有效地将创造性生成与交互能力结合起来。

© 2025     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图