AIM

这篇论文介绍了AIM,这是一组使用自回归目标进行预训练的视觉模型。这些模型受其文本对应物,即大型语言模型(LLMs)的启发,并表现出类似的扩展特性。具体来说,我们强调了两个关键发现:(1)视觉特征的性能随着模型容量和数据量的增加而提高,(2)目标函数的价值与模型在下游任务上的性能相关。我们通过在20亿张图像上对70亿参数的AIM进行预训练,实现了在ImageNet-1k上使用冻结主干达到84.0%的准确率。有趣的是,即使在这个规模上,我们观察到性能没有饱和的迹象,这表明AIM可能代表了训练大规模视觉模型的新前沿。AIM的预训练类似于LLMs的预训练,并不需要任何图像特定的策略来稳定大规模训练。

需求人群:

"适用于大规模图像数据的自回归预训练,以及需要训练大规模视觉模型的场景。"

使用场景示例:

用于自动驾驶系统中的大规模图像识别

在医学影像分析中的大规模数据预训练

应用于智能监控系统的大规模视觉模型训练

产品特色:

自回归图像模型预训练

大规模视觉模型训练

性能优化和扩展

浏览量:78

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
网站流量情况

最新流量情况

月访问量

3063.37k

平均访问时长

00:01:28

每次访问页数

2.02

跳出率

67.08%

流量来源

直接访问

67.48%

自然搜索

8.57%

邮件

0.04%

外链引荐

22.70%

社交媒体

0.77%

展示广告

0

截止目前所有流量趋势图

地理流量分布情况

巴西

3.19%

中国

14.77%

印度

7.55%

俄罗斯

3.67%

美国

15.44%

类似产品

© 2025     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图