AIM

这篇论文介绍了AIM,这是一组使用自回归目标进行预训练的视觉模型。这些模型受其文本对应物,即大型语言模型(LLMs)的启发,并表现出类似的扩展特性。具体来说,我们强调了两个关键发现:(1)视觉特征的性能随着模型容量和数据量的增加而提高,(2)目标函数的价值与模型在下游任务上的性能相关。我们通过在20亿张图像上对70亿参数的AIM进行预训练,实现了在ImageNet-1k上使用冻结主干达到84.0%的准确率。有趣的是,即使在这个规模上,我们观察到性能没有饱和的迹象,这表明AIM可能代表了训练大规模视觉模型的新前沿。AIM的预训练类似于LLMs的预训练,并不需要任何图像特定的策略来稳定大规模训练。

需求人群:

"适用于大规模图像数据的自回归预训练,以及需要训练大规模视觉模型的场景。"

使用场景示例:

用于自动驾驶系统中的大规模图像识别

在医学影像分析中的大规模数据预训练

应用于智能监控系统的大规模视觉模型训练

产品特色:

自回归图像模型预训练

大规模视觉模型训练

性能优化和扩展

浏览量:46

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
网站流量情况

最新流量情况

月访问量

2913.88k

平均访问时长

00:01:11

每次访问页数

2.06

跳出率

68.69%

流量来源

直接访问

71.47%

自然搜索

2.55%

邮件

0.31%

外链引荐

17.37%

社交媒体

1.29%

展示广告

0

截止目前所有流量趋势图

地理流量分布情况

美国

22.65%

印度

7.10%

中国

5.16%

巴西

3.46%

韩国

2.94%

类似产品

© 2024     AIbase    备案号:闽ICP备2023012347号-1

隐私政策

用户协议

意见反馈 网站地图