TinyLlama

TinyLlama项目旨在在3万亿令牌上预训练一个1.1B Llama模型。通过一些适当的优化,我们可以在“仅”90天内使用16个A100-40G GPU完成。训练已于2023-09-01开始。我们采用了与Llama 2完全相同的架构和分词器。这意味着TinyLlama可以在许多建立在Llama基础上的开源项目中使用。此外,TinyLlama只有1.1B个参数,紧凑性使其能够满足许多对计算和内存占用有限的应用需求。

需求人群:

"TinyLlama可用于聊天模型的微调和文本生成。"

使用场景示例:

https://github.com/jzhang38/TinyLlama

https://huggingface.co/docs/transformers/main/en/chat_templating

https://github.com/huggingface/transformers.git

产品特色:

文本生成

Transformers

安全张量

浏览量:70

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
网站流量情况

最新流量情况

月访问量

22216.76k

平均访问时长

00:04:50

每次访问页数

5.52

跳出率

47.80%

流量来源

直接访问

46.24%

自然搜索

30.97%

邮件

0.78%

外链引荐

13.53%

社交媒体

8.45%

展示广告

0

截止目前所有流量趋势图

地理流量分布情况

中国

15.26%

美国

13.36%

印度

6.45%

俄罗斯

3.91%

法国

3.77%

类似产品

© 2024     AIbase    备案号:闽ICP备2023012347号-1

隐私政策

用户协议

意见反馈 网站地图