简介:

一款高效率的2.4亿参数轻量级语言模型

功能:

• 2.4亿参数的轻量级语言模型,性能卓越

• 预训练仅使用1.08T数据,数据使用效率高

• 擅长数学和编程领域的语言理解与生成任务

• 开源预训练资源,包括代码和数据,增强研究透明度和可复现性

• 模型支持长上下文(28K),适用于复杂任务

• 提供模型权重和中间优化器状态,方便研究和进一步训练

• 支持多种使用场景,包括预训练、微调和学习率退火

需求人群:

"目标受众为自然语言处理领域的研究人员、开发者以及对高效语言模型有需求的企业。YuLan-Mini因其轻量级和高效率,特别适合资源受限但需要高性能模型的场景,如小型企业和学术研究。"

浏览量:10

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图