简介:

轻量级、先进的文本生成模型

功能:

支持多种文本生成任务,包括问答、摘要和推理

适用于资源有限的环境,如笔记本电脑和桌面

开放权重,适用于预训练变体和指令调整变体

支持在GPU上运行,且支持不同精度配置,包括bfloat16、float16和float32

提供了量化版本,通过bitsandbytes库支持8位和4位精度

支持使用Flash Attention 2优化模型的运行效率

需求人群:

"Gemma模型的目标受众是希望在资源受限的环境中利用AI技术进行文本生成的开发者和研究人员。无论是在个人项目、学术研究还是商业应用中,Gemma都能提供高效且易于部署的解决方案。"

浏览量:26

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图