EXAONE-3.5-2.4B-Instruct-AWQ

简介:

LG AI Research开发的双语文本生成模型

功能:

支持长达32K令牌的长上下文处理能力

优化的2.4B模型,适合在资源受限的设备上部署

7.8B模型提供与前代相同的规模但性能提升

32B模型提供强大的性能

支持英语和韩语两种语言

AWQ量化技术,实现4位群组权重量化

支持多种部署框架,如TensorRT-LLM、vLLM等

需求人群:

"目标受众为需要在资源受限设备上部署高性能语言模型的开发者和研究人员,以及需要处理长文本数据和多语言支持的NLP应用开发者。EXAONE-3.5-2.4B-Instruct-AWQ因其优化的部署能力和长上下文处理能力,特别适合需要在移动设备或边缘计算环境中部署语言模型的场景。"

浏览量:2

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图