EXAONE-3.5-32B-Instruct-AWQ

简介:

LG AI Research开发的多语言生成模型

功能:

支持长达32K令牌的长上下文处理能力。

在英语和韩语的双语生成模型中展现出最先进的性能。

通过AWQ量化技术,实现了4位组级别的权重量化。

模型参数数量达到30.95B,拥有64层和40个查询头。

支持快速启动和部署,适用于多种框架,如TensorRT-LLM、vLLM等。

提供了预量化的EXAONE 3.5模型,方便在不同设备上部署。

模型生成的文本不反映LG AI Research的观点,确保内容的中立性。

需求人群:

"目标受众为需要在多语言环境中进行文本生成和处理的研究人员、开发者和企业。由于模型支持长上下文处理和双语能力,特别适合需要处理大量文本数据和跨语言交流的应用场景。"

浏览量:3

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图