EXAONE-3.5-7.8B-Instruct-AWQ

简介:

LG AI Research开发的双语生成模型

功能:

支持长上下文处理,最多32K令牌。

在真实世界用例和长上下文理解方面展现出最先进的性能。

与最近发布的类似大小模型相比,在一般领域中保持竞争力。

支持双语(英语和韩语)生成。

提供AWQ量化权重,实现4位组内权重量化(W4A16g128)。

支持多种部署框架,如TensorRT-LLM、vLLM、SGLang等。

提供预量化的EXAONE 3.5模型,以GGUF格式提供。

需求人群:

"目标受众为需要进行长上下文处理和双语文本生成的开发者和研究人员。EXAONE-3.5-7.8B-Instruct-AWQ模型因其先进的性能和长上下文理解能力,特别适合需要处理大量数据和多语言内容的复杂任务,如机器翻译、文本摘要、对话系统等。"

浏览量:1

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图