EXAONE-3.5-2.4B-Instruct-GGUF

简介:

LG AI Research开发的双语文本生成模型

功能:

支持长达32K令牌的长上下文处理能力。

包含2.4B、7.8B和32B三种不同规模的模型,以适应不同的部署需求。

模型在真实世界用例中展现出最先进的性能。

支持双语(英语和韩语)文本生成。

模型经过指令调优,能够更好地理解和执行指令。

提供了多种量化版本的模型,以适应不同的计算和存储需求。

模型可以在多种框架中进行推理,如TensorRT-LLM、vLLM、SGLang等。

模型生成的文本不反映LG AI Research的观点,且LG AI Research努力减少模型可能带来的风险。

需求人群:

"目标受众为需要在资源受限设备上部署高性能语言模型的研究人员和开发者,以及需要处理长文本和多语言文本生成的应用开发者。该模型适合他们,因为它提供了优化的部署选项和强大的性能,同时支持长上下文理解和多语言能力。"

浏览量:18

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2025     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图