LG AI Research开发的双语文本生成模型
EXAONE-3.5-2.4B-Instruct-AWQ是由LG AI Research开发的一系列双语(英语和韩语)指令调优生成模型,参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理,并且在真实世界用例和长上下文理解方面展现出最先进的性能,同时在与近期发布的类似大小模型相比,在通用领域保持竞争力。该模型在部署到小型或资源受限设备上进行了优化,并且采用了AWQ量化技术,实现了4位群组权重量化(W4A16g128)。
LG AI Research开发的多语言生成模型
EXAONE-3.5-7.8B-Instruct是由LG AI Research开发的一系列指令调优的双语(英语和韩语)生成模型,参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理,并在真实世界用例和长上下文理解方面展现出最先进的性能,同时在与近期发布的类似大小模型相比,在通用领域保持竞争力。
LG AI Research开发的双语文本生成模型
EXAONE-3.5-2.4B-Instruct-GGUF是由LG AI Research开发的一系列双语(英语和韩语)指令调优的生成型模型,参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理,并在真实世界用例和长上下文理解方面展现出最先进的性能,同时在与近期发布的类似大小模型相比,在通用领域保持竞争力。该模型的重要性在于其优化了在小型或资源受限设备上的部署,同时提供了强大的性能。
LG AI Research开发的多语言、高性能大型语言模型
EXAONE-3.5-32B-Instruct-GGUF是LG AI Research开发的一系列指令调优的双语(英语和韩语)生成模型,包含2.4B至32B参数的不同版本。这些模型支持长达32K令牌的长上下文处理,展现了在真实世界用例和长上下文理解中的最前沿性能,同时在与近期发布的类似规模模型相比,在通用领域保持竞争力。该模型系列通过技术报告、博客和GitHub提供了详细信息,并且包含了多种精度的指令调优32B语言模型,具有以下特点:参数数量(不含嵌入)为30.95B,层数为64,注意力头数为GQA,包含40个Q头和8个KV头,词汇量为102,400,上下文长度为32,768令牌,量化包括Q8_0、Q6_0、Q5_K_M、Q4_K_M、IQ4_XS等GGUF格式(也包括BF16权重)。
© 2024 AIbase 备案号:闽ICP备08105208号-14