简介:

将LLM模型打包成一个可执行文件

功能:

支持不同CPU架构(x86、ARM)和操作系统(Windows、Linux、macOS等)

内置模型权重,不需要额外下载

命令行界面和HTTP服务器界面两种使用方式

支持GPU加速(CUDA、Metal)

需求人群:

["快速试用LLM模型","训练好的LLM模型发布和分享"]

浏览量:61

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图