简介:

在家使用日常设备搭建自己的AI集群。

功能:

支持LLaMA等流行模型。

动态模型分割,根据网络拓扑和设备资源最优分配模型。

自动设备发现,无需手动配置。

提供与ChatGPT兼容的API,简化模型运行流程。

支持多种推理引擎,如MLX、tinygrad、llama.cpp。

支持多种网络模块,包括GRPC、Radio、Bluetooth。

需求人群:

"目标受众为开发者和AI爱好者,他们希望利用家中的现有设备来构建和运行AI模型,无需昂贵的NVIDIA GPU。exo提供了一个实验性的平台,允许用户在多设备环境中探索和实现AI模型的分布式计算。"

浏览量:81

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图