EXO Labs|2025年12月18日 18:53
M3 Ultra Mac Studio AI集群
使用EXO 1.0,通过Thunderbolt 5(80Gbps)的RDMA实现2TB统一内存@ 3.2TB/s。
运行Kimi K2 Thinking(1T参数),以MLX张量并行实现28 tok/sec。使用2台Mac可达1.8倍TPS,4台Mac可达3.2倍TPS。
EXO 1.0现已开源(Apache 2.0)。
分享至:
脈絡
熱門快訊
APP下載
X
Telegram
複製鏈接