神奇的方案 Petals——以 P2P 的形式运行 AI。
只要贡献出你的 GPU，就可以用 4 Tokens/s 的速度运行 180B 的模型。 ​​​​