近日发现开启 pytorch 的 distributed 之后测试会变得极其慢,现来研究一下。

配置一下 export USE_DISTRIBUTED=1export USE_GLOO=1