tensorflow分佈式狀況下，ps負載不均衡

       先說下問題背景，在tensorflow官方支持的分佈式中，即ps，worker模式中，因爲模型變量的因素，致使變量在ps上初始化的時候負載不均衡，到時影響訓練性能，最近就遇到這種問題，測的是inception_v3這個模型，在分佈式中，看各個ps所在機器cup利用率和網絡帶寬差別很大，而後就作了ps上變量的負載均衡，負載均衡後，性能提高大約在10%~20%左右，具體很少說，直接上代碼

>>阅读原文<<