parameter server介紹

1. Parameter Server介紹 參數服務器是一個編程框架，用於方便分佈式並行程序的編寫，其中重點在於對大規模參數的分佈式存儲和協同的支持。 機器學習系統相比於其他系統而言，有一些自己的獨特特點。例如： 迭代性：模型的更新並非一次完成，需要循環迭代多次 容錯性：即使在每個循環中產生一些錯誤，模型最終仍能收斂 參數收斂的非均勻性：有些參數幾輪迭代就會收斂，而有的參數卻需要上百輪迭代。 而且

>>阅读原文<<