超參數

一、什麼是超參數? 普通參數都可以通過不斷的學習(模型訓練)而得到。 但是一般情況下,超參數是學習不來的。 它是提前定義好一系列值(一般在log範圍均勻分佈,如0.001 0.01 0.1 1 10 100 1000等),然後通過迭代學習,得到最好的超參數,這個過程我們稱爲調參,其實就是優化求解的過程。 二、正則化項 λ權衡 模型複雜度和正則項。 正則化越弱,說明模型更加關注樣本點。但是這麼做也容
相關文章
相關標籤/搜索