Lasso迴歸、嶺迴歸理解

有兩種情況不可逆： （1） 當X中有線性相關的向量，也就是特徵之間可能有重疊，或者互相影響的時候 （2） 當X 列數大於行數，對應於特徵數大於樣本數，此時不可逆 。兩種情況X轉置*X的行列式爲0 克服： （1）將高自相關的變量進行刪除； （2）嶺迴歸也能夠避免X’X的不可逆。 嶺迴歸一般可以用來解決線性迴歸模型係數無解的兩種情況 1970年Heer提出了嶺迴歸方法，非常巧妙的化解了這個死衚衕，即在

>>阅读原文<<