關於模式識別中的domain generalization 和 domain adaptation

今晚聽了李文博士的報告「Domain Generalization and Adaptation using Low-Rank Examplar Classifiers」，講的很精彩。本身第一次據說domain generalization和domain adaptation，故此簡單記錄一下。不少機器學習的任務都假設樣本是獨立同分布的（i.i.d），可是真實世界的數據每每不同都知足。訓練樣本和測試樣本之間分佈可能存在誤差。這是由於數據集自己多是存在biased，好比：比較經典的幾個數據集imagenet，caltech等，都有各自的特色；還有就是真實的數據集是具備多樣性的，用domain A的數據對一類物體進行訓練，在domian B的同一類物體進行識別，表現每每都有降低。因此在模式識別、人臉識別、動做識別時候須要解決模型的泛化和自適應問題。

他們提出用examplar SVM進行分類，而且考慮到預測的稀疏性，融合了低秩矩陣的概念。爲了加快訓練，損失函數那塊用exp替代log，用矩陣的block inverse來加快矩陣求逆。感受工做量很充足，不愧是一篇TPAMI的文章。向大牛看齊。另外給出李文博士的我的主頁：http://www.vision.ee.ethz.ch/~liwenw/