Deep learning:四十五(maxout簡單理解)

    maxout出如今ICML2013上,做者Goodfellow將maxout和dropout結合後,號稱在MNIST, CIFAR-10, CIFAR-100, SVHN這4個數據上都取得了start-of-art的識別率。網絡   從論文中能夠看出,maxout其實一種激發函數形式。一般狀況下,若是激發函數採用sigmoid函數的話,在前向傳播過程當中,隱含層節點的輸出表達式爲:dom
相關文章
相關標籤/搜索