深度學習模型構想

用作記錄一些模型的設計構思。 多任務學習，該模型底層存在三個任務x1，x2，x3。每個任務意義不同，甚至維度，分佈都不同。但頂層輸出變量y具有相同意義，上層結構是共享的。由於上層共享參數，最終導致低層結構學習的是將每個特定任務轉化處通用的特徵供上層使用。 舉例：語音識別，語種的存在導致不同的發音，但最終學得的是相同語義的特徵表示。 多任務學習，在某些類似任務中，某些低層概念是類似的，如邊緣、光照變

>>阅读原文<<