時間卷積網絡：時間序列的下一場革命？

這篇文章回顧了幾個最新的基於TCN的解決方案。

咱們首先介紹運動檢測的案例研究，並簡要回顧一下TCN架構及其相對於傳統方法(如卷積神經網絡(CNN)和遞歸神經網絡(RNN))的優點。而後介紹了TCN的幾個新穎應用，包括改善交通預測，聲音事件定位和檢測以及機率預測。

TCN簡要回顧

Lea等人的開創性工做。(2016)首先提出了基於視頻的動做分割的時間卷積網絡(TCN)。此常規過程的兩個步驟包括：首先，使用(一般)對時空信息進行編碼的CNN來計算低級特徵，其次，將這些低級特徵輸入到使用(一般是)捕獲高級時域信息的分類器中)RNN。這種方法的主要缺點是須要兩個單獨的模型。 TCN提供了一種統一的方法來分層捕獲全部兩個級別的信息。

編碼器-解碼器框架如圖1所示，其中有關體系結構的更多信息能夠在前兩個參考文獻中找到(在文章末尾)。提供了最關鍵的問題，以下所示：TCN能夠採用一系列任意長度並將其輸出爲相同長度。在使用一維徹底卷積網絡體系結構的狀況下，使用因果卷積。一個關鍵特徵是，時間t的輸出 僅與t以前發生的元素卷積 。

隨着Yan等人最近發表的研究成果，圍繞TCN的話題甚至傳到了《天然》雜誌上。(2020)在TCN上進行天氣預報任務。在他們的工做中，使用TCN和LSTM進行了對比實驗。他們的結果之一是，除其餘方法外，TCN在使用時序數據的預測任務中表現出色。

下一部分提供了此經典TCN的實現和擴展。

改善流量預測

拼車和在線導航服務能夠改善交通預測效果並改變人們的出行方式。經過更好的交通預測能夠實現更少的交通擁堵，更少的污染，安全和快速的駕駛等。因爲這是實時數據驅動的問題，所以有必要利用即將到來的流量的累積數據。基於此，Dai等人最近(2020)提出了一種混合時空圖卷積網絡(H-STGCN)。整體思路是利用分段襯裏流量密度關係的優點，並將即未來臨的交通量轉換爲等效的行進時間。他們在這項工做中使用的最有趣的方法之一是圖卷積以捕獲空間依賴性。複合鄰接矩陣捕獲流量近似的固有特徵(更多信息，請參見Li，2017)。在如下架構中，提出了四個模塊來描述整個預測過程。

Dai et al. (2020)

聲音事件定位和檢測

聲音事件定位和檢測(SELD)的領域在不斷增加。對環境的瞭解在自主導航中起着相當重要的做用。Guirguis等最近(2020)提出了一種聲音事件SELD-TCN的新穎架構。他們聲稱，他們的框架在現場培訓方面比當前最早進的技術領先。在他們的SELDnet(如下結構)中，以44.1 kHz採樣的多聲道音頻記錄經過應用短時傅立葉變換提取頻譜的相位和幅度，並將其堆疊爲單獨的輸入特徵。而後，鏈接卷積塊和循環塊(雙向GRU)，而後鏈接徹底鏈接的塊。SELDnet的輸出是聲音事件檢測(SED)和到達方向(DOA)。

Guirguis et al. (2020)

爲了超越它，他們提出了SELD-TCN：

Guirguis et al. (2020)

因爲擴張的卷積使網絡可以處理各類輸入，所以可能須要更深刻的網絡(在反向傳播期間，網絡會受到不穩定梯度的影響)。他們經過適應WaveNet(Dario et al。，2017)架構克服了這一挑戰。他們代表SELD任務不須要循環層，併成功檢測到活動聲音事件的開始和結束時間。

機率預測

由Chen等人設計的新穎框架(2020)可用於估計機率密度。時間序列預測改善了許多業務決策方案(例如，資源管理)。機率預測能夠從歷史數據中提取信息，並最大限度地減小將來事件的不肯定性。當預測任務是預測數以百萬計的相關數據系列時(如在零售業務中)，它須要大量的勞動力和計算資源來進行參數估計。爲了解決這些困難，他們提出了基於CNN的密度估計和預測框架。他們的框架能夠學習系列之間的潛在關聯。他們的工做中的新穎之處在於他們提出的深層TCN，如其體系結構所示：

Chen et al. (2020)

編碼器-解碼器模塊解決方案可能有助於實際的大規模應用設計。

【編輯推薦】

1. 手機用北斗導航到底需不須要下APP：來了解下

2. 在遠程工做環境中利用雲計算技術的10個注意事項

3. 阿里達摩院青橙獎「硬核10人」出爐，鍾南山寄語青年科學家

4. 那個被捧上天的GPT-3要開始收費了！網友：天價，溜了溜了

5. Gartner 首份 IaaS+PaaS 魔力象限：AWS、谷歌、微軟領導者；阿里、甲骨文、IBM追隨者

【責任編輯：未麗燕 TEL：（010）68476606】