在機器翻譯、圖片描述、語義蘊涵、語音識別和文本摘要中,序列到序列的問題已經有太多大牛研究了,也取得了不少突破。谷歌的Attention is all you need[1],捨棄並超越了主流的rnn與cnn序列建模框架,刷出了新的state of the art,這種大膽創新的精神值得咱們學習。後面相信會有更多的attention變體甚至和rnn/cnn結合的電路圖涌現,固然咱們更期待的不是這些,咱們更向往大道至簡。咱們在follow的同時,也指望本身的每個新的想法,新的嘗試可以匯入深度學習的大浪,爲人類的將來貢獻本身的一份力量。
在電子商務搜索中,query做爲表達用戶意圖的載體起到了很是重要的做用。如何根據用戶的歷史行爲序列給用戶推薦一個query,吸引用戶發生搜索以及後續的成交是很是有意義的,好比淘寶的底紋推薦。以下圖是一個在iphone上的引導圖,歡迎你們多多使用底紋。框架
在技術方案這部分,咱們首先介紹一下總體思路,而後重點討論一下序列embedding.iphone