Tensorflow學習筆記——Summary用法

        最近在研究tensorflow自帶的例程speech_command,順便學習tensorflow的一些基本用法。

其中tensorboard 做爲一款可視化神器，能夠說是學習tensorflow時模型訓練以及參數可視化的法寶。

而在訓練過程當中，主要用到了tf.summary()的各種方法，可以保存訓練過程以及參數分佈圖並在tensorboard顯示。

tf.summary有諸多函數：

一、tf.summary.scalar

用來顯示標量信息，其格式爲：

tf.summary.scalar(tags, values, collections=None, name=None)

例如：tf.summary.scalar('mean', mean)

通常在畫loss,accuary時會用到這個函數。

二、tf.summary.histogram

用來顯示直方圖信息，其格式爲：

tf.summary.histogram(tags, values, collections=None, name=None) 

例如： tf.summary.histogram( 'histogram', var)

通常用來顯示訓練過程當中變量的分佈狀況

三、tf.summary.distribution

分佈圖，通常用於顯示weights分佈

四、tf.summary.text

能夠將文本類型的數據轉換爲tensor寫入summary中：

例如：

text = """/a/b/c\\_d/f\\_g\\_h\\_2017"""
summary_op0 = tf.summary.text('text', tf.convert_to_tensor(text))

五、tf.summary.image

輸出帶圖像的probuf，彙總數據的圖像的的形式以下： ' tag /image/0', ' tag /image/1'...，如：input/image/0等。

格式：tf.summary.image(tag, tensor, max_images=3, collections=None, name=Non

六、tf.summary.audio

展現訓練過程當中記錄的音頻 

七、tf.summary.merge_all

merge_all 能夠將全部summary所有保存到磁盤，以便tensorboard顯示。若是沒有特殊要求，通常用這一句就可一顯示訓練時的各類信息了。

格式：tf.summaries.merge_all(key='summaries')

八、tf.summary.FileWriter

指定一個文件用來保存圖。

格式：tf.summary.FileWritter(path,sess.graph)

能夠調用其add_summary（）方法將訓練過程數據保存在filewriter指定的文件中

Tensorflow Summary 用法示例:

tf.summary.scalar('accuracy',acc)                   #生成準確率標量圖  
merge_summary = tf.summary.merge_all()  
train_writer = tf.summary.FileWriter(dir,sess.graph)#定義一個寫入summary的目標文件，dir爲寫入文件地址  
......(交叉熵、優化器等定義)  
for step in xrange(training_step):                  #訓練循環  
    train_summary = sess.run(merge_summary,feed_dict =  {...})#調用sess.run運行圖，生成一步的訓練過程數據  
    train_writer.add_summary(train_summary,step)#調用train_writer的add_summary方法將訓練過程以及訓練步數保存  

此時開啓tensorborad：

tensorboard --logdir=/summary_dir

便能看見accuracy曲線了。

另外，若是我不想保存全部定義的summary信息，也能夠用tf.summary.merge方法有選擇性地保存信息：

九、tf.summary.merge

格式：tf.summary.merge(inputs, collections=None, name=None)

通常選擇要保存的信息還須要用到tf.get_collection()函數

示例：

tf.summary.scalar('accuracy',acc)                   #生成準確率標量圖  
merge_summary = tf.summary.merge([tf.get_collection(tf.GraphKeys.SUMMARIES,'accuracy'),...(其餘要顯示的信息)])  
train_writer = tf.summary.FileWriter(dir,sess.graph)#定義一個寫入summary的目標文件，dir爲寫入文件地址  
......(交叉熵、優化器等定義)  
for step in xrange(training_step):                  #訓練循環  
    train_summary = sess.run(merge_summary,feed_dict =  {...})#調用sess.run運行圖，生成一步的訓練過程數據  
    train_writer.add_summary(train_summary,step)#調用train_writer的add_summary方法將訓練過程以及訓練步數保存  

使用tf.get_collection函數篩選圖中summary信息中的accuracy信息，這裏的

tf.GraphKeys.SUMMARIES  是summary在collection中的標誌。

固然，也能夠直接：

acc_summary = tf.summary.scalar('accuracy',acc)                   #生成準確率標量圖  
merge_summary = tf.summary.merge([acc_summary ,...(其餘要顯示的信息)])  #這裏的[]不可省

 若是要在tensorboard中畫多個數據圖，需定義多個tf.summary.FileWriter並重覆上述過程。