這裏有一份TensorFlow2.0中文教程

今年 3 月份，谷歌在 Tensorflow Developer Summit 2019 大會上發佈 TensorFlow 2.0 Alpha 版。做爲當前最爲流行的深度學習框架，2.0 Alpha 版的正式發佈引人關注。近兩個月，網上已經出現了大量 TensorFlow 2.0 英文教程。在此文章中，機器之心爲你們推薦一個持續更新的中文教程，以便你們學習。

 

雖然，自 TensorFlow 2.0 發佈以來，咱們老是可以聽到「TensorFlow 2.0 就是 keras」、「說的很好，但我用 PyTorch」相似的吐槽。但毋庸置疑，TensorFlow 依然是當前最主流的深度學習框架（感興趣的讀者可查看機器之心文章：2019 年，TensorFlow 被拉下馬了嗎？）。

總體而言，爲了吸引用戶，TensorFlow 2.0 從簡單、強大、可擴展三個層面進行了從新設計。特別是在簡單化方面，TensorFlow 2.0 提供更簡化的 API、注重 Keras、結合了 Eager execution。

過去一段時間，機器之心爲你們編譯介紹了部分英文教程，例如：

• 如何在 TensorFlow 2.0 中構建強化學習智能體
• TensorFlow 2.0 到底怎麼樣？簡單的圖像分類任務探一探

 

此文章中，機器之心爲你們推薦一個持續更新的中文教程，方便你們更系統的學習、使用 TensorFlow 2.0 ：

• 知乎專欄地址：https://zhuanlan.zhihu.com/c_1091021863043624960
• Github 項目地址：https://github.com/czy36mengfei/tensorflow2_tutorials_chinese

 

該教程是 NLP 愛好者 Doit 在知乎上開的一個專欄，由做者從 TensorFlow2.0 官方教程的我的學習復現筆記整理而來。做者將此教程分爲了三類：TensorFlow 2.0 基礎教程、TensorFlow 2.0 深度學習實踐、TensorFlow 2.0 基礎網絡結構。

以基礎教程爲例，做者整理了 Keras 快速入門教程、eager 模式、Autograph 等。目前爲止，該中文教程已經包含 20 多篇文章，做者還在持續更新中，感興趣的讀者能夠 follow。

 

 

該中文教程當前目錄

如下是做者整理的「Keras 快速入門」教程內容。

Keras 快速入門

Keras 是一個用於構建和訓練深度學習模型的高階 API。它可用於快速設計原型、高級研究和生產。

keras 的 3 個優勢： 方便用戶使用、模塊化和可組合、易於擴展

1. 導入 tf.keras

tensorflow2 推薦使用 keras 構建網絡，常見的神經網絡都包含在 keras.layer 中 (最新的 tf.keras 的版本可能和 keras 不一樣)

import tensorflow as tf
from tensorflow.keras import layers
print(tf.__version__)
print(tf.keras.__version__)

 

2. 構建簡單模型

2.1 模型堆疊

最多見的模型類型是層的堆疊：tf.keras.Sequential 模型

model = tf.keras.Sequential()
model.add(layers.Dense(32, activation='relu'))
model.add(layers.Dense(32, activation='relu'))
model.add(layers.Dense(10, activation='softmax'))

2.2 網絡配置

tf.keras.layers 中網絡配置：

• activation：設置層的激活函數。此參數由內置函數的名稱指定，或指定爲可調用對象。默認狀況下，系統不會應用任何激活函數。
• kernel_initializer 和 bias_initializer：建立層權重（核和誤差）的初始化方案。此參數是一個名稱或可調用對象，默認爲 "Glorot uniform" 初始化器。
• kernel_regularizer 和 bias_regularizer：應用層權重（核和誤差）的正則化方案，例如 L1 或 L2 正則化。默認狀況下，系統不會應用正則化函數。

 

layers.Dense(32, activation='sigmoid')
layers.Dense(32, activation=tf.sigmoid)
layers.Dense(32, kernel_initializer='orthogonal')
layers.Dense(32, kernel_initializer=tf.keras.initializers.glorot_normal)
layers.Dense(32, kernel_regularizer=tf.keras.regularizers.l2(0.01))
layers.Dense(32, kernel_regularizer=tf.keras.regularizers.l1(0.01))

3. 訓練和評估

3.1 設置訓練流程

構建好模型後，經過調用 compile 方法配置該模型的學習流程：

model = tf.keras.Sequential()
model.add(layers.Dense(32, activation='relu'))
model.add(layers.Dense(32, activation='relu'))
model.add(layers.Dense(10, activation='softmax'))
model.compile(optimizer=tf.keras.optimizers.Adam(0.001),
 loss=tf.keras.losses.categorical_crossentropy,
 metrics=[tf.keras.metrics.categorical_accuracy])

3.2 輸入 Numpy 數據

import numpy as np
train_x = np.random.random((1000, 72))
train_y = np.random.random((1000, 10))
val_x = np.random.random((200, 72))
val_y = np.random.random((200, 10))
model.fit(train_x, train_y, epochs=10, batch_size=100,
 validation_data=(val_x, val_y))

3.3tf.data 輸入數據

dataset = tf.data.Dataset.from_tensor_slices((train_x, train_y))
dataset = dataset.batch(32)
dataset = dataset.repeat()
val_dataset = tf.data.Dataset.from_tensor_slices((val_x, val_y))
val_dataset = val_dataset.batch(32)
val_dataset = val_dataset.repeat()
model.fit(dataset, epochs=10, steps_per_epoch=30,
 validation_data=val_dataset, validation_steps=3)

3.4 評估與預測

test_x = np.random.random((1000, 72))
test_y = np.random.random((1000, 10))
model.evaluate(test_x, test_y, batch_size=32)
test_data = tf.data.Dataset.from_tensor_slices((test_x, test_y))
test_data = test_data.batch(32).repeat()
model.evaluate(test_data, steps=30)
# predict
result = model.predict(test_x, batch_size=32)
print(result)

4. 構建高級模型

4.1 函數式 api

tf.keras.Sequential 模型是層的簡單堆疊，沒法表示任意模型。使用 Keras 函數式 API 能夠構建複雜的模型拓撲，例如：

• 多輸入模型，
• 多輸出模型，
• 具備共享層的模型（同一層被調用屢次），
• 具備非序列數據流的模型（例如，殘差鏈接）。

 

使用函數式 API 構建的模型具備如下特徵：

• 層實例可調用並返回張量。
• 輸入張量和輸出張量用於定義 tf.keras.Model 實例。
• 此模型的訓練方式和 Sequential 模型同樣。

input_x = tf.keras.Input(shape=(72,))
hidden1 = layers.Dense(32, activation='relu')(input_x)
hidden2 = layers.Dense(16, activation='relu')(hidden1)
pred = layers.Dense(10, activation='softmax')(hidden2)
model = tf.keras.Model(inputs=input_x, outputs=pred)
model.compile(optimizer=tf.keras.optimizers.Adam(0.001),
 loss=tf.keras.losses.categorical_crossentropy,
 metrics=['accuracy'])
model.fit(train_x, train_y, batch_size=32, epochs=5)

 

4.2 模型子類化

經過對 tf.keras.Model 進行子類化並定義您本身的前向傳播來構建徹底可自定義的模型。在 init 方法中建立層並將它們設置爲類實例的屬性。在 call 方法中定義前向傳播

class MyModel(tf.keras.Model):
 def __init__(self, num_classes=10):
 super(MyModel, self).__init__(name='my_model')
 self.num_classes = num_classes
 self.layer1 = layers.Dense(32, activation='relu')
 self.layer2 = layers.Dense(num_classes, activation='softmax')
 def call(self, inputs):
 h1 = self.layer1(inputs)
 out = self.layer2(h1)
 return out
 def compute_output_shape(self, input_shape):
 shape = tf.TensorShapej(input_shape).as_list()
 shape[-1] = self.num_classes
 return tf.TensorShape(shape)
model = MyModel(num_classes=10)
model.compile(optimizer=tf.keras.optimizers.RMSprop(0.001),
 loss=tf.keras.losses.categorical_crossentropy,
 metrics=['accuracy'])
model.fit(train_x, train_y, batch_size=16, epochs=5)

 

4.3 自定義層

經過對 tf.keras.layers.Layer 進行子類化並實現如下方法來建立自定義層：

• build：建立層的權重。使用 add_weight 方法添加權重。
• call：定義前向傳播。
• compute_output_shape：指定在給定輸入形狀的狀況下如何計算層的輸出形狀。或者，能夠經過實現 get_config 方法和 from_config 類方法序列化層。

 

class MyLayer(layers.Layer):
 def __init__(self, output_dim, **kwargs):
 self.output_dim = output_dim
 super(MyLayer, self).__init__(**kwargs)
 def build(self, input_shape):
 shape = tf.TensorShape((input_shape[1], self.output_dim))
 self.kernel = self.add_weight(name='kernel1', shape=shape,
 initializer='uniform', trainable=True)
 super(MyLayer, self).build(input_shape)
 def call(self, inputs):
 return tf.matmul(inputs, self.kernel)
 def compute_output_shape(self, input_shape):
 shape = tf.TensorShape(input_shape).as_list()
 shape[-1] = self.output_dim
 return tf.TensorShape(shape)
 def get_config(self):
 base_config = super(MyLayer, self).get_config()
 base_config['output_dim'] = self.output_dim
 return base_config
 @classmethod
 def from_config(cls, config):
 return cls(**config)
model = tf.keras.Sequential(
[
 MyLayer(10),
 layers.Activation('softmax')
])
model.compile(optimizer=tf.keras.optimizers.RMSprop(0.001),
 loss=tf.keras.losses.categorical_crossentropy,
 metrics=['accuracy'])
model.fit(train_x, train_y, batch_size=16, epochs=5)

 

4.4 回調

callbacks = [
 tf.keras.callbacks.EarlyStopping(patience=2, monitor='val_loss'),
 tf.keras.callbacks.TensorBoard(log_dir='./logs')
]
model.fit(train_x, train_y, batch_size=16, epochs=5,
 callbacks=callbacks, validation_data=(val_x, val_y))

 

5 保持和恢復

5.1 權重保存

model = tf.keras.Sequential([
layers.Dense(64, activation='relu'),
layers.Dense(10, activation='softmax')])
model.compile(optimizer=tf.keras.optimizers.Adam(0.001),
 loss='categorical_crossentropy',
 metrics=['accuracy'])
model.save_weights('./weights/model')
model.load_weights('./weights/model')
model.save_weights('./model.h5')
model.load_weights('./model.h5')

 

5.2 保存網絡結構

# 序列化成json
import json
import pprint
json_str = model.to_json()
pprint.pprint(json.loads(json_str))
fresh_model = tf.keras.models.model_from_json(json_str)
# 保持爲yaml格式 #須要提早安裝pyyaml
yaml_str = model.to_yaml()
print(yaml_str)
fresh_model = tf.keras.models.model_from_yaml(yaml_str)

 

5.3 保存整個模型

model = tf.keras.Sequential([
 layers.Dense(10, activation='softmax', input_shape=(72,)),
 layers.Dense(10, activation='softmax')
])
model.compile(optimizer='rmsprop',
 loss='categorical_crossentropy',
 metrics=['accuracy'])
model.fit(train_x, train_y, batch_size=32, epochs=5)
model.save('all_model.h5')
model = tf.keras.models.load_model('all_model.h5')

 

6. 將 keras 用於 Estimator

Estimator API 用於針對分佈式環境訓練模型。它適用於一些行業使用場景，例如用大型數據集進行分佈式訓練並導出模型以用於生產

model = tf.keras.Sequential([layers.Dense(10,activation='softmax'), layers.Dense(10,activation='softmax')])model.compile(optimizer=tf.keras.optimizers.RMSprop(0.001), loss='categorical_crossentropy', metrics=['accuracy'])estimator = tf.keras.estimator.model_to_estimator(model)