tf.keras 實(shí)現(xiàn)深度學(xué)習(xí)

tf.keras是TensorFlow 2.0的高階API接口，為TensorFlow的代碼提供了新的風(fēng)格和設(shè)計(jì)模式，大大提升了TF代碼的簡潔性和復(fù)用性，官方也推薦使用tf.keras來進(jìn)行模型設(shè)計(jì)和開發(fā)。

常用模塊

tf.keras中常用模塊如下表所示：

常用方法

深度學(xué)習(xí)實(shí)現(xiàn)的主要流程：1.數(shù)據(jù)獲取，2，數(shù)據(jù)處理，3.模型創(chuàng)建與訓(xùn)練，4 模型測試與評估，5.模型預(yù)測。

1.導(dǎo)入tf.keras

使用 tf.keras，首先需要在代碼開始時導(dǎo)入tf.keras。

import tensorflow as tf
from tensorflow import keras

2.數(shù)據(jù)輸入

對于小的數(shù)據(jù)集，可以直接使用numpy格式的數(shù)據(jù)進(jìn)行訓(xùn)練、評估模型，對于大型數(shù)據(jù)集或者要進(jìn)行跨設(shè)備訓(xùn)練時使用tf.data.datasets來進(jìn)行數(shù)據(jù)輸入。

3.模型構(gòu)建

• 簡單模型使用Sequential進(jìn)行構(gòu)建
• 復(fù)雜模型使用函數(shù)式編程來構(gòu)建
• 自定義layers

4.訓(xùn)練與評估

• 配置訓(xùn)練過程：

# 配置優(yōu)化方法，損失函數(shù)和評價(jià)指標(biāo)
model.compile(optimizer=tf.train.AdamOptimizer(0.001),
              loss='categorical_crossentropy',
              metrics=['accuracy'])

模型訓(xùn)練:

# 指明訓(xùn)練數(shù)據(jù)集，訓(xùn)練epoch,批次大小和驗(yàn)證集數(shù)據(jù)model.fit/fit_generator(dataset, epochs=10, 
                        batch_size=3,
          validation_data=val_dataset,
          )

模型評估：

# 指明評估數(shù)據(jù)集和批次大小
model.evaluate(x, y, batch_size=32)

模型預(yù)測：

# 對新的樣本進(jìn)行預(yù)測
model.predict(x, batch_size=32)

5.回調(diào)函數(shù)(callbacks)

回調(diào)函數(shù)用在模型訓(xùn)練過程中，來控制模型訓(xùn)練行為，可以自定義回調(diào)函數(shù)，也可使用tf.keras.callbacks 內(nèi)置的 callback ：

ModelCheckpoint：定期保存 checkpoints。 LearningRateScheduler：動態(tài)改變學(xué)習(xí)速率。 EarlyStopping：當(dāng)驗(yàn)證集上的性能不再提高時，終止訓(xùn)練。 TensorBoard：使用 TensorBoard 監(jiān)測模型的狀態(tài)。

6.模型的保存和恢復(fù)

只保存參數(shù):

# 只保存模型的權(quán)重
model.save_weights('./my_model')
# 加載模型的權(quán)重
model.load_weights('my_model')

# 保存模型架構(gòu)與權(quán)重在h5文件中
model.save('my_model.h5')
# 加載模型：包括架構(gòu)和對應(yīng)的權(quán)重
model = keras.models.load_model('my_model.h5')