Keras を使ってみる（TensorFlow, Keras, Python を使用）

前準備

Python のインストール，pip と setuptools の更新，Python 開発環境のインストール

Windows の場合

1. Python のインストール

   Python の URL: http://www.python.org/

   インストール手順の詳細は： 別ページで説明している．

2. pip と setuptools の更新，Python 開発環境（JupyterLab, spyder, nteract）のインストール（Ubuntu 上）

   コマンドプロンプトを管理者として実行し，次のコマンドを実行．

   python -m pip install -U pip setuptools
   python -m pip install -U jupyterlab jupyter jupyter-console jupytext nteract_on_jupyter spyder
   

Ubuntu の場合

システム Python を使用（インストール操作は不要）

1. pip と setuptools の更新，Python 開発環境（JupyterLab, spyder, nteract）のインストール（Ubuntu 上）

   端末で，次のコマンドを実行．

   sudo apt -y install python3-dev python3-pip python3-setuptools
   sudo pip3 uninstall ptyprocess sniffio terminado tornado jupyterlab jupyter jupyter-console jupytext nteract_on_jupyter spyder
   sudo apt -y install jupyter jupyter-qtconsole spyder3
   sudo apt -y install python3-ptyprocess python3-sniffio python3-terminado python3-tornado 
   sudo pip3 install jupyterlab nteract_on_jupyter
   

TensorFlow, Keras のインストール

• Windows でのインストール手順: 別ページで説明している．
• Ubuntu でのインストール手順: 別ページで説明している．

Keras を使ってみる

ここで使用する Python パッケージのインストール

Windows での手順を示す．Ubuntu でも同様の手順になる．

1. Windows では，コマンドプロンプトを管理者として実行．
   
2. ここで使用するパッケージのインストール ※ Windows では「python -m pip install」，Ubuntu では「sudo python3 -m pip」

   python -m pip install -U numpy scipy h5py scikit-learn matplotlib seaborn
   

Python 処理系の起動

Python 処理系として，Jupyter Qt Console を起動

jupyter qtconsole

ここから先は，Jupyter Qt Console の画面で説明する．

iris データセットを使ってみる

1. X, y に iris データを設定

   次の Python プログラムを実行

   import sklearn.datasets
   iris = sklearn.datasets.load_iris()
   X = iris.data
   y = iris.target
   

   
2. x_train, y_train, x_test, y_test の確認表示

   x_train, x_test は主成分分析で２次元にマッピング， y_train, y_test は色．

   import pandas as pd
   import seaborn 
   import sklearn.decomposition
   # 主成分分析でプロット
   def pcaplot(A, b, alpha):
       pca = sklearn.decomposition.PCA(n_components=2)
       pca.fit(A)
       a12 = pd.DataFrame( pca.fit_transform(A), columns=['a1', 'a2'] )
       a12['target'] = b
       seaborn.lmplot(x='a1', y='a2', data=a12, hue='target', scatter_kws={'alpha': alpha}, fit_reg=False)
   pcaplot(X, y, 1)
   

   
3. x_train, y_train, x_test, y_test に iris データを設定
   • x_train, x_test: 数値ベクトルの集まり
   • y_train, y_test: カテゴリ

   次の Python プログラムを実行

   import keras
   x_train, x_test, y_train, y_test = sklearn.model_selection.train_test_split(X, y, train_size=0.5) 
   # 2次元の配列. 要素は float64, 最大値と最小値を用いて正規化
   import numpy as np
   def normalizer(A):
       M = np.reshape(A, (len(A), -1))
       M = M.astype('float32')
       max = M.max(axis=0)
       min = M.min(axis=0)
       return (M - min)/(max - min)
   x_train = normalizer(x_train)
   x_test = normalizer(x_test)
   y_train_logit = keras.utils.to_categorical(y_train)
   y_test_logit = keras.utils.to_categorical(y_test)
   

   
4. x_train, y_train, x_test, y_test の確認表示

   pcaplot(np.concatenate( (x_train, x_test) ), np.concatenate( (y_train, y_test) ), 1)
   

   
5. モデルの生成と，モデルを用いた予測
   • 入力層のニューロンの個数: 4
   • 隠れ層のニューロンの個数: 64
   • 出力のニューロンの個数: 3

   次の Python プログラムを実行

   from keras.models import Sequential
   model = Sequential()
   from keras.layers import Dense, Activation
   
   model.add(Dense(units=64, input_dim=len(x_train[0])))
   model.add(Activation('relu'))
   model.add(Dense(units=max(set(y_train)) - min(set(y_train)) + 1))
   model.add(Activation('softmax'))
   model.compile(loss='sparse_categorical_crossentropy',
                 optimizer='sgd',
                 metrics=['accuracy'])
   model.fit(x_train, y_train, epochs=200)
   score=model.evaluate(x_test, y_test, batch_size=1)
   print(score)
   model.predict(x_test)
   model.summary()
   

   
   

   from keras.models import Sequential
   model2 = Sequential()
   from keras.layers import Dense, Activation
   import keras.losses
   
   model2.add(Dense(units=64, input_dim=len(x_train[0])))
   model2.add(Activation('relu'))
   model2.add(Dense(units=max(set(y_train)) - min(set(y_train)) + 1))
   model2.add(Activation('softmax'))
   model2.compile(loss=keras.losses.sparse_categorical_crossentropy,
                 optimizer=keras.optimizers.SGD(lr=0.01, momentum=0.9, nesterov=True))
   model2.fit(x_train, y_train, epochs=200)
   score2=model2.evaluate(x_test, y_test, batch_size=1)
   print(score2)
   model2.predict(x_test)
   

   

CIFAR10

keras に付属のデータセットに関する Web ページ: https://keras.io/ja/datasets/

1. x_train, y_train, x_test, y_test に CIFAR 10 データを設定

   次の Python プログラムを実行

   from keras.datasets import cifar10
   (x_train, y_train), (x_test, y_test) = cifar10.load_data()
   
   import numpy as np
   # 2次元の配列. 要素は float32, 最大値と最小値を用いて正規化
   def normalizer(A):
       M = np.reshape(A, (len(A), -1))
       M = M.astype('float32')
       max = M.max(axis=0)
       min = M.min(axis=0)
       return (M - min)/(max - min)
   x_train = normalizer(x_train)
   x_test = normalizer(x_test)
   

   
2. x_train, y_train, x_test, y_test の確認表示

   x_train, x_test は主成分分析で２次元にマッピング， y_train, y_test は色．

   import pandas as pd
   import seaborn 
   import sklearn.decomposition
   
   # 主成分分析でプロット
   def pcaplot(A, b, alpha):
       pca = sklearn.decomposition.PCA(n_components=2)
       pca.fit(A)
       a12 = pd.DataFrame( pca.fit_transform(A), columns=['a1', 'a2'] )
       a12['target'] = b
       seaborn.lmplot(x='a1', y='a2', data=a12, hue='target', scatter_kws={'alpha': alpha}, fit_reg=False)
   pcaplot(np.concatenate( (x_train, x_test) ), np.concatenate( (y_train, y_test) ), 0.1)
   

   

参考Webページ http://www.procrasist.com/entry/2017/01/07/154441

https://keras.io/getting-started/sequential-model-guide/ で言及されている次の事項について．

• CIFAR10 small images classification: Convolutional Neural Network (CNN) with realtime data augmentation
• IMDB movie review sentiment classification: LSTM over sequences of words
• MNIST handwritten digits classification: MLP & CNN

https://github.com/fchollet/keras/tree/master/examples に記載のプログラムを動かしてみる．