今回は、作成した学習済みモデルをpickleを使って保存・ロードしてみます。
作成した機械学習モデルは、何もしなければそのプログラムが実行終了するとともにメモリから揮発してしまいます。そのため再度モデルを利用したい場合は、もう一度最初からプログラムを実行して学習モデルを作成する必要があるわけです。
とは言え、学習モデルの作成は場合によっては何時間もかけて行うため、モデルを利用するごとに毎回モデル作成を実行していたのでは割に合いません。よって、一度作成したモデルはどこかに保存するなりして永続化しておき、利用するときに読み込むという運用ならモデルの再作成という余計な処理をしなくて済みます。また、モデル間の予測結果を比較したい場合などは、バージョンごとにモデルを保存しておきたい、というニーズもあるかもしれません。
こういうケースにおいて、モデルの保存に利用するのがpickleです。Pythonの標準ライブラリなので追加インストールする必要はありません。
ちなみにもう少し正確に言うと、pickleは学習モデルを保存するためだけのモジュールではありません。もともとの目的は、Pythonのオブジェクトをバイト列などの直列化・非直列化するためのモジュールです。よって、学習モデルに限らずPythonにおけるオブジェクトなら扱えます。学習モデルの永続化以外の用途だと、巨大なデータを読み込んだ結果をpickleで保存しておき、再度利用する際のデータ読み込み負荷を軽減するためなどに利用するケースがあります。
なお、「pickle」の複数形は「pickles」。つまりピクルスのことで、直列化されたデータについて「長期保存できる漬物」という見方をしているのですね。
# python --version
Python 3.8.5上記の環境で実行しました。Pythonのバージョンは、事前に確認しておいてください。
なぜそんな必要があるかというと、Pythonのバージョンに依ってpickleが生成するデータ形式の内容は微妙に異なるからです。正確に言えば、プロトコルのバージョンが異なります。
Python3.8以降の環境において、直列化の際にプロトコルを指定しないのなら、作成されたデータのプロトコルバージョンは4になります。こいつは、たとえばPython2系ではロードできません。Python2系がロードできるのは、プロトコルのバージョンが2であるデータだけです。よって、Pythonのバージョンが異なる環境をまたいでpickleを利用したい場合は、出力時のプロトコルを実行環境に対応したバージョンで指定しておく必要があるわけです。詳細はこちらを参照してください。
なお、今回は直列化・非直列化で同じバージョンのPythonを利用するため、プロトコルの指定は行っていません。
試しにちょっとした学習モデルを作成してみましょう。ここではおなじみのirisデータを用いて、学習モデルを作成し永続化してみます。
import pickle
from sklearn import datasets
from sklearn.ensemble import RandomForestClassifier
from sklearn.model_selection import train_test_split
iris = datasets.load_iris()
X_train, X_test, y_train, y_test = train_test_split(iris['data'], iris['target'], random_state=0)
model = RandomForestClassifier(n_estimators=5, criterion='entropy', max_depth=3, random_state=3)
print(model)
model.fit(X_train, y_train)
pred = model.predict(X_test)
accuracy = model.score(X_test, y_test)
print('accuracy {0:.2%}'.format(accuracy))
with open('model.pickle', 'wb') as f:
pickle.dump(model, f)モデリングのアルゴリズムはRandom Forestを利用しました。とくに意味はありません。手癖です。
RandomForestClassifier(criterion='entropy', max_depth=3, n_estimators=5,
random_state=3)
accuracy 92.11%実行結果は上記のようになります。この学習モデルは、model.pickleという名前で保存されました。
今度は、保存したモデルを読み込んで再度実行してみます。
import pickle
from sklearn import datasets
from sklearn.model_selection import train_test_split
with open('model.pickle', 'rb') as f:
model = pickle.load(f)
print(model)
iris = datasets.load_iris()
_, X_test, _, y_test = train_test_split(iris['data'], iris['target'], random_state=0)
pickle_accuracy = model.score(X_test, y_test)
print('accuracy : {0:.2%}'.format(pickle_accuracy))今度は、保存されたモデルであるmode.pickleを読み込んで実行してみます。モデルはロードしただけで手を加えていないので、同じ実行結果になるはずです。
RandomForestClassifier(criterion='entropy', max_depth=3, n_estimators=5,
random_state=3)
accuracy : 92.11%モデルを読み込んで同じデータを利用し予測を行ったところ、モデル保存時と同様の結果が出力されました。これで、モデルの外部保存とロードができるようになりました。
pickle.load()は読み込むデータについて、特段のチェック機構などを持っていません。つまり、完全に信用しきって読み込みます。よって、仮にシステムに対し害を与えるような内容が保存されていたとしても、それを確認したり防ぐような機能はありません。つまり、脆弱性となってしまうわけです。よって、信用できるデータ以外は絶対にロードしてはいけません。
モデルの作成はマシンスペックに物言わせれば多かれ少なかれ短縮できますが、だからって実行のたびに作成していては大変なリソースのムダです。pickleを使ってムダを省きつつ快適なモデルの取り回しを実現してみましょう。