機械学習-MNIST（プログラム） - AI人工知能テクノロジー

ソースコード

MNIST For ML Beginnerでのソースコードです。

MNISTの概要を知りたい場合は以下の記事を参照してください

https://newtechnologylifestyle.net/%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92-mnist%EF%BC%88%E6%A6%82%E8%A6%81%EF%BC%89/

機械学習-MNIST（概要）TelsorFlowの公式サイトにあるMNISTについての概要を説明します。MNISTは機械学習のHello Worldと呼ばれており、機械学習の最初のステップとなります。MNIST For ML Beginnershttps://www.tensorflow.org/versions/r1.1/get_started/mnist/beg...

from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)

import tensorflow as tf

x = tf.placeholder(tf.float32, [None, 784])
W = tf.Variable(tf.zeros([784, 10]))
b = tf.Variable(tf.zeros([10]))
y = tf.nn.softmax(tf.matmul(x, W) + b)
y_ = tf.placeholder(tf.float32, [None, 10])

cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))
train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

init = tf.global_variables_initializer()

sess = tf.Session()
sess.run(init)

for i in range(1000):
  batch_xs, batch_ys = mnist.train.next_batch(100)
  sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})

correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))

accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

print(sess.run(accuracy, feed_dict={x: mnist.test.images, y_: mnist.test.labels}))

from tensorflow.examples.tutorials.mnist import input_data

mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)

import tensorflow as tf

x = tf.placeholder(tf.float32, [None, 784])

W = tf.Variable(tf.zeros([784, 10]))

b = tf.Variable(tf.zeros([10]))

y = tf.nn.softmax(tf.matmul(x, W) + b)

y_ = tf.placeholder(tf.float32, [None, 10])

cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))

train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

init = tf.global_variables_initializer()

sess = tf.Session()

sess.run(init)

for i in range(1000):

batch_xs, batch_ys = mnist.train.next_batch(100)

sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})

correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))

accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

print(sess.run(accuracy, feed_dict={x: mnist.test.images, y_: mnist.test.labels}))

ソースコードの詳細

準備作業

from tensorflow.examples.tutorials.mnist import input_data
mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)

1 2	from tensorflow.examples.tutorials.mnist import input_data mnist = input_data.read_data_sets("MNIST_data/", one_hot=True)

TensorflowのサンプルからMNISTのデータをインポートしMNIST_dataディレクトリ配下に格納しています。one_hot=Trueを指定しており、既に存在する場合は何もしません。

import tensorflow as tf

1	import tensorflow as tf

Tensorflowをインポートし、別名としてtfと定義しています。

x = tf.placeholder(tf.float32, [None, 784])
W = tf.Variable(tf.zeros([784, 10]))
b = tf.Variable(tf.zeros([10]))

x = tf.placeholder(tf.float32, [None, 784])

W = tf.Variable(tf.zeros([784, 10]))

b = tf.Variable(tf.zeros([10]))

入力データ、重み、バイアス用の配列を取得しています。
x：入力データ (1文字を表す画像データ高さ（28）×幅（28）の784byte分)
w：:重み (1文字を表す画像データ高さ（28）×幅（28）の784byte分)。初期値を0に設定しています。
b:バイアス(0～9までに相当する10byte分)。初期値を0に設定しています。

y = tf.nn.softmax(tf.matmul(x, W) + b)

1	y = tf.nn.softmax(tf.matmul(x, W) + b)

正解値の確率(y)の計算方法を定義しています。
計算方法は入力データ（x）に重み(w)を掛け合わせ、バイアス(b)を足したものをソフトマックス関数(softmax)に入力した結果としています。

softmax-regression-vectorequation

y_ = tf.placeholder(tf.float32, [None, 10])

1	y_ = tf.placeholder(tf.float32, [None, 10])

正解データのラベル用の配列を取得しています。
y_:正解データ(0～9までに相当する10byte分)。初期値を0に設定しています。

cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1]))
train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

1 2	cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y), reduction_indices=[1])) train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

勾配硬化法を用い交差エントロピーが最小となるようを最適化する定義をしています。

init = tf.global_variables_initializer()

1	init = tf.global_variables_initializer()

用意した変数Veriableの初期化を実行します。

教師あり学習

sess = tf.Session()
sess.run(init)

1 2	sess = tf.Session() sess.run(init)

Sessionを開始しています。

for i in range(1000):
  batch_xs, batch_ys = mnist.train.next_batch(100)
  sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})

for i in range(1000):

batch_xs, batch_ys = mnist.train.next_batch(100)

sess.run(train_step, feed_dict={x: batch_xs, y_: batch_ys})

1000回の訓練（train_step）の実行
next_batch(100)で100つのランダムな訓練セット（画像と対応するラベル）を選択しています。

評価の実行

correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))

1	correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))

# 計算された画像がどの数字であるかの予測yと正解ラベルy_を比較する定義を行っています。
# 正解であればTrueが返却されます。

accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

1	accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

# 精度の計算の定義をしています。

print(sess.run(accuracy, feed_dict={x: mnist.test.images, y_: mnist.test.labels}))

1	print(sess.run(accuracy, feed_dict={x: mnist.test.images, y_: mnist.test.labels}))

0.9176

0.9176

評価の実行をします。その結果の正解率の表示をします。約92%の正答率ということが分かります。