マイコン君　Ｅ資格の勉強メモ

（第３回）ニューラルネットワークについて

活性化関数では、入力と出力がつながっていましたが、ニューラルネットワークは数層あります。今回は３層のニューラルネットワークを作成して、入力から出力まで計算します。

＜構成＞

２次元の入力層から、第１層目（３次元）、第２層目（２次元）、出力層（２次元）の構成のニューラルネットワークです。

＜計算式＞

各層の伝達の計算は次のとおりになります。入力の総和のａはシグモイド関数で変換を行い、ｚに出力されています。重みｗとバイアスｂは、行列の積を行うため、対応する次元の要素数に一致させます。

＜入力層→第１層＞

実際に計算をします。ｘとｗ、ｂは既知のデータになります。ａの出力は、行列の計算を行い、シグモイド変換を行い、第１層目の出力として、ｚが得られます。

＜第１層→第２層＞

第１層の出力ｚとｗ、ｂを計算します。第１層と同様に、ｚを得ます。

＜第２層→出力層＞

出力層を計算しますが、ａは何もせず、ｚを出力させています。（＝恒等関数）

＜Ｐｙｔｈｏｎで計算＞

実際にこの式をＰｙｔｈｏｎで計算すると以下のようになります。

import numpy as np

def sigmoid(x):
    return 1/(1+np.exp(-x))
print('ニューラルネットワーク計算')
print('入力層→第１層')
x=[1,2]
w1=[0.2,0.6,1.0],[0.4,0.8,1.2]
b1=[0.3,0.6,0.9]

a1=np.dot(x,w1)+b1
print(a1)
z1=sigmoid(a1)
print(z1)

print('第１層→第２層')

w2=[0.3,0.1],[0.6,0.2],[0.9,0.3]
b2=[0.2,0.4]

a2=np.dot(z1,w2)+b2
print(a2)
z2=sigmoid(a2)
print(z2)

print('第２層→出力層')

w3=[0.1,0.3],[0.2,0.4]
b3=[0.1,0.2]

a3=np.dot(z2,w3)+b3
z3=a3
print(a3)
print(z3)

結果は次の通りになります。手で計算した結果と同じ結果を示しています。

ニューラルネットワーク計算
入力層→第１層
[1.3 2.8 4.3]
[0.78583498 0.94267582 0.98661308]
第１層→第２層
[1.88930776 0.96310259]
[0.86867658 0.72374256]
第２層→出力層
[0.33161617 0.7501    ]
[0.33161617 0.7501    ]

単純なニューラルネットワークですが、実際に手で計算して、Ｐｙｈｔｏｎでも計算してみると、理解が深まります。

－－－－－－－－－－－－－