Table of Contents
神経ネットワークは、複雑なパターンを学ぶ能力のために、画像認識タスクで広く使用されています。 このケーススタディでは、画像分類のためのニューラルネットワークのトレーニングに関与する詳細な計算を含む、実装プロセスを探索します。
神経ネットワークの設計
ネットワークは入力層、隠し層、出力層で構成されます。単純性のために、それぞれ4ピクセルで表される画像で小さなデータセットを検討してください。入力層は4つのニューロンを持ち、隠し層は3つのニューロンを持ち、出力層は2つのクラスを表す2つのニューロンを持っています。
初期重量とバイアス
重量はランダムに初期化されます。例えば、入力と非表示レイヤーの間の重量は、次のようになります。
- W11] = 0.2
- W12] = -0.3
- W13] = 0.4
- W21] = -0.5
- W22] = 0.1
- W]23 = -0.2
- W31] = 0.3
- W32] = -0.4
- W33] = 0.2
シンプルさを初期にゼロに設定します。
伝播と計算のフォワード
ピクセル値[0.5、0.2、0.1、0.7]で入力イメージを付与し、隠しレイヤー入力を次のように計算します。
寸法: 縦: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横:
H[2] = (0.5)(-0.5) + (0.1)(-0.2) = -0.25 + 0.02 - 0.02 = -0.25
寸法: 40°C 0.15mm 0.15mm 0.15mm 0.15mm 0.15mm 0.15mm 0.15mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 以上 0.25mm 以上 0.7mm 以上
sigmoidのような活発化機能、隠された層の出力を適用することはあります:
外径: 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 3 / 3 / 3 / 3 / 4 / 5 / 3 / 4 / 5 / 6 / 3 / 4 / 5 / 6 / 7 / 8 / 9 / 10 / 3 / 4 / 5 / 6 / 7 / 8 / 9 / 9 / 10 / 6 / 7 / 8 / 9 / 9 / 8 / 9 / 9 / 10 / 6 / 6 / 9 / 8 / 9 / 9 / 10 / 12 / 12 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3
外径: 1 / 1 / 1 / 1 / 1 / 1 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 4 / 5 / 3 / 4 / 5 / 6 / 3 / 4 / 5 / 6 / 7 / 8 / 9 / 3 / 4 / 5 / 6 / 7 / 6 / 7 / 6 / 7 / 8 / 9 / 9 / 6 / 7 / 8 / 9 / 9 / 8 / 9 / 9 / 9 / 9 / 6 / 9 / 8 / 9 / 9 / 9 / 9 / 9 / 9 / 9 / 10 / 9 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3
外径: 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 3 / 3 / 3 / 3 / 4 / 5 / 3 / 4 / 5 / 6 / 3 / 4 / 5 / 6 / 7 / 6 / 7 / 8 / 9 / 3 / 4 / 6 / 7 / 8 / 9 / 9 / 9 / 10 / 6 / 7 / 8 / 9 / 9 / 8 / 9 / 9 / 9 / 10 / 6 / 9 / 8 / 9 / 9 / 9 / 10 / 12 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3
出力は、出力層に入力すると同時に、重量が同等に計算クラス確率に適応する。
誤差の計算と重量のの更新
真のクラスはクラス1で、[1, 0]と表されます。出力層は次のように計算します。
〔]1=1 /(1 + e])-z1])
z]1が隠されている出力の重みのある合計である場合。 エラーは次のように計算されます。
損失 = 0.5 * (ターゲット - 出力)]2]
勾配降下を使用して、例えば0.1などのエラーと学習率に基づいて重量が更新されます。
計算のまとめ
このプロセスは、複数のエポックを繰り返します, 精度を向上させるために重量を調整します. 詳細な計算には、マトリックスの乗算を含みます, 活性化機能, エラーの派生物, 効果的に神経ネットワークを訓練するために不可欠です.