神経ネットワークは、複雑なパターンを学ぶ能力のために、画像認識タスクで広く使用されています。 このケーススタディでは、画像分類のためのニューラルネットワークのトレーニングに関与する詳細な計算を含む、実装プロセスを探索します。

神経ネットワークの設計

ネットワークは入力層、隠し層、出力層で構成されます。単純性のために、それぞれ4ピクセルで表される画像で小さなデータセットを検討してください。入力層は4つのニューロンを持ち、隠し層は3つのニューロンを持ち、出力層は2つのクラスを表す2つのニューロンを持っています。

初期重量とバイアス

重量はランダムに初期化されます。例えば、入力と非表示レイヤーの間の重量は、次のようになります。

  • W11] = 0.2
  • W12] = -0.3
  • W13] = 0.4
  • W21] = -0.5
  • W22] = 0.1
  • W]23 = -0.2
  • W31] = 0.3
  • W32] = -0.4
  • W33] = 0.2

シンプルさを初期にゼロに設定します。

伝播と計算のフォワード

ピクセル値[0.5、0.2、0.1、0.7]で入力イメージを付与し、隠しレイヤー入力を次のように計算します。

寸法: 縦: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横: 横:

H[2] = (0.5)(-0.5) + (0.1)(-0.2) = -0.25 + 0.02 - 0.02 = -0.25

寸法: 40°C 0.15mm 0.15mm 0.15mm 0.15mm 0.15mm 0.15mm 0.15mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 0.25mm 以上 0.25mm 以上 0.7mm 以上

sigmoidのような活発化機能、隠された層の出力を適用することはあります:

外径: 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 3 / 3 / 3 / 3 / 4 / 5 / 3 / 4 / 5 / 6 / 3 / 4 / 5 / 6 / 7 / 8 / 9 / 10 / 3 / 4 / 5 / 6 / 7 / 8 / 9 / 9 / 10 / 6 / 7 / 8 / 9 / 9 / 8 / 9 / 9 / 10 / 6 / 6 / 9 / 8 / 9 / 9 / 10 / 12 / 12 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3

外径: 1 / 1 / 1 / 1 / 1 / 1 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 4 / 5 / 3 / 4 / 5 / 6 / 3 / 4 / 5 / 6 / 7 / 8 / 9 / 3 / 4 / 5 / 6 / 7 / 6 / 7 / 6 / 7 / 8 / 9 / 9 / 6 / 7 / 8 / 9 / 9 / 8 / 9 / 9 / 9 / 9 / 6 / 9 / 8 / 9 / 9 / 9 / 9 / 9 / 9 / 9 / 10 / 9 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3

外径: 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 1 / 3 / 3 / 3 / 3 / 4 / 5 / 3 / 4 / 5 / 6 / 3 / 4 / 5 / 6 / 7 / 6 / 7 / 8 / 9 / 3 / 4 / 6 / 7 / 8 / 9 / 9 / 9 / 10 / 6 / 7 / 8 / 9 / 9 / 8 / 9 / 9 / 9 / 10 / 6 / 9 / 8 / 9 / 9 / 9 / 10 / 12 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3 / 3

出力は、出力層に入力すると同時に、重量が同等に計算クラス確率に適応する。

誤差の計算と重量のの更新

真のクラスはクラス1で、[1, 0]と表されます。出力層は次のように計算します。

]1=1 /(1 + e])-z1])

z]1が隠されている出力の重みのある合計である場合。 エラーは次のように計算されます。

損失 = 0.5 * (ターゲット - 出力)]2]

勾配降下を使用して、例えば0.1などのエラーと学習率に基づいて重量が更新されます。

計算のまとめ

このプロセスは、複数のエポックを繰り返します, 精度を向上させるために重量を調整します. 詳細な計算には、マトリックスの乗算を含みます, 活性化機能, エラーの派生物, 効果的に神経ネットワークを訓練するために不可欠です.