神经网络因其学习复杂模式的能力而被广泛用于图像识别任务,本案例研究探索了执行过程,包括培训用于图像分类的神经网络时涉及的详细计算.

设计神经网络

网络由输入层,隐藏层,输出层组成,为简单起见,考虑一个以图像为代表的小型数据集,每个图像以4像素为代表,输入层有4个神经元,隐藏层有3个神经元,输出层有2个神经元代表两个类.

初始重量和比喻

重量是随机初始化的。例如,输入和隐藏层之间的加权是:

  • W11 =0.2
  • W12 = -0.3
  • W13 =0.4
  • W21=-0.5
  • W22 =0.1
  • W23= -0.2
  • W31=0.3
  • W32= -0.4 ⁇
  • W33=0.2

双子体最初被设定为零,以简单化.

预发和计算

鉴于一个输入图像带有像素值[0.5,0.2,0.1,0.7],隐藏层输入计算为:

H1]=(0.5)(0.2)+(0.2(-0.3)+(0.1)(0.4)=0.1 - 0.06+0.04=0.08)

H2 =(0.5)(-0.5)+(0.2(0.1)+(0.1)(-0.2)=-0.25+0.02-0.02=-0.25)

H3 ]=(0.5)(0.3)+(0.2(-0.4)+(0.1)(0.2)=0.15 - 0.08+0.02=0.09)

应用激活函数,例如 sigmoid, 隐藏层输出为:

O]H1=1/(1+e]-0.08) ⁇ 0.52

O]H2=1 / (1+e]0.25 ) ⁇ 0.43

OH3=1/(1+e]-0.09) ⁇ 0.52

然后,产出被用作产出层的投入,在计算类概率时,加权也采用类似方法。

计算错误和更新重量

如果真正的类是第1类, 表示为 [1, 0]。 输出层计算 :

O1 ]=1 / (1+e]-z1 ]).

Z1]为隐藏输出的加权和。该错误的计算方式为:

损失=0.5 *(目标-产出)2

使用梯度降,加权根据误差和学习率更新,例如0.1.

计算摘要

这个过程重复多个纪元,调整权重以提高准确性. 详细计算涉及矩阵乘法,激活函数,以及错误衍生,这对有效训练神经网络至关重要.