Table of Contents
神经网络因其学习复杂模式的能力而被广泛用于图像识别任务,本案例研究探索了执行过程,包括培训用于图像分类的神经网络时涉及的详细计算.
设计神经网络
网络由输入层,隐藏层,输出层组成,为简单起见,考虑一个以图像为代表的小型数据集,每个图像以4像素为代表,输入层有4个神经元,隐藏层有3个神经元,输出层有2个神经元代表两个类.
初始重量和比喻
重量是随机初始化的。例如,输入和隐藏层之间的加权是:
- W11 =0.2
- W12 = -0.3
- W13 =0.4
- W21=-0.5
- W22 =0.1
- W23= -0.2
- W31=0.3
- W32= -0.4 ⁇
- W33=0.2
双子体最初被设定为零,以简单化.
预发和计算
鉴于一个输入图像带有像素值[0.5,0.2,0.1,0.7],隐藏层输入计算为:
H1]=(0.5)(0.2)+(0.2(-0.3)+(0.1)(0.4)=0.1 - 0.06+0.04=0.08)
H2 =(0.5)(-0.5)+(0.2(0.1)+(0.1)(-0.2)=-0.25+0.02-0.02=-0.25)
H3 ]=(0.5)(0.3)+(0.2(-0.4)+(0.1)(0.2)=0.15 - 0.08+0.02=0.09)
应用激活函数,例如 sigmoid, 隐藏层输出为:
O]H1=1/(1+e]-0.08) ⁇ 0.52
O]H2=1 / (1+e]0.25 ) ⁇ 0.43
OH3=1/(1+e]-0.09) ⁇ 0.52
然后,产出被用作产出层的投入,在计算类概率时,加权也采用类似方法。
计算错误和更新重量
如果真正的类是第1类, 表示为 [1, 0]。 输出层计算 :
O1 ]=1 / (1+e]-z1 ]).
Z1]为隐藏输出的加权和。该错误的计算方式为:
损失=0.5 *(目标-产出)2
使用梯度降,加权根据误差和学习率更新,例如0.1.
计算摘要
这个过程重复多个纪元,调整权重以提高准确性. 详细计算涉及矩阵乘法,激活函数,以及错误衍生,这对有效训练神经网络至关重要.