目录标题
- 前置了解(权重矩阵的行,列由来)
- 一、第一层
- 二、第二层
- 三、第三层
- 四、代码实现
前置了解(权重矩阵的行,列由来)
A*B
A的列 就是和 B 的行 对应
一、第一层
这W 就是 行就是代表前一层有几个节点,有几列就是代表当前层有几个节点。(每个节点都是二维矩阵,这里是对W 进行转置)
二、第二层
三、第三层
四、代码实现
代码引入激活函数在 blog:
深度学习2:激活函数(ReLU,softmax和恒等函数)及激活函数的最终选择
fromcommon.functionsimportsigmoid,identityimportnumpyasnp#初始化网络definit_network():network={}# 第一层参数network['W1']=np.array([[0.1,0.3,0.5],[0.2,0.4,0.6]])network['b1']=np.array([0.1,0.2,0.3])# 第二层参数network['W2']=np.array([[0.1,0.4],[0.2,0.5],[0.3,0.6]])network['b2']=np.array([0.1,0.2])# 第三层参数network['W3']=np.array([[0.1,0.3],[0.2,0.4]])network['b3']=np.array([0.1,0.2])returnnetwork#前向传播defforward(network,x):W1,W2,W3=network['W1'],network['W2'],network['W3']b1,b2,b3=network['b1'],network['b2'],network['b3']a1=np.dot(x,W1)+b1 z1=sigmoid(a1)a2=np.dot(z1,W2)+b2 z2=sigmoid(a2)a3=np.dot(z2,W3)+b3 y=identity(a3)returny#测试主流程network=init_network()#定义数据x=np.array([1.0,0.5])#前向传播(预测)y=forward(network,x)print(y)