一个县城广告公司利润/西安seo教程
《机器学习》Chapter 5 神经网络
1.神经元模型
神经元接收到来自n个其它神经元传递过来的输入信号，这些输入信号通过带权重的连接进行传递，神经元接收到的总输入值将与神经元的阈值进行比较，然后通过激活函数处理以产生神经元的输出。
2.感知机与多层网络
常见的神经网络每层神经元与下一层神经元全互联，神经元之间不存在同层连接，也不存在跨层连接，被称为多层前馈神经网络。其中输入层神经元接收外界输入，隐层与输入层神经元对信号进行加工，最终结果有输出层神经元输出。输出层神经元仅是接受输入，不进行函数处理，隐层与输出层包含功能神经元。
注：多层前馈神经网络中的“前馈”的含义并不意味着参数不往后传，是指网络拓扑结构上不存在环路或环。
3.误差逆传播算法（error Backpropagation, 简称 BP 算法）
算法中的相关参数的说明：
相关参数的计算方法（详细推导过程见《机器学习》P102-103）
Δvih=ηehxiΔv_{ih}=ηe_hx_i Δvih=ηehxi
y^jk=f(βi−θj)\hat{y}_{j}^{k}=f(\beta_i-\theta_j) y^jk=f(βi−θj)
gj=y^jk(1−y^jk)(yjk−y^jk)g_j=\hat{y}_{j}^{k}(1-\hat{y}_{j}^{k})(y_{j}^{k}-\hat{y}_{j}^{k}) gj=y^jk(1−y^jk)(yjk−y^jk)
eh=bh(1−bh)∑j=1lwhjgje_h=b_h(1-b_h)\sum_{j=1}^{l}w_{hj}g_j eh=bh(1−bh)j=1∑lwhjgj
Δwhj=ηgjbhΔw_{hj}=ηg_jb_h Δwhj=ηgjbh
Δθj=−ηgjΔ\theta_j=−ηg_j Δθj=−ηgj
Δγh=−ηehΔγ_h=−ηe_h Δγh=−ηeh
BP算法的训练流程如下：
