B-P神经网络算法-理论详解+应用实例

B-P(Back Propagation)神经网络算法

——即反向传播算法

0.

算法目的:根据实际的输入与输出数据,计算模型参数(权系数)。

1. 简单的B-P算法

假设有P个训练样本,即有P个输入输出对(Ip, Tp),p=1,…,P, 其中:

输入向量为: Ip(ip1,...,ipm)T

目标输出向量(实际输出)为: Tp(tp1,...,tpn) 网络算法输出向量(理论上)为: Op(op1,...,opn)

TT

记wij为从输入向量的第j (j=1,…,m) 个分量到输出向量的第i (i=1,…,n)个分量的权重。通常理论值与实际值有一误差,网络学习则是指不断地把Op与Tp比较,并根据极小原则修改参数wij,使误差平方和达最小,即:

min(tpiopi)2, (p=1,…,P) (2)

i1

n

 Delta学习规则:

记wij表示递推一次的修改量,则有

wijwijwij (3) wij

η(t

p1

P

pi

opi)ipj

ηδ

p1

P

pipj

i (4)

δpi

tpiopi

η称为学习的速率。

注:由(1) 式,第i个神经元的输出可表示为

opif(wijipj), (5)

j1

m

其中,ipm= -1 , wim= (第i个神经元的阈值)。特别当f是线性函数时

opia(wijipj)b (6)

j1

m

定理:按上面描述的神经网络,设其中每个神经元都是线性的,取训练指标为

B-P(Back Propagation)神经网络算法

——即反向传播算法

0.

算法目的:根据实际的输入与输出数据,计算模型参数(权系数)。

1. 简单的B-P算法

假设有P个训练样本,即有P个输入输出对(Ip, Tp),p=1,…,P, 其中:

输入向量为: Ip(ip1,...,ipm)T

目标输出向量(实际输出)为: Tp(tp1,...,tpn) 网络算法输出向量(理论上)为: Op(op1,...,opn)

TT

记wij为从输入向量的第j (j=1,…,m) 个分量到输出向量的第i (i=1,…,n)个分量的权重。通常理论值与实际值有一误差,网络学习则是指不断地把Op与Tp比较,并根据极小原则修改参数wij,使误差平方和达最小,即:

min(tpiopi)2, (p=1,…,P) (2)

i1

n

 Delta学习规则:

记wij表示递推一次的修改量,则有

wijwijwij (3) wij

η(t

p1

P

pi

opi)ipj

ηδ

p1

P

pipj

i (4)

δpi

tpiopi

η称为学习的速率。

注:由(1) 式,第i个神经元的输出可表示为

opif(wijipj), (5)

j1

m

其中,ipm= -1 , wim= (第i个神经元的阈值)。特别当f是线性函数时

opia(wijipj)b (6)

j1

m

定理:按上面描述的神经网络,设其中每个神经元都是线性的,取训练指标为


相关文章

  • 一种用于实时过程的神经网络在线自学习逆控制算法0
  • 一种用于实时过程的神经网络在线自学习逆控制算法 彭一江 (涟源钢铁集团有限公司计控部 , 娄底 . 湖南 , 417009) 摘 要: 本文探讨了神经网络控制应用于实时过程的实现问题,提出一种网络训练与 控制分离并行的算法.该算法在对过程的 ...查看


  • 神经网络在数据拟合方面的应用
  • 神经网络在数据拟合方面的应用 摘要 本文将讲述人工神经网络及其数据拟合中的应用.人工神经网络是从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络.它在模式识别.智能机器人.自动控制.预测估计.生物.医学 ...查看


  • matlab学习入门及资料
  • matlab学习入门及资料 2009-09-06 21:23 matlab博大精深,说到底我也只不过是个初学者,只是学的时间比新手长了一点,现在写几句给新手,希望能给你们有点帮助 1 学Matlab并不难,难的是学会怎么用. 2不要试图掌握 ...查看


  • SPSS原理与应用
  • <SPSS原理与应用>教学大纲 学时:51学时 学分:2 理论学时:17 实验或讨论学时:34学时 适用专业:心理学 大纲执笔人:郭振娟 大纲审定人:心理学系集体审定 一.说明 (一)课程的性质.地位和任务 SPSS是软件英文名 ...查看


  • 为何要学编程
  • 一.为何要学编程? 每个人的动机不一样.大致有: 1.为了找个好工作:或为了有更好的机会和更好的发展. 2.看到别人超厉害,所以也想学. 3.实际工作中很多场合需要. 4.从小就立志做个程序员,做软件工程师. 5.振兴中国的软件事业. .. ...查看


  • 公路收费站车流量统计系统的研制任务书
  • 一.毕业设计(论文)的内容(400字以上) 车流量统计是智能交通领域的重要研究课题之一,是实现交通智能化管理的重要环节.本课题任务是设计.制作一套车流量统计系统,具体研究内容如下: 1.通过图书馆.网络等途径搜集相关资料,掌握车流量统计的原 ...查看


  • 基于蚁群算法求解最大团问题
  • 第27卷第10期2010年10月 计算机应用与软件 ComputerApplicationsandSoftware V01.27No.10 Oct.2010 基于蚁群算法求解最大团问题 王会颖耿家礼 (安徽财贸职业学院计算机系安微合肥230 ...查看


  • BP神经网络算法
  • 神经网络技术及其应用作业 题目:BP神经网络算法及应用 姓名: 学号: 2013020456 学院:管理科学学院 专业:基 础 数 学 BP神经网络算法及应用 第一部分 人工神经网络的发展历史 人工神经网络(Artificial Neura ...查看


  • 机器视觉算法在码垛机器人中的应用
  • 第29卷第2期 2011年4月沈阳师范大学学报(自然科学版)JournalofShenyangNormalUniversity(Natural&ielrlCe)V州.29No.2Apt.201l文章编号:1673-5862(2011 ...查看


热门内容