快速收敛的BP神经网络算法

摘要/Abstract

摘要： 以标准BP算法为基础,应用Levenberg Marquardt最优化方法,提出了一种快速收敛的BP算法———LMBP算法。经实验验证并与标准BP算法及其它改进形式比较,LMBP算法大大提高了收敛速度,而且性能稳定。这为BP神经网络应用于实时性要求高的场合(如在线检测)提供了算法基础。该算法的缺点是计算量大,所需计算机内存大,不适合大型网络的计算。

关键词: 神经网络, LMBP算法, Levenberg-Marquardt最优化方法

Abstract: A new kind of BP algorithm-LMBP that converges very fast is proposed in this paper by using Levenberg Marquardt optimization method and standard BP algorithm.The experimental results prove that LMBP converges very rapidly and has good stability property compared with that of the standard BP algorithm and other improved ones.LMBP algorithm is suitable for the case with high demands of on-line computation,e.g.on-line measurement.But when the size of neural network increases, it needs enormous calculation and large computer memory space.

Key words: neural network, LMBP algorithm, Levenberg-Marquardt optimization method

中图分类号:

TP183

王赟松, 许洪国. 快速收敛的BP神经网络算法[J]. 吉林大学学报(工学版), 2003, (4): 79-84.

WANG Yun-song, XU Hong-guo. Fast convergent algorithm-BP for trainning neural network[J]. 吉林大学学报(工学版), 2003, (4): 79-84.

参考文献

[1] 鲍立威.关于BP算法模型的缺陷的讨论［J］.模式识别与人工智能,1995,8(1):1-5.
[2] 阎平凡.对多层前向神经网络研究的几点看法［J］.自动化学报,1997,23(1):129-135.
[3] 胡守仁.神经网络导论［M］.北京:国防科技大学出版社,1993.
[4] 戴葵.神经网络应用技术［M］.北京:国防科技大学出版社,1998.
[5] LUENG H C.Applications of error backpropagation to phonetic classification in advances in neural information processing systems［M］.New York:Morgan Kaufman,1989:206-231.
[6] HECHT N R.Counter propagation networks［Z］.Proc.of the International Conference on Neural Networks,1987:19-32.
[7] POLLARD J F.Process identification using neural networks［J］.Computer Chem.Eng.,1992,16(4):253-271.
[8] FAN J Y.An approach to fault diagnosis of chemical processes via neural networks［J］.Journal of AICHE,1993,39(1):82-87.
[9] LEONARD J.Improvement of the backpropagation algorithm for traning neural networks［J］,1990,14(3):337-340.

相关文章 15

[1]	席利贺,张欣,孙传扬,王泽兴,姜涛. 增程式电动汽车自适应能量管理策略[J]. 吉林大学学报(工学版), 2018, 48(6): 1636-1644.
[2]	江涛,林学东,李德刚,杨淼,汤雪林. 基于人工神经网络的放热规律的量化预测[J]. 吉林大学学报(工学版), 2018, 48(6): 1747-1754.
[3]	徐岩,孙美双. 基于卷积神经网络的水下图像增强方法[J]. 吉林大学学报(工学版), 2018, 48(6): 1895-1903.
[4]	李雄飞, 冯婷婷, 骆实, 张小利. 基于递归神经网络的自动作曲算法[J]. 吉林大学学报(工学版), 2018, 48(3): 866-873.
[5]	底晓强, 王英政, 李锦青, 从立钢, 祁晖. 基于量子细胞神经网络超混沌的视频加密方法[J]. 吉林大学学报(工学版), 2018, 48(3): 919-928.
[6]	王方石, 王坚, 李兵, 王博. 基于深度属性学习的交通标志检测[J]. 吉林大学学报(工学版), 2018, 48(1): 319-329.
[7]	刘东亮, 王秋爽. 基于NGSIM数据的车辆瞬时速度获取方法[J]. 吉林大学学报(工学版), 2018, 48(1): 330-335.
[8]	谢志江, 吴小勇, 范乃吉, 郭宗环, 袁岳军, 王康. 神光-III精密装校平台运动学分析[J]. 吉林大学学报(工学版), 2017, 47(5): 1504-1511.
[9]	马淼, 李贻斌. 基于多级图像序列和卷积神经网络的人体行为识别[J]. 吉林大学学报(工学版), 2017, 47(4): 1244-1252.
[10]	王德军, 吕志超, 王启明, 张贤达, 王子健. 基于汽缸压力辨识的发动机失火故障诊断[J]. 吉林大学学报(工学版), 2017, 47(3): 917-923.
[11]	黄璇, 郭立红, 李姜, 于洋. 改进粒子群优化BP神经网络的目标威胁估计[J]. 吉林大学学报(工学版), 2017, 47(3): 996-1002.
[12]	李琳辉, 伦智梅, 连静, 袁鲁山, 周雅夫, 麻笑艺. 基于卷积神经网络的道路车辆检测方法[J]. 吉林大学学报(工学版), 2017, 47(2): 384-391.
[13]	王庆年, 段本明, 王鹏宇, 拱印生, 朱庆林. 插电式混合动力汽车动力传动系参数优化[J]. 吉林大学学报(工学版), 2017, 47(1): 1-7.
[14]	郭应时, 付锐, 赵凯, 马勇, 袁伟. 驾驶人换道意图实时识别模型评价及测试[J]. 吉林大学学报(工学版), 2016, 46(6): 1836-1844.
[15]	孙大许, 兰凤崇, 何幸福, 陈吉清. 双电机四驱电动汽车自适应复合防抱死控制[J]. 吉林大学学报(工学版), 2016, 46(5): 1405-1413.

Metrics

Viewed

Full text

Abstract

Cited

Shared

Discussed