摘要
在非线性优化的理论基础上，提出了多层感知器的联合优化算法。针对多层感知器激活函数存在过长的“记忆区”的缺陷，提出了根据样本所在区域采用不同的激活函数的算法；针对目标函数存在学习的盲目性，提出了一种改进的目标函数，迅速分清已学会的模式与没有学会的模式；针对初值选取的盲目性，提出了一种简单的初值选取方法，以防止网络在初始状态就进入“迟钝状态”。实验证明收敛速度比传统的ＢＰ算法快十几倍。
Based on the theory of unconstrained optimization,the paper presents: the union optimization algorithm of multilayered perceptron; a new activation function; an improved objective function; a method to choose initial weight to accelerate the convergence speed. The experiments show that the convergence speed is fourteen times faster than the conventional BP algorithm.
出处
《铁道学报》
EI
CAS
CSCD
北大核心
1998年第5期69-74,共6页
Journal of the China Railway Society
关键词
多层感知器
非线性优化
联合优化算法
神经网络
multilayered perceptron
unconstrained optimization
union optimization algorithm
