학술논문

基于混合双层自组织径向基函数神经网络的优化学习算法 / Optimization Learning Algorithm Based on Hybrid Bilevel Self-organizing Radial Basis Function Neural Network
Document Type
Academic Journal
Source
北京工业大学学报 / Journal of Beijing University of Technology. 50(1):38-49
Subject
径向基函数神经网络(radial basis function neural network,RBFNN)
自组织
列文伯格-马夸尔特(Levenberg Marquardt,LM)算法
混合双层
优化学习
泛化性能
radial basis function neural network ( RBFNN )
self-organizing
Levenberg Marquardt ( LM) algorithm
hybrid bilevel
optimization learning
generalization performance
Language
Chinese
ISSN
0254-0037
Abstract
针对传统方法采用先训练后测试两阶段学习机制极易导致的过拟合或欠拟合问题,提出一种基于混合双层自组织径向基函数神经网络的优化学习(hybrid bilevel self-organizing radial basis function neural network optimization learning,Hb-SRBFNN-OL)算法.首先,将训练过程和测试过程集成到一个统一的框架中,规避过拟合或欠拟合问题.其次,基于进化学习机制,提出上下2层的交互式优化学习算法,上层基于网络复杂度和测试误差自组织调整网络结构,下层采用列文伯格-马夸尔特(Levenberg Marquardt,LM)算法作为优化器对自组织径向基函数神经网络(self-organizing radial basis function neural network,SO-RBFNN)的连接权值进行优化.最后,利用来自多个子网络的综合信息生成模型的最终输出,加速网络全局收敛.为验证所提方法的可行性,分别在多个分类和预测任务中进行了测试实验.结果表明,在与传统神经网络结构相似甚至更好的测试和分类精度下,该方法不仅能实现更快的训练收敛,而且能进化成更精简紧凑的径向基函数神经网络(radial basis function neural network,RBFNN)模型.尤其在污水处理过程中总磷的质量浓度预测实验中,测试集中均方根误差(root mean squared error,RMSE)最高可降低48.90%,实际场景实验结果验证了所提算法的精确性更佳且泛化能力更强.