首页 期刊 信息与控制 神经网络的两种结构优化算法研究 【正文】

神经网络的两种结构优化算法研究

作者:杨慧中; 王伟娜; 丁锋 江南大学控制科学与工程研究中心; 江苏无锡214122
神经网络结构优化   剪枝算法   权值拟熵   权值敏感度   快速构造算法  

摘要:提出了一种基于权值拟熵的“剪枝算法”与权值敏感度相结合的新方法,在“剪枝算法”中将权值拟熵作为惩罚项加入目标函数中,使多层前向神经网络在学习过程中自动约束权值分布,并以权值敏感度作为简化标准,避免了单纯依赖权值大小剪枝的随机性,同时,又针对剪枝算法在优化多输入多输出网络过程中计算量大、效率不高的问题,提出了一种在级联-相关(cascade—correlation,CC)算法的基础上从适当的网络结构开始对网络进行构建的快速“构造算法”.仿真结果表明这种快速构造算法在收敛速度、运行效率乃至泛化性能上都更胜一筹.

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

学术咨询 免费咨询 杂志订阅