摘要:深度置信网络(deep belief network,DBN)通过逐层无监督学习进行训练,但训练过程中易产生大量冗余特征,进而影响特征提取能力。为了使模型更具有解释和辨别能力,基于对灵长类视觉皮层分析的启发,在无监督学习阶段的似然函数中引入惩罚正则项,使用CD(contrastive divergence)训练最大化目标函数的同时,通过稀疏约束获得训练集的稀疏分布,可以使无标签数据学习到直观的特征表示。其次,针对稀疏正则项中存在的不变性问题,提出一种改进的稀疏深度置信网络,使用拉普拉斯函数的分布诱导隐含层节点的稀疏状态,同时将该分布中的位置参数用来控制稀疏的力度,即根据隐藏单元的激活概率与给定稀疏值的偏差程度而具有不同的稀疏水平。通过在MNIST和Pendigits手写体数据集上进行验证分析,并与多种现有方法相比,该方法始终达到最好识别准确度,并且具有良好的稀疏性能。
注:因版权方要求,不能公开全文,如需全文,请咨询杂志社
热门期刊服务
雷达与对抗 冶金设备管理与维修 大学物理实验 高校辅导员学刊 产业质量研究 安徽农学通报·下半月刊 遗传与疾病 中华活页文选·高一版 晋控科学技术 安庆师范大学学报·社会科学版 蒙古学信息 社会福利·实务版相关文章
改进工作作风心得体会