首页 期刊 计算机仿真 一种新的基于光滑L0范数的受限玻尔兹曼机 【正文】

一种新的基于光滑L0范数的受限玻尔兹曼机

作者:郑强; 姬楠楠; 肖玉柱; 宋学力 长安大学理学院; 陕西西安710064
受限玻尔兹曼机   稀疏表示   激活概率   特征信息  

摘要:受限玻尔兹曼机(Restricted Boltzmann machines,RBM)是一种有效的特征提取器,它是深度信念网络的基本组成模块。为了进一步提升RBM的数据表示性能,受人类大脑视觉稀疏表示启发,提出一种新的稀疏RBM,即SmoothRBM。它通过添加一个光滑L0范数的正则项来直接约束隐层单元的总体激活概率,可以根据不同的学习任务学习到不同的稀疏水平。MNIST数据集上的相关实验表明,SmoothRBM模型与当前的一些优秀模型相比,可以更有效的提取数据集中的特征信息,学习到更稀疏和更具判别力的表示形式。

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

学术咨询 免费咨询 杂志订阅