首页 期刊 计算机研究与发展 基于图片问答的静态重启随机梯度下降算法 【正文】

基于图片问答的静态重启随机梯度下降算法

作者:李胜东; 吕学强 中国人民大学信息学院; 北京100872; 廊坊燕京职业技术学院计算机工程系; 河北廊坊065200; 网络文化与数字传播北京市重点实验室(北京信息科技大学); 北京100101
图片问答   堆叠的注意力网络   动量   静态重启   随机梯度下降  

摘要:图片问答是计算机视觉与自然语言处理交叉的多模态学习任务.为了解决该任务,研究人员提出堆叠注意力网络(stacked attention networks, SANs).研究发现该模型易陷入不好的局部最优解,引发较高的问答错误率.为了解决该问题,提出基于图片问答的静态重启随机梯度下降算法.实验结果和分析表明:它的准确率比基准算法提高0.29%,但其收敛速度慢于基准算法.为了验证改善性能的显著性,对实验结果进行统计假设检验.T检验结果证明它的改善性能是极其显著的.为了验证它在同类算法中的有效性,将该算法和当前最好的一阶优化算法进行有效性实验,实验结果和分析证明它更有效.为了验证它的泛化性能和推广价值,在经典的Cifar-10数据集上进行图像识别实验.实验结果和T检验结果证明:它具有良好的泛化性能和较好的推广价值.

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

学术咨询 免费咨询 杂志订阅