作者:崔宇; 侯慧娟; 胥明凯; 李善武; 盛戈皞; 江秀臣 期刊:《中国电机工程学报》 2020年第01期
对电力变压器油中溶解气体进行预测分析可以有效掌握设备状态和发展趋势。该文以长短时记忆网络时序分析模型为基础,引入特征和时序双重注意力机制,利用参量间关联关系和时序信息依赖关系提升气体的预测准确率。特征注意力机制可以自动提取待预测气体与其他状态信息、环境和运行数据等特征之间的关联关系,为预测提供辅助信息进行适当修正,并不受传统关联规则算法的预设阈值限制;同时,利用时序注意力机制自主选取历史信息关键时间点...
作者:苏蒙; 李为 期刊:《计算机与现代化》 2020年第02期
SSD(Single Shot MultiBox Detector)是一种基于深度学习的目标检测算法,它作为当前最为主流的检测算法之一,在极大地提高检测速度的同时,还能保证一定的检测精度,但是仍难以满足实际应用的需求。本文在SSD模型的基础上,引入注意力机制,提出一种基于SSD改进的目标检测算法。注意力机制能够有效地提高卷积神经网络对图片特征的提取能力,从而进一步提高算法的检测精度。改进后的算法在Pascal VOC数据集上进行对比试验。实验结果表明,...
作者:庄传志; 靳小龙; 李忠; 孙智 期刊:《计算机工程与科学》 2020年第01期
关系分类是自然语言处理领域的一项重要语义处理任务。传统的关系分类方法通过人工设计各类特征以及各类核函数来对句子内部2个实体之间的关系进行判断。近年来,关系分类方法的主要工作集中于通过各类神经网络获取句子的语义特征表示来进行分类,以减少手动构造各类特征。在句子中,不同关键词对关系分类任务的贡献程度是不同的,然而重要的词义有可能出现在句子中的任意位置。为此,提出了一种基于注意力的混合神经网络关系分类模型来...
作者:潘东行; 袁景凌; 李琳; 盛德明 期刊:《计算机工程与科学》 2020年第02期
对网络上海量的文本数据进行情感分析,可以更好地挖掘网民行为规律、帮助决策机构了解舆情倾向和改善商家服务质量。在实际表达中,人们除了采用带有明显情感词的主观表达外,还采用含蓄的方式表达自己的主观倾向。带有显式情感词的文本情感分析作为自然语言处理领域的基础性研究任务,已经取得了丰富的研究成果。然而,针对隐式文本的情感分析技术还处于起步阶段。与显式情感分析任务相比,隐式情感分类任务更加困难。隐式表达文本具有...
作者:张宜飞; 王中卿; 王红玲 期刊:《计算机科学》 2020年第02期
商品评论摘要是从一个商品的所有评论中抽取出一系列有序的能够代表评论广泛意见的句子作为该商品的综合评论。篇章层次结构分析旨在对篇章内部各个语义单元之间的层次结构和语义关系进行分析。由此可见,分析篇章层次结构有利于更加准确地判断篇章内各个语义单元的语义信息和重要程度,这对于抽取篇章的重要内容有很大帮助。因此,文中提出了一种基于篇章层次结构的商品评论摘要方法。该方法基于LSTM(Long Short Term Memory Network...
作者:王丽亚; 刘昌辉; 蔡敦波; 赵彤洲; 王梦 期刊:《微电子学与计算机》 2020年第01期
针对传统卷积神经网络(CNN)同层神经元之间信息不能互传,无法充分利用同一层次上的特征信息,以及无法提取长距离上下文相关特征的问题.该文针对中文文本,提出字符级联合网络特征融合的模型进行情感分析,在字符级的基础上采用BiGRU和CNN-BiGRU并行的联合网络提取特征,利用CNN的强学习能力提取深层次特征,再利用双向门限循环神经网络(BiGRU)进行深度学习,加强模型对特征的学习能力.另一方面,利用BiGRU提取上下文相关的特征,丰富特征...
作者:吴杰; 王怡涵; 侯米娜; 全晓鹏 期刊:《电子世界》 2020年第02期
行人属性识别是“AI+安防”战略的重要任务,在视频监控场景起着重要作用,基于此,本文提出了基于注意力机制(Attention Mechanism)的行人属性识别方法。本文主要采用残差网络进行模型设计,为了增加模型对特征的提取效果,在模型中加入了注意力机制,并针对多标签分类的正负样本分类不平衡问题,对损失函数进行了改写。实验结果表明,该算法能够提高模型在属性识别方面的准确率。引言:行人属性识别的目的是在给定人物图像时挖掘目标人物...
作者:陈天翔 期刊:《信息技术与信息化》 2020年第01期
本文针对在金融领域的研究中,面对大量文本数据时缺乏有效分析手段、分析效率低的问题,应用自然语言处理技术,提出了一种基于注意力机制和深度学习的金融文本情感分类模型。该模型可以把自然语言表示的金融文本作为输入,通过计算自动得到情感分类标签,进而为金融舆情研究提供一定的参考。实验结果表明,该模型在由新闻标题、公告标题组成的数据集上具有很强的拟合能力,此外引入注意力机制对情感分类的准确性有较为明显的提升。
作者:黄炎; 孙海丽; 徐科; 余晓阳; 王同洋; 张新访; 路松峰 期刊:《北京大学学报·自然科学版》 2020年第01期
针对计算机自动生成的文本缺乏主题思想这一问题,提出一种基于主题约束的篇章级文本自动生成方法。该方法围绕用户输入的主题描述语句提取若干主题词;然后对主题词进行扩展和主题聚类,形成文章主题规划;最后利用每个聚类中的关键词信息约束每个段落的文本生成。该模型从文本主题分布、注意力评分方法和主题覆盖生成3个方面对现有基于注意力机制的循环神经网络文本生成模型进行了改进。在3个真实数据集上分别与Char-RNN,SC-LSTM和MT...
作者:贾云龙; 韩东红; 林海原; 王国仁; 夏利 期刊:《北京大学学报·自然科学版》 2020年第01期
利用迁移学习的方法,融合京东问答平台数据与少量已标注的微博数据构建训练集,提出一种基于注意力机制的双向长短期记忆神经网络(Attentional-Bi-LSTM)模型,用于识别用户的隐性消费意图。针对显性意图识别问题,提出一种结合TF-IDF(termfrequency-inversedocumentfrequency)与句法分析中动宾关系(VOB)的消费意图对象提取算法。实验结果表明,通过将迁移京东问答平台的数据与微博数据相融合,可以有效地扩充训练集,在此基础上训练的神...
作者:顾军华; 彭伟桃; 李娜娜; 董永峰 期刊:《计算机工程与设计》 2020年第01期
为提取文本的局部最优情感极性、捕捉文本情感极性转移的语义信息,提出一种基于卷积注意力机制的神经网络模型(CNN_attention_LSTM)。使用卷积操作提取文本注意力信号,将其加权融合到Word-Embedding文本分布式表示矩阵中,突出文本关注重点的情感词与转折词,使用长短记忆网络LSTM来捕捉文本前后情感语义关系,采用softmax线性函数实现情感分类。在4个数据集上进行的实验结果表明,在具有情感转折词的文本中,该模型能够更精准捕捉文本...
作者:邓玉婧; 武志昊; 林友芳 期刊:《计算机工程》 2020年第01期
准确预测航班客座率有利于处理航班机票超售、座位虚耗等问题,然而传统时间序列预测方法只关注航班近期每日客座率的变化特点,无法同时考虑其他因素的影响,预测效果不够理想。针对该问题,提出一种基于多粒度时间注意力机制的循环神经网络模型MTA-RNN。通过构建多级注意力机制获取航班客座率在不同时间粒度下的时序相关性,同时考虑航班自身属性及节假日等其他因素,得到未来一段时间内的目标航班客座率。在真实历史航班客座率数据集...
作者:胡均毅; 李金龙 期刊:《计算机工程》 2020年第03期
文本中的词并非都具有相似的情感倾向和强度,较好地编码上下文并从中提取关键信息对于情感分类任务而言非常重要。为此,提出一种基于情感评分的分层注意力网络框架,以对文本情感进行有效分类。利用双向循环神经网络编码器分别对词向量和句向量进行编码,并通过注意力机制加权求和以获得文档的最终表示。设计辅助网络对文本的词、句进行情感评分,利用该评分调整注意力权重分布。在探究文本的情感信息对分类性能的影响后,通过辅助网络...
作者:彭祝亮; 刘博文; 范程岸; 王杰; 肖明; 廖泽恩 期刊:《计算机工程》 2020年第03期
基于方面的情感分析已广泛应用于文本信息挖掘,但在句子情感极性模糊或包含多个不同方面情感极性时难以准确提取特征信息,削弱了情感极性分类效果。为解决该问题,提出一种结合双向长短记忆网络和方面注意力模块的情感分类方法。利用多个方面注意力模块同时对不同方面进行独立训练,使每个方面信息与注意力操作互不影响,各自进行注意力参数的学习与调整,以充分提取特定方面的隐藏信息,从而更准确地识别不同方面的情感极性。在SemEval...
作者:刘思琴; 冯胥睿瑞 期刊:《信息安全研究》 2020年第03期
现有情感分类模型大都采用Word2Vec,GloVe(global vectors)等获取文本的词向量表示,忽略了词的上下文关系,针对此问题,提出基于BERT(bidirectional encoder representations from transformers)预训练语言模型与双向长短时记忆网络(bidirectional long short-term memory network,BLSTM)及注意力机制相结合的神经网络模型进行文本情感分析.首先通过BERT预训练模型获取包含上下文语义信息的词向量,然后利用双向长短时记忆网络提取上...
作者:李佳芳; 冯秀芳 期刊:《科学与信息化》 2018年第29期
高压电线每天都会传输大量的电能以供我们日常生活的需要。传输电能的途中会产生少许的热能,这些热能和太阳光、雨水等的作用会对电线的表面产生腐蚀。基于此,本文提出了基于深度学习的卷积神经网络的绝缘体破损检测算法。卷积网络包含卷积层、池化层和全连接层,使用大量的卷积核构建一个非线性映射函数学习输入图像和标签之间的映射关系。该算法基于注意力机制自动抽取出绝缘体的区域,然后将其作为卷积网络的输入判断当前的输入图...
作者:毛鹏; 苗航 期刊:《电子技术与软件工程》 2019年第24期
论文研究利用神经网络模型解决答案选择问题时,如何有效融入外部知识库关系信息对模型效果进行优化。文章使用深层神经网络、双向注意力机制等算法,将问答句中单词对应的空间词向量进行编码,得到问答句的句矩阵表示,并将句矩阵压缩为句向量表示,通过比对问答句句向量间的特征,判断两句话是否存在问答关系。文章在句矩阵压缩为句向量的池化步骤中,融入了知识库关系信息,优化了句子中单词之间的权重。模型在WikiQA和TRECQA两个数据集...
作者:张家颖; 杨文军 期刊:《天津理工大学学报》 2019年第06期
目前互联网上会存在海量的网络流量数据信息,这些海量的网络流量数据信息还未得到充分性的利用,如果有效的采取一些必要的方法或者手段,分析整个的网络流量挖掘信息对于后期的网络发展趋势,挖掘网络当中所存在的异常状态并且有采取针对性的措施,这对于后期的网络应急响应能力的增强、抵御网络不法攻击行为、快速的维护网络空间安全等方面都具有非常重大的价值及意义.本文基于网络流量识别的基本需求,分析了深度学习经典模型-CNN的...
作者:石磊; 阮选敏; 魏瑞斌; 成颖 期刊:《情报学报》 2019年第10期
相较于早期的生成式摘要方法,基于序列到序列模型的文本摘要方法更接近人工摘要的生成过程,生成摘要的质量也有明显提高,越来越受到学界的关注。本文梳理了近年来基于序列到序列模型的生成式文本摘要的相关研究,根据模型的结构,分别综述了编码、解码、训练等方面的研究工作,并对这些工作进行了比较和讨论,在此基础上总结出该领域未来研究的若干技术路线和发展方向。
作者:申凯; 王晓峰; 杨亚东 期刊:《智能系统学报》 2019年第06期
有效特征的提取和高效使用是显著性物体检测中极具挑战的任务之一。普通卷积神经网络很难兼顾提取有效特征和高效使用这些特征。本文提出双向消息链路卷积网络(bidirectional message link convolution net-work,BML-CNN)模型,提取和融合有效特征信息用于显著性物体检测。首先,利用注意力机制引导特征提取模块提取实体有效特征,并以渐进方式选择整合多层次之间的上下文信息。然后使用带有跳过连接结构的网络与带门控函数的消息传递...