基于位置增强和双向图卷积的方面级情感分析.pdf
《基于位置增强和双向图卷积的方面级情感分析.pdf》由会员分享,可在线阅读,更多相关《基于位置增强和双向图卷积的方面级情感分析.pdf(4页珍藏版)》请在咨信网上搜索。
1、1引言文本情感分析是自然语言处理(Natural LanguageProcessing,NLP)领域的基本任务之一,主要是对带有情感色彩的主观性文本进行、处理、抽取和分析的过程1。文本情感分析根据研究粒度的不同可以分为:篇章级情感分析、句子级情感分析和方面级情感分析2。在现实生活中,商家总是希望了解消费者对产品和服务等方面的评价,以便据此做出改进。消费者在购买产品之前,也会希望参考已购买者对产品各方面的评价来判断是否值得购买。在这一场合下,篇章级和句子级情感分析得到的分类结果不够精细,方面级情感分析便成为研究热点。方面级情感分析(Aspect-Based Sentiment Analysis,
2、ABSA)任务能够有针对性的从各个方面了解人们对事物的看法3。一般情况下,上下文词与方面词之间的位置信息往往隐含着重要的信息,判断方面词的情感倾向,应注意其临近的词,而不是距离较远的词。目前,基于位置增强和双向图卷积的方面级情感分析郭钰铉,韩萌,李晖(沈阳工业大学信息科学与工程学院,沈阳 110870)摘要:方面级情感分析旨在判别给定句子中具体方面的情感极性。针对大多数模型对位置信息关注度不够,以及单向图卷积神经网络不能充分应用单词间的依存关系较好地识别方面词的情感倾向等问题,提出基于位置增强和双向图卷积的方面级情感分析模型。模型将位置信息和上下文词向量进行融合,并通过双向长短时记忆网络捕获语
3、义信息;利用双向图卷积神经网络为提取方面特征提供句法约束,并通过掩码层得到特定的方面特征;通过注意力机制学习上下文与特定方面之间的重要信息。与 ASGCN 模型相比,该模型在 Rest14、Lap14 和 Twitter 三个公开数据集上的准确率和F1 值都有提升。关键词:方面级情感分析;位置信息;双向图卷积网络;注意力机制DOI:10.3969/j.issn.1002-2279.2023.04.011中图分类号:TP391.1文献标识码:A文章编号:1002-2279(2023)04-0038-04Aspect-Based Sentiment Analysis Based on Positi
4、on Enhancement andBidirectional Graph ConvolutionGUO Yuxuan,HAN Meng,LI Hui(School of Information Science and Engineering,Shenyang University of Technology,Shenyang 110870,China)Abstract:Aspect-based sentiment analysis aims to identify the emotional polarity of specific aspectsin a given sentence.Ai
5、ming at the problems that most models dont pay enough attention to position infor-mation,and the one-way graph convolution neural network cant fully apply the dependency betweenwords to identify the emotional tendency of aspect words,an aspect-based sentiment analysis model basedon location enhancem
6、ent and bidirectional graph convolution is proposed.The model fuses position infor-mation and context word vectors,and captures semantic information through bidirectional long short-termmemory networks.Bidirectional graph convolution neural network is used to provide syntactic constraintsfor extract
7、ing aspect features,and specific aspect features are obtained through mask layer.Importantinformation between context and specific aspects is learned through attention mechanism.Com-pared with ASGCN model,the accuracy and F1 value of the model are improved on the three public datasets of Rest14,Lap1
8、4 and Twitter.Key words:Aspect-based sentiment analysis;Position information;Bidirectional graph convolutionalnetwork;Attention mechanism作者简介:郭钰铉(1996),女,河北省邯郸市人,硕士研究生,主研方向:自然语言处理。收稿日期:2023-04-04微处理机MICROPROCESSORS第 4 期2023 年 8 月No.4Aug.,20234 期图卷积神经网络(Graph Convolutional Networks,GCN)在 ABSA 任务中应用句法
9、依存树为提取方面特征提供句法约束,但是大多数研究中使用 GCN 仅考虑句法依存树自上向下的传播信息,忽略了句法依存树自下向上的聚合信息。鉴于此,本研究提出基于位置增强(Position Enhancement)和双向图卷积(Bi-Directional Graph Convolutional Networks,BiGCN)的方面级情感分析模型,简称 PEBGCN。2基于 PEBGCN 的方面级情感分析2.1任务定义给定长度为 n 的句子 s=w1,w2,ws,ws+m-1,wn,即上下文;给定长度为m的方面词 a=ws,ws+m-1,基于 PEBGCN 的方面级情感分析,就是为了通过 PEBG
10、CN 模型来判断上下文 s 中方面词 a 的情感极性。PEBGCN 模型整体框架图如图 1 所示。2.2词嵌入和语义提取在词嵌入层使用 Glove 词嵌入矩阵获取每个上下文单词的词向量。BiLSTM 已成功应用于各种NLP 任务,在 ABSA 任务中常用于提取语义信息。它使用正向 LSTM 和反向 LSTM 对文本依赖性进行建模,最后的输出结果是两个隐藏状态的拼接。由于上下文和方面词的位置信息中隐含重要信息,所以将位置信息融合到上下文词向量中。参考曾道建等人4的研究,使用相对距离对方面词位置信息进行建模,即定义一个位置索引序列,方面词的位置索引为 0,其余单词与方面词的相对距离则是对应的位置索
11、引。位置索引序列公式如下式:其中,js代表方面词的开始索引,pi代表上下文中第i 个单词与方面词的相对距离。位置索引序列对应的位置嵌入是通过查询一个位置嵌入矩阵来获得的。位置嵌入矩阵是随机初始化的,并在训练过程中不断更新。将上下文词向量与位置嵌入拼接作为 BiLSTM的输入,得到融合位置信息的上下文隐藏状态:2.3双向图卷积层双向图卷积层的作用是通过感知两个方向句法依赖树中单词间的依存关系,为提取方面特征提供句法约束。双向图卷积神经网络根据信息传递方向的不同,分为自上向下的图卷积网络 TDGCN(Top-Down Graph Convolutional Networks)和自下向上的图卷积网络
12、 BUGCN(Bottom-Up Graph ConvolutionalNetworks)。结构示意图如图 2 所示。首先使用 spacy 构造句法依存树,获得邻接矩阵 A。TDGCN 和 BUGCN 的计算方式如下式:将 TDGCN 和 BUGCN 得到的输出表示通过方面掩码层得到方面词的特征向量。方面掩码层的计算公式如下式所示:通过式(5)得到 TDGCN 和 BUGCN 通过方面掩码层输出为:图 1PEBGCN 模型整体框架图(3)(4)(5)(6)分类层信息融合层注意力层方面掩码层双向图卷积层语义提取层词嵌入层原始句法依存树反向句法依存树上下文-位置(1)111,0,ssiss ms
13、ms mjii jpjijijij 郭钰铉等:基于位置增强和双向图卷积的方面级情感分析(b)BUGCN(a)TDGCN图 2双向图卷积网络结构示意图(2)12,ppppnHhhh111111ReLU()1ReLU()1LLnLLjjijinjijLLnLLjjijinjijbbA W hhAA W hhA 10 1,Liss mijjinh10,.,.,.,0LLLiss mhhh窑39窑微处理机2023 年2.4注意力模块和分类层本模块的思想是从融合位置信息的上下文隐藏状态中检索出和方面特征在语义上相关的重要特征,并相应地为上下文中的每个词设置注意权值。计算过程具体如下:计算方面特征与上下文
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 基于 位置 增强 双向 图卷 方面 情感 分析
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。