(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211330842.4 (22)申请日 2022.10.28 (71)申请人 聊城大学 地址 252000 山东省聊城市东昌府区湖南 路1号 (72)发明人 贾仰理　向玉元　张振领　许慎行　 (74)专利代理 机构 北京中索 知识产权代理有限 公司 11640 专利代理师 郭浩鹏 (51)Int.Cl. G06F 16/36(2019.01) G06F 40/211(2020.01) G06F 40/30(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于方面的情感知识图谱构建方法及 装置 (57)摘要 本发明公开了一种基于方面的情感知识图 谱构建方法及装置， 涉及情感分析技术领域， 所 述方法包括： 构建爬取评论的爬虫， 爬取所需评 论信息； 对评论信息进行预处理， 包括去除数据 中的符号， 替换数据中的错别字， 去除停用词和 数据增强； 将评论信息进行数据标注， 将属性标 签和情感标签联合标注； 建立基于方面的情感分 析模型， 将数据集进行向量化， 通过向量化后的 训练数据集作为输入来训练基于方面的情感分 析模型， 实现属性提取和属性情感预测， 得到方 面‑情感‑观点三元组， 并将该三元组结构作为基 于方面的情感知识图谱， 从而为基于方面的情感 知识图谱应用场景提供 更为有价 值的参考。 权利要求书2页 说明书7页 附图3页 CN 115391570 A 2022.11.25 CN 115391570 A 1.一种基于方面的情感知识图谱构建方法， 其特 征在于， 包括以下步骤： S1、 构建爬取评论的爬虫， 爬取 所需的评论信息； S2、 对评论信息进行预处理， 包括去除数据中的符号， 去除重复数据和缺失数据， 替换 数据中的错别字， 进行 数据增强， 去除停用词； S3、 将评论信息进行 数据标注， 将属性标签和情感标签进行 联合标注； S4、 建立基于方面的情 感分析模型， 将数据集进行向量化， 通过向量化后的训练数据集 作为输入来训练基于方面的情感分析模型， 实现属性提取和属性情感预测， 得到方面 ‑情 感‑观点三元组， 并将该三元组的结构作为基于方面的情感知识图谱。 2.根据权利要求1所述的一种基于方面的情感知识图谱构建方法， 其特征在于， 所述的 步骤S1包括： 采用Python网络爬虫技术自动获取评论数据， 采用聚焦网络爬虫选择性的爬取与主题 相关的页面数据， 运用Python中的Selenium库， 模拟浏览器行为爬取动态网页， 将获取的数 据存储在CSV文件中。 3.根据权利要求1所述的一种基于方面的情感知识图谱构建方法， 其特征在于， 所述的 步骤S2包括： 通过编写正则表达式删除评论数据中多余的符号， 删除重复的评论数据， 并建立错别 字替换表， 编写程序对评论数据进行遍历， 查找评论数据中的错别字并替换； 通过随机同义词替换、 随机等价实体替换等数据增强操作来扩充数据规模， 增加噪声 训练， 提高模型的泛化能力和鲁棒 性； 采用中文停用词表， 并结合评论数据添加停用词， 去 除评论中无用的信息并将处理好 的数据存 储在CSV文件中。 4.根据权利要求1所述的一种基于方面的情感知识图谱构建方法， 其特征在于， 所述步 骤S3包括： 采用BIOES序列标注方法将属性标签和 情感标签联合标注， 单个字由一个标签表示， 如 正面评价的属性用 “S‑POS”来标注， 多个字由三个标签一起标注， 如负面评价属性词组的开 头字用“B‑NEG”标注， 中间字用 “I‑NEG”标注， 结尾字用 “E‑NEG”标注， 其他用“O”标注。 5.根据权利要求1所述的一种基于方面的情感知识图谱构建方法， 其特征在于， 所述步 骤S4中所建立的基于方面的情感分析模 型为MarkBERT ‑BIGRU‑CRF,包括四个部分字粒度的 向量表示层、 编码器的特 征抽取层、 双向GRU的上 下文特征信息提取层和CRF解码层； 所述的字粒度的向量表示层通过MarkBERT预训练语言模型获得输入的语义表示， 得到 句子中每 个字的向量表示； 给定一个已标注数据集中的句子s={m1,m2,...,mn},其中mn为词， n为句子长度； 将句子s={m1,m2,...,mn}的开头和结尾分别连接[CLS]和[SEP]标记， 每个词之间加入 一个用来区分词的边界标记符[ S]， 输入字粒度的向量表示层， 将句子转 化为向量； 所述的编码器的特征抽取层通过MarkBERT预训练语言模型中双向Transformer编码器 基于注意力机制对文本进行建模抽取特征； MarkBERT将词的边界标记信息融入模型， 考虑 了词信息但没有OOV问题， MarkBERT采用双向Transformer编码结构， 接收字粒度的向量表 示层的向量， 并计算一句话中每个词对于这句话中所有词的相互关系， 替换词检测任务对 上下文中的单词跨度更敏感， 按词进行替换， 如果当前词被替换， 预测标记 为“False”,否则权　利　要　求　书 1/2 页 2 CN 115391570 A 2为“True”； 所述的双 向GRU的上下文特征信息提取层接受的特征抽取层的输出向量， 将其通过更 新门zi和重置门ri来生成表示， 进行文本深层次特 征的提取； 所述的CRF解码层计算双向GRU的上下文特征信息提取层输出概率的最大标签序列， 对 于给定的序列m= （m1,m2 …mn） 和对应的标签序列  n= （n1,n2 …nn） ， 采用最大似然估计， 计算 得到最终损失， 计算公式如下 所示： 其中， log表示取对数， ∑表示求和， W表示标签的转移分数， ht是t时刻输入数据的隐藏 状态， b为权值分数， θ 为 参数； 根据训练数据集对所建立的基于方面的情感分析模型进行微调， 得到最优 模型； 超参数的设置： 批大小为16， 训练轮数为50， 最大学习率为2e ‑5,丢弃法为0.1， 权重衰 退为0.01,最大序列长度为3 00， 优化器为Adam。 6.一种基于方面的情 感知识图谱构建装置， 采用权利要求1至5任一权利要求所述的一 种基于方面的情感知识图谱的构建方法， 其特 征在于， 包括： 数据获取模块， 用于获取待建立情感知识图谱的评论数据信息； 数据处理模块， 用于进行 数据信息的处 理； 模型训练模块， 用于将处理好的文本进行向量化， 输入基于方面的情感分析模型进行 训练， 得到情感分析训练模型； 情感图谱生成模块， 用于构建由方面、 情感、 观点组成的三元组结构， 将所述的三元组 结构作为所述的基于方面的情感知识图谱。 7.根据权利要求6所述的一种基于方面的情感知识图谱构建装置， 其特征在于， 所述数 据处理模块， 进一步用于： 对获取的文本数据进 行去重， 错别字替换， 去停用词， 数据增强操 作。 8.根据权利要求6所述的一种基于方面的情感知识图谱构建装置， 其特征在于， 所述模 型训练模块， 进一步用于： 对处理好的文本数据， 先通过  MarkBERT 预训练语 言模型获得输 入的语义表示， 将词的边界标记信息融入模型， 得到句子中每个字的向量表示之后， 再将字 向量序列输入BiGRU  之中进行进一 步语义编码， 最后通过  CRF 层输出概 率最大标签序列。权　利　要　求　书 2/2 页 3 CN 115391570 A 3