(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210355134.X (22)申请日 2022.04.01 (71)申请人 中国人民解 放军国防科技大 学 地址 410073 湖南省长 沙市开福区砚瓦池 正街47号 (72)发明人 凌艳香 王天琦 赵卫伟 蔺茜  梁政 曹巍 张清辉 张晓丽  (74)专利代理 机构 长沙市融智专利事务所(普 通合伙) 43114 专利代理师 熊开兰 (51)Int.Cl. G06F 16/332(2019.01) G06F 40/126(2020.01) G06F 40/30(2020.01) G06N 3/08(2006.01) (54)发明名称 一种上下文自适应的智能对话响应生成方 法、 装置及 介质 (57)摘要 本发明公开了一种上下文自适应的智能对 话响应生成方法、 装置及介质, 其中方法为: 根据 历史对话中包括的话语数量, 判断历史对话为长 类型还是短类型; 若历史对话为短类型对话, 则 使用顺序阅读器根据历史对话进行响应生成; 若 历史对话为长类型对话, 则使用跳跃阅读器根据 历史对话进行响应生成。 其中跳跃阅读器在对历 史对话的锚点和上下文分层编码后, 采用整合机 制使用锚点对 上下文进行整合, 或者采用吸收机 制使用上下文对锚点语义进行丰富; 然后再使用 解码器根据处理后的锚点和上下文进行响应生 成。 本发明可以根据历史对话长短适应性地使用 不同的响应生成方式, 灵活性好, 而且能够过滤 长对话中的噪声并提取到焦点信息, 从而响应生 成的准确率高。 权利要求书2页 说明书11页 附图4页 CN 114706967 A 2022.07.05 CN 114706967 A 1.一种上 下文自适应的智能对话响应生成方法, 其特 征在于, 包括: 根据历史对话中包括的话语数量, 判断历史对话的长短类型: 长类型或短类型; 若历史对话 为短类型对话, 则使用顺序阅读器根据历史对话进行响应生成; 若历史对话 为长类型对话, 则使用跳跃阅读器根据历史对话进行响应生成。 2.根据权利要求1所述的方法, 其特征在于, 所述顺序阅读器根据历史对话进行响应生 成的方法为: 首先将历史对话中所有话语按照时间顺序连接成文本序列, 然后采用编码器 进行语义编码, 最后采用解码器进行响应生成。 3.根据权利要求1所述的方法, 其特征在于, 所述跳跃阅读器根据历史对话进行响应生 成的方法为: 首先将历史对话中的最新话语作为锚点, 其余话语视为上下文; 然后采用分层 编码方法分别对锚点和上下文进行分层语义编码; 再根据锚点语义, 采用整合机制对上下 文语义编码进行整合, 输出得到上下文整合语义; 最终采用解码器根据上下文整合语义和 锚点语义进行响应生成。 4.根据权利要求3所述的方法, 其特征在于, 所述整合机制包括: 自注意力机制、 锚点注 意力机制和前馈神经网络层; 自注意力机制的输入为上下文语义编码, 自注意力机制的输 出和锚点语义编码作为锚点注意力机制的输入, 锚点注意力机制的输出作为前馈神经网络 层的输入, 前馈神经网络层的输出即为整合机制输出的上 下文整合语义。 5.根据权利要求1所述的方法, 其特征在于, 所述跳跃阅读器根据历史对话进行响应生 成的方法为: 首先将历史对话中的最新话语作为锚点, 其余话语视为上下文; 然后采用分层 编码方法分别对锚点和上下文进行分层语义编码; 再采用吸收机制, 使用上下文语义对锚 点语义进行语义丰富, 输出得到上下文丰富的锚点语义; 最终采用解码器根据上下文丰富 的锚点语义进行响应生成。 6.根据权利要求5所述的方法, 其特征在于, 所述吸收机制包括: 自注意力机制、 上下文 注意力机制和前馈神经网络层; 自注意力机制的输入为锚点语义编码, 自注意力机制的输 出和上下文语义编 码作为上下文注意力机制的输入, 上下文注意力机制的输出作为前馈神 经网络层的输入, 前馈神经网络层的输出即为吸引机制输出的上 下文丰富的锚点语义。 7.一种上 下文自适应的智能对话响应生成装置, 其特 征在于, 包括: 对话分类模块, 用于: 根据历史对话中包括的话语数量, 将历史对话分为长类型或短类 型; 顺序阅读器, 用于: 根据短类型的历史对话进行响应生成; 跳跃阅读器, 用于根据长类型的历史对话进行响应生成。 8.根据权利要求7所述的装置, 其特征在于, 所述跳跃阅读器包括: 锚点划分模块、 分层 编码器、 整合机制和解码器; 所述锚点划分模块用于: 将历史对话中的最 新话语作为锚点, 其 余话语视为上 下文; 所述分层编码器用于: 对 锚点和上 下文进行分层语义编码; 所述整合机制用于: 根据锚点语义对上下文语义编码进行整合, 输出得到上下文整合 语义; 所述解码器用于: 根据上 下文整合语义和锚点语义进行响应生必。 9.根据权利要求7所述的装置, 其特征在于, 所述跳跃阅读器包括: 锚点划分模块、 分层 编码器、 吸 收机制和解码器;权 利 要 求 书 1/2 页 2 CN 114706967 A 2所述锚点划分模块用于: 将历史对话中的最 新话语作为锚点, 其 余话语视为上 下文; 所述分层编码器用于: 对 锚点和上 下文进行分层语义编码; 所述吸收机制用于: 使用上下文语义对锚点语义进行语义丰富, 输出得到上下文丰富 的锚点语义; 所述解码器用于: 根据上 下文丰富的锚点语义进行响应生成。 10.一种计算机可读存储介质, 其上存储有计算机程序, 其特征在于, 所述计算机程序 被处理器执行时实现如权利要求1~7中任一项所述的方法。权 利 要 求 书 2/2 页 3 CN 114706967 A 3

.PDF文档 专利 一种上下文自适应的智能对话响应生成方法、装置及介质

文档预览
中文文档 18 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共18页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种上下文自适应的智能对话响应生成方法、装置及介质 第 1 页 专利 一种上下文自适应的智能对话响应生成方法、装置及介质 第 2 页 专利 一种上下文自适应的智能对话响应生成方法、装置及介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 17:44:11上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。