(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210404668.7 (22)申请日 2022.04.18 (71)申请人 中国科学院空天信息创新研究院 地址 100094 北京市海淀区邓庄南路9号 (72)发明人 陈祖刚　卢逸航　李国庆　李静　 (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 专利代理师 任少瑞 (51)Int.Cl. G06F 40/289(2020.01) G06F 40/30(2020.01) G06F 40/242(2020.01) G06N 3/04(2006.01) G06K 9/62(2022.01) (54)发明名称 自然语言处理方法、 装置、 设备、 介质及程序 产品 (57)摘要 本发明提供一种自然语言处理方法、 装置、 设备、 介质及程序产品， 该方法包括： 获取待处理 文本中包括的目标词语； 根据目标词语、 预设编 码矩阵和预先得到的语义空间中包括的多个预 设文本的二维坐标， 确定目标词语对应的稀 疏编 码矩阵； 通过层级实时记忆HTM模型对稀疏编码 矩阵进行处理， 得到待处理文本对应的预测文 本。 本发明提供的自然语言处理方法、 装置、 设 备、 介质及程序产品用于使得HTM模型能够输出 待处理文本对应的预测文本 。 权利要求书2页 说明书9页 附图3页 CN 114997160 A 2022.09.02 CN 114997160 A 1.一种自然语言处 理方法， 其特 征在于， 包括： 获取待处 理文本中包括的目标词语； 根据所述目标词语、 预设编码矩阵和预先得到的语义空间中包括的多个预设文本的二 维坐标， 确定所述目标词语对应的稀疏编码矩阵； 通过层级实时记忆HTM模型对所述稀疏编码矩阵进行处理， 得到待处理文本对应的预 测文本。 2.根据权利要求1所述的方法， 其特征在于， 所述根据所述目标词语、 预设编码矩阵和 预先得到的语义空间中包括的多个预设文本的二 维坐标， 确定所述目标词语对应的稀疏编 码矩阵， 包括： 从所述多个预设文本的二维坐标中， 获取包括所述目标词语的预设文本的目标坐标； 将所述预设编码矩阵中对应于所述目标坐标的位置上的数值设置为第 一预设值， 得到 所述目标词语对应的稀疏编码矩阵。 3.根据权利要求1或2所述的方法， 其特征在于， 所述获取待处理文本中包括的目标词 语， 包括： 对所述待处 理文本进行异常文本样式剔除处 理， 得到中间文本； 对所述中间文本进行符号剔除处 理和停用词剔除处 理， 得到目标文本； 对所述目标文本进行词语 拆分处理， 得到所述待处 理文本中包括的目标词语。 4.根据权利要求1或2所述的方法， 其特 征在于， 所述方法还 包括： 获取原始文本集中包括的所述多个预设文本； 对所述多个预设文本进行词语拆分处理和 统计排序处理， 得到词典； 所述词典中包括 所述多个预设文本中包括的多个词语， 所述多个词语在所述词典中按照在所述原始文本集 中的出现顺序排列； 确定所述词典中所述多个词语各自的独热向量； 根据所述多个词语各自的独热向量， 确定所述语义空间中包括的多个预设文本的二维 坐标。 5.根据权利要求4所述的方法， 其特征在于， 所述根据所述多个词语各自的独热向量， 确定所述语义空间中包括的多个预设文本的二维坐标， 包括： 根据所述多个词语各自的独热向量， 调整连续词袋CBOW模型的模型参数， 得到所述 CBOW模型的输入层至中间层的权 重矩阵； 根据所述权 重矩阵， 确定所述多个词语各自的编码向量； 针对多个预设文本中的每个预设文本， 将所述预设文本中包括的词语的编码向量之 和， 确定为所述预设文本的初始语义向量； 通过预设降维模型， 对所述初始语义向量进行维 度降低处理， 得到所述预设文本的二维语义向量； 对所述二维语义向量进行放缩处理和取 整处理， 得到所述预设文本的二维坐标。 6.根据权利要求5所述的方法， 其特征在于， 所述权重矩阵的维度等于所述多个词语的 总数量； 所述 根据所述权 重矩阵， 确定所述多个词语各自的编码向量， 包括： 针对所述多个词语 中的第i个词语， 将所述权重矩阵中的第 i维向量， 确定为所述第i个 词语的编码向量； 所述 i为大于或等于1且小于或等于所述总数量的整数。 7.一种自然语言处 理装置， 其特 征在于， 包括：权　利　要　求　书 1/2 页 2 CN 114997160 A 2获取模块， 用于获取待处 理文本中包括的目标词语； 确定模块， 用于根据所述目标词语、 预设编码矩阵和预先得到的语义空间中包括的多 个预设文本的二维坐标， 确定所述目标词语对应的稀疏编码矩阵； 处理模块， 用于通过层级实时记忆HTM模型对所述稀疏编码矩阵进行处理， 得到待处理 文本对应的预测文本 。 8.一种电子设备， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器执行所述程序时实现如权利要求1至6任一项所 述自然语言处 理方法。 9.一种非暂态计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机 程序被处 理器执行时实现如权利要求1至 6任一项所述自然语言处 理方法。 10.一种计算机程序产品， 包括计算机程序， 其特征在于， 所述计算机程序被处理器执 行时实现如权利要求1至 6任一项所述的自然语言处 理方法。权　利　要　求　书 2/2 页 3 CN 114997160 A 3