(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211219181.8 (22)申请日 2022.09.30 (71)申请人 电子科技大 学 地址 611731 四川省成 都市高新区 （西区） 西源大道 2006号 (72)发明人 代婷婷　刘峤　钟诣哲　曾悦　 赵海睿　石晓军　郎俊杰　王永安　 甘洋镭　侯睿　佟飘　 (74)专利代理 机构 电子科技大 学专利中心 51203 专利代理师 张冉 (51)Int.Cl. G06F 16/9535(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01)G06Q 30/06(2012.01) (54)发明名称 一种基于自适应的用户兴趣双重纠偏的会 话推荐方法 (57)摘要 本发明公开了一种基于自适应的用户兴趣 双重纠偏的会话推荐 方法， 属于会话推荐技术领 域。 本发明所述方法主要包括以下步骤： 初始化 用户点击序列中各物品的高维空间语义及位置 表示， 拼接得到物品表示矩阵， 再生成包含时序 和上下文信息的物品表示矩阵； 利用第一自适应 纠偏机制初始化当前的用户兴趣表 示， 再利用包 含第二自适应纠偏机制的用户兴趣表示蒸馏模 块输出下一时刻的用户兴趣表示； 进而对物品字 典中所有物品于下一时刻被点击的概率进行预 测。 本发明所述方法采用自适应纠偏机制， 有效 解决了最后一次物品点击无法准确表示用户当 前兴趣的问题， 降低了噪声信息在下一时刻的用 户兴趣表示中的含量， 具有更高的预测精准度。 权利要求书3页 说明书6页 CN 115481323 A 2022.12.16 CN 115481323 A 1.一种基于自适应的用户兴趣双重纠偏的会话推荐方法， 其特 征在于， 包括以下步骤： 步骤1.初始化用户点击序列中各物品的高维空间语义表示和高维空间位置表示， 拼接 得到物品的高维空间表示和用户点击序列的物品表示矩阵； 步骤2.将用户点击序列的物品表示矩阵依次输入至自注意力网络和前馈神经网络 中， 生成包含时序和上 下文信息的物品表示矩阵； 步骤3.将若干个蒸馏单元依次堆叠， 构建用户兴趣表示蒸馏模块； 蒸馏单元包含加性 注意力网络和以自适应残差方法构建的第二自适应纠偏机制两部分； 利用第一自适应纠偏 机制对当前的用户兴趣表示进 行初始化， 连同用户点击序列的物品表示矩阵输入至包含第 二自适应纠偏机制的用户兴趣表示蒸馏模块中， 得到下一时刻的用户兴趣表示； 步骤4.基于下一时刻的用户兴趣表示对物品字典中的所有物品进行预测， 得到物品字 典中所有物品的概 率值， 取概率最大值对应的物品作为会话中下一时刻推荐的物品。 2.根据权利要求1所述的基于自适应的用户兴趣双重纠偏的会话推荐方法， 其特征在 于， 步骤1的具体过程 为： 步骤1‑1.物品字典为V＝{v1， v2， ...， v|V|}， 其中vj表示物品字典中第j个物品， 1≤j≤| V|， |V|为物品字典的大小； 物品字典的高维空间语义表示为X＝{x1， x2， ...， x|V|}， 其中 表示物品字典中第j个物品的高维空间语义表示， 表示d维向量； 会话序列的高维空间位置表示为P＝{p1， p2， ...， pL}， 其中 表示会话序列中第k 时刻用户点击物品的高维空间位置表示， 1≤k≤L， L 为会话序列中用户点击物品次数； 从会话序列中截取时长为t的用户点击序列为St＝{s1， s2， ...， st}， 其中si表示第i时刻 用户点击的物品在物品字典V中的序号， 1≤i≤t， t＜L。 步骤1‑2.将si对应物品的高维空间语义表示和高维空间位置表示 分别记为 和pi ∈P； 将高维空间语义表示 和高维空间位置表示pi进行拼接， 得到用户点击序列中si对应 的物品高维空间表示ci和用户点击序列的物品表示矩阵C， 即： C＝{c1， c2， ...， ct} 其中， Concat表示拼接。 3.根据权利要求2所述的基于自适应的用户兴趣双重纠偏的会话推荐方法， 其特征在 于， 步骤2的具体过程 为： 步骤2‑1.将用户点击序列的物品表示矩阵C输入至自注意力网络， 得到第一物品表示 矩阵 其中， softmax为激活函数， 上标T表示转置， 权重参数矩阵 表示2d×2d维矩阵；权　利　要　求　书 1/3 页 2 CN 115481323 A 2步骤2‑2.将用户点击序列的第一物品表示矩阵 输入至带有残差机制的前馈神经网 络中， 得到用户点击序列的第二物品表示矩阵A： 其中， ReLU为激活函 数， 权重参 数矩阵 偏移参数 表示2d 维向量。 4.根据权利要求3所述的基于自适应的用户兴趣双重纠偏的会话推荐方法， 其特征在 于， 步骤3的具体过程 为： 步骤3‑1.利用自适应特 征组合方法构建第一自适应纠偏机制； 基于用户点击序列中最后一次点击对应的物品高维空间表示ct， 利用自适应特征组合 方法对当前的用户兴趣表示进行初始化， 具体过程表示 为： 其中， 表示当前的用户兴趣表示的初始值， 权 重参数矩阵 步骤3‑2.构建用户兴趣表示蒸馏单元， 包含加性注意力网络和以自适应残差方法构建 的第二自适应纠偏机制两 部分； 其中， 加性注意力网络表示 为： αi＝WTσ(W5Ai+W6up+b3) 其中， up为当前的用户兴趣表示， Ai为矩阵A中第i时刻用户点击物品的物品高维空间表 示， σ 为sigmoid激活函数， αi为up关于Ai的相关性得分， cor表示加性注意力网络的输出结 果， 权重参数矩阵 偏移参数 基于加性注意力网络的输出结果， 利用自适应残差方法对当前的用户兴趣表示进行更 新， 以自适应残差方法构建的第二自适应纠偏机制表示 为： u′p＝W7cor+W8up 其中， u′p为更新后的当前的用户兴趣表示， 作为蒸馏单元的知 识蒸馏结果， 权重参数矩 阵 将上述蒸馏单 元处理过程记为u ′p＝DU(A， up)， DU表示蒸馏单 元对应的函数； 步骤3‑3.将l个蒸馏单元进行堆叠， l≥1， 形成用户兴趣表示蒸馏模块。 将 和矩阵A输 入至用户兴趣表示蒸馏模块， 用户兴趣表示蒸馏模块表示 为： 权　利　要　求　书 2/3 页 3 CN 115481323 A 3