(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210900591.2 (22)申请日 2022.07.28 (71)申请人 清华大学深圳国际研究生院 地址 518055 广东省深圳市南 山区西丽 街 道深圳大 学城清华校区A栋二楼 (72)发明人 肖喜　李毅　苏良才　夏树涛　 江勇　郑海涛　 (74)专利代理 机构 深圳新创友知识产权代理有 限公司 4 4223 专利代理师 江耀锋 (51)Int.Cl. G06F 16/9535(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种专业情 报推荐方法和系统 (57)摘要 本发明公开了一种专业情报 推荐方法， 包括 以下步骤： 获取情报表征和情报机构表征； 基于 自注意力的特征交叉网络， 对特征进行显示地高 阶建模， 获得匹配分数； 根据匹配分数从高到低 进行排列， 从而产生最终的情报推荐列表， 其中， 情报表征由情报标签表征和情报内容表征融合 而来； 情报标签表征是基于图卷积神经网络的标 签增强方法获取的； 情报内容表征是基于候选的 多样化情报数据， 通过多模态自适应模 型预训练 获取的； 情报机构表征是基于情报 机构自身发布 的情报数据， 通过多模态对齐模型预训练获取 的。 本发明能高效且准确地为专业情报机构推荐 相应的情报信息， 有益于情报表征能力的增强， 有效提升 了情报推荐效果。 权利要求书2页 说明书7页 附图1页 CN 115269984 A 2022.11.01 CN 115269984 A 1.一种专业情 报推荐方法， 其特 征在于， 包括以下步骤： S1、 获取情 报表征和情 报机构表征； S2、 基于自注意力的特征交叉网络， 对所述情报表征和情报机构表征进行显示地高阶 建模； S3、 根据模型输出的匹配分数产生情 报推荐列表； 在步骤S1中， 所述情报表征由情 报标签表征和情 报内容表征融合而来； 所述情报标签表征 是基于图卷积神经网络的标签增强方法获取的； 所述情报内容表征是基于候选的多样化情报数据， 通过多模态自适应模型预训练获取 的； 所述情报机构表征是基于情报机构自身发布的情报数据， 通过多模态对齐模型预训练 获取的。 2.如权利要求1所述的专业情报推荐方法， 其特征在于， 步骤S1还包括： 将查询词 ‑情 报‑标签建模为三部图， 将情报打标签的任务转换为图上 的情报节点与标签节点之间的链 接预测问题； 基于所述图卷积神经网络传播三部图中的所有信息， 使得情报节点和标签节 点都能融合邻居信息以获得 更好的表征。 3.如权利要求1所述的专业情报推荐方法， 其特征在于， 所述标签增强方法中， 基于情 报和标签的表征进行相似度计算， 相似度最高的一个或多个标签则作为该情报的新增标 签。 4.如权利要求1所述的专业情报推荐方法， 其特征在于， 所述多模态包括图像模态和文 本模态。 5.如权利要求4所述的专业情报推荐方法， 其特征在于， 所述多模态对齐模型利用Co ‑ Attentional  Transformer模块将图像和文本两个模态的信息进行融合； 文本和图像侧都 各自得到了融合了其他模态的表征； 将这两侧输出的表征进 行拼接得到最终的情报机构表 征。 6.如权利要求5所述的专业情报推荐方法， 其特征在于， 所述多模态对齐模型包括分别 作用于图像和文本的两个平行Tr ansformer模型； 图像和文本两个模态的特征融合则利用 Co‑Attention模块完成； 情报中的文本内容经嵌入层送入Transformer的编码器进行上下 文信息的提取， 得出文本表征TeE； 对于情报中的图像部分， 首先将图像分块， 再展平， 其中 的每一个图片块展平成一维向量； 接着对每个向量进行线性变换， 得到的向量输入 Transformer的编码器， 得到图像的表征PiE； 利用Co ‑Attentional  Transformer模块将两 个模态的信息进行融合； 图像侧的Co ‑Attentional  Transformer模块利用文本表征TeE获 得Key、 Value矩阵， Query矩阵则由图像表征PiE生成； 文本侧的Co ‑Attentional   Transformer模块的K ey、 Value矩阵源于图像表征PiE， Query矩阵源于文本表征TeE 。 7.如权利要求1所述的专业情报推荐方法， 其特征在于， 步骤S1中， 所述多模态自适应 模型学习情报内容表征， 同时通过预训练技术使多模态自适应模型能够基于大规模的数据 提取有效信息， 使得 下游模型能快速收敛。 8.如权利要求7所述的专业情报推荐方法， 其特征在于， 所述多模态自适应模型包含策 略网络。权　利　要　求　书 1/2 页 2 CN 115269984 A 29.一种专业情报推荐系统， 包括处理器和存储器， 所述存储器中存储有计算机程序， 其 特征在于， 所述计算机程序可被处 理器执行以实现上述权利要求1至8任一项所述的方法。 10.一种计算机可读存储介质， 所述计算机可读存储介质存储有计算机程序， 其特征在 于， 所述计算机程序被处 理器执行时实现如权利要求1至8任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 115269984 A 3