(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221095210 3.2 (22)申请日 2022.08.09 (71)申请人 浙江工业大 学 地址 310014 浙江省杭州市拱 墅区潮王路 18号 (72)发明人 孔祥杰　高浩然　伊秋华　 (74)专利代理 机构 杭州天正专利事务所有限公 司 33201 专利代理师 楼明阳 (51)Int.Cl. G06F 16/9535(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06Q 50/00(2012.01) (54)发明名称 一种基于人群移动模式先验的兴趣点推荐 方法 (57)摘要 一种基于人群移动模式先验的兴趣点推荐 方法， 包括： (1)获取同一时空的城市交通数据、 POI数据和用户签到数据， 进行数据处理； (2)提 取城市中的人群移动模式， 设计下游任务对人群 移动模式提取模块进行预训练； (3)在深层模型 中加入步骤(2)中提取的人群移动模式先验特 征； (4)把原始Wide&Deep模型的Wide部分更改为 Cross网络， 在线性模型部分加入特征交叉层； (5)连接步骤(3)中的Deep网络和步骤(4)中的 Cross网络输出， 将拼接向量输入到最后的单层 感知机中， 对最终的目标做拟合， 输出用户j在兴 趣点i签到的预测分数p。 本发明的推荐结果更加 符合人类出行意愿， 解决了由大量充斥在社交网 络上的推广信息给人们出行带来的选择困难问 题。 权利要求书3页 说明书9页 附图3页 CN 115357786 A 2022.11.18 CN 115357786 A 1.一种基于人群移动模式先验的兴趣点推荐方法， 包括如下步骤： (1)获取同一时空的城市交通数据、 POI数据和用户签到数据， 进行 数据处理； (2)提取城市中的人群移动模式， 设计下游任务对人群移动模式提取模块进行 预训练； (3)在深层模型中加入步骤(2)中提取的人群移动模式先验特 征； (4)把原始Wide&Deep模型的Wide部分更改为Cross网络， 在线性模型部分加入特征交 叉层； (5)连接步骤(3)中的Deep网络和步骤(4)中的Cross网络输出， 将拼接向量输入到最后 的单层感知机中， 对最终的目标做拟合， 输出用户j在兴趣点 i签到的预测分数。 2.如权利要求1所述的一种基于人群移动模式先验的兴趣点推荐方法， 其特征在于， 步 骤(1)具体包括： 11).获取源数据， 进行 数据预处 理， 如GPS坐标墨卡 托投影； 12).使用城市交通数据集和兴趣点数据集构建时空图； 将城市选定范围栅格划分为r ×r个区域， 每一个轨迹点和POI点映射到划分好的栅格中， 按照一定的时间间隔对城市的 交通流量数据进行采集， 并对每一个间隔内的数据进行时间上 的聚合， 把人群移动流量构 造为时空图Gt(Vt,Et,At)； 其中|Vt|＝r×r， 表明城市中划分的所有区域构成了时空图的节点Et＝{(u,v)|u,v∈ Vt}， 表示城市中任意两个区域的人群移动关系， 使用wu,v表示边(u,v)的权重， 既在时间片t 内从区域u到区域v的人流 量； At为节点属性矩阵， 表示每 个节点范围内的兴趣点分布； 13).生成兴趣点特征向量， 表现功能属性分布； 设有k类不同的兴趣点类型， 对每一个 区域i构建[fi1,fi2,...,fik]T， 其中 表示i区域内第j类兴趣点的个数； 14).处理用户签到数据； 分别处理类别型特征和数值型特征， 包括使用One ‑hot编码将 类别型特征转换到数值型特征、 采用归一化的方式处理数值型特征以及将分布不均匀的数 值特征转换为类别特 征。 3.如权利要求1所述的一种基于人群移动模式先验的兴趣点推荐方法， 其特征在于， 步 骤(2)中人群移动模式提取框架有三个主要部 分： 人群移动模式提取模块， 基于多头注 意力 机制的编码解码模块， 适配下游任务的上采样模块； 具体包括： 21).从人群移动模式提取模块提取出人群移动模式特征； 先从步骤12)构建的时空图 获取该模块的输入： 节点属性和邻接矩阵序列； 输入经由图神经网络和前馈网络模块， 得到 人群移动模式的特 征； 图神经网络构建的具体步骤如下： 首先获得图G的拉普拉斯矩阵L＝D ‑A， 对L进行特征值分解得L＝UΛUT； 其中D为图G的度 矩阵， D＝dia g(d1,d2,...,dn)， di是节点i在图G中的度， A为图G的邻接矩阵； 其次， 假设由13)获得的功能属性分布向量为x， 由其傅里叶变换 相应的逆变换 得到图信号x与卷积核h在图G上的卷积形式 将上述的 替换为 其中 是可学习的参数； 最后获得图神经网络 框架为：权　利　要　求　书 1/3 页 2 CN 115357786 A 2其中 为城市功能属性矩阵， 为流量邻接矩阵， 是 对 应的度矩阵， 是待学习的网络参数， σ 为非线性激活函数； 训练好一个图神经网络后， 对每一个时间片所属的图卷积神经网络共享参数权重， 对 不同时间片的输入的反向传播梯度采用加 和平均处 理； 最后引入前馈网络部分； 首先将单个时间片的节点特征拉平， 接着输入多层感知机进 行降维操作， 得到某个时间片的城市人群移动模式表征向量； 22).引入多头注意力机制； 使用人群移动模式的表征向量序列作为输入表征， 使用下 游任务的目标 数据表征作为输出表征； 注意力机制可以由以下公式表示： 设原始注意力模块复制h次， 即h头注意力； 对多头注意力模块输入相同的数据 得到h个 单头注意力的结果； 将多头结果拼接， 并经过线性层转换得到融合的特征输出； 多头注意力 公式如下： 23).上采样模块： 使用反卷积神经网络将预测的表征向量还原为与真实数据相同的结 构。 4.如权利要求1所述的一种基于人群移动模式先验的兴趣点推荐方法， 其特征在于， 步 骤(3)具体包括： 31).将步骤14)中离 散特征表征转 为稠密特 征： 其中， 为离散特征， 为稠密特 征； 32).加入步骤(2)中提取的人群移动模式先验特 征， 并拼接所有稠密特 征： 其中， fh为城市人群移动模式特 征； 33).利用De ep网络融合 步骤32)中获得的稠密特 征:h0＝ReLU(W0fd+b0) 34).将步骤33)中融合结果经过两层的全连接层(激活函数使用ReLU)， 得到稠密特征 h， 公式为： hl+1＝ReLU(Wlhl+bl)              6) 5.如权利要求1所述的一种基于人群移动模式先验的兴趣点推荐方法， 其特征在于， 所 述步骤(4)具体包括： 把原始Wide&D eep模型的Wide部分更改为Cross网络， 利用多个 交叉层(Crosslayer)进 行特征交叉得到离散特征的高阶表示x； 若第l个 交叉层的输出向量为xl， 那么第l+1层的输 出为权　利　要　求　书 2/3 页 3 CN 115357786 A 3