(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221082849 2.8 (22)申请日 2022.07.13 (71)申请人 河南云迹智能技 术有限公司 地址 450000 河南省郑州市高新 技术产业 开发区长椿路6号西美大厦东塔6层 601号 (72)发明人 兰婷婷　曾祥永　支涛　 (74)专利代理 机构 北京嘉科知识产权代理事务 所(特殊普通 合伙) 11687 专利代理师 杨超 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 5/04(2006.01) G06V 10/774(2022.01)G06V 10/80(2022.01) G06V 10/82(2022.01) (54)发明名称 卷积神经网络模型推理方法、 装置、 设备及 存储介质 (57)摘要 本申请提供一种卷积神经网络模型推理方 法、 装置、 设备及存储介质。 该方法包括： 将训练 后的卷积神经网络模型进行加载， 读取训练后的 卷积神经网络模 型对应的模型参数， 并获取训练 后的卷积神经网络模型对应的标准化参数； 确定 训练后的卷积神经网络模型中与输入层直接相 连的卷积层， 从模型参数中获取与卷积层相对应 的卷积层参数； 基于预定的标准化公 式以及卷积 公式， 将标准化参数融合到卷积层参数中， 得到 融合后的卷积层参数； 利用融合后的卷积层参数 对训练后的卷积神经网络模型进行更新， 得到新 的卷积神经网络模型， 将图像数据直接作为新的 卷积神经网络模 型的输入， 利用新的卷积神经网 络模型进行推理。 本申请提升了模 型的推理速度 以及推理效率。 权利要求书2页 说明书9页 附图2页 CN 115081596 A 2022.09.20 CN 115081596 A 1.一种卷积神经网络模型推理方法， 其特 征在于， 包括： 将训练后的卷积神经网络模型进行加载， 读取所述训练后的卷积神经网络模型对应的 模型参数， 并获取 所述训练后的卷积神经网络模型对应的标准 化参数； 确定所述训练后的卷积神经网络模型中与输入层直接相连的卷积层， 从所述模型参数 中获取与所述卷积层相对应的卷积层参数； 基于预定的标准化公式以及卷积公式， 将所述标准化参数融合到所述卷积层参数中， 得到融合后的卷积层参数； 利用融合后的卷积层参数对所述训练后的卷积神经网络模型进行更新， 得到新的卷积 神经网络模型， 将图像数据直接作为所述新的卷积神经网络模型 的输入， 利用所述新的卷 积神经网络模型对所述图像数据进行推理。 2.根据权利要求1所述的方法， 其特征在于， 所述将训练后的卷积神经网络模型进行加 载， 读取所述训练后的卷积神经网络模型对应的模型参数， 包括： 利用预先配置的程序加载所述训练后的卷积神经网络模型， 并读取所述训练后的卷积 神经网络模型对应的模型参数； 其中， 所述训练后的卷积神经网络模型是利用训练数据对预先建立的卷积神经网络模 型进行训练后得到的模型。 3.根据权利要求2所述的方法， 其特征在于， 所述获取所述训练后的卷积神经网络模型 对应的标准 化参数， 包括： 在利用训练数据对预先建立的卷积神经网络模型进行训练时， 对所述训练数据进行标 准化处理得到与所述训练后的卷积神经网络模型相对应的标准 化参数； 其中， 所述训练数据包括用于模型训练的样本 图像数据， 所述标准化参数包括均值和 标准差。 4.根据权利要求1所述的方法， 其特征在于， 所述确定所述训练后的卷积神经网络模型 中与输入层直接相连的卷积层， 从所述模型参数中获取与所述卷积层相对应的卷积层参 数， 包括： 基于所述训练后的卷积神经网络模型的内部结构， 确定与所述训练后的卷积神经网络 模型内的输入层直接相连的一个或多个卷积层， 并从所述模型参数中读取与每个所述卷积 层分别对应的卷积层参数； 其中， 所述卷积层参数包括权重参数和偏置参数， 每个所述卷积层对应一组由所述权 重参数和偏置参数 所组成的卷积层参数。 5.根据权利要求1所述的方法， 其特征在于， 将所述标准化公式和卷积公式分别表示 为： 标准化公式： 卷积公式： Y＝ W*X+B 其中， A表示对训练数据进行标准化处理后的特征图数据， valuemean表示标准化参数中 的均值， valuestd表示标准化参数中的标准差， Y表示卷积层输出的特征图数据， W表示卷积 层对应的权 重参数， B表示卷积层对应的偏置参数， X表示卷积层输入的特 征图数据。 6.根据权利要求5所述的方法， 其特征在于， 利用以下公式将所述标准化参数融合到所权　利　要　求　书 1/2 页 2 CN 115081596 A 2述卷积层参数中， 得到融合后的卷积层参数： 其中， 表示融合后的权重参数， 表示中间矩阵， 将所述中间矩 阵进行全局平均池化后得到的值与初始偏置参数B相加得到融合后的偏置参数。 7.根据权利要求1所述的方法， 其特征在于， 所述利用融合后的卷积层参数对所述训练 后的卷积神经网络模型进行 更新， 得到新的卷积神经网络模型， 包括： 将所述训练后的卷积神经网络模型的模型参数中的所述卷积层对应的卷积层参数替 换为融合后的卷积层参数， 以便将所述融合后的卷积层参数保存到所述训练后的卷积神经 网络模型中， 得到新的卷积神经网络模型。 8.一种卷积神经网络模型推理装置， 其特 征在于， 包括： 读取模块， 被配置为将训练后的卷积神经网络模型进行加载， 读取所述训练后的卷积 神经网络模型对应的模型参数， 并获取所述训练后的卷积神经网络模型对应的标准化参 数； 确定模块， 被配置为确定所述训练后的卷积神经网络模型中与输入层连接的卷积层， 从所述模型参数中获取与所述卷积层相对应的卷积层参数； 融合模块， 被配置为基于预定的标准化公式以及卷积公式， 将所述标准化参数融合到 所述卷积层参数中， 得到融合后的卷积层参数； 更新模块， 被配置为利用融合后的卷积层参数对所述训练后的卷积神经网络模型进行 更新， 得到新的卷积神经网络模型， 将图像数据直接作为所述新的卷积神经网络模型 的输 入， 利用所述 新的卷积神经网络模型对所述图像数据进行推理。 9.一种电子设备， 包括存储器， 处理器及存储在存储器上并可在处理器上运行的计算 机程序， 所述处 理器执行所述程序时实现如权利要求1至7中任一项所述的方法。 10.一种计算机可读存储介质， 所述计算机可读存储介质存储有计算机程序， 其特征在 于， 所述计算机程序被处 理器执行时实现如权利要求1至7中任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 115081596 A 3