(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210408734.8 (22)申请日 2022.04.19 (71)申请人 海信视像科技股份有限公司 地址 266555 山东省青岛市经济技 术开发 区前湾港路218号 (72)发明人 张桐桐　殷腾龙　 (74)专利代理 机构 北京国之大铭知识产权代理 事务所(普通 合伙) 11565 专利代理师 张平 (51)Int.Cl. G06F 40/279(2020.01) G06F 40/30(2020.01) (54)发明名称 端到端模 型训练方法、 语义理解方法、 装置、 设备和介质 (57)摘要 本公开涉及一种端到端模型训练方法、 语义 理解方法、 装置、 设备和介质； 其中， 该方法包括： 获取训练样本， 训练样本包括自然语言文本、 自 然语言文本对应的关键词集合 以及关键词对应 的标签信息集合； 定义端到端语义理解模型的框 架， 基于端到端语义理解模型的框架和训练样 本， 生成对应的语义理解结果， 语义理解结果包 括意图识别结果、 关键词以及每个 关键词对应的 标签信息； 基于预设损失函数， 根据训练样本对 端到端语义理解模型的框架进行训练， 得到端到 端语义理解模 型。 本公开实施例通过训练样本对 端到端语义理解模型的框架进行端到端训练， 得 到端到端语义理解模型， 使得语义理解更准确， 减少误差的积累， 且有利于提高领域对话理解的 准确性。 权利要求书2页 说明书15页 附图6页 CN 114781365 A 2022.07.22 CN 114781365 A 1.一种端到端语义理解模型训练方法， 其特 征在于， 所述方法包括： 获取训练样本， 所述训练样本包括自然语言文本、 所述自然语言文本对应的关键词集 合以及关键词对应的标签信息集 合； 定义端到端语义理解模型的框架， 基于所述端到端语义理解模型的框架和所述训练样 本， 生成对应的语义理解结果， 所述语义理解结果包括意图识别结果、 关键词以及每个关键 词对应的标签信息； 基于预设损 失函数， 根据所述训练样本对所述端到端语义理解模型的框架进行训练， 得到端到端语义理解模型。 2.根据权利要求1所述的方法， 其特征在于， 所述端到端语义理解模型的框架包括语义 特征提取单元、 全连接层以及目标 结果分数计算单 元； 所述语义特 征提取单元用于基于所述自然语言文本生成对应的语义向量； 所述全连接层用于对所述语义向量进行融合处理， 得到意图识别预测向量和关键词预 测向量； 所述目标结果分数计算单元用于基于所述意图识别预测向量和所述关键词预测向量 分别得到对应的预测分数， 并基于所述预测分数确定所述自然语言文本对应的语义理解结 果。 3.根据权利要求2所述的方法， 其特征在于， 所述基于所述意图识别预测向量和所述关 键词预测向量分别得到对应的预测分数， 并基于所述预测分数确定所述自然语言文本对应 的语义理解结果， 包括： 基于所述 意图识别预测向量， 根据第一 参数矩阵， 确定对应的第一预测分数； 基于所述关键词预测向量， 根据第二 参数矩阵， 确定对应的第二预测分数； 基于所述意图识别预测向量和所述关键词预测向量， 根据第三参数矩阵， 确定对应的 第三预测分数； 基于所述第一预测分数、 所述第二预测分数以及所述第三预测分数， 确定所述自然语 言文本对应的语义理解结果。 4.根据权利要求2所述的方法， 其特征在于， 所述语义特征提取单元包括： 语义表示层 和编码层； 所述语义表示层， 用于基于所述自然语言文本生成对应的表示向量； 所述编码层， 用于对所述表示向量进行特征提取， 得到所述自然语言文本对应的语义 向量。 5.根据权利要求3所述的方法， 其特征在于， 所述基于预设损 失函数， 根据所述训练样 本对所述端到端语义理解模型的框架进行训练， 得到端到端语义理解模型， 包括： 根据所述第一预测分数、 所述第二预测分数、 所述第三预测分数以及所述标签信息集 合， 确定所述预设损失函数对应的损失值； 根据所述损 失值， 调整所述端到端语义理解模型的框架 的参数， 直至所述端到端语义 理解模型的框架收敛， 得到端到端语义理解模型。 6.一种语义理解方法， 其特 征在于， 所述方法包括： 获取待预测文本； 将所述待预测文本输入端到端语义理解模型中， 得到所述待预测文本对应的目标语义权　利　要　求　书 1/2 页 2 CN 114781365 A 2理解结果； 其中， 所述端到端语义理解模型基于如权利要求1至 5任一项所述的方法训练得到 。 7.一种端到端语义理解模型训练装置， 其特 征在于， 所述装置包括： 样本获取模块， 用于获取训练样本， 所述训练样本包括自然语言文本、 所述自然语言文 本对应的关键词集 合以及关键词对应的标签信息集 合； 框架确定模块， 用于定义端到端语义理解模型的框架， 基于所述端到端语义理解模型 的框架和所述训练样本， 生 成对应的语义理解结果， 所述语义理解结果包括意图识别结果、 关键词以及每 个关键词对应的标签信息； 模型确定模块， 用于基于预设损 失函数， 根据所述训练样本对所述端到端语义理解模 型的框架进行训练， 得到端到端语义理解模型。 8.一种语义理解装置， 其特 征在于， 所述装置包括： 文本获取模块， 用于获取待预测文本； 结果确定模块， 用于将所述待预测文本输入端到端语义理解模型中， 得到所述待预测 文本对应的目标语义理解结果； 其中， 所述端到端语义理解模型基于如权利要求1至 5任一项所述的方法训练得到 。 9.一种计算机设备， 其特 征在于， 包括： 一个或多个处 理器； 存储装置， 用于存 储一个或多个程序， 当所述一个或多个程序被所述一个或多个处理器执行， 使得所述一个或多个处理器实 现如权利要求1 ‑6中任一所述的方法。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 该程序被处理器 执行时实现如权利要求1 ‑6中任一所述的方法。权　利　要　求　书 2/2 页 3 CN 114781365 A 3