(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210405517.3 (22)申请日 2022.04.18 (71)申请人 北京百度网讯科技有限公司 地址 100085 北京市海淀区上地十街10号 百度大厦2层 (72)发明人 陈艳　刘璟　颜璟　 (74)专利代理 机构 北京鸿德 海业知识产权代理 有限公司 1 1412 专利代理师 谷春静 (51)Int.Cl. G06F 40/194(2020.01) G06F 40/30(2020.01) G06N 3/08(2006.01) (54)发明名称 模型获取方法、 装置、 电子设备及存 储介质 (57)摘要 本公开提供了模型获取方法、 装置、 电子设 备及存储介质， 涉及深度学习以及自然语言处理 等人工智能领域， 其中的方法可包括： 获取预训 练得到的初始模型； 针对预定类型的任务， 生成 所述任务对应的M种不同类型的对抗样本， M为大 于一的正整数， 并执行以下第一处理： 将生成的 对抗样本加入对抗样本集， 结合对抗样本集以及 所述任务对应的原始样本集对所述初始模型进 行训练， 得到所述任务对应的任务处理模型。 应 用本公开所述方案， 可提升模型的鲁棒 性。 权利要求书2页 说明书9页 附图3页 CN 114841137 A 2022.08.02 CN 114841137 A 1.一种模型获取 方法， 包括： 获取预训练得到的初始模型； 针对预定类型的任务， 生成所述任务对应的M种不同类型的对抗样本， M为大于一的正 整数， 并执 行以下第一处 理： 将生成的对抗样本加入对抗样本集， 结合所述对抗样本集以及所述任务对应的原始样 本集对所述初始模型进行训练， 得到所述任务对应的任务处 理模型。 2.根据权利要求1所述的方法， 还 包括： 所述结合所述对抗样本集以及所述任务对应的原始样本集对所述初始模型进行训练 之后， 确定是否符合结束条件； 响应于确定符合结束条件， 将最 新得到的初始模型作为所述任务处 理模型； 响应于确定不符合结束条件， 生成所述任务对应的N种不同类型的对抗样本， 并重复执 行所述第一处 理， N为正整数， 且N小于或等于 M， 所述M种不同类型中包括所述 N种不同类型。 3.根据权利要求1或2所述的方法， 其中， 所述M种不同类型的对抗样本包括以下至少两种： 丢词类型的对抗样本， 转义类型的对 抗样本， 反义类型 的对抗样本， 否定类型的对抗样本， 句法变化类型 的对抗样本， 意图变化 类型的对抗样本 。 4.根据权利要求1或2所述的方法， 其中， 针对任一种类型， 分别按照以下 方式生成所述类型的对抗样本： 按照所述类型对应的样本生成规则， 生成所述类型的对抗样本； 或者， 利用所述类型对应的样本生成模型， 生成所述类型的对抗样本 。 5.根据权利要求2所述的方法， 其中， 所述生成所述任务对应的N种不同类型的对抗样 本包括： 获取所述最新得到的初始模型的评估结果； 根据所述评估结果确定出需要生成的所述N种不同类型的对抗样本， 并生成所述N种不 同类型的对抗样本 。 6.根据权利要求5所述的方法， 其中， 所述生成所述任务对应的M种不同类型的对抗样本包括： 针对所述M种不同类型， 分别 生成相同数量的对抗样本； 所述生成所述任务对应的N种不同类型的对抗样本包括： 按照对应类型的评估结果越 差生成的对抗样本数量越多的原则， 生成所述 N种不同类型的对抗样本 。 7.一种模型获取装置， 包括： 获取模块以及优化模块； 所述获取模块， 用于获取 预训练得到的初始模型； 所述优化模块， 用于针对预定类型的任务， 生成所述任务对应的M种不同类型的对抗样 本， M为大于一的正整 数， 并执行以下第一处理： 将生成的对抗样本加入对抗样本集， 结合所 述对抗样本集以及所述任务对应的原始样本集对所述初始模型进 行训练， 得到所述任务对 应的任务处 理模型。 8.根据权利要求7 所述的装置， 其中， 所述优化模块进一步用于， 所述结合所述对抗样本集以及所述任务对应的原始样本集 对所述初始模型进 行训练之后， 确定是否符合结束 条件， 响应于确定符合结束 条件， 将最新权　利　要　求　书 1/2 页 2 CN 114841137 A 2得到的初始模型作为所述任务处理模型， 响应于确定不符合结束条件， 生成所述任务对应 的N种不同类型的对抗样 本， 并重复执行所述第一处理， N为正整 数， 且N小于或等于M， 所述M 种不同类型中包括所述 N种不同类型。 9.根据权利要求7或8所述的装置， 其中， 所述M种不同类型的对抗样本包括以下至少两种： 丢词类型的对抗样本， 转义类型的对 抗样本， 反义类型 的对抗样本， 否定类型的对抗样本， 句法变化类型 的对抗样本， 意图变化 类型的对抗样本 。 10.根据权利要求7或8所述的装置， 其中， 所述优化模块针对任一种类型， 分别按照以下方式生成所述类型的对抗样本： 按照所 述类型对应的样 本生成规则， 生成所述类型的对抗样本， 或者， 利用所述类型对应的样 本生 成模型， 生成所述类型的对抗样本 。 11.根据权利要求8所述的装置， 其中， 所述优化模块获取所述最新得到的初始模型的评估结果， 根据 所述评估结果确定出需 要生成的所述 N种不同类型的对抗样本， 并生成所述 N种不同类型的对抗样本 。 12.根据权利要求1 1所述的装置， 其中， 所述优化模块针对所述M种不同类型， 分别生成相同数量的对抗样本， 并按照对应类型 的评估结果越差生成的对抗样本数量越多的原则， 生成所述 N种不同类型的对抗样本 。 13.一种电子设备， 包括： 至少一个处 理器； 以及 与所述至少一个处 理器通信连接的存 储器； 其中， 所述存储器存储有可被所述至少一个处理器执行的指令， 所述指令被所述至少一个处 理器执行， 以使所述至少一个处 理器能够执 行权利要求1 ‑6中任一项所述的方法。 14.一种存储有计算机指令的非瞬时计算机可读存储介质， 其中， 所述计算机指令用于 使计算机执 行权利要求1 ‑6中任一项所述的方法。 15.一种计算机程序产品， 包括计算机程序/指令， 所述计算机程序/指令被处理器执行 时实现权利要求1 ‑6中任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 114841137 A 3