(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210470248.9 (22)申请日 2022.04.28 (71)申请人 电子科技大 学 地址 610000 四川省成 都市高新区 （西区） 西源大道 2006号 (72)发明人 邱士林　刘启和　张准　周世杰　 曾逸　靳佳冀　武哲纬　周金　 于泽楠　 (74)专利代理 机构 成都东恒知盛知识产权代理 事务所 (特殊普通合伙) 51304 专利代理师 罗江 (51)Int.Cl. G06F 40/30(2020.01) G06F 40/205(2020.01)G06F 40/166(2020.01) G06F 16/33(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于风格变换的高迁移性对抗文本生 成方法 (57)摘要 本发明公开了一种基于风格变换的高迁移 性对抗文本生成方法， 包括如下步骤： S1、 构建预 训练模型， 包括构建原始替代模型Forg、 构建释义 生成器P、 构建特征提取器E和特征解码器D； S2、 构建测试文本的向量表示集和替代模型集F； 所 述测试文本的向量表示集包括语义特征向量集 Vp、 缩放因子集 和风格特征向量集Vs； S3、 构建 任务集， 包括构建总任务集Task， 划分查询任务 集Taskqr和支持任务集Tasksr； S4、 利用元学习优 化策略获取风格特征噪声向量δ*； S5、 生成对抗 文本x*。 本发明通过结合风格变换和元学习策 略， 在黑盒场景下能生成具备强攻击能力、 高迁 移性的对抗文本 。 权利要求书5页 说明书14页 附图3页 CN 114925699 A 2022.08.19 CN 114925699 A 1.一种基于风格 变换的高迁移性对抗文本生成方法， 其特 征在于， 包括如下步骤： S1、 构建预训练模型， 包括构建原始替代模型Forg、 构建释义生成器P、 构 建特征提取器E 和特征解码器D； S2、 构建测试文本的向量表示集和替代模型集 所述测试文本的向量表示集包括语义 特征向量集Vp、 缩放因子集 和风格特 征向量集Vs； S3、 构建任务 集， 包括构建总任务 集Task， 划分查询任务 集Taskqr和支持任务 集Tasksr； S4、 利用元 学习优化策略获取风格特 征噪声向量 δ*； S5、 生成对抗文本x*。 2.根据权利要求1所述的基于风格变换的高迁移性对抗文本生成方法， 其特征在于： 在 步骤S1中， 所述构建原 始替代模型 Forg具体包括： 设训练文本集为 将Xtr输入到目标模型中， 从而获得目标模型对Xtr的预测 标签集 将Xtr和Ytr配对， 形成原 始训练数据集 将Wtr作为训练数据， 训练后得到目标模型的原 始替代模型 Forg； 所述构建释义生成器P具体包括： 设文本释义数据集为 将W作 为训练数据， 训练得到释义 生成器P； 所述的构建特 征提取器E和特 征解码器D具体包括： 先搭建初始特征提取器和初始特征解码器的联合网络模型， 初始特征提取器由预训练 模型BERT和池化层Pooling组成， 初始特征解码器由预训练模型BERT和全连接层Linear组 成； 将原始文本集Xtr中的文本进行向量 化， 得到原 始文本向量 集 权　利　要　求　书 1/5 页 2 CN 114925699 A 2将原始文本向量 集Vtr作为输入， 输入到联合模型中， 得到 输出向量 计算损失值， 根据该损失值利用梯度反向传播策略更新 一次联合模型的参数； 重复执行 ψ次上述 步骤， 训练得到特 征提取器E和特 征解码器D。 3.根据权利要求1所述的基于风格变换的高迁移性对抗文本生成方法， 其特征在于： 所 述步骤S2中构建测试文本的向量表示 集的具体步骤 包括： S21、 构建释义文本集； S21‑1、 设测试 数据为datats＝(xts， yts)， yts是测试文本xts的真实标签； S21‑2、 将xts输入到释义 生成器P中， 获得xts的一个释义文本； S21‑3、 重复执 行G次步骤S21 ‑2， 得到xts的释义文本集 S22、 获取文本特 征向量、 语义特 征向量集； 将xts作为输入， 输入到特征提取器E中， 得到xts的文本特征向量vA； 依次将Xp中的每一 个释义文本 作为输入， 输入到特征提取器E中， 得到Xp的语义特征向量集 是 的语义特 征向量； S23、 获取缩放因子集、 风格特 征向量集； S23‑1、 对一个语义特征向量 和文本特征向量vA， 求解得到 对应的缩放因子βg和风 格特征向量 S23‑2、 对Vp中的每一个 执行步骤S23 ‑1， 得到 和风格特征向量 集 权　利　要　求　书 2/5 页 3 CN 114925699 A 3