(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221021015 3.3 (22)申请日 2022.03.04 (71)申请人 北京快确信息科技有限公司 地址 100000 北京市西城区阜成门外大街 31号4层411D (72)发明人 甘伟超　林远平　邹鸿岳　周靖宇　 (74)专利代理 机构 广东良马律师事务所 4 4395 专利代理师 李良 (51)Int.Cl. G06F 40/289(2020.01) G06F 40/30(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于多任务迁移的信息抽取方法、 装置 及电子设备 (57)摘要 本发明公开了一种基于多任务迁移的信息 抽取方法、 装置及电子设备， 方法包括： 获取不同 任务的文本， 对文本进行编码， 生成文本的语义 表征序列； 将语义表征序列输入共性特征抽取网 络， 输出不同任务的共有特征； 将语义表征序列 输入私有特征抽取网络， 输出不同任务的私有特 征； 将所述共有特征和所述私有特征进行融合， 通过序列解码获取序列中每个位置的类别信息， 完成信息抽取。 本发明实施例减少了中算法模型 在特定信息抽取任务上对数据量的过度依赖； 减 少人工标注大量数据的人力和时间成本； 提高了 信息抽取效率。 权利要求书2页 说明书8页 附图2页 CN 114692624 A 2022.07.01 CN 114692624 A 1.一种基于多任务迁移的信息抽取 方法,其特 征在于,所述方法包括： 获取不同任务的文本， 对文本进行编码， 生成文本的语义表征序列； 将语义表征序列输入 共性特征抽取网络， 输出不同任务的共有特 征； 将语义表征序列输入私有特 征抽取网络， 输出不同任务的私有特 征； 将所述共有特征和所述私有特征进行融合， 通过序列解码 获取序列中每个位置的类别 信息， 完成信息抽取。 2.根据权利要求1所述的方法， 其特征在于， 所述将语义表征序列输入共性特征抽取网 络， 输出不同任务的共有特 征后， 包括： 将所述共有特 征输入共性特征判别器， 获取共有特 征的任务 来源。 3.根据权利要求2所述的方法， 其特征在于， 所述获取不同任务的文本， 对文本进行编 码， 生成文本的语义表征序列， 包括： 获取来自于不同任务的文本， 通过BERT预训练模型对文本进行编码； 根据BERT预训练模型的编码结果， 得到文本对应的语义表征序列。 4.根据权利要求3所述的方法， 其特征在于， 所述将语义表征序列输入共性特征抽取网 络， 输出不同任务的共有特 征， 包括： 将语义表征序列输入BiLSTM网络， 获取BiLSTM网络的输出结果， 所述输出结果为不 同 任务的共有特 征。 5.根据权利要求4所述的方法， 其特征在于， 所述将语义表征序列输入私有特征抽取网 络， 输出不同任务的私有特 征， 包括： 将语义表征序列输入CN N模型， 所述CN N模型采用不同大小的卷积核； 根据CNN模型的卷积核对语义表征序列中的信息进行捕捉， 输出不同任务的私有特 征。 6.根据权利要求5所述的方法， 其特征在于， 所述将所述共有特征输入共性特征判别 器， 获取共有特 征的任务 来源， 包括： 将所述共有特征输入共性特征判别器， 所述共性特征判别器由两层全连接神经网络组 成； 根据所述共性特 征判别器对 共有特征进行分类， 得到共有特 征的任务 来源。 7.根据权利要求6所述的方法， 其特征在于， 所述将所述共有特征和所述私有特征进行 融合， 通过序列解码获取序列中每 个位置的类别 信息， 完成信息抽取， 包括： 将所述共有特 征和所述私有特 征进行特征融合， 生成融合特 征； 将融合特 征通过CRF序列解码层对序列进行解码； 根据解码结果获取序列中每 个位置的类别 信息， 完成信息抽取。 8.一种基于多任务迁移的信息抽取装置， 其特 征在于， 所述装置包括： 编码模块， 用于获取不同任务的文本， 对文本进行编码， 生成文本的语义表征序列； 共有特征抽取模块， 用于将语义表征序列输入共性特征抽取网络， 输出不同任务的共 有特征； 私有特征抽取模块， 用于将语义表征序列输入私有特征抽取网络， 输出不同任务的私 有特征； 解码模块， 用于将所述共有特征和所述私有特征进行融合， 通过序列解码获取序列中 每个位置的类别 信息， 完成信息抽取。权　利　要　求　书 1/2 页 2 CN 114692624 A 29.一种电子设备， 其特 征在于， 所述电子设备包括至少一个处 理器； 以及， 与所述至少一个处 理器通信连接的存 储器； 其中， 所述存储器存储有可被所述至少一个处理器执行的指令， 所述指令被所述至少一个处 理器执行， 以使所述至少一个处理器能够执行权利要求1 ‑7任一项所述的基于多任务迁移 的信息抽取 方法。 10.一种非易失性计算机可读存储介质， 其特征在于， 所述非易失性计算机可读存储介 质存储有计算机可执行指令， 该计算机可执行指令被一个或多个处理器执行时， 可使得所 述一个或多个处 理器执行权利要求1 ‑7任一项所述的基于多任务迁移的信息抽取 方法。权　利　要　求　书 2/2 页 3 CN 114692624 A 3