(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210316044.X (22)申请日 2022.03.28 (71)申请人 深圳市百川数安科技有限公司 地址 518000 广东省深圳市南 山区蛇口街 道渔一社区后海 大道1021号东角头工 业区BC座C 631 (72)发明人 刘堡萱　文成明　 (74)专利代理 机构 北京中和立达知识产权代理 有限公司 1 1756 专利代理师 孟姣 (51)Int.Cl. G06N 5/04(2006.01) G06F 40/289(2020.01) G06F 40/30(2020.01) (54)发明名称 基于互联网社区的文本推理方法、 装置及存 储介质 (57)摘要 本发明是关于一种基于互联网社区的文本 推理方法、 装置及存储介质， 方法包括： 获取 互联 网社区中的多个待处理文本； 确定每个待处理文 本的文本长度所属的目标长度区间； 从多个文本 推理服务器组中查找出与所述目标长度区间匹 配的目标文本推理服务器组； 将所述每个待处理 文本发送至对应的目标文本推理服务器组； 针对 每个目标文本推理服务器组， 根据预先确定的与 其对应的单次最大文本推理总条数， 接收待处理 文本， 并对每个待处理文本进行推理。 通过该技 术方案， 尽可能减少冗余计算， 从而提高模型的 推理速度。 权利要求书2页 说明书7页 附图6页 CN 114943339 A 2022.08.26 CN 114943339 A 1.一种基于互联网社区的文本推理方法， 其特 征在于， 所述方法包括： 获取互联网社区中的多个待处 理文本； 确定每个待处理文本的文本 长度所属的目标长度区间； 从多个文本推理服务器组中查找出与所述目标长度区间匹配的目标文本推理服务器 组； 将所述每 个待处理文本发送至对应的目标文本推理服 务器组； 针对每个目标文本推理服务器组， 根据预先确定的与其对应的单次最大文本推理总条 数， 接收待处 理文本， 并对每 个待处理文本进行推理。 2.根据权利要求1所述的方法， 其特征在于， 预先确定每个目标文本推理服务器组对应 的单次最大文本推理总条 数的过程包括： 针对每个目标文本推理服务器组， 使用测试推理文本进行推理测试， 将每个所述目标 文本推理服 务器组接收到的测试推理文本的最大长度作为 其最大文本推理长度； 根据所述最大文本推理长度， 调整所述目标文本推理服务器组对应的文本推理总条 数； 确定每个文本推理总条 数下， 推理过程所对应的时延； 在预设的最大时延范围内， 选取数值最大的文本推理总条数作为所述单次最大文本推 理总条数。 3.根据权利要求2所述的方法， 其特征在于， 所述数值最大的文本推理总条数为2 的指 数倍。 4.根据权利要求1所述的方法， 其特征在于， 所述确定每个待处理文本的文本长度 所属 的目标长度区间， 包括： 根据获取的所有待处理文本的文本长度， 按照预设文本长度间隔， 将所有文本长度划 分为多个长度区间， 其中， 每 个长度区间对应一组文本推理服 务器； 确定每个待处理文本的文本 长度所属的目标长度区间。 5.根据权利要求1所述的方法， 其特征在于， 所述多个长度区间的划分方式包括等频划 分。 6.一种基于互联网社区的文本推理装置， 其特 征在于， 所述装置包括： 获取模块， 用于获取互联网社区中的多个待处 理文本； 确定模块， 用于确定每 个待处理文本的文本 长度所属的目标长度区间； 查找模块， 用于从多个文本推理服务器组中查找出与 所述目标长度区间匹配的目标文 本推理服 务器组； 发送模块， 用于将所述每 个待处理文本发送至对应的目标文本推理服 务器组； 处理模块， 用于针对每个目标文本推理服务器组， 根据预先确定的与其对应的单次最 大文本推理总条 数， 接收待处 理文本， 并对每 个待处理文本进行推理。 7.根据权利要求6所述的装置， 其特 征在于， 所述处 理模块包括： 处理单元， 用于针对每个目标文本推理服务器组， 使用测试推理文本进行推理测试， 将 每个所述目标文本推理服务器组接 收到的测试推理文本的最大长度作为其最大文本推理 长度； 调整单元， 用于根据所述最大文本推理长度， 调整所述目标文本推理服务器组对应的权　利　要　求　书 1/2 页 2 CN 114943339 A 2文本推理总条 数； 第一确定单 元， 用于确定每 个文本推理总条 数下， 推理过程所对应的时延； 选取单元， 用于在预设的最大时延范围内， 选取数值最大的文本推理总条数作为所述 单次最大文本推理总条 数。 8.根据权利要求6所述的装置， 其特 征在于， 所述确定模块包括： 划分单元， 用于根据获取的所有待处理文本的文本长度， 按照预设文本长度间隔， 将所 有文本长度划分为多个长度区间， 其中， 每 个长度区间对应一组文本推理服 务器； 第二确定单 元， 用于确定每 个待处理文本的文本 长度所属的目标长度区间。 9.一种基于互联网社区的文本推理装置， 其特 征在于， 所述装置包括： 处理器； 用于存储处理器可执行指令的存 储器； 其中， 所述处 理器被配置为： 获取互联网社区中的多个待处 理文本； 确定每个待处理文本的文本 长度所属的目标长度区间； 从多个文本推理服务器组中查找出与所述目标长度区间匹配的目标文本推理服务器 组； 将所述每 个待处理文本发送至对应的目标文本推理服 务器组； 针对每个目标文本推理服务器组， 根据预先确定的与其对应的单次最大文本推理总条 数， 接收待处 理文本， 并对每 个待处理文本进行推理。 10.一种计算机可读存储介质， 其上存储有计算机指令， 其特征在于， 该指令被处理器 执行时实现权利要求1 ‑5中任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 114943339 A 3