(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210452998.3 (22)申请日 2022.04.27 (71)申请人 上海销氪信息科技有限公司 地址 200441 上海市宝山区逸仙路2816号1 幢9层 (72)发明人 陈倩倩　蒋林林　周柳阳　 (74)专利代理 机构 北京集佳知识产权代理有限 公司 11227 专利代理师 张艺 (51)Int.Cl. G06F 40/211(2020.01) G06F 40/30(2020.01) G06K 9/62(2022.01) (54)发明名称 一种对话文本增强方法、 装置、 设备、 存储介 质 (57)摘要 本申请公开了一种对话文本增强方法， 涉及 自然语言处理领域， 包括： 将文本训练集输入训 练后的GP T‑2模型， 以便训练后的GP T‑2模型生成 携带有文本意图标签的多轮区分不同说话者角 色的对话文本； 对每一对话文本和相应的文本意 图进行拼接以得到拼接后文本， 然后对拼接后文 本进行训练以得到第一样本； 利用预设文本分类 器对添加互信息的第一样本进行文本意图预测， 并从第一样本中筛选满足预设置信度条件的目 标样本， 并基于目标样本生成文本增强样本。 通 过本申请可以实现扩充有文本意图标签的训练 样本实现文本增强， 使生 成句子语 言逻辑顺序通 顺， 并且生成的训练样本使多轮对话有对话角色 和上下文场景， 进一步使对话尽可能进行下去， 提高对话 话术。 权利要求书2页 说明书8页 附图5页 CN 114970499 A 2022.08.30 CN 114970499 A 1.一种对话文本增强方法， 其特 征在于， 包括： 将文本训练集输入训练后的GPT ‑2模型， 以便所述训练后的GPT ‑2模型生成携带有文本 意图标签的多轮区分不同说话 者角色的对话文本； 对每一对话文本和相应的所述文本意图进行拼接以得到拼接后文本， 然后对所述拼接 后文本进行训练以得到第一样本； 利用预设文本分类器对添加互信 息的所述第 一样本进行文本意图预测， 并从所述第 一 样本中筛选满足预设置信度条件的所述目标样本， 并基于所述目标样本生成文本增强样 本。 2.根据权利要求1所述的对话文本增强方法， 其特征在于， 所述将文本训练集输入训练 后的GPT‑2模型之前， 还 包括： 将携带有文本意图标签的多轮对话数据样本对GPT ‑2模型进行训练， 并得到所述训练 后的GPT‑2模型。 3.根据权利要求1所述的对话文本增强方法， 其特征在于， 所述将文本训练集输入训练 后的GPT‑2模型， 以便所述训练后的GPT ‑2模型生成携带有文本意图标签的多轮区分不同说 话者角色的对话文本过程中， 还 包括： 利用Segment  ID并基于说话者的角色对所述对话文本进行分类， 以得到携带说话者角 色标签的所述对话文本 。 4.根据权利要求3所述的对话文本增强方法， 其特征在于， 所述对所述拼接后文本进行 训练以得到第一样本， 包括： 对所述拼接后文本进行训练， 以得到所述携带角色标签和所述文本意图标签的所述第 一样本， 以便基于所述第一样本扩充 文本训练集。 5.根据权利要求1所述的对话文本增强方法， 其特征在于， 所述利用预设文本分类器对 添加互信息的所述第一样本进行文本意图预测之前， 还 包括： 利用携带有多轮对话文本意图标签的训练数据训练文本分类器， 以得到预设文本分类 器。 6.根据权利要求1所述的对话文本增强方法， 其特征在于， 所述利用预设文本分类器对 添加互信息的所述第一样本进行文本意图预测之前， 还 包括： 利用Dial ogue Model对正序输入的所述第一样本进行 预测， 并生成候选Respo nse； 利用MMI Model从所述候选Response中筛选损失最小的候选Response作为目标 Response， 以得到添加互信息的所述第一样本 。 7.根据权利要求1至6任一项所述的对话文本增强方法， 其特征在于， 所述基于所述目 标样本生成文本增强样本， 包括： 对所述目标样本进行 无监督训练， 以生成文本增强样本 。 8.一种对话文本增强装置， 其特 征在于， 包括： 意图提取模块， 用于将文本训练集输入训练后的GPT ‑2模型， 以便所述训练后的GPT ‑2 模型生成携带有 文本意图标签的多轮区分不同说话 者角色的对话文本； 样本获取模块， 用于对每一对话文本和相应的所述文本意图进行拼接以得到拼接后文 本， 然后对所述 拼接后文本进行训练以得到第一样本； 文本增强模块， 用于利用预设文本分类器对添加互信 息的所述第 一样本进行文本意图权　利　要　求　书 1/2 页 2 CN 114970499 A 2预测， 并从所述第一样本中筛选满足预设置信度条件的所述 目标样本， 并基于所述 目标样 本生成文本增强样本 。 9.一种电子设备， 其特 征在于， 包括： 存储器， 用于保存计算机程序； 处理器， 用于执行所述计算机程序， 以实现如权利要求1至7任一项所述的对话文本增 强方法的步骤。 10.一种计算机可读存储介质， 其特征在于， 用于存储计算机程序； 其中， 所述计算机程 序被处理器执行时实现如权利要求1至7任一项所述的对话文本增强方法的步骤。权　利　要　求　书 2/2 页 3 CN 114970499 A 3