[发明专利]人机对话系统及其数据处理方法、电子设备及存储介质

权利要求书

1.一种人机对话数据处理方法，包括：

获取对话评估模型，所述对话评估模型基于用户与人机对话模型进行人机对话产生的真实人机对话数据及所述用户对所述人机对话的评估数据获得，其中，所述人机对话模型经预训练语言模型迁移获得；

基于预训练对话样本及所述对话评估模型，对所述预训练语言模型进行再训练；

使用再训练完成的预训练语言模型对所述人机对话模型进行更新。

2.根据权利要求1所述的方法，其中，所述基于预训练对话样本及所述对话评估模型，对所述预训练语言模型进行再训练，包括：

针对所述预训练对话样本中的至少一个样本，通过所述预训练语言模型对该样本进行对话回复预测，获得多个候选回复；

通过所述对话评估模型，对所述多个候选回复进行排序；

基于排序结果，对所述预语言模型进行再训练。

3.根据权利要求2所述的方法，其中，所述基于排序结果，对所述预语言模型进行再训练，包括：

基于排序结果和预设的对比学习损失函数，对所述预语言模型进行再训练。

4.根据权利要求1-3任一项所述的方法，其中，所述对话评估模型通过以下方式预先获得：

获取用户与在线运行的人机对话模型进行人机对话产生的真实人机对话数据及所述用户对所述人机对话的评估数据；

根据所述真实人机对话数据及其对应的评估数据、以及所述预训练对话样本，对所述对话评估模型进行训练，获得训练完成的对话评估模型。

5.根据权利要求4所述的方法，其中，所述方法还包括：

定期更新真实人机对话数据及其对应的评估数据；

根据更新后的真实人机对话数据及其对应的评估数据、以及所述预训练对话样本，对所述对话评估模型进行更新。

6.根据权利要求1-3任一项所述的方法，其中，在所述获取对话评估模型之前，所述方法还包括：

获取预训练完成的预训练语言模型；

基于所述训练完成的预训练语言模型进行知识蒸馏，获得人机对话模型，其中，所述预训练语言模型的模型规模大于所述人机对话模型的规模；

在线部署所述人机对话模型，以使用所述人机对话模型进行人机对话交互。

7.根据权利要求6所述的方法，其中，所述方法还包括：

基于所述用户与人机对话模型进行人机对话产生的真实人机对话数据及所述用户对所述人机对话的评估数据，对所述人机对话模型进行周期性训练更新。

8.一种人机对话系统，包括：迁移模块、反馈模块和再训练模块；

其中：

所述迁移模块，用于基于预训练完成的预训练语言模型进行模型迁移，获得人机对话模型；

所述反馈模块，用于通过所述人机对话模型进行人机对话交互，并获得用户与所述人机对话模型进行人机对话产生的真实人机对话数据及所述用户对所述人机对话的评估数据；基于所述真实人机对话数据及其对应的评估数据，生成或更新对话评估模型；

所述再训练模块，用于基于预训练对话样本和所述对话评估模型，对所述预训练语言模型进行再训练；并使用再训练完成的预训练语言模型对所述人机对话模型进行更新。

9.根据权利要求8所述的系统，其中，所述再训练模块，用于针对所述预训练对话样本中的至少一个样本，通过所述预训练语言模型对该样本进行对话回复预测，获得多个候选回复；通过所述评估模型，对所述多个候选回复进行排序；基于排序结果，对所述预语言模型进行再训练。

10.根据权利要求8或9所述的系统，其中，所述系统还包括：对话评估模型获得模块，用于获取用户与在线运行的人机对话模型进行人机对话产生的真实人机对话数据及所述用户对所述人机对话的评估数据；根据所述真实人机对话数据及其对应的评估数据、以及所述预训练对话样本，对所述对话评估模型进行训练，获得训练完成的对话评估模型。