[发明专利]人机回环交互式模型训练

摘要

描述了一种用于训练预测模型的方法，该方法增加了模型对终端用户的可解释性和可信赖性。从具有多个特征的数据中训练模型。每个特征都与真实值和时间分量相关。许多谓词(用于训练模型的原子元素)被定义为对特征(通常是特征的时间序列或其逻辑组合)进行操作的二元函数。谓词可以限于具有人类可理解性或相对于模型的预测任务的编码专家知识的那些函数。我们利用来自操作员或循环中的人类的输入来迭代地训练增强模型。随着模型被迭代地构建，循环中的人类被提供工具来检查模型，并移除模型中的一个或多个谓词，例如，如果谓词没有可信赖的标示，与模型的预测没有因果关系或不可理解。我们多次重复迭代过程，最后生成最终的增强模型。然后评估最终的模型，例如，准确性、复杂性、可信赖性和事后解释性。

主权项

1.一种从包括多个特征的数据中训练预测模型的计算机实施的方法，每个特征与真实值和时间分量相关联，所述方法包括在计算机的处理器中运行以下指令的步骤：/na)将多个谓词定义为对特征的时间序列进行操作或对特征的时间序列的逻辑操作进行操作的二元函数；/nb)通过执行以下步骤来迭代地训练增强模型：/n1)生成若干个新随机谓词；/n2)相对于与增强模型的预测相关的类别标签，通过加权信息增益对所有的新随机谓词进行评分；/n3)选择具有最高加权信息增益的若干个新随机谓词，并将其添加到增强模型中；/n4)计算增强模型中所有谓词的权重；/n5)响应于来自操作员的输入，从增强模型中移除所选择的具有最高信息增益的新谓词中的一个或多个；和/n6)多次重复执行步骤1、2、3、4和5，从而生成最终的迭代训练后的增强模型。/n