[发明专利]训练方法、业务数据分类处理方法及装置、电子设备

说明书

本说明书实施例公开了一种分层注意力模型的训练方法、业务数据的分类处理方法及装置、电子设备。所述训练方法包括：建立分层注意力初始模型，包括待训练的与注意力有关的模型参数，对样本数据进行预处理，生成由三维张量表示的预处理数据；将该预处理数据输入分层注意力初始模型并进行处理，获得样本数据的分类处理训练结果；根据样本数据的类型和分类处理训练结果计算损失，在所述损失没有收敛的情况下，对与注意力有关的模型参数进行更新，并使用样本数据对更新后的分层注意力初始模型进行迭代训练。

技术领域

本发明书实施例涉及机器学习领域，特别涉及一种分层注意力模型的训练方法、基于分层注意力模型的业务数据的分类处理方法及装置、电子设备。

背景技术

目前，可疑交易的识别成为预防和打击金融领域犯罪(如洗钱)的重点，在目前的反洗技术中，金融机构在通过建立规则或模型等方式识别可疑交易从而控制洗钱风险时，往往使用人工设计的业务特征，例如，统计用户在最近90天内的流入金额、或者用户在最近30天的流入金额占最近90天的流入金额的比例、或者用户的涉及某个关键词的交易的数量占总交易的数量的比例，并将统计的结果与预先设定的阈值进行比较，从而判断对应的用户是否进行了可疑交易，或者对用户的每一笔交易进行建模分析。

应该注意，上面对技术背景的介绍只是为了方便对本发明的技术方案进行清楚、完整的说明，并方便本领域技术人员的理解而阐述的。不能仅仅因为这些方案在本发明的背景技术部分进行了阐述而认为上述技术方案为本领域技术人员所公知。

发明内容

但是，发明人发现：目前的可疑交易识别方案中将用户的所有行为作为一个整体去统计，但一个用户的交易往往混杂了可疑交易和正常交易，如果某个用户的正常交易较多，现有方案中的统计结果往往更多的反应正常交易的形态，即使该用户的交易中包含了可疑交易，也存在无法有效识别该用户的风险。而对用户的每一笔交易进行建模分析时，将用户的每一笔交易割裂开来，丢失了用户大量交易行为序列上的特征，例如某种可疑交易行为序列特征是用户A从用户B中获得一笔大金额资金，然后用户A再分拆成多笔小额金额，依次打款给用户C，这时候如果只看其中的某一笔交易，无法有效判断可疑行为。

针对上述问题的至少之一，本发明书实施例提供一种分层注意力模型的训练方法、基于分层注意力模型的业务数据的分类处理方法及装置、电子设备。期待能够获得可靠的基于注意力的分层注意力模型，能够更加精确地识别可疑的业务数据。

根据本发明书实施例的第一个方面，提供一种分层注意力模型的训练方法，包括；

建立分层注意力初始模型，所述分层注意力初始模型包括待训练的与注意力有关的模型参数；

获取样本数据，所述样本数据的类型包括黑样本数据和白样本数据；

对所述样本数据进行预处理，生成由三维张量表示的预处理数据；

将所述预处理数据输入所述分层注意力初始模型并进行处理，生成所述样本数据的最终表达；

使用分层注意力初始模型中的多层感知器对所述样本数据的最终表达进行分类处理，获得所述样本数据的分类处理训练结果；

根据所述样本数据的类型和所述分类处理训练结果，计算损失，所述损失表示所述样本数据的类型和所述分类处理训练结果的差异；

判断所述损失是否收敛，在所述损失没有收敛的情况下，对所述分层注意力初始模型的所述与注意力有关的模型参数进行更新，并使用所述样本数据对更新后的分层注意力初始模型进行迭代训练。

根据本发明书实施例的第二个方面，提供一种业务数据的分类处理方法，包括：

对所述业务数据进行预处理，生成由三维张量表示的预处理数据；