[发明专利]机器学习模型提供系统、机器学习模型提供方法

说明书

提出一种机器学习模型提供系统、机器学习模型提供方法，能够提供不针对用户公开个人信息数据地利用个人信息数据的机器学习模型，另一方面遏制提供个人信息保护不充分的机器学习模型。本公开所涉及的机器学习模型提供系统包括存储个人信息数据的集合以及数据目录的存储装置、和信息处理装置。信息处理装置执行：取得在机器学习模型的生成中利用的元数据的指定、第1数据范围的指定、及机器学习的逻辑的处理；根据与指定的元数据及第1数据范围相应的个人信息数据，依照逻辑生成机器学习模型的处理；关于生成的机器学习模型计算确定风险的处理；以及在确定风险成为预定的阈值以上的情况下，停止提供生成的机器学习模型的处理。

技术领域

本公开涉及生成机器学习模型并提供所生成的机器学习模型的机器学习模型提供系统以及机器学习模型提供方法。

背景技术

在专利文献1中，公开了一种针对应用深度学习算法而得到的深度学习模型实施匿名化处理而得到匿名模型的隐私保护数据提供系统。该隐私保护数据提供系统针对包含于深度学习模型的权重参数以及偏置参数，对各个参数值提供基于拉普拉斯分布的误差，并且在根据拉普拉斯分布提供了误差的各参数超过用最大值以及最小值表示的阈值的范围时，限制于阈值的范围。

现有技术文献

专利文献

专利文献1：日本特开2018-97467号公报

发明内容

在伴随机器学习技术的发展而各种数据的有效利用发展的过程中，个人信息数据的利用的有用性得到瞩目。另外，预想在将来设想如智慧城市那样数据收集者和用户不同的情形增加的情况下，用户利用数据收集者收集的个人信息数据的需求变高。

然而，根据个人信息保护的观点，有个人信息数据的流出风险、向第三人的提供困难性，个人信息数据限于限定的组织内的利用、统计化的信息的利用。这样，以往，机器学习中的个人信息数据的利用未得到发展。

在专利文献1中公开的隐私保护数据提供系统中，生成实施了预定的匿名化处理的匿名模型(机器学习模型)。然而，关于生成的机器学习模型，未进行结合个人信息保护的判断，所以存在提供个人信息保护不充分的机器学习模型的忧虑。

本公开是鉴于上述课题而完成的，其目的在于提出一种机器学习模型提供系统以及机器学习模型提供方法，能够提供不针对用户公开个人信息数据地利用个人信息数据的机器学习模型，另一方面遏制提供个人信息保护不充分的机器学习模型。

第1公开涉及一种机器学习模型提供系统，生成机器学习模型并提供所生成的所述机器学习模型。

该机器学习模型提供系统包括：存储装置，存储个人信息数据的集合、及关于与所述个人信息数据相关的元数据的数据目录；以及信息处理装置。

所述信息处理装置执行：取得处理，取得在所述机器学习模型的生成中利用的所述元数据的指定、提供与所述个人信息数据相关的数据范围的第1数据范围的指定、及机器学习的逻辑；模型生成处理，根据与指定的所述元数据及所述第1数据范围相应的所述个人信息数据，依照所述逻辑生成所述机器学习模型；确定风险计算处理，关于所生成的所述机器学习模型，计算表示根据输出确定个人的风险的确定风险；以及提供管理处理，在所述确定风险成为预定的阈值以上的情况下，停止提供所生成的所述机器学习模型。

第2公开涉及相对第1公开所涉及的机器学习模型提供系统，还包括以下的特征的机器学习模型提供系统。

关于各个所述个人信息数据，与一个或者多个表示特定的个人的ID信息关联起来。

所述信息处理装置在所述确定风险计算处理中，选择作为向所生成的所述机器学习模型的输入数据的所述个人信息数据，取得作为所述机器学习模型针对所述输入数据的输出的输出数据，生成表示所述ID信息和对所述ID信息关联起来的与所述输入数据相关的所述输出数据的集合的对应的关联输出信息，根据所述关联输出信息计算所述确定风险。