[发明专利]保护推理引擎免受模型检索攻击在审
| 申请号： | 201910505283.8 | 申请日： | 2019-06-12 |
| 公开（公告）号： | CN110717596A | 公开（公告）日： | 2020-01-21 |
| 发明（设计）人： | O·波戈列里克;A·奈什图特;R·A·科亨;G·巴恩哈特-梅根 | 申请（专利权）人： | 英特尔公司 |
| 主分类号： | G06N20/00 | 分类号： | G06N20/00;G06N3/063;G06N5/04 |
| 代理公司： | 72002 永新专利商标代理有限公司 | 代理人： | 林金朝;王英 |
| 地址： | 美国加*** | 国省代码： | 美国;US |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本文公开了保护推理引擎免受模型检索攻击的电子处理系统、半导体封装装置和方法。半导体封装装置的实施例可以包括技术以用于执行对推理引擎的机器学习模型的输入和输出的运行时分析，基于运行时分析检测指示对检索机器学习模型的尝试的活动，以及在检测到指示尝试的模型检索的活动时执行一个或多个预防措施。公开并要求保护了其它实施例。 | ||
| 搜索关键词： | 半导体封装装置 机器学习模型 模型检索 推理引擎 运行时 电子处理系统 分析检测 预防措施 检索 输出 攻击 检测 分析 | ||
【主权项】：
1.一种电子处理系统，包括：/n推理引擎；以及/n模型检索阻止器，其通信地耦合到所述推理引擎，所述模型检索阻止器包括逻辑单元，所述逻辑单元用于：/n执行对所述推理引擎的机器学习模型的输入和输出的运行时分析，/n基于所述运行时分析来检测指示对检索所述机器学习模型的尝试的活动，以及/n在检测到指示尝试的模型检索的所述活动时执行一个或多个预防措施。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于英特尔公司，未经英特尔公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910505283.8/，转载请声明来源钻瓜专利网。
- 同类专利
- 用于备件的自动制造的双层自动成本估计-201910689038.7
- 林佩瑜;J·F·赖斯;A·A·扎金 - 波音公司
- 2019-07-29 - 2020-02-14 - G06N20/00
- 用于备件的自动制造的双层自动成本估计。描述了用于自动制造机械零件的技术。使用第一机器学习模型生成第一机械零件的制造成本的第一估计。响应于确定第一机械零件的制造成本的第一估计在第一机器学习模型的有效性范围内，使用第二机器学习模型生成第一机械零件的制造成本的第二估计。确定第一机械零件的制造成本的第二估计中的预期成本误差，并且在确定预期成本误差落在预定可接受范围内时，促使自动制造第一机械零件。
- 用于基于元学习来选择机器学习的模型的方法和设备-201910700351.6
- 高汀勋;李在浚;金成帝;许仁;郑椙旭 - 三星电子株式会社
- 2019-07-31 - 2020-02-14 - G06N20/00
- 提供了用于基于元学习来选择机器学习的模型的方法和设备。一种选择机器学习的模型的方法，所述机器学习由处理器执行。所述方法包括：接收至少一个数据集；为所述至少一个数据集的机器学习配置配置空间；从所述至少一个数据集中提取包括与所述至少一个数据集的数量信息相关的元特征；基于所述配置空间中包括的多个配置来计算所述至少一个数据集的所述机器学习的性能；基于所述元特征、所述多个配置和所计算出的性能来执行元学习；以及基于执行所述元学习的结果来优化所述配置空间。
- 用于干预优化的系统和方法-201911010355.8
- J.伯奇;B.弗伦克尔;C.E.布蒂利尔;V.卢马;Y-L.阮;J.A.哈沙尔;H.穆萨维;S.杰汉布;V.巴莱亚;A.高塔姆 - 谷歌有限责任公司
- 2019-10-23 - 2020-02-14 - G06N20/00
- 本公开提供了用于干预优化的系统和方法。计算系统获得计算机应用的多个实体中的每个实体的实体历史。对于多个实体中的每一个，计算系统可以确定多个可用干预中的每一个将改善目标值的相应概率，该目标值至少部分地基于该实体对计算机应用的持续使用的度量来确定。计算系统可以至少部分地基于经由机器学习的干预选择模型确定的相应概率，将多个可用干预中的干预提供给多个实体中的实体。因此，计算系统可以采用机器学习的干预选择模型，在逐个实体的基础上选择被预测为防止实体从计算机应用流失的干预。
- 决策树模型的处理方法、装置、终端设备及存储介质-201911035707.5
- 李诗琦;黄启军;唐兴兴;林冰垠 - 深圳前海微众银行股份有限公司
- 2019-10-29 - 2020-02-14 - G06N20/00
- 本发明公开了一种决策树模型的处理方法、装置、终端设备及计算机可读存储介质，通过获取针对决策树模型进行再训练的操作指令；检测所述操作指令指定的待训练模型中是否含有预设免训练节点；当检测到含有所述预设免训练节点时，对所述预设免训练节点进行锁定；在所述待训练模型中，对未锁定的节点进行再训练。本发明实现了，对决策树模型中无需更改的局部模型进行锁定，而仅对需要进行更改或者需要重新训练的部分节点进行再训练操作，节省了交互式建模中对决策树模型进行再训练的时间和训练计算资源，提高了建模效率。
- 决策树模型的交互式操作方法、装置、终端设备及介质-201911040651.2
- 李诗琦;王跃;黄启军;唐兴兴;林冰垠 - 深圳前海微众银行股份有限公司
- 2019-10-29 - 2020-02-14 - G06N20/00
- 本发明公开了一种决策树模型的交互式操作方法、装置、终端设备及计算机可读存储介质，通过获取针对当前决策树模型交互式操作的局部模型加载指令；检测所述局部模型加载指令中的目标节点和已训练模型对应的局部模型信息，并对所述局部模型信息进行解析；将解析得到的局部模型导入到所述目标节点中。本发明实现了，针对决策树模型的局部节点进行交互式操作以建立模型，实现对决策树局部模型的迁移使用，避免了导入整个固定模型进行建模的灵活性差以及逐步手动操作进行建模耗用时间长的技术问题，提升了交互式操作的建模效率。
- 数据共享的机器学习方法和机器学习装置-201911102002.0
- 李克鹏;王益;章海涛;朴昕阳 - 支付宝(杭州)信息技术有限公司
- 2019-11-12 - 2020-02-14 - G06N20/00
- 本说明书实施例公开了数据共享的机器学习方法和机器学习装置。所述方法包括：使用本地原始数据进行本地学习，得到本地模型；对本地原始数据和/或本地模型进行加密，得到加密共享内容；将加密共享内容发送给共享学习平台，以供共享学习平台根据多个数据提供方的提供的加密共享内容在可信执行环境中生成共享模型；从共享学习平台获取共享模型。本说明书实施例的方法和装置可以利用多个数据提供方的数据实现机器学习，在学习过程中，可以很好地实现保证数据的安全和用户的隐私。
- 确定业务处理模型超参数的方法和装置-202010007914.6
- 张雅淋;李龙飞 - 支付宝(杭州)信息技术有限公司
- 2020-01-06 - 2020-02-14 - G06N20/00
- 本说明书实施例提供了一种确定业务处理模型超参数的方法和装置，所述方法包括：基于多个超参数的当前取值空间，获取预定数目个超参数组合；获取业务处理模型的训练样本集和测试样本集；获取与各个超参数组合对应的业务处理模型的性能值；从所述预定数目个超参数组合中确定第一正组合和多个负组合；基于所述第一正组合和多个负组合各自的超参数值，更新所述多个超参数的取值空间，以使得所述多个超参数的更新取值空间中包括所述第一正组合、且不包括所述多个负组合，所述多个超参数的更新取值空间用于确定所述业务处理模型的超参数取值。
- 高压氧舱大数据分析系统-201910583193.0
- 孙茂旭;张鹏;王铭均;张赟;于晓亮;何林燕 - 烟台宏远氧业股份有限公司
- 2019-07-01 - 2020-02-11 - G06N20/00
- 本发明公开一种高压氧舱大数据分析系统，神经网络模块包括输入转换器、人工神经网络和输出转换器，输入转换器将高压氧舱逻辑信息转换为被人工神经网络处理的数字信息，输出转换器将人工神经网络输出的数字信息转换为被外界识别和利用的高压氧舱逻辑信息；知识表示模块，包括进行知识表示的知识库；知识获取模块通过神经网络模块获取知识，利用高压氧舱逻辑信息样本对神经网络模块进行训练，在给定的逻辑输入条件下产生对应的逻辑输出；推理模块对神经网络模块通过知识表示模块的知识表示进行推理；解释模块通过先验知识对推理模块对神经网络模块的推理过程进行解释。具有高度智能化的特点，满足高压氧舱智能化的远程监控。
- 量化机器学习模型中的偏差-201910693269.5
- K·肯塔帕迪;S·C·盖伊克;S·M·安布勒 - 微软技术许可有限责任公司
- 2019-07-30 - 2020-02-11 - G06N20/00
- 所公开的实施例提供了一种用于量化机器学习模型偏差的系统。在操作期间，系统获得与请求的参数相匹配的合格候选者集合。接下来，在合格候选者被输入到机器学习模型中之后，系统获得由机器学习模型输出的推荐候选者的排名。然后，系统生成属性在推荐候选者的排名中的第一分布和该属性在合格候选者中的第二分布。该系统还基于第一分布和第二分布来计算偏斜度量，所述偏斜度量表示属性值在推荐候选者的排名中的第一比例与该属性值在合格候选者中的第二比例之间的差异。最后，系统输出偏斜度量，以用于评估机器学习模型中的偏差。
- 自动标记训练样本的方法和系统及监督学习的方法和系统-201910931946.2
- 伯斯坦·巴勃罗·大卫 - 深圳蓝胖子机器人有限公司
- 2019-09-27 - 2020-02-11 - G06N20/00
- 本发明提出了一种自动标记训练样本的方法和系统及监督学习的方法和系统，自动标记训练样本的方法的步骤如下：在学习系统对输入数据进行处理后得到输出数据，且执行系统依据所述学习系统得到的输出数据触发相应动作之后，判断被触发的动作是否执行成功；其中，在执行成功的情况下，自动对所述输入数据和输出数据进行标记，并将被标记的所述输入数据和输出数据作为所述学习系统的训练样本进行保存。自动标记获得的标记训练样本，减少了人工成本，提高了标记效率；另外将标记的训练样本储存在样本集中，能够满足在线的监督学习方式，或者其他的学习方式。
- 一种pytorch任务训练方法、装置、设备及介质-201910968800.5
- 李栋梁 - 苏州浪潮智能科技有限公司
- 2019-10-12 - 2020-02-11 - G06N20/00
- 本申请公开了一种pytorch任务训练方法、装置、设备及介质，包括：创建CRD；其中，所述CRD包括训练任务对应的训练节点的待配置信息，并且，所述训练节点包括ps节点和work节点；利用所述CRD配置所述训练节点，得到节点配置信息；利用所述节点配置信息创建对应的训练任务，进行任务训练。这样，利用预先创建的CRD配置训练节点，能够简化训练任务的节点配置过程，从而提升任务训练的效率。
- 用于执行机器学习过程的方法和系统-201910594231.2
- 王敏;李瀚;乔胜传;陶雪军;孙越;唐继正;徐昀 - 第四范式(北京)技术有限公司
- 2019-07-03 - 2020-02-07 - G06N20/00
- 提供了一种用于执行机器学习过程的方法和系统，所述系统包括：数据收集单元，用于持续收集预测数据；真实结果收集单元，用于持续收集预测数据的真实结果；模型自动训练单元，用于按照配置的模型更新方案，基于收集的预测数据及其对应的真实结果生成更新训练样本并利用更新训练样本持续得到更新的机器学习模型；以及服务提供单元，用于按照配置的模型应用方案从机器学习模型之中选择用于提供在线预测服务的线上机器学习模型，并响应于包括预测数据的预测服务请求，利用线上机器学习模型针对包括在预测服务请求中的预测数据提供预测结果。
- 数据处理方法、终端、装置及存储介质-201911050727.X
- 陈瑞钦;黄启军;李诗琦;唐兴兴;林冰垠 - 深圳前海微众银行股份有限公司
- 2019-10-31 - 2020-02-07 - G06N20/00
- 本发明公开了一种数据处理方法，包括以下步骤：将预设的样本集中的特征数据输入分类预测模型，得到所述特征数据对应的预测目标数据以及所述预测目标数据对应的预测概率，而后基于预设精度对所述预测概率进行修正，并将修正后预测概率相等的统计数据进行合并，得到修正概率以及所述修正概率对应的统计数据，统计数据为原始目标数据与预测目标数据的对应关系，接下来基于所述修正概率以及所述修正概率对应的统计数据，生成所述分类预测模型对应的目标字典。本发明还公开了一种装置、终端及存储介质。通过对预测概率进行修正，极大的缩小了预测概率的值域，字典大小与预测概率的值域相关，故在提升字典生成效率的同时降低了字典所需的存储空间。
- 强化学习的迁移训练优化方法、装置、终端及存储介质-201911057308.9
- 梁新乐;刘洋;陈天健;董苗波 - 深圳前海微众银行股份有限公司
- 2019-10-31 - 2020-02-07 - G06N20/00
- 本发明公开了一种强化学习的迁移训练优化方法、装置、终端设备及计算机可读存储介质，通过获取各预设环境的训练设备基于强化学习训练所得到的各训练模型；对各所述训练模型进行联邦处理以生成联邦模型；将所述联邦模型迁移适配至各所述预设环境，以供各所述预设环境的所述训练设备根据所述联邦模型优化强化学习训练。本发明充分利用预设环境中训练设备进行强化训练得到的训练模型，不仅能够很好的保护用户数据隐私，还避免了传统的强化学习训练方式进行强化学习时传输数据的高成本、长时延的问题，优化提升了工业强化学习模型的稳定性和模型训练的整体效率。
- 联合多方特征数据的模型预测方法、装置、设备及介质-201911050891.0
- 吴玙;马国强;谭明超;范涛;魏文斌;陈天健;杨强 - 深圳前海微众银行股份有限公司
- 2019-10-31 - 2020-02-04 - G06N20/00
- 本发明公开了一种联合多方特征数据的模型预测方法、装置、终端设备及计算机可读存储介质，通过获取所述需求方发起的模型预测任务，并确定处理所述模型预测任务所需的多方特征数据；联合需求方和多方特征数据对应的各数据提供方进行线性回归计算，得到需求方和各数据提供方各自的本地计算结果；计算各本地计算结果的范数之和，并在检测到范数之和小于范数阈值时，对各本地计算结果进行优化处理；将优化处理后的本地计算结果反馈至需求方和各数据提供方，以供需求方和各数据提供方进行本地模型参数更新。本发明在确保需求方与多个数据提供方相互之间不泄露各自特征信息的前提下建立模型，并进行有效的模型预测。
- 深度学习系统和用于深度学习系统的处理数据的方法-201910339231.8
- 梁承秀 - 三星电子株式会社
- 2019-04-25 - 2020-01-31 - G06N20/00
- 公开了深度学习系统和用于深度学习系统的处理数据的方法。提供一种用于由多个异构资源驱动的深度学习系统的处理数据的方法。所述方法包括：当包括多个操作中的至少一个操作的第一任务将被执行时，接收指示第一任务的第一计算路径的第一路径信息。第一计算路径包括包含在第一任务中的操作的顺序和用于执行包括在第一任务中的操作的资源的驱动顺序。所述方法还包括基于数据表示信息和第一路径信息，设置用于执行包括在第一任务中的操作的资源的数据表示格式。数据表示信息指示所述多个异构资源中的每个异构资源的优化的数据表示格式。
- 特征分析方法、装置、电子设备及可读存储介质-201910894660.1
- 朱碧莹;吴骏超;邹旭华;张喜升 - 北京三快在线科技有限公司
- 2019-09-20 - 2020-01-31 - G06N20/00
- 本公开的实施例提供了一种特征分析方法、装置、电子设备及可读存储介质，所述方法包括：在对所述模型树的训练过程中，记录所述模型树的训练参数、每个叶子节点的预测得分和属于每个叶子节点的样本的预设二阶导数，所述预设二阶导数为预设损失函数对所述预测得分的二阶导数；根据所述模型树的训练参数、每个叶子节点的预测得分和属于每个叶子节点的样本的预设二阶导数，计算每个节点对应的特征的贡献度；根据所述节点对应的特征的贡献度对所述特征进行分析。可以通过模型树的训练参数、叶子节点的预测得分和属于每个叶子节点的样本的预设二阶导数，确定节点的特征的贡献度，有助于提高特征分析的准确度。
- 用于执行自动机器学习方案的系统、方法及电子设备-201910876293.2
- 乔胜传;王敏 - 第四范式(北京)技术有限公司
- 2019-09-17 - 2020-01-24 - G06N20/00
- 本发明公开了一种用于执行自动机器学习方案的系统、方法及电子设备，该系统包括：方案编辑器，用于设置自动机器学习训练所包含的各个阶段，并针对每一所述阶段，分别提供至少一个配置接口，供用户通过所述至少一个配置接口配置对应阶段的至少一种策略；方案执行器，用于按照所述各个阶段的执行顺序，并行执行由每一所述阶段选取出的一个策略串联成的多个工作流，获得对应每一所述工作流的执行结果，并根据所述执行结果，选取一工作流作为最终的机器学习方案；其中，前一阶段的每一策略分别与后一阶段的每一策略相串联。
- 一种通过机器学习算法进行轨交报警数据排序的方法-201910926212.5
- 余捷全;常伟 - 广东毓秀科技有限公司
- 2019-09-27 - 2020-01-24 - G06N20/00
- 本发明涉及轨道交通维护技术领域，尤其是一种通过机器学习算法进行轨交报警数据排序的方法；它包括以下步骤：S1采集数据；S2OCC将根据预先定义的规则进行推断并报警；S3进行警报情况分析：首先按严重性、资产、站点、时间安排，格式化概率和认识到影响，然后做出反应；S4通过算法得到警报等级。没有固定的排序，通过警报信息内的各种信息及其程度综合对报警信息进行权重和排序，系统给出的排序有助于人类进行警报的处理和解除。
- 一种数据处理方法、装置及电子设备-201910977544.6
- 李远辉;王奇刚;舒红乔;杨安荣;魏闪闪 - 联想(北京)有限公司
- 2019-10-15 - 2020-01-24 - G06N20/00
- 本申请公开了一种数据处理方法及装置，包括：在模型训练过程中，针对多个权重参数主体中的每一个权重参数主体：至少确定权重参数主体的权重在多次迭代过程中的第一距零值和第二距零值，在所述第一距零值和所述第二距零值满足预设条件时，将所述权重参数主体的权重值设为零。所述数据处理方法及装置，在模型训练过程中，能够依据权重在迭代过程中的至少两个距零值确定对应的权重参数的重要性，直接对不满足预设要求的权重参数进行裁剪，实现过程中不需要再对人工智能模型进行次数巨大的迭代，因而节省了模型训练时间；且过程中模型压缩率可控，能够得到最精简的人工智能模型。
- 一种基于树状拓扑结构的联邦学习方法及装置-201911000573.3
- 黄安埠 - 深圳前海微众银行股份有限公司
- 2019-10-21 - 2020-01-24 - G06N20/00
- 本申请提供一种基于树状拓扑结构的联邦学习方法及装置，涉及机器学习技术领域，用以解决联邦聚合时间过长及网络传输压力大的问题。所述方法的树状拓扑结构包括至少两层结构，每层结构包括至少一个节点，每个节点对应一个训练模型，所述方法包括：若满足预设触发条件，则对所述树状拓扑结构当前层的节点进行抽样处理；确定所述进行抽样处理后的当前层节点对应的训练模型，对所述确定的训练模型进行联邦聚合。该方法减轻分层的树状拓扑结构在进行联邦聚合时的网络传输压力，且加快联邦聚合的速度。
- 保护推理引擎免受模型检索攻击-201910505283.8
- O·波戈列里克;A·奈什图特;R·A·科亨;G·巴恩哈特-梅根 - 英特尔公司
- 2019-06-12 - 2020-01-21 - G06N20/00
- 本文公开了保护推理引擎免受模型检索攻击的电子处理系统、半导体封装装置和方法。半导体封装装置的实施例可以包括技术以用于执行对推理引擎的机器学习模型的输入和输出的运行时分析，基于运行时分析检测指示对检索机器学习模型的尝试的活动，以及在检测到指示尝试的模型检索的活动时执行一个或多个预防措施。公开并要求保护了其它实施例。
- 利用机器学习模型获取时序特征的方法和装置-201910554851.3
- 李文昊;涂威威;陈雨强 - 第四范式(北京)技术有限公司
- 2019-06-25 - 2020-01-21 - G06N20/00
- 提供了一种利用机器学习模型获取时序特征的方法和装置。所述方法包括：获取按时序流入的待处理数据，并在待处理数据具有真实结果的情况下获取待处理数据的真实结果；按照所述待处理数据的时序，不断利用基于至少一部分具有真实结果的待处理数据形成的训练数据来更新所述机器学习模型；基于与当前更新的所述机器学习模型的至少一个模型参数相关的参数项，获取与当前待处理数据相应的时序特征。
- 用户分流方法、装置、计算机设备和存储介质-201910848807.3
- 梁承飞 - 平安普惠企业管理有限公司
- 2019-09-09 - 2020-01-21 - G06N20/00
- 本发明揭示了一种用户分流方法、装置、计算机设备和存储介质，属于发布过程优化技术领域，该用户分流方法包括：接收用户更新环境的请求，向域控制器和代理服务器请求配置和接口，以便域控制器控制并配置平台中的资源环境版本以及代理服务器分配环境接口并生成环境标识；接收代理服务器发送的配置结果，所述配置结果包括配置结果是否成功以及分配的环境标识；若配置结果为成功，向用户代理注入环境标识；向H5发送用户代理，以便H5根据环境标识向平台请求与环境标识对应的环境资源包以供下载；将平台中与环境标识对应的环境资源包下载至本地；运行所述环境资源包。这样减轻了分流服务器的处理压力，提高了分流处理的效率，提升了用户体验。
- 面向第三方社会服务的人工智能基础资源与技术开放平台-201811581190.5
- 张鹤;程德生;蒋洵;王博;万晶;朱文;赵志武;吴朝阳;柴磊 - 杭州中软安人网络通信股份有限公司
- 2018-12-24 - 2020-01-17 - G06N20/00
- 本发明提供一种面向第三方社会服务的人工智能基础资源与技术开放平台，包括：基础设施层，提供网络与超大规模计算集群开放平台基础设施；基础数据资源层，通过对原始数据的组织和智能化标签，形成人工智能训练集、人工智能基准库和各类平台管理数据；智能分析层，通过机器学习方法，实现对语音、视频、图像、地理信息数据的识别；能力开放层，配备识别、交互、还原、分析和协作有关的智能技术基础组件；对外服务层，为需求单位和个人提供各类服务；安全体系，包含安全策略、安全评估和安全管理；运维体系，参照有关国家标准、地方标准和行业标准的有关要求，制定平台的制度规范；标准体系，参照有关国家标准和行业标准的要求制定各类标准。
- 一种基于生成对抗网络的领域特有特征对齐方法-201910793143.5
- 李云栋;胡威;董晗;刘艺;林晨 - 北方工业大学
- 2019-08-26 - 2020-01-17 - G06N20/00
- 本发明属于迁移学习领域的域适应问题，具体涉及一种基于生成对抗网络的领域特有特征对齐的方法。包括以下步骤：S1基于“伪概率”的目标域特征子空间无监督自动分割；S2基于生成对抗网络的目标域多模态特有特征与源域特征对齐。本发明的有益效果是：通过基于“伪概率”的目标域特征子空间无监督自动分割方法可以将目标域特征分割为共享特征和特有特征。可以针对两个特征的特点选择合适的对齐算法。对于特征差异较大的目标域特有特征采用改进的生成对抗网络进行对齐；对于差异较小的目标域共享特征采用MMD算法对齐。经过此算法可使目标域与源域的特征分布更加接近，进而提高域适应模型的知识迁移能力，解决迁移不足和负迁移的问题。
- 一种多模型并行训练方法-201910937692.5
- 姚倩雯;黄山;逯波;段晓东 - 大连民族大学
- 2019-09-30 - 2020-01-17 - G06N20/00
- 本申请公开了一种多模型并行训练方法，属于大数据环境下的数据挖掘、机器学习和应用统计等分布式迭代计算领域。技术要点：利用历史统计信息，对模型训练的执行时间进行预测；利用步骤S1中预测的执行时间生成执行方案，以调度单元作为最小任务，执行时间大于调度单元的模型则被分为多个调度单元分别进行调度；根据生成的执行方案，启动一个Gaia作业来完成批量模型的并行训练；收集任务执行信息并将其合并到历史统计信息中。有益效果：本发明能够使得多个模型在一个作业中完成训练；可以对模型分配进行比较合理的调度；系统通过时间预测，执行调度模型分配进行分别训练，大大减少了计算的延迟，提高了模型的运算速率。
- 基于合作博弈的模型解释方法、装置、电子设备-201910961275.4
- 吴明平;梁新敏;陈羲;吴明辉 - 秒针信息技术有限公司
- 2019-10-11 - 2020-01-17 - G06N20/00
- 本申请实施例提供的基于合作博弈的模型解释方法、装置、电子设备，该方法应用于电子设备，电子设备包括训练好用于预测或分类的机器学习模型。根据机器学习模型的输出结果计算从输入的至少一个测试样本中的多个特征中选择的各个目标特征对所述输出结果的贡献度值，以便根据选择的各个目标特征对所述输出结果的贡献度值对所述机器学习模型的输出结果进行解释。将机器学习模型与合作博弈论结合，通过计算各个目标特征的贡献度值，对机器学习模型的预测结果进行解释，包括非线性模型和线性模型。同时，本申请不仅可以针对单个目标特征对机器学习模型进行解释，也可以对机器学习模型整体的预测结果进行解释。
- 执行机器学习过程的方法、装置、设备以及存储介质-201810730677.9
- 黄缨宁;陈雨强;胡时伟;戴文渊 - 第四范式(北京)技术有限公司
- 2018-07-05 - 2020-01-14 - G06N20/00
- 本发明提出了一种执行机器学习过程的方法、装置、设备以及存储介质。预先设定一种或多种任务类型，并且针对每种任务类型，设置一个或多个模型框架，其中，模型框架为用于基于机器学习算法训练模型的框架；从与用户的需求相匹配的任务类型所对应的模型框架中选取模型框架；以及基于选取的模型框架，进行模型训练。由此，可以把机器学习过程降低到不需要用户知晓算法知识的水平线上。
- 用于机器学习的方法和计算机系统-201910925929.8
- M.桑德勒;A.齐莫吉诺夫;A.G.霍华德;P.K.穆德拉卡塔 - 谷歌有限责任公司
- 2019-09-27 - 2020-01-14 - G06N20/00
- 本公开提供了能够进行参数高效的转移学习、多任务学习和/或诸如模型个性化或域适应的其他形式的模型重新利用的系统和方法。具体地，作为一个示例，计算系统可以获得先前已经在第一训练数据集上训练以执行第一任务的机器学习模型。所述机器学习模型可以包括第一可学习参数集合。计算系统可以修改机器学习模型以包括模型补丁，其中模型补丁包括第二可学习参数集合。计算系统可以在第二训练数据集上训练机器学习模型以执行与第一任务不同的第二任务，其可以包括学习包括在模型补丁中的第二可学习参数集合的新值，同时保持第一可学习参数集合中的至少一些(例如，全部)固定。
- 专利分类
