[发明专利]训练模型的迁移学习方法及终端设备在审
| 申请号： | 201811480017.6 | 申请日： | 2018-12-05 |
| 公开（公告）号： | CN109726824A | 公开（公告）日： | 2019-05-07 |
| 发明（设计）人： | 赵正旭;王威;吴又奎 | 申请（专利权）人： | 中科恒运股份有限公司 |
| 主分类号： | G06N99/00 | 分类号： | G06N99/00;G06N3/08 |
| 代理公司： | 石家庄国为知识产权事务所 13120 | 代理人： | 秦敏华 |
| 地址： | 050090 河北省石家庄市新石*** | 国省代码： | 河北;13 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明适用于模型构建技术领域，提供了一种训练模型的迁移学习方法及终端设备，该方法包括：根据数据集中的任一非空子集，确定训练数据集和对应的验证数据集；根据训练数据集中的数据，对获取的预训练模型重新训练，获得新模型；根据训练数据集对应的验证数据集中的数据，对新模型的性能进行检测，获取检测结果；根据上述步骤确定N组训练数据集和对应的N组验证数据集，获得N组新模型和N组检测结果，N大于等于1；确定N组检测结果中准确率最高的检测结果对应的新模型为满足应用的目标新模型，可以解决现有技术中在面对某一领域的具体问题时，通常可能无法得到构建模型所需规模的数据，并且构建新模型耗时长、资源消耗较大的问题。 | ||
| 搜索关键词： | 检测结果 训练数据集 训练模型 验证数据 终端设备 构建 迁移 模型构建技术 步骤确定 数据集中 训练数据 资源消耗 准确率 耗时 学习 检测 应用 | ||
【主权项】：
1.一种训练模型的迁移学习方法，其特征在于，包括：根据数据集中的任一非空子集，确定一组训练数据集和对应的验证数据集；根据所述训练数据集中的数据，对获取的预训练模型重新训练，获得新模型；根据所述训练数据集对应的所述验证数据集中的数据，对所述新模型的性能进行检测，获取检测结果；根据上述步骤确定N组训练数据集和对应的N组验证数据集，获得N组新模型和N组检测结果，所述N大于等于1；确定N组所述检测结果中准确率最高的检测结果对应的新模型为满足应用的目标新模型。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中科恒运股份有限公司，未经中科恒运股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201811480017.6/，转载请声明来源钻瓜专利网。
- 同类专利
- 利用机器学习模型执行预测的方法及装置-201810397572.6
- 舒程珣;涂威威;陈雨强;戴文渊;杨强 - 第四范式（北京）技术有限公司
- 2018-04-28 - 2019-11-05 - G06N99/00
- 提供了一种利用机器学习模型执行训练的方法及装置。所述方法包括：获取将针对其执行预测的当前数据记录；获取第一机器学习模型针对所述当前数据记录所涉及的一系列连续数据记录执行预测的过程中所产生的内部状态，以用作与所述当前数据记录相应的序列特征，其中，第一机器学习模型具有循环结构，所述一系列连续数据记录包括在所述当前数据记录之前连续出现的在先数据记录，或者，所述一系列连续数据记录包括在所述当前数据记录之前连续出现的在先数据记录连同所述当前数据记录；产生与所述当前数据记录相应的预测样本，其中，所述序列特征被用作所述预测样本所包括的特征之一；利用第二机器学习模型针对预测样本提供关于预测目标的预测结果。
- 信息处理装置和信息处理方法-201910285793.9
- 於保勇作;恒木亮太郎 - 发那科株式会社
- 2019-04-10 - 2019-10-29 - G06N99/00
- 本发明涉及信息处理装置和信息处理方法，更简便地进行与具有驱动部的装置有关的学习。信息处理装置(400)具备：存储部(403)，其存储用于使机床、机器人或产业机械的电动机(201、202)进行动作的加工程序；以及生成部(405)，其从所述存储部(403)所存储的所述加工程序中提取包含特征性要素的一部分加工程序，由此生成用于进行基于所述电动机(201、202)的动作特性的学习的学习用程序。
- 构建和处理用于动态结构化机器学习模型的计算图-201780067874.0
- 马尔塞洛·马蒂亚斯·赫雷斯霍夫 - 谷歌有限责任公司
- 2017-11-03 - 2019-08-30 - G06N99/00
- 公开了用于构造和处理表示动态结构化机器学习模型的计算图的方法、系统和装置，包括在计算机存储介质上编码的计算机程序。示例系统接收识别能够对输入数据执行的多个操作的数据，以用于由动态结构化机器学习模型进行处理。该系统还接收与用于多个操作的自变量相对应的多个标签。有向计算图表示动态结构化机器学习模型的综合层。然后，该系统接收用于处理的输入，并且指定通过有向计算图的数据流。通过根据各个实现方式来构建单个计算图，机器学习系统能够接受并且有效地处理具有不同特征的输入数据。具体地，系统能够在不需要为每个输入重写计算图的情况下处理各种形状的输入。
- 多层网络最小支配集构造方法-201910422268.7
- 赵大伟;汪洁;徐习鹏;朱闻达;武文敏;江雨杭;秦勉;王连海 - 山东省计算中心(国家超级计算济南中心);中国民航大学
- 2019-05-21 - 2019-08-16 - G06N99/00
- 本发明的多层网络最小支配集构造方法，通过以下步骤来实现：a).初始化支配集合D为空集；将相连的节点i与j的关联概率初始化为区间（0,1]内的随机值；b).构建信念传播方程，计算每个节点处于已被占据状态的概率；c).节点添加，将节点按照被占据状态概率值降序排列，将前r比例的节点添加到支配集中；d).连边和节点的删除；e).掐叶算法处理；f).再次迭代；g).直到获得一个有效的支配集D。本发明的多层网络最小支配集构造方法，通过构建的信念传播方程计算多层网络节点属于多层网络最小支配集的边际概率，并使用多层网络掐叶算法以降低计算复杂程度，可快速构造出大规模多层网络的近似最小支配集。
- 用于数据的带注释捕获以及活动的群建模的方法和系统-201480051565.0
- Y·卡里图;H·M·R·科腾拉德;P·雅隆 - 莫韦公司
- 2014-08-04 - 2019-07-05 - G06N99/00
- 本发明公开了构建和/或使用用于估计用户的行为或用户感兴趣的情况的模型的方法、设备和系统。所述用户具有被配置为捕获与行为或情况有关的传感器数据的至少第一数据集的设备。一组处理能力被配置为捕获包括传感器数据的第一数据集和包括与行为或情况有关的注释数据的第二数据集，以及进一步至少配置模型。该设备进一步被配置为将至少一个模型的参数调节成用户的特性或一组用户的特性。本发明允许通过允许大量的数据的采集来改进现有技术，所述大量的数据将对模型针对行为或情况的拟合进行优化。
- 一种主动学习方法及装置-201910193835.6
- 牛力强;施隈隈;牛成 - 腾讯科技（深圳）有限公司
- 2019-03-14 - 2019-06-28 - G06N99/00
- 本发明公开了一种主动学习方法及装置，所述方法包括：获取已标注样本数据；使用机器学习模型对所述已标注样本数据进行训练，得到中间模型；将测试数据输入所述中间模型进行预测，得到所述测试数据对应的预测结果；根据预设评价指标，将边界模糊的预测结果对应的测试数据作为待标注样本数据输出；其中，采用多线程并行的方式对所述机器学习模型进行训练以及使用所述中间模型进行预测。本发明提供用户一通用性强的机器学习平台。本发明可以减少对输入模型用于训练的样本数据的标注量、减少进行人工标注的人力成本和有效提高处理效率。以最小的标注数据代价，快速迭代优化模型的效果。实现处理资源的最小化消耗。
- 用于QUDIT和多量子比特电路的精确量子电路及电路合成-201780064253.7
- S·舍恩南贝克;V·克利尤尼克服;A·V·博查洛夫 - 微软技术许可有限责任公司
- 2017-10-18 - 2019-06-04 - G06N99/00
- 提供了一种用于精确合成针对qudit和多量子比特系统的幺正矩阵的方法。另外，提供了一种状态准备方法。该合成产生针对给定的成本函数具有最低成本的电路。
- 特征选择方法、装置、存储介质及电子设备-201811482814.8
- 肖迪 - 东软集团股份有限公司
- 2018-12-05 - 2019-05-10 - G06N99/00
- 本公开涉及一种特征选择方法、装置、存储介质及电子设备，所述方法包括：获取候选特征子集集合；根据关联分析算法对候选特征子集集合进行处理，得到至少一个频繁项集；依次对每一频繁项集，执行特征选择操作：若已选特征集合中未包含该频繁项集中的所有特征，则确定该频繁项集与已选特征集合的并集对应的评价指标；若该评价指标优于已选特征集合对应的评价指标，则将并集作为新的已选特征集合；其中，已选特征集合初始为空集，每次得到的新的已选特征集合作为针对下一频繁项集执行特征选择操作中的已选特征集合。通过本公开的技术方案，以频繁项集为单位进行特征选择，考虑了特征之间的互补性，可以达到快速、有效地筛选较优特征的效果。
- 一种基于大数据的小型企业失信预测方法-201910021425.3
- 童毅;周波依 - 博拉网络股份有限公司
- 2019-01-10 - 2019-05-10 - G06N99/00
- 本发明涉及机器学习领域，具体而言，涉及一种基于大数据的小型企业失信预测方法，包括根据企业的行为足迹信息构建数据集；对数据集进行预处理操作；对数据集中的企业信息进行特征工程构建操作，构建统计特征、离散特征；构建多个机器学习模型并进行线性融合操作；对已建立的模型，根据企业的基本信息、企业民商事裁判文书、企业民商事审判流程等企业信息对小型企业是否失信，给出预测结果实现对小型企业失信行为的精准评估；本发明以小型企业为中心，围绕小型企业在多方面的行为足迹信息，通过构建数据集，数据预处理、特征工程、多个模型线性融合以及利用构建的模型对小型企业是否失信，给出预测结果实现对小型企业失信行为的精准评估。
- 训练模型的迁移学习方法及终端设备-201811480017.6
- 赵正旭;王威;吴又奎 - 中科恒运股份有限公司
- 2018-12-05 - 2019-05-07 - G06N99/00
- 本发明适用于模型构建技术领域，提供了一种训练模型的迁移学习方法及终端设备，该方法包括：根据数据集中的任一非空子集，确定训练数据集和对应的验证数据集；根据训练数据集中的数据，对获取的预训练模型重新训练，获得新模型；根据训练数据集对应的验证数据集中的数据，对新模型的性能进行检测，获取检测结果；根据上述步骤确定N组训练数据集和对应的N组验证数据集，获得N组新模型和N组检测结果，N大于等于1；确定N组检测结果中准确率最高的检测结果对应的新模型为满足应用的目标新模型，可以解决现有技术中在面对某一领域的具体问题时，通常可能无法得到构建模型所需规模的数据，并且构建新模型耗时长、资源消耗较大的问题。
- 针对含潜在不稳定特征构建机器学习模型的方法及装置-201811566395.6
- 卫浩 - 四川新网银行股份有限公司
- 2018-12-20 - 2019-05-03 - G06N99/00
- 本发明公开了一种针对含潜在不稳定特征构建机器学习模型的方法及装置，属于机器学习、模型构建和计算机技术领域，解决机器学习建模时，由于采用了不稳定的特征，在特征发生变动时往往需要重新构建机器学习模型，从而需要花费较大的人力、物力成本对模型进行维护的问题。本发明首先对训练样本特征的稳定性进行评估；基于特征稳定性评分，对特征进行分池；其次并行地对各特征池分别建立机器学习子模型；最后将得到的多个机器学习子模型进行融合模型训练，得到最终的融合模型。在特征发生变动导致特征不可用时，只需将该特征去掉后，更新对应特征池的子模型及融合模型，能以较小的代价和成本维护和更新模型，该方案用于对含不稳定特征的机器学习模型进行构建。
- 用户指导系统及方法-201680088918.3
- 张海宏;陶志伟 - 浙江核新同花顺网络信息股份有限公司;核新金融信息服务公司
- 2016-09-02 - 2019-04-26 - G06N99/00
- 本申请公开了一种用户指导方法和系统。该方法包括：获取第一个用户路径(510)，所述用户路径包括一个用户在通信终端上对两个或多个节点的操作组成的流程。该方法还包括至少部分基于所述第一个用户路径生成教材(520)，所述教材包括优化的用户路径或至少一个知识点，以及向用户提供所述教材(530)。
- 执行机器学习流程的方法及系统-201611113470.4
- 栾淑君;杨慧斌;孙迪 - 第四范式（北京）技术有限公司
- 2016-12-06 - 2019-04-23 - G06N99/00
- 提供了一种执行机器学习流程的方法及系统，所述方法包括：(A)向用户展示用于配置机器学习任务的图形界面并检测用户通过图形界面执行的输入操作，其中，机器学习任务用于执行机器学习流程所包括的数据处理；(B)根据检测到的用户通过所述图形界面执行的输入操作来配置所述机器学习任务；以及(C)在不执行配置的所述机器学习任务的情况下，推断与所述机器学习任务有关的数据属性信息，其中，数据属性信息包括数据属性字段的名称和/或数据类型。相应地，能够花费较少资源和时间而有效地得到机器学习流程中各个阶段的数据属性信息，从而改善机器学习工具的可操作性。
- 云平台下的模型动态训练、校验、更新维护和利用方法-201811443554.3
- 黄金 - 湖南视比特机器人有限公司
- 2018-11-29 - 2019-04-19 - G06N99/00
- 本发明属于机器学习技术领域，公开了一种云平台下的模型动态训练、校验、更新维护和利用方法；资源管理器根据不同业务请求、历史模型训练结果得工作流表；校验数据对模型进行校验将结果通知给资源管理器；服务管理器释放资源；资源管理器重新下发业务给业务池的调度器，启用新的计算模块用于业务模块。本发明减低大量人工标注成本，利用资源管理模块获得大量的模型监控统计数据，用于解决探索和利用两者平衡问题，在此过程中训练的模型和原始数据得到一定程度上的复用，在大量数据累计过后，可以以其优秀的智能编排完成一套高效的工作流。该方法利用云平台的特点，将硬件资源虚拟化，充分利用各个功能模块的特点，将资源加以最大化的利用。
- 一种特征组合方法、装置及设备-201811430613.3
- 何博睿 - 中诚信征信有限公司
- 2018-11-28 - 2019-04-16 - G06N99/00
- 本发明实施例提供了一种特征组合方法、装置及设备，该方法包括：利用独热码表示每一特征，作为每一特征对应的独热码特征；从独热码特征中选取特征，利用逻辑运算算法对选取的特征进行特征组合，得到第一预设数量组合特征；确定得到的组合特征中与目标特征之间相关度绝对值大于预设阈值的特征，作为第一组合特征；从得到的组合特征中选取第二预设数量个特征，作为第二组合特征；利用遗传算法对第一组合特征与第二组合特征进行交叉变异得到新的组合特征，重复确定第一组合特征至满足预先设定的终止条件，将每一次确定的第一组合特征中相关度最高的第三预设数量个组合特征作为特征组合结果。应用本发明实施例提供的方案能够减少建模人员的工作量。
- 一种基于工业大数据的智能决策系统-201811208881.0
- 王昊瀛 - 南京昊瀛天成信息技术有限公司
- 2018-10-17 - 2019-03-19 - G06N99/00
- 本发明公开了一种基于工业大数据的智能决策系统，包括工业大数据采集模块；数据分布式并行处理与存储模块；数据挖掘与建模模块；工业大脑模块；数据可视化显示模块。本发明的有益效果：使企业了实现业务经营和生产过程的数字化，并向智能化推进，在业务经营、产品研发与工艺设计、生产执行和过程控制的各个方面，以科学决策，精确地资源调配和使用，动态响应生产环境、供应链和市场需求的不断变化，实现成本、效率、生产质量的极大优化。
- 一种基于网络云协同的人工智能深度学习方法-201811260633.0
- 黄辰;王时绘;张龑 - 湖北大学
- 2018-10-26 - 2019-03-12 - G06N99/00
- 本发明公开了一种基于网络云协同的人工智能深度学习方法。先在本地获取输入层数据，并将输入层数据输出到云服务器，然后在云服务器端将输入层数据输入到云服务器的人工智能分析模型中，得到输出层数据，有效解决了现有技术中只能在用户本地进行人工智能学习的技术问题，实现了提高人工智能的学习精度的技术效果。
- 基于大数据处理及云传输下的智能监测方法及平台-201811306879.7
- 王硕;张方舟;徐江;王学宇;吴晓宇 - 常熟理工学院
- 2018-11-05 - 2019-03-12 - G06N99/00
- 本发明公开了一种基于大数据处理及云传输下的智能监测系统及方法，包括前端数据采集设备、大数据存储平台、云计算平台、前端设备用户；前端数据采集设备将数据传输至大数据存储平台，进行数据比对后发出警报；云计算平台读取大数据存储平台数据进行故障抓取或上传故障参数值前端设备用户。本发明采用的云平台具有人工智能的学习预测算法，可根据环境的变化实时调整预测参数，相比独立预测设备，适应新可靠性更强。
- 一种通用的机器学习超参黑盒优化方法及系统-201811221830.1
- 洪万福 - 厦门渊亭信息科技有限公司
- 2018-10-19 - 2019-03-08 - G06N99/00
- 本发明提供了一种通用的机器学习超参黑盒优化方法及系统，涉及人工智能和自动机器学习领域。包括，超参优化客户端，用于提交优化请求；超参优化服务门户，用于接收客户端请求进行处理；学习引擎，用于对训练集进行模拟学习；超参推荐引擎，用于根据模拟学习结果进行超参推荐；效果评估组件，用于评估训练集各超参集合的效果及性能；优化算法配置组件，用于超参优化算法的配置；自动停止组件，用于停止无意义的训练集；超参优化控制面板，用于管理配置、调度监控等。本发明的有益效果为：实现黑盒优化，使用简单，降低机器学习调参的门槛；引入新算法时可以快速适配优化；高可用性和高扩展性；内置最先进的超参优化算法，适合大规模应用。
- 人工智能系统-201710724102.1
- 谢为友;逯利军;钱培专 - 北京赛特斯信息科技股份有限公司
- 2017-08-22 - 2019-03-05 - G06N99/00
- 本发明涉及一种人工智能系统，其特征是，该系统包括接收模块、管理模块、操作模块、改进模块和学习模块，管理模块与接收模块和操作模块连接，管理模块与改进模块连接，改进模块和学习模块连接。这种人工智能系统，具有了自我管理和学习进步的能力，能够针对现有的知识进行快速的学习并且进行后续改进，能够满足实际的使用需求。
- 一种检测四量子比特簇对角态完全可分离性的方法-201811256686.5
- 张威;蒋丽珍 - 浙江工商大学
- 2018-10-25 - 2019-03-01 - G06N99/00
- 本发明提出一种检测四量子比特簇对角态完全可分离性的方法。在量子信息论中，无论对于纠缠理论还是实验研究，多体纠缠问题都非常重要。如何去证明一个给定的量子态是否纠缠，便是最核心的问题。已有的关于簇态的研究，是对于其两体可分离条件的研究。本发明给出四体可分离即完全可分离的方法。
- 基于DNA纳米三脚架调控荧光小分子与氧化石墨烯相互作用的分子逻辑门及其构建方法-201811222586.0
- 何开雨;徐霞红;王柳;何红梅;吴珉;王强 - 浙江省农业科学院
- 2018-10-19 - 2019-02-26 - G06N99/00
- 本发明公开了一种基于DNA纳米三脚架调控荧光小分子与氧化石墨烯相互作用的分子逻辑门及其构建方法。自组装的DNA纳米三脚架中，一条中心链通过三条边链部分杂交形成中心三角形，三条边链的剩余部分延伸形成单链DNA腿作为信号接收链，中心链负载荧光基团ROX。信号接收链在未与信号输入链杂交时吸附于氧化石墨烯表面，信号接收链在与信号输入链杂交变成双链后从氧化石墨烯表面解吸附。本发明通过组合输入不同信号输入链调节DNA纳米三脚架与氧化石墨烯的亲和性，使DNA纳米三脚架在氧化石墨烯表面的构型状态不同，从而调控其负载的荧光基团ROX与氧化石墨烯的相互作用，产生不同的荧光信号，实现了多种分子逻辑门构建。
- 一种基于特征可信度的高效特征选择方法-201811193848.5
- 王玉峰;陈艺元 - 南京邮电大学
- 2018-10-12 - 2019-02-15 - G06N99/00
- 本发明公开了一种基于特征可信度的高效特征选择方法，本发明提出的特征可信度来源于两个方面。一是特征和目标类别的权值，从数据集中随机挑选出样本，从该随机样本的同类和不同类样本实例集中分别找出k个与该随机样本最近邻的样本，然后计算特征全集中每个特征对于目标类别的权值，表示特征与目标类别之间相关度。二是迭代历史信息中各个特征的选择概率，在粒子群更新N次的历史信息中，如果第d个特征多次被选中，则说明该特征很大程度上能使适应度值增加，因此粒子p在第d维度位置更新的时候引入历史更新信息的影响。该发明在保证准确率的同时相对于标准BPSO优化方法有更高的搜索效率和更快的收敛速度。
- 一种构建混合型位错原子结构的方法-201811185640.9
- 吕柏林;张艺程;苏辉;吴敏;高学朋 - 辽宁石油化工大学
- 2018-10-11 - 2019-02-01 - G06N99/00
- 本发明公开了一种构建混合型位错原子结构的方法。该方法的主要内容包括，在给定包含晶体模型的原子结构信息的文件的前提下，利用C/C++语言提取该文件中的晶体模型原子结构信息，自动计算出在该晶体模型特定位置特定方位包含拟构建混合型位错的原子坐标，然后按分子动力学软件能识别的文件格式输出数据到文件。本发明可方便快捷地在晶体模型内部任意位置直接构建任意位向、任意组态的一个或多个混合型位错，为分子动力学及其它计算机仿真技术对位错行为的精准研究创造了有利条件。
- 偏振光子与原子相互作用的理论模型-201811028004.5
- 张子静;靳辰飞;宋杰;赵远 - 哈尔滨工业大学
- 2018-09-04 - 2019-01-25 - G06N99/00
- 本发明公开了偏振光子与原子相互作用的理论模型，原子对光子的散射包括吸收以及发射两个过程，在这两个过程中，系统总的哈密顿算符为原子哈密顿算符、光子哈密顿算符以及光子与原子相互作用哈密顿算符的和，将光子与原子相互作用的哈密顿算符作用到系统的波函数上，得到四个相互作用的矩阵元；光子与原子相互作用系统由初态到末态的相互作用矩阵元表示为对所有可能的中间态求和，根据四个相互作用的矩阵元得到光子与原子相互作用系统中总的相互作用矩阵元，从而得到光子与原子相互作用系统的散射截面。本发明可以得到散射截面与光子的频率、原子偶极矩、原子跃迁能级差、入射光子的偏振方向、出射光子的偏振方向之间的关系。
- 多选择多维度背包问题的多尺度量子谐振求解算法-201811130475.7
- 安俊秀;文仁强;陆志君 - 成都信息工程大学
- 2018-09-27 - 2019-01-25 - G06N99/00
- 本发明公开了一种运筹学领域中经典的组合优化问题，即多选择多维度背包问题的多尺度量子谐振求解算法，首先针对原问题模型建立了拉格朗日松弛对偶模型，大大减少了约束条件，并利用拉格朗日价值来评价组内物品价值，在此基础上引入MMKP近似核问题，对寻找最优解具有启发作用，并且减少了问题规模。此外基于近似核问题构建了混合高斯采样模型，引导算法在可信区域强化搜索，在不可信区域均匀搜索，提高了求解精度和收敛速度。
- 专利分类
