[发明专利]模型转换系统和模型转换方法在审
申请号: | 202210510515.0 | 申请日: | 2022-05-11 |
公开(公告)号: | CN115034401A | 公开(公告)日: | 2022-09-09 |
发明(设计)人: | 陈元丰;谢翔;晏意林;黄高峰;肖继清;李升林;孙立林 | 申请(专利权)人: | 上海阵方科技有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F40/151;G06F21/62;G06F8/51 |
代理公司: | 深圳市中科创为专利代理有限公司 44384 | 代理人: | 谭雪婷;彭涛 |
地址: | 200030 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 转换 系统 方法 | ||
本发明公开了一种模型转换系统和模型转换方法,包括:Loader模块:用于加载TensorFlow明文模型,依次把其每个变量数据分别保存为独立的文件,将其变量元数据信息保存为另外一个独立的文件;Generator模块:用于生成目标明文模型,生成新的网络拓扑结构代码所使用的TensorFlowAPIs都是由Rosetta可适配的APIs组成;Saver模块:用于加载目标明文模型,根据变量元数据信息把Loader模块中保存的变量数据分别赋值给目标明文模型,并保存为新的明文模型文件。本发明实现了任意明文预训练模型能够在Rosetta隐私框架上被复用,可以减少时间和节约成本。
技术领域
本发明涉及计算机软件领域,尤其涉及的是一种基于TensorFlow和Rosetta的模型转换系统和模型转换方法。
背景技术
隐私机器学习框架是结合密码学与AI能够解决现在数据行业隐私问题,主流的隐私机器框架如:TF-Encrypted、PySyft、Rosetta等,这些主流隐私机器学习框架前端都是使用主流AI框架的APIs接口进行适配,如:TensorFlow、pytorch等,故这些隐私AI框架看起来很像主流AI框架,它们利用了框架APIs的易用性,同时通过多种密码学算法对加密数据进行训练和预测,目的是让用户在并不精通密码学、分布式系统或高性能计算专业知识的情况下,也可以使用隐私保护加持的机器学习随时可用。但是这些隐私机器学习框架存在一个问题就是:可使用隐私机器学习框架(如:Rosetta)进行训练模型,训练好的模型也可保存为明文或者密文,但是目前暂未发现一个隐私框架可以支持加载使用明文框架(如:TensorFlow)训练好的明文模型来进行继续隐私训练或隐私预测。如果隐私框架支持加载预训练明文模型,那么大量基于明文框架(如:TensorFlow)训练好的模型就可以被复用,对隐私框架的推广具有里程碑式的意义,一方面预训练好的明文模型非常丰富,另外一方面较隐私训练,明文下训练模型会节省很大的成本。因此能够复用明文模型对隐私框架来说意义重大,可惜的是暂未发现一个隐私框架可支持任意的明文模型,本发明就是解决这个技术问题,使基于TensorFlow的任意明文预训练模型能够在Rosetta隐私框架上被复用。
因此,现有技术存在缺陷,需要改进。
发明内容
本发明所要解决的技术问题是:提供一种基于TensorFlow的任意明文预训练模型能够在Rosetta隐私框架上被复用,可以减少时间和节约成本的模型转换系统和模型转换方法。
本发明的技术方案如下:一种基于TensorFlow和Rosetta的模型转换系统,包括:Loader模块:用于加载TensorFlow明文模型,依次把TensorFlow明文模型中每个变量数据分别保存为独立的文件,以及将TensorFlow明文模型的变量元数据信息保存为另外一个独立的文件;Generator模块:用于根据TensorFlow明文模型加载前的网络拓扑结构生成新的网络拓扑结构代码,并生成目标明文模型,其中,生成新的网络拓扑结构代码所使用的TensorFlow APIs都是由Rosetta可适配的APIs组成;Saver模块:用于加载目标明文模型,并根据变量元数据信息把Loader模块中保存的变量数据分别赋值给目标明文模型,然后保存目标明文模型为新的明文模型文件,这个新的明文模型文件可在Rosetta中加载并使用。
应用于上述技术方案,所述的模型转换系统中,所述变量元数据信息包含:变量名称、变量Shape Info、变量Tensor value对应的文件名。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海阵方科技有限公司,未经上海阵方科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210510515.0/2.html,转载请声明来源钻瓜专利网。