[发明专利]一种由转换原语生成Spark代码的方法有效

专利信息
申请号: 201611252903.4 申请日: 2016-12-30
公开(公告)号: CN106843858B 公开(公告)日: 2020-06-09
发明(设计)人: 张天;潘敏学;杨宇飞;刘拨杰;车开达;李宣东 申请(专利权)人: 南京大学
主分类号: G06F8/33 分类号: G06F8/33;G06F8/35;G06F40/253;G06F40/151;G06F40/16
代理公司: 南京瑞弘专利商标事务所(普通合伙) 32249 代理人: 唐绍焜
地址: 210093 江*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 转换 生成 spark 代码 方法
【权利要求书】:

1.一种由转换原语生成Spark代码的方法,其特征在于:包括步骤:

步骤10:设计表示数据模型变换的转换原语文法;

所述步骤10的设计过程包括:

步骤20:规定转换控制层原语ExecuteTransformation用来控制整个模型转换的执行,调度ExecuteRule原语;

步骤21:规定转换控制层原语ExecuteRule用来控制一条规则的执行,调度执行层原语;

步骤22:规定执行层原语MatchPattern根据输入模式在模型中进行匹配,得到需转换的输入数据模型片段;

步骤23:规定执行层原语MatchObject根据指定条件,去查找满足条件的匹配对象;

步骤24:规定执行层原语CreateObject来创建模型对象元素;

步骤25:规定执行层原语CreateReference来创建模型关系元素;

步骤26:规定表达式计算层原语EvaluateExpression用于进行复杂表达式计算;

步骤11:输入数据变换的原语文件;原语文件是根据步骤10设计的转换原语文法设计的,包含输入数据模型、输出数据模型和转换规则的信息;

所述步骤11中设计原语文件的过程包括:

步骤30:打开eclipse创建原语xml文件;

步骤31:右键点击添加ExecuteTransformation节点;

步骤32:右键点击ExecuteTransformation节点添加Domain节点,并设置属性为input_type;

步骤33:右键点击Domain节点,添加两个inputFile节点,存放要进行转换的输入文件信息;

步骤34:右键点击ExecuteTransformation节点添加Domain节点,并设置属性为output_type;

步骤35:右键点击Domain节点,添加一个outputFile节点,存放转换后的输出文件信息;

步骤36:右键点击ExecuteTransformation节点添加ExcuteRule节点;

步骤37:右键点击ExecuteRule节点,添加两个MatchType和一个joinKey节点,在该两个节点里添加转换规则;结束本次原语文件的设计;

步骤12:利用Xtext对步骤11设计的原语文件进行语法分析及语义转换,并得到抽象语法树;

步骤13:利用Xtend生成代码生成器,建立转换原语与Spark代码之间的映射,并根据步骤12得到的抽象语法树对原语文件进行语义转换,生成对应的Spark代码;

所述步骤13中利用Xtend生成代码生成器,建立转换原语与Spark代码之间的映射的实现过程如下:

步骤50:将原语ExucuteTranformation转化为Spark程序的执行入口,且调用输入数据模型和输出数据模型的静态方法实现输入输出;

步骤51:将原语Domain_input和Domain_output转化为对应输入数据模型和输出数据模型的类文件;

步骤52:原语ExucuteRule对应spark平台上对RDD的操作集合,组成ExucuteRule的原语分别对应spark平台上的具体操作;

步骤53:将原语MatchType中的name属性对应Spark中RDD的创建;

步骤54:将原语Filter对MatchType对应的RDD进行原语Filter定义的过滤操作,调用RDD的Filter函数;

步骤55:将原语Statistics对MatchType对应的RDD进行原语Statistics定义的统计操作;

步骤56:将原语JoinKey对spark平台上的两个RDD的连接操作,提取关键值,分别生成一个PairRDDFunctions,再进行连接。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201611252903.4/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top