[发明专利]一种基于Docker的大数据学习平台搭建方法在审

专利信息
申请号: 202010039882.8 申请日: 2020-01-15
公开(公告)号: CN111209087A 公开(公告)日: 2020-05-29
发明(设计)人: 储小刚;张晨飞 申请(专利权)人: 南京中新赛克科技有限责任公司
主分类号: G06F9/455 分类号: G06F9/455;G06F8/61;G06F8/41
代理公司: 南京苏高专利商标事务所(普通合伙) 32204 代理人: 柏尚春
地址: 210012 江苏省南京*** 国省代码: 江苏;32
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 基于 docker 数据 学习 平台 搭建 方法
【权利要求书】:

1.一种基于Docker的大数据学习平台搭建方法,其特征在于,包括如下步骤:

(1)初始化主机网络环境,创建虚拟网卡并桥接到物理网卡上;

(2)客户端调用脚本创建容器,所述容器具有ubuntu系统最小系统的基础组件,容器设定SSH服务,与服务器相同的访问;

(3)创建容器镜像,设置后台守护进程作为容器运行时的依赖进程,所述容器镜像在容器内部进程异常退出后自动拉起;

(4)配置容器环境变量实现,包括调用内部脚本读取环境变量实现可配置功能。

2.根据权利要求1所述的基于Docker的大数据学习平台搭建方法,其特征在于,所述大数据学习平台根据学习目的设定不同的启动方式,基础组件包括kafka、zookeeper、hadoop、spark、scala、Hbase数据库组件。

3.根据权利1所述基于Docker的大数据学习平台搭建方法,其特征在于,步骤(1)所述初始化主机网络环境通过docker的bridge桥接模式,将模拟虚拟网卡桥接到物理网卡上,配置与物理网卡同一网段的网络信息,将docker服务的指定网卡指向新创建的虚拟网卡,新创建的容器设置为客户端直接访问对象。

4.根据权利1所述基于Docker的大数据学习平台搭建方法,其特征在于,步骤(2)基于ubuntu基础镜像,包括通过Dockerfile文件编译镜像时增加sshd服务,生成安装sshd服务的镜像。

5.根据权利1所述基于Docker的大数据学习平台搭建方法,其特征在于,所述大数据学习平台安装有sshd服务的ubuntu镜像,通过Dockerfile文件编译并增加java、scala、mysql基础数据组件包,zookeeper、hadoop、spark、scala和Hbase数据库组件,增加组件的安装目录默认用户的.bashrc文件中,增加java、scala和zookeeper数据库组件的二进制文件路径到PATH环境变量中,形成大数据搭建的基础环境。

6.根据权利1所述基于Docker的大数据平台快速搭建方法,其特征在于,步骤(3)包括在容器入口默认启动守护进程,守护进程定义需要监控的进程信息,通过守护进程所具有的进程看门狗,进程异常退出自动拉起。

7.根据权利1所述基于Docker的大数据学习平台快速搭建方法,其特征在于,步骤(4)具体包括在容器启动脚本执行时,传入环境变量,所述环境变量在容器启动后成为容器的全局变量,容器内部初始化时,根据变量值批量修改hadoop的配置文件,包括core-site.xml、hdfs-site.xml、yarn-site.xml文件,批量修改hbase的配置文件为hbase-site.xml文件,批量修改hive的配置文件为hive-site.xml,所述配置文件在编译镜像时将关键的配置项进行关键词标记,根据容器的名字替换关键词标记进行批量修改并实现可配置的功能。

8.根据权利1所述基于Docker的大数据学习平台快速搭建方法,其特征在于,所述大数据学习平台的组件的一键启动功能包括docker的一键启动以及docker容器中hadoop、hive、Hbase大数据组件的一键启动;

所述的docker的一键启动根据用户的用户id创建出id-master、id-slave1、id-slave2和id-mysql四个容器,id-slave1、id-slave2两个容器根据虚拟网卡的网段自动分配两个ip地址,id-master、id-slave1、id-slave2通过link方式连接到id-mysql容器上;

所述大数据组件的一键启动运行在id-master容器中,容器启动时默认执行入口脚本,所述入口脚本中包含了初始化环境变量,批量替换配置文件关键词、按照顺序依次启动zookeeper、hadoop、hive和hbase大数据组件的进程,容器启动后大数据环境自动搭建。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京中新赛克科技有限责任公司,未经南京中新赛克科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202010039882.8/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top