[发明专利]一种基于Docker的大数据学习平台搭建方法在审
申请号: | 202010039882.8 | 申请日: | 2020-01-15 |
公开(公告)号: | CN111209087A | 公开(公告)日: | 2020-05-29 |
发明(设计)人: | 储小刚;张晨飞 | 申请(专利权)人: | 南京中新赛克科技有限责任公司 |
主分类号: | G06F9/455 | 分类号: | G06F9/455;G06F8/61;G06F8/41 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 柏尚春 |
地址: | 210012 江苏省南京*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 docker 数据 学习 平台 搭建 方法 | ||
1.一种基于Docker的大数据学习平台搭建方法,其特征在于,包括如下步骤:
(1)初始化主机网络环境,创建虚拟网卡并桥接到物理网卡上;
(2)客户端调用脚本创建容器,所述容器具有ubuntu系统最小系统的基础组件,容器设定SSH服务,与服务器相同的访问;
(3)创建容器镜像,设置后台守护进程作为容器运行时的依赖进程,所述容器镜像在容器内部进程异常退出后自动拉起;
(4)配置容器环境变量实现,包括调用内部脚本读取环境变量实现可配置功能。
2.根据权利要求1所述的基于Docker的大数据学习平台搭建方法,其特征在于,所述大数据学习平台根据学习目的设定不同的启动方式,基础组件包括kafka、zookeeper、hadoop、spark、scala、Hbase数据库组件。
3.根据权利1所述基于Docker的大数据学习平台搭建方法,其特征在于,步骤(1)所述初始化主机网络环境通过docker的bridge桥接模式,将模拟虚拟网卡桥接到物理网卡上,配置与物理网卡同一网段的网络信息,将docker服务的指定网卡指向新创建的虚拟网卡,新创建的容器设置为客户端直接访问对象。
4.根据权利1所述基于Docker的大数据学习平台搭建方法,其特征在于,步骤(2)基于ubuntu基础镜像,包括通过Dockerfile文件编译镜像时增加sshd服务,生成安装sshd服务的镜像。
5.根据权利1所述基于Docker的大数据学习平台搭建方法,其特征在于,所述大数据学习平台安装有sshd服务的ubuntu镜像,通过Dockerfile文件编译并增加java、scala、mysql基础数据组件包,zookeeper、hadoop、spark、scala和Hbase数据库组件,增加组件的安装目录默认用户的.bashrc文件中,增加java、scala和zookeeper数据库组件的二进制文件路径到PATH环境变量中,形成大数据搭建的基础环境。
6.根据权利1所述基于Docker的大数据平台快速搭建方法,其特征在于,步骤(3)包括在容器入口默认启动守护进程,守护进程定义需要监控的进程信息,通过守护进程所具有的进程看门狗,进程异常退出自动拉起。
7.根据权利1所述基于Docker的大数据学习平台快速搭建方法,其特征在于,步骤(4)具体包括在容器启动脚本执行时,传入环境变量,所述环境变量在容器启动后成为容器的全局变量,容器内部初始化时,根据变量值批量修改hadoop的配置文件,包括core-site.xml、hdfs-site.xml、yarn-site.xml文件,批量修改hbase的配置文件为hbase-site.xml文件,批量修改hive的配置文件为hive-site.xml,所述配置文件在编译镜像时将关键的配置项进行关键词标记,根据容器的名字替换关键词标记进行批量修改并实现可配置的功能。
8.根据权利1所述基于Docker的大数据学习平台快速搭建方法,其特征在于,所述大数据学习平台的组件的一键启动功能包括docker的一键启动以及docker容器中hadoop、hive、Hbase大数据组件的一键启动;
所述的docker的一键启动根据用户的用户id创建出id-master、id-slave1、id-slave2和id-mysql四个容器,id-slave1、id-slave2两个容器根据虚拟网卡的网段自动分配两个ip地址,id-master、id-slave1、id-slave2通过link方式连接到id-mysql容器上;
所述大数据组件的一键启动运行在id-master容器中,容器启动时默认执行入口脚本,所述入口脚本中包含了初始化环境变量,批量替换配置文件关键词、按照顺序依次启动zookeeper、hadoop、hive和hbase大数据组件的进程,容器启动后大数据环境自动搭建。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京中新赛克科技有限责任公司,未经南京中新赛克科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010039882.8/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置