[发明专利]一种钢铁资源数据信息的整合方法及系统在审
| 申请号： | 201611198229.6 | 申请日： | 2016-12-22 |
| 公开（公告）号： | CN108228667A | 公开（公告）日： | 2018-06-29 |
| 发明（设计）人： | 周之锋 | 申请（专利权）人： | 钢钢网电子商务（上海）股份有限公司 |
| 主分类号： | G06F17/30 | 分类号： | G06F17/30;G06Q50/04 |
| 代理公司： | 上海宏京知识产权代理事务所(普通合伙) 31297 | 代理人： | 邓文武 |
| 地址： | 201111 上海市*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 钢铁资源 过滤 数据存储 数据平台 数据信息 应用程序 筛选 调用 整合 数据储存模块 数据获取模块 数据通信模块 储存模块 第一数据 钢铁行业 筛选模块 数据接口 网络技术 综合优化 预装 管理 | ||
1.一种钢铁资源数据信息的整合方法，其特征在于，包括如下过程：
S1、通过Webservice网络技术和数据接口的方式对接网络中各个钢铁资源数据平台；
S2、利用预装网页爬虫软件，获取网络中各个钢铁资源数据平台的原始钢铁资源数据；
S3、将获取的原始钢铁资源数据存储在本地MySQL数据库中；
S4、调用MySQL数据库中的原始钢铁资源数据，本地定时执行预装的过滤筛选应用程序，该应用程序根据钢铁行业规则和规范，对调用的原始钢铁资源数据进行过滤筛选；
S5、将筛选后的原始钢铁资源数据存储在本地SQL数据库中。
2.根据权利要求1所述的钢铁资源数据信息的整合方法，其特征在于，步骤S2中利用预装网页爬虫软件，获取网络中各个钢铁资源数据平台的原始钢铁资源数据具体指：根据各个钢铁资源数据平台的网站结构，使用html解析技术结合正则表达式，并根据钢材特性分解原始钢铁资源数据。
3.根据权利要求1所述的钢铁资源数据信息的整合方法，其特征在于，步骤S2中的预装网页爬虫软件通过多线程的方式，部署到多台服务器，使用分布式方式获取、解析原始钢铁资源数据。
4.一种钢铁资源数据信息的整合系统，其特征在于，包括：
数据通信模块，用于通过Webservice网络技术和数据接口的方式对接网络中各个钢铁资源数据平台；
数据获取模块，用于利用预装网页爬虫软件，获取网络中各个钢铁资源数据平台的原始钢铁资源数据；
第一数据储存模块，用于将获取的原始钢铁资源数据存储在本地MySQL数据库中；
过滤筛选模块，用于调用MySQL数据库中的原始钢铁资源数据，并本地定时执行预装的过滤筛选应用程序，该应用程序根据钢铁行业规则和规范，对调用的原始钢铁资源数据进行过滤筛选；
第二数据储存模块，将筛选后的原始钢铁资源数据存储在本地SQL数据库中。
5.根据权利要求4所述的钢铁资源数据信息的整合系统，其特征在于，数据获取模块利用预装网页爬虫软件，获取网络中各个钢铁资源数据平台的原始钢铁资源数据具体指：根据各个钢铁资源数据平台的网站结构，使用html解析技术结合正则表达式，并根据钢材特性分解原始钢铁资源数据。
6.根据权利要求4所述的钢铁资源数据信息的整合系统，其特征在于，数据获取模块中预装的网页爬虫软件通过多线程的方式，部署到多台服务器，使用分布式方式获取、解析原始钢铁资源数据。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于钢钢网电子商务（上海）股份有限公司，未经钢钢网电子商务（上海）股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/201611198229.6/1.html，转载请声明来源钻瓜专利网。
