大数据培训课程介绍,大数据学习课程要学习哪些

大数据培训课程介绍,大数据学习课程要学习哪些,第1张

《大数据实训课程资料》百度网盘资源免费下载

链接:https://pan.baidu.com/s/1RiGvjn2DlL5pPISCG_O0Sw

?pwd=zxcv 提取码:zxcv

大数据实训课程资料|云计算与虚拟化课程资源|课程实验指导书综合版|机器学习与算法分析课程资源|Spark课程资源|Python课程资源|Hadoop技术课程资源|云计算课程资料.zip|微课.zip|算法建模与程序示例.zip|spark课程资源.zip|hadoop课程资源.zip|实验指导书|教学视频|教学PPT  

第三次全国农业普查数据处理工作方案

第三次全国农业普查(以下简称“三农普”)数据处理工作遵循“创新管理,提高效率”的原则,充分利用现代信息技术,实现普查数据处理的信息化、网络化,全面提升普查数据处理工作效率和数据质量。

为了做好三农普数据处理工作,根据《全国农业普查条例》和《第三次全国农业普查方案》,特制定本工作方案。

一、工作原则

三农普数据处理工作按照“统一标准、分级负责、规范管理、安全高效”的原则进行。

——统一标准:在国务院第三次全国农业普查领导小组办公室(以下简称“国务院农普办”)统一部署下,要求数据处理工作“统一技术环境标准,统一数据处理标准,统一数据处理软件”,在规定的时间内完成普查数据的采集、上报与处理。

——分级负责:本次普查的数据处理工作,分别由乡、县、地市、省和国家级普查机构组织实施。各级普查机构要按照各自分工,做好统筹规划,加强组织协调,按时完成各项数据处理工作任务。

——规范管理:本次普查规模大,技术要求高,数据处理人员多,数据处理设备量大,各级普查机构必须严格管理,建立岗位责任制,落实责任、强化基础。

——安全高效:各级普查机构要进一步加强安全意识,规范管理,严格执行数据处理的各项业务规程和安全要求,确保数据处理系统高效运行和普查数据的安全与完整。

二、工作内容

本次普查数据处理对象为以下普查表式:

——农户填报的《农户普查表》;

——规模农业经营户填报的《规模农业经营户普查表》;

——农业经营单位填报的《农业经营单位普查表》;

——村民委员会填报的《行政村普查表》;

——乡镇人民政府填报的《乡镇普查表》。

数据处理工作是要完成上述5种表式的数据采集与录入、数据报送与接收、数据交换与备份、数据审核与验收、数据汇总与反馈,以及数据归档等工作。

三、数据处理流程

本次普查的数据处理是按照“移动采集、网上报送、两级部署、四级审核”的工作模式进行。数据处理流程如下:

(一)入户前准备。

在普查入户登记前,普查员领取PDA(移动采集终端(以下简称“PDA”)进行注册,接收数据采集应用程序、普查制度等,并进行数据应用程序的安装和普查制度的加载。

(二)数据采集与报送。

三农普根据不同的调查对象,采用不同的数据采集和数据报送方式。

1.农户、规模农业经营户和农业经营单位。

普查员入户进行现场登记,通过PDA数据采集程序采集农户、规模农业经营户以及农业经营单位的数据并进行初审,通过移动互联网将普查数据上传到省级农普办。

2.村民委员会和乡镇人民政府。

村民委员会和乡镇人民政府填报的普查数据由乡级普查机构通过固定互联网在普查数据处理系统中进行录入与初审,并报送至省级农普办。

(三)数据审核与验收。

县、地市、省级普查机构利用普查数据处理系统在规定的时间内完成数据审核、查询、验收等工作。

普查数据经省级普查机构审核确认后,向国务院农普办上报净化后的普查数据和审核报告单。

国务院农普办接收、审核和验收省级普查机构上报的数据和审核报告单。

(四)数据汇总。

国务院农普办对验收后的普查数据进行汇总。

(五)数据反馈与归档。

普查数据经国务院农普办评估后进行反馈并归档。

四、数据处理软件

普查数据处理软件由国务院农普办统一开发,包括:移动采集终端管理系统、PDA数据采集程序、普查数据处理系统等。移动采集终端管理系统和普查数据处理系统分别在国家、31个省(自治区、直辖市)和新疆生产建设兵团进行两级部署。

(一)移动终端管理系统:负责PDA的注册管理;完成数据采集应用程序、普查制度、程序补丁包、普查制度修订包和培训教材等相关数据向PDA推送等任务。

(二)PDA数据采集程序:负责农户、规模农业经营户和农业经营单位的数据采集。完成数据初审、数据上传等任务。

(三)普查数据处理系统:由数据采集报送、数据交换和数据处理三个中心构成。省级数据采集报送中心接收所辖地区PDA端上传的农户、规模农业经营户和农业经营单位的普查数据、采集与报送行政村和乡镇的普查数据,并由数据交换中心将数据传送到省级数据处理中心,同时与国家级数据交换中心进行定时同步。县、地市和省级统计人员登录省级数据处理中心进行数据审核与查询,并在报告期将净化后的数据和审核报告单通过数据交换中心提交到国家。省级数据汇总工作在省级数据处理中心完成。

国家级数据交换中心将同步到的省级普查数据传送到国家级数据处理中心;国家级统计人员登录国家级数据处理中心浏览、查询普查数据;根据省级农普办上报的审核报告单进行数据审核与验收,并完成数据的汇总、反馈与归档等工作。

普查数据处理系统示意图

五、数据处理环境要求

(一)乡级数据处理环境要求。

乡级普查机构要具备必要的数据处理办公环境和网络环境,2台以上计算机、1台笔记本电脑、1-2台激光打印机、防病毒系统、大容量移动硬盘等。同时,根据本地区业务情况为一线普查员配备PDA。

(二)县级数据处理环境要求。

县级普查机构必须具备专用的数据处理办公环境,100M以上局域网和2M以上与地(市)级、省级及国家级统计内网接入的网络环境,4台以上计算机、2-3台激光打印机、客户端安全管理系统等。

(三)地市级数据处理环境要求。

地市级普查机构必须具备必要的数据处理办公环境,具备100M以上局域网和10M以上与省级、国家级统计内网接入的网络环境, 8台及以上计算机、2-3台激光打印机,客户端安全管理系统以及UPS供电环境等。

(四)省级数据处理环境要求。

1.移动终端管理平台:配备3台服务器,含 *** 作系统、相应的数据库软件和应用中间件。其中,PDA不超过10万台的省,配备1台低档服务器用作数据库服务器,1台低档和1台中档服务器用作应用服务器;PDA超过10万台的省,配备1台低档服务器用作数据库服务器,2台中档服务器用作应用服务器。

2.普查数据处理系统:

——数据采集报送中心:配备4台服务器,含 *** 作系统、相应的数据库软件、应用中间件和消息中间件。其中,2台中档服务器用作数据库服务器,2台低档服务器用作应用服务器。

——数据交换中心:配备6台服务器,含 *** 作系统、相应的数据库软件、应用中间件和消息中间件。其中,2台低档服务器作为前置交换服务器,4台中档服务器作为交换数据库服务器。

——数据处理中心:配备6-8台服务器,含 *** 作系统、相应的数据库软件、应用中间件和消息中间件。其中,2台高档服务器用作数据库服务器,4-6台中低档服务器用作应用服务器(农户数量不超过1000万时,配备4台;超过1000万时,配备6台)。

3.安全设备:配备1套网页漏洞检测工具,1台数据库安全审计系统,2台应用防火墙,1台堡垒主机,互联网出口处1台DDoS防护设备。省级身份认证系统(在二经普统一配置的基础上或根据本地区实际情况进行升级和扩容),用户容量根据实际业务需求配备。

4.其他设备:配备2台负载均衡交换机,2台光纤交换机和2台存储设备。

5.网络环境:互联网接入带宽大于100M。

6.机房环境:要求机房承重荷载、用电负荷、空调系统及供配电符合国家相应的标准规范;要求机房分区,数据采集报送中心要放入互联网专区(DMZ区),数据交换中心和数据处理中心要放入等级保护的本项目专区。

设备配置参数参考附件。

(五)国家级数据处理环境要求。

(略)。

六、数据处理人员配备要求

为保证第三次全国农业普查数据采集、处理和系统管理工作的顺利进行,应设立数据处理相关技术工作岗位,建立岗位责任制,配备相应的数据处理人员。其中,省级数据处理人员配备要求如下:

1.组织协调:1人。负责数据处理相关工作的组织和协调。

2.系统管理:1-2人。负责系统软硬件的运维管理和相关技术支持等。

3.网络管理:1-2人。负责网络环境的运维管理和相关技术支持等。

4.应用管理:4-6人。负责各应用系统的管理和相关技术支持等。其中,移动终端管理平台1-2人;数据采集报送中心1人;数据交换中心1人;数据处理中心2-3人。

5.安全管理:1人。负责信息安全管理。

6.机房管理:1人。负责机房环境的管理。

7.PDA管理:1-2人。组织地市级农业普查办公室进行PDA的验收和发放,联系并指导上网卡的登记注册等工作。

七、安全保密

三农普数据处理工作依托于网络进行,信息网络的安全保密管理是一项重要的工作,必须按照信息安全等级保护的管理要求和技术标准进行安全管理,在数据处理中采取相应的安全管理制度和技术措施,各级农普办要按照国家相关的安全保密管理要求制定本级的三农普数据处理安全保密管理办法。

省级节点在系统部署时,应遵循专区专域的原则,并对数据库等重要系统的访问采取最小授权的白名单访问控制策略。省级和国家级的数据交换通过统计专网进行。地市和县级农普办数据处理要按照三农普数据处理安全保密管理办法开展工作。

各级数据处理人员都要遵守普查保密规定,对经手的普查资料严格保密。

八、技术培训

三农普数据处理技术培训工作根据业务情况分级或跨级组织与部署。

九、数据处理经费

按照财政分级负担原则和《全国农业普查条例》,普查数据处理设备由各级财政分别负担。国家农普办将向国家发展改革委积极申请三农普数据处理专项设备的中央投资。按照国家发展改革委现行投资政策规定,中央财政资金只能用于中西部地区的普查设备补助。请各级普查机构提早做好普查数据处理设备经费的申请和落实工作。

十、组织实施

国务院农普办设立数据处理组,统一部署、组织和实施三农普数据处理工作。

各级普查机构应按照国务院农普办的组织形式,成立数据处理组。各级数据处理组接受上级数据处理组的业务管理和技术指导,并在本级农普办的领导下,负责组织实施本级的数据处理工作。

(一)准备阶段。

主要任务是做好三农普数据处理前期的各项准备工作。包括:制定三农普数据处理方案和实施细则;制定有关数据处理的各类标准;数据处理软件和硬件的采购;组织数据处理工作试点;数据处理软硬件的技术培训;数据处理环境的搭建等。

(二)数据处理和上报阶段。

本阶段的主要任务包括:组织普查员完成普查数据的现场录入和数据上传;组织乡级普查机构进行数据的网上报送;组织完成数据审核、验收、汇总和数据归档等工作。

(三)资料开发阶段。

本阶段的主要工作任务是完成三农普汇编资料的分类汇总等工作。

(四)工作总结阶段。

从工作组织、系统环境保障,技术方案、主要问题及经验等方面,对本次数据处理工作进行认真总结。

十一、工作任务

各级普查机构数据处理工作任务如下:

(一)国家级。

1.负责制定数据处理工作方案与实施细则。

2.负责制定数据处理设备配备方案和组织数据处理设备的采购。

3.负责数据处理软件的研制与开发。

4.负责国家级数据处理环境的准备和部署,负责系统安全。

5.负责组织国家级数据处理试点工作。

6.负责组织编写数据处理软件 *** 作手册。

7.指导省级数据处理工作和负责相关的技术支持。

8.接收省级上报的普查数据。

9.负责审核、验收、汇总、备份及归档普查数据。

10.完成数据处理工作总结。

(二)省级。

1.负责制定本省的数据处理方案和实施细则。

2.负责组织接收并验收采购的数据处理设备。

3.负责组织落实省级数据处理试点工作。

4.负责本省数据处理环境的准备和部署,负责系统安全。

5.负责本省相关的数据准备和PDA端的数据推送。

6.协助本省资产管理部门进行PDA设备及IT资产的管理。

7.指导地市级数据处理工作和负责相关的技术支持。

8.接收普查数据,并进行数据备份。

9.审核本省普查数据,并向国务院农普办提交审核报告。

10.完成本省的数据汇总。

11.完成本省数据处理工作总结。

(三)地市级。

1.负责制定本地市的数据处理工作计划与细则。

2.负责组织接收并验收采购的数据处理设备。

3.负责本地市数据处理环境的准备及系统安全等工作。

4.协助本地市资产管理部门进行PDA设备及IT资产的管理。

5.指导县级数据处理工作和负责相关的技术支持工作。

6.对本地市数据进行审核。

7.完成本地市数据处理工作总结。

(四)县级。

1.负责制定本县的数据处理工作计划与细则。

2.负责组织接收并验收采购的数据处理设备。

3.负责本县数据处理环境准备和系统安全等工作。

4.协助本县资产管理部门进行PDA设备及IT资产的管理。

5.指导乡级数据处理工作。

6.对本县数据进行审核。

7.完成本县数据处理工作总结。

(五)乡级。

1.负责制定本乡镇的数据处理工作计划与细则。

2.负责本乡镇数据处理环境准备和系统安全等工作。

3.组织本乡《乡镇普查表》、《行政村普查表》的数据录入与上报工作。

4.组织和指导普查员注册PDA,接收和装载省级普查机构推送的数据。

5.组织和指导普查员利用PDA对《农户普查表》、《规模农业经营户普查表》和《农业经营单位普查表》的数据进行现场采集、初审与上传。

十一、时间进度安排

(一)软件开发。

2016年9月底前,完成数据处理系统的开发。

(二)系统环境准备。

2016年10月底,完成数据处理软硬件设备采购,搭建好系统环境。

(三)数据处理试点。

2016年10月底,完成数据处理试点工作。

(四)数据处理软硬件培训。

2016年11月底前,完成数据处理软硬件培训工作。

(五)数据采集与处理。

参见三农普方案。

(六)数据处理工作总结。

2017年12月底前,完成数据处理工作总结。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/yw/8077956.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-04-13
下一篇 2023-04-13

发表评论

登录后才能评论

评论列表(0条)

保存