照片快速冲洗机的文件会自动删除吗，这关系到个人隐私？

大数据处理流程包括数据采集、数据预处理、数据入库、数据分析、数据展现。

1、数据采集概念：目前行业会有两种解释：一是数据从无到有的过程（web服务器打印的日志、自定义采集的日志等)叫做数据采集；另一方面也有把通过使用Flume等工具把数据采集到指定位置的这个过程叫做数据采集。

2、数据预处理：通过mapreduce程序对采集到的原始日志数据进行预处理，比如清洗，格式整理，滤除脏数据等，并且梳理成点击流模型数据。

3、数据入库：将预处理之后的数据导入到HIVE仓库中相应的库和表中。

4、数据分析：项目的核心内容，即根据需求开发ETL分析语句，得出各种统计结果。

5、数据展现：将分析所得数据进行数据可视化，一般通过图表进行展示。

处理流程：

1理：梳理业务流程，规划数据资源

对于企业来说，每天的实时数据都会超过TB级别，需要采集用户的哪些数据，这么多的数据放在哪里，如何放，以什么样的方式放？

这些问题都是需要事先进行规划的，需要有一套从无序变为有序的流程，这个过程需要跨部门的协作，包括了前端、后端、数据工程师、数据分析师、项目经理等角色的参与。

2采：ETL采集、去重、脱敏、转换、关联、去除异常值

前后端将采集到的数据给到数据部门，数据部门通过ETL工具将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程，目的是将散落和零乱的数据集中存储起来。

3存：大数据高性能存储及管理

这么多的业务数据存在哪里？这需要有一高性能的大数据存储系统，在这套系统里面将数据进行分门别类放到其对应的库里面，为后续的管理及使用提供最大的便利。

4用：即时查询、报表监控、智能分析、模型预测

数据的最终目的就是辅助业务进行决策，前面的几个流程都是为最终的查询、分析、监控做铺垫。

这个阶段就是数据分析师的主场，分析师们运用这些标准化的数据可以进行即时的查询、指标体系和报表体系的建立、业务问题的分析，甚至是模型的预测。

带电清洗主要分为4类：
一、网络设备：包括交换机、路由器、防火墙、服务器、小型机、磁盘整列等；
二、通信设备：交换机房、传输机房、基站设备、数据设备等；
三、电力设备：指一次设备、二次设备。包括电厂、变电站、传输线路、电网、一般企业配电房等。主要清洗的对象有发电机、电动机、绝缘子、配电柜、避雷器、CT、PT、开关、断路器、变压器、高低压配电柜等；
四、精密仪器：自动化控制设备、电子医疗设备、影像设备等。