文件管理里面的dwd是什么意思可以删除吗

文件管理里面的dwd是什么意思可以删除吗,第1张

Data warehouse(可简写为DW或者DWH)数据仓库,是在数据库已经大量存在的情况下,为了进一步挖掘数据资源、为了决策需要而产生的,它是一整套包括了etl、调度、建模在内的完整的理论体系。数据仓库的方案建设的目的,是为前端查询和分析作为基础,主要应用于OLAP(on-line Analytical Processing),支持复杂的分析 *** 作,侧重决策支持,听且提供直观易懂的查询结果。比较流行的有:AWS Redshift,Greenplum,Hive等。

1.2主要特点

面向主题:

*** 作型数据库组织面向事务处理任务,而数据仓库中的数据是按照一定的主题域进行组织。

主题是指用户使用数据仓库进行决策时所关心的重点方面,一个主题通过与多个 *** 作型信息系统相关。

集成

需要对源数据进行加工与融合,统一与综合

在加工的过程中必须消除源数据的不一致性,以保证数据仓库内的信息时关于整个企业的一致的全局信息。(关联关系)

不可修改

DW中的数据并不是最新的,而是来源于其他数据源

数据仓库主要是为决策分析提供数据,涉及的 *** 作主要是数据的查询

与时间相关

处于决策的需要数据仓库中的数据都需要标明时间属性

1.3与数据库的对比

DW:专门为数据分析设计的,涉及读取大量数据以了解数据之间的关系和趋势

数据库:用于捕获和存储数据

特性 数据仓库 事务数据库

适合的工作负载 分析、报告、大数据 事务处理

数据源 从多个来源收集和标准化的数据 从单个来源(例如事务系统)捕获的数据

数据捕获 批量写入 *** 作通过按照预定的批处理计划执行 针对连续写入 *** 作进行了优化,因为新数据能够最大程度地提高事务吞吐量

数据标准化 非标准化schema,例如星型Schema或雪花型schema 高度标准化的静态schema

数据存储 使用列式存储进行了优化,可实现轻松访问和高速查询性能 针对在单行型物理块中执行高吞吐量写入 *** 作进行了优化

数据访问 为最小化I/O并最大化数据吞吐量进行了优化 大量小型读取 *** 作

2.数据分层

数据分层,每个企业根据自己的业务需求可以分成不同的层次,但是最基础的分层思想,理论上数据分为三个层:数据运营层、数据仓库层、数据服务层。基于这个基础分层之上,再提交信息的层次,来满足不同的业务需求。

2.1数据运营层(ODS)

ODS:Operation Data Store 数据准备区,也称为贴源层。数据仓库源头系统的数据表通常会原封不动的存储一份,这称为ODS层,是后续数据仓库加工数据的来源。

ODS层数据的来源方式:

业务库

经常会使用sqoop来抽取,例如每天定时抽取一次。

实时方面,可以考虑用canal监听mysql的binlog,实时接入即可。

埋点日志

日志一般以文件的形式保存,可以选择用flume定时同步

可以用spark streaming或者Flink来实时接入

kafka也OK

消息队列:即来自ActiveMQ、Kafka的数据等。

2.2数据仓库层(DW)

DW数据分层,由下到上为DWD,DWB,DWS。

DWD:data warehouse details 细节数据层,是业务层与数据仓库的隔离层。主要对ODS数据层做一些数据清洗和规范化的 *** 作。

数据清洗:去除空值、脏数据、超过极限范围的

DWB:data warehouse base 数据基础层,存储的是客观数据,一般用作中间层,可以认为是大量指标的数据层。

DWS:data warehouse service 数据服务层,基于DWB上的基础数据,整合汇总成分析某一个主题域的服务数据层,一般是宽表。用于提供后续的业务查询,OLAP分析,数据分发等。

用户行为,轻度聚合

主要对ODS/DWD层数据做一些轻度的汇总。

2.3数据服务层/应用层(ADS)

ADS:applicationData Service应用数据服务,该层主要是提供数据产品和数据分析使用的数据,一般会存储在ES、mysql等系统中供线上系统使用。

我们通过说的报表数据,或者说那种大宽表,一般就放在这里

Adobe Dreamweaver,简称“DW”,中文名称 "梦想编织者",最初为美国MACROMEDIA公司开发 ,2005年被Adobe公司收购。DW是集网页制作和管理网站于一身的所见即所得网页代码编辑器。

利用对 HTML、CSS、JavaScript等内容的支持,设计师和程序员可以在几乎任何地方快速制作和进行网站建设。

Adobe Dreamweaver使用所见即所得的接口,亦有HTML(标准通用标记语言下的一个应用)编辑的功能,借助经过简化的智能编码引擎,轻松地创建、编码和管理动态网站。

扩展资料:

以Dreamweaver CC为例

Windows

1、Intel或AMD处理器。

2、Windows7、Windows8、Windows10。

3、512MB内存。

4、1GB可用硬盘空间用于安装;安装过程中需要额外的可用空间(无法安装在可移动闪存设备上)。

5、1024x768屏幕,16位显卡。

6、DVD-ROM驱动器。

7、在线服务需要宽带Internet连接并不断验证订阅版本(如果适用)。

参考资料:百度百科-Adobe Dreamweaver

DW :data warehouse 翻译成数据仓库

DW数据分层,由下到上为 DWD,DWB,DWS

DWD:data warehouse detail 细节数据层,有的也称为 ODS层,是业务层与数据仓库的隔离层

DWB:data warehouse base 基础数据层,存储的是客观数据,一般用作中间层,可以认为是大量指标的数据层。

DWS:data warehouse service 服务数据层,基于DWB上的基础数据,整合汇总成分析某一个主题域的服务数据,一般是宽表。

希望对你有用。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/10658013.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-10
下一篇 2023-05-10

发表评论

登录后才能评论

评论列表(0条)

保存