etl工程师是做什么的?工作内容是什么?

etl工程师是做什么的?工作内容是什么?,第1张

etl工程师是从事系统编程、数据库编程与设计,要掌握各种常用的编程语言的专业技术人员。也叫数据库工程师。\x0d\x0a工作内容:\x0d\x0a见岗位职责:\x0d\x0a 1. 海量数据的ETL开发,抽取成各种数据需求。\x0d\x0a 2. 参与数据仓库架构的设计及开发 。\x0d\x0a3. 参与数据仓库ETL流程优化及解决ETL相关技术问题。\x0d\x0a4、熟悉主流数据库技术,如oracle、Sql server、PostgeSQL等。\x0d\x0a 4、精通etl架构,有一定的etl开发经验,了解日常作业的部署和调度。\x0d\x0a 5、会数据etl开发工具,如Datastage,Congos,Kettle等。

ETL,是英文Extract-Transform-Load的缩写,用来描述将数据从来源端经过抽取(extract)、转换(transform)、加载(load)至目的端的过程。ETL一词较常用在数据仓库,但其对象并不限于数据仓库。

数据仓库是为企业所有级别的决策制定过程,提供所有类型数据支持的战略集合。它是单个数据存储,出于分析性报告和决策支持目的而创建。 为需要业务智能的企业,提供指导业务流程改进、监视时间、成本、质量以及控制。

ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程,目的是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析依据, ETL是BI(商业智能)项目重要的一个环节。

ETL所描述的过程,一般常见的作法包含ETL或是ELT(Extract-Load-Transform),并且混合使用。通常愈大量的数据、复杂的转换逻辑、目的端为较强运算能力的数据库,愈偏向使用ELT,以便运用目的端数据库的平行处理能力。

ETL(orELT)的流程可以用任何的编程语言去开发完成,由于ETL是极为复杂的过程,而手写程序不易管理,有愈来愈多的企业采用工具协助ETL的开发,并运用其内置的metadata功能来存储来源与目的的对应(mapping)以及转换规则。

工具可以提供较强大的连接功能(connectivity)来连接来源端及目的端,开发人员不用去熟悉各种相异的平台及数据的结构,亦能进行开发。当然,为了这些好处,付出的代价便是金钱。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/6924835.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-03-30
下一篇 2023-03-30

发表评论

登录后才能评论

评论列表(0条)

保存