数据中台产品的一些思路

数据中台产品的一些思路,第1张

概述数据中台系统的一些思路。 * 引言* 企业借助于大数据/数据湖项目,一般同时需要完善对企业数据的梳理:对企业数据资产数据盘点,完善数据治理相关流程。对内便于数据用户使用数据。对外满足部监管对多种数据口径要求。 基本解决思路** 这类问题的基本解决思路是从元数据管理(包括业务,技术)角度完善数据生命周期管理。这里的元数据包含: 传统意义的数据字典 (表单,字段的含有) 业务元数据梳理,包括业务指标, 数据中台系统的一些思路。
* 引言*
企业借助于大数据/数据湖项目,一般同时需要完善对企业数据的梳理:对企业数据资产数据盘点,完善数据治理相关流程。对内便于数据用户使用数据。对外满足部监管对多种数据口径要求。
基本解决思路**
这类问题的基本解决思路是从元数据管理(包括业务,技术)角度完善数据生命周期管理。这里的元数据包含:

传统意义的数据字典 (表单,字段的含有) 业务元数据梳理,包括业务指标,统计口径等 (通常对应 维度数据,业务描述数据code table,mapPing table 的梳理) 数据 data lineage,audit

* 挑战及现有问题
这类工具市场上比较多,传统的数仓产品都有元数据管理工具。但多数存在些问题如:

对数据用户不友好。这里数据用户包括a)数据分析人员 b) 数据维护 *** 作人员 落地困难:不能很好的融合到企业现有的开发流程中 传统企业有大量遗留系统,这些系统本身的元数据(数据描述)由于历史原因不太完善。在遗留系统数据集成到大数据/数据湖的过程中,这些元数据需要在项目过程中完善,但缺乏工具,或现有工具不友好。

** 产品化及切入点选择***
基于以上分析,数据平台(中台)产品中元数据管理部分可以采用以下设计思路:

借助图数据库提升前端数据展示 借助NLP及传统元数据数据管理提升数据关联关系分析 开发定制工具针对遗留系统及项目开发流程元数据进行维护。(进一步解释以下,在多数数仓,大数据项目中,业务数据分析人员均需准备MapPing 文档。目前mapPing 文档多以 excel 形式存在,不利于维护,共享,进一步挖掘。可以开发定制在线mapPing文档工具作为一个切入点) 参照(逻辑)架构图:

目前市场上已经用一些类似产品,也可以做个参照:

http://www.stargraph.cn/ 金融智能 BDP https://memect.cn/ 知识图谱技术 http://www.primeton.com/ 元数据平台 https://www.topquadrant.com/ 总结

以上是内存溢出为你收集整理的数据中台产品的一些思路全部内容,希望文章能够帮你解决数据中台产品的一些思路所遇到的程序开发问题。

如果觉得内存溢出网站内容还不错,欢迎将内存溢出网站推荐给程序员好友。

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/web/1080771.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-05-27
下一篇 2022-05-27

发表评论

登录后才能评论

评论列表(0条)

保存