人人都是产品经理 潜水
  • 10发帖数
  • 10主题数
  • 0关注数
  • 0粉丝
开启左侧

10分钟带你了解数据库、数据堆栈、数据湖、数据中台的区别与联系(一)

[复制链接]
人人都是产品经理 发表于 2021-9-13 15:12:43 | 显示全部楼层 |阅读模式 打印 上一主题 下一主题
编辑导语:作为一名数据小白,在日常学习和工作中常常会接触到数据。随着用户数据与业务数据的不断累加,数据管理与处理愈发重要。本篇文章中,作者将一文阐明数据库、数据仓库、数据湖、数据中台的区别与接洽。

                               
登录/注册后可看大图
作为数据相关的产物小白,在日常学习工作中常常能看到或者听到各人在讨论数据库,数据仓库,数据集市,数据湖还有最近比较火的数据中台,似乎这些名词都与数据存在着接洽,查看各类相关册本,大部分册本中的内容过于专业晦涩难懂。
那么这篇文章联合我积累的相关方面知识,向各人介绍一下上述这些名词的区别与接洽,以及在各类企业及业务上的实用范围,如有不准确的地方,希望各人举行指正。

一、何为数据库

信赖大部分有些许技能背景的同砚们都对数据库有一定的了解,数据库是“按照数据结构来组织、存储和管理数据的仓库”,一样寻常分为“关系型数据库”与“非关系型数据库”。

1. 关系型数据库

现实上已往的数据库一共有三种模型,即条理模型,网状模型,关系模型
(1)起首条理模型的数据结构为树状结构,便是一种上下级的层级关系组织数据的一种方式:

                               
登录/注册后可看大图
(2)网状模型的数据结构为网状结构,即将每个数据节点与其他很多节点都连接起来:

                               
登录/注册后可看大图
(3)关系模型的数据结构可以看做是一个二维表格,任何数据都可以通过行号与列号来唯一确定:

                               
登录/注册后可看大图
由于相比于条理模型和网状模型,关系模型明白和使用最简单,终极基于关系型数据库在各行各业应用了起来。
关系模型的数学原理涉及到关系,元组,属性,笛卡尔积,域等等令人头秃的数学术语,这里各人如果感兴趣可以看看相关的文献,我就不放出来催眠各人了,尽管数学原理非常复杂,但如果用日常学习工作的具体事件举例,就相对容易明白。
我们以某公司的员工信息表为例,该公司的员工信息可以用一个表格存起来。并且定义如下:

                               
登录/注册后可看大图
同时部门ID对应这另一个部门表:

                               
登录/注册后可看大图
我们可以通过给定一个部门名称,查到一条部门的记载,根据部门ID,又可以查到该部门下的员工记载,如许二维的表格就通过ID映射建立了“一对多”的关系。
常用的关系型数据库有Oracle,Microsoft SQL Sever,MySQL,DB2。数据库的语言基本上围绕着“增删改查”来举行的,语法相对简单,各人有兴趣可以下载MySQL自学,网上有很多免费的资料。

2. 非关系型数据库

非关系型数据库是以对象为单位的数据结构,非关系型数据库通常指数据以对象的情势存储在数据库中,而对象之间的关系通过每个对象自身的属性来决定。
简单来说非关系型数据库与传统的关系型数据库的区别在于非关系型数据库主要存储没有固定格式的超大规模数据,例如键值对型,文档型,列存储类数据,常见的非关系型数据库有Hbase,Redis,MongoDB,Neo4j等。现在我们通常所说的数据库指的是关系型数据库,非关系型数据库各人了解即可。

二、数据库→数据仓库

1. 例子

随着企业的发展,线上的业务体系随着业务举行会源源不断的产生数据,一样寻常这些数据会存储在我们企业的业务数据库中,也就是上面讲到的关系型数据库,当然不同的企业使用的数据库可能不尽相同例如上述的Oracle,Microsoft SQL Sever,MySQL等,但是底层的技能逻辑都大同小异,这些业务数据库支撑着我们业务体系的正常运行。
但是当我们线上的业务体系运行超过一定时间后,内部积存的数据会越来越多,对我们的业务数据库会产生一定的负载,导致我们业务体系的运行速率较慢,这些数据中有很大一部分是冷数据,由于业务体系一样寻常对我们近期的一些数据好比当天或一周内这些数据调用比较频仍,对比较早的数据调用的频率就会很低。
同时呢现在由于数据驱动业务概念的鼓起,各业务部门需要将业务体系的业务数据提取出来举行分析以便更好地举行辅助决策,但各部门需求的数据种类千差万别,接口错综复杂,过多的数据查询脚本以及接口的接入导致业务数据库的稳定性低落。
为了制止冷数据与历史数据收集对我们业务数据库产生的影响,妨碍我们业务的正常运行,企业需要定期将我们冷数据从业务数据库中转移出来存储到一个专门存放历史数据的仓库内里,各部门可以根据自身业务需要举行数据抽取,这个仓库就是数据仓库。

2. 数据仓库的特性

联合上述例子,我们得出数据仓库的以下特性:

  • 解耦:数据仓库的诞生,本质是将数据的收集与分析举行解耦。
  • 整合:数据仓库起到了对不同平台,不同泉源的数据的集成整互助用,通过抽取,洗濯,转换生成由面向事件转化为面向主体的数据聚集。
  • 稳定:数据仓库的数据主要为决策者分析提供数据,一样寻常仅允许查询,不允许修改删除,数据仓库的数据仅定期需要由业务数据库转移,加载,革新。
  • 历史滞后:数据仓库的数据会定期更新,每隔固定的时间间隔后,抽取业务数据库体系中产生的数据通过数据的转换集成,进入到数据仓库中,所以数据仓库的数据产出具有T+1的特性(离线数据仓库)。

3. 数据库VS数据仓库

再深入一些,我们此时要引入两个新的名词OLTP(On-Line Transaction Processing)联机事件处理与OLAP(On-Line Analytical Processing)联机分析处理,乍听两个名词感觉很高大上,我们此时要关注两个单词的区别,“Transaction”为事件,业务。
所以业务数据库也就是我们之前讲的关系型数据库属于OLTP类型,该类型侧重于基本的,日常的事件处理,是业务体系的“压舱石”,维持正常运行,而“Analytical”则为分析,数据仓库就属于OLAP类型,该类型侧重于复杂的分析,查询操作,是业务体系的“船帆”,提供决策支撑。

三、数据仓库

信赖通过上述的案例,我们对数据仓库有了大致的认识,一个简单的数据仓库结构如下图所示,那么接下来我们讲讲数据仓库的相关知识点:

                               
登录/注册后可看大图
1. ETL(extraction-transformation-load)抽取-转换-加载
(1)extraction(抽取)
不是全部出现在业务数据库中的数据都需要抽取,抽取需要在调研阶段做大量的工作,起首要搞清楚数据是从几个业务体系中来,各个业务体系的数据库服务器运行什么,是否存在手工数据且手工数据量有多大,是否存在非结构化的数据,某些数据对于分析没有任何价值,这类数据是否需要剔除,当收集完这些信息之后才可以举行数据抽取的计划。
(2)Transformer(转换)
也就是数据的洗濯,数据仓库分为两部分,ODS(操作数据存储)及DS(数据仓库),通常的做法是从业务体系到ODS做洗濯,将脏数据与不完备数据过滤掉,在从ODS到OW的过程中转换,举行一些业务规则的计算,聚合及数据转换。
a. 数据洗濯:业务体系→ODS的过程,过滤那些不符合要求的数据,将过滤的结果交给业务主管部门,确认是否过滤掉还是由业务单位修正之后再举行抽取。
b. 数据转换:ODS→DS的过程,主要举行不同维度的数据转换、数据颗粒度的转换,以及一些业务规则的计算。

  • 不同维度数据转换:将不同业务体系的相同类型的数据举行统一,例如编码转化:不同供应商在不同业务体系的编码不同;字段转换;度量单位的转换等。
  • 数据颗粒度的转换:业务体系存储着颗粒度较细的数据,而数据仓库的数据时用来分析的,不需要颗粒度很细的数据,所以会将业务体系数据按照数据仓库的颗粒度举行转换。
  • 业务规则的计算:企业有不同的数据指标以及业务规则,此时需要将这些数据指标计算好后存储在数据仓库中,供数据分析使用。
(3)Load(加载)
将洗濯及转换过的数据加载到数据仓库,一样寻常分为全量加载及增量加载。

  • 全量加载:一次性对全部数据举行加载。
  • 增量加载:初次举行全量加载,但是后面再继续全量加载的话,会浪费极大的物理资源与时间成本。所以只思量对新修改的记载和新插入的记载举行加载。
小结:ETL是数据仓库开发中最耗资源的一环,因此该环节要整理各业务体系中乱七八糟的数据,工作量很大,但也是搭建数据仓库的最重要的环节。

2. ODS 操作数据存储

ODS(Operation Data Store)操作数据存储在业务数据库与数据仓库之间形成一个隔离,其存在可以制止数据仓库直接调用业务数据库的数据,保持数据在结构上与业务数据库一致,起到提高业务数据库稳定性,低落数据抽取复杂性的作用。
鉴于ODS上述特点,数据会按照特定时间源源不断地写入ODS中,且一经写入的数据不能被删除,修改。所以为了提高ODS的运行效率,一样寻常ODS会思量使用分布式文件存储体系。

3. DM数据集市

DM(Data Market)数据集市是以某个业务应用为出发点而建设的局部的数据仓库,所以DM数据集市的特点在于结构清晰,针对性强且扩展性精良,由于仅仅对某一个领域建立,容易维护修改。
数据集市分为独立数据集市与非独立数据集市,其中独立数据集市有独有的源数据库与ETL架构。而非独立数据集市则没有自己的源数据,全部数据位于数据仓库,开发人员通过权限的设置,为用户提供面向其业务的数据,该数据为数据仓库的子集。

四、数据仓库VS数据湖

对于管理企业的人员一样寻常来说有两种特征,开放性与有序性,创业公司的人思想往往比较开放,但管理大型公司的人更注重秩序,同理这个概念可以使用在如今的数据结构中,开放意味着容易接受新信息以及接纳新的观点,创业公司拥抱开放的原因他们必须学会冲破通例,在市场中创造新的价值。
有序则指的是接纳已证明是成功的模式,这通常意味着清除那些不太可能成功的想法和信息。

1. 开放性→数据湖

开放性的特征直接指向数据湖的概念,数据湖是新数据可以不受任何限制地进入的地方,在这里,任何数据都可以存在,因此这里是发现新想法,用数据实验绝妙泉源,但同时由于其对任何数据的开放性,使得其缺乏故意义的结构,对于数据量较大时,就显得有些混乱了。

2. 有序性→数据仓库

有序性直接指向数据仓库,在数据仓库中,我们将维度和指标视为可查询的,这是可以统一管理,且更容易被不断扩大的受众斲丧。

五、后续

由于篇幅所限,本篇文章为《10分钟带你了解数据库、数据仓库、数据湖、数据中台的区别与接洽》的第一部分,第二部分会为各人介绍湖仓一体,数据中台的相关知识以及数据库、数据仓库、数据湖与数据中台在各类企业及业务上的实用范围。
本文由 @快乐的给予 原创发布于各人都是产物经理,未经允许,禁止转载
题图来自 Unsplash,基于 CC0 协议

精彩评论20

秦山隐绿水悠 发表于 2021-9-14 07:58:23 | 显示全部楼层
写得专业 又接地气 好文章
196167442 发表于 2021-10-7 23:53:50 | 显示全部楼层
各业务的数据无序数据先进数据湖,再清洗得到数据仓库吧,思路不同可以交流一下
hawk少卿 发表于 2021-11-13 10:06:43 | 显示全部楼层
把专业化的内容写得通俗易懂[赞],很想学习第二部分呢
融有引力 发表于 2021-10-3 19:55:37 | 显示全部楼层
终于搞明白了
晓然至道 发表于 2021-10-13 08:13:48 | 显示全部楼层
数据终将崩溃
WhShuJun 发表于 2021-9-18 01:37:35 | 显示全部楼层
数据中台,感觉不明显
墨生 发表于 2021-9-15 09:42:23 | 显示全部楼层
写的不错,最近正在研究,博主威武!
村口的男人 发表于 2021-9-17 11:58:08 | 显示全部楼层
数据仓库
feiyangzhe 发表于 2021-9-19 07:06:44 | 显示全部楼层
不错哟
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

猜你喜欢
在线客服QQ
2241998733

24x7小时免费咨询

Powered by 创意电子 ©2018-现在 专注资源实战分享源码下载站联盟商城繁体中文