数据分析 - 维度建模

数据分析 维度建模配图

简要

在维度建模理论中,基于事实表和维度表够建数据仓库,在一般实践中会使用三级结构:

  • ODS (Operational Data Store,运营数据存储)层
  • DW(Data Warehouse,数据仓库)层
  • ADS(Application Data Service,应用数据服务)层

具体

  1. ODS 层一般是作为业务数据库的镜像层。它的数据结构和业务数据库保持一致,主要是考虑在建模的过程中避免直接访问业务数据库,避免对业务数据库带来影响,影响线上业务。

  2. DW 层是在ODS层的数据进行清洗、建模后生成的,而生成DW层数据的本质其实是逆规范化的过程,即从高范式到低范式的转换。在转换的过程中也有可能产生一些中间结果,所以可以继续细分为3个层次,DWD (Data Warehouse Detail,数据仓库明细)层、DWM (Data Warehouse Middle,数据仓库中间)层、DWS(Data Warehouse Service,数据仓库服务)层。

  3. DWD层的本质是一个去除了脏数据的高质量低范式数据层; a. DWM层是DWD层的数据通过聚合形成宽表数据; b. DWS层是对DWM层进行业务聚合,来支持更加复杂的业务查询逻辑。 c. ADS层是面向业务的、高度业务化的数据,是基于DW层数据分析的结果,很多情况下是指、标签的计算结果,同时考虑作为缓存。

Publish on 2023-05-21,Update on 2025-02-10