知识库✳

教程与手册

全部教程
  1. 01Oracle 函数手册
  2. 02性能优化手册
  3. 03Linux Shell
  4. 04Oracle 学习与演练
  5. 05网络基础学习
  6. 06数据治理与管理
返回个人网站
数DAMA 数据管理教程从知识体系到落地实践
首页课程目录搜索
知识库

已完成 0 / 17 章

模块一 · 基础与框架

  • 01数据管理:把数据当作资产
  • 02数据处理伦理

模块二 · 治理与架构

  • 03数据治理
  • 04数据架构

模块三 · 建模与存储

  • 05数据建模和设计
  • 06数据存储和操作

模块四 · 安全与集成

  • 07数据安全
  • 08数据集成和互操作

模块五 · 内容与主数据

  • 09文件和内容管理
  • 10参考数据和主数据

模块六 · 分析与质量

  • 11数据仓库和商务智能
  • 12元数据管理
  • 13数据质量

模块七 · 前沿与组织

  • 14大数据和数据科学
  • 15数据管理成熟度评估
  • 16数据管理组织与角色期望
  • 17数据管理与组织变革
❖

DAMA 数据管理教程

返回个人网站知识库

内容框架参考《DAMA 数据管理知识体系指南(原书第 2 版)》,正文为教学改写; 建议对照原书与所在组织的实际场景学习。

以 Next.js 16 · Tailwind CSS v4 · HeroUI v3 装帧

11
  1. 首页
  2. 课程目录
  3. 数据仓库和商务智能

第 11 章◆高级◆建议 55 分钟◆模块六 · 分析与质量

数据仓库和商务智能

理解 Inmon 与 Kimball 两条经典路线、数仓架构组件与加载方式,并按需求、建模、加载、发布、运营的节奏交付数据产品。

学完这一章,你应该能

  • 说清数据仓库的四个特征与建设原则
  • 比较企业信息工厂与多维数据仓库两种架构
  • 设计星型模型、总线矩阵与一致性维度
  • 选择历史加载、CDC、准实时与流式加载方式
  • 用使用率、满意度、SLA 与报表策略治理 BI 产品

11.1数据仓库为什么存在

数据仓库把不同来源的数据整合到公共模型中,为运营支持、合规响应和商务智能提供统一、历史、可分析的数据。它也是减少大量重复决策支持系统、降低冗余、提高信息一致性的一种手段。

  • 三项目标:支持商务智能、赋能分析与决策、基于洞察寻找创新
  • 八条原则:聚焦业务目标、以终为始、全局设计局部建设、先明细后汇总、提升透明与自助、同步建元数据、协同其他数据活动、不千篇一律
  • 数据仓库不是操作系统的副本:它面向主题、整合、随时间变化、相对稳定
  • 商务智能既是分析活动,也是支撑分析的技术集合

提示数仓项目最常见的失败不是技术选型,而是脱离业务优先级:建了一堆表,却回答不了业务真正关心的问题。

11.2两条经典路线:Inmon 与 Kimball

Inmon 的企业信息工厂(CIF)以规范化、企业级数据仓库为核心,再向数据集市分发;Kimball 的多维数据仓库以星型模型和一致性维度为核心,通过总线矩阵把多个数据集市集成为企业级数仓。两者理念不同,但都强调数据来自其他系统、经过整合、便于访问与分析。

  • 数据仓库的四个特征:面向主题、整合、随时间变化、稳定(只追加、少更新)
  • 星型模型由事实表(度量)与维度表(描述)组成,多个事实表通过一致性维度共享
  • CIF 组件包括应用、暂存区、集成转换、ODS、数据集市、操作型数据集市、数据仓库、运营报告、参考与主数据
  • ODS 通常保存当前或近期(30~90 天)数据,变化快;数据仓库保存多年历史,相对稳定
CIF 与多维数仓的对比
维度Inmon / 企业信息工厂Kimball / 多维数仓
核心结构规范化企业数据仓库 + 数据集市事实表 + 维度表,星型模型
建设顺序先建企业级数仓,再建集市按业务过程建集市,用一致性维度集成
优势企业级一致性强、适合复杂集成业务理解直观、查询性能好、交付快
挑战建设周期长、前期投入大跨集市一致性依赖维度治理

总线矩阵把业务流程与维度主题域交叉排列,标出共享维度,是 Kimball 集成多个集市的关键工具。

11.3架构组件与数据流

无论采用哪种路线,数仓环境都需要源系统、数据集成、存储区域与访问工具。数据从源系统进入暂存区,经清洗整合后落到中央仓库或 ODS,再通过数据集市、数据立方体服务报表与分析。大数据则常常先把原始数据加载进来,再在平台上整合。

  • 历史加载通常一次或有限次;持续更新需要稳定规划与调度
  • CDC 可基于时间戳、日志表、数据库日志或全量比对,选择取决于源系统能力
  • 准实时加载有三条路径:涓流式(源端累积)、消息传送(总线累积)、流式(目标端累积)
  • 准实时数据要与大量历史稳定数据隔离,常见做法是分区与联合查询
主要存储区域
区域作用注意点
暂存区 Staging抽取、转换、加载的中间区域多为短时留存,对最终用户透明
中央数据仓库保存历史原子数据与批处理后快照按性能与使用模式设计键、索引、分区、CDC
操作型数据存储 ODS低延迟、近期数据,支撑运营刷新频率高,通常不含全部历史
数据集市面向部门/主题的子集,支持报表与查询可用多维模型;多个集市可合并为企业数仓
数据立方体OLAP 分析关系型、多维型或混合存储

数据从应用到 ODS/仓库再到集市,通常是单向流动;错误数据应尽量在源头修正后重新加载。

11.4数据仓库的建设活动

数仓建设不是一次性项目,而是持续交付数据产品。需求、架构、开发、加载、BI 组合与维护构成一个循环,每个版本都应带来可用的业务价值。

  • 源到目标映射同时产生血缘,是数仓最重要的元数据之一
  • 数据修正应尽量在源端完成;对已加载的错误记录,过期旧记录再加载新记录通常比删除更安全
  • 乐观加载可先建维度再等事实;悲观加载需要回收区与告警,避免事实无维度可关联
  • 数据准备与预处理往往是工作量最大的部分
  1. 01理解需求:对齐业务战略,访谈业务人员,明确问题、KPI、口径与优先级,先做简单有价值的项目
  2. 02定义架构:描述数据从哪来、到哪去、何时、为何、以何种方式流动,明确性能、可用性与时效要求
  3. 03开发:并行推进数据(源到目标映射、清洗转换)、技术(存储与集成)与 BI 工具三条轨迹
  4. 04加载:选择历史加载与持续更新方式,处理迟到维度、拒绝数据、质量规则与重跑
  5. 05BI 产品组合:按用户群体匹配工具,区分静态报表、交互分析、仪表盘与高级分析
  6. 06维护与发布:把数仓当作数据产品,按版本管理增强,建立发布计划与需求积压

11.5治理与度量

数仓治理关注数据质量、用户满意度、SLA 与报表策略。治理不是限制使用,而是保证用户能拿到清晰、准确、及时且安全的数据。

  • 定期评估标准报表是否仍有价值,避免无效报表持续消耗资源
  • 卓越中心可提供培训、设计最佳实践与自助分析支持
  • SLA 要按 ODS、仓库、集市等不同层分别定义,因为时效与可用性要求不同
数仓与 BI 度量
维度指标示例
使用注册用户、连接用户、并发用户、查询量、活跃用户
满意度用户反馈、问题响应时间、采用率
服务查询响应时间、数据新鲜度、可用性、SLA 达成率
质量数据质量告警、对账差异、重跑次数
成本存储与计算成本、报表运行成本、工具许可

报表策略要回答:谁可以看、看什么粒度、多久更新、以什么格式交付、如何审计。

练习

4 题 · 先自己写,再展开对照

提示Kimball 按业务过程建星型集市,用一致性维度集成;Inmon 先建企业级规范化数仓。

参考答案

Kimball 思路:
- 选销售业务过程,识别度量(金额、数量、折扣)与维度(日期、产品、客户、门店、渠道);
- 建星型模型与数据集市,先交付可用报表;
- 用一致性维度与总线矩阵保证后续集市可集成。

Inmon 思路:
- 先建企业级、规范化的中央数据仓库与集成层;
- 再从中央仓库向数据集市分发;
- 一致性强,但一周内难以交付。

推荐:
采用 Kimball 路线快速交付首个销售集市,同时建立一致性维度与总线矩阵;
后续按业务过程增量扩展,逐步形成企业级数仓。
关键不是教条,而是先交付价值、再保证可集成。

自评要点

  • 两种思路的差异清楚
  • 推荐 Kimball 并说明交付节奏
  • 强调一致性维度与后续扩展

提示行是业务过程,列是维度;多个过程共享的维度就是候选一致性维度。

参考答案

简化总线矩阵(行=业务过程,列=维度):

            日期  产品  客户  门店  供应商  仓库
销售         ✓     ✓     ✓     ✓
库存         ✓     ✓           ✓             ✓
订单         ✓     ✓     ✓     ✓      ✓

一致性维度候选:
- 日期:三个过程都用,必须统一日历、财年、节假日口径;
- 产品:三个过程都用,统一产品编码与层次;
- 客户:销售与订单共享,统一客户标识与合并规则;
- 门店:销售、库存、订单共享(若订单按门店履约)。

供应商只在库存与订单出现,也是跨过程共享,但优先级取决于分析需求。
矩阵的价值是让集成需求可视化,帮助确定开发范围与维度治理优先级。

自评要点

  • 矩阵结构正确(过程 × 维度)
  • 识别日期、产品等共享维度
  • 说明一致性维度的口径统一

提示分层:历史稳定数据与易变数据隔离;批处理 + 准实时增量。

参考答案

方案:
1)保留每日凌晨的全量/增量批处理,加载历史与稳定数据;
2)对订单状态等易变数据,增加准实时通道:
   - CDC 捕获订单状态变更(日志或时间戳);
   - 通过消息总线或涓流加载进入单独的近期数据区/分区;
   - 与历史稳定数据分区隔离,查询时联合;
3)客服报表优先查询近期区,历史分析查询主仓库;
4)设置延迟监控与告警,处理乱序、重复与失败重跑;
5)明确 SLA:客服数据延迟目标(如 5 分钟),批处理数据延迟目标(如 T+1)。

关键是隔离易变数据,避免频繁更新影响历史分区与批处理稳定性。

自评要点

  • 批处理与准实时分层
  • 易变数据隔离/分区
  • 提到 CDC、SLA、乱序重跑

提示注册不等于使用;看用户群体、工具匹配、数据可信度、培训与反馈。

参考答案

诊断:
- 需求:建设时未对齐真实业务问题,报表不是用户需要的;
- 产品:工具与用户技能不匹配,交互复杂,缺少自助能力;
- 数据:口径不清、数据不准或更新不及时,用户不信任;
- 运营:缺少培训、推广、反馈渠道与持续迭代,问题响应慢。

改进:
1)访谈活跃与沉默用户,识别高价值场景,砍掉低价值报表;
2)按用户群体匹配工具:静态报表、交互分析、仪表盘、高级分析;
3)建立指标字典与血缘,公开口径与质量状态;
4)建立反馈与需求积压机制,按版本发布增强;
5)培训与卓越中心支持,培育种子用户;
6)用连接用户数、查询量、留存率、满意度替代注册数作为核心指标。

自评要点

  • 四个角度均有具体诊断
  • 改进覆盖需求、工具、信任、运营
  • 指标从注册转向活跃与价值

本章对应《DAMA 数据管理知识体系指南(原书第 2 版)》第 11 章。正文为教学改写,建议对照原书与所在组织的实际场景阅读。

← 上一章

参考数据和主数据

下一章 →

元数据管理