知识库✳

教程与手册

全部教程
  1. 01Oracle 函数手册
  2. 02性能优化手册
  3. 03Linux Shell
  4. 04Oracle 学习与演练
  5. 05网络基础学习
  6. 06数据治理与管理
返回个人网站
数DAMA 数据管理教程从知识体系到落地实践
首页课程目录搜索
知识库

已完成 0 / 17 章

模块一 · 基础与框架

  • 01数据管理:把数据当作资产
  • 02数据处理伦理

模块二 · 治理与架构

  • 03数据治理
  • 04数据架构

模块三 · 建模与存储

  • 05数据建模和设计
  • 06数据存储和操作

模块四 · 安全与集成

  • 07数据安全
  • 08数据集成和互操作

模块五 · 内容与主数据

  • 09文件和内容管理
  • 10参考数据和主数据

模块六 · 分析与质量

  • 11数据仓库和商务智能
  • 12元数据管理
  • 13数据质量

模块七 · 前沿与组织

  • 14大数据和数据科学
  • 15数据管理成熟度评估
  • 16数据管理组织与角色期望
  • 17数据管理与组织变革
❖

DAMA 数据管理教程

返回个人网站知识库

内容框架参考《DAMA 数据管理知识体系指南(原书第 2 版)》,正文为教学改写; 建议对照原书与所在组织的实际场景学习。

以 Next.js 16 · Tailwind CSS v4 · HeroUI v3 装帧

10
  1. 首页
  2. 课程目录
  3. 参考数据和主数据

第 10 章◆高级◆建议 55 分钟◆模块五 · 内容与主数据

参考数据和主数据

用统一的代码、定义与实体标识,消除跨系统歧义;掌握实体解析、匹配合并与四种 MDM 实施模式。

学完这一章,你应该能

  • 区分参考数据、主数据、交易数据与企业结构数据
  • 设计参考数据的结构、来源、定义与变更流程
  • 解释实体解析、确定性/或然式匹配、匹配合并与交叉引用
  • 比较注册表、交易中心、混合模式等 MDM 架构的取舍
  • 用质量、变更与消费指标治理主数据项目

10.1共享数据不统一,成本会指数级上升

参考数据和主数据都是需要跨业务领域、跨流程、跨系统共享的数据。它们为交易数据提供上下文:没有统一的客户标识,就无法确定「所有客户」的范围;没有统一的代码,报表之间就无法对账。主数据管理最常见的驱动因素是统一数据需求、管理质量、降低集成成本和降低风险。

  • 参考数据:代码表与描述表,用于分类其他数据或连接外部信息
  • 企业结构数据:如会计科目表,按业务职责描述活动
  • 交易结构数据:如客户标识符,描述交易中必须出现的对象
  • 主数据通常被视为参考数据、企业结构数据与交易结构数据的聚合
  • 主数据挑战的核心是实体解析:同一现实对象在不同系统中有不同表示
参考数据与主数据的管理重点
维度参考数据管理(RDM)主数据管理(MDM)
管理对象域值、定义及域值间关系核心实体的值、标识符与关系
目标每个概念有一整套准确、最新的值跨系统一致、准确、及时地使用核心实体
主要难点来源与维护责任、标准与实用性的平衡实体解析、匹配合并、冲突与存活规则
典型规模较小、较稳定较大、变化频繁、跨系统

10.2参考数据:小,但决定语义

参考数据可以是简单代码表,也可以包含映射、层次结构和多语言描述。它存在于几乎每个数据存储中,来源可能是行业标准机构、监管要求、供应商,也可能是组织内部维护。

  • 三种常见结构:列表(代码 + 描述)、交叉引用(源值到目标值)、分类(层次或面)
  • 代码值要平衡标准遵从性与实用性,如英国国家代码用 GB 而非 UK
  • 定义是参考数据的核心元数据:仅靠标签无法说明代码在具体语境中的含义
  • 要明确每个参考数据集的维护者、来源、更新频率、历史版本是否保留
  • 参考数据变更要沟通、审批、可追溯;驱动逻辑的代码变更前要评估影响

提示参考数据最大的风险不是「没有值」,而是同一个概念在不同系统里有不同的值,且没人负责统一。

10.3主数据与实体解析

实体解析(Entity Resolution)是判断两条记录是否指向同一现实对象的过程,包括匹配、合并与标识符管理。匹配可用确定性规则(模式、权重、可预测)或或然式算法(基于训练数据与统计相似度,可随数据优化)。

  • 全局标识符应只由一个授权方案生成,避免重复值
  • 交叉引用管理(X-Ref)维护源 ID 与全局 ID 的映射历史,支持反合并与再合并
  • 匹配决策可能出错,必须保留匹配历史,以便撤销
  • 匹配率指标用于监测匹配规则的影响与有效性
  • 主数据项目通常一次只做一个主题域、少量属性,再逐步扩展
三类匹配规则
规则作用风险与特点
重复标识匹配识别人工复核的重复候选,不自动合并可控,但需要人工投入
匹配链接只建立交叉引用,不修改被引用记录易实现、易撤销,但综合视图较难
匹配合并把多源记录合并为统一的主记录收益大,但操作复杂、错误合并恢复成本高

匹配合并需要存活规则(survivorship)决定每个属性信任哪个源;信任规则会随时间和新数据源变化,需要定期重评。

10.4MDM 实施模式与项目活动

主数据架构要匹配组织规模、系统数量、治理成熟度与对延迟的要求。三种基础模式各有取舍,很多组织会采用混合方案。

  1. 01识别驱动因素与需求:明确业务收益、障碍与优先级,通常从一个主题域开始
  2. 02评估数据源:理解结构、内容、采集过程、属性语义与质量,找出差异根因
  3. 03定义架构方法:根据系统数量、治理成熟度、延迟要求选择注册表/交易中心/混合
  4. 04建模主数据:在主题域内建立逻辑或规范模型,形成企业级定义
  5. 05定义职责与维护流程:匹配、合并、修复、反馈源系统、调优算法
  6. 06建立治理制度并推动使用:路线图、系统接入、闭环反馈、共享协议
三种 MDM 实施模式
模式结构优点代价
注册表 Registry索引多个记录系统中的主数据,记录系统保留本地主数据对现有系统改动小、易起步跨系统组合查询复杂,语义差异需规则处理
交易中心 Transaction Hub主数据只存在于中心系统,各应用与中心交互治理强、对外一致、规则集中需从现有系统移除更新功能,改造成本高
混合 Consolidated记录系统保留本地数据,公共存储库合并共享提供企业视图,对源系统影响较小需要复制,存在延迟与一致性维护

小型组织可优先交易中心;多系统、跨地域的大型组织更常用注册表或混合模式。

10.5治理与度量

主数据项目失败最常见的原因不是技术,而是缺乏治理:没有人对定义、匹配规则、冲突裁决和质量负责。治理要决定整合哪些源、执行哪些质量规则、如何监控、优先级如何、信息如何呈现。

  • 主数据所有权属于组织,不属于某个应用或部门
  • 主数据值应只从记录系统复制;跨组织共享可能需要参考数据管理系统
  • 任何合并或拆分都必须可追溯,匹配规则变更要在监督下谨慎进行
  • 治理要有接收新规则、修订旧规则的能力,而不是一次定死
主数据度量
维度指标示例
质量与遵从实体/属性的置信度、完整率、重复率、合规使用率
变更活动数据值变化率、匹配规则调整次数、合并/拆分次数
获取与消费贡献数据的系统数、订阅共享环境的业务域数、使用覆盖率
运营人工复核量、匹配准确率、问题平均处理时间

练习

4 题 · 先自己写,再展开对照

提示标准化、候选识别、相似度评分、人工复核、匹配合并、历史可撤销。

参考答案

流程:
1)标准化:统一大小写、去除空格、规范化电话与地址、解析姓名;
2)候选识别:用确定性规则(如税号、手机号)或或然式算法(加权相似度)找出可能相同的记录;
3)评分与阈值:高于阈值判为匹配,低于阈值判为不同,中间区间进入人工复核;
4)匹配合并:按存活规则为每个属性选择最可信来源,生成主记录与全局 ID;
5)交叉引用:保留源 ID 与全局 ID 映射,记录匹配置信度与决策历史;
6)反馈与调优:把人工复核结果反馈给算法,定期重评规则。

避免错误合并:
- 高风险合并只生成候选,不自动执行;
- 保留匹配历史,支持反合并/再合并;
- 多字段组合判断,不依赖单一字段;
- 对中间分数设置人工复核;
- 监控匹配率、误合并率与人工复核量。

自评要点

  • 流程覆盖标准化到反馈调优
  • 提到确定性/或然式与阈值
  • 包含人工复核、历史与反合并

提示注册表、交易中心、混合模式的改造成本与一致性取舍。

参考答案

倾向混合模式(Consolidated),必要时对核心区域采用注册表:
- 记录系统保留本地客户管理,满足区域业务灵活性;
- 中央公共存储库合并关键属性,提供企业级客户视图;
- 对现有系统改造较小,适合系统多、治理成熟度不一的集团。

理由:
- 交易中心要求各系统放弃本地更新,30 多个系统改造成本极高;
- 纯注册表跨系统组合查询复杂,难以支撑集团级分析;
- 混合模式能在企业视图与本地自治之间取得平衡。

主要风险:
- 数据复制带来延迟与一致性问题;
- 匹配与存活规则复杂,错误合并影响面大;
- 需要明确权威源与冲突裁决机制;
- 治理不到位时,公共存储库会逐渐失真。

配套:全局 ID、交叉引用、匹配历史、质量监控、数据共享协议与治理委员会。

自评要点

  • 模式选择合理并说明取舍
  • 识别复制延迟、错误合并、权威源风险
  • 给出全局 ID/治理等配套

提示标准来源、唯一首选值、映射、影响分析、沟通审批。

参考答案

问题:
- 同一概念多种表示,导致分类、统计与集成结果不一致;
- 可能混用 ISO 3166 的二位码、三位码、数字码与自由文本;
- 缺乏首选值与映射规则,下游无法可靠关联;
- 没有明确维护者与来源,变更无人负责。

治理方案:
1)确定权威标准(如 ISO 3166)与首选表示(如二位码 CN);
2)建立参考数据表:代码、名称、定义、有效起止日期、来源;
3)为历史值建立交叉引用/映射,保留弃用值与生效时间;
4)明确维护者、变更流程与审批;
5)下游系统统一引用中央参考数据或同步副本。

变更注意:
- 评估对报表、接口、驱动逻辑的影响;
- 提前通知消费者,保留历史版本;
- 弃用值不删除,标记失效日期;
- 变更可追溯、可回滚。

自评要点

  • 指出多表示与标准混用
  • 方案包含权威标准、映射、维护者
  • 变更强调影响分析与历史保留

提示所有权、记录系统、闭环反馈、制度强制、使用激励。

参考答案

原因:
- 没有明确权威源与更新职责,源系统仍被当作主数据入口;
- 主数据未嵌入业务流程,员工觉得「多此一举」;
- 缺少制度强制与系统控制,直接修改没有代价;
- 没有闭环反馈,源系统与主数据长期不一致;
- 治理未覆盖业务部门,数据管理专员有责无权;
- 使用方看不到主数据带来的价值。

治理措施:
1)明确客户主数据的记录系统与更新规则,禁止在非权威源直接修改关键属性;
2)在源系统加校验、审批或只读控制,把变更引导到主数据流程;
3)建立主数据到源系统的同步与对账,差异告警并闭环;
4)把数据质量指标纳入业务考核,明确数据所有者与专员;
5)从客服、营销等场景展示统一客户视图的价值;
6)定期审计直接修改行为,处理例外并优化流程。

自评要点

  • 诊断覆盖权威源、流程、制度、激励
  • 措施包含系统控制与对账闭环
  • 强调业务参与与价值证明

本章对应《DAMA 数据管理知识体系指南(原书第 2 版)》第 10 章。正文为教学改写,建议对照原书与所在组织的实际场景阅读。

← 上一章

文件和内容管理

下一章 →

数据仓库和商务智能