知识库✳

教程与手册

全部教程
  1. 01Oracle 函数手册
  2. 02性能优化手册
  3. 03Linux Shell
  4. 04Oracle 学习与演练
  5. 05网络基础学习
  6. 06数据治理与管理
返回个人网站
数DAMA 数据管理教程从知识体系到落地实践
首页课程目录搜索
知识库

已完成 0 / 17 章

模块一 · 基础与框架

  • 01数据管理:把数据当作资产
  • 02数据处理伦理

模块二 · 治理与架构

  • 03数据治理
  • 04数据架构

模块三 · 建模与存储

  • 05数据建模和设计
  • 06数据存储和操作

模块四 · 安全与集成

  • 07数据安全
  • 08数据集成和互操作

模块五 · 内容与主数据

  • 09文件和内容管理
  • 10参考数据和主数据

模块六 · 分析与质量

  • 11数据仓库和商务智能
  • 12元数据管理
  • 13数据质量

模块七 · 前沿与组织

  • 14大数据和数据科学
  • 15数据管理成熟度评估
  • 16数据管理组织与角色期望
  • 17数据管理与组织变革
❖

DAMA 数据管理教程

返回个人网站知识库

内容框架参考《DAMA 数据管理知识体系指南(原书第 2 版)》,正文为教学改写; 建议对照原书与所在组织的实际场景学习。

以 Next.js 16 · Tailwind CSS v4 · HeroUI v3 装帧

13
  1. 首页
  2. 课程目录
  3. 数据质量

第 13 章◆高级◆建议 55 分钟◆模块六 · 分析与质量

数据质量

从「数据要对」到「数据适合使用」:定义维度与规则,评估根因,设定可量化目标,并把质量嵌入流程与系统。

学完这一章,你应该能

  • 解释「适合使用」的质量观,以及质量管理的十项原则
  • 识别关键数据,选择并定义可测量的质量维度
  • 按评估、剖析、根因分析、改进、监控的路径推进质量项目
  • 设计质量规则、问题管理与报告机制
  • 用投资回报、质量水平、趋势与 SLA 衡量质量成效

13.1质量不是「正确」,而是「适合使用」

数据质量既指高质量数据的特征,也指衡量与改进质量的过程。判断标准不是抽象的正确,而是数据是否满足数据消费者在具体场景中的需求。同一份数据在一个用途上足够好,在另一个用途上可能不合格。

  • 四类驱动:提升数据价值与利用机会、降低风险与成本、提高效率、保护声誉
  • 十项原则:重要性、全生命周期、预防、根因修正、治理、标准驱动、客观测量与透明、嵌入业务流程、系统强制执行、与 SLA 关联
  • 低质量数据的成本常被隐藏:返工、客服、错失商机、并购整合受阻、欺诈、错误决策、声誉损失
  • 高质量数据不是目的,而是组织成功的手段
识别关键数据的五个角度
角度问题
监管报告哪些数据直接进入监管报送?
财务报告哪些数据影响财务报表与审计?
商业政策哪些数据支撑定价、授信、合规政策?
持续经营哪些数据中断会直接影响运营?
商业战略哪些数据支撑差异化竞争?

按定义,主数据通常都是关键数据;也可按使用过程、报告性质或出错后的财务/监管/声誉风险判断。

13.2质量维度:把「好」变成可测量

质量维度是数据可测量的特性,为定义质量要求和评估改进提供共同词汇。维度必须与关键流程中的风险直接相关,否则测了也没有意义。

  • 维度是规则的基础,规则要能落到字段、记录或数据集级别
  • 完整性规则要说明字段是否强制、何时必填;有效性规则依赖域与字段间关系
  • 规则往往没有文档,需要从流程、代码、触发器、状态码和常识中逆向还原
  • 不必一次找全所有规则;分享评估结果常能帮助业务更清晰地说出规则
常用质量维度
维度含义度量示例
准确性数据是否真实反映客观对象与权威源比对的一致率
完整性必填值与必要属性是否齐全邮箱非空客户占比
一致性跨系统、跨字段、跨时间是否一致客户姓名在 CRM 与 ERP 的匹配率
及时性数据是否在需要时可用且足够新数据延迟、更新及时率
有效性值是否符合域、格式与业务规则邮编与国家代码匹配率
唯一性同一实体是否只有一条记录重复客户率
可解释性定义、口径、来源是否清晰有定义的字段占比
可访问性授权用户能否及时获取访问成功率、响应时间

Strong-Wang 框架从内在、场景、表达、访问四类描述 15 个指标;Redman 从数据模型、值、表达三类展开 20 多个维度。

13.3质量评估与改进

质量项目应从最关键的数据和最小可行范围开始。先做概念验证,证明改进过程有效,再扩大到更大数据集。剖析能发现问题,但根因与业务影响需要数据链上的利益相关方共同确认。

  • 预防优于纠正:根因修正通常比反复清理成本低几个数量级
  • 改进 ROI 取决于数据重要性、数据量、数据龄期、影响流程与人数、风险、根因修复成本
  • 系统限制、数据龄期、在途项目、复杂环境与文化阻力都会阻碍改进,要提前设计应对
  • 质量目标要能解释业务收益,而不是只报字段完整率
  1. 01定义高质量数据:与业务确认含义、影响、优先级、容忍度与治理结构
  2. 02制定质量战略:选择框架,明确如何识别关键数据、定义规则、评估、改进、监控
  3. 03识别关键数据与业务规则:按监管、财务、客户影响排序,逆向还原规则
  4. 04初始评估(POC):选小数据集,检查规则,记录问题类型与级别,量化并确认优先级
  5. 05根因分析与优先级:结合数据剖析与业务影响,识别补救项与根因改进项
  6. 06设定改进目标:具体、可量化、与业务价值挂钩,如完整性 90% → 95%
  7. 07运营化:管理规则、持续监控、问题管理、报告质量水平,并嵌入流程与系统

提示不要用「清洗数据」代替「修流程」。如果源头每天继续产生错误,清洗只是在为同一个问题反复付费。

13.4运营化:规则、监控与问题管理

质量能力要变成日常运营:规则作为元数据管理,监控持续运行,问题有分级、责任人、升级与关闭标准,质量水平定期向业务报告。

  • 质量规则和标准是关键元数据,应有统一模板、维度定义与版本管理
  • 规则要前置到系统开发与增强中,形成输入校验与控制要求
  • 监控要覆盖关键数据、关键流程与关键时点,异常要能告警并定位
  • 问题管理要记录分类、状态、优先级、严重程度、解决时间与责任人
  • 数据质量团队要与业务、技术数据管理专员协作,而不是单独背锅
  • 质量文化需要各级领导参与,让使用数据的人推动改进

13.5治理与度量

数据质量治理要明确谁对哪份数据负责、按什么标准度量、问题如何升级、报告给谁。度量既要看质量水平,也要看改进带来的业务价值。

  • 质量报告与问题管理应纳入 SLA,明确响应与修复期望
  • 透明度很重要:与利益相关方共享测量方法与结果,他们是质量的裁决者
  • 定期复盘重复问题,推动流程与系统变更,而不是只关闭工单
数据质量度量
类别指标示例
投资回报改进成本与收益对比、避免的损失
质量水平错误数量与比率、规则通过率、维度得分
趋势按时间、阈值与目标跟踪改进或退化
问题管理按维度分类计数、按部门与状态统计、按优先级排序、解决时间
服务一致性各部门对评估与干预流程的执行一致性
计划进展现状与扩展路线图的里程碑达成

质量报告要面向不同受众:业务看影响与趋势,技术看根因与规则,管理层看风险与投入产出。

练习

4 题 · 先自己写,再展开对照

提示先明确用途与消费者,再把「差」拆成完整性、准确性、一致性、唯一性等。

参考答案

先问清用途:用于营销触达、客服、风控还是报表?不同用途标准不同。

可测量需求示例:
- 完整性:有效邮箱客户占比 ≥ 98%;必填手机号非空率 ≥ 95%;
- 准确性:与权威地址库比对一致率 ≥ 97%;
- 一致性:CRM 与 ERP 客户姓名/证件号匹配率 ≥ 99%;
- 唯一性:重复客户率 ≤ 1%;
- 及时性:客户变更在 24 小时内同步到分析库;
- 有效性:证件号校验通过率 ≥ 99.5%。

每个指标要说明:口径、数据范围、统计频率、目标值、责任人。
「太差」只有转成这些,才能评估、改进和验收。

自评要点

  • 先明确用途与消费者
  • 至少三个维度及指标
  • 指标包含目标、口径、责任人

提示质量水平不等于业务结果;看影响的数据量、流程、客户与成本。

参考答案

原因:
- 该字段可能不是关键数据,或提升的 5% 不影响关键流程;
- 指标没有关联业务结果(如触达成功率、订单转化、客服时长);
- 问题分布在不同环节,平均值掩盖了关键群体的改善;
- 数据虽完整但准确性、时效性仍不足;
- 业务未参与定义目标,改进不是他们真正需要的。

让改进产生价值:
1)从关键数据与关键流程切入,按业务影响排序;
2)把质量指标与业务指标挂钩,如邮箱完整率 → 营销触达率 → 转化率;
3)分群分析,优先修复高价值客户/高风险场景;
4)量化低质量成本与改进收益,计算 ROI;
5)让业务参与目标设定与验收,定期沟通结果;
6)同时治理根因,防止指标回升后再次恶化。

自评要点

  • 指出指标与业务结果脱节
  • 改进与业务指标挂钩
  • 强调关键数据、分群与 ROI

提示清洗只是补救;要看数据在哪创建、规则是否前置、系统是否校验。

参考答案

现状问题:
- 只做补救,没有分析错误来源;
- 地址在多个系统手工录入,缺少校验;
- 没有标准地址库与匹配规则;
- 错误发现依赖下游,反馈不回源头。

方案:
1)根因分析:按来源系统、录入渠道、操作人员、错误类型统计,定位主要产生点;
2)预防:在录入端接入地址联想/标准地址库,强制选择或校验;
3)系统强制:必填、格式、国家/省市区联动校验,异常需审批;
4)规则前置:把地址有效性规则写入系统与接口,而不是只在下游检查;
5)反馈闭环:下游发现问题回传源系统,纳入质量看板与责任考核;
6)持续监控:地址异常率、退回率、人工修正量趋势;
7)存量清理:一次性标准化历史地址,并保留变更记录。

目标是让新错误不再产生,而不是加快修正速度。

自评要点

  • 区分补救与根因
  • 在录入端做校验与标准库
  • 建立反馈闭环与监控

提示成本侧与收益侧;数据重要性、数据量、影响流程与人数、风险、修复成本。

参考答案

影响因子:
1)受影响数据的关键性(是否关键数据);
2)受影响的数据量与记录数;
3)数据龄期与错误持续时间;
4)受影响业务流程的数量与类型;
5)受影响的客户、供应商、员工数量;
6)相关风险(合规、财务、声誉);
7)根因修复成本与持续清洗成本;
8)潜在收益(减少返工、降低客服量、提升转化、避免罚款)。

汇报方式:
- 用业务语言描述问题与影响,而不是只讲字段和规则;
- 对比「不改进的持续成本」与「一次性根因修复 + 运营成本」;
- 给出分期目标与可验证指标(如客服工单下降 15%、退款差错减少 30%);
- 说明假设、数据来源与不确定性;
- 设置复盘节点,按实际结果调整。

管理层关心的是风险与收益,不是完整率本身。

自评要点

  • 至少五个影响因子
  • 成本与收益两侧
  • 汇报用业务语言并说明假设

本章对应《DAMA 数据管理知识体系指南(原书第 2 版)》第 13 章。正文为教学改写,建议对照原书与所在组织的实际场景阅读。

← 上一章

元数据管理

下一章 →

大数据和数据科学