关于数据治理,你需要知道些什么?

数据治理

翻译|品觉

每个有效的数据库都需要精心设计的模式(Schema),以保持数据干净,避免冲突,满足用户的各种需求,适应未来的扩展。同样,每个有效的企业数据计划都离不开数据治理,也就是精心设计的政策,以明确职责、解决不同利益相关方之间的冲突,提供维护和扩展,保护敏感信息。

数据治理的关注点通常包括:

长远规划:识别战略需求,寻求管理层对数据计划的支持,获得多年的预算承诺,除新功能之外还提供维护和升级。

架构:预见并调和不同企业部门之间的数据策略冲突。

职责:明确研发、运营、基础设施、商业智能和各条业务线等能力领域之间的维护、更新和扩展职责。

数据收集:把来自各条业务线的数据整合进公司总体策略,从源头上确保数据干净。

安全和合规:识别敏感数据及其相关的监管和专业要求,执行技术和管理保障措施。

数据管理方面的权威西米恩·施瓦茨(Simeon Schwarz)分享过一个思维实验:假设你正在为某券商创建新的客户关系管理(CRM)分析系统,你问该系统的各个利益相关方,在他们眼中什么是“账户”?答案各不相同:

营销部:“账户是被转化的销售线索。”

财务部:“就财务报表而言,账户是拥有存款、能和我们交易的客户。”

会计部:“账户是我们结算室、账簿和记录系统中的记录条目。”

法律部:“账户是我们通过和客户签署的法律协议,向客户提供的结构化产品。”

虽然每个定义在其利益相关方的眼中都是正确的,但这些定义可能无法调和成单一的一个定义。没有数据治理计划,各个部门的工作流程可能会以不同的方式来对待记录。结果将是各个部门的工作流程产生不同版本的真相,具有不同的监管和合规风险。报告和分析变得不可靠,并使冲突加剧。

营销部通过网页表单收集销售线索,并为每条线索创建一条新的账户记录,但网页表单上可能有错字。法律部从头开始为每份协议创建一条新的记录,导致某些数据重复,如果其数据与包含错字的营销部数据产生冲突,那么还需要进行清理。

由于可追溯至大型主机时代的一个传统,运行整个系统的硬件设施也许是由会计部管理,而会计部可能不想花钱改进营销部的数据收集系统。营销部的人在策划宣传活动时,习惯了直接查看会计部数据库的原始客户记录,这会产生监管和安全风险。

数据治理计划不仅为解决这些问题和预见新的问题提供了知识和制度基础,还根据企业战略计划的推进提供相应的扩展。

关键的术语和趋势

如今首席数据官(CDO)这个职位越来越流行,其诞生就是为了应对数据治理的挑战。负责数据治理的CDO加入企业高管行列,这表明了数据在企业价值和使命中的重要地位。

行业组织和供应商已经开发出各种各样的数据治理框架,其中最著名的包括开放组群架构框架(TOGAF),它以美国国防部较早前一个项目为基础发展而来。TOGAF远远超出了数据治理的范畴,但数据架构是该框架中一个被人们津津乐道的组成部分。此外还有数据治理框架(DGI),它也是从结构化的角度来看待数据治理。

除了上述几种“框架”法以外,有些早期研究项目致力于元数据和情境服务在制定治理政策方面的潜在应用,这是从自下而上的角度来处理问题。

用户喜欢...

如何将枯燥的大数据呈现为可视化的图?

作者:哈士奇不姓哈 将数据转化成可视化图表/形,其实一个工具就能完成,碍于工具太多,按照使用场景,暂且将已...


如何建立数据分析中心

文|hualalalalali 随着大数据的风靡,越来越多的专家、企业开始逐渐认同数据分析将在未来成为管理支持的重要依据。...


解答│做大数据过程中遇到的13个问题

1、最早的数据分析可能就报表 目前很多数据分析后的结果,展示的形式很多,有各种图形以及报表,最早的应该是简...


大数据的核心:数据挖掘

大数据的核心:数据挖掘。从头至尾我们都脱离不了数据挖掘。其实从大学到现在一直都接触数据挖掘,但是我们不...


数据库优化案例——某市中心医院HIS系统

作者:Double_K 记得在自己学习数据库知识的时候特别喜欢看案例,因为优化的手段是容易掌握的,但是整体的优化思...


微服务架构下的分布式数据管理

作者|李晓春 中兴开发者社区 1.1 分布式数据管理之痛点 为了确保微服务之间松耦合,每个服务都有自己的数据库, ...


傅一平博士:“去电信化” 运营商变现需要从建模中发现数据的价值

3月29日晚,浙江移动大数据中心——傅一平博士,就《运营商大数据变现实践》与大家分享数据利用的心得与经验,...


全球数据驻留风险管理

导读:斯诺登事件造成了两个特别值得注意的结果:一是围绕美欧安全港协议的未来进行持续讨论;二是欧盟和其他地...


Spark知识体系完整解读

作者:杨思义 Spark简介 Spark是整个BDAS的核心组件,是一个大数据分布式编程框架,不仅实现了MapReduce的算子map 函数和...


服务端开发指南与最佳实战| 数据存储技术 | MySQL 数据库安全性

文|梁桂钊 数据库的安全性,即保护数据库,防止未经授权或不合法的使用而造成的数据泄漏和更改破坏。因此,保护...


36日报 | 阿里云海外数据中心增至8个,11 月全球数据库排行榜Oracle 霸主地位受威胁?(11.21)

导读: 阿里云海外数据中心增至8个,11 月全球数据库排行榜Oracle 霸主地位受威胁?等等。以下为你献上11月21日大数据...


我们需要什么样的ETL?

文 | 傅一平 从10年前的数据仓库到当前的大数据平台,ETL也需要与时俱进,这里来谈谈个人的理解,如果你在考虑建...


从0到1构建数据生态系列之一:蛮荒时代

文 | blogchong 1. 缘起 前面刚好爬取了多个招聘网站的大数据JD信息,做了一份《2016大数据领域职位需求画像报告》,我...


36周报 | 15家大数据企业获融资,大数据十三五规划年内将出台(11.28-12.02)

本周共有15家大数据企业获得融资,分别涉及人工智能、数据库、云计算、营销等领域。 11月28日 数据库科技公司 A...


36日报 | 大数据十三五规划将出台,阿里云上半年同比增长全球第一(11.28)

导读:大数据十三五规划将出台,阿里云上半年同比增长全球第一等等,以下为你献上11月28日大数据行业动态。 投资...


Pinterest 数据切分:解惑快速扩展 MySQL 的数据量

作者:Marty Weiner 译者:debugging, imqipan, 无若, 混元归一 文章这是一个探讨怎样在多个MySQL服务器之间切分数据的技术...