企业级数据架构：核心要素、架构模型、数据管理与平台搭建 pdf下载

（1）作者经验丰富：头部保险资管公司深数据架构师，从事数据相关工作10余年，在数据架构、数据治理、数据资产管理等领域积累了丰富的经验。
（2）理论系统全面：系统梳理和阐述了企业架构的基础知识，以及数据架构的组成要素、架构模型、数据治理和数据资产管理的理论知识。
（3）实战案例丰富：用大量案例辅助理论讲解，同时用离线计算和实时计算两大场景的综合案例进行了详细展示。
（4）资深专家推荐：平安集团首席架构师与平安资管总经理等多位专家联袂推荐。

这是一部从企业架构视角系统讲解企业级数据架构的著作，包含数据架构的原理、方法和实践。
本书拟分为四个部分共17个章节来系统性的阐述数据架构相关内容；
第1部分 架构基础主要包含1个章节
1.数据架构与企业架构 其主要从宏观的角度阐述企业架构与数据架构的关系以及重要性使读者明白数据架构并不是孤立存在的且与企业架构息息相关
第2部分 数据架构基础主要包含5个章节从理论以及工具层面阐述数据架构的构成
2.数据架构构成 介绍数据架构的主要组成以及框架
3.数据存储 数据架构落地中常见的存储选型以及实用场景
4.数据调度与消息传输 数据架构中调度服务以及消息传输的通用技术选型以及可能出现的关键问题以及优化手段
5.Lambda架构与Kappa架构 系统性的阐述主流的两种数据架构以及使用场景
6.辅助类组件 数据架构中帮助测试以及运维人员精准的定位问题的相关辅助组件，例如日志收集、系统监控以及APM等
第3部分 数据架构实践 基于大量的业务实践，总结数据架构实践中核心组组成以及关键方法进行拆解
7.企业数据区域以及流向 以不同的维度去拆解企业的数据，帮助读者构建数据架构的落地层面的意识，知道为什么拆以及如何去拆
8.模型架构详解 以主流的两种建模方法论为切入点，讨论并对比优劣并让读者拓展模型设计中的工具箱。
9.模型设计 以维度建模为例，详细的介绍不同数据层级、不同类型数据的建模方法，具体案例来源于大量的模型实践
10.元数据 了解什么是元数据及其重要性以及如何管理数据
11.数据质量 基于数据质量去设计数据质量监控体系，做好事前防范、事后治理
12.数据标准 构建数据标准框架以及流程，挖掘具体数据标准落地在企业中的难度。
第4部分 数据资产管理
13.企业数据资产 企业数据资产的构成以及搭建路径以及工具等
14.数据治理 结合元数据、数据质量以及数据标准等，系统的阐述数据治理类型项目的落地
15.大数据平台实践 如何一步一步搭建基于Hadoop大数据平台
16.实时数据仓库搭建 如何构建企业级别的实施数据仓库
17.本书总结 总结写书的感悟以及后续的一些想法等

李杨
资深数据架构师，在数据相关领域有10年以上工作经验。头部保险资管公司科技平台交易系统团队开发组负责人，负责多个应用以及数据平台的建设、优化以及迁移工作。曾担任某数据公司技术合伙人，负责多个金融机构的数据仓库或数据平台相关的工作。
在数据质量管理、数据治理等领域有着非常深厚的积累，熟悉不同行业的数字化转型。此外，他还是一名经验丰富的应用工程师，对大数据、数据库以及主流的技术栈有着非常深入的了解。
2022年被集团评为“优秀架构师”，积极参与行业内部的相关课题研究，是《保险问道
之保险资管数字化探索》一书的执笔人之一，是中资协《金融科技赋能保险资管风险管控的研究》课题核心组成员之一。

目录

序

自序

前言

第一部分　架构基础

第1章　企业架构概述 3

1.1　企业架构 4

1.2　Zachman框架 4

1.3　TOGAF 6

1.4　业务架构 9

1.5　数据架构 11

1.6　总结 13

第二部分?数据架构基础

第2章　数据架构构成 18

2.1　数据模型 18

2.2　元数据 19

2.3　数据质量 20

2.4　数据标准 21

2.5　数据治理 21

2.6　数据资产 22

2.7　数据生命周期 24

2.8　数据分布 27

2.9　常见数据架构技术选型 28

2.10　数据调度 30

2.11　总结 30

第3章　数据存储 31

3.1　数据存储基础 32

3.2　集中式数据库 38

3.3　分布式数据库 40

3.4　大数据存储 43

3.5　特定领域存储 46

3.6　实时计算阶段 49

3.7　总结 49

第4章　数据调度与消息传输 50

4.1　通用技术选型 50

4.2　Airflow调度平台 52

4.3　DataX数据同步工具 56

4.4　Kafka消息中间件 62

4.5　总结 68

第5章　Lambda架构与Kappa架构 69

5.1　架构演进 69

5.2　Lambda架构详解 75

5.3　Kappa架构详解 82

5.4　Lambda与Kappa对比 87

5.5　流批一体化 89

5.6　总结 90

第6章　辅助类应用体系介绍 91

6.1　资源管理 91

6.2　资源及组件监控 95

6.3　应用监控 102

6.4　日志监控 107

6.5　总结 109

第三部分?数据架构模型实践

第7章　企业数据区与数据流向 113

7.1　数据区概述 113

7.2　数据区详解 115

7.3　企业数据流向 119

7.4　企业数据分层 123

7.5　企业集成型数据区层级 124

7.6　互联网公司的集成型数据区分层

　　　特点 129

7.7　总结 130

第8章　数据模型架构详解 131

8.1　为什么要建模 132

8.2　建模策略 134

8.3　建模三步走 137

8.4　建模方法论 141

8.5　常见模型概述 147

8.6　数据层级与数据模型的关系 151

8.7　总结 152

第9章　维度建模解析 153

9.1　维度建模概述 153

9.2　维度建模总线结构 156

9.3　维度详解 159

9.4　缓慢变化维度 162

9.5　事实表详解 167

9.6　事务型事实表 170

9.7　总结 172

第四部分?数据资产管理

第10章　元数据管理 178

10.1　元数据概述 178

10.2　元数据的产生 179

10.3　不同类型元数据详解 182

10.4　元数据的价值 187

10.5　元数据的应用 189

10.5.1　血缘分析 189

10.5.2　影响分析 190

10.6　元数据的生命周期 191

10.7　元数据管理体系构建 191

10.8　总结 193

第11章　数据质量管理 194

11.1　数据质量概述 194

11.2　数据质量内涵 195

11.3　数据质量管理框架 196

11.4　数据质量核心维度 200

11.5　数据质量规则体系 203

11.6　数据质量评估 206

11.7　总结 210

第12章　数据标准管理 211

12.1　数据标准概述 211

12.2　数据标准内涵 212

12.3　数据标准体系设计框架 213

12.4　数据标准管理流程 219

12.5　数据标准的挑战 223

12.6　数据标准与数据质量的关系 224

12.7　总结 226

第13章　数据治理 227

13.1　为什么需要数据治理 227

13.2　数据治理内涵 229

13.3　数据治理核心准则 232

13.4　数据治理通用流程 236

13.5　数据治理的挑战 242

13.6　总结 243

第14章　数据资产管理与数据

　　　　 资产目录 244

14.1　数据资产内涵 245

14.2　数据资产管理活动职能 253

14.3　数据资产目录实践 254

14.4　总结 260

第五部分?数据架构实践

第15章　离线计算 263

15.1　离线计算架构概述 263

15.2　架构设计 264

15.3　软件部署 265

15.4　模型设计 281

15.5　数据处理 291

15.6　离线计算数据应用 298

15.7　总结 299

第16章　实时计算 300

16.1　实时计算架构概述 300

16.2　架构设计 301

16.3　软件部署 303

16.4　连通性配置 310

16.5　实时计算层 315

16.6　总结 322

第17章　对数字未来的展望 324

17.1　建设数字中国 324

17.2　金融行业的数字化转型 325

17.3　数据架构核心 326

17.4　数据开发趋势 326

17.5　DataOps发展 327

17.6　总结 328