1、数据仓数据仓库建设项目实施方案建议书V（数据仓）数据仓库建设项目实施方案建议书V株洲南车时代电气股份有限公司数据仓库建设规划项目方案建议书 XX软件系统股份有限公司2015年03月第1章 南车电气数据仓库建设项目介绍 31.1. 南车电气数据仓库建设项目的背景 31.2. 南车电气环境现状及需求分析 41.2.1. 项目目标 4第2章 南车电气数据仓库建设解决方案详述 62.1. 南车电气数据仓库建设整体方案说明 62.1.1. 方案概述 62.1.2. 系统逻辑架构 72.1.3. 系统硬件架构建议方案 82.1.4. 未来建设目标 92.2. 南车时代电气数据仓库平台建设 132.2.1.
2、 数据仓库建设原则 132.2.2. 数据仓库规范体系设计 142.2.3. BW数据仓库结构定义 172.2.4. 数据仓库管理标准及命名规范 202.3. 南车时代电气BW数据仓库优化方案 312.4. 数据展现层迁移方案 322.5. 主数据共享平台方案 33第3章 南车电气数据仓库建设项目实施方案 353.1. 南车电气数据仓库系统实施计划 353.1.1. 工作时间表（预计） 353.2. 培训计划 393.2.1. 培训类型 403.2.2. 培训课程 403.3. 容灾备份方案 423.3.1. 备份策略的定义 433.3.2. 备份窗口的选择 433.3.3. 灾难恢复的策略
3、43第4章 项目实施和管理提升方法 464.1. 项目实施和管理提升方法 464.2. XX在南车电气项目中提供的管理提升和服务内容 464.3. XX管理提升与 BI实施相结合的指导原则 474.4. XX管理提升与 BI 实施相结合的方法和步骤 484.4.1. 现状调研和企业问题诊断 484.4.2. 未来业务流程和管理提升初步讨论 484.4.3. 建立 BI原型系统 494.4.4. 结合 BI进行未来业务流程和管理提升详细讨论和蓝图确认 494.4.5. 管理提升交付成果实例 49第5章 项目管理和质量保证 515.1. 工作计划管理 515.2. 沟通管理 515.3. 争议协调
4、升级程序 525.4. 项目质量控制 525.5. 文档管理 545.6. 建议南车电气提供的保障措施 555.7. 验收标准及方案 565.7.1. 系统符合性 565.7.2. 系统质量 565.7.3. 交付文档 57第1章 南车电气数据仓库建设项目介绍1.1. 南车电气数据仓库建设项目的背景南车时代电气始终坚持核心技术向相关产业延伸的发展战略，不断巩固在轨道交通领域的行业地位，着力提升在电气传动和控制系统领域的专业地位，正树立起公司在电气传动和控制系统领域国际化专业供应商的新形象。为挖掘信息化系统价值，提升内部管理手段，公司于20102011年启动并初步建立了南车时代电气综合分析系统。
5、该系统采用了SAP BW和EP的技术平台，实现了部分经营指标及报表需求，且于2014年从V7.0升级到V7.4版本。为优化各类应用系统间的借口，提高系统的安全性和可维护性，公司于2014年启动了ESB技术平台的预研工作，确立了以普元公司的Primeton ESB为技术平台建设公司的数据总线，部分系统间接口已经实现与ESB的集成。1.2. 南车电气环境现状及需求分析公司为实现基于企业绩效管理的信息化系列重大需求，准备通过本项目做好数据仓库技术平台的规划及优化提升工作，确保数据仓库平台满足全面启动建设企业绩效管理系统的要求。本项目的工作任务包括数据仓库的建设规划、数据仓库的技术规范及性能优化、数据
6、仓库与BO、EP的集成应用、数据仓库与ESB集成实现重要主数据的信息共享等四个方面。公司为实现企业绩效管理信息化的重大需求，籍由本项目做好数据仓库平台建设的规划，搭建起商务智能体系的整体技术架构并实现部分实例应用，满足全面启动企业绩效管理信息化的技术要求。同时，提出规范和优化提升既有的SAP BW数据仓库系统，使之成为企业商务智能平台中运行良好的关键一环。为了解决本公司现有重要数据分布管理、交叉共享，无法保障数据及时性和准确性的弊端，公司拟将SAP BW建设成为未来的数据集成与共享中心，能够满足建设公司ESB平台的数据服务要求，实现重要主数据的归集与共享，提升数据交互性能和系统安全性。实现BW
7、系统的规划与优化，搭建并应用BW+EP+BO的技术平台，建立重要主数据的集中存储机制，与ESB集成实现与试点目标系统主数据的同步。前瞻性，既体现在BW软硬件平台规划和建设思路上要考虑未来五年的发展需求，也体现在BW的ETL、部署、处理连、聚集、模型等数据仓库要素的设计规范上。1.2.1. 项目目标本期项目定位为规划奠基阶段，需要全面系统的构建南车电气未来企业核心数据仓库的基础架构，该基础架构要具有完整性，能满足本期项目的需求，同时也要具有灵活性和可拓展性，能够满足未来企业发展而不断变化的需求。综上所述我们对于本次项目目标概括如下:1. 以BW作为数据仓库建设进行未来的整体规划，使之覆盖5年内（
8、含2015）企业级中心数据仓库的技术框架、业务对象设计等需求，且至少满足未来2-3年内南车电气核心数据仓库的具体使用情况，满足其建设标准及管理标准，提高可读性、可扩展性、可维护性。规划内容包括数据整合（ETL）层、数据服务层、数据展现（应用）层的软硬件技术平台和服务内容，制定数据仓库的设计规范。2. 优化SAP BW的软硬件环境，规范BW数据仓库的技术架构、对象设计和管理方式，重新梳理及构建原BW系统中设计不合理的部分（比如CUBE、Query等），提升BW的操作性能、优化Query等待时间，使之具备满足当前作为企业级中心数据仓库服务的条件。涉及的相关CUBE主要有总帐行项目、应收、应付、成本
9、、采购、库存、销售、考核指标等。3. 部署SAP BO集成EP作为新的数据展现（应用）层，将当前BW中的部分报表展现重构，以BO在原BW CUBE的基础上重新开发，形成SAP BW+BO+EP的商务智能技术平台结构，完成重要历史报表的迁移工作。4. 构建主数据共享平台，扩展数据仓库实现重要主数据归集和储存的业务应用，目前有物料、客户、供应商、人员、岗位、组织机构、制造BOM、订单BOM七类核心业务系统中的主数据需要汇集到BW数据仓库，通过ETL手段完成SAP和非SAP系统的主数据抽取并且在BW中建模，最终实现将数据仓库作为ESB中核心业务系统重要主数据的存储与共享中心，提供相关主数据的接口以供
10、ESB系统调用，以此实现重要主数据的跨平台同步。第2章 南车电气数据仓库建设解决方案详述2.1. 南车电气数据仓库建设整体方案说明 2.1.1. 方案概述本期项目的专业定位是集团企业级核心数据仓库的建设，数据仓库架构的优化及规范体系的建立。XX软件系统有限公司以ROI(投资回报)为目标，以科技为手段，为南车电气未来的公司绩效管控和决策支持服务构建强壮的基础。XX公司通过结合中国本地的人力资源和地利之先，综合国内外的先进管理思想和应用实践，愿为南车电气的事业锦上添花。针对上一章节中我们所理解归纳的南车电气本期项目的需求，本期项目是南车电气信息系统建设的核心部分，整合后的数据仓库将作为将来南车电气
11、整个IT环境中的数据基础平台，建设完成后将为未来的南车电气企业绩效管理信息化系统做准备。数据仓库系统的建设有其顺序性，且需要大量时间。数据仓库系统建设过程中，将发现原有的营运系统在作业流程、数据质量、数据标准化的问题，基于此发现，将有助于对营运系统的缺陷进行修复。BI系统的建设是循序渐进不断完善的，是跟业务一起发展的。基于上述想法，数据仓库项目的实施，当一期建设完成后，二期、三期将建设更为详细的企业各系统数据模型，增加新的源数据系统，扩展和完善数据主题域，新建更多主题数据集市，涵盖整个南车电气的业务范围。以SAP BW数据仓库平台为基础，构建未来企业级中心数据仓库，通过SAP BO平台重新进行
12、报表前端展现层的开发，最后通过EP平台发布，形成SAP BW+BO+EP的商务智能技术平台结构。 2.1.2. 系统逻辑架构 系统逻辑架构示意图 源系统说明本次项目的主要数据来源为SAP 系统和非SAP系统 数据处理层数据抽取层的目的是实现将数据源的数据经过抽取，转换后加载到数据管理层中，同时在这个过程中，需要进行任务的调度控制，任务出错处理以及数据质量的检查。南车电气的项目数据主要通过BW中的ETL技术手段来实现抽取和汇总：1）SAP数据源通过BW标准的数据抽取方式；2）非SAP系统建立数据库连接数据源（oracle），同时考虑增量抽取机制。 数据管理层数据管理层以业务需求为驱动，根据业务不
13、同的主题，建立多个主题模型。建模以维度建模方法论为指导，结合实际需求，考虑模型的灵活性，扩展性以及性能，为前端展现提供一致、高效的数据。 报表平台层报表平台采用业界最为优秀的SAP BO产品，可实现固定格式报表,动态报表,移动展现等多种报表。 报表展现层前端展现SAP EP门户集成BO报表来实现。2.1.3. 系统硬件架构建议方案本次项目至少需要有两套环境：开发环境和生产环境，从逻辑上，两套环境必须分开，权限上必须进行区分。每套环境配置相同数量的服务器，安装相同的操作系统和应用软件，保证环境的一致性。开发的资源配置可低于生产环境。由于未来BW将作为南车核心数据仓库使用，众多核心的业务系统中的数
14、据都需要抽取到BW数据库中，我们调研了一部分业务系统的数据总量及增量如下表所示SAP ERP2.1T4050GSAP CRM115.77G34GPLM710G2530G供应商门户（电气加国变）52.3G约0.8G供应商门户（风电）19.5G约0.1G供应商门户（电动）39.6G约40M费用管理系统35G1G1.5G投资管理系统46G预算系统5.88G0.1G 上述系统只是部分核心业务系统，其当前的数据总量为3个多T，未来5年的数据增量保守估计为610个T。而BW系统的数据基本上为源系统数据量的1.52倍，也就是说在数据仓库服务器的存储设备上至少要准备20T以上才能满足未来5年内的业务需求。目前
15、南车BW生产环境的数据库服务器存储空间较小，才不到2个T，而且已经使用了80%左右，所以我们建议在服务器存储空间上需要有较大的配置增加。服务器种类VCPU （虚拟CPU）内存硬盘空间性能问题简述BW开发服务器(应用+数据库)420GC:50G;D:1500G操作响应慢EP开发服务器420GC:80G;D:300G操作响应慢BW生产服务器1230GC:100G,D:300G数据查询等待时间长BW生产数据库服务器1230GC:100G,D:1800G,D:400G数据查询等待时间长EP生产服务器1230GC:100G,D:1800G,D:400G数据查询等待时间长由上表中我们可以看到几乎每一台服务
16、器都有不同程度的性能问题，但光看配置感觉在CPU和内存上并没有太大问题，所以我们的做法是在项目启动之后，将会派遣资深的SAP BASIS顾问对于相关系统的内存使用率、CPU使用情况、服务器资源分配是否合理等等情况进行评估，找准产生性能问题的原因之后，我们再进行相关的BW软硬件配置调整。2.1.4. 未来建设目标第一阶段目标：1. 数据获取：将所有源系统数据通过ETL工具和BW数据抽取汇总到数据仓库；搭建智慧采集平台以录入的方式对业务系统中无法抽取的指标数据进行统一上报，使其汇总到数据仓库的接口表中存放（重大任务、重点工作的进度、数据调整也将通过智慧采集平台来调整并保存到数据仓库之中）。2. 指
17、标管理：进行指标管理系统的初步建设，该系统主要功能为设置指标阀值、指标权重、指标字典、梳理指标归口关系，是一个管理维护整个指标体系的强大系统；由于涉及的功能较为复杂，我们会逐步完善充实该系统，本期的目标是该系统的初步建设，主要开发指标阀值、指标权重维护功能。3. 指标展现：我们在XX智慧决策平台上实现多个事业部和产业板块的绩效数据汇总和BSC指标展现，同时还包括财务、运营、人事等方面的主题分析，主要内容为各类日常使用报表、管理驾驶舱以及绩效考核重大任务。阶段性成果：这一阶段的工作重点是XX智慧采集平台、XX智慧决策平台的建立以及这两个平台同南车时代电气原有的企业级数据仓库、报表平台相整合，同时
18、做好数据仓库的数据梳理工作。当第一阶段顺利完成之后，将会形成一套完整的绩效管理系统和面向事业部及集团的BI系统，届时所有相关绩效考核的数据都可以顺利的进入数据仓库中，并进行正确的合并汇总。同时，对集团和事业部BI用户实现严格的权限划分，使不同管辖权限的用户看到不同的数据，为今后系统建设及扩展打下坚实基础。第二阶段目标：1. 深化主题：对一期已经开发的主题分析、绩效指标进行更深入分析和展现，指标的监控及考核从一期的二级对象深入到三级对象中，各个BCS战略层面的进一步深化。2. 提升指标管理：完善指标管理系统的功能，在第二阶段中指标字典、指标归口关系设定等功能将陆续开发，最终使得整个指标管理平台可
19、以完全满足整个系统指标管理维护的需要，使得未来的开发维护成本大大降低。3. 完善BI平台建设：将一期已经得到的成果结合平衡计分卡的理念，将企业四个维度（财务成果、内部管理、市场与客户、学习与发展）的关键指标进行多角度探索分析；同时从一期的指标展现提升为数据分析，多维分析、预测分析等商务智能的王牌分析全面展开，为高层决策层与知识型管理者提供科学的决策依据。阶段性成果：在这一阶段中，主要是对一期已经建设完成的较为全面的绩效管理系统的全面深化，包括预测分析、多维分析、各个主题分析的深入和系统功能的完善。在第一阶段，我们看到的是绩效指标的展现、监控，现在我们将可以根据更全面的数据定义各个单位个性化的指
20、标，领导可以从指标的分析、预测，深入了解到每一个环节的问题，了解问题的原因，从好更好的帮助管理层了解如何让企业运作的更好。考虑到未来可能有的系统扩展和SAP ERP故障，XX智慧采集平台依旧在整个架构中扮演重要的角色，但是手工上报数据和自动上报数据将通过数据标签严格区分，以便事业部和集团清楚数据来源。第三阶段：随着数据仓库中越来越丰富的数据，南车电气已经完全具备了大数据分析的能力，此时可以引入先进的数据分析软件（如SAS）等为集团BI系统进行更多的挖掘和分析，届时将实现一些高级别数据分析的需求和结果。例如，我们可以从风机运行时各部件传感器传回的大量秒级数据之中分析得到为什么这个型号的风机故障率
21、会高？故障主要集中在哪几个点？当出现怎么样的数据参数波动时，风机的哪个部件有可能将会出问题？从而做到设备的故障预测，减少设备的非计划性停机维护，增加客户的经济效益，提升客户的满意度。同时，随着技术的发展和实时数据及性能的需求，可以把原先的数据仓库替换成HANA产品，HANA强大的数据处理能力和系统实时性数据的展现可以通过关键指标体系，展示企业实时的运营状态，将采集到的数据形象化、直观化、具体化、时效化。让管理层随时可以观察到企业的运转状态，即使得到分析预测结果来辅助自己的决策，为战略层和管理层提供“一站式”的决策支持。在这个阶段中，我们要更强化BI系统数据仓库架构，通过从业务系统抽取更多的明细
22、数据以使集团BI系统可以分析到凭证级粒度，在这个基础之上我们可以为各个产业板块开发定制化的DataMart。这一阶段工作重点将会是如何做好HANA平台的替换以及如何运用数据分析软件做到BI系统的全面预测、深入的数据分析及多元化的报表展现。最终成果：南车时代电气BI系统通过整合各个事业部、分子公司、产业板块业务数据，将集团各层级管理人员关心的业务指标以驾驶舱、分析报表等形式通过XX智慧决策平台的个性化展现， BI战略管理层通过这个平台可以一目了然地看清企业全貌和业务全貌，让企业管理者从各个方面多个个维度来了解自己的企业，为集团层面、事业部层面和分子公司管理层提供高效数据分析和决策支持。与此同时，
23、通过大数据、数据分析等应用，逐步形成针对各产业板块的个性化的数据挖掘、数据预测，以提高对市场的洞察力、提升客户满意度、促进技术创新，最终达成提升企业市场竞争力，为企业创造更多的经济效益和社会效益。2.2. 南车时代电气数据仓库平台建设2.2.1. 数据仓库建设原则数据仓库系统的建设不是一蹴而就的，是一个渐进和长期的过程，所以，XX公司在南车电气数据仓库建设项目方案规划过程中，始终贯穿了下列原则： 先进性：采用业界领先的管理思想和技术手段构建数据仓库，保证信息化体系结构和数据仓库解决方案在业界处于领先地位； 开放性：数据仓库系统模型采用国际统一标准进行建模，集成SAP ECC各模块数据，这些数据
24、可供管理人员共同使用，支持多种数据源和第三方的分析与报告工具，支持数据的抽取和数据的分析，如能够提供对各种数据业务含义进行解释和方便的查询，为开发人员提供高效的外部接口。 灵活性：数据仓库系统的模型需要能够依业务变化而调整，南车电气数据仓库系统从不同的角度对整个南车电气的生产情况和销售情况进行多维度、多角度、多指标的不同层次的分析，这样就确保了随着业务的发展，可以很方便的在此基础上扩充更多的应用、主题，用户能够灵活地根据实际需要定制不同层次的分析。 持续性：数据仓库系统提供了一个完善的数据平台，保存了大量的历史数据，具备极佳的扩展性，可以为今后可能出现的管理、决策支持系统提供数据支持。 容灾性
25、：数据仓库系统的3个重要元件，包括ODS、EDW、DM的系统平台架设于不同的数据库实例，此种设计确保系统因单个系统发生灾害时，减少系统恢复的时间，降低相应的损失。2.2.2. 数据仓库规范体系设计2.2.2.1 数据仓库目标分析数据的存储和管理是企业级数据仓库的核心内容之一，企业级数据仓库存储详细数据及必要的汇总数据,支持整个企业的业务分析和决策。现有业务系统的数据被抽取、清理，并有效地集成到数据仓库中，并按照主题进行重新组织。数据仓库设计时应全面考虑，实施时可以先按照需求的轻重缓急选择部分业务主题，然后逐步扩展到涵盖全部业务。数据仓库管理的数据包含了集成之后的多年历史数据，数据量是巨大的。数
26、据应被合理的规划、组织、存储，分片和索引，保证数据的管理和使用的高效性。按照企业建立数据“唯一事实”的要求，数据仓库应为各级业务人员提供一致的信息视图。因而，整个企业应共享统一的数据存储模型。与这样的要求相匹配，企业数据仓库采用满足第三范式的规范化建模。规范化建模是一个剔除冗余并应用业务规则的过程，它的目的是为了更好的理解和表达存在于数据元素之间的依赖性和参与性。规范化的关系型数据通常能够给出精确和无歧异的回答。规范化建模的目的是建立企业级数据仓库的逻辑数据模型。逻辑数据模型是把业务需求，特别是对数据的需求，用规范化的ER模型和文字进行描述。它反映的是业务逻辑，因此它是数据库中立、技术无关的；
27、同时，它应能涵盖业务需求的各方面，回答有关业务的所有合理问题。逻辑数据模型标识出业务管理领域中涉及的主题、实体、属性，及它们之间的关系。主题集中反映某方面业务内容，通常是同类或关联关系较为紧密的实体的集合。实体是任何可以区分的人、地点、事情、事件或概念，信息围绕它来保存。属性是实体的特性或数据字段。对数据仓库需求进行分解，按业务主题进行组织，将业务主题相关的数据组织成主题域，并对各指标进行分析。数据仓库目标分析后形成数据仓库目标说明书，其中详细说明包含的业务主题、业务主题域等内容。数据模型是数据仓库系统的关键部分，开发数据模型除了要描述企业现有的业务数据架构，还要满足企业未来业务扩展的需要，通
28、过整体数据架构的搭建可以实现以下三个目标： 数据整合，建立业务数据构架，找出业务项目的相互关系，描绘企业的各个业务项目在现实中是如何被组合在一起的，创建出企业业务的整体性视图，基于业务数据架构创建企业数据模型，能够较好地保证数据模型的稳定性和有效性。 理解业务，不同部门用户对数据有着不同的理解，作为企业级的决策支持系统必须通过一定的手段把这些不一致的理解定义出来，支持性元数据的使用就是解决这一问题的主要手段。 数据分析，业务上经常遇到同一指标在不同报表里得到的值不一致，有些不一致是为人所知的，有些不一致却没有人清楚，通过对数据的分析和了解，使不一致变得明显而可操作，是数据模型建立的主要目标之一
29、。通过元数据的使用，记录数据的加工规则及使用环境，可以让使用者清楚地知道差异的原因，从而正确使用这些数据。控制好建模范围和周期将直接关系到项目的进展，最好的方法是利用已有的各类业务需求、报表需求及查询需求，借助建模人员本身的业务经验及与各部门业务人员的沟通，将获得的需求片断有机地组织成一个完整的目标区域，在区域范围内开展建模工作。2.2.2.2 数据仓库逻辑模型数据仓库逻辑模型设计要进行的工作主要有： 分析主题域，确定当前要装载的主题； 确定粒度层次划分； 确定数据分割策略； 关系模式定义； 记录系统定义。逻辑模型设计的成果是，对每个当前要装载的主题的逻辑实现进行定义，并将相关内容记录在数据仓
30、库的元数据中，包括： （1） 适当的粒度划分；（2） 合理的数据分割策略；（3） 适当的表划分；（4） 定义合适的数据来源等。 2.2.2.3 数据仓库物理模型数据仓库物理模型所做的工作是确定数据的存储结构，确定索引策略，确定数据存放位置，确定存储分配。确定数据仓库实现的物理模型，要求设计人员必须做到以下几方面： 要全面了解所选用的数据库管理系统，特别是存储结构和存取方法。 了解数据环境、数据的使用频度、使用方式、数据规模以及响应时间要求等，这些是对时间和空间效率进行平衡和优化的重要依据。 了解外部存储设备的特性，如分块原则，块大小的规定，设备的I/O特性等。2.2.3. BW数据仓库结构定义
31、2.2.3.1 数据抽取层 数据抽取层是面向业务主题划分的一组数据模型，用于从每个源系统中抽取必需的数据。该层数据对接BW底层与其他业务系统数据，同时仅对该层数据进行基本的清理，以保留业务系统原始数据。 BW系统使用信息包完成对业务源系统的抽取工作，主要抽取SAP ECC、PLM、报价系统、预算系统等核心系统以及外部文本的数据，根据的具体情况，可以将各业务系统数据源信息包分为以下几类： 系统历史交易数据初始化信息包； 系统增量交易数据抽取信息包； 系统全量交易数据抽取信息包。为了将数据从各源系统顺利抽取至BW系统，需要进行以下工作： 配置BW与各源系统的接口连接； 复制各业务源系统的数据源； 创建各数据源的初始化、全量、增量信息包； SAP ECC系统LO数据源的初始化，删除，填充设置表； 执行信息包，装载数据至PSA； 创建信息包到数据抽取层DSO转换及DTP； 将数据从PSA加载至数据抽取层DSO。2.2.3.2 数据逻辑层数据合并层是面向客户业务操作将抽取层数据进行初步的清洗和整理
