1、数据仓库与数据挖掘第一章1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合。2、元数据是描述数据仓库内数据的结构和建立方法的数据，它为访问数据仓库提供了一个信息目录，根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。3、数据处理通常分成两大类：联机事务处理和联机分析处理。4、多维分析是指以“维”形式组织起来的数据（多维数据集）采取切片、切块、钻取和旋转等各种分析动作，以求剖析数据，使拥护能从不同角度、不同侧面观察数据仓库中的数据，从而深入理解多维数据集中的信息。5、ROLAP是基于关系数据库的OLAP实现，而MOLAP是基于多维数据结构组织的OLAP
2、实现。 OLAP技术的有关概念 ：多维数据集、维度、度量值和多维分析； OLAP根据其存储数据的方式可分为三类：ROLAP、MOLAP、HOLAP 6、数据仓库按照其开发过程，其关键环节包括数据抽取、数据存储与管理和数据表现等。7、数据仓库系统的体系结构根据应用需求的不同，可以分为以下4种类型：两层架构、独立型数据集合、以来型数据结合和操作型数据存储和逻辑型数据集中和实时数据仓库。8、操作型数据存储实际上是一个集成的、面向主题的、可更新的、当前值的（但是可“挥发”的）、企业级的、详细的数据库，也叫运营数据存储。9、“实时数据仓库”以为着源数据系统、决策支持服务和仓库仓库之间以一个接近实时的速度
3、交换数据和业务规则。10、从应用的角度看，数据仓库的发展演变可以归纳为5个阶段：以报表为主；以分析为主；以预测模型为主；以运营导向为主；以实时数据仓库、自动决策为主。11、什么是数据仓库？数据仓库的特点主要有哪些？数据仓库通常是指一个数据库环境，而不是支一件产品，它是提供用户用于决策支持的当前和历史数据，这些数据在传统的数据库中通常不方便得到。数据仓库就是一个面向主题的（Subject Oriented）、集成的（Integrate）、相对稳定的（Non-Volatile）、反映历史变化（Time Variant）的数据集合，通常用于辅助决策支持。数据仓库的特点包含以下几个方面：（1）面向主题
4、。操作型数据库的数据组织是面向事务处理任务，各个业务系统之间各自分离；而数据仓库中的数据是按照一定的主题域进行组织。（2）集成的。面向事务处理的操作型数据库通常与某些特定的应用相关，数据库之间相互独立，并且往往是异构的。也就是说存放在数据仓库中的数据应使用一致的命名规则、格式、编码结构和相关特性来定义。（3）相对稳定的。操作型数据库中的数据通常实时更新，数据根据需要及时发生变化。数据仓库的数据主要供单位决策分析之用，对所涉及的数据操作主要是数据查询和加载，一旦某个数据加载到数据仓库以后，一般情况下将作为数据档案长期保存，几乎不再做修改和删除操作，也就是说针对数据仓库，通常有大量的查询操作及少量
5、定期的加载（或刷新）操作。（4）反映历史变化。操作型数据库（OLTP）主要关心当前某一个时间段内的数据，而数据仓库中的数据通常包含较久远的历史数据，因此总是包括一个时间维，以便可以研究趋势和变化。数据仓库系统通常记录了一个单位从过去某一时点(如开始启用数据仓库系统的时点)到目前的所有时期的信息，通过这些信息，可以对单位的发展历程和未来趋势做出定量分析和预测。12、数据挖掘的概念数据挖掘，就是从大量数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程，简单的说，数据挖掘就是从大量数据中提取或“挖掘”知识，又被称为数据库中的知识发现。 数据挖掘的方法：直接数据挖掘、间接数据挖掘。13
6、、数据仓库与数据挖掘的关系若将数据仓库比作矿井，那么数据挖掘就是深入矿井采矿的工作；数据挖掘是从数据仓库中找出有用信息的一种过程与技术。14、数据仓库系统的体系结构的分类（1）两层架构（Generic Two-Level Architecture）。（2）独立型数据集市（Independent Data Mart）。（3）依赖型数据集市和操作型数据存储（Dependent Data Mart and Operational Data Store）。（4）逻辑型数据集市和实时数据仓库（Logical Data Mart and Real-Time Data Warehouse）。15、数据仓库的
7、未来（1）在数据抽取方面，未来的技术发展将集中在系统集成化方面。它将互连、转换、复制、调度、监控纳入标准化的统一管理，以适应数据仓库本身或数据源可能的变化，使系统更便于管理和维护。（2）在数据管理方面，未来的发展将使数据库厂商明确推出数据仓库引擎，作为数据仓库服务器产品与数据库服务器并驾齐驱。在这一方面，带有决策支持扩展的并行关系数据库将最具发展潜力。（3）在数据表现方面，数理统计的算法和功能将普遍集成到联机分析产品中，并与Internet/Web技术紧密结合。按行业应用特征细化的数据仓库用户前端软件将成为产品作为数据仓库解决方案的一部分。数据仓库实现过程的方法论将更加普及，将成为数据库设计的
8、一个明确分支，成为管理信息系统设计的必备 16、请列出3种数据仓库产品，并说明其优缺点。（1）IBM 公司提供了一套基于可视化数据仓库的商业智能（BI）解决方案，包括：Visual Warehouse（VW），Essbase/DB2 OLAP Server 5.0、IBM DB2 UDB，以及来自第三方的前端数据展现工具（如BO）和数据挖掘工具（如SAS）。其中，VW 是一个功能很强的集成环境，既可用于数据仓库建模和元数据管理，又可用于数据抽取、转换、装载和调度。Essbase/DB2 OLAP Server 支持“维”的定义和数据装载。Essbase/DB2 OLAP Server 不是RO
9、LAP（Relational OLAP）服务器，而是一个（ROLAP 和MOLAP）混合的HOLAP 服务器，在Essbase 完成数据装载后，数据存放在系统指定的DB2 UDB 数据库中。它的前端数据展现工具可以选择Business Objects 的BO、Lotus 的Approach、Cognos 的Impromptu 或IBM 的Query Management Facility；多维分析工具支持Arbor Software 的Essbase 和IBM（与Arbor 联合开发）的DB2 OLAP 服务器；统计分析工具采用SAS 系统。（2）Oracle 数据仓库解决方案主要包括Orac
10、le Express 和Oracle Discoverer 两个部分。Oracle Express 由四个工具组成：Oracle Express Server 是一个MOLAP(多维OLAP)服务器，它利用多维模型，存储和管理多维数据库或多维高速缓存，同时也能够访问多种关系数据库；Oracle Express Web Agent 通过CGI 或Web 插件支持基于Web 的动态多维数据展现；Oracle Express Objects 前端数据分析工具（目前仅支持Windows 平台）提供了图形化建模和假设分析功能，支持可视化开发和事件驱动编程技术，提供了兼容Visual Basic 语法的语
11、言，支持OCX 和OLE；Oracle Express Analyzer 是通用的、面向最终用户的报告和分析工具（目前仅支持Windows 平台）。Oracle Discoverer 即席查询工具是专门为最终用户设计的，分为最终用户版和管理员版。在Oracle 数据仓库解决方案的实施过程中，通常把汇总数据存储在Express 多维数据库中，而将详细数据存储在Oracle 关系数据库中，当需要详细数据时，Express Server 通过构造SQL 语句访问关系数据库。（3）Microsoft 将OLAP 功能集成到SQL Server 数据库中，其解决方案包括BI 平台、BI 终端工具、BI
12、门户和BI 应用四个部分，如图1.1。 BI 平台是BI 解决方案的基础， 包括ETL 平台SQL Server 2005 Integration Service(SSIS)、数据仓库引擎SQL Server 2005 RDBMS 以及多维分析和数据挖掘引擎SQL Server 2005 Analysis Service、报表管理引擎SQL Server 2005 Reporting Service。 BI 终端用户工具，用户通过终端用户工具和Analysis Service 中的OLAP 服务和数据挖掘服务进行交互来使用多维数据集和数据挖掘模型，终端用户通常可使用预定义报表、交互式多维分析、
13、即席查询、数据可视化、数据挖掘等多种方法。 BI 门户提供了各种不同用户访问BI 信息的统一入口。BI 门户是一个数据的汇集地，集成了来自不同系统的相关信息。用户可以制定个性化的个人门户，选择和自己相关性最强的数据，提高信息访问和使用的效率。 BI 应用是建立在BI 平台、BI 终端用户工具和BI 统一门户这些公共技术手段之上的满足某个特定业务需求的应用，例如零售业务分析、企业项目管理组合分析等17、数据仓库的组成？P2（1）数据仓库数据库（2）数据抽取工具（3）元数据：技术元数据与业务元数据（4）访问工具（5）数据集市（6）数据仓库管理（7）信息发布系统18、数据仓库的产生联机事务处理系统（
14、业务系统）刚上线时，查询不到数据是因为数据太少了，而几十年后查询不到有关数据是因为数据太多了。针对这一问题，人们设想专门为业务数据的统计分析建立一个数据中心，它的数据从联机事务处理系统中来、从异构的外部数据源来、或从脱机的历史业务数据中来，这个数据中心也是一个联机系统，它专门为分析统计和决策支持应用服务，通过它可获取决策支持和联机分析应用所需要的一切数据。这个数据中心就叫做数据仓库。简单地说，数据仓库就是一个作为决策支持和联机分析应用系统数据源的结构化数据环境，数据仓库要研究和解决的问题就是从数据库中获取信息的问题。 第二章1、调和数据是存储在企业级数据仓库和操作型数据存储中的数据。2、抽取、
15、转换、加载过程的目的是为决策支持应用提供一个单一的、权威数据源。因此，我们要求ETL过程产生的数据（即调和数据层）是详细的、历史的、规范的、可理解的、即时的和质量可控制的。3、数据抽取的两个常见类型是静态抽取和增量抽取。静态抽取用于最初填充数据仓库，增量抽取用于进行数据仓库的维护。4、粒度是对数据仓库中数据的综合程度高低的一个衡量。粒度越小，细节程度越高，综合程度越低，回答查询的种类越多。5、使用星型模式可以从一定程度上提高查询效率。因为星型模式中数据的组织已经经过预处理，主要数据都在庞大的事实表中。6、维度表一般又主键、分类层次和描述属性组成。对于主键可以选择两种方式：自然键，代理键。7、雪
16、花型模式是对星型模式维表的进一步层次化和规范化来消除冗余的数据。8、数据仓库中存在不同综合级别的数据。一般把数据分成4个级别：早期细节级、当前细节级、轻度综合级和高度综合级。9、数据仓库的数据特征 （1）状态数据与事件数据 前者描述对象的状态，后者描述对象发生的事件； （前象）状态数据事件数据(后象)状态数据（2）当前数据与周期数据 当前数据只保留最新数据，现存的最新记录将改变以前中的数据。周期数据则相反，一旦保存物理上就不在改变或删除数据。通常每个周期数据记录都会包含一个时间戳来只是日期甚至时间。（3）数据仓库中的元数据分技术元数据和业务元数据。技术元数据是描述关于数据仓库技术细节的数据，包
17、括：数据仓库结构的描述，业务系统、数据仓库和数据集市的体系结构和模式，汇总算法，操作性业务环境导数据仓库环境的映射等。10、业务元数据是从业务角度描述数据仓库中的数据，提供了使用者和系统的语义层，使非专业人员能“读懂”仓库中的数据。包括：（1）使用者的业务属于所表达的数据类型、对象名和属性名；（2）访问数据的原则和数据的来源；（3）系统所提供的分析方法及公式和报表的信息。简言之，元数据是数据仓库的帮助和导航图11、什么是数据仓库的3层数据结构？数据是从企业内外部的各业务处理系统（操作型数据）流向企业级数据仓库或操作型数据存储区，在这个过程中，要根据企业（或其他组织）的数据模型和元数据库对数据进
18、行调和处理，形成一个中间数据层，然后再根据分析需求，从调和数据层将数据引入导出数据层，如形成满足各类分析需求的数据集市。12、什么是数据仓库的数据ETL过程？数据的ETL 过程就是负责将操作型数据转换成调和数据的过程。这两种数据具有明显的区别，因此，数据调和是构建一个数据仓库中最难的和最具技术挑战性的部分。在为企业级数据仓库填充数据的过程中，数据调和可分为两个阶段：一是企业级数据仓库（EDW）首次创建时的原始加载；二是接下来的定期修改，以保持EDW 的当前有效性和扩展性。整个过程由四个步骤组成：抽取、清洗、转换、加载和索引。事实上，这些步骤可以进行不同的组合，如，可以将数据抽取与清洗组合为一个
19、过程，或者将清洗和转换组合在一起。通常，在清洗过程中发现的拒绝数据信息会送回到源操作型业务系统中，然后将数据在源系统中加以处理，以便在以后重新抽取。【简单概念：数据ETL是用来实现异构数据源的数据集成，即完成数据的抓取/抽取（Capture/Extract）、清洗（Scrub or data cleansing）、转换（Transform）、装载与索引（Load and Index）等数据调和工作 】13、什么是星型模式？它的特征是什么？在星模式中，事实表居中，多个维表呈辐射状分布于其四周，并与事实表连接。位于星形中心的实体是事实表，是用户最关心的基本实体和查询活动的中心，为数据仓库的查询活动
20、提供定量数据。位于星模式四周的实体是维度实体，其作用是限制和过滤用户的查询结果，缩小访问范围。每个维表都有自己的属性，维表和事实表通过关键字相关联。14、为什么时间总是数据仓库或数据集市的维？因为数据仓库或数据集市的数据总是历史的数据，需要时间维来区别。15、数据ETL过程的实施要点 ETL过程是一个数据流动的过程，中间的“T”（转换）是关键 ； ETL工具的选择非常重要，运用合适的工具会事半功倍 ； 如何保证数据质量？数据质量在一定程度上决定了数据仓库的价值 。16、 多维数据模型及其相关概念 （1）有关多维数据模型的几个概念：维、维类别、维属性、度量、粒度及分割等 （2）关于数据综合级别与
21、粒度的确定:一般把数据分成四个级别：早期细节级、当前细节级、轻度综合级、高度综合级 17、多维数据模型的物理实现 多维数据库（MDDB）,其数据是存储在大量的多维数组中，而不是关系表中 ,与之相对应的是多维联机分析处理（MOLAP） 关系数据库是存储OLAP数据的另一种主要方式。与之对应的是关系联机分析处理（ROLAP） 第三章1、SQL Server SSAS提供了所有业务数据的同意整合试图，可以作为传统报表、在线分析处理、关键性能指示器记分卡和数据挖掘的基础。2、数据仓库的概念模型通常采用信息包图法来进行设计，要求将其5个组成部分（包括名称、维度、类别、层次和度量）全面地描述出来。3、数据
22、仓库的逻辑模型通常采用星型图法来进行设计，要求将星型的各类逻辑实体完整地描述出来。4、按照事实表中度量的可加性情况，可以把事实表对应的事实分为4种类型：事务事实、快照事实、线性项目事实和事件事实。5、确定了数据仓库的粒度模型以后，为提高数据仓库的使用性能，还需要根据拥护需求设计聚合模型。6、在项目实施时，根据事实表的特点和拥护的查询需求，可以选用时间、业务类型、区域和下属组织等多种数据分割类型。7、当维表中的主键在事实表中没有与外键关联时，这样的维称为退化维。它于事实表并无关系，但有时在查询限制条件（如订单号码、出货单编号等）中需要用到。8、维度可以根据其变化快慢分为元变化维度、缓慢变化维度和
23、剧烈变化维度三类。9、数据仓库的数据量通常较大，且数据一般很少更新，可以通过设计和优化索引结构来提高数据存取性能。10、数据仓库数据库常见的存储优化方法包括表的归并与簇文件、反向规范化引入冗余、表的物理分割（分区）。11、什么是信息包图法？它为什么适用于数据仓库的概念模型的设计？信息包图法，也叫用户信息需求表，就是在一张平面表格上描述元素的多维性，其中的每一个维度用平面表格的一列表示，通常的维度如时间、地点、产品和顾客等；而细化本列的对象就是类别，例如时间维度的类别可以细化到年、月、日，甚至小时；平面表格的最后一行（代表超立方体中的单元格）即为指标度量值，例如，某年在某销售点的某类产品的实际销
24、售额。创建信息包图时需要确定最高层和最低层的信息需求，以便最终设计出包含各个层次需要的数据仓库。总之，信息包图法是一种自上而下的数据建模方法，即从用户的观点开始设计（用户的观点是通过与用户交流得到的），站在管理者的角度把焦点集中在企业的一个或几个主题上，着重分析主题所涉及数据的多维特性，这种自上而下的方法几乎考虑了所有的信息源，以及这些信息源影响业务活动的方式。12、简述数据仓库系统设计过程？收集、分析和确认业务分析需求，分析和理解主题和元数据、事实及其量度、粒度和维度的选择与设计、数据仓库的物理存储方式的设计等。书p4913、一个数据仓库系统的建立通畅需要经过哪些步骤？（1）收集和分析业务需
25、求；（2）建立数据模型和数据仓库的物理设计；（3）定义数据源；（4）选择数据仓库技术和平台；（5）从操作型数据库中抽取、清洗及转换数据到数据仓库；（6）选择访问和报表工具，选择数据库连接软件，选择数据分析和数据展示软件；（7）更新数据仓库。14、建立一个数据仓库系统的参考步骤（1）收集和分析业务需求步骤 （2）建立数据模型和数据仓库的物理设计 （3）定义数据源 （4）选择数据仓库技术和平台 （5）从操作型数据库中抽取、清洗及转换数据到数据仓库 （6）选择访问和报表工具，选择数据库连接软件，选择数据分析和数据展示软件 （7）更新数据仓库 15、创建数据仓库系统的两种思维模式 自顶向下（Top-d
26、own）OLTP数据通过ETL进入DW，再复制推进各个数据集市； 自底向上（Bottom-Up）OLTP数据通过ETL进入数据集市，再复制提升到DW； 16、数据仓库数据库的设计过程我们以SQL server 2005自带的示例数据库Adventure Works（OLTP数据库，DW的数据来源）和Adventure Works DW，其设计过程如下：（1）分析组织的业务状况及数据源结构 （2）组织需求调研，收集业务需求 （3）采用信息包图法进行数据仓库的概念模型设计 （4）利用星形图进行数据仓库的逻辑模型设计 （5）数据仓库的物理模型设计 17、利用星形图进行数据仓库的逻辑模型设计 (p50
27、-71)（1）根据分析需求与信息包图制作星形图或雪花图 （2）确定主题的属性组 （3）事实表及其特征、事实表的类型与设计 （4）粒度的选择与设计步骤 （5）关于数据仓库的聚合模型与数据的分割处理 （6）星形图中的维度表简介 （7）常用维度的设计模式 18、使用SQL Server 2005建立多维数据模型(1)创建一个新的数据仓库分析项目 (2)定义数据源 (3)定义数据源视图 (4)定义多维数据集 (5)部署“销售分析示例”项目 (6)浏览已部署的多维数据集 (7)提高多维数据集的可用性和易用性 第四章1、关联规则的经典算法包括Apriori算法和FP-growth算法,其中FP-grown
28、th算法的效率更高。2、如果L2=a,b,a,c,a,d,b,c,b,d,则连接产生的C3=a,b,c,a,b,d,a,c,d,b,c,d 再经过修剪，C3=a,b,c,a,b,d3、设定supmin=50%,交易集如则L1=A，B，C L2=A,CT1 A B CT2 A CT3 A D T4 B E F4、什么是关联规则？关联规则的应用有哪些？关联规则挖掘最初由R.Agrawal 等人提出，用来发现超级市场中用户购买的商品之间的隐含关联关系，并用规则的形式表示出来，称为关联规则(Association Rule)。关联规则除了可以发现超市购物中隐含的关联关系之外，还可以应用于其他很多领域。
29、关联规则的应用还包括文本挖掘、商品广告邮寄分析、网络故障分析等。5、关联规则的分类有哪些？关联规则挖掘的步骤包括什么？关联规则的分类：（1）基于规则中涉及到的数据的维数，关联规则可以分为单维的和多维的。（2）基于规则中数据的抽象层次，可以分为单层关联规则和多层关联规则。（3）基于规则中处理的变量的类型不同，关联规则可以分为布尔型和数值型。关联规则挖掘的步骤：创建 Analysis Services 项目；创建数据源；创建数据源视图；创建关联挖掘结构 ；建立好挖掘模型后，需要设置关联规则挖掘的参数 ；建立关联规则挖掘模型 ；查看挖掘结果 6、Apriori算法 书p93-94第五章1、分类的过程
30、包括获取数据、预处理、分类器设计和分类决策。2、分类器设计阶段包含三个过程：划分数据集、分类器构造和分类器测试。3、分类问题中常用的评价准则有精确度、查全率和查准率和集合均值。4、支持向量机中常用的核函数有多项式核函数、径向基核函数和S型核函数。5、分类的定义：分类是指把数据样本映射到一个事先定义的类中的学习过程，即给定一组输入的属性向量及其对应的类，用基于归纳的学习算法得出分类6、分类的应用领域有哪些？分类问题是数据挖掘领域中研究和应用最为广泛的技术之一，许多分类算法被包含在统计分析工具的软件包中，作为专门的分类工具来使用。分类问题在商业、银行业、医疗诊断、生物学、文本挖掘、因特网筛选等领域
31、都有广泛应用。例如，在银行业中，分类方法可以辅助工作人员将正常信用卡用户和欺诈信用卡用户进行分类，从而采取有效措施减小银行的损失；在医疗诊断中，分类方法可以帮助医疗人员将正常细胞和癌变细胞进行分类，从而及时制定救治方案，挽救病人的生命；在因特网筛选中，分类方法可以协助网络工作人员将正常邮件和垃圾邮件进行分类，从而制定有效的垃圾邮件过滤机制，防止垃圾邮件干扰人们的正常生活。7、分类问题使用的数据集格式（1）描述属性可以是连续型属性，也可以是离散型属性；而类别属性必须是离散型属性。 （2）连续型属性是指在某一个区间或者无穷区间内该属性的取值是连续的 ，例如属性“Age” （3）离散型属性是指该属性
32、的取值是不连续的 ，例如属性“Salary”和“Class” 8、分类的过程（1）获取数据：输入数据、对数据进行量化（2）预处理：去除噪声数据、对空缺值进行处理；数据集成或者变换 （3）分类器设计：划分数据集、分类器构造、分类器测试（4）分类决策：对未知类标号的数据样本进行分类9、决策树的优点：进行分类器设计时，决策树分类方法所需时间相对较少；决策树的分类模型是树状结构，简单直观，比较符合人类的理解方式；可以将决策树中到达每个叶节点的路径转换为IFTHEN形式的分类规则，这种形式更有利于理解10、 决策树的基本概念：适用于离散值属性、连续值属性；采用自顶向下的递归方式产生一个类似于流程图的树结构；在根节点和各内部节点上选择合适的描述属性，并且根据该属性的不同取值向下建立分枝 11、决策树剪枝：
