数据仓库与数据挖掘期末综合复习1
数据仓库与数据挖掘期末综合复习
第一章
1、数据仓库就是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合。
2、元数据是描述数据仓库内数据的结构和建立方法的数据，它为访问数据仓库提供了一个信息目录，根据数据用途的不同可将数据仓库的元数据分为技术元数据和业务元数据两类。
3、数据处理通常分成两大类：联机事务处理和联机分析处理。
4、多维分析是指以“维”形式组织起来的数据（多维数据集）采取切片、切块、钻取和旋转等各种分析动作，以求剖析数据，使拥护能从不同角度、不同侧面观察数据仓库中的数据，从而深入理解多维数据集中的信息。
5、ROLAP是基于关系数据库的OLAP实现，而MOLAP是基于多维数据结构组织的OLAP实现。OLAP技术的有关概念：
OLAP根据其存储数据的方式可分为三类：ROLAP、MOLAP、HOLAP
6、数据仓库按照其开发过程，其关键环节包括数据抽取、数据存储与管理和数据表现等。
7、数据仓库系统的体系结构根据应用需求的不同，可以分为以下4种类型：两层架构、独立型数据集合、以来型数据结合和操作型数据存储和逻辑型数据集中和实时数据仓库。
8、操作型数据存储实际上是一个集成的、面向主题的、可更新的、当前值的（但是可“挥发”的）、企业级的、详细的数据库，也叫运营数据存储。
9、“实时数据仓库”以为着源数据系统、决策支持服务和仓库仓库之间以一个接近实时的速度交换数据和业务规则。
10、从应用的角度看，数据仓库的发展演变可以归纳为5个阶段：以报表为主、以分析为主、以预测模型为主、以运营导向为主和以实时数据仓库和自动决策为主。
11、什么是数据仓库？数据仓库的特点主要有哪些？
数据仓库通常是指一个数据库环境，而不是支一件产品，它是提供用户用于决策支持的当前和历史数据，这些数据在传统的数据库中通常不方便得到。数据仓库就是一个面向主题的（Subject Oriented）、集成的（Integrate）、相对稳定的（Non-Volatile）、反映历史变化（Time Variant）的数据集合，通常用于辅助决策支持。
数据仓库的特点包含以下几个方面：
（1）面向主题。操作型数据库的数据组织是面向事务处理任务，各个业务系统之间各自分离；而数据仓库中的数据是按照一定的主题域进行组织。
（2）集成的。面向事务处理的操作型数据库通常与某些特定的应用相关，数据库之间相互独立，并且往往是异构的。也就是说存放在数据仓库中的数据应使用一致的命名规则、格式、编码结构和相关特性来定义。
（3）相对稳定的。操作型数据库中的数据通常实时更新，数据根据需要及时发生变化。数据仓库的数据主要供单位决策分析之用，对所涉及的数据操作主要是数据查询和加载，一旦某个数据加载到数据仓库以后，一般情况下将作为数据档案长期保存，几乎不再做修改和删除操作，也就是说针对数据仓库，通常有大量的查询操作及少量定期的加载（或刷新）操作。（4）反映历史变化。操作型数据库（OLTP）主要关心当前某一个时间段内的数据，而数据仓库中的数据通常包含较久远的历史数据，因此总是包括一个时间维，以便可以研究趋势和变化。数据仓库系统通常记录了一个单位从过去某一时点(如开始启用数据仓库系统的时点)到目前的所有时期的信息，通过这些信息，可以对单位的发展历程和未来趋势做出定量分析和预测。
12、数据挖掘的概念
数据挖掘，就是从大量数据中获取有效的、新颖的、潜在有用的、最终可理解的模式的非平凡过程，简单的说，数据挖掘就是从大量数据中提取或“挖掘”知识，又被称为数据库中的知识发现。数据挖掘的方法：直接数据挖掘、间接数据挖掘。
13、数据仓库与数据挖掘的关系
若将数据仓库比作矿井，那么数据挖掘就是深入矿井采矿的工作；数据挖掘是从数据仓库中找出有用信息的一种过程与技术。
14、数据仓库系统的体系结构的分类
（1）两层架构（Generic Two-Level Architecture）。
（2）独立型数据集市（Independent Data Mart）。
（3）依赖型数据集市和操作型数据存储（Dependent Data Mart and Operational Data Store）。
（4）逻辑型数据集市和实时数据仓库（Logical Data Mart and Real-Time Data Warehouse）。
15、数据仓库的未来
（1）在数据抽取方面，未来的技术发展将集中在系统集成化方面。它将互连、转换、复制、调度、监控纳入标准化的统一管理，以适应数据仓库本身或数据源可能的变化，使系统更便于管理和维护。
（2）在数据管理方面，未来的发展将使数据库厂商明确推出数据仓库引擎，作为数据仓库服务器产品与数据库服务器并驾齐驱。在这一方面，带有决策支持扩展的并行关系数据库将最具发展潜力。
（3）在数据表现方面，数理统计的算法和功能将普遍集成到联机分析产品中，并与Internet/Web技术紧密结合。按行业应用特征细化的数据仓库用户前端软件将成为产品作为数据仓库解决方案的一部分。数据仓库实现过程的方法论将更加普及，将成为数据库设计的一个明确分支，成为管理信息系统设计的必备
16、请列出3种数据仓库产品，并说明其优缺点。
（1）IBM 公司提供了一套基于可视化数据仓库的商业智能（BI）解决方案，包括：Visual Warehouse（VW），Essbase/DB2 OLAP Server 5.0、IBM DB2 UDB，以及来自第三方的前端数据展现工具（如BO）和数据挖掘工具（如SAS）。其中，VW 是一个功能很强的集成环境，既可用于数据仓库建模和元数据管理，又可用于数据抽取、转换、装载和调度。Essbase/DB2 OLAP Server 支持“维”的定义和数据装载。Essbase/DB2 OLAP Server 不是ROLAP （Relational OLAP）服务器，而是一个（ROLAP 和MOLAP）混合的HOLAP 服务器，在Essbase 完成数据装载后，数据存放在系统指定的DB2 UDB 数据库中。它的前端数据展现工具可以选择Business Objects 的BO、Lotus 的Approach、Cognos 的Impromptu 或IBM 的Query Management Facility；多维分析工具支持Arbor Software 的Essbase 和IBM（与Arbor 联合开发）的DB2 OLAP 服务器；统计分析工具采用SAS 系统。
（2）Oracle 数据仓库解决方案主要包括Oracle Express 和Oracle Discoverer 两个部分。Oracle Express 由四个工具组成：Oracle Express Server 是一个MOLAP(多维OLAP)服务器，它利用多维模型，存储和管理多维数据库或多维高速缓存，同时也能够访问多种关系数据库；Oracle Express Web Agent 通过CGI 或Web 插件支持基于Web 的动态多维数据展现；Oracle Express Objects 前端数据分析工具（目前仅支持Windows 平台）提供了图形化建模和假设分析功能，支持可视化开发和事件驱动编程技术，提供了兼容Visual Basic 语法的语言，支持OCX 和OLE；Oracle Express Analyzer 是通用的、面向最终用户的报告和分析工具（目前仅支持Windows 平台）。Oracle Discoverer 即席查询工具是专门为最终用户设计的，分为最终用户版和管理员版。在Oracle 数据仓库解决方案的实施过程中，通常把汇总数据存储在Express 多维数据库中，而将详细数据存储在Oracle 关系数据库中，当需要详细数据时，Express Server 通过构造SQL 语句访问关系数据库。
（3）Microsoft 将OLAP 功能集成到SQL Server 数据库中，其解决方案包括BI 平台、BI 终端工具、BI 门户和BI 应用四个部分，如图1.1。
① BI 平台是BI 解决方案的基础，包括ETL 平台SQL Server 2005 Integration Service(SSIS)、数据仓库引擎SQL Server 2005 RDBMS 以及多维分析和数据挖掘引擎SQL Server 2005 Analysis Service、报表管理引擎SQL Server 2005 Reporting Service。
② BI 终端用户工具，用户通过终端用户工具和Analysis Service 中的OLAP 服务和数据挖掘服务进行交互来使用多维数据集和数据挖掘模型，终端用户通常可使用预定义报表、交互式多维分析、即席查询、数据可视化、数据挖掘等多种方法。
③ BI 门户提供了各种不同用户访问BI 信息的统一入口。BI 门户是一个数据的汇集地，集成了来自不同系统的相关信息。用户可以制定个性化的个人门户，选择和自己相关性最强的数据，提高信息访问和使用的效率。
④ BI 应用是建立在BI 平台、BI 终端用户工具和BI 统一门户这些公共技术手段之上的满足某个特定业务需求的应用，例如零售业务分析、企业项目管理组合分析等
第二章
1、调和数据是存储在企业级数据仓库和操作型数据存储中的数据。
2、抽取、转换、加载过程的目的是为决策支持应用提供一个单一的、权威数据源。因此，我们要求ETL过程产生的数据（即调和数据层）是详细的、历史的、规范的、可理解的、即时的和质量可控制的。
3、数据抽取的两个常见类型是静态抽取和增量抽取。静态抽取用于最初填充数据仓库，增量抽取用于进行数据仓库的维护。
4、粒度是对数据仓库中数据的综合程度高低的一个衡量。粒度越小，细节程度越高，综合程度越低，回答查询的种类越多。
5、使用星型模式可以从一定程度上提高查询效率。因为星型模式中数据的组织已经经过预处理，主要数据都在庞大的事实表中。
6、维度表一般由主键、分类层次和描述属性组成。对于主键可以选择两种方式：自然键，代理键。
7、雪花型模式是对星型模式维表的进一步层次化和规范化来消除冗余的数据。
8、数据仓库中存在不同综合级别的数据。一般把数据分成4个级别：早期细节级、当前细节级、轻度综合级和高度综合级。
9、（1）状态数据与事件数据
前者描述对象的状态，后者描述对象发生的事件；（前象）状态数据→事件数据→(后象)状态数据
（2）当前数据与周期数据
当前数据只保留最新数据，现存的最新记录将改变以前中的数据。
周期数据则相反，一旦保存物理上就不在改变或删除数据。通常每个周期数据记录都会包含一个时间戳来只是日期甚至时间。
（3）数据仓库中的元数据
分技术元数据和业务元数据。
技术元数据是描述关于数据仓库技术细节的数据，包括：数据仓库结构的描述，业务系统、数据仓库和数据集市的体系结构和模式，汇总算法，操作性业务环境导数据仓库环境的映射等。
10、业务元数据是从业务角度描述数据仓库中的数据，提供了使用者和系统的语义层，使非专业人员能“读懂”仓库中的数据。包括：（1）使用者的业务属于所表达的数据类型、对象名和属性名；（2）访问数据的原则和数据的来源；（3）系统所提供的分析方法及公式和报表的信息。简言之，元数据是数据仓库的帮助和导航图
11、什么是数据仓库的3层数据结构？
数据是从企业内外部的各业务处理系统（操作型数据）流向企业级数据仓库或操作型数据存储区，在这个过程中，要根据企业（或其他组织）的数据模型和元数据库对数据进行调和处理，形成一个中间数据层，然后再根据分析需求，从调和数据层将数据引入导出数据层，如形成满足各类分析需求的数据集市。
12、什么是数据仓库的数据ETL过程？
数据的ETL 过程就是负责将操作型数据转换成调和数据的过程。这两种数据具有明显的区别，因此，数据调和是构建一个数据仓库中最难的和最具技术挑战性的部分。在为企业级数据仓库填充数据的过程中，数据调和可分为两个阶段：一是企业级数据仓库（EDW）首次创建时的原始加载；二是接下来的定期修改，以保持EDW 的当前有效性和扩展性。
整个过程由四个步骤组成：抽取、清洗、转换、加载和索引。事实上，这些步骤可以进行不同的组合，如，可以将数据抽取与清洗组合为一个过程，或者将清洗和转换组合在一起。通常，在清洗过程中发现的拒绝数据信息会送回到源操作型业务系统中，然后将数据在源系统中加以处理，以便在以后重新抽取。
13、什么是星型模式？它的特征是什么？
在星模式中，事实表居中，多个维表呈辐射状分布于其四周，并与事实表连接。位于星形中心的实体是事实表，是用户最关心的基本实体和查询活动的中心，为数据仓库的查询活动提供定量数据。位于星模式四周的实体是维度实体，其作用是限制和过滤用户的查询结果，缩小访问范围。每个维表都有自己的属性，维表和事实表通过关键字相关联。
14、为什么时间总是数据仓库或数据集市的维？
信息包图法，也叫用户信息需求表，就是在一张平面表格上描述元素的多维性，其中的每一个维度用平面表格的一列表示，通常的维度如时间、地点、产品和顾客等；而细化本列的对象就是类别，例如时间维度的类别可以细化到年、月、日，甚至小时；平面表格的最后一行（代表超立方体中的单元格）即为指标度量值，例如，某年在某销售点的某类产品的实际销售额。创建信息包图时需要确定最高层和最低层的信息需求，以便最终设计出包含各个层次需要的数据仓库。总之，信息包图法是一种自上而下的数据建模方法，即从用户的观点开始设计（用户的观点是通过与用户交流得到的），站在管理者的角度把焦点集中在企业的一个或几个主题上，着重分析主题所涉及数据的多维特性，这种自上而下的方法几乎考虑了所有的信息源，以及这些信息源影响业务活动的方式。
12、简述数据仓库系统设计过程？
收集、分析和确认业务分析需求，分析和理解主题和元数据、事实及其量度、粒度和维度的选择与设计、数据仓库的物理存储方式的设计等。书p49
13、一个数据仓库系统的建立通畅需要经过哪些步骤？
（1）收集和分析业务需求；（2）建立数据模型和数据仓库的物理设计；（3）定义数据源；（4）选择数据仓库技术和平台；（5）从操作型数据库中抽取、清洗及转换数据到数据仓库；（6）选择访问和报表工具，选择数据库连接软件，选择数据分析和数据展示软件；（7）更新数据仓库。
14、建立一个数据仓库系统的参考步骤
（1）收集和分析业务需求步骤（2）建立数据模型和数据仓库的物理设计（3）定义数据源（4）选择数据仓库技术和平台（5）从操作型数据库中抽取、清洗及转换数据到数据仓库（6）选择访问和报表工具，选择数据库连接软件，选择数据分析和数据展示软件（7）更新数据仓库
15、创建数据仓库系统的两种思维模式
自顶向下（Top-down）OLTP数据通过ETL进入DW，再复制推进各个数据集市；
自底向上（Bottom-Up）OLTP数据通过ETL进入数据集市，再复制提升到DW；
16、数据仓库数据库的设计过程
（1）分析组织的业务状况及数据源结构（2）组织需求调研，收集业务需求（3）采用信息包图法进行数据仓库的概念模型设计（4）利用星形图进行数据仓库的逻辑模型设计（5）数据仓库的物理模型设计
17、利用星形图进行数据仓库的逻辑模型设计
（1）根据分析需求与信息包图制作星形图或雪花图（2）确定主题的属性组（3）事实表及其特征、事实表的类型与设计（4）粒度的选择与设计步骤（5）关于数据仓库的聚合模型与数据的分割处理（6）星形图中的维度表简介（7）常用维度的设计模式
第四章
1、关联规则的经典算法包括Apriori算法和FP-growth算法,其中FP-grownth算法的效率更高。
2、如果L2={{a,b},{a,c},{a,d},{b,c},{b,d}},则
连接产生的C3={{a,b,c},{a,b,d},{a,c,d},{b,c,d}} 再经过修剪，C3={{a,b,c},{a,b,d}} 3、设定supmin=50%,交易集如
则L1={A}，{B}，{C} L2={A,C}
T1 A B C
T2 A C
T3 A D
T4 B E F
4、什么是关联规则？关联规则的应用有哪些？
关联规则挖掘最初由R.Agrawal 等人提出，用来发现超级市场中用户购买的商品之间的隐含关联关系，并用规则的形式表示出来，称为关联规则(Association Rule)。关联规则除了可以发现超市购物中隐含的关联关系之外，还可以应用于其他很多领域。关联规则的应用还包括文本挖掘、商品广告邮寄分析、网络故障分析等。
5、关联规则的分类有哪些？关联规则挖掘的步骤包括什么？
关联规则的分类：
（1）基于规则中涉及到的数据的维数，关联规则可以分为单维的和多维的。
（2）基于规则中数据的抽象层次，可以分为单层关联规则和多层关联规则。
（3）基于规则中处理的变量的类型不同，关联规则可以分为布尔型和数值型。
关联规则挖掘的步骤：（1）找出交易数据库中所有大于或等于用户指定的最小支持度的频繁项集；
（2）利用频繁项集生成所需要的关联规则，根据用户设定的最小可信度进行取舍，产生强关联规则。
第五章
1、分类的过程包括获取数据、预处理、分类器设计和分类决策。
2、分类器设计阶段包含三个过程：划分数据集、分类器构造和分类器测试。
3、分类问题中常用的评价准则有精确度、查全率和查准率和集合均值。
4、支持向量机中常用的核函数有多项式核函数、径向基核函数和S型核函数。
5、分类的定义：分类是指把数据样本映射到一个事先定义的类中的学习过程，即给定一组输入的属性向量及其对应的类，用基于归纳的学习算法得出分类
6、分类的应用领域有哪些？
分类问题是数据挖掘领域中研究和应用最为广泛的技术之一，许多分类算法被包含在统计分析工具的软件包中，作为专门的分类工具来使用。分类问题在商业、银行业、医疗诊断、生物学、文本挖掘、因特网筛选等领域都有广泛应用。例如，在银行业中，分类方法可以辅助工作人员将正常信用卡用户和欺诈信用卡用户进行分类，从而采取有效措施减小银行的损失；在医疗诊断中，分类方法可以帮助医疗人员将正常细胞和癌变细胞进行分类，从而及时制定救治方案，挽救病人的生命；在因特网筛选中，分类方法可以协助网络工作人员将正常邮件和垃圾邮件进行分类，从而制定有效的垃圾邮件过滤机制，防止垃圾邮件干扰人们的正常生活。
7、分类问题使用的数据集格式
（1）描述属性可以是连续型属性，也可以是离散型属性；而类别属性必须是离散型属性。
（2）连续型属性是指在某一个区间或者无穷区间内该属性的取值是连续的，例如属性“Age”
（3）离散型属性是指该属性的取值是不连续的，例如属性“Salary”和“Class”
8、分类的过程
（1）获取数据：输入数据、对数据进行量化
（2）预处理：去除噪声数据、对空缺值进行处理；数据集成或者变换
（3）分类器设计：划分数据集、分类器构造、分类器测试
（4）分类决策：对未知类标号的数据样本进行分类
9、决策树的优点：进行分类器设计时，决策树分类方法所需时间相对较少；决策树的分类模型是树状结构，简单直观，比较符合人类的理解方式；可以将决策树中到达每个叶节点的路径转换为IF—THEN形式的分类规则，这种形式更有利于理解
10、决策树的基本概念：适用于离散值属性、连续值属性；采用自顶向下的递归方式产生一个类似于流程图的树结构；在根节点和各内部节点上选择合适的描述属性，并且根据该属性的不同取值向下建立分枝
11、决策树剪枝：决策树剪枝过程试图检测和去掉多余的分枝，以提高对未知类标号的数据进行分类时的准确性。
a) 先剪枝方法：在生成决策树的过程中对树进行剪枝
b) 后剪枝方法：在生成决策树之后对树进行剪枝
第六章
1、聚类分析包括连续型、二值离散型、多值离散型和混合类型4种类型描述属性的相似度计算方法。
2、连续型属性的数据样本之间的距离有欧氏距离、曼哈顿距离和明考斯基距离。
3、划分聚类方法对数据集进行聚类时包含三个要点：选种某种距离作为数据样本减的相似性度量、选择评价聚类性能的准则函数和选择某个初始分类，之后用迭代的方法得到聚类结果，使得评价聚类的准则函数取得最优值。
4、层次聚类方法包括凝聚型和分解型两中层次聚类方法。
5、什么是聚类分析？聚类分析的应用领域有哪些？书p131
聚类分析是将物理的或者抽象的数据集合划分为多个类别的过程，聚类之后的每个类别
中任意两个数据样本之间具有较高的相似度，不同类别的数据样本之间具有较低的相似度。
6、数据挖掘技术对聚类分析的要求：
（1）可伸缩性（适用于增长的大数据集）
（2）处理不同类型属性的能力（支持多种类型属性的数据集）
（3）发现任意形状聚类的能力（除了球形聚类外，能划分出任意形状聚类）
（4）减小对先验知识和用户自定义参数的依赖性
（5）处理噪声数据的能力(对孤立点、缺失值、错误数据等噪声数据的抗干扰性）
（6）可解释性和实用性（降维，可视化显示）
7、通常聚类算法可以分为以下几类：
（1）划分聚类方法
选择适当的初始代表点将数据样本进行初始聚类，之后通过迭代过程对聚类的结果进行不断的调整，直到使评价性能的准则函数的值达到最优为止。
（2）层次聚类方法（3）基于密度的聚类方法（4）基于网格的聚类方法
第十章
1、遗传算法（Genetic Algorithms，GA）是一种有效的全局搜索方法，是一种基于达尔文自然选择和遗传变异等生物进化机制而发展起来的仿生算法。
2、例1 利用遗传算法求解区间［0,31］上的二次函数y=x2的最大值。
解 (1) 设定种群规模,编码染色体，产生初始种群。
将种群规模设定为4；用5位二进制数编码染色体；取下列个体组成初始种群S1:
s1= 13 (01101), s2= 24 (11000)
s3= 8 (01000), s4= 19 (10011)
(2) 定义适应度函数,取适应度函数：f (x)=x2
f (s1) = f(13) = 132 = 169 f (s2) = f(24) = 242 = 576
f (s3) = f(8) = 82 = 64 f (s4) = f(19) = 192 = 361
由此可求得
P(s1) = P(13) = 0.14 P(s2) = P(24) = 0.49
P(s3) = P(8) = 0.06 P(s4) = P(19) = 0.31
(3) 计算各代种群中的各个体的适应度, 并对其染色体进行遗传操作,直到适应度最高的个体(即31（11111）)出现为止。
填空题20分，简答题25分，计算题2个（25分），综合题30分
1、数据仓库的组成？P2
数据仓库数据库，数据抽取工具，元数据，访问工具，数据集市，数据仓库管理，信息发布系统
2、数据挖掘技术对聚类分析的要求有哪几个方面？P131
可伸缩性；处理不同类型属性的能力；发现任意形状聚类的能力；减小对先验知识和用户自定义参数的依赖性；处理噪声数据的能力；可解释性和实用性
3、数据仓库在存储和管理方面的特点与关键技术？P7
（1）数据仓库面对的是大量数据的存储与管理（2）并行处理（3）针对决策支持查询的优化（4）支持多维分析的查询模式
4、常见的聚类算法可以分为几类？P132
基于划分的聚类算法，基于层次的聚类算法，基于密度的聚类算法，基于网格的聚类算法，基于模型的聚类算法等。
5、一个典型的数据仓库系统的组成？P12
数据源、数据存储与管理、OLAP 服务器、前端工具与应用
6、 数据仓库常见的存储优化方法？P71
表的归并与簇文件；反向规范化，引入冗余；表的物理分割。
7、 数据仓库发展演变的5个阶段？P20
以报表为主 以分析为主 以预测模型为主 以运行向导为主以实时数据仓库 自动决策应用为主
8、 ID3算法主要存在的缺点？P116
（1）ID3算法在选择根结点和各内部结点中的分枝属性时，使用信息增益作为评价标准。信息增益的缺点是倾向于选择取值较多的属性，在有些情况下这类属性可能不会提供太多有价值的信息。
（2）ID3算法只能对描述属性为离散型属性的数据集构造决策树。
9、 简述数据仓库ETL 软件的主要功能和对产生数据的目标要求。P30
ETL 软件的主要功能:数据的抽取，数据的转换，数据的加载
对产生数据的目标要求：详细的、历史的、规范化的、可理解的、即时的、质量可控制的
10、 简述分类器设计阶段包含的3个过程。
划分数据集，分类器构造，分类器测试
11、 什么是数据清洗？P33
数据清洗是一种使用模式识别和其他技术，在将原始数据转换和移到数据仓库之前来升级原始数据
12、支持度和置信度的计算公式及数据计算（P90）
找出所有的规则X ? Y , 使支持度和置信度分别大于门限支持度： 事务中X 和Y 同时发生的比例,P(X ? Y)置信度：项集X 发生时，Y 同时发生的条件概率P(Y|X)
Example:
13、利用信息包图设计数据仓库概念模型需要确定的三方面内容。P57
确定指标，确定维度，确定类别
()()()Support X Y c X Y Support X →= 0.67) Beer(0.4,}Diaper ,Milk {?
14、K-近邻分类方法的操作步骤（包括算法的输入和输出）。P128
15、什么是技术元数据，主要包含的内容？P29
技术元数据是描述关于数据仓库技术细节的数据，应用于开发、管理和维护DW，包含：DW结构的描述,如DW的模式、视图、维、层次结构和导出数据的定义，数据集市的位置和内容等
业务系统、DW和数据集市的体系结构和模式
汇总算法。包括度量和维定义算法，数据粒度、主题领域、聚合、汇总和预定义的查询和报告。
由操作型业务环境到数据仓库业务环境的映射。包括源数据和他们的内容、数据分割、数据提取、清洗、转换规则和数据刷新规则及安全（用户授权和存取控制）
16、业务元数据主要包含的内容？P29
业务元数据：从业务角度描述了DW中的数据，提供了介于使用者和实际系统之间的语义层，主要包括：
使用者的业务属于所表达的数据模型、对象名和属性名
访问数据的原则和数据的来源
提供的分析方法及公式和报表的信息。
17、K-means算法的基本操作步骤（包括算法的输入和输出）。P138
18、数据从集结区加载到数据仓库中的主要方法？P36
SQL 命令（如Insert 或Update ）
由DW 供应商或第三方提供专门的加载工具
由DW 管理员编写自定义程序
19、多维数据模型中的基本概念：维，维类别，维属性，粒度P37
维：人们观察数据的特定角度，是考虑问题的一类属性，如时间维或产品维
维类别：也称维分层。即同一维度还可以存在细节程度不同的各个类别属性（如时间维 包括年、季度、月等）
维属性：是维的一个取值，是数据线在某维中位置的描述。
粒度：DW 中数据综合程度高低的一个衡量。粒度低，细节程度高，回答查询的种类多
20、Apriori 算法的基本操作步骤P93
Apriori 使用一种称作逐层搜索的迭代方法，K 项集用于探索K+1项集。
该方法是基于候选的策略，降低候选数
Apriori 剪枝原则：若任何项集是非频繁的，则其超集必然是非频繁的（不用产生和测试超集）
该原则基于以下支持度的特性:
项集的支持度不会超过其子集
支持度的反单调特性（anti-monotone ）：如果一个集合不能通过测试，则它的
所有超集也都不能通过相同的测试。
令 k=1
产生长度为1的频繁项集
循环，直到无新的频繁项集产生
从长度为k 的频繁项集产生长度为k+1的候选频繁项集
连接步：项集的各项排序，前k-1个项相同
若候选频繁子集包含长度为k 的非频繁子集，则剪枝
剪枝步：利用支持度属性原则
扫描数据库，计算每个候选频繁集的支持度
删除非频繁项, 保留频繁项
明考斯基距离：
)()()(:,Y s X s Y X Y X ≥???
那得看你规定的权是多少啊，(x1, ... , xn)和(y1, ... ,yn)间权p的minkowski距离就是[|x1-y1|^p+...+|xn-yn|^p]^{1/p} 意义么，得看你的空间是什么。一般这个范数是用在函数空间上的，比如L^p([0,1])，它与向量（这时是[0,1]区间上的L^p函数）的模长是相容的。
数据挖掘复习大纲答案新新
数据挖掘复习提纲 分值分布 一、选择题（单选10道20分多选5道20分） 二、填空题（10道20分） 三、名词解释（5道20分） 四、解答题（4道20分） 五、应用题（Apriori算法20分） 1．什么是数据挖掘？ 1答：简单地说，数据挖掘是从大量数据中提取或挖掘知识。 具体地说，数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。 2. 什么是数据清理？ 2答：填写缺失的值，平滑噪声数据，识别、删除离群点，解决不一致性 3. 什么是数据仓库？ 3答：是一个面向主题的、集成的、随时间而变化的、不容易丢失的数据集合，支持管理部门决策的过程。（最显著特征：数据不易丢失2分选择题） 4. 什么是数据集成？ 4.数据集成:集成多个数据库、数据立方体或文件 5. 什么是数据变换？ 5答：将数据转换或统一成适合于挖掘的形式。 6. 什么是数据归约？ 6答：得到数据集的压缩表示，它小得多，但可以得到相同或相近的结果 7. 什么是数据集市？ 7答：数据集市包含企业范围数据的一个子集，对于特定的用户群是有用的。其范围限于选定的主题。 (是完整的数据仓库的一个逻辑子集，而数据仓库正是由所有的数据集市有机组合而成的) 8.在数据挖掘过程中，耗时最长的步骤是什么？ 8.答：数据清理 9.数据挖掘系统可以根据什么标准进行分类？ 9答：根据挖掘的数据库类型分类、根据挖掘的知识类型分类、根据挖掘所用的技术分类、根据应用分类 10. 多维数据模型上的OLAP 操作包括哪些？ 10.答：上卷、下钻、切片和切块、转轴 / 旋转、其他OLAP操作 11. OLAP 服务器类型有哪几种？ 11.答：关系 OLAP 服务器(ROLAP)、多维 OLAP 服务器(MOLAP)、混合 OLAP 服务器 (HOLAP)、特殊的 SQL 服务器 12. 数据预处理技术包括哪些？（选择） 12.答：聚集、抽样、维规约、特征子集选择、特征创建、离散化和二元化、变量变换。 13. 形成“脏数据”的原因有哪些？ 13. 答：滥用缩写词、数据输入错误、数据中的内嵌控制信息、不同的的惯用语、重复记录、丢失值、拼写变化、不同的计量单位、过时的编码 14. 与数据挖掘类似的术语有哪些? 14答：数据库中挖掘知识、知识提取、数据/模式分析、数据考古和数据捕捞。
《大数据时代下的数据挖掘》试题及答案要点
《海量数据挖掘技术及工程实践》题目 一、单选题（共80题） 1)( D )的目的缩小数据的取值范围，使其更适合于数据挖掘算法的需要，并且能够得到 和原始数据相同的分析结果。 A.数据清洗 B.数据集成 C.数据变换 D.数据归约 2)某超市研究销售纪录数据后发现，买啤酒的人很大概率也会购买尿布，这种属于数据挖 掘的哪类问题？(A) A. 关联规则发现 B. 聚类 C. 分类 D. 自然语言处理 3)以下两种描述分别对应哪两种对分类算法的评价标准？ (A) (a)警察抓小偷，描述警察抓的人中有多少个是小偷的标准。 (b)描述有多少比例的小偷给警察抓了的标准。 A. Precision,Recall B. Recall,Precision A. Precision,ROC D. Recall,ROC 4)将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务？(C) A. 频繁模式挖掘 B. 分类和预测 C. 数据预处理 D. 数据流挖掘 5)当不知道数据所带标签时，可以使用哪种技术促使带同类标签的数据与带其他标签的数 据相分离？(B) A. 分类 B. 聚类 C. 关联分析 D. 隐马尔可夫链 6)建立一个模型，通过这个模型根据已知的变量值来预测其他某个变量值属于数据挖掘的 哪一类任务？(C) A. 根据内容检索 B. 建模描述 C. 预测建模 D. 寻找模式和规则 7)下面哪种不属于数据预处理的方法？ (D) A.变量代换 B.离散化
C.聚集 D.估计遗漏值 8)假设12个销售价格记录组已经排序如下：5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频（等深）划分时，15在第几个箱子内？ (B) A.第一个 B.第二个 C.第三个 D.第四个 9)下面哪个不属于数据的属性类型：(D) A.标称 B.序数 C.区间 D.相异 10)只有非零值才重要的二元属性被称作：( C ) A.计数属性 B.离散属性 C.非对称的二元属性 D.对称属性 11)以下哪种方法不属于特征选择的标准方法： (D) A.嵌入 B.过滤 C.包装 D.抽样 12)下面不属于创建新属性的相关方法的是： (B) A.特征提取 B.特征修改 C.映射数据到新的空间 D.特征构造 13)下面哪个属于映射数据到新的空间的方法？ (A) A.傅立叶变换 B.特征加权 C.渐进抽样 D.维归约 14)假设属性income的最大最小值分别是12000元和98000元。利用最大最小规范化的方 法将属性的值映射到0至1的范围内。对属性income的73600元将被转化为：(D) A.0.821 B.1.224 C.1.458 D.0.716 15)一所大学内的各年纪人数分别为：一年级200人，二年级160人，三年级130人，四年 级110人。则年级属性的众数是： (A) A.一年级 B.二年级 C.三年级 D.四年级
数据挖掘
一、数据挖掘概述 1、数据挖掘 定义：通过自动或半自动化的工具对大量的数据进行探索和分析的过程，其目的是发现其中有意义的模式和规律。 ——数据挖掘是一门技能，不是一种现成的产品。 2、数据挖掘能做什么 6种方法：分类（classification）、估计（estimation）、预测（prediction）、组合或关联法则（affinity grouping or association rules）、聚类（clustering）、描述与可视化（description and visualization） 前三种方法属于直接的数据挖掘，目标是应用可得到的数据建立模型，用其他可得到的数据来描述我们感兴趣某一变量。 后三种方法属于间接的数据挖掘，没有单一的目标变量，目标是在所有变量中发现某些联系。 1）分类：其特点是先对不同的类别加以定义，并由预先分类的样本构成训练集。任务是建立一个模型并应用这一模型对未分类数据进行分类。分类处理的是离散的结果。 2）估计处理的是连续的结果。 3）组合法的任务是确认哪些事物会一起出现。 4）聚类的任务是将相似的事物分成一类，差异较大的事物分在不同的类中。聚类与分类的区别是聚类并不依赖于事先确定好的组别。 3、技术层面的数据挖掘 1）算法与技巧 2）数据 3）建模实践 二、数据挖掘方法论：互动循环系统 1、数据挖掘的两种类型 一种是自上而下的方法，称之为有监督的数据挖掘方法，当明确知道要搜索的目标时，可以是用这种方法。 一种是自下而上的方法，称之为无监督的数据挖掘方法，实际就是让数据解释自己。此方法是在数据中寻找模式，然后把产生的结果留给使用者去判断其中哪些模式重要。 数据挖掘的结果通常是这两种方法的结合。 1）有监督的数据挖掘 黑匣子模型：使用一个或多个输入值产生一个输出的模型。我们并不关心模型如何运作，那只是黑盒子，我们只关心可能的最优结果。 我们根据已知事例，分析其相关资料，将分析结果用在从未联络的潜在客户，这样的模型称之为预测模型。预测模型使用历史记录来计算某些相应结果中的得分。成功预测的要领之一是拥有足够支持结果的数据来训练模型。 2）无监督的数据挖掘 半透明模型：有时需要使用模型能够得到与数据相关的重要信息，我们也需要了解模型的运作细节，这就好比一组半透明的盒子。 2、数据挖掘的互动循环过程 数据挖掘的互动过程是一种高层次的流程，由四个重要的业务过程所构成： 理解业务问题； 将数据转换成可执行的结果；
数据挖掘及决策树
昆明理工大学信息工程与自动化学院学生实验报告 （2016 —2017 学年第学期） 课程名称：数据仓库与数据挖掘开课实验室：信自楼444 2017 年 06 月 01 日 一、上机目的及内容 目的： 1．理解数据挖掘的基本概念及其过程； 2．理解数据挖掘与数据仓库、OLAP之间的关系 3．理解基本的数据挖掘技术与方法的工作原理与过程，掌握数据挖掘相关工具的使用。 内容： 给定AdventureWorksDW数据仓库，构建“Microsoft 决策树”模型，分析客户群中购买自行车的模式。 要求: 利用实验室和指导教师提供的实验软件，认真完成规定的实验内容，真实地记录实验中遇到的 二、实验原理及基本技术路线图（方框原理图或程序流程图） 请描述数据挖掘及决策树的相关基本概念、模型等。 1.数据挖掘：从大量的、不完全的、有噪音的、模糊的、随机的数据中，提取隐含在其中的、 人们事先不知道的、但又潜在有用的信息和知识的过程。
预测：利用历史数据建立模型，再运用最新数据作为输入值，获得未来 变化趋势或者评估给定样本可能具有的属性值或值的范围 聚类分析根据数据的不同特征，将其划分为不同数据类 偏差分析对差异和极端特例的描述，揭示事物偏离常规的异常现象，其基本思想 是寻找观测结果与参照值之间有意义的差别 3.决策树：是一种预测模型，它代表的是对象属性与对象值之间的一种映射关系。树中每个 节点表示某个对象，而每个分叉路径则代表的某个可能的属性值，而每个叶结点则对应从 根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输出，若欲有复数输 出，可以建立独立的决策树以处理不同输出。 算法概念 ID3 在实体世界中，每个实体用多个特征来描述。每个特征限于在一 个离散集中取互斥的值 C4.5 对ID3算法进行了改进： 用信息增益率来选择属性，克服了用信息增益选择属性时偏向选 择取值多的属性的不足；在树构造过程中进行剪枝；能够完成对 连续属性的离散化处理；能够对不完整数据进行处理。 三、所用仪器、材料（设备名称、型号、规格等或使用软件） 1台PC及Microsoft SQL Server套件 四、实验方法、步骤（或：程序代码或操作过程） （一）准备Analysis Services 数据库 1.Analysis Services 项目创建成功 2.更改存储数据挖掘对象的实例
数据挖掘试题与答案
一、解答题（满分30分，每小题5分） 1. 怎样理解数据挖掘和知识发现的关系？请详细阐述之 首先从数据源中抽取感兴趣的数据，并把它组织成适合挖掘的数据组织形式；然后，调用相应的算法生成所需的知识；最后对生成的知识模式进行评估，并把有价值的知识集成到企业的智能系统中。 知识发现是一个指出数据中有效、崭新、潜在的、有价值的、一个不可忽视的流程，其最终目标是掌握数据的模式。流程步骤：先理解要应用的领域、熟悉相关知识，接着建立目标数据集，并专注所选择的数据子集；再作数据预处理，剔除错误或不一致的数据；然后进行数据简化与转换工作；再通过数据挖掘的技术程序成为模式、做回归分析或找出分类模型；最后经过解释和评价成为有用的信息。 2. 时间序列数据挖掘的方法有哪些，请详细阐述之 时间序列数据挖掘的方法有： 1）、确定性时间序列预测方法:对于平稳变化特征的时间序列来说，假设未来行为与现在的行为有关，利用属性现在的值预测将来的值是可行的。例如，要预测下周某种商品的销售额，可以用最近一段时间的实际销售量来建立预测模型。 2）、随机时间序列预测方法:通过建立随机模型，对随机时间序列进行分析，可以预测未来值。若时间序列是平稳的，可以用自回归(Auto Regressive，简称AR)模型、移动回归模型(Moving Average，简称MA)或自回归移动平均(Auto Regressive Moving Average，简称ARMA)模型进行分析预测。 3）、其他方法:可用于时间序列预测的方法很多，其中比较成功的是神经网络。由于大量的时间序列是非平稳的，因此特征参数和数据分布随着时间的推移而变化。假如通过对某段历史数据的训练，通过数学统计模型估计神经网络的各层权重参数初值，就可能建立神经网络预测模型，用于时间序列的预测。
数据挖掘课后习题资料
第1 章数据仓库的概念与体系结构 1. 面向主题的，相对稳定的。 2. 技术元数据，业务元数据。 3. 联机分析处理OLAP。 4. 切片（Slice），钻取（Drill-down 和Roll-up 等）。 5. 基于关系数据库。 6. 数据抽取，数据存储与管理。 7. 两层架构，独立型数据集市，依赖型数据集市和操作型数据存储，逻辑型数据集市和实时数据仓库。 8. 可更新的，当前值的。 9. 接近实时。 10. 以报表为主，以分析为主，以预测模型为主，以营运导向为主。 11. 答： 数据仓库就是一个面向主题的（Subject Oriented）、集成的（Integrate）、相对稳定的（Non-Volatile）、反映历史变化（Time Variant）的数据集合，通常用于辅助决策支持。 数据仓库的特点包含以下几个方面： （1）面向主题。操作型数据库的数据组织是面向事务处理任务，各个业务系统之间各 自分离；而数据仓库中的数据是按照一定的主题域进行组织。主题是一个抽象的概念，是指用户使用数据仓库进行决策时所关心的重点领域，一个主题通常与多个操作型业务系统或外部档案数据相关。 （2）集成的。面向事务处理的操作型数据库通常与某些特定的应用相关，数据库之间 相互独立，并且往往是异构的。而数据仓库中的数据是在对原有分散的数据库数据作抽取、清理的基础上经过系统加工、汇总和整理得到的，必须消除源数据中的不一致性，以保证数据仓库内的信息是关于整个企事业单位一致的全局信息。也就是说存放在数据仓库中的数据应使用一致的命名规则、格式、编码结构和相关特性来定义。 （3）相对稳定的。操作型数据库中的数据通常实时更新，数据根据需要及时发生变化。 数据仓库的数据主要供单位决策分析之用，对所涉及的数据操作主要是数据查询和加载，一旦某个数据加载到数据仓库以后，一般情况下将作为数据档案长期保存，几乎不再做修改和删除操作，也就是说针对数据仓库，通常有大量的查询操作及少量定期的加载（或刷新）操作。 （4）反映历史变化。操作型数据库（OLTP）主要关心当前某一个时间段内的数据，而 数据仓库中的数据通常包含较久远的历史数据，因此总是包括一个时间维，以便可以研究趋势和变化。数据仓库系统通常记录了一个单位从过去某一时点(如开始启用数据仓库系统的时点)到目前的所有时期的信息，通过这些信息，可以对单位的发展历程和未来趋势做出定量分析和预测。 12. 答： （1）两层架构（Generic Two-Level Architecture）。 （2）独立型数据集市（Independent Data Mart）。 （3）依赖型数据集市和操作型数据存储（Dependent Data Mart and Operational Data Store）。 （4 ）逻辑型数据集市和实时数据仓库（Logical Data Mart and Real-Time Data
数据挖掘实验报告
《数据挖掘》Weka实验报告 姓名＿学号＿ 指导教师 开课学期2015 至2016 学年 2 学期完成日期2015年6月12日
1.实验目的 基于https://www.wendangku.net/doc/9714018609.html,/ml/datasets/Breast+Cancer+WiscOnsin+%28Ori- ginal%29的数据，使用数据挖掘中的分类算法，运用Weka平台的基本功能对数据集进行分类，对算法结果进行性能比较，画出性能比较图，另外针对不同数量的训练集进行对比实验，并画出性能比较图训练并测试。 2.实验环境 实验采用Weka平台，数据使用来自https://www.wendangku.net/doc/9714018609.html,/ml/Datasets/Br- east+Cancer+WiscOnsin+%28Original%29，主要使用其中的Breast Cancer Wisc- onsin (Original) Data Set数据。Weka是怀卡托智能分析系统的缩写，该系统由新西兰怀卡托大学开发。Weka使用Java写成的，并且限制在GNU通用公共证书的条件下发布。它可以运行于几乎所有操作平台，是一款免费的，非商业化的机器学习以及数据挖掘软件。Weka提供了一个统一界面，可结合预处理以及后处理方法，将许多不同的学习算法应用于任何所给的数据集，并评估由不同的学习方案所得出的结果。 3.实验步骤 3.1数据预处理 本实验是针对威斯康辛州(原始)的乳腺癌数据集进行分类，该表含有Sample code number（样本代码)，Clump Thickness（丛厚度），Uniformity of Cell Size （均匀的细胞大小），Uniformity of Cell Shape （均匀的细胞形状），Marginal Adhesion（边际粘连），Single Epithelial Cell Size（单一的上皮细胞大小），Bare Nuclei（裸核），Bland Chromatin（平淡的染色质），Normal Nucleoli（正常的核仁），Mitoses（有丝分裂），Class（分类），其中第二项到第十项取值均为1-10，分类中2代表良性，4代表恶性。通过实验，希望能找出患乳腺癌客户各指标的分布情况。 该数据的数据属性如下： 1. Sample code number（numeric），样本代码； 2. Clump Thickness（numeric），丛厚度；
数据挖掘试题
单选题 1. 某超市研究销售纪录数据后发现，买啤酒的人很大概率也会购买尿布，这种属于数据挖掘的哪类问题？(A) A. 关联规则发现 B. 聚类 C. 分类 D. 自然语言处理 3. 将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务？(C) A. 频繁模式挖掘 B. 分类和预测 C. 数据预处理 D. 数据流挖掘 4. 当不知道数据所带标签时，可以使用哪种技术促使带同类标签的数据与带其他标签的数据相分离？(B) A. 分类 B. 聚类 C. 关联分析 D. 隐马尔可夫链 6. 使用交互式的和可视化的技术，对数据进行探索属于数据挖掘的哪一类任务？（A） A. 探索性数据分析 B. 建模描述 C. 预测建模 D. 寻找模式和规则 11.下面哪种不属于数据预处理的方法？(D) A变量代换B离散化 C 聚集 D 估计遗漏值 12. 假设12个销售价格记录组已经排序如下：5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频（等深）划分时，15在第几个箱子内？(B) A 第一个 B 第二个 C 第三个 D 第四个 13.上题中，等宽划分时（宽度为50），15又在哪个箱子里？(A) A 第一个 B 第二个 C 第三个 D 第四个 16. 只有非零值才重要的二元属性被称作：( C ) A 计数属性 B 离散属性C非对称的二元属性 D 对称属性 17. 以下哪种方法不属于特征选择的标准方法：(D) A嵌入 B 过滤 C 包装 D 抽样 18.下面不属于创建新属性的相关方法的是：(B) A特征提取B特征修改C映射数据到新的空间D特征构造 22. 假设属性income的最大最小值分别是12000元和98000元。利用最大最小规范化的方法将属性的值映射到0至1的范围内。对属性income的73600元将被转化为：(D) A 0.821 B 1.224 C 1.458 D 0.716 23.假定用于分析的数据包含属性age。数据元组中age的值如下（按递增序）：13，15，16，16，19，20，20，21，22，22，25，25，25，30，33，33，35，35，36，40，45，46，52，70, 问题：使用按箱平均值平滑方法对上述数据进行平滑，箱的深度为3。第二个箱子值为：(A) A 18.3 B 22.6 C 26.8 D 27.9 28. 数据仓库是随着时间变化的,下面的描述不正确的是(C) A. 数据仓库随时间的变化不断增加新的数据内容; B. 捕捉到的新数据会覆盖原来的快照; C. 数据仓库随事件变化不断删去旧的数据内容; D. 数据仓库中包含大量的综合数据,这些综合数据会随着时间的变化不断地进行重新综合. 29. 关于基本数据的元数据是指: (D) A. 基本元数据与数据源,数据仓库,数据集市和应用程序等结构相关的信息; B. 基本元数据包括与企业相关的管理方面的数据和信息; C. 基本元数据包括日志文件和简历执行处理的时序调度信息; D. 基本元数据包括关于装载和更新处理,分析处理以及管理方面的信息.
数据挖掘实验报告资料
大数据理论与技术读书报告 -----K最近邻分类算法 指导老师: 陈莉 学生姓名: 李阳帆 学号: 201531467 专业: 计算机技术 日期 :2016年8月31日
摘要 数据挖掘是机器学习领域内广泛研究的知识领域，是将人工智能技术和数据库技术紧密结合，让计算机帮助人们从庞大的数据中智能地、自动地提取出有价值的知识模式，以满足人们不同应用的需要。K 近邻算法（KNN）是基于统计的分类方法，是大数据理论与分析的分类算法中比较常用的一种方法。该算法具有直观、无需先验统计知识、无师学习等特点，目前已经成为数据挖掘技术的理论和应用研究方法之一。本文主要研究了K 近邻分类算法，首先简要地介绍了数据挖掘中的各种分类算法，详细地阐述了K 近邻算法的基本原理和应用领域，最后在matlab环境里仿真实现，并对实验结果进行分析，提出了改进的方法。 关键词：K 近邻，聚类算法，权重，复杂度，准确度
1.引言 (1) 2.研究目的与意义 (1) 3.算法思想 (2) 4.算法实现 (2) 4.1 参数设置 (2) 4.2数据集 (2) 4.3实验步骤 (3) 4.4实验结果与分析 (3) 5.总结与反思 (4) 附件1 (6)
1.引言 随着数据库技术的飞速发展，人工智能领域的一个分支—— 机器学习的研究自 20 世纪 50 年代开始以来也取得了很大进展。用数据库管理系统来存储数据，用机器学习的方法来分析数据，挖掘大量数据背后的知识，这两者的结合促成了数据库中的知识发现（Knowledge Discovery in Databases，简记 KDD）的产生，也称作数据挖掘（Data Ming，简记 DM）。 数据挖掘是信息技术自然演化的结果。信息技术的发展大致可以描述为如下的过程：初期的是简单的数据收集和数据库的构造；后来发展到对数据的管理，包括：数据存储、检索以及数据库事务处理；再后来发展到对数据的分析和理解， 这时候出现了数据仓库技术和数据挖掘技术。数据挖掘是涉及数据库和人工智能等学科的一门当前相当活跃的研究领域。 数据挖掘是机器学习领域内广泛研究的知识领域，是将人工智能技术和数据库技术紧密结合，让计算机帮助人们从庞大的数据中智能地、自动地抽取出有价值的知识模式，以满足人们不同应用的需要[1]。目前，数据挖掘已经成为一个具有迫切实现需要的很有前途的热点研究课题。 2.研究目的与意义 近邻方法是在一组历史数据记录中寻找一个或者若干个与当前记录最相似的历史纪录的已知特征值来预测当前记录的未知或遗失特征值[14]。近邻方法是数据挖掘分类算法中比较常用的一种方法。K 近邻算法（简称 KNN）是基于统计的分类方法[15]。KNN 分类算法根据待识样本在特征空间中 K 个最近邻样本中的多数样本的类别来进行分类，因此具有直观、无需先验统计知识、无师学习等特点，从而成为非参数分类的一种重要方法。 大多数分类方法是基于向量空间模型的。当前在分类方法中，对任意两个向量： x= ) ,..., , ( 2 1x x x n和) ,..., , (' ' 2 ' 1 'x x x x n 存在 3 种最通用的距离度量：欧氏距离、余弦距 离[16]和内积[17]。有两种常用的分类策略：一种是计算待分类向量到所有训练集中的向量间的距离：如 K 近邻选择K个距离最小的向量然后进行综合，以决定其类别。另一种是用训练集中的向量构成类别向量，仅计算待分类向量到所有类别向量的距离，选择一个距离最小的类别向量决定类别的归属。很明显，距离计算在分类中起关键作用。由于以上 3 种距离度量不涉及向量的特征之间的关系，这使得距离的计算不精确，从而影响分类的效果。
数据挖掘实验报告(一)
数据挖掘实验报告（一） 数据预处理 姓名：李圣杰 班级：计算机1304 学号：1311610602
一、实验目的 1.学习均值平滑，中值平滑，边界值平滑的基本原理 2.掌握链表的使用方法 3.掌握文件读取的方法 二、实验设备 PC一台，dev-c++5.11 三、实验内容 数据平滑 假定用于分析的数据包含属性age。数据元组中age的值如下（按递增序）：13, 15, 16, 16, 19, 20, 20, 21, 22, 22, 25, 25, 25, 25, 30, 33, 33, 35, 35, 35, 35, 36, 40, 45, 46, 52, 70。使用你所熟悉的程序设计语言进行编程，实现如下功能（要求程序具有通用性）： (a) 使用按箱平均值平滑法对以上数据进行平滑，箱的深度为3。 (b) 使用按箱中值平滑法对以上数据进行平滑，箱的深度为3。 (c) 使用按箱边界值平滑法对以上数据进行平滑，箱的深度为3。 四、实验原理 使用c语言，对数据文件进行读取，存入带头节点的指针链表中，同时计数，均值求三个数的平均值，中值求中间的一个数的值，边界值将中间的数转换为离边界较近的边界值 五、实验步骤 代码 #include
汕头大学数据挖掘期末复习
汕头大学2019数据挖掘期末复习资料（浩军老师班） 考试范围：数据预处理、数据关联分析、分类与预测、SVM、K-MEANS、聚类 考试题型：简答题，复习请以实验相关内容为主 数据挖掘课程的主要内容： 1.数据挖掘概述 2.数据预处理 3.数据挖掘算法－关联分析 4.数据挖掘算法－分类与预测 5.数据挖掘算法－聚类分析 一、数据挖掘概述 什么是数据挖掘？ 数据挖掘概念：从大量数据中寻找其规律的技术，是统计学、数据库技术和人工智能技术（机器学习）的综合。 数据挖掘定义：数据挖掘（Data Mining）就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中，提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。 数据的特征：大容量、含噪音（不完全、不正确）、异质数据（多种数据类型混合的数据源，来自互联网的数据是典型的例子） 数据挖掘有哪些步骤？ 1.确定预测目标 2.统计数据特征 3.根据数据特征进行数据预处理 4.应用数据挖掘模型（分类、聚类、关联分析、离群点挖掘、标记等） 5.分析模型的准确率 6.找出影响模型准确率的因素，回到第3步迭代直到模型足够完美。 二、数据预处理 数据预处理有哪些步骤？ 1.数据清理 2.数据集成 3.数据归约 4.数据变换与数据离散化 为什么要进行数据预处理？ 现实世界的数据是不完整的、含有噪声的、不一致的、冗余的。低质量的数据将导致低质量的挖掘结果。 1)现实世界的数据一般是脏的、不完整的和不一致的。 2)数据预处理技术可以改进数据的质量，从而有助于提高其后的挖掘过程的精度和性能。 3) 高质量的决策必然依赖于高质量的数据，因此数据预处理是知识发现过程的重要步骤。 数据的质量涉及的三个要素是？ 准确性，完整性和一致性。现实世界的数据一般是脏的不完整的不一致的。数据预处理技术可以改善数据的质量。 如何填充数据中存在的缺失值？
数据挖掘复习章节知识点整理
数据挖掘：是从大量数据中发现有趣（非平凡的、隐含的、先前未知、潜在有用）模式，这些数据可以存放在数据库，数据仓库或其他信息存储中。 挖掘流程： 1.学习应用域 2.目标数据创建集 3.数据清洗和预处理 4.数据规约和转换 5.选择数据挖掘函数（总结、分类、回归、关联、分类） 6.选择挖掘算法 7.找寻兴趣度模式 8.模式评估和知识展示 9.使用挖掘的知识 概念/类描述：一种数据泛化形式，用汇总的、简洁的和精确的方法描述各个类和概念，通过（1）数据特征化：目标类数据的一般特性或特征的汇总； （2）数据区分：将目标类数据的一般特性与一个或多个可比较类进行比较； （3）数据特征化和比较来得到。 关联分析：发现关联规则，这些规则展示属性-值频繁地在给定数据集中一起出现的条件，通常要满足最小支持度阈值和最小置信度阈值。 分类：找出能够描述和区分数据类或概念的模型，以便能够使用模型预测类标号未知的对象类，导出的模型是基于训练集的分析。导出模型的算法：决策树、神经网络、贝叶斯、（遗传、粗糙集、模糊集）。 预测：建立连续值函数模型，预测空缺的或不知道的数值数据集。 孤立点：与数据的一般行为或模型不一致的数据对象。 聚类：分析数据对象，而不考虑已知的类标记。训练数据中不提供类标记，对象根据最大化类内的相似性和最小化类间的原则进行聚类或分组，从而产生类标号。 第二章数据仓库 数据仓库是一个面向主题的、集成的、时变的、非易失的数据集合，支持管理部门的决策过程。从一个或多个数据源收集信息，存放在一个一致的模式下，并且通常驻留在单个站点。数据仓库通过数据清理、变换、继承、装入和定期刷新过程来构造。面向主题：排除无用数据，提供特定主题的简明视图。集成的：多个异构数据源。时变的：从历史角度提供信息，隐含时间信息。非易失的：和操作数据的分离，只提供初始装入和访问。 联机事务处理OLTP：主要任务是执行联机事务和查询处理。 联系分析处理OLAP：数据仓库系统在数据分析和决策方面为用户或‘知识工人’提供服务。这种系统可以用不同的格式和组织提供数据。OLAP是一种分析技术，具有汇总、合并和聚集功能，以及从不同的角度观察信息的能力。
数据挖掘研究现状及发展趋势
数据挖掘研究现状及发展趋势摘要：从数据挖掘的定义出发，介绍了数据挖掘的神经网络法、决策树法、遗传算法、粗糙集法、模糊集法和关联规则法等概念及其各自的优缺点；详细总结了国内外数据挖掘的研究现状及研究热点，指出了数据挖掘的发展趋势。 关键词：数据挖掘；挖掘算法；神经网络；决策树；粗糙集；模糊集；研究现状；发展趋势 Abstract：From the definition of data mining，the paper introduced concepts and advantages and disadvantages of neural network algorithm，decision tree algorithm，genetic algorithm，rough set method，fuzzy set method and association rule method of data mining，summarized domestic and international research situation and focus of data mining in details，and pointed out the development trend of data mining. Key words：data mining，algorithm of data mining，neural network，decision tree，rough set，fuzzy set，research situation，development tendency 1引言 随着信息技术的迅猛发展，许多行业如商业、企业、科研机构和政府部门等都积累了海量的、不同形式存储的数据资料[1]。这些海量数据中往往隐含着各种各样有用的信息，仅仅依靠数据库的查询检索机制和统计学方法很难获得这些信息，迫切需要能自动地、智能地将待处理的数据转化为有价值的信息，从而达到为决策服务的目的。在这种情况下，一个新的技术———数据挖掘(Data Mining，DM)技术应运而生[2]。 数据挖掘是一个多学科领域，它融合了数据库技术、人工智能、机器学习、统计学、知识工程、信息检索等最新技术的研究成果，其应用非常广泛。只要是有分析价值的数据库，都可以利用数据挖掘工具来挖掘有用的信息。数据挖掘典型的应用领域包括市场、工业生产、金融、医学、科学研究、工程诊断等。本文主要介绍数据挖掘的主要算法及其各自的优缺点，并对国内外的研究现状及研究热点进行了详细的总结，最后指出其发展趋势及问题所在。 江西理工大学
数据挖掘复习知识点整理超详细
必考知识点： 信息增益算法/ ID3决策树(计算) (详细见教材) 使用朴素贝叶斯分类预测类标号(计算) FP-TREE(问答) (详细见教材) 数据仓库的设计(详见第二章)(问答) (见PPT) 数值规约Equi-depth、equi-width、v-optimal、maxdiff(问答) (详细见教材) BUC (这个也要考，但不记得怎么考的了) 后向传播神经网络(名词解释) K-平均，K-中心点，DBSCAN 解析特征化(这个也要考) 总论 数据挖掘：是从大量数据中发现有趣（非平凡的、隐含的、先前未知、潜在有用）模式，这些数据可以存放在数据库，数据仓库或其他信息存储中。 挖掘流程： (1)学习应用域（2）目标数据创建集（3）数据清洗和预处理（4）数据规约和转换（5）选择数据挖掘函数（总结、分类、回归、关联、分类）（6）选择挖掘算法（7）找寻兴趣度模式（8）模式评估和知识展示（9）使用挖掘的知识 概念/类描述：一种数据泛化形式，用汇总的、简洁的和精确的方法描述各个类和概念，通过（1）数据特征化：目标类数据的一般特性或特征的汇总；（2）数据区分：将目标类数据的一般特性与一个或多个可比较类进行比较；（3）数据特征化和比较来得到。 关联分析：发现关联规则，这些规则展示属性-值频繁地在给定数据集中一起出现的条件，通常要满足最小支持度阈值和最小置信度阈值。 分类：找出能够描述和区分数据类或概念的模型，以便能够使用模型预测类标号未知的对象类，导出的模型是基于训练集的分析。导出模型的算法：决策树、神经网络、贝叶斯、（遗传、粗糙集、模糊集）。 预测：建立连续值函数模型，预测空缺的或不知道的数值数据集。 孤立点：与数据的一般行为或模型不一致的数据对象。 聚类：分析数据对象，而不考虑已知的类标记。训练数据中不提供类标记，对象根据最大化类内的相似性和最小化类间的原则进行聚类或分组，从而产生类标号。 第二章数据仓库 数据仓库是一个面向主题的、集成的、时变的、非易失的数据集合，支持管理部门的决策过程。从一个或多个数据源收集信息，存放在一个一致的模式下，并且通常驻留在单个站点。数据仓库通过数据清理、变换、继承、装入和定期刷新过程来构造。面向主题：排除无用数据，提供特定主题的简明视图。集成的：多个异构数据源。时变的：从历史角度提供信息，隐含时间信息。非易失的：和操作数据的分离，只提供初始装入和访问。 联机事务处理OLTP：主要任务是执行联机事务和查询处理。 联系分析处理OLAP：数据仓库系统在数据分析和决策方面为用户或‘知识工人’提供服务。这种系统可以用不同的格式和组织提供数据。OLAP是一种分析技术，具有汇总、合并和聚集功能，以及从不同的角度观察信息的能力。
数据挖掘考试题库【最新】
一、填空题 1.Web挖掘可分为、和3大类。 2.数据仓库需要统一数据源，包括统一、统一、统一和统一数据特征 4个方面。 3.数据分割通常按时间、、、以及组合方法进行。 4.噪声数据处理的方法主要有、和。 5.数值归约的常用方法有、、、和对数模型等。 6.评价关联规则的2个主要指标是和。 7.多维数据集通常采用或雪花型架构，以表为中心，连接多个表。 8.决策树是用作为结点，用作为分支的树结构。 9.关联可分为简单关联、和。 10.B P神经网络的作用函数通常为区间的。 11.数据挖掘的过程主要包括确定业务对象、、、及知识同化等几个步 骤。 12.数据挖掘技术主要涉及、和3个技术领域。 13.数据挖掘的主要功能包括、、、、趋势分析、孤立点分析和偏 差分析7个方面。 14.人工神经网络具有和等特点，其结构模型包括、和自组织网络 3种。 15.数据仓库数据的4个基本特征是、、非易失、随时间变化。 16.数据仓库的数据通常划分为、、和等几个级别。 17.数据预处理的主要内容(方法)包括、、和数据归约等。 18.平滑分箱数据的方法主要有、和。 19.数据挖掘发现知识的类型主要有广义知识、、、和偏差型知识五种。 20.O LAP的数据组织方式主要有和两种。 21.常见的OLAP多维数据分析包括、、和旋转等操作。 22.传统的决策支持系统是以和驱动，而新决策支持系统则是以、建 立在和技术之上。 23.O LAP的数据组织方式主要有和2种。 24.S QL Server2000的OLAP组件叫，OLAP操作窗口叫。 25.B P神经网络由、以及一或多个结点组成。 26.遗传算法包括、、3个基本算子。 27.聚类分析的数据通常可分为区间标度变量、、、、序数型以及混合 类型等。 28.聚类分析中最常用的距离计算公式有、、等。 29.基于划分的聚类算法有和。
大数据仓库与大数据挖掘技术复习资料
数据仓库与数据挖掘技术复习资料 一、单项选择题 1.数据挖掘技术包括三个主要的部分（ C ） A．数据、模型、技术 B．算法、技术、领域知识 C．数据、建模能力、算法与技术 D．建模能力、算法与技术、领域知识 2.关于基本数据的元数据是指: ( D ) A.基本元数据与数据源,数据仓库,数据集市和应用程序等结构相关的信息； B.基本元数据包括与企业相关的管理方面的数据和信息； C.基本元数据包括日志文件和简历执行处理的时序调度信息； D.基本元数据包括关于装载和更新处理,分析处理以及管理方面的信息。 3.关于OLAP和OLTP的说法,下列不正确的是: ( A) A．OLAP事务量大,但事务内容比较简单且重复率高 B．OLAP的最终数据来源与OLTP不一样 C．OLTP面对的是决策人员和高层管理人员 D．OLTP以应用为核心，是应用驱动的 4．将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务？( C ) A. 频繁模式挖掘 B. 分类和预测 C. 数据预处理 D. 数据流挖掘5．下面哪种不属于数据预处理的方法？ ( D ) A.变量代换 B.离散化 C. 聚集 D. 估计遗漏值 6.在ID3 算法中信息增益是指（ D ） A.信息的溢出程度 B.信息的增加效益 C.熵增加的程度最大 D.熵减少的程度最大 7.以下哪个算法是基于规则的分类器 ( A ) A. C4.5 B. KNN C. Bayes D. ANN 8.以下哪项关于决策树的说法是错误的（ C ） A．冗余属性不会对决策树的准确率造成不利的影响 B．子树可能在决策树中重复多次 C．决策树算法对于噪声的干扰非常敏感 D．寻找最佳决策树是NP完全问题 9.假设收入属性的最小与最大分别是10000和90000，现在想把当前值30000映射到区间[0,1],若采用最大－最小数据规范方法，计算结果是（ A ）
数据挖掘实验报告
数据挖掘实验报告 ——加权K-近邻法 一、 数据源说明 1. 数据理解 数据来自于天猫对顾客的BuyOrNot(买与不买)，BuyDNactDN(消费活跃度)，ActDNTotalDN(活跃度)，BuyBBrand(成交有效度)，BuyHit(活动有效度)这五个变量的统计。 数据分成两类数据，一类作为训练数据集，一类为测试数据集。 2.数据清理 现实世界的数据一般是不完整的、有噪声的和不一致的。数据清理例程试图填充缺失的值，光滑噪声并识别离群点，并纠正数据中的不一致。 a) 缺失值：当数据中存在缺失值是，忽略该元组 b) 噪声数据：本文暂没考虑。 二、 基于变量重要性的加权K-近邻法[1] 由于我们计算K-近邻法默认输入变量在距离测度中有“同等重要”的贡献，但情况并不总是如此。我们知道不同的变量对我们所要预测的变量的作用是不一定一样的，所以找出对输出变量分类预测有意义的重要变量对数据预测具有重要作用。同时也可以减少那些对输出变量分类预测无意义的输入变量，减少模型的变量。为此，采用基于变量重要性的K-近邻法，计算加权距离，给重要的变量赋予较高的权重，不重要的变量赋予较低的权重是必要的。 （1）算法思路： 我们引进1w 为第i 个输入变量的权重，是输入变量重要性（也称特征重要性），FI 函数，定义为：∑== p j i FI FI 1 ) i ()((i)w 。其中(i)FI 为第i 个输入变量的特征重要性， ∑=<1,1w )((i)i w 这里，(i)FI 依第i 个输入变量对预测误差的影响定义。设输入 变量集合包含p 个变量：p x x x x ,...,,,321。剔除第i 个变量后计算输入变量
数据挖掘考试复习资料
数据挖掘考试复习资料 一、名词解释 1、数据仓库：面向主题的、集成的、非易失的、是随时间变化的数据集合， 用来支持管理决策。 2、聚类：将物理或抽象对象的集合分成由类似的对象组成的多个类的过程被 称为聚类 3、数据挖掘：从大量的数据中挖掘那些令人感兴趣的、有用的、隐含的、先 前未知的和可能有用的模式或知识 4、人工神经网络：人工神经网络是一种应用类似于大脑神经突触联接的结构 进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。 5、文本挖掘：文本数据挖掘(Text Mining)是指从文本数据中抽取有价值的 信息和知识的计算机处理技术 6、OLAP：又称联机分析处理，是使分析人员、管理人员或执行人员能够从 多种角度对从原始数据中转化出来的、能够真正为用户所理解的、并真实反映企业为特性的信息进行快速、一致、交互地存取，从而获得对数据的更深入了解的一类软件技术。 定义1：OLAP是针对特定问题的联机数据访问和分析。通过对信息(维数据)的多种可能的观察形式进行快速、稳定一致和交互性的存取，允许管理决策人员对数据进行深入地观察。 定义2：OLAP是使分析人员、管理人员或执行人员能够从多种角度对从原始数据中转化出来的、能够真正为用户所理解的、并真实反映企业“维”特性的信息进行快速、一致、交互地存取，从而获得对数据的更深入了解的一类软件技术。） 7、概念描述：就是对目标类对象的内涵进行描述，并概括这类对象的有关特 征。特征化：提供给定数据汇集的简洁汇总 比较：提供两个或多个数据汇集的比较描述 8、信息熵：在信息论中，熵被用来衡量一个随机变量出现的期望值。它代表 了在被接收之前，信号传输过程中损失的信息量，又被称为信息熵。信息熵也称信源熵、平均自信息量。