文档库 最新最全的文档下载
当前位置:文档库 › 数据挖掘

数据挖掘

数据挖掘
数据挖掘

======================第一章===========================

1.给出下列英文缩写或短语的中文名称和简单的含义

(1)Data Mining 数据挖掘:从大量数据中提取或者“挖掘”知识。

(2)Artificial intelligence 人工智能:是研究开发用于模拟延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的术学科。

(3)Machine learning 机器学习:人工智能的一个子领域,主要关注与开发一些让计算机可以自动“学习”的技术。

(4)Knowledge engineering 知识工程:人工智能在知识信息处理方面的发展,研究如何由计算机表示知识,进行问题的自动求解。

(5)Information retrieval 信息检索:指将信息按一定的方式组织和存储起来,并根据信息用户的需要找出有关的过程和技术。

(6)Data visualization 数据可视化:是关于数据之视觉表现形式的研究。

2.给出下列英文缩写或短语的中文名称和简单的含义:

(1)OLTP(on-line transaction processing) 联机事务处理:是推动和管理面向事务的应用程序的一类程序,典型地针对数据输入和恢复事务处理。

(2)OLAP(on-line analytic processing) 联机分析处理:使分析人员,管理人员或执行人员能够从多角度对信息进行快速一致,交互地存取,从而获得对数据的更深入了解的一类软件技术。

(3)decision support 决策支持:为决策者提供分析问题,建立模型,模拟决策过程和方案的环境

(4)KDD(knowledge Discovery in databases) 从数据集中识别出有效地、新颖的、潜在有用的,以及最终可以理解的模式的非平凡过程。

(5)transaction database 事务数据库:由一个文件组成,其中每个记录代表一个事务的集合

(6)distributed database 分布式数据库:是用计算机网络将物理上分散的多个数据库单元连接起来组成一个逻辑统一的数据库。

3.数据(data)、信息(information)和知识(knowledge)是人们认识和利用数据的三个不同阶段,数据挖掘技术是如何把它们有机的结合在一起的?

客观世界---(收集)---》数据---(分析)---》信息---(深入分析)---》知识---(决策与行动)---》客观世界。

8.从数据挖掘研究角度看如何理解数据、信息和知识的不同和联系?

数据时原材料他只是描述发生了什么事,并不能构成决策或行动的可靠基础。通过对数据进行分析找出其中关系,赋予数据以某种意义和关联,就形成所谓信息。信息虽给出了数据中一些有定义意义的东西,但它往往和人们需要完成的任务没有直接的关系,也还不能做为判断,决策和行动的依据,而所谓知识,可定义为信息块的一组逻辑联系其关系式通过上下文或过程的贴近度发现的。

9.简述数据挖掘技术将来的发展趋势

1)、形式化描述的语言

2)、可视化的数据挖掘过程

3)、web网络中数据挖掘的应用

4)、融合各种异构数据的挖掘技术

5)、处理的数据将会涉及到更多的数据类型

6)、交互式发现

7)、知识的维护更新

11、你认为应该如何来理解KDD和data mining的关系?说明你的理由?

在某些时候可以认为data mining就是KDD,但data mining所包含的范围相对比较小一点。Data mining简单地讲就是从大量数据中挖掘或抽取出知识,而KDD它是一个从大量数据中抽取挖掘出未知的,有价值的模式或规律等知识的复杂过程。

12.解释data mining理解为KDD整个过程的一个关键步骤的合理性?

都是利用智能方法挖掘数据模式或规律知识

=========================第二章====================

1.KDD是一个多步骤的处理过程,它一般包含哪些基本阶段?简述各阶段的功能。

KDD是一个多步骤的处理过程,一般分为问题定义、数据抽取、数据预处理、数据挖掘以及模式评估等基本阶段。

(1)问题定义阶段的功能:和领域专家以及最终用户紧密协作,一方面了解相关领域的有关情况,熟悉背景知识,弄清用户要求,确定挖掘目标等要求;另一方面通过对各种学习算法的对比而确定可用的学习算法。

(2)数据抽取阶段的功能:选取相应的源数据库,并根据要求从数据库中提取相关的数据。

(3)数据预处理阶段的功能:对前一阶段抽取的数据进行再加工,检查数据的完整性及数据的一致性。

(4)数据挖掘阶段的功能:运用选定的数据挖掘算法,从数据中提取出用户所需要的知识。

(5)模式评价阶段的功能:将KDD系统发现的知识以用户能了解的方式呈现,并且根据需要进行知识的评价。如果发现知识和用户挖掘的目标不一致,则重复以上阶段以最终获得可用知识。

5.阶梯处理过程模型是知识发现的基本模式,画出它的基本处理流程,并简要说明各阶段的任务。

图参考课本P43页图2-1KDD阶梯处理过程模型;

源数据—(数据选择)—>目标数据—(数据预处理)—>预处理后的数据—(数据缩减)—>缩减后的数据—(数据挖掘)—>模式—(模式解释与评估)—>知识各阶段任务:

(1)数据准备:了解相关领域的情况,弄清楚用户的要求,确定挖掘的总体目标和方法,并对原数据结构加以分析、确定数据选择原则等工作。

(2)数据选择:从数据库中提取与KDD目标相关的数据。

(3)数据预处理:主要是对上一阶段产生的数据进行再加工,检查数据的完整性及数据一致性,对其中的噪音数据进行处理、对丢失的数据可以利用统计方法进行填补。对一些不适合于操作的数据进行必要的处理等。

(4)数据缩减:对经过溢出的数据,根据知识发现的任务对数据进行抽取处理,是数据再次精简取其精华,更好地集中于用户挖掘目标上。

(5)确定KDD的目标:根据挖掘的目标和用户的要求,确定KDD发现的具体知识模式和类型。

(6)确定数据挖掘算法:根据上一阶段所确定的模式,选择合适的数据挖掘算法。(7)数据挖掘:运用选定的算法,从数据中提取出用户所需要的知识。

(8)模式解释:对发现的模式进行解释。在此过程中,为了取得更为有效的知识,可能会返回前面处理不重的某些步以改进结果,保证提取出的知识是有效和可用的。

(9)知识评价:将发现的知识以用户能了解的方式呈现给用户。这期间也包含对知识的一致性和检查,以确信本次发现的知识不与以前发现的知识相抵触。

8.联机KDD模型需要解决那些问题?

完善可视化技术;对可视化数据挖掘的统一框架进行探索,也需要对某一个方面的问题探索不同的解决方法。

9.知识发现软件或工具的发展经历哪三个主要阶段?简述他们的主要特点。

知识发现软件或工具的发展经历了独立的知识发现软件、横向的知识发现工具和纵向的知识发现解决法案三个主要阶段。

(1)独立的知识发现软件:这类软件要求用户必须对具体的数据挖掘技术和算法有相当了解,还要手工负责大量的数据预处理工作。

(2)横向的知识发现工具:这些集成软件属于通用辅助工具范畴,可以帮助用户快速完成知识发现的不同阶段处理工作。使用这些工具,用户可以在数据挖掘和知识发现专家的指导和参与下开发对应的应用,起到了加速应用研制的作用。比如:DBMiner,Quest, IBM Intelligent Miner, Darwin,ReMind.

(3)纵向的知识发现解决方案:这种方法的核心是对特定的商业领域和商业逻辑提供完整的数据挖掘和知识发现解决方案。

12.简述强度挖掘的I-MIN过程模型的主要阶段和任务。

主要分成IM1、IM2、...、IM6等步骤处理。

任务:IM1:是KDD项目的计划阶段,需要确定企业的挖掘目标,选择知识发现模式,编译知识发现模式得到元数据。

IM2:是KDD的预处理阶段,可以用IM2a、IM2c、等分别对应于数据清洗、数据选择和数据转换等阶段。

IM3:是KDD的挖掘准备阶段数据挖掘工程师进行挖掘实验,反复测试和验证模型的有效性。

IM4:是KDD的数据挖掘阶段,用户通过指定数据挖掘算法得到对应的知识。

IM5:是KDD的知识表示阶段,按指定要求形成规格化的知识。

IM6:是KDD的知识解释与使用阶段。

13简述数据挖掘语言的三中基本类型和特点。

根据功能和侧重点不同,数据挖掘语言可以分为三种类型:数据挖掘查询语言、数据挖掘建模语言、通用数据挖掘语言。

(1)数据挖掘查询语言:遵循类似SQL的语法,通过数据挖掘任务、功能以及其他约束指定、知识形成和展示等系列工作,以类似于查询的形式输入到数据挖掘系统,通过数据

挖掘系统产生对应的结果。

(2)数据挖掘建模语言:是对数据挖掘模型进行描述和定义语言。数据挖掘系统在模型定义和描述方面有标准可以遵循,那么各系统之间可以共享模型,既可以解决目前各数据挖掘系统之间封闭性的问题,又可以在其他应用系统中嵌入数据挖掘模型,解决统一的知识发现描述问题。

(3)通用数据挖掘语言:通用数据挖掘语言合并上了上述两种语言的特点,既具有定义模型的功能,又能作为查询语言与数据挖掘系统通信,进行交互式挖掘。

14.为什么说数据挖掘语言研制对数据挖掘技术的发展是至关重要的?

因为数据挖掘系统的期望特点是能够支持特别的和交互的数据挖掘,以利用灵活和有效地知识发现。它促进了信息交换和技术转换,推动了数据库的商品化和广泛接受,并成为数据可系统的成功开发、商品化、标准化的重用要性

==============================第三章====================================

1. 简单地描述下列英文缩写或短语的含义。

(1)Parallel Association Rule Mining

并行关联规则挖掘:是指利用并行处理机、使用挖掘算法或在并行计算的环境下完成数据的高效挖掘工作。

(2)Quantities Association Rule Mining

数量关联规则挖掘:指对含有非离散的数值属性的数据进行挖掘的技术。

(3)Frequent Itemset

频繁项目集:是指出现频率高的项目对应的集合,反映交易数据中项目出现的频度信息。(4)Maximal Frequent Itemset

最大频繁项目集:是指频繁项目集中不出现相互包含的项目子集。

(5)Closed Itemset

关闭项目集:简单地说,对于一个关闭项目集的任何元素,要么不被任何元素所包含,要么只被小于它的支持度的元素所包含。

2. 解析下列概念:

(1)多层次挖掘关联规则

(2)多维关联规则

(3)事务数据库

(4)购物篮分析

(5)强关联规则

1、由具有概念分层的关联规则挖掘产生的规则称为多层关联规则。

2、在关联规则中的项或属性每个涉及多个维,则它就是多维关联规则。

3、数据库事务是指作为单个逻辑工作单元执行的一系列操作。

4、通过支持度和置信度这两个值来衡量两个商品会被一起购买的分析方法。

5、同时满足最小支持度阀值(min_sup)和最小置信度阀值(min_conf)的规则称为强关联规则。

3. 给出一个项目集I1在数据集D上的支持度(Support)的定义,并直观地解释它的含义。

设I1?I,项目集I1在数据集D上的支持度是包含I1的事务在D中所占的百分比。直观

上说,一个项目集在一个数据集D上的支持度反映了这个项目集在数据集中出现的频率。

6.以购物篮应用为例说明挖掘频繁项目集所蕴含的商业价值。

假如你是ALLElectronics的分店经理,你想更加了解你的顾客的购物习惯。例如,你想知道“什么商品组成集合顾客多半会在一次购物时同时就购买?”,你可以在你的商店顾客事务零售数据上运行购物篮分析。分析结构可以用于市场规划、广告策划、分类设计。例如,购物篮分析可以帮助经理设计部同的商店布局。一种策略是:经常一块购物的商品可以放近一些,以便进一步刺激这些商品一起销售。例如:如果顾客购买计算机业倾向于同时购买财务软件,便将硬件摆放离软件陈列近一点。另一种策略是:将硬件和软件放在商店的两端,可能诱发买这些商品的顾客一路挑选其它商品。

7.给出一个规则的可信度(Confidence)的定义,并直观地解释它的含义。

给定一个被讨论的项目集I和数据库D,规则I1=>I2的可信度是指包含I1和I2的事务数在只包含I1的事务数所占的百分比例。利用支持度定义可以描述为:

Confidence(I1=>I2) =Support(I1I2

∪)/ Support(I1),其中I1,I2?I,I1∩I2=Ф。

9.一般地,在一个事物数据库中挖掘关联规则通过哪两个主要步骤完成,各步骤的主要如何和目标是什么?

(1)发现频繁项目集:通过用户给定的最小支持度,寻找所有频繁项目集,即满足Support不小于最小支持度的所有项目子集。

(2)生成关联规则:通过用户给定的最小可信度,在已经发现的最大频繁项目中,寻找可信度不小于用户给定的最小可信度的关联规则。

13.给定如表A3-1所示的一个事务数据库,写出Apriori算法生成频繁项目集的过程。(假设Minsuport=50%)

L1生成:C1={(a,4)(b,2)(c,3)(d,4)(e,3)(f,4);

L1={a,c,d,e,f};

L2生成:C2={(ac,2)(ad,4)(ae,3)(af,3)(cd,2)(ce,2)(cf,2)(de,3)(df,3)(ef,2);

L2={ad,ae,af,de,df};

L3生成:C3={(ade,3)(adf,3)(def,2);L3={ade,adf};

L4生成:C4:{(adef,2)};L4=Φ

最大的频繁项目集为{ade,adf}

15.对上上面的第13题所生成的最大频繁项目集,跟踪Rule-generate来生成对已的关联规则(设minconfidence=80%)

参考答案:

序号Lk Xm-1

Confidence Support规则(是否是强规则)

1 2 3 4 5 6 7 8 9

10

11

12 ade

ade

ade

ade

ade

ade

adf

adf

adf

adf

adf

adf

ad

a

d

ae

e

de

ad

a

d

af

f

df

75%

75%

75%

100%

100%

100%

75%

75%

75%

100%

75%

100%

60%

60%

60%

60%

60%

60%

60%

60%

60%

60%

60%

60%

ad->e 否

a->de否

d->ae否

ae->d是

e->ad是

de->a是

ad->f否

a->df否

d->af否

af->d是

f->ad否

df->a是

17.Apriori算法的主要性能瓶颈是什么?

(1) 多次扫描事务数据库,需要很大的I/O负载;

(2) 可能产生庞大的候选集,由Lk-1产生K-候选集CK是指数增长的。

18.针对Apriori算法的主要性能瓶颈提出你的改进想法。

(1)数据分割方法:

基本思想:首先把大容量数据库从逻辑上分成几个互不相交的块,每块应用挖掘算法生成局部的频繁项目集,然后把这些局部的频繁项目集作为候选的全局频繁项目集,通过测试他们的支持度来得到最终的全局频繁项目集。

改进方面:合理利用主存空间,数据分割为块内数据一次性导入主存提供机会; 支持并行挖掘算法。

保证算法完整性:设数据集D被分割成分块D1,D2,...,Dn,全局最小支持度为minsup_count,数据分块Di的局部最小支持度记为minsup_counti(i=1,2,...,n), 那么局部最小支持度minsup_counti按照如下方法生成: minsup_counti=minsup_count*||Di||/||D||,可以保证所有的局部频繁项目集成为全局频繁项目集的候选(即所有的局部频繁项目集涵盖全局频繁项目集)。

(2)基于散列(hash)的方法:

基本思想:频繁项目集主要计算是在生成2-频繁项目集L2上。因此提出了改进产生2-频繁项目集的方法。这种方法把扫描的项目放到不同的hash桶中,每对项目最多只可能在一个特定的桶中。这样可以对每个桶中的项目子集进行测试,减少了候选集生成的代价,这种方法也可以扩展倒任意的k-频繁项目集生成上。

(3)基于采样(sampling)的方法:

基本思想:先使用数据库的抽样数据得到一些可能成立的规则,然后利用数据库的剩余部分验证这些关联规则是否正确。

改进方面:降低I/O代价,但是抽样数据的选取以及由此而产生的结果偏差过大,即存在所谓的数据扭曲问题。从本质上说,使用一个抽样样本而不使用整个数据集的主要原因是效率问题。

19.基于数据分割(Partition)的方法可以改善Apriori算法的效率。阐述它的理由.

(1)合理利用主存空间。数据分割为块内数据一次性导入主存提供机会,因而提高对大容量数据集的挖掘效率。

(2)支持平行挖掘算法。

21.基于散列(Hash)的方法,可以改善Apriori算法的效率。阐述它的理由。

使用散列的方法产生频繁项目集,可以改善Apriori算法的效率,主要是因为散列拥有能够快速查找元素的特性。这种方法把扫描的项目放到不同的哈希桶中,每个项目集最多只能在一个特定的桶中。这样可以对每个桶的项目子集进行测试,减少了候选集的生成代价。

22.除了上面提高的技术可以用于改善Apriori算法的效率以外,你认为还有哪些技术可以被应用来解决问题。

Close算法

基本原理和思想:(1)一个频繁闭合项目集的所有闭合项目子集一定是频繁的(2)一个非频繁闭合项目集的所有闭合超级一定是非频繁的

(3)查找闭合项目集的方法:取出数据库的一项,记为t,如果对应的产生式p是t的子集而且它的闭合为空,则把t记为p的闭合。如果不为空,则把p的闭合与t的交集作为p的新闭合。

(4)连接和剪枝同Apriori,但是新增了一个步骤:对于FCCi+1的每个产生式p,将FCi的产生式中是p的子集放在Sp中(因为已经进行了非频繁子集的修剪,所以p的所有i项子集都存在于FCi中)。对于Sp的每一项s,如果p是s的闭合的子集(注意是闭合的子集,不是等于闭合),则p的闭合就等于s的闭合,因此需要把它从FCCi+1中删除。

改进:对特殊数据是可以减少数据库扫描次数的,由于实际上既是频繁的又是闭合的项目集的比例比频繁项目集的比例要小很多。所以算法改进在某些情况下是提高了数据库扫描次数。

FP-Tree算法

基本原理和思想:只进行2次数据库扫描,不使用候选集,直接压缩数据库成一个频繁模式树,最后通过这棵树生成挂链规则。基本过程如下:

(1) 按Apriori算法,扫描数据库一次生成1-频繁集,并把它们按照降序排序,放入L表中。

(2) 创建根节点,并标志为null,扫描数据库一次,当得到数据库的一个项目集时,就把其中的元素按L表的次序排序,然后递归调用FP-growth来实现FP-tree增长。

26.比较Apriori算法,阐述FP-tree的算法的优缺点。

不可以动态地更新数据,但可以减少I/O操作

27给定如表A3-4所示的一个事物数据库,画出FP-tree的生成过程。

最终生成树为:

33.多层次关联规则挖掘有两种基本策略,简述他们可能存在的主要问题及相关对策

(1)统一的最小支持度:对于所有层次,都使用同一个最小支持度。这样对于用户和算法实现来说,相对容易,而且很容易支持层间的关联规则生成。但弊端也是显然的。首先,不同层次可能考虑问题的精度不同,面向的用户群不同。对于一些用户,可能觉得支持度太小,产生了过多不感兴趣的规则。而对于另外用户来说,又认为支持度太大,有用信息丢失过多。

(2)不同层次使用不同的最小支持度:每个层次都有自己的最小支持度。较底层次的

最小支持度相对较小,而较高层次的最小支持度相对较大。这种方法增加了挖掘的灵活性。但是,也留下了许多相关问题需要解决。首先,不同层次间的支持度应该所有关联,只有正确地刻画这种联系或找到转换方法,才能使生成的规则相对客观。另外,由于具有不同的支持度,层间的关联规则挖掘也是必须解决的问题。

34为什么层次关联挖掘可能产生规则冗余问题,你认为应该如何有效地避免这些冗余可能带来的问题?

因为在挖掘的过程中很可能像挖到这样的数据对象,规则“夏季服装—》酸奶“完全包含规则”衬衫—》酸奶“的信息。有时可能需要考虑不到规则的部分包含问题,规则的合并问题等。因此对于多层次关联规则挖掘需要根据具体情况确定合适的挖掘策略。

35举例说明单维关联规则和多维关联规则的区别

多维和单维关联规则的主要的区别在于维数。

===============================第四章===================================

1、简单地描述下列英文缩写或短语的含义

a) Data classification 数据分类

b) K-nearest neighbors k-最临近方法

c) Decision tree 决策树

d) Entropy 熵

e) Posterior probability 后验概率

2、数据分类分为哪两个步骤?简述每步的基本任务。

步骤:1、建立一个模型,描述预定的数据类集或概念集

2、使用模型进行分类

3、决策树分类算法通常分为两个步骤:决策树生成和决策树修剪

===============================第五章===================================

1、简单地描述下列英文缩写或短语的含义

a) Partitioning methods 划分法

b) Hierarchical methods 层次法

c) Density-based methods 基于密度的方法

d) Grid-based methods 基于网络的方法

2、简单地描述下列英文缩写或短语的含义

a) PAM:围绕中心点划分,是最早提出的k-中心点算法之一,它选用簇中位置最中心的对象作为代表对象,试图对n个对象给出k个划分。

b) STING:是一种基于网络的多分辨率聚类技术,它将空间区域划分为矩形单元。

c) DBSCAN :是一个基于密度的聚类算法。它将簇定义为密度相连的点的最大集合,能够把具有足够高密度的区域划分为簇,并可在有“噪声”的空间数据库中发现任意形态的聚类。

3、简述聚类的基本概念

聚类就是将数据对象分组成为多个类或簇,划分的原则是在同一个簇中的对象之间具有较高的相似度,而不同簇中的对象差别较大。

4、你认为一个好的聚类算法应该具备哪些特性?

a) 可伸缩性

b) 具有处理不同类型属性的能力

c) 能够发现任意形状的聚类

d) 输入参数对领域知识的弱依赖性

e) 对与输入记录顺序不敏感

f) 挖掘算法应该具有处理高维数据的能力

g) 处理噪声数据的能力

h) 基于约束的聚类

i) 挖掘出来的信息是可理解的和可用的

5、哪种聚类算法对噪声数据不明显,可以发现不规则的类?

a) 密度聚类

6、简述划分聚类方法的主要思想。

给定一个有n个对象的数据集,划分聚类技术将构造数据k个划分,每一个划分就代表一个簇,k<=n。

划分满足下面条件:每一个簇至少包含一个对象

每一个对象属于且仅属于一个簇。

7、举例说明k-平均算法的主要思想。

数据挖掘试题与答案

一、解答题(满分30分,每小题5分) 1. 怎样理解数据挖掘和知识发现的关系?请详细阐述之 首先从数据源中抽取感兴趣的数据,并把它组织成适合挖掘的数据组织形式;然后,调用相应的算法生成所需的知识;最后对生成的知识模式进行评估,并把有价值的知识集成到企业的智能系统中。 知识发现是一个指出数据中有效、崭新、潜在的、有价值的、一个不可忽视的流程,其最终目标是掌握数据的模式。流程步骤:先理解要应用的领域、熟悉相关知识,接着建立目标数据集,并专注所选择的数据子集;再作数据预处理,剔除错误或不一致的数据;然后进行数据简化与转换工作;再通过数据挖掘的技术程序成为模式、做回归分析或找出分类模型;最后经过解释和评价成为有用的信息。 2. 时间序列数据挖掘的方法有哪些,请详细阐述之 时间序列数据挖掘的方法有: 1)、确定性时间序列预测方法:对于平稳变化特征的时间序列来说,假设未来行为与现在的行为有关,利用属性现在的值预测将来的值是可行的。例如,要预测下周某种商品的销售额,可以用最近一段时间的实际销售量来建立预测模型。 2)、随机时间序列预测方法:通过建立随机模型,对随机时间序列进行分析,可以预测未来值。若时间序列是平稳的,可以用自回归(Auto Regressive,简称AR)模型、移动回归模型(Moving Average,简称MA)或自回归移动平均(Auto Regressive Moving Average,简称ARMA)模型进行分析预测。 3)、其他方法:可用于时间序列预测的方法很多,其中比较成功的是神经网络。由于大量的时间序列是非平稳的,因此特征参数和数据分布随着时间的推移而变化。假如通过对某段历史数据的训练,通过数学统计模型估计神经网络的各层权重参数初值,就可能建立神经网络预测模型,用于时间序列的预测。

用MATLAB实现数据挖掘的一种算法

一、数据挖掘的目的 数据挖掘(Data Mining)阶段首先要确定挖掘的任务或目的。数据挖掘的目的就是得出隐藏在数据中的有价值的信息。数据挖掘是一门涉及面很广的交叉学科,包括器学习、数理统计、神经网络、数据库、模式识别、粗糙集、模糊数学等相关技术。它也常被称为“知识发现”。知识发现(KDD)被认为是从数据中发现有用知识的整个过程。数据挖掘被认为是KDD过程中的一个特定步骤,它用专门算法从数据中抽取模式(patter,如数据分类、聚类、关联规则发现或序列模式发现等。数据挖掘主要步骤是:数据准备、数据挖掘、结果的解释评估。二、数据挖掘算法说明 确定了挖掘任务后,就要决定使用什么样的挖掘算法。由于条件属性在各样本的分布特性和所反映的主观特性的不同, 每一个样本对应于真实情况的局部映射。建立了粗糙集理论中样本知识与信息之间的对应表示关系, 给出了由属性约简求约简决策表的方法。基于后离散化策略处理连续属性, 实现离散效率和信息损失之间的动态折衷。提出相对值条件互信息的概念衡量单一样本中各条件属性的相关性, 可以充分利用现有数据处理不完备信息系统。 本次数据挖掘的方法是两种,一是找到若干条特殊样本,而是找出若干条特殊条件属性。最后利用这些样本和属性找出关联规则。(第四部分详细讲解样本和属性的选择) 三数据预处理过程 数据预处理一般包括消除噪声、推导计算缺值数据、消除重复记录、完成数据类型转换(如把连续值数据转换为离散型数据,以便于符号归纳,或是把离散型数据转换为连续)。 本文使用的数据来源是名为“CardiologyCategorical”的excel文件中的“源数据”。该数据表共303行,14个属性。即共有303个样本。将该数据表的前200行设为训练样本,剩下后的103行作为测试样本,用基于粗糙集理论的属性约简的方法生成相应的规则,再利用测试样本对这些规则进行测试。 首先对源数据进行预处理,主要包括字符型数据的转化和数据的归一化。 数据预处理的第一步是整理源数据,为了便于matlab读取数据,把非数字数据转换为离散型数字数据。生成lisanhua.xsl文件。这一部分直接在excel工作表中直接进行。 步骤如下: 将属性“sex”中的“Male”用“1”表示,“Female”用“2”表示; 将属性“chest pain type”中的“Asymptomatic”用“1”表示,“Abnormal Angina”用“2”表示,“Angina”用“3”表示,“NoTang”用“4”表示;

《数据挖掘》试题与标准答案

一、解答题(满分30分,每小题5分) 1. 怎样理解数据挖掘和知识发现的关系?请详细阐述之 首先从数据源中抽取感兴趣的数据,并把它组织成适合挖掘的数据组织形式;然后,调用相应的算法生成所需的知识;最后对生成的知识模式进行评估,并把有价值的知识集成到企业的智能系统中。 知识发现是一个指出数据中有效、崭新、潜在的、有价值的、一个不可忽视的流程,其最终目标是掌握数据的模式。流程步骤:先理解要应用的领域、熟悉相关知识,接着建立目标数据集,并专注所选择的数据子集;再作数据预处理,剔除错误或不一致的数据;然后进行数据简化与转换工作;再通过数据挖掘的技术程序成为模式、做回归分析或找出分类模型;最后经过解释和评价成为有用的信息。 2.时间序列数据挖掘的方法有哪些,请详细阐述之 时间序列数据挖掘的方法有: 1)、确定性时间序列预测方法:对于平稳变化特征的时间序列来说,假设未来行为与现在的行为有关,利用属性现在的值预测将来的值是可行的。例如,要预测下周某种商品的销售额,可以用最近一段时间的实际销售量来建立预测模型。 2)、随机时间序列预测方法:通过建立随机模型,对随机时间序列进行分析,可以预测未来值。若时间序列是平稳的,可以用自回归(Auto Regressive,简称AR)模型、移动回归模型(Moving Average,简称MA)或自回归移动平均(Auto Regressive Moving Average,简称ARMA)模型进行分析预测。 3)、其他方法:可用于时间序列预测的方法很多,其中比较成功的是神经网络。由于大量的时间序列是非平稳的,因此特征参数和数据分布随着时间的推移而变化。假如通过对某段历史数据的训练,通过数学统计模型估计神经网络的各层权重参数初值,就可能建立神经网络预测模型,用于时间序列的预测。

数据挖掘研究现状及发展趋势

数据挖掘研究现状及发展趋势摘要:从数据挖掘的定义出发,介绍了数据挖掘的神经网络法、决策树法、遗传算法、粗糙集法、模糊集法和关联规则法等概念及其各自的优缺点;详细总结了国内外数据挖掘的研究现状及研究热点,指出了数据挖掘的发展趋势。 关键词:数据挖掘;挖掘算法;神经网络;决策树;粗糙集;模糊集;研究现状;发展趋势 Abstract:From the definition of data mining,the paper introduced concepts and advantages and disadvantages of neural network algorithm,decision tree algorithm,genetic algorithm,rough set method,fuzzy set method and association rule method of data mining,summarized domestic and international research situation and focus of data mining in details,and pointed out the development trend of data mining. Key words:data mining,algorithm of data mining,neural network,decision tree,rough set,fuzzy set,research situation,development tendency 1引言 随着信息技术的迅猛发展,许多行业如商业、企业、科研机构和政府部门等都积累了海量的、不同形式存储的数据资料[1]。这些海量数据中往往隐含着各种各样有用的信息,仅仅依靠数据库的查询检索机制和统计学方法很难获得这些信息,迫切需要能自动地、智能地将待处理的数据转化为有价值的信息,从而达到为决策服务的目的。在这种情况下,一个新的技术———数据挖掘(Data Mining,DM)技术应运而生[2]。 数据挖掘是一个多学科领域,它融合了数据库技术、人工智能、机器学习、统计学、知识工程、信息检索等最新技术的研究成果,其应用非常广泛。只要是有分析价值的数据库,都可以利用数据挖掘工具来挖掘有用的信息。数据挖掘典型的应用领域包括市场、工业生产、金融、医学、科学研究、工程诊断等。本文主要介绍数据挖掘的主要算法及其各自的优缺点,并对国内外的研究现状及研究热点进行了详细的总结,最后指出其发展趋势及问题所在。 江西理工大学

数据挖掘报告

哈尔滨工业大学 数据挖掘理论与算法实验报告(2016年度秋季学期) 课程编码S1300019C 授课教师邹兆年 学生姓名汪瑞 学号 16S003011 学院计算机学院

一、实验内容 决策树算法是一种有监督学习的分类算法;kmeans是一种无监督的聚类算法。 本次实验实现了以上两种算法。在决策树算法中采用了不同的样本划分方式、不同的分支属性的选择标准。在kmeans算法中,比较了不同初始质心产生的差异。 本实验主要使用python语言实现,使用了sklearn包作为实验工具。 二、实验设计 1.决策树算法 1.1读取数据集 本次实验主要使用的数据集是汽车价值数据。有6个属性,命名和属性值分别如下: buying: vhigh, high, med, low. maint: vhigh, high, med, low. doors: 2, 3, 4, 5more. persons: 2, 4, more. lug_boot: small, med, big. safety: low, med, high. 分类属性是汽车价值,共4类,如下: class values:unacc, acc, good, vgood 该数据集不存在空缺值。

由于sklearn.tree只能使用数值数据,因此需要对数据进行预处理,将所有标签类属性值转换为整形。 1.2数据集划分 数据集预处理完毕后,对该数据进行数据集划分。数据集划分方法有hold-out法、k-fold交叉验证法以及有放回抽样法(boottrap)。 Hold—out法在pthon中的实现是使用如下语句: 其中,cv是sklearn中cross_validation包,train_test_split 方法的参数分别是数据集、数据集大小、测试集所占比、随机生成方法的可

数据挖掘-题库带答案

数据挖掘-题库带答案 1、最早提出“大数据”时代到来的是全球知名咨询公司麦肯锡() 答案:正确 2、决策将日益基于数据和分析而作出,而并非基于经验和直觉() 答案:错误 解析:决策将日益基于数据和分析而作出,而并非基于经验和直觉 3、2011年被许多国外媒体和专家称为“大数据元年”() 答案:错误 解析:2013年被许多国外媒体和专家称为“大数据元年” 4、我国网民数量居世界之首,每天产生的数据量也位于世界前列() 答案:正确 5、商务智能的联机分析处理工具依赖于数据库和数据挖掘。() 答案:错误 解析:商务智能的联机分析处理工具依赖于数据仓库和多维数据挖掘。 6、数据整合、处理、校验在目前已经统称为 EL() 答案:错误 解析:数据整合、处理、校验在目前已经统称为 ETL 7、大数据时代的主要特征() A、数据量大 B、类型繁多 C、价值密度低 D、速度快时效高 答案: ABCD 8、下列哪项不是大数据时代的热门技术() A、数据整合 B、数据预处理 C、数据可视化 D、 SQL

答案: D 9、()是一种统计或数据挖掘解决方案,包含可在结构化和非结构化数据中使用以确定未来结果的算法和技术。 A、预测 B、分析 C、预测分析 D、分析预测 答案: C 10、大数据发展的前提? 答案: 解析:硬件成本的降低,网络带宽的提升,云计算的兴起,网络技术的发展,智能终端的普及,电子商务、社交网络、电子地图等的全面应用,物联网的兴起 11、调研、分析大数据发展的现状与应用领域。? 答案: 解析:略 12、大数据时代的主要特征? 答案: 解析:数据量大(Volume) 第一个特征是数据量大。大数据的起始计量单位至少是P(1000个T)、E(100万个T)或Z(10亿个T)。 类型繁多(Variety) 第二个特征是数据类型繁多。包括网络日志、音频、视频、图片、地理位置信息等等,多类型的数据对数据的处理能力提出了更高的要求。 价值密度低(Value) 第三个特征是数据价值密度相对较低。如随着物联网的广泛应用,信息感知无处不在,信息海量,但价值密度较低,如何通过强大的机器算法更迅速地完成数据的价值“提纯”,是大数据时代亟待解决的难题。 速度快、时效高(Velocity) 第四个特征是处理速度快,时效性要求高。这是大数据区分于传统数据挖掘最显著的特征。 13、列举大数据时代的主要技术? 答案: 解析:预测分析: 预测分析是一种统计或数据挖掘解决方案,包含可在结构化和非结构化数据中使用以确定未来结果的算法和技术。可为预测、优化、预报和模拟等许多其他用途而部署。随着现在硬件和软件解决方案的成熟,许多公司利用大数据技术来收集海量数据、训练模型、优化模型,并发布预测模型来提高业务

19款最好用的免费数据挖掘工具大汇总

数据在当今世界意味着金钱。随着向基于app的世界的过渡,数据呈指数增长。然而,大多数数据是非结构化的,因此需要一个过程和方法从数据中提取有用的信息,并将其转换为可理解的和可用的形式。 数据挖掘或“数据库中的知识发现”是通过人工智能、机器学习、统计和数据库系统发现大数据集中的模式的过程。 免费的数据挖掘工具包括从完整的模型开发环境如Knime和Orange,到各种用Java、c++编写的库,最常见的是Python。数据挖掘中通常涉及到四种任务: 分类:将熟悉的结构概括为新数据的任务 聚类:在数据中以某种方式查找组和结构的任务,而不需要在数据中使用已注意的结构。 关联规则学习:查找变量之间的关系 回归:旨在找到一个函数,用最小的错误来模拟数据。 下面列出了用于数据挖掘的免费软件工具 数据挖掘工具 1.Rapid Miner

Rapid Miner,原名YALE又一个学习环境,是一个用于机器学习和数据挖掘实验的环境,用 于研究和实际的数据挖掘任务。毫无疑问,这是世界领先的数据挖掘开源系统。该工具以Java编程语言编写,通过基于模板的框架提供高级分析。 它使得实验可以由大量的可任意嵌套的操作符组成,这些操作符在xmxxxxl文件中是详细的,并且是由快速的Miner的图形用户界面完成的。最好的是用户不需要编写代码。它已经有许 多模板和其他工具,让我们可以轻松地分析数据。 2. IBM SPSS Modeler

IBM SPSS Modeler工具工作台最适合处理文本分析等大型项目,其可视化界面非常有价值。它允许您在不编程的情况下生成各种数据挖掘算法。它也可以用于异常检测、贝叶斯网络、CARMA、Cox回归以及使用多层感知器进行反向传播学习的基本神经网络。 3.Oracle Data Mining

大数据时代下的数据挖掘试题和答案及解析

A. 变量代换 B. 离散化 海量数据挖掘技术及工程实践》题目 、单选题(共 80 题) 1) ( D ) 的目的缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且能够得 到 和原始数据相同的分析结果。 A. 数据清洗 B. 数据集成 C. 数据变换 D. 数据归约 2) 某超市研究销售纪录数据后发现,买啤酒的人很大概率也会购买尿布,这种属于数 据挖 掘的哪类问题 (A) A. 关联规则发现 B. 聚类 C. 分类 D. 自然语言处理 3) 以下两种描述分别对应哪两种对分类算法的评价标准 (A) (a) 警察抓小偷,描述警察抓的人中有多少个是小偷的标准。 (b) 描述有多少比例的小偷给警察抓了的标准。 据相分离 (B) 哪一类任务 (C) A. 根据内容检索 B. 建模描述 7) 下面哪种不属于数据预处理的方法 (D) A. Precision,Recall B. Recall,Precision A. Precision,ROC D. Recall,ROC 4) 将原始数据进行集成、 变换、维度规约、数值规约是在以下哪个步骤的任务 (C) 5) A. 频繁模式挖掘 C. 数据预处理 B. D. 当不知道数据所带标签时, 分类和预测 数据流挖掘 可以使用哪种技术促使带同类标签的数据与带其他标签的数 6) A. 分类 C. 关联分析 建立一个模型, B. D. 聚类 隐马尔可夫链 通过这个模型根据已知的变量值来预测其他某个变量值属于数据挖掘的 C. 预测建模 D. 寻找模式和规则

C.聚集 D. 估计遗漏值 8) 假设12 个销售价格记录组已经排序如下:5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频(等深)划分时,15 在第几个箱子内(B) A. 第一个 B. 第二个 C. 第三个 D. 第四个 9) 下面哪个不属于数据的属性类型:(D) A. 标称 B. 序数 C.区间 D. 相异 10) 只有非零值才重要的二元属性被称作:( C ) A. 计数属性 B. 离散属性 C.非对称的二元属性 D. 对称属性 11) 以下哪种方法不属于特征选择的标准方法:(D) A. 嵌入 B. 过滤 C.包装 D. 抽样 12) 下面不属于创建新属性的相关方法的是:(B) A. 特征提取 B. 特征修改 C. 映射数据到新的空间 D. 特征构造 13) 下面哪个属于映射数据到新的空间的方法(A) A. 傅立叶变换 B. 特征加权 C. 渐进抽样 D. 维归约 14) 假设属性income 的最大最小值分别是12000元和98000 元。利用最大最小规范化的方 法将属性的值映射到0 至 1 的范围内。对属性income 的73600 元将被转化为:(D) 15) 一所大学内的各年纪人数分别为:一年级200人,二年级160人,三年级130 人,四年 级110 人。则年级属性的众数是:(A) A. 一年级 B. 二年级 C. 三年级 D. 四年级 16) 下列哪个不是专门用于可视化时间空间数据的技术:(B) A. 等高线图 B. 饼图

大数据挖掘商业案例

1.前言 随着中国加入WTO,国金融市场正在逐步对外开放,外资金融企业的进入在带来先进经营理念的同时,无疑也加剧了中国金融市场的竞争。金融业正在快速发生变化。合并、收购和相关法规的变化带来了空前的机会,也为金融用户提供了更多的选择。节约资金、更完善的服务诱使客户转投到竞争对手那里。即便是网上银行也面临着吸引客户的问题,最有价值的客户可能正离您而去,而您甚至还没有觉察。在这样一种复杂、激烈的竞争环境下,如何才能吸引、增加并保持最好的客户呢? 数据挖掘、模式(Patterns>等形式。用统计分析和数据挖掘解决商务问题。 金融业分析方案可以帮助银行和保险业客户进行交叉销售来增加销售收入、对客户进行细分和细致的行为描述来有效挽留有价值客户、提高市场活动的响应效果、降低市场推广成本、达到有效增加客户数量的目的等。 客户细分―使客户收益最大化的同时最大程度降低风险 市场全球化和购并浪潮使市场竞争日趋激烈,新的管理需求迫切要求金融机构实现业务革新。为在激烈的竞争中脱颖而出,业界领先的金融服务机构正纷纷采用成熟的统计分析和数据挖掘技术,来获取有价值的客户,提高利润率。他们在分析客户特征和产品特征的同时,实现客户细分和市场细分。 数据挖掘实现客户价值的最大化和风险最小化。SPSS预测分析技术能够适应用于各种金融服务,采用实时的预测分析技术,分析来自各种不同数据源-来自ATM、交易、呼叫中心以及相关分支机构的客户数据。采用各种分析技术,发现数据中的潜在价值,使营销活动更具有针对性,提高营销活动的市场回应率,使营销费用优化配置。 客户流失―挽留有价值的客户 在银行业和保险业,客户流失也是一个很大的问题。例如,抵押放款公司希望知道,自己的哪些客户会因为竞争对手采用低息和较宽松条款的手段而流失;保险公司则希望知道如何才能减少取消保单的情况,降低承包成本。 为了留住最有价值的客户,您需要开展有效的保留活动。然而,首先您需要找出最有价值的客户,理解他们的行为。可以在整个客户群的很小一部分中尽可能多地找出潜在的流失者,从而进行有效的保留活动并降低成本。接着按照客户的价值和流失倾向给客户排序,找出最有价值的客户。 交叉销售 在客户关系管理中,交叉销售是一种有助于形成客户对企业忠诚关系的重要工具,有助于企业避开“挤奶式”的饱和竞争市场。由于客户从企业那里获得更多的产品和服务,客户与企业的接触点也就越多,企业就越有机会更深入地了解客户的偏好和购买行为,因此,企业提高满足客户需求的能力就比竞争对手更有效。 研究表明,银行客户关系的年限与其使用的服务数目、银行每个账户的利润率之间,存在着较强的正相关性。企业通过对现有客户进行交叉销售,客户使用企业的服务数目就会增多,客户使用银行服务的年限就会增大,每个客户的利润率也随着增大。 从客户的交易数据和客户的自然属性中寻找、选择最有可能捆绑在一起销售的产品和服务,发现有价值的产品和服务组合,从而有效地向客户提供额外的服务,提高活期收入并提升客户的收益率。

(完整版)数据挖掘概念课后习题答案

第 1 章 1.6 定义下列数据挖掘功能:特征化、区分、关联和相关分析、预测聚类和演变分析。 使用你熟悉的现实生活的数据库,给出每种数据挖掘功能的例子。 ?特征化是一个目标类数据的一般特性或特性的汇总。例如,学生的特征可被提出,形成所 有大学的计算机科学专业一年级学生的轮廓,这些特征包括作为一种高的年级平均成绩 (GPA:Grade point a ve r s ge) 的信息,还有所修的课程的最大数量。 ?区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比 较。例如,具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较。最 终的描述可能是学生的一个一般可比较的轮廓,就像具有高GPA 的学生的75%是四年级 计算机科学专业的学生,而具有低GPA 的学生的65%不是。 ?关联是指发现关联规则,这些规则表示一起频繁发生在给定数据集的特征值的条件。 例如,一个数据挖掘系统可能发现的关联规则为: m a j or(X,“c omput i ng s c i e nc e”) ?owns(X, “pe r s ona l c omput e r”) [s uppor t=12%,c on f i d e nc e=98%] 其中,X 是一个表示学生的变量。这个规则指出正在学习的学生,12%(支持度)主修计算机科学并且拥有一台 。 个人计算机。这个组一个学生拥有一台个人电脑的概率是98%(置信度,或确定度) ?分类与预测不同,因为前者的作用是构造一系列能描述和区分数据类型或概念的模型(或,而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的 功能) 相似性是他们都是预测的工具:分类被用作预测目标数据的类的标签,而预测典型的应用是 预测缺失的数字型数据的值。 ?聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式,将观测组织成类分层结构,把类似的事件组织在一起。 ?数据延边分析描述和模型化随时间变化的对象的规律或趋势,尽管这可能包括时间相关数 据的特征化、区分、关联和相关分析、分类、或预测,这种分析的明确特征包括时间序列数据分 析、序列或周期模式匹配、和基于相似性的数据分析 1.9 列举并描述说明数据挖掘任务的五种原语。 五种原语是: ?任务相关数据:这种原语指明给定挖掘所处理的数据。它包括指明数据库、数据库表、或 数据仓库,其中包括包含关系数据、选择关系数据的条件、用于探索的关系数据的属性或 维、关于修复的数据排序和分组。 ?挖掘的数据类型:这种原语指明了所要执行的特定数据挖掘功能,如特征化、区分、关 联、分类、聚类、或演化分析。同样,用户的要求可能更特殊,并可能提供所发现的模式必 须匹配的模版。这些模版或超模式(也被称为超规则)能被用来指导发现过程。 ?背景知识:这种原语允许用户指定已有的关于挖掘领域的知识。这样的知识能被用来指导 知识发现过程,并且评估发现的模式。关于数据中关系的概念分层和用户信念是背景知识的 形式。 ?模式兴趣度度量:这种原语允许用户指定功能,用于从知识中分割不感兴趣的模式,并且 被用来指导挖掘过程,也可评估发现的模式。这样就允许用户限制在挖掘过程返回的不感兴 趣的模式的数量,因为一种数据挖掘系统可能产生大量的模式。兴趣度测量能被指定为简易 性、确定性、适用性、和新颖性的特征。 ?发现模式的可视化:这种原语述及发现的模式应该被显示出来。为了使数据挖掘能有效地

数据挖掘试卷及答案

12/13 年第2学期《数据挖掘与知识发现》期末考试试卷及答案 一、什么是数据挖掘?什么是数据仓库?并简述数据挖掘的步骤。(20分) 数据挖掘是从大量数据中提取或发现(挖掘)知识的过程。 数据仓库是面向主题的、集成的、稳定的、不同时间的数据集合,用于支持经营管理中的决策制定过程。 步骤: 1)数据清理(消除噪声或不一致数据) 2) 数据集成(多种数据源可以组合在一起) 3 ) 数据选择(从数据库中检索与分析任务相关的数据) 4 ) 数据变换(数据变换或统一成适合挖掘的形式,如通过汇总或聚集操作) 5) 数据挖掘(基本步骤,使用智能方法提取数据模式) 6) 模式评估(根据某种兴趣度度量,识别表示知识的真正有趣的模式;) 7) 知识表示(使用可视化和知识表示技术,向用户提供挖掘的知识) 二、元数据的定义是什么?元数据包括哪些内容?(20分) 元数据是关于数据的数据。在数据仓库中, 元数据是定义仓库对象的数据。 元数据包括: 数据仓库结构的描述,包括仓库模式、视图、维、分层结构、导出数据的定义, 以及数据集市的位置和内容。 操作元数据,包括数据血统(移植数据的历史和它所使用的变换序列)、数据流通(主动的、档案的或净化的)、管理信息(仓库使用统计量、错误报告和审计跟踪)。 汇总算法,包括度量和维定义算法, 数据所处粒度、划分、主题领域、聚集、汇总、预定义的查询和报告。 由操作环境到数据仓库的映射,包括源数据库和它们的内容,网间连接程序描述, 数据划分, 数据提取、清理、转换规则和缺省值, 数据刷新和净化规则, 安全 (用户授权和存取控制)。 关于系统性能的数据,刷新、更新定时和调度的规则与更新周期,改善数据存取和检索性能的索引和配置。 商务元数据,包括商务术语和定义, 数据拥有者信息和收费策略。 三、在 O L A P 中,如何使用概念分层? 请解释多维数据模型中的OLAP上卷 下钻切片切块和转轴操作。(20分) 在多维数据模型中,数据组织成多维,每维包含由概念分层定义的多个抽象层。这种组织为用户从不同角度观察数据提供了灵活性。有一些 O L A P 数据立方体操作用来物化这些不同视图,允许交互查询和分析手头数据。因此, O L A P 为交互数据分析提供了友好的环境。 上卷:上卷操作通过一个维的概念分层向上攀升或者通过维归约,在数据立方体上进行聚集。 下钻:下钻是上卷的逆操作,它由不太详细的数据到更详细的数据。下钻可以通过沿维的概念分层向下或引入新的维来实现。 切片:在给定的数据立方体的一个维上进行选择,导致一个子方。 切块:通过对两个或多个维执行选择,定义子方。

数据挖掘概念与技术(第三版)部分习题答案

1.4 数据仓库和数据库有何不同?有哪些相似之处? 答:区别:数据仓库是面向主题的,集成的,不易更改且随时间变化的数据集合,用来支持管理人员的决策,数据库由一组内部相关的数据和一组管理和存取数据的软件程序组成,是面向操作型的数据库,是组成数据仓库的源数据。它用表组织数据,采用ER 数据模型。 相似:它们都为数据挖掘提供了源数据,都是数据的组合。 1.3 定义下列数据挖掘功能:特征化、区分、关联和相关分析、预测聚类和演变分析。使用你熟悉的现实生活的数据库,给出每种数据挖掘功能的例子。 答:特征化是一个目标类数据的一般特性或特性的汇总。例如,学生的特征可被提出,形成所有大学的计算机科学专业一年级学生的轮廓,这些特征包括作为一种高的年级平均成绩(GPA :Grade point aversge) 的信息, 还有所修的课程的最大数量。 区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比较。例如, 具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较。最终的描述可能是学生的一个一般可比较的轮廓,就像具有高GPA 的学生的75% 是四年级计算机科学专业的学生,而具有低GPA 的学生的65% 不是。 关联是指发现关联规则,这些规则表示一起频繁发生在给定数据集的特征值的条件。例如,一个数据挖掘系统可能发现的关联规则为:major(X, “ computing science ” ) ? owns(X, “ personal computer ” ) [support=12%, confidence=98%] 其中,X 是一个表示学生的变量。这个规则指出正在学习的 学生,12% (支持度)主修计算机科学并且拥有一台个人计算机。这个组一个学生拥有一台个人电脑的概率是98% (置信度,或确定度)。 分类与预测不同,因为前者的作用是构造一系列能描述和区分数据类型或概念的模型(或功能),而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的相似性是他们都是预测的工具: 分类被用作预测目标数据的类的标签,而预测典型的应用是预测缺失的数字型数据的值。 聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式,将观测组织成类分 层结构,把类似的事件组织在一起。 数据演变分析描述和模型化随时间变化的对象的规律或趋势,尽管这可能包括时间相关数据的特征化、区分、关联和相关分析、分类、或预测,这种分析的明确特征包括时间序列数据分析、序列或周期模式匹配、和基于相似性的数据分析 2.3 假设给定的数据集的值已经分组为区间。区间和对应的频率如下。 年龄频率 1~5200 5~15450 15~20300 20~501500 50~80700 80~11044 计算数据的近似中位数值。 解答:先判定中位数区间:N=200+450+300+1500+700+44=3194 ;N/2=1597

数据仓库与数据挖掘考试试题

一、填空题(15分) 1.数据仓库的特点分别是面向主题、集成、相对稳定、反映历史变化。 2.元数据是描述数据仓库内数据的结构和建立方法的数据。根据元数据用途的不同可将元数据分为技术元数据和业务元数据两类。 3.OLAP技术多维分析过程中,多维分析操作包括切片、切块、钻取、旋转等。 4.基于依赖型数据集市和操作型数据存储的数据仓库体系结构常常被称为“中心和辐射”架构,其中企业级数据仓库是中心,源数据系统和数据集市在输入和输出范围的两端。 5.ODS实际上是一个集成的、面向主题的、可更新的、当前值的、企业级的、详细的数据库,也叫运营数据存储。 二、多项选择题(10分) 6.在数据挖掘的分析方法中,直接数据挖掘包括(ACD) A 分类 B 关联 C 估值 D 预言 7.数据仓库的数据ETL过程中,ETL软件的主要功能包括(ABC) A 数据抽取 B 数据转换 C 数据加载 D 数据稽核 8.数据分类的评价准则包括( ABCD ) A 精确度 B 查全率和查准率 C F-Measure D 几何均值 9.层次聚类方法包括( BC ) A 划分聚类方法 B 凝聚型层次聚类方法 C 分解型层次聚类方法 D 基于密度聚类方法 10.贝叶斯网络由两部分组成,分别是( A D ) A 网络结构 B 先验概率 C 后验概率 D 条件概率表 三、计算题(30分) 11.一个食品连锁店每周的事务记录如下表所示,其中每一条事务表示在一项收款机业务中卖出的项目,假定sup min=40%,conf min=40%,使用Apriori算法计算生成的关联规则,标明每趟数据库扫描时的候选集和大项目集。(15分) 解:(1)由I={面包、果冻、花生酱、牛奶、啤酒}的所有项目直接产生1-候选C1,计算其支持度,取出支持度小于sup min的项集,形成1-频繁集L1,如下表所示:

(完整word版)数据挖掘题目及答案

一、何为数据仓库?其主要特点是什么?数据仓库与KDD的联系是什么? 数据仓库是一个面向主题的(Subject Oriented)、集成的(Integrate)、相对稳定的(Non-Volatile)、反映历史变化(Time Variant)的数据集合,用于支持管理决策。 特点: 1、面向主题 操作型数据库的数据组织面向事务处理任务,各个业务系统之间各自分离,而数据仓库中的数据是按照一定的主题域进行组织的。 2、集成的 数据仓库中的数据是在对原有分散的数据库数据抽取、清理的基础上经过系统加工、汇总和整理得到的,必须消除源数据中的不一致性,以保证数据仓库内的信息是关于整个企业的一致的全局信息。 3、相对稳定的 数据仓库的数据主要供企业决策分析之用,一旦某个数据进入数据仓库以后,一般情况下将被长期保留,也就是数据仓库中一般有大量的查询操作,但修改和删除操作很少,通常只需要定期的加载、刷新。 4、反映历史变化 数据仓库中的数据通常包含历史信息,系统记录了企业从过去某一时点(如开始应用数据仓库的时点)到目前的各个阶段的信息,通过这些信息,可以对企业的发展历程和未来趋势做出定量分析和预测。 所谓基于数据库的知识发现(KDD)是指从大量数据中提取有效的、新颖的、潜在有用的、最终可被理解的模式的非平凡过程。数据仓库为KDD提供了数据环境,KDD从数据仓库中提取有效的,可用的信息 二、 数据库有4笔交易。设minsup=60%,minconf=80%。 TID DATE ITEMS_BOUGHT T100 3/5/2009 {A, C, S, L} T200 3/5/2009 {D, A, C, E, B} T300 4/5/2010 {A, B, C} T400 4/5/2010 {C, A, B, E} 使用Apriori算法找出频繁项集,列出所有关联规则。 解:已知最小支持度为60%,最小置信度为80% 1)第一步,对事务数据库进行一次扫描,计算出D中所包含的每个项目出现的次数,生成候选1-项集的集合C1。

数据挖掘

数据挖掘软件分析报告 摘要 随着数据挖掘技术被人们广泛重视和应用,刺激了数据挖掘软件业的蓬勃发展。现在流行的几种开源数据挖掘平台主要有:R、Tanagra、Weka、YALE、Orange、KNIME、GGobi。这些开源数据挖掘平台有什么优缺点,如何根据我们的需要选择合适的数据挖掘软件进行数据挖掘。本文在实验的基础上对Weka和KNIME进行了比较和分析。 关键词:数据挖掘工具、Weka、KNIME 1.Weka 1.1 简介 Weka的全名是怀卡托智能分析环境(Waikato Environment for Knowledge Analysis),是一款免费的,非商业化(与之对应的是SPSS公司商业数据挖掘产品——Clementine)的,基于JAVA环境下开源的机器学习,以及数据挖掘软件。 WEKA作为一个公开的数据挖掘工作平台,集合了大量能承担数据挖掘任务的机器学习算法,包括对数据进行预处理,分类、回归、聚类关联规则以及在新的交互式界面上的可视化。而开发者则可使用java语言,在Weka的架构上开发出更多的数据挖掘算法。 Weka可能是名气最大的开源机器学习和数据挖掘软件。高级用户可以通过java编程和命令行来调用其分析组件。同时Weka也为普通用户提供了图形化界面,称为WekaKnowledgeFlow Environment和Weka Explorer。在Weka论坛可以找到很多扩展包,比如文本挖掘,可视化,网络计算等等。很多其它开源数据挖掘软件也支持调用Weka的分析功能。

1.2Weka数据格式 WEKA存储数据的格式是ARFF(Attribute-Relation FileFormat)文件,这是一种ASCII文本文件。表格里的一个横行称作一个实例(Instance),相当于统计学中的一个样本,或者数据库中的一条记录。竖行称作一个属性(Attribute),相当于统计学中的一个变量,或者数据库中的一个字段。这样一个表格或者叫作数据集,在WEKA看来,呈现了属性之间的一种关系(Relation)。 整个ARFF文件可以分为两个部分。第一部分是头信息,包括对关系的声明和对属性的声明;第二部分是数据信息。我们打开Weka的自带数据cpu.arff。可以看到如下所示结果。 图中红色的框内是该数据的头信息,可以看出该关系名称为cpu,粉红色的框中是数据信息,从图中我们可以看出该数据共有七个属性。 Weka支持四种数据类型:Numeric(数值型)、(标称型)、String(字符串型)、date [](日期和时间型)。 1.3Weka用户交互界面 运行Weka之后可以看到Weka的主界面如下图所示。

数据仓库与数据挖掘试题

《数据仓库与数据挖掘试题》 一、判断题(每小题1分,计30分,答题时每5个答案写在一起) 1.数据库作为数据资源用于管理业务中的信息分析处理。(X) 2.数据库的查询不是指对记录级数据的查询,而是指对分析要求的查询。(X) 3.关系数据库是二维数据(平面),多维数据库是空间立体数据。(v) 4.数据进入数据仓库之前,必须经过加工与集成。(V) 5.OLAP使用的是当前数据;OLTP使用的是历史数据。(V) 6.对数据仓库操作不明确,操作数据量少。(X) 7.数据集市实现难度超过数据仓库。(X) 8.OLAP使用的数据经常更新;OLTP使用的数据不更新,但周期性刷新。(X) 9.数据集市可升级到完整的数据仓库。(V) 10.数据库中存放的数据基本上是保存当前综合数据。(X) 11.OLAP可以应分析人员的要求快速、灵活地进行大数据量的复杂处理。(V) 12.OLAP支持复杂的决策分析操作,侧重对分析人员和高层管理人员的决策支持。 (V) 13.OLTP的事务处理量大,处理内容比较简单但重复率高。(V) 14.数据仓库的用户有两类:信息使用者和探索者。(V) 15.对数据库的操作比较明确,操作数据量大。(X) 16.数据库用于事务处理,数据仓库用于决策分析。(V) 17.信息使用者以一种可预测的、重发性的方式使用数据仓库平台。(V) 18.OLAP一次处理的数据量大;OLTP一次性处理的数据量小。(V)

19.OLTP每次操作的数据量不大且多为当前的数据。(V ) 20.数据仓库系统由数据仓库(DW)、仓库管理和分析工具三部分组成。(V) 21.随着业务的变化,数据仓库中的数据会随时更新。(X) 22.数据集市的规模比数据仓库更大。(X) 23.数据集市具有更详细的、预先存储在数据仓库的数据。(V) 24.不同维值的组合及其对应的度量值构成了不同的查询和分析。(V) 25.OLAP使用细节性数据,OLTP使用综合性数据。(X) 26.数据集市由企业管理和维护。(X) 27.OLAP的概念模型是多维的。(V) 28.数据库已经成为了成熟的信息基础设施。(V) 29.数据库既保存过去的数据又保存当前的数据。(X) 30.OLTP面对的是事务处理操作人员和低层管理人员。(V) 二、填空题(每小题1分,计10分) 1.信息使用者通常查看概括数据或聚集数。 2.探索者的任务是寻找公司数据内隐含的价值。 3.数据立方体是在所有可能组合的维上进行分组聚集计算的总和。 4.基本的多维数据分析操作包括切片切块、旋转、钻取等。 5.数据立方体的构建和维护等计算方法成为了多维数据分析研究的关键问 题。 6.OLAP是建立在网络上的开发体系结构。 7.在数据立方体中,不同维度组合构成了不同的子立方体。 8.不同的数据仓库需要建立不同的数据库。

数据仓库与数据挖掘课后习题答案

数据仓库与数据挖掘课后习 题答案 -标准化文件发布号:(9456-EUATWK-MWUB-WUNN-INNUL-DDQTY-KII

数据仓库与数据挖掘 第一章课后习题 一:填空题 1)数据库中存储的都是数据,而数据仓库中的数据都是一些历史的、存档的、归纳的、计算的数据。 2)数据仓库中的数据分为四个级别:早起细节级、当前细节级、轻度综合级、高度综合级。 3)数据源是数据仓库系统的基础,是整个系统的数据源泉,通常包括业务数据和历史数据。 4)元数据是“关于数据的数据”。根据元数据用途的不同将数据仓库的元数据分为技术元数据和业务元数据两类。 5)数据处理通常分为两大类:联机事务处理和联机事务分析 6)Fayyad过程模型主要有数据准备,数据挖掘和结果分析三个主要部分组成。 7)如果从整体上看数据挖掘技术,可以将其分为统计分析类、知识发现类和其他类型的数据挖掘技术三大类。 8)那些与数据的一般行为或模型不一致的数据对象称做孤立点。 9)按照挖掘对象的不同,将Web数据挖掘分为三类:web内容挖掘、web结构挖掘和web使用挖掘。 10)查询型工具、分析型工具盒挖掘型工具结合在一起构成了数据仓库系统的工具层,它们各自的侧重点不同,因此适用范围和针对的用户也不相同。 二:简答题 1)什么是数据仓库数据仓库的特点主要有哪些 2) 数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策。 主要特点:面向主题组织的、集成的、稳定的、随时间不断变化的、数据的集合性、支持决策作用 3)简述数据挖掘的技术定义。 从技术角度看,数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中,提取隐含在其中的、人们不知道的、但又是潜在有用的信息和知识的过程。 4)什么是业务元数据? 业务元数据从业务角度描述了数据仓库中的数据,它提供了介于使用者和实际系统之间的语义层,使得不懂计算机技术的业务人员也能够读懂数据仓库中的数据 5)简述数据挖掘与传统分析方法的区别。 本质区别是:数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识。数据挖掘所得到的信息应具有先前未知、有效和实用三个特征。 6)简述数据仓库4种体系结构的异同点及其适用性。 a.虚拟的数据仓库体系结构 b.单独的数据仓库体系结构

数据挖掘

《数据挖掘》总复习题1.数据挖掘系统可以根据什么标准进行分类?答:根据挖掘的数据库类型分类、根据挖掘的知识类型分类、根据挖掘所用的技术分类、根据应用分类2.知识发现过程包括哪些步骤?答:数据清理、数据集成、数据选择、数据变换、数据挖掘、模式评估、知识表示3.什么是概念分层?答:一个映射序列,将低层概念映射到更一般的较高层概念。4.多维数据模型上的OLAP 操作包括哪些?答:上卷、下钻、切片和切块、转轴/ 旋转、其他OLAP操作5.OLAP 服务器类型有哪几种?答:关系OLAP 服务器(ROLAP)、多维OLAP 服务器(MOLAP)、混合OLAP 服务器(HOLAP)、特殊的SQL 服务器6.数据预处理技术包括哪些?答:聚集、抽样、维规约、特征子集选择、特征创建、离散化和二元化、变量变换。7.什么是数据清理?答:填写缺失的值,平滑噪声数据,识别、删除离群点,解决不一致性8.什么是数据集成?答:集成多个数据库、数据立方体或文件9.什么是数据归约?答:得到数据集的压缩表示,它小得多,但可以得到相同或相近的结果10.数据清理的内容包括哪些?答:缺失值、噪声数据、数据平滑、聚类、回归11.将下列缩略语复原OLAP——on-line analytical processing DM——data mining KDD——knowledge discovery in databases OLTP——on-line transaction processing DBMS——database management system DWT——discrete wavelet transform (DMQL)--Data Mining Query Language 12.什么是数据挖掘?答:简单地说,数据挖掘是从大量数据中提取或挖掘知识。具体地说,数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的实际应用数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。13.什么是关联规则?答:(关联规则是形如X→Y的蕴涵式,其中且,X和Y分别称为关联规则的先导和后继。)假设I是项的集合。给定一个交易数据库,其中每个事务(Transaction)t是I 的非空子集,即,每一个交易都与一个唯一的 标识符TID(Transaction ID)对应。关联规则在D中的支持度(support)是D中事务同时包含X、Y的百分比,即 概率;置信度(confidence)是包含X的事务中同时又包含Y的百分比,即 条件概率。关联规则是有趣的,如果满足最小支持度阈值和最小置信度阈值。这些阈值是根据挖掘需要人为设定。(关联规则反映一个事物与其它事物之间的相互依存性和关联性,如果两个事物或者多个事物之间存在一定的关联关系,那么其中一个事物就能够通过其他事物预测到。 )14.什么是可信度?什么是支持度?答:15. 什么是概念描述?什么是特征化?什么是属性相关分析?答:概念描述:用汇总的、简洁的和精确的方式描述各个类和概念可能是有用的。特征化:是目标类数据的一般特性或特征的汇总。属性相关分析:可能需要在分类和预测之前进行,它试图识别对于分类或预测过程无用的属性。这些属性应当排除。16.什么是数据仓库?其主要特征是什么?答:数据仓库是一个提供决策支持功能的数据库,它与组织机构的操作数据库分别维护。它允许将各种应用系统集成在一起,为统一的历史数据分析提供坚实的平台,对信息处理提供支持。特征:面向主题、数据集成、随时间而变化、数据不易丢失(数据不易丢失是最明显特征)17.什么是数据集市?答:数据集市包含企业范围数据的一个子集,对于特定的用户群是有用的。其范围限于选定的主题。(是完整的数据仓库的一个逻辑子集,而数据仓库正是由所有的数据集市有机组合而成的) 18.数据库中的知识发现过程由哪几个步骤组成?答:数据清理、数据仓库、任务相关数据、数据挖掘、模式评估、知识表示19.典型的数据挖掘系统有哪几个主要成分?答:数据库、数据仓库、万维网或其他信息库;数据库或数据仓库服务器;知识库;数据挖掘引擎;模式评估模块;用户界面20.从软件工程的观点来看,数据仓库的设计和构造包含哪些步骤?答:规划、需求研究、问题分析、仓库设计、数据集成和测试、部署数据仓库。21.在数据挖掘

相关文档
相关文档 最新文档