文档库 最新最全的文档下载
当前位置:文档库 › 数据仓库与数据挖掘习题

数据仓库与数据挖掘习题

数据仓库与数据挖掘习题

1.1什么是数据挖掘?在你的回答中,强调以下问题:

(a) 它是又一个骗局吗?

(b) 它是一种从数据库,统计学和机器学习发展的技术的简单转换吗?

(c) 解释数据库技术发展如何导致数据挖掘

(d) 当把数据挖掘看作知识发现过程时,描述数据挖掘所涉及的步骤。

1.2 给出一个例子,其中数据挖掘对于一种商务的成功至关重要的。这种商务需要什么数据挖掘功能?他们能够由数据查询处理或简单的统计分析来实现吗?

1.3 假定你是Big-University的软件工程师,任务是设计一个数据挖掘系统,分析学校课程数据库。该数据库包括如下信息:每个学生的姓名,地址和状态(例如,本科生或研究生),所修课程,以及他们累积的GPA(学分平均)。描述你要选取的结构。该结构的每个成分的作用是什么?

1.4 数据仓库和数据库有何不同?它们有那些相似之处?

1.5简述以下高级数据库系统和应用:面向对象数据库,空间数据库,文本数据库,多媒体数据库和WWW。

1.6 定义以下数据挖掘功能:特征化,区分,关联,分类,预测,聚类和演变分析。使用你熟悉的现实生活中的数据库,给出每种数据挖掘的例子。

1.7 区分和分类的差别是什么?特征化和聚类的差别是什么?分类和预测呢?对于每一对任务,它们有何相似之处?

1.8 根据你的观察,描述一种可能的知识类型,它需要由数据挖掘方法发现,但未在本章中列出。它需要一种不同于本章列举的数据挖掘技术吗?

1. 9 描述关于数据挖掘方法和用户交互问题的三个数据挖掘的挑战。

1. 10 描述关于性能问题的两个数据挖掘的挑战。

2.1 试述对于多个异种信息源的集成,为什么许多公司宁愿使用更新驱动的方法(构造使用数据仓库),而不愿使用查询驱动的方法(使用包装程序和集成程序)。描述一些情况,其中查询驱动方法比更新驱动方法更受欢迎。

2.2 简略比较以下概念,可以用例子解释你的观点

(a)雪花模式、事实星座、星型网查询模型

(b)数据清理、数据变换、刷新

(c)发现驱动数据立方体、多特征方、虚拟仓库

2.3 假定数据仓库包含三个维time,doctor和patient,两个度量count 和charge,其中charge 是医生对一位病人的一次诊治的收费。

(a)列举三种流行的数据仓库建模模式。

(b)使用(a)列举的模式之一,画出上面数据仓库的模式图。

(c)由基本方体[day,doctor,patient]开始,为列出2000年每位医生的收费总数,应当执行哪些OLAP操作?

(d)为得到同样的结果,写一个SQL查询。假定数据存放在关系数据库中,其模式如下:fee(day,month,year,doctor,hospital,patient,count,charge)

2.4 假定Big_University的数据仓库包含如下4个维student, course, semester和instructor,2个度量count和avg_grade。在最低的概念层(例如对于给定的学生、课程、学期和教师的组合),度量avg_grade存放学生的实际成绩。在较高的概念层,avg_grade存放给定组合的

平均成绩。

(a)为数据仓库画出雪花模式图;

(b)由基本方体[student, course, semester, instructor]开始,为列出Big_University每个学生的CS课程的平均成绩,应当使用哪些OLAP操作(如由semester上卷到year);

(c)如果每维有5层(包括all),如student

2.5 假定数据仓库包含4个维date,spectator,location和game,2个度量count和charge。其中charge是观众在给定的日期观看节目的付费。观众可以是学生、成年人或老人,每类观众有不同的收费标准。

(a )画出该数据仓库的星型模式图;

(b)由基本方体[date,spectator,location,game]开始,为列出2000年学生观众在GM-Place 的总付费,应当执行哪些OLAP操作?

(c)对于数据仓库,位图索引是有用的。以该数据立方体为例,简略讨论使用位图索引结构的优点和问题。

2.6 为地区气象局设计一个数据仓库。气象局大约有1000观察点,散步在该地区的陆地、海洋,收集基本气象数据,包括每小时的气压、温度、降雨量。所有的数据都送到中心站,那里已收集了这种数据长达十年。你的设计应当有利于有效的查询和联机分析处理,有利于有效地导出多维空间的一般天气模式。

2.7 关于数据立方体中的度量计算:

(a)根据计算数据立方体所用的聚集函数,列出度量的三种分类;

(b)对于具有三个维time,location和product的数据立方体,函数variance属于哪一类?如果立方体被分割成一些块,描述如何计算它;

(c)假定函数是"最高的10个销售额"。讨论如何在数据立方体里有效的计算该度量。2.8 假定需要在数据立方体中记录三种度量:min,average和median。给定的数据立方体允许递增的删除(即每次一小部分),为每种度量设计有效的计算和存储方法。

2.9 数据仓库实现的流行方法是构造一个称为数据立方体的多维数据库。不幸的是,这常常产生大的、稀疏的多维矩阵。

(a)给出一个例子,解释这种大的、稀疏的数据立方体;

(b)设计一种实现方法,可以很好的克服这种稀疏矩阵问题。注意,需要详细解释你的数据结构,讨论空间需求量,以及如何由你的结构中检索数据;

(c)修改你在(b)的设计,处理递增的数据更新。给出你的新设计的理由。

2.10 假定数据仓库包含20个维,每个维有5级粒度。

(a)用户感兴趣的主要是4个特定的维,每维有3个上卷、下钻频繁访问的级。你如何设计数据立方结构,有效地对此予以支持?

(b)用户时常想由一两个特定的维钻透数据立方体,到原始数据。你如何支持这一特征?

2.11 假定基本立方体有三个维A,B,C,其单元数如下:|A|=1000000,|B|=100,|C|=1000。假定分块将每维分成10部分。

(a)假定每维只有一层,画出完整的立方体的格。

(b)如果每个立方单元存放一个4字节的度量,若方是稠密的,所计算的立方体有多大?(c)指出立方体中空间需求量最小的块计算次序,并对计算2-维平面所需要的内存空间计算空间量。

3.1 数据的质量可以用精确性,完整性和一致性来评估。提出两种数据质量的其他尺度。3.2 在现实世界的数据中,元组在某些属性上缺少值是常有的。描述处理该问题的各种方法。

3.3 假定用于分析的数据包含属性age。数据元组中age的值如下(按递增序):13,15,

16,16,19,20,20,21,22,22,25,25,25,25,30,33,33,35,35,35,35,36,40,45,46,52,70

(a) 使用按箱平均值平滑对以上数据进行平滑,箱的深度是3。解释你的步骤。评论对于给定的数据,该技术的效果

(b) 你怎样确定数据中的孤立点?

(c) 对于数据平滑,还有那些其他方法?

3.4 讨论数据集成需要考虑的问题。

(1) 模式识别:这主要是实体识别问题

(2) 冗余:一个属性是冗余的,即它能由另一个表导出,如果属性或唯的命名不一致,也可能导致冗余,可以用相关分析来检测

(3) 数据值冲突的检测与处理:有些属性因表示比例或编码不同,会导致属性不同3.5 使用习题3。3给出的age数据,回答以下问题:

(a) 使用最小-最大规范化,将age值35转换到[0。0,1。0]区间

(b) 使用z-score规范化转换age 值35,其中age的标准差为12。94年

(c) 使用小数定标规范化转换age值35。

(d) 指出对于给定的数据,你愿意使用哪种方法。陈述你的理由。

3.6 使用流程图概述如下属性子集选择过程

(a) 逐步向前选择

(b) 逐步向后删除

(c) 逐步向前选择和逐步向后删除的结合

3.7使用习题3.3给出的age数据

(a)画一个宽度为10的等宽直方图。

(b)为如下每种选样技术勾画例子: SRSWOR, SRSWR, 聚类选择,分层选择。使用长度为5的样本和层"young","middle_aged"和"senior"。

3.8 对如下问题,使用伪代码或你喜欢用的程序设计语言,给出算法:

(a)对于分类数据,基于给定模式中属性的不同值得个数,自动产生概念分层。

(b)对于数值数据,基于等宽划分规则,自动产生概念分层。

(c)对于数值数据,基于等深划分规则,自动产生概念分层。

4.1列出和描述说明数据挖掘任务的五种原语。

4.2 说明为什么概念分层在数据挖掘中是有用的。

4.3 概念分层的四种主要类型是:模式分层,集合分组分层,操作导出的分层和基于规则的分层。

a)简略定义每种类型的分层。

b)对于每种类型的分层,给出一个不在本章中出现的例子。

4.4 考虑下面的由Big-University 的学生数据库挖掘的关联规则major (X,"science")=>status(X,"undergrad") (4.8)

假定学校的学生人数(即任务相关的元组数)为5000,其中56%的在校本科生的专业是科学,64%的学生注册本科学位课程,70%的学生主修科学。

a) 计算规则(4.8)的支持度和置信度。

b)考虑下面的规则(4.9):

major(X,"biology")=>status(X,"undergrad") [17%,80%] (4.9) 假定主攻科学的学生30%专业为biology。与规则(4.8)对比,你认为规则(4.9)新颖吗?解释你的结论。

4.5 语句可以用于挖掘特征化,区分,关联和分类规则。为聚类的挖掘提出一个语法定义。

4.6 论建立标准化的数据挖掘查询语言的重要性。涉及这一任务的一些潜在好处和挑战是什么?列举一些该领域的最近提议。

4.7 下面的练习涉及定义概念分层的DMQL语法。

(a) 典型情况,对于模式date(day,month,quarter,year),数据挖掘系统有一个预定义的概念分层。使用DMQL提供该概念分层的定义。

(b) 概念分层定义可能涉及多个关系。例如,iterm_hierachy可以涉及两个关系item和supplier,由如下模式定义:

item(item_ID, brand, type, place_made, supplier)

supplier(name, type, headquarter_location, owner, size, assets, revenue)

5.1.对于类特征化,基于数据立方体的实现与诸如面向属性归纳的关系实现之间的主要不同是什么?讨论哪种方法最有效,在什么条件下最有效。

5.2 假定下面的表从面向属性的归纳导出

class &n bsp; birth--- place count

&n bsp; Cannada &nbs p; 180 programmer others ; 120

&nbs p; Cannada &nbs p; 20

Dba &n bsp; others ; 80

(a)将该表转换成现实相关t-权和d-权的交叉表

(b)将类Programmer转换成(双向的)量化描述规则。例如(birth_place(X)="Canada"∧...)[t:x%,d:y%]...∨(...)([t:w%,d:z%]。?X,Programmer(X)

5.3 讨论为什么需要解析特征化和如何进行。比较两种归纳方法的结果:(I)包含相关分析和(ii)不包含相关分析。

5.4 对于数据离散的特征化,另外给出三个常用统计度量(未在本章说明),并讨论如何在大型数据库中有效地计算它们。

5.5 假定分析数据包含属性age.数据元组的age值(以递增次序)是:13,15,16,16,19,20,20,21,22,22,25,25,25,25,30,33,33,35,35,35,35,36,40,45,46,52,70

A 该数据的平均值是多少?中位数是多少?

B 该数据的模是多少?评论数据的模态性(即双模态,三模态等).

C 数据的中列数是什么

D 你能找出(粗略地)数据的第一个四分位数(q1)和第三个四分位数(Q3)吗?

E 给出数据的五数概括

F 画出数据的盒图

G 分位数-分位数图与分位数图的不同之处是什么?

5.6 给定由数据库DB导出的概化关系R,假定元组的集合△DB需要从DB中删除,简要给出用于R的必要删除的增量更新过程。

5.7 简要给出挖掘解析类比较的基于数据立方体的增量算法。

5.8 简要给出数据立方体环境下数据离散统计度量的(ⅰ)并行和( ⅱ)分布式挖掘方法。

6.1 Apriori 算法使用子集支持度性质的先验知识

a) 证明频繁项集的所有非空子集必须也是频繁的。

b) 证明项集s的任意非空子集s`的支持度至少和s的支持度一样大。

c) 给定频繁项集l和l的子集s,证明规则"s'=>(l-s')"的置信度不可能大于"s=>(l-s)"的置信度。其中,s'是s的子集。

d) Apriori的一种变形将事务数据库D中的事务划分成n个不重叠的部分。证明在D中是频繁的任何项集至少在D的一个部分中是频繁的。

6.2 数据库有4个事务。设min_sup = 60%,min_conf = 80%。

TID DATE ITEMS_BOUGHT

T100 10/15/99 {K, A, D, B}

T200 10/15/99 {D, A, C, E, B}

T300 10/19/99 {C, A, B, E}

T400 10/22/99 {B, A, D}

A)分别使用Apriori 和FP- 增长算法找出频繁项集。比较两种挖掘过程的有效性。

B)列出所有强关联规则,他们与下面的元规则匹配,其中,X 是代表顾客的变量,item 时表示项的变量:" x∈transaction, buys(X, item1)∧buys(X, item2) => buys(X, item3) [s, c] 6.3 在挖掘层交叉关联规则时,假定发现项集"{IBM desktop computer, printer}"不满足最小支持度。这一信息可以用来剪去诸如"{IBM desktop computer, b/w printer}"的"后代"项集的挖掘吗?给出一个一般规则,解释这一信息如何用于对搜索空间剪枝。

6.4 给出一个短例子,表明强关联规则中的项可能实际上是负相关的。

6.5 下面的相依表汇总了超级市场的事务数据,其中,hot dogs 表示包含热狗的事务,~hotdogs 表示不包含热狗的事务,hamburgers 表示包含汉堡包的事务,~hamburgers 表示不包含汉堡包的事务。

Hotdogs ~hotdogs

Hamburgers 2000 500 2500

~hamburgers 1000 1500 2500

∑col 3000 2000 5000

A)假定发现关联规则"hotdogs=>hamburgers "。给定最小支持度阈值25% ,最小置信度阈值50% ,该关联规则是强的吗?

B)根据给定的数据,买hotdog 独立于买hamburgers 吗?如果不是,二者之间存在何种相关联系?

6.6 数据库有4 个事务,设min_sup = 60% ,min_conf = 80% 。

Cust_ID TID Items_bought(以brand- item_category形式)

01 T100 {King's-Carb, Sunset-Milk, Dairyland-Cheese, best-Bread}

02 T200 {Best-Cheese, Dairyland-Milk, Goldenfarm-Apple, Tasty-Pie, Wonder-Bread}

01 T300 {Westcoast-Apple, Dairyland- Milk, Wonder-Bread, Tasty-Pie}

03 T400 {Wonder-Bread, Sunset-Milk, Dairyland-Cheese}

a) 在item_category 粒度(例如,itemi 可以是"milk" ),对于下面规则模板

" x∈transaction, buys(X, item1)∧buys(X, item2) => buys(X, item3) [s, c]

对于最大的k,列出频繁k-项集和包含最大的k的频繁k-项集的所有强关联规则。

b) 在brand-item_category 粒度(例如:item 可以是"sunset-milk "),对于下面的规则模板:

" x∈customer, buys(X, item1)∧buys(X, item2) => buys(X, item3)

对最大的k,列出频繁k-项集。注意:不打印任何规则。

6.7 假定一个大型存储具有分布在4个站点的事务数据库。每个成员数据库中的事务具有相同的格式Tj:{i1,...,im};其中,Tj是事务标示符,而ik(1<=k<=m)是事务中购买的商品标识符。提出一个有效的算法,挖掘全局关联规则(不考虑多层关联规则)。可以给出你的算法的要点。你的算法不必将所有的数据移到一个站点,并且不造成过度的网络通信开销。

6.8 假定大型事务数据库DB的频繁项集已经存储。讨论:如果新的事务集△DB(增量地)加进,在相同的最小支持度阈值下,如何有效地挖掘(全局)关联规则?

6.9 提出并给出挖掘多层关联规则的层共享挖掘方法的要点。其中,每个项用它的层位置编码,一次初始数据库扫描收集每个概念层的每个项的计数,识别频繁和子频繁项集。将用该方法挖掘多层关联规则与挖掘单层关联规则的花费进行比较。

6.10 证明:包含项h和其祖先h'的项集H的支持度与项集H-h'的支持度相同。解释如何将它用于层交叉关联规则挖掘。

6.11 提出一种挖掘混合维关联规则(多维关联规则带有重复谓词)的方法。

6.12 序列模式可以用类似于关联规则挖掘的方法挖掘。设计一个有效的算法,由事务数据库挖掘多层序列模式。这种模式的一个例子如下:"买PC的顾客在三个月内将买Microsoft 软件",在其上,可以下钻,发现该模式的更详细的版本,如"买Pentium PC的顾客在三个月内将买Microsoft Office"。

6.13 商店里每种商品的价格是非负的。商店经理只关心如下形式的规则:"一件免费商品可能触发在同一事务中$200的总购物"。陈述如何有效地挖掘这种规则。

6.14 商店里每种商品的价格是非负的。对于以下每种情况,识别它们提供的约束类型,并简略讨论如何有效地挖掘这种关联规则。

(a) 至少包含一件Nintendo游戏。

(b) 包含一些商品,它们的单价和小于$150。

(c) 包含一件免费商品,并且其它商品的单价和至少是$200。

(d) 所有商品的平均价格在$100和$500之间。

7.1 简述判定树分类的主要步骤。

7.2 在判定树归纳中,为什么树剪枝是有用的?用一个单独的样本集计值剪枝的缺点是什么?

7.3 为什么朴素贝叶斯分类称为"朴素"的?简述朴素贝叶斯分类的主要思想。

7.4 比较急切分类(如判定树、贝叶斯、神经网络)相对于懒散分类(如,k-最临近、基于案例的推理)的优缺点。

7.5 通过对预测变量的变换,有些非线性回归模型可以转换成线性的。指出如何将非线性回归方程Y=aXb转换成可以用最小平方法求解的线性回归方程。

7.6 什么是推进?陈述它为何能提高判定树归纳的准确性。

的表决,这里每个分类法的表决是其准确率的函数。推进算法也可以扩充到连续值预测。7.7 证明准确率是灵敏性和特效性度量的函数,即证明(7.31 )式。

7.8 当一个数据对象可以同时属于多个类时,很难评估分类的准确率。陈述在这种情况下,你将使用何种标准比较在相同数据上的建模的不同分类方法。

7.9 给定判定树,你有选择:(a)将判定树转换成规则,然后对结果规则剪枝,或(b) 对判定树剪枝,然后将剪枝后的树转换成规则。相对于(b),(a)的优点是什么?

7.10 给定k和描述每个样本的属性数n,写一个k-最临近分类算法。

7.11 下表给出课程数据库中学生的期中和期末考试成绩。

X

其中考试Y

期末考试

72 84

50 63

81 77

74 78

94 90

86 75

59 49

83 79

65 7 7

33 52

88 74

81 90

(a) 绘数据图。X和Y看上去具有线性联系吗?

(b) 使用最小二乘法,求由学生的期中成绩预测学生的期末成绩的方程式。

(c) 预测期中成绩为86分的学生的期末成绩。

7.12 下表有雇员数据库的训练数据组成。数据已概化。对于给定的行,count表示department,status, age和salary在该行上具有给定值的元组数。

department Status Age Salary count

sales senior 31...35 46K...50K 30

sales& nbsp;junior 26...30 26K...30K 40

sales junior 31...35 31K...35K 40

systems juni or 21...25 46K...50K 20

systems senior 31...35 66K...70K 5

systems junior 26...30 46K...50K 3

systems senior 41...45 66K...70K 3

marketing senior 36...40 46K...50K 10

marketing junior 31...35 41K...45K 4

secretary senior 46...50&nbs p;36K...40K 4

secretary junior 26...30 26K...30K 6

设salary是类标号属性。

(a) 你将如何修改ID3算法,以便考虑每个概化数据元组(即每一行)的count?

(b) 使用你修改过的ID3算法,构造给定数据的判定树。

(c) 给定一个数据样本,它在属性department,status和age上的值分别为"systems","junior"和"20...24"。该样本的salary的朴素贝叶斯分类是什么?

(d) 为给定的数据设计一个多层前馈神经网络。标记输入和输出层节点。

(e) 使用上面得到的多层前馈神经网络,给定训练实例"(sales,senior,31...35,46K...50K)",给出后向传播算法一次迭代后的权值。指出你使用的初始权值和偏置以及学习率。

8.1 给定年龄age 的变量的如下度量值:18 ,22 ,25 ,42 ,28 ,43 ,33 ,35 ,

56 ,28 通过如下的方法进行变量标准化:

a) 计算age 的平均绝对误差。

b) 计算头四个值的z -score 。

8.2 给定两个对象,分别用元组(22 ,1 ,42 ,10 )和(20 ,0 ,36 ,8 )表示

a) 计算两个对象之间的欧几里的距离

b) 计算两个对象之间的曼哈坦距离

计算两个对象间的明考斯基距离,q=3。

8.3 什么是聚类?简单描述下列聚类方法:划分方法,层次方法,基于密度的方法,基

于网格的方法,以及基于模型的方法。为每种方法给出例子。

8.4 假设数据挖掘的任务是将如下8 个点(用(x ,y )代表位置)聚类为3 个簇:A1 (2 ,10 ),A2 (2 ,5 ),A3 (8 ,4 ),

B1 (5 ,8 ),B2 (7 ,5 ),B3 (6 ,4 ),

C1 (1 ,2 ),C2 (4 ,9 )

距离函数是欧几里的距离。假设初始选择A1 ,B1 ,C1 分别为每个聚类的中心。请用K 平均算法给出

a) 第一次循环执行后的三个聚类中心;

b) 最后的三个簇。

8.5 人眼在判断聚类方法对二位数据的聚类质量上是快速而有效的。你能否设计出一个数据可视的方法类似数据聚类可视化和帮助人们判断三维数据的聚类质量。对更高维的数据如何?

8.6 给出如何集成特定聚类算法的例子,例如,什么情况下一个聚类算法被用作另一个算法的预处理。

9.1异构数据库系统由多个数据库系统组成,这些数据库的定义是相互独立的,但彼此间需要一定的信息交换,能够处理局部和全局查询。试述在这种系统中如何使用基于概化的方法处理描述性挖掘查询。

9.2对象立方体的建立,可以在执行多维概化之前通过把面向对象的数据库概化为结构化数据来完成。试述如何在对象立方体中处理集合值数据。

9.3 空间关联挖掘可以至少按如下两种方式加以实现:(i)基于挖掘查询的要求,可以动态计算不同空间对象之间的空间关联关系;(ii)预先计算出空间对象间的空间距离,使得关联挖掘可以基于这些预计算结果求得。试述(i)如何高效实现上述方法;(ii)各方法的适用条件。

9.4假设某城市的交通部门需要规划高速公路的建设,为此希望根据每天不同时刻收集到的交通数据进行有关高速公路大通方面的数据分析。

(a)设计一存储高速公路交通信息的空间数据仓库,可以方便地支持人们按高速公路、按一天的时间和按工作日查看平均的和高峰时间的交通流量,以及在发生重大交通事故时的交通状况。

(b)可以从该空间数据仓库中挖掘什么样的信息用于支持城市规划人员?

(c)该数据仓库既包含了空间数据,也包含了时态数据。设计一种挖掘技术,可以高效地从该空间-时态数据仓库挖掘有意义的模式。

9.5 多媒体中的相似检索已经成为多媒体数据检索系统开发中的主要内容。然而,许多多媒体数据挖掘方法只是基于孤立的简单多媒体特征分析,如颜色、形状、描述、关键字,等等。(a)请指出将数据挖掘与基于相似性的检索结合,可以给多媒体数据挖掘带来重要的进步。可以用任一数据挖掘技术为例,如多维分析、分类、关联或聚类等。

(b)请概述应用基于相似性的搜索方法增强多媒体数据中聚类质量的实现技术。

9.6假设一供电站保存了按时间和按地区的能源消耗量,和每一地区每一用户的能源使用信息。讨论在这一时序数据库中,如何解决如下问题:

(a)找出星期五某一给定地区的相似的能源消耗曲线;

(b)当能源消耗曲线急剧上升时,20分钟内会发生什么情况?

(c)如何找出可以区分稳定能源消耗地区与不稳定能源消耗地区的最突出特征?

9.7假设某连锁餐厅想挖掘出与主要体育事件相关的顾客行为,如"每当电视播出法裔加拿大人的曲棍球比赛时,肯德鸡的销量会在比赛前一小时上升20%"。

(a)给出一种找出这种模式的有效方法。

(b )大部分与时间相关的关联挖掘算法都使用了类Apriori算法来挖掘此类模式。6.2.4节中介绍的基于数据库投影的频繁模式(FP)增长方法,对挖掘频繁项集是十分有效的。可否扩展FP-增长方法去找出此类与时间相关的模式?

9.8一个电子邮件数据库是指包含了大量电子邮件(e-mail)信息的数据库。它可以被视为主要包含文本数据的半结构化数据库。讨论以下问题:

(a)如何使一个e-mail数据库变成结构化的,以便支持多维检索,如按发送者、接受者、主题和时问等的检索。

(b)从e-mail数据库中可以挖掘什么信息?

(c )假设对以前的一组e-mail 信息有一个粗略的对类,如junk (垃圾),unimportant (不重要),normal (一般),或important (重要),试论述一数据挖掘系统如何以此为训练集来自动分类新的e-mail 消息或反分类(unclassify )e-mail 信息。

10.1. 给出一个数据挖掘的例子,并且讨论在此应用中如何使用各种不同的数据挖掘方法

10.2.假设要在市场上购买一个数据挖掘系统

(a)考虑数据挖掘系统与数据库和数据仓库系统耦合方式,试述无耦合、松耦合、半紧耦合和紧耦合之间的区别;

(b)行可伸缩性和列可伸缩性之间的区别是什么?

(c)当选择一个数据挖掘系统时,在以上列出的诸多特征中,哪些是你要关心的?

10.3、考察一个现存的商品化数据挖掘系统。从多个不同角度来看,分析这一系统的主要特征,包括可处理的数据类型,系统体系结构,数据源,数据挖掘功能,数据挖掘方法,与数据库或数据仓库系统的耦合度,可伸缩性,可视化工具,和图形用户界面。能否对该系统提出一些改进意见,并且概述其实现方法?

10.4、提出几种对音频数据挖掘的实现方法。可否将音频数据挖掘与可视化数据挖掘结合起来,使得数据挖掘有趣而强大?

10.5、基于现有的对数据挖掘系统和应用的只是,你认为数据挖掘会成为一个巨大的市场吗?数据挖掘研究与开发的瓶颈是什么?你认为目前数据挖掘的方法会赢得巨大的系统应用市场份额吗?如果不是,你能提出一些建议吗?

10.6、直接查询应答与智能查询应答之间的区别是什么?假设一个用户要查询某度假区的旅馆的价格、地址和等级。举例来说明用直接查询应答与智能查询应答处理此查询的情况。10.7、为什么说理论基础的建立对数据挖掘十分重要的?列出并且描述现在已经提出的数据挖掘的主要理论基础。评论一下每一种理论是如何满足(或者不满足)数据挖掘的理想理论框架的要求。

10.8、通用计算机加上于领域独立的关系数据库系统在过去的几十年中,已经形成一个巨大的市场。对数据挖掘而言,我们应该致力于开发独立于领域的数据挖掘系统,还是应当开发特定领域的数据挖掘系统?请说出理由。

数据仓库与数据挖掘课后习题答案

数据仓库与数据挖掘 第一章课后习题 一:填空题 1)数据库中存储的都是数据,而数据仓库中的数据都是一些历史的、存档的、归纳的、计算的数据。 2)数据仓库中的数据分为四个级别:早起细节级、当前细节级、轻度综合级、高度综合级。3)数据源是数据仓库系统的基础,是整个系统的数据源泉,通常包括业务数据和历史数据。4)元数据是“关于数据的数据”。根据元数据用途的不同将数据仓库的元数据分为技术元数据和业务元数据两类。 5)数据处理通常分为两大类:联机事务处理和联机事务分析 6)Fayyad过程模型主要有数据准备,数据挖掘和结果分析三个主要部分组成。 7)如果从整体上看数据挖掘技术,可以将其分为统计分析类、知识发现类和其他类型的数据挖掘技术三大类。 8)那些与数据的一般行为或模型不一致的数据对象称做孤立点。 9)按照挖掘对象的不同,将Web数据挖掘分为三类:web内容挖掘、web结构挖掘和web 使用挖掘。 10)查询型工具、分析型工具盒挖掘型工具结合在一起构成了数据仓库系统的工具层,它们各自的侧重点不同,因此适用范围和针对的用户也不相同。 二:简答题 1)什么是数据仓库?数据仓库的特点主要有哪些? 数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支

持管理决策。 主要特点:面向主题组织的、集成的、稳定的、随时间不断变化的、数据的集合性、支持决策作用 2)简述数据挖掘的技术定义。 从技术角度看,数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中,提取隐含在其中的、人们不知道的、但又是潜在有用的信息和知识的过程。 3)什么是业务元数据? 业务元数据从业务角度描述了数据仓库中的数据,它提供了介于使用者和实际系统之间的语义层,使得不懂计算机技术的业务人员也能够读懂数据仓库中的数据 4)简述数据挖掘与传统分析方法的区别。 本质区别是:数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识。数据挖掘所得到的信息应具有先前未知、有效和实用三个特征。 5)简述数据仓库4种体系结构的异同点及其适用性。 a.虚拟的数据仓库体系结构 b.单独的数据仓库体系结构 c.单独的数据集市体系结构 d.分布式数据仓库结构

数据库与数据仓库的区别是什么

数据库与数据仓库的区别是什么 简而言之,数据库是面向事务的设计,数据仓库是面向主题设计的。 数据库一般存储在线交易数据,数据仓库存储的一般是历史数据。 数据库设计是尽量避免冗余,一般采用符合范式的规则来设计,数据仓库在设计是有意引入冗余,采用反范式的方式来设计。 数据库是为捕获数据而设计,数据仓库是为分析数据而设计,它的两个基本的元素是维表和事实表。维是看问题的角度,比如时间,部门,维表放的就是这些东西的定义,事实表里放着要查询的数据,同时有维的ID。 单从概念上讲,有些晦涩。任何技术都是为应用服务的,结合应用可以很容易地理解。以银行业务为例。数据库是事务系统的数据平台,客户在银行做的每笔交易都会写入数据库,被记录下来,这里,可以简单地理解为用数据库记帐。数据仓库是分析系统的数据平台,它从事务系统获取数据,并做汇总、加工,为决策者提供决策的依据。比如,某银行某分行一个月发生多少交易,该分行当前存款余额是多少。如果存款又多,消费交易又多,那么该地区就有必要设立ATM了。 显然,银行的交易量是巨大的,通常以百万甚至千万次来计算。事务系统是实时的,这就要求时效性,客户存一笔钱需要几十秒是无法忍受的,这就要求数据库只能存储很短一段时间的数据。而分析系统是事后的,它要提供关注时间段内所有的有效数据。这些数据是海量的,汇总计算起来也要慢一些,但是,只要能够提供有效的分析数据就达到目的了。 数据仓库,是在数据库已经大量存在的情况下,为了进一步挖掘数据资源、为了决策需要而产生的,它决不是所谓的“大型数据库”。那么,数据仓库与传统数据库比较,有哪些不同呢?让我们先看看W.H.Inmon关于数据仓库的定义:面向主题的、集成的、与时间相关且不可修改的数据集合。 “面向主题的”:传统数据库主要是为应用程序进行数据处理,未必按照同一主题存储数据;数据仓库侧重于数据分析工作,是按照主题存储的。这一点,类似于传统农贸市场与超市的区别—市场里面,白菜、萝卜、香菜会在一个摊位上,如果它们是一个小贩卖的;而超市里,白菜、萝卜、香菜则各自一块。也就是说,市场里的菜(数据)是按照小贩(应用程序)归堆(存储)的,超市里面则是按照菜的类型(同主题)归堆的。 “与时间相关”:数据库保存信息的时候,并不强调一定有时间信息。数据仓库则不同,出于决策的需要,数据仓库中的数据都要标明时间属性。决策中,时间属性很重要。同样都是累计购买过九车产品的顾客,一位是最近三个月购买九车,一位是最近一年从未买过,这对于决策者意义是不同的。 “不可修改”:数据仓库中的数据并不是最新的,而是来源于其它数据源。数据仓库反映的是历史信息,并不是很多数据库处理的那种日常事务数据(有的数据库例如电信计费数据库

数据挖掘研究现状综述

数据挖掘 引言 数据挖掘是一门交叉学科,涉及到了机器学习、模式识别、归纳推理、统计学、数据库、高性能计算等多个领域。 所谓的数据挖掘(Data Mining)指的就是从大量的、模糊的、不完全的、随机的数据集合中提取人们感兴趣的知识和信息,提取的对象一般都是人们无法直观的从数据中得出但又有潜在作用的信息。从本质上来说,数据挖掘是在对数据全面了解认识的基础之上进行的一次升华,是对数据的抽象和概括。如果把数据比作矿产资源,那么数据挖掘就是从矿产中提取矿石的过程。与经过数据挖掘之后的数据信息相比,原始的数据信息可以是结构化的,数据库中的数据,也可以是半结构化的,如文本、图像数据。从原始数据中发现知识的方法可以是数学方法也可以是演绎、归纳法。被发现的知识可以用来进行信息管理、查询优化、决策支持等。而数据挖掘是对这一过程的一个综合性应用。

目录 引言 (1) 第一章绪论 (3) 1.1 数据挖掘技术的任务 (3) 1.2 数据挖掘技术的研究现状及发展方向 (3) 第二章数据挖掘理论与相关技术 (5) 2.1数据挖掘的基本流程 (5) 2.2.1 关联规则挖掘 (6) 2.2.2 .Apriori算法:使用候选项集找频繁项集 (7) 2.2.3 .FP-树频集算法 (7) 2.2.4.基于划分的算法 (7) 2.3 聚类分析 (7) 2.3.1 聚类算法的任务 (7) 2.3.3 COBWEB算法 (9) 2.3.4模糊聚类算法 (9) 2.3.5 聚类分析的应用 (10) 第三章数据分析 (11) 第四章结论与心得 (14) 4.1 结果分析 (14) 4.2 问题分析 (14) 4.2.1数据挖掘面临的问题 (14) 4.2.2 实验心得及实验过程中遇到的问题分析 (14) 参考文献 (14)

数据挖掘_概念与技术(第三版)部分习题答案

! 数据仓库和数据库有何不同有哪些相似之处 答:区别:数据仓库是面向主题的,集成的,不易更改且随时间变化的数据集合,用来支持管理人员的决策,数据库由一组内部相关的数据和一组管理和存取数据的软件程序组成,是面向操作型的数据库,是组成数据仓库的源数据。它用表组织数据,采用ER数据模型。 相似:它们都为数据挖掘提供了源数据,都是数据的组合。 定义下列数据挖掘功能:特征化、区分、关联和相关分析、预测聚类和演变分析。使用你熟悉的现实生活的数据库,给出每种数据挖掘功能的例子。 答:特征化是一个目标类数据的一般特性或特性的汇总。例如,学生的特征可被提出,形成所有大学的计算机科学专业一年级学生的轮廓,这些特征包括作为一种高的年级平均成绩(GPA:Grade point aversge)的信息, 还有所修的课程的最大数量。 区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比较。例如,具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较。最终的描述可能是学生的一个一般可比较的轮廓,就像具有高GPA 的学生的75%是四年级计算机科学专业的学生,而具有低GPA 的学生的65%不是。 关联是指发现关联规则,这些规则表示一起频繁发生在给定数据集的特征值的条件。例如,一个数据挖掘系统可能发现的关联规则为:major(X, “computing science”) ? owns(X, “personal computer”) [support=12%, confidence=98%] 其中,X 是一个表示学生的变量。这个规则指出正在学习的学生,12% : (支持度)主修计算机科学并且拥有一台个人计算机。这个组一个学生拥有一台个人电脑的概率是98%(置信度,或确定度)。 分类与预测不同,因为前者的作用是构造一系列能描述和区分数据类型或概念的模型(或功能),而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的相似性是他们都是预测的工具: 分类被用作预测目标数据的类的标签,而预测典型的应用是预测缺失的数字型数据的值。 聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式,将观测组织成类分 层结构,把类似的事件组织在一起。 数据演变分析描述和模型化随时间变化的对象的规律或趋势,尽管这可能包括时间相关数据的特征化、区分、关联和相关分析、分类、或预测,这种分析的明确特征包括时间序列数据分析、序列或周期模式匹配、和基于相似性的数据分析 假设给定的数据集的值已经分组为区间。区间和对应的频率如下。――――――――――――――――――――――――――――――――――――― ? 年龄频率――――――――――――――――――――――――――――――――――――― 1~5 200 5~15 450 15~20 300 20~50 1500 50~80 700 80~110 44 " ―――――――――――――――――――――――――――――――――――――计算数据的近似中位数值。 解答:先判定中位数区间:N=200+450+300+1500+700+44=3194;N/2=1597 ∵ 200+450+300=950<1597<2450=950+1500; ∴ 20~50 对应中位数区间。

大数据仓库与大数据挖掘技术复习资料

数据仓库与数据挖掘技术复习资料 一、单项选择题 1.数据挖掘技术包括三个主要的部分( C ) A.数据、模型、技术 B.算法、技术、领域知识 C.数据、建模能力、算法与技术 D.建模能力、算法与技术、领域知识 2.关于基本数据的元数据是指: ( D ) A.基本元数据与数据源,数据仓库,数据集市和应用程序等结构相关的信息; B.基本元数据包括与企业相关的管理方面的数据和信息; C.基本元数据包括日志文件和简历执行处理的时序调度信息; D.基本元数据包括关于装载和更新处理,分析处理以及管理方面的信息。 3.关于OLAP和OLTP的说法,下列不正确的是: ( A) A.OLAP事务量大,但事务内容比较简单且重复率高 B.OLAP的最终数据来源与OLTP不一样 C.OLTP面对的是决策人员和高层管理人员 D.OLTP以应用为核心,是应用驱动的 4.将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务?( C ) A. 频繁模式挖掘 B. 分类和预测 C. 数据预处理 D. 数据流挖掘5.下面哪种不属于数据预处理的方法? ( D ) A.变量代换 B.离散化 C. 聚集 D. 估计遗漏值 6.在ID3 算法中信息增益是指( D ) A.信息的溢出程度 B.信息的增加效益 C.熵增加的程度最大 D.熵减少的程度最大 7.以下哪个算法是基于规则的分类器 ( A ) A. C4.5 B. KNN C. Bayes D. ANN 8.以下哪项关于决策树的说法是错误的( C ) A.冗余属性不会对决策树的准确率造成不利的影响 B.子树可能在决策树中重复多次 C.决策树算法对于噪声的干扰非常敏感 D.寻找最佳决策树是NP完全问题 9.假设收入属性的最小与最大分别是10000和90000,现在想把当前值30000映射到区间[0,1],若采用最大-最小数据规范方法,计算结果是( A )

数据库和数据仓库的区别

简而言之,数据库是面向事务的设计,数据仓库是面向主题设计的。数据库一般存储在线交易数据,数据仓库存储的一般是历史数据。 数据库设计是尽量避免冗余,一般采用符合范式的规则来设计,数据仓库在设计是有意引入冗余,采用反范式的方式来设计。 数据库是为捕获数据而设计,数据仓库是为分析数据而设计,它的两个基本的元素是维表和事实表。维是看问题的角度,比如时间,部门,维表放的就是这些东西的定义,事实表里放着要查询的数据,同时有维的ID。 单从概念上讲,有些晦涩。任何技术都是为应用服务的,结合应用可以很容易地理解。以银行业务为例。数据库是事务系统的数据平台,客户在银行做的每笔交易都会写入数据库,被记录下来,这里,可以简单地理解为用数据库记帐。数据仓库是分析系统的数据平台,它从事务系统获取数据,并做汇总、加工,为决策者提供决策的依据。比如,某银行某分行一个月发生多少交易,该分行当前存款余额是多少。如果存款又多,消费交易又多,那么该地区就有必要设立ATM了。 显然,银行的交易量是巨大的,通常以百万甚至千万次来计算。事务系统是实时的,这就要求时效性,客户存一笔钱需要几十秒是无法忍受的,这就要求数据库只能存储很短一段时间的数据。而分析系统是事后的,它要提供关注时间段内所有的有效数据。这些数据是海量的,汇总计算起来也要慢一些,但是,只要能够提供有效的分析数据就达到目的了。 数据仓库,是在数据库已经大量存在的情况下,为了进一步挖掘数据资源、为了决策需要而产生的,它决不是所谓的“大型数据库”。那么,数据仓库与传统数据库比较,有哪些不同呢?让我们先看看W.H.Inmon关于数据仓库的定义:面向主题的、集成的、与时间相关且不可修改的数据集合。 “面向主题的”:传统数据库主要是为应用程序进行数据处理,未必按照同一主题存储数据;数据仓库侧重于数据分析工作,是按照主题存储的。这一点,类似于传统农贸市场与超市的区别—市场里面,白菜、萝卜、

大数据时代下的数据挖掘试题和答案及解析

A. 变量代换 B. 离散化 海量数据挖掘技术及工程实践》题目 、单选题(共 80 题) 1) ( D ) 的目的缩小数据的取值范围,使其更适合于数据挖掘算法的需要,并且能够得 到 和原始数据相同的分析结果。 A. 数据清洗 B. 数据集成 C. 数据变换 D. 数据归约 2) 某超市研究销售纪录数据后发现,买啤酒的人很大概率也会购买尿布,这种属于数 据挖 掘的哪类问题 (A) A. 关联规则发现 B. 聚类 C. 分类 D. 自然语言处理 3) 以下两种描述分别对应哪两种对分类算法的评价标准 (A) (a) 警察抓小偷,描述警察抓的人中有多少个是小偷的标准。 (b) 描述有多少比例的小偷给警察抓了的标准。 据相分离 (B) 哪一类任务 (C) A. 根据内容检索 B. 建模描述 7) 下面哪种不属于数据预处理的方法 (D) A. Precision,Recall B. Recall,Precision A. Precision,ROC D. Recall,ROC 4) 将原始数据进行集成、 变换、维度规约、数值规约是在以下哪个步骤的任务 (C) 5) A. 频繁模式挖掘 C. 数据预处理 B. D. 当不知道数据所带标签时, 分类和预测 数据流挖掘 可以使用哪种技术促使带同类标签的数据与带其他标签的数 6) A. 分类 C. 关联分析 建立一个模型, B. D. 聚类 隐马尔可夫链 通过这个模型根据已知的变量值来预测其他某个变量值属于数据挖掘的 C. 预测建模 D. 寻找模式和规则

C.聚集 D. 估计遗漏值 8) 假设12 个销售价格记录组已经排序如下:5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频(等深)划分时,15 在第几个箱子内(B) A. 第一个 B. 第二个 C. 第三个 D. 第四个 9) 下面哪个不属于数据的属性类型:(D) A. 标称 B. 序数 C.区间 D. 相异 10) 只有非零值才重要的二元属性被称作:( C ) A. 计数属性 B. 离散属性 C.非对称的二元属性 D. 对称属性 11) 以下哪种方法不属于特征选择的标准方法:(D) A. 嵌入 B. 过滤 C.包装 D. 抽样 12) 下面不属于创建新属性的相关方法的是:(B) A. 特征提取 B. 特征修改 C. 映射数据到新的空间 D. 特征构造 13) 下面哪个属于映射数据到新的空间的方法(A) A. 傅立叶变换 B. 特征加权 C. 渐进抽样 D. 维归约 14) 假设属性income 的最大最小值分别是12000元和98000 元。利用最大最小规范化的方 法将属性的值映射到0 至 1 的范围内。对属性income 的73600 元将被转化为:(D) 15) 一所大学内的各年纪人数分别为:一年级200人,二年级160人,三年级130 人,四年 级110 人。则年级属性的众数是:(A) A. 一年级 B. 二年级 C. 三年级 D. 四年级 16) 下列哪个不是专门用于可视化时间空间数据的技术:(B) A. 等高线图 B. 饼图

数据仓库与数据挖掘试题

武汉大学计算机学院 20XX级研究生“数据仓库和数据挖掘”课程期末考试试题 要求:所有的题目的解答均写在答题纸上,需写清楚题目的序号。每张答题纸都要写上姓名和学号。 一、单项选择题(每小题2分,共20分) 1. 下面列出的条目中,()不是数据仓库的基本特征。B A.数据仓库是面向主题的 B.数据仓库是面向事务的 C.数据仓库的数据是相对稳定的 D.数据仓库的数据是反映历史变化的 2. 数据仓库是随着时间变化的,下面的描述不正确的是()。 A.数据仓库随时间的变化不断增加新的数据内容 B.捕捉到的新数据会覆盖原来的快照 C.数据仓库随事件变化不断删去旧的数据内容C D.数据仓库中包含大量的综合数据,这些综合数据会随着时间的变化不断地进行重新综合 3. 以下关于数据仓库设计的说法中()是错误的。A A.数据仓库项目的需求很难把握,所以不可能从用户的需求出发来进行数据仓库的设计,只能从数据出发进行设计 B.在进行数据仓库主题数据模型设计时,应该按面向部门业务应用的方式来设计数据模型 C.在进行数据仓库主题数据模型设计时要强调数据的集成性 D.在进行数据仓库概念模型设计时,需要设计实体关系图,给出数据表的划分,并给出每个属性的定义域 4. 以下关于OLAP的描述中()是错误的。A A.一个多维数组可以表示为(维1,维2,…,维n) B.维的一个取值称为该维的一个维成员 C.OLAP是联机分析处理 D.OLAP是数据仓库进行分析决策的基础 5. 多维数据模型中,下列()模式不属于多维模式。D A.星型模式 B.雪花模式 C.星座模式 D.网型模式 6. 通常频繁项集、频繁闭项集和最大频繁项集之间的关系是()。C A.频繁项集?频繁闭项集?最大频繁项集 B.频繁项集?最大频繁项集?频繁闭项集 C.最大频繁项集?频繁闭项集?频繁项集 D.频繁闭项集?频繁项集?最大频繁项集

数据仓库与数据挖掘-教学大纲

《数据仓库与数据挖掘》教学大纲 一、课程概况 课程名称:数据仓库与数据挖掘 英文名称:Data warehousing and data mining 课程性质:选修 课程学时:32 课程学分:2 授课对象:信息类的大学本科高年级学生 开课时间:三年级下学期 讲课方式:课堂+实验 主讲老师: 二、教学目的 本课程把数据视为基础资源,根据软件工程的思想,总结了数据利用的历程,讲述了数据仓库的基础知识和工具,研究了数据挖掘的任务及其挑战,给出了经典的数据挖掘算法,介绍了数据挖掘的产品,剖析了税务数据挖掘的案例,探索了大数据的管理和应用问题。 三、教学任务 完成《数据仓库与数据挖掘》教材内容,及教学计划中的互动实践内容,另有学生自主选题的大作业、选作的论文报告。32学时:课堂24、实验2、课外2、研讨4学时。 四、教学内容的结构 课程由9个教学单元组成,对应于《数据仓库与数据挖掘》的内容。 第1章数据仓库和数据挖掘概述 1.1概述1 1.2数据中心4 1.2.1关系型数据中心 1.2.2非关系型数据中心

1.2.3混合型数据中心(大数据平台)1.3混合型数据中心参考架构 第2章数据 2.1数据的概念 2.2数据的内容 2.2.1实时数据与历史数据 2.2.2时态数据与事务数据 2.2.3图形数据与图像数据 2.2.4主题数据与全部数据 2.2.5空间数据 2.2.6序列数据和数据流 2.2.7元数据与数据字典 2.3数据属性及数据集 2.4数据特征的统计描述22 2.4.1集中趋势22 2.4.2离散程度23 2.4.3数据的分布形状25 2.5数据的可视化26 2.6数据相似与相异性的度量29 2.7数据质量32 2.8数据预处理32 2.8.1被污染的数据33 2.8.2数据清理35 2.8.3数据集成36 2.8.4数据变换37 2.8.5数据规约38 第3章数据仓库与数据ETL基础39 3.1从数据库到数据仓库39 3.2数据仓库的结构39 3.2.1两层体系结构41 3.2.2三层体系结构41 3.2.3组成元素42 3.3数据仓库的数据模型43 3.3.1概念模型43 3.3.2逻辑模型43 3.3.3物理模型46 3.4 ETL46 3.4.1数据抽取47 3.4.2数据转换48 3.4.3数据加载49 3.5 OLAP49 3.5.1维49 3.5.2 OLAP与OLTP49 3.5.3 OLAP的基本操作50

数据挖掘数据预处理

XI`AN TECHNOLOGICAL UNIVERSITY 实验报告 实验课程名称数据集成、变换、归约和离散化 专业:数学与应用数学 班级: 姓名: 学号: 实验学时: 指导教师:刘建伟 成绩: 2016年5月5 日

西安工业大学实验报告 专业数学与应用数学班级131003 姓名学号实验课程数据挖掘指导教师刘建伟实验日期2016-5-5 同实验者实验项目数据集成、变换、归约和离散化 实验设备 计算机一台 及器材 一实验目的 掌握数据集成、变换、归约和离散化 二实验分析 从初始数据源出发,总结了目前数据预处理的常规流程方法,提出应把源数据的获取作为数据预处理的一个步骤,并且创新性地把数据融合的方法引入到数据预处理的过程中,提出了数据的循环预处理模式,为提高数据质量提供了更好的分析方法,保证了预测结果的质量,为进一步研究挖掘提供了较好的参考模式。三实验步骤 1数据分析任务多半涉及数据集成。数据集成是指将多个数据源中的数据合并并存放到一个一致的数据存储(如数据仓库)中。这些数据源可能包括多个数据库、数据立方体或一般文件。在数据集成时,有许多问题需要考虑。模式集成和对象匹配可能需要技巧。 2数据变换是指将数据转换或统一成适合于挖掘的形式。 (1)数据泛化:使用概念分层,用高层概念替换低层或“原始”数据。例如,分类的属性,如街道,可以泛化为较高层的概念,如城市或国家。类似地,数值属性如年龄,可以映射到较高层概念如青年、中年和老年。 (2)规范化:将属性数据按比例缩放,使之落入一个小的特定区间。大致可分三种:最小最大规范化、z-score规范化和按小数定标规范化。 (3)属性构造:可以构造新的属性并添加到属性集中,以帮助挖掘过程。例如,可能希望根据属性height和width添加属性area。通过属性构造可以发现关于数据属性间联系的丢失信息,这对知识发现是有用的。 3数据经过去噪处理后,需根据相关要求对数据的属性进行相应处理.数据规约就是在减少数据存储空间的同时尽可能保证数据的完整性,获得比原始数据小得

数据仓库与数据挖掘习题

数据仓库与数据挖掘习题 1.1什么是数据挖掘?在你的回答中,强调以下问题: (a) 它是又一个骗局吗? (b) 它是一种从数据库,统计学和机器学习发展的技术的简单转换吗? (c) 解释数据库技术发展如何导致数据挖掘 (d) 当把数据挖掘看作知识发现过程时,描述数据挖掘所涉及的步骤。 1.2 给出一个例子,其中数据挖掘对于一种商务的成功至关重要的。这种商务需要什么数据挖掘功能?他们能够由数据查询处理或简单的统计分析来实现吗? 1.3 假定你是Big-University的软件工程师,任务是设计一个数据挖掘系统,分析学校课程数据库。该数据库包括如下信息:每个学生的姓名,地址和状态(例如,本科生或研究生),所修课程,以及他们累积的GPA(学分平均)。描述你要选取的结构。该结构的每个成分的作用是什么? 1.4 数据仓库和数据库有何不同?它们有那些相似之处? 1.5简述以下高级数据库系统和应用:面向对象数据库,空间数据库,文本数据库,多媒体数据库和WWW。 1.6 定义以下数据挖掘功能:特征化,区分,关联,分类,预测,聚类和演变分析。使用你熟悉的现实生活中的数据库,给出每种数据挖掘的例子。 1.7 区分和分类的差别是什么?特征化和聚类的差别是什么?分类和预测呢?对于每一对任务,它们有何相似之处? 1.8 根据你的观察,描述一种可能的知识类型,它需要由数据挖掘方法发现,但未在本章中列出。它需要一种不同于本章列举的数据挖掘技术吗? 1. 9 描述关于数据挖掘方法和用户交互问题的三个数据挖掘的挑战。 1. 10 描述关于性能问题的两个数据挖掘的挑战。 2.1 试述对于多个异种信息源的集成,为什么许多公司宁愿使用更新驱动的方法(构造使用数据仓库),而不愿使用查询驱动的方法(使用包装程序和集成程序)。描述一些情况,其中查询驱动方法比更新驱动方法更受欢迎。 2.2 简略比较以下概念,可以用例子解释你的观点 (a)雪花模式、事实星座、星型网查询模型 (b)数据清理、数据变换、刷新 (c)发现驱动数据立方体、多特征方、虚拟仓库 2.3 假定数据仓库包含三个维time,doctor和patient,两个度量count 和charge,其中charge 是医生对一位病人的一次诊治的收费。 (a)列举三种流行的数据仓库建模模式。 (b)使用(a)列举的模式之一,画出上面数据仓库的模式图。 (c)由基本方体[day,doctor,patient]开始,为列出2000年每位医生的收费总数,应当执行哪些OLAP操作? (d)为得到同样的结果,写一个SQL查询。假定数据存放在关系数据库中,其模式如下:fee(day,month,year,doctor,hospital,patient,count,charge) 2.4 假定Big_University的数据仓库包含如下4个维student, course, semester和instructor,2个度量count和avg_grade。在最低的概念层(例如对于给定的学生、课程、学期和教师的组合),度量avg_grade存放学生的实际成绩。在较高的概念层,avg_grade存放给定组合的

数据仓库与数据挖掘学习心得

数据仓库与数据挖掘学习心得 通过数据仓库与数据挖掘的这门课的学习,掌握了数据仓库与数据挖掘的一些基础知识和基本概念,了解了数据仓库与数据库的区别。下面谈谈我对数据仓库与数据挖掘学习心得以及阅读相关方面的论文的学习体会。 《浅谈数据仓库与数据挖掘》这篇论文主要是介绍数据仓库与数据挖掘的的一些基本概念。数据仓库是支持管理决策过程的、面向主题的、集成的、稳定的、不同时间的数据集合。主题是数据数据归类的标准,每个主题对应一个客观分析的领域,他可为辅助决策集成多个部门不同系统的大量数据。数据仓库包含了大量的历史数据,经集成后进入数据仓库的数据极少更新的。数据仓库内的数据时间一般为5年至10年,主要用于进行时间趋势分析。数据仓库的数据量很大。 数据仓库的特点如下: 1、数据仓库是面向主题的; 2、数据仓库是集成的,数据仓库的数据有来自于分散的操作型数据,将所需数据从原来的数据中抽取出来,进行加工与集成,统一与综合之后才能进入数据仓库; 3、数据仓库是不可更新的,数据仓库主要是为决策分析提供数据,所涉及的操作主要是数据的查询; 4、数据仓库是随时间而变化的,传统的关系数据库系统比较适合处理格式化的数据,能够较好的满足商业商务处理的需求,它在商业领域取得了巨大的成功。

作为一个系统,数据仓库至少包括3个基本的功能部分:数据获取:数据存储和管理;信息访问。 数据挖掘的定义:数据挖掘从技术上来说是从大量的、不完全的、有噪音的、模糊的、随机的数据中提取隐含在其中的、人们事先不知道的、但又是潜在的有用的信息和知识的过程。 数据开采技术的目标是从大量数据中,发现隐藏于其后的规律或数据间的的关系,从而服务于决策。数据挖掘的主要任务有广义知识;分类和预测;关联分析;聚类。 《数据仓库与数据挖掘技术在金融信息化中的应用》论文主要通过介绍数据额仓库与数据挖掘的起源、定义以及特征的等方面的介绍引出其在金融信息化中的应用。在金融信息化的应用方面,金融机构利用信息技术从过去积累的、海量的、以不同形式存储的数据资料里提取隐藏着的许多重要信息,并对它们进行高层次的分析,发现和挖掘出这些数据间的整体特征描述及发展趋势预测,找出对决策有价值的信息,以防范银行的经营风险、实现银行科技管理及银行科学决策。 现在银行信息化正在以业务为中心向客户为中心转变6银行信息化不仅是数据的集中整合,而且要在数据集中和整合的基础上向以客为中心的方向转变。银行信息化要适应竞争环境客户需求的变化,创造性地用信息技术对传统过程进行集成和优化,实现信息共享、资源整合综合利用,把银行的各项作用统一起来,优势互补统一调配各种资源,为银行的客户开发、服务、综理财、管理、风险防范创立坚实的基础,从而适应日益发展的数据技术需要,全面提高银行竞争力,为金融创新和提高市场反映能力

(完整版)数据挖掘概念课后习题答案

第 1 章 1.6 定义下列数据挖掘功能:特征化、区分、关联和相关分析、预测聚类和演变分析。 使用你熟悉的现实生活的数据库,给出每种数据挖掘功能的例子。 ?特征化是一个目标类数据的一般特性或特性的汇总。例如,学生的特征可被提出,形成所 有大学的计算机科学专业一年级学生的轮廓,这些特征包括作为一种高的年级平均成绩 (GPA:Grade point a ve r s ge) 的信息,还有所修的课程的最大数量。 ?区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比 较。例如,具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较。最 终的描述可能是学生的一个一般可比较的轮廓,就像具有高GPA 的学生的75%是四年级 计算机科学专业的学生,而具有低GPA 的学生的65%不是。 ?关联是指发现关联规则,这些规则表示一起频繁发生在给定数据集的特征值的条件。 例如,一个数据挖掘系统可能发现的关联规则为: m a j or(X,“c omput i ng s c i e nc e”) ?owns(X, “pe r s ona l c omput e r”) [s uppor t=12%,c on f i d e nc e=98%] 其中,X 是一个表示学生的变量。这个规则指出正在学习的学生,12%(支持度)主修计算机科学并且拥有一台 。 个人计算机。这个组一个学生拥有一台个人电脑的概率是98%(置信度,或确定度) ?分类与预测不同,因为前者的作用是构造一系列能描述和区分数据类型或概念的模型(或,而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的 功能) 相似性是他们都是预测的工具:分类被用作预测目标数据的类的标签,而预测典型的应用是 预测缺失的数字型数据的值。 ?聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式,将观测组织成类分层结构,把类似的事件组织在一起。 ?数据延边分析描述和模型化随时间变化的对象的规律或趋势,尽管这可能包括时间相关数 据的特征化、区分、关联和相关分析、分类、或预测,这种分析的明确特征包括时间序列数据分 析、序列或周期模式匹配、和基于相似性的数据分析 1.9 列举并描述说明数据挖掘任务的五种原语。 五种原语是: ?任务相关数据:这种原语指明给定挖掘所处理的数据。它包括指明数据库、数据库表、或 数据仓库,其中包括包含关系数据、选择关系数据的条件、用于探索的关系数据的属性或 维、关于修复的数据排序和分组。 ?挖掘的数据类型:这种原语指明了所要执行的特定数据挖掘功能,如特征化、区分、关 联、分类、聚类、或演化分析。同样,用户的要求可能更特殊,并可能提供所发现的模式必 须匹配的模版。这些模版或超模式(也被称为超规则)能被用来指导发现过程。 ?背景知识:这种原语允许用户指定已有的关于挖掘领域的知识。这样的知识能被用来指导 知识发现过程,并且评估发现的模式。关于数据中关系的概念分层和用户信念是背景知识的 形式。 ?模式兴趣度度量:这种原语允许用户指定功能,用于从知识中分割不感兴趣的模式,并且 被用来指导挖掘过程,也可评估发现的模式。这样就允许用户限制在挖掘过程返回的不感兴 趣的模式的数量,因为一种数据挖掘系统可能产生大量的模式。兴趣度测量能被指定为简易 性、确定性、适用性、和新颖性的特征。 ?发现模式的可视化:这种原语述及发现的模式应该被显示出来。为了使数据挖掘能有效地

数据仓库与数据挖掘课后习题答案

数据仓库与数据挖掘课后习 题答案 -标准化文件发布号:(9456-EUATWK-MWUB-WUNN-INNUL-DDQTY-KII

数据仓库与数据挖掘 第一章课后习题 一:填空题 1)数据库中存储的都是数据,而数据仓库中的数据都是一些历史的、存档的、归纳的、计算的数据。 2)数据仓库中的数据分为四个级别:早起细节级、当前细节级、轻度综合级、高度综合级。 3)数据源是数据仓库系统的基础,是整个系统的数据源泉,通常包括业务数据和历史数据。 4)元数据是“关于数据的数据”。根据元数据用途的不同将数据仓库的元数据分为技术元数据和业务元数据两类。 5)数据处理通常分为两大类:联机事务处理和联机事务分析 6)Fayyad过程模型主要有数据准备,数据挖掘和结果分析三个主要部分组成。 7)如果从整体上看数据挖掘技术,可以将其分为统计分析类、知识发现类和其他类型的数据挖掘技术三大类。 8)那些与数据的一般行为或模型不一致的数据对象称做孤立点。 9)按照挖掘对象的不同,将Web数据挖掘分为三类:web内容挖掘、web结构挖掘和web使用挖掘。 10)查询型工具、分析型工具盒挖掘型工具结合在一起构成了数据仓库系统的工具层,它们各自的侧重点不同,因此适用范围和针对的用户也不相同。 二:简答题 1)什么是数据仓库数据仓库的特点主要有哪些 2) 数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化的数据集合,用于支持管理决策。 主要特点:面向主题组织的、集成的、稳定的、随时间不断变化的、数据的集合性、支持决策作用 3)简述数据挖掘的技术定义。 从技术角度看,数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中,提取隐含在其中的、人们不知道的、但又是潜在有用的信息和知识的过程。 4)什么是业务元数据? 业务元数据从业务角度描述了数据仓库中的数据,它提供了介于使用者和实际系统之间的语义层,使得不懂计算机技术的业务人员也能够读懂数据仓库中的数据 5)简述数据挖掘与传统分析方法的区别。 本质区别是:数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识。数据挖掘所得到的信息应具有先前未知、有效和实用三个特征。 6)简述数据仓库4种体系结构的异同点及其适用性。 a.虚拟的数据仓库体系结构 b.单独的数据仓库体系结构

数据挖掘研究现状及发展趋势

数据挖掘研究现状及发展趋势摘要:从数据挖掘的定义出发,介绍了数据挖掘的神经网络法、决策树法、遗传算法、粗糙集法、模糊集法和关联规则法等概念及其各自的优缺点;详细总结了国内外数据挖掘的研究现状及研究热点,指出了数据挖掘的发展趋势。 关键词:数据挖掘;挖掘算法;神经网络;决策树;粗糙集;模糊集;研究现状;发展趋势 Abstract:From the definition of data mining,the paper introduced concepts and advantages and disadvantages of neural network algorithm,decision tree algorithm,genetic algorithm,rough set method,fuzzy set method and association rule method of data mining,summarized domestic and international research situation and focus of data mining in details,and pointed out the development trend of data mining. Key words:data mining,algorithm of data mining,neural network,decision tree,rough set,fuzzy set,research situation,development tendency 1引言 随着信息技术的迅猛发展,许多行业如商业、企业、科研机构和政府部门等都积累了海量的、不同形式存储的数据资料[1]。这些海量数据中往往隐含着各种各样有用的信息,仅仅依靠数据库的查询检索机制和统计学方法很难获得这些信息,迫切需要能自动地、智能地将待处理的数据转化为有价值的信息,从而达到为决策服务的目的。在这种情况下,一个新的技术———数据挖掘(Data Mining,DM)技术应运而生[2]。 数据挖掘是一个多学科领域,它融合了数据库技术、人工智能、机器学习、统计学、知识工程、信息检索等最新技术的研究成果,其应用非常广泛。只要是有分析价值的数据库,都可以利用数据挖掘工具来挖掘有用的信息。数据挖掘典型的应用领域包括市场、工业生产、金融、医学、科学研究、工程诊断等。本文主要介绍数据挖掘的主要算法及其各自的优缺点,并对国内外的研究现状及研究热点进行了详细的总结,最后指出其发展趋势及问题所在。 江西理工大学

《数据挖掘》试题与答案

一、解答题(满分30分,每小题5分) 1. 怎样理解数据挖掘和知识发现的关系?请详细阐述之 首先从数据源中抽取感兴趣的数据,并把它组织成适合挖掘的数据组织形式;然后,调用相应的算法生成所需的知识;最后对生成的知识模式进行评估,并把有价值的知识集成到企业的智能系统中。 知识发现是一个指出数据中有效、崭新、潜在的、有价值的、一个不可忽视的流程,其最终目标是掌握数据的模式。流程步骤:先理解要应用的领域、熟悉相关知识,接着建立目标数据集,并专注所选择的数据子集;再作数据预处理,剔除错误或不一致的数据;然后进行数据简化与转换工作;再通过数据挖掘的技术程序成为模式、做回归分析或找出分类模型;最后经过解释和评价成为有用的信息。 2. 时间序列数据挖掘的方法有哪些,请详细阐述之 时间序列数据挖掘的方法有: 1)、确定性时间序列预测方法:对于平稳变化特征的时间序列来说,假设未来行为与现在的行为有关,利用属性现在的值预测将来的值是可行的。例如,要预测下周某种商品的销售额,可以用最近一段时间的实际销售量来建立预测模型。 2)、随机时间序列预测方法:通过建立随机模型,对随机时间序列进行分析,可以预测未来值。若时间序列是平稳的,可以用自回归(Auto Regressive,简称AR)模型、移动回归模型(Moving Average,简称MA)或自回归移动平均(Auto Regressive Moving Average,简称ARMA)模型进行分析预测。 3)、其他方法:可用于时间序列预测的方法很多,其中比较成功的是神经网络。由于大量的时间序列是非平稳的,因此特征参数和数据分布随着时间的推移而变化。假如通过对某段历史数据的训练,通过数学统计模型估计神经网络的各层权重参数初值,就可能建立神经网络预测模型,用于时间序列的预测。

(数据仓)数据仓库与数据挖掘分析

Adventure Works分销商销售数据分析 ---Women’s Tights 一、概述 Women’s Tights型号共三种产品,分别为“Women’s Tights,L”、“omen’s Tights,M”和“omen’s Tights,S”。这三种商品在拿大、法国和英国均有销售。 在Adventure WorksDW数据库中查询得知三种产品的总销售额如下: 表 1 三种商品销量对比 English Product Name Sales Amount Women's Tights, L$93,554.46 Women's Tights, M$17,727.64 Women's Tights, S$90,550.91 总计$201,833.01 查询命令为: SELECT DimProduct.EnglishProductName AS产品, SUM(FactResellerSales.SalesAmount)AS销售额 FROM DimProduct INNER JOIN FactResellerSales ON DimProduct.ProductKey = FactResellerSales.ProductKey GROUP BY DimProduct.EnglishProductName, DimProduct.ModelName HAVING(DimProduct.ModelName ='Women''s Tights') 从上表可以看出,[Women's Tights, L]与[Women's Tights, S]的销量相当,而[Women's Tights, M]的销量明显低于另两种,其销量只占总销量的9%。会有如此大的差距呢?下面运用OLAP技术进行分析。 为叙述方便,下文用“M”简称[Women's Tights, M],用“L”表示[Women's Tights, L],用“S”表示[Women's Tights, S]。 二、多维数据集的设计

数据挖掘报告(模板)

第一章:数据挖掘基本理论 数据挖掘的产生: 随着计算机硬件和软件的飞速发展,尤其是数据库技术与应用的日益普及,人们面临着快速扩张的数据海洋,如何有效利用这一丰富数据海洋的宝藏为人类服务业已成为广大信息技术工作者的所重点关注的焦点之一。与日趋成熟的数据管理技术与软件工具相比,人们所依赖的数据分析工具功能,却无法有效地为决策者提供其决策支持所需要的相关知识,从而形成了一种独特的现象“丰富的数据,贫乏的知识”。 为有效解决这一问题,自二十世纪90年代开始,数据挖掘技术逐步发展起来,数据挖掘技术的迅速发展,得益于目前全世界所拥有的巨大数据资源以及对将这些数据资源转换为信息和知识资源的巨大需求,对信息和知识的需求来自各行各业,从商业管理、生产控制、市场分析到工程设计、科学探索等。数据挖掘可以视为是数据管理与分析技术的自然进化产物。自六十年代开始,数据库及信息技术就逐步从基本的文件处理系统发展为更复杂功能更强大的数据库系统;七十年代的数据库系统的研究与发展,最终导致了关系数据库系统、数据建模工具、索引与数据组织技术的迅速发展,这时用户获得了更方便灵活的数据存取语言和界面;此外在线事务处理手段的出现也极大地推动了关系数据库技术的应用普及,尤其是在大数据量存储、检索和管理的实际应用领域。 自八十年代中期开始,关系数据库技术被普遍采用,新一轮研究与开发新型与强大的数据库系统悄然兴起,并提出了许多先进的数据模型:扩展关系模型、面向对象模型、演绎模型等;以及应用数据库系统:空间数据库、时序数据库、 多媒体数据库等;日前异构数据库系统和基于互联网的全球信息系统也已开始出现并在信息工业中开始扮演重要角色。

相关文档
相关文档 最新文档