教学大纲_贝叶斯统计
《贝叶斯统计》教学大纲
课程编号：120493A
课程类型：□通识教育必修课□通识教育选修课
□√专业必修课□专业选修课
□学科基础课
总学时：48 讲课学时：32实验（上机）学时：16
学分：3
适用对象：统计学专业
先修课程：高等数学、概率论与数理统计学
毕业要求：
1.扎实的数学基础和完整的统计知识体系
2.计算机编程技能与经济学基本常识
3.解决实际问题的能力
4.统计学和大数据专业知识
一、教学目标
贝叶斯统计是上世纪50年代后，才迅速发展起来的一门统计理论。目前，在欧美等西方国家，贝叶斯统计已经成为了与经典统计学派并驾齐驱的当今两大统计学派之一；随着贝叶斯理论和方法的不断发展和完善，以及相应的计算软件的研制，贝叶斯方法在实践中获得了日趋广泛的应用；特别是，贝叶斯决策问题在统计应用中占有越来越重要的地位。在商业经济预测、政府宏观经济管理、国防工业中对武器装备系统可靠性评估、生物医学研究；知识发现和数据挖掘技术等都获得了广泛应用。
本课程通过贝叶斯统计的教学使学习过传统的数理统计课程的学生了解贝叶斯统计的基本思想和基本观点，了解贝叶斯统计与传统的数理统计在理论和处理方法上的区别，了解贝叶斯统计的最新进展，能够系统的掌握贝叶斯统计的基本理论、基本方法，特别是贝叶斯统计极具特色的一些处理方法，引进一个效用函数(utility function)并选择使期望效用最大的最优决策，这样就把贝叶斯的统计思想扩展到在不确定时的决策问题。很好的将统计学与最优化的思想方法和技术很好的进行了结合。贝叶斯统计理论和方法技术的学习，不仅能够提高学生分析和解决实际问题的能力，还能够更进一步提高对经典数理统计的深入理解。
二、教学内容及其与毕业要求的对应关系
根据贝叶斯统计课程的教学内容，本课程将重点介绍贝叶斯统计推断理论，贝叶斯决策理论。并且注重贝叶斯统计处理方法和基本观点与传统数理统计相应内容对比的讲授方式。注重案例教学，安排学生课后查阅文献资料，以及课堂研讨等方式，了解贝叶斯统计理论和应用最新成果及前沿研究进展。对最新贝叶斯网络和贝叶斯统计的方法除了传统讲授方式外，适当的安排上机实验，了解贝叶斯统计相关软件的使用方法。课程的考核方式：期末开卷+ 论文方式，卷面60%，平时和论文40%。
三、各教学环节学时分配
以表格方式表现各章节的学时分配，表格如下：
教学课时分配
四、教学内容
第一章绪论
第一节贝叶斯理论发展历史简介
简单的介绍贝叶斯理论发展历史，在贝叶斯理论发展过程中一些统计学家的重要工作。
第二节贝叶斯方法的特点
1.贝叶斯统计理论的基本观点
2.贝叶斯统计与传统数理统计的区别
第三节现代贝叶斯统计理论的研究现状
1.先验分布理论的研究
2.后验分布的统计推断
3.贝叶斯网络技术的发展
第四节贝叶斯方法的应用
1.在经济分析中的应用
2.在保险精算中的应用
3.在数据挖掘中的应用
教学重点、难点：重点掌握贝叶斯统计的基本思想，本章难点是贝叶斯统计的基本思想以及贝叶斯统计学派与传统的频率学派的分歧。
课程的考核要求：通过本章的学习，要求学生了解贝叶斯统计思想的历史背景、掌握基本观点及其基本学术思想的内涵、了解贝叶斯统计与传统数理统计的
区别，了解贝叶斯统计理论的研究现状及贝叶斯方法的应用。
复习思考题：
1.贝叶斯统计理论的基本观点是什么？
2.贝叶斯学派与频率学派之间存在的重大分歧是什么？
3.请课后查阅贝叶斯理论相关应用文献资料，然后回答贝叶斯理论有哪
些应用？
第二章先验分布与后验分布
第一节三种信息
1.总体信息
2.样本信息
3.先验信息
第二节贝叶斯公式
1.贝叶斯公式的密度函数形式
2.后验分布是三种信息的综合
第三节共轭先验分布
1.共轭先验分布
2.后验分布的计算
3.共轭先验分布的优缺点
教学重点、难点：重点讲解贝叶斯公式的密度函数形式，特别是连续随机变量形式。共轭先验分布的计算及其优缺点、
课程的考核要求：通过本章的学习，要求学生掌握先验分布与后验分布的概念。理解贝叶斯统计中的三种信息；掌握贝叶斯公式的密度函数形式、共轭先验分布的计算及其优缺点、超参数的确定方法；了解多参数模型和充分统计量。
复习思考题：
1. 什么是贝叶斯公式？写出贝叶斯公式的三种形式。
2. 设θ是一批产品的不合格率，已知它不是0.1就是0.2，其先验分布为：
(0.1)0.7,(0.2)0.3ππ==
假如从这批产品中随机取出8个进行检查，发现有2个不合格品，求θ的后验分布。
3. 共轭先验分布的优缺点是什么？
第三章 贝叶斯推断
第一节 条件方法 第二节 点估计 1. 贝叶斯估计 2. 贝叶斯估计的误差 第三节 区间估计 1. 可信区间
2. 最大后验密度（HPD ）可信区间 第四节 假设检验 1. 假设检验 2. 贝叶斯因子
3. 简单假设对简单假设
4. 复杂假设对复杂假设
5. 简单原假设对复杂备择假设 第五节 预测
1. 预测的基本概念和基本问题
2. 预测的贝叶斯方法 第六节 似然原理 1. 对似然函数的理解 2. 似然原理
3. 两个学派对似然原理的不同理解而产生的影响
教学重点、难点：重点讲解贝叶斯估计和贝叶斯假设检验的思想方法。难点二次损失函数下参数估计的贝叶斯方法。
课程的考核要求：通过本章的学习，要求学生掌握二次损失函数下参数估计的贝叶斯方法、估计量的误差分析、最大后验密度的可信区间；掌握贝叶斯基本假设的涵义、检验方法的一般步骤,了解贝叶斯预测和似然原理。能用这些方法解决一些简单的实际问题。
复习思考题：
1. 简述条件方法的基本思想。
2. 请叙述贝叶斯参数估计基本思想，并写出贝叶斯估计的具体步骤。
3. 怎样评价贝叶斯估计的优劣？
4. 简述贝叶斯假设检验的基本思想，它与经典假设检验的根本区别是什么？
5. 已知随机样本2
10,,~(,)
n X X N θσ???，其中
2
0σ已知。设θ的先验分布为双
指数分布，即/()/(2)c
h e
c θθ-=，其中c 已知。
（1）试求θ的后验分布；
（2）试求θ的后验分布的数学期望。
6.已知随机变量21~(,)X N θσ，随机变量2
2
~(,)Y N θσ，其中两个正态总体含有相同的未知θ，且22
12,σσ已知。设θ的先验分布2~(,)N θμτ，其中2,μτ已知。
（1）如果没有来自总体21(,)N θσ的1,,n X X ???样本数据，试求随机变量Y 的贝叶斯预测值及预测区间。
（2）如果给出了来自总体21(,)N θσ的1,,n X X ???样本数据，试求随机变量Y 的贝叶斯预测值及预测区间。
第四章 先验分布的确定
第一节 主观概率 1. 主观概率
2. 确定主观概率的方法 第二节 利用先验信息确定先验分布 1. 直方图法
2. 选定先验密度函数形式再估计其超参数
3. 定分度法与变分度法
第三节 利用边缘分布m(x)确定先验密度 1. 边缘分布m (x ) 2. 混合分布
3. 先验选择的ML —Ⅱ方法
4. 先验选择的矩方法 第四节 无信息先验分布 1. 贝叶斯假设
2. 位置-尺度参数的无信息先验分布
3. 尺度参数的无信息先验分布
4. 用Fisher 信息阵确定无信息先验分布
教学重点、难点： 重点介绍无信息先验分布。特别是位置参数和尺度参数
的无信息先验分布，和Fisher信息阵确定无信息先验分布。
课程的考核要求：先验分布的确定是贝叶斯学派研究的重点问题，更是研究的难点，也是经典学派批评的热点。要求学生掌握确定先验分布的几个典型方法，掌握贝叶斯假设的概念，掌握位置参数和尺度参数的无信息先验分布，会用Fisher信息阵确定无信息先验分布等，并运用这些方法解决一些实际问题。
复习思考题：
1. 如何理解主观概率？
2.什么是贝叶斯假设？
3. 混合分布的含义是什么？
4. 简述Fisher信息阵确定无信息先验分布的基本步骤。
第五章决策中的收益、损失与效用
第一节决策问题的三要素
1.决策问题
2.决策问题的三要素
第二节决策准则
1.行动的容许性
2.决策准则
第三节先验期望准则
1.先验期望准则的基本原理和应用
2.先验期望准则的两个重要性质
第四节损失函数
1.从收益到损失
2.损失函数
3.损失函数下的悲观准则
第五节常用的损失函数*
1.常用损失函数
2.常用损失函数的应用
第六节效用函数*
1.效用和效用函数
2.效用的测定
3.效用尺度
4.常见的效用曲线
5.用效用函数作决策的例子
6.从效用到损失
教学重点、难点：重点介绍决策问题的三要素、决策准则、先验期望准则及性质，常用的损失函数、损失函数下的悲观准则和先验期望准则。
课程的考核要求：掌握决策问题的三要素、决策准则、先验期望准则及其性质,了解常用的损失函数、损失函数下的悲观准则和先验期望准则；理解效应和效应函数、常用的效应曲线和效应的测定方法,以及效应曲线在决策中的应用。
复习思考题：
1. 如何理解悲观准则、乐观准则、折中准则和先验期望准则之间的联系？
2.某企业准备经营一种新产品，可采取得行动有：大批量、中批量和小批量生产。市场可能出现的状况有：畅销、一般和滞销。如大批量生产，在畅销时可获利100万元，一般时可获利30万元，滞销时亏损60万元；如中批量生产，在三种市场情况下可获利50万元、40万元和亏损20万元；如小批量生产，在三种市场情况下可获利10万元、9万元和6万元。
（1）写出收益矩阵
（2）在悲观准则下，该企业的最优行动是什么？
（3）在乐观准则下，该企业的最优行动是什么？
α=，该企业的最优行动是什么？
（4）若乐观系数0.8
第六章贝叶斯决策
第一节贝叶斯决策问题
1.无数据的决策问题
2.统计决策问题
3.贝叶斯决策问题
第二节后验风险准则
1.后验风险
2.决策函数
3.后验风险准则
第三节常用损失函数下的贝叶斯估计
1.平方损失下的贝叶斯估计
2.线性损失下的贝叶斯估计
3.有限个行动问题的假设检验
第四节抽样信息期望值
1.完全信息期望值
2.抽样信息期望值
第五节最佳样本量的确定
1.抽样净益
2.最佳样本量及其上界
3.最佳样本量的求法
教学重点、难点：贝叶斯决策的基本概念、后验风险、决策函数和后验风险
准则；平方损失函数和线性损失函数下参数的贝叶斯估计方法、有限个行动问题的贝叶斯假设检验；
课程的考核要求：本章系统介绍贝叶斯决策的基本理论和方法，通过本章的学习，要求学生掌握贝叶斯决策的基本概念、后验风险、决策函数和后验风险准则；熟练掌握平方损失函数和线性损失函数下参数的贝叶斯估计、有限个行动问题的贝叶斯hl 检验；了解完全信息期望值、抽样信息期望值、最佳样本容量的确定和正态分布下二行动线性决策问题的先验EVPI 。
复习思考题：
1. 贝叶斯决策问题与其他据测问题的异同点是什么？
2.考察损失函数()(,)()1c d L d e c d θθθ-=--- （1）证明(,)0L d θ>
（2）对0.1,0.5,1.2,c =画出此损失函数图形 （3）在这个损失函数下给出贝叶斯估计的表达式 （4）设12,,
,n x x x 是来自正态总体(,1)N θ的一个样本，θ的先验取无信
息先验，即()1πθ=，请给出θ的贝叶斯估计。 第七章 贝叶斯网络简介 第一节 简单贝叶斯学习模型
1. 简单贝叶斯学习模型的介绍
2.
简单贝叶斯模型的提升
第二节 贝叶斯网络简介 1.Bayesian 网络的定义 2.贝叶斯网的表示方法 3.贝叶斯网络的构造 第三节 贝叶斯问题的求解
第四节 Bayesian 网络的应用案例
教学重点、难点：贝叶斯网络的构造和贝叶斯网络的表述方法
课程的考核要求：让学生知道贝叶斯网络是表示不确定性知识的一种有效方法，贝叶斯网络的参数学习与结构学习是比较活跃的研究领域，贝叶斯网络的推理能够计算出任何给定事件在给定条件下发生的可能性，贝叶斯网络具有广阔的应用前景。了解贝叶斯网络及其应用的最近进展，了解贝叶斯网络的构造和贝叶斯网络的表述方法，初步了解贝叶斯网络的计算软件的实现方法。
五、考核方式、成绩评定
课程的考核方式：期末开卷+ 论文方式，卷面60%，平时和论文40%。
六、主要参考书及其他内容
[1]茆诗松贝叶斯统计北京：中国统计出版社，1999年
[2]吴喜之等现代贝叶斯统计学。北京：中国统计出版社，2000年10月
[3]朱慧明，韩玉启贝叶斯多元统计推断理论科学出版社2006年9月
执笔人：刘黎明教研室主任：系教学主任审核签名：