文档库 最新最全的文档下载
当前位置:文档库 › 基于正则化i-Vector算法的语种识别

基于正则化i-Vector算法的语种识别

基于正则化i-Vector算法的语种识别
基于正则化i-Vector算法的语种识别

正则化全参数地确定方法.doc

实用标准文案 1.拟最优准则 Tikhonov 指出当数据误差水平和未知时,可根据下面的拟最优准则: min dx opt (1-1 ) 0 d 来确定正则参数。其基本思想是:让正则参数以及正则解对该参数的变化率同时稳定在尽可能小的水平上。 2. 广义交叉验证 令 ( I A( 2 / m )) y V ( ) A( ))]2 (2-1 ) [tr ( I / m 其中, A( ) A h (A *h A h I) 1 A *h,tr (I m A( )) k 1 (1 kk ( )), kk ( )为 A( ) 的 对角元素。这样可以取* 满足 V( *) min V ( ) (2-2 ) 此法源于统计估计理论中选择最佳模型的PRESS 准则,但比它更稳健。 3. L_曲线法 L 曲线准则是指以log-log尺度来描述与的曲线对比,进而根据该对比结果来确定正则 参数的方法。其名称由来是基于上述尺度作图时将出现一个明显的L 曲线。 运用L 曲线准则的关键是给出L 曲线偶角的数学定义,进而应用该准则选取参数。Hanke 等[64]建议定义L 曲线的偶角为L 曲线在log-log尺度下的最大曲率。令log b Ax,log x,则该曲率作为参数的函数定义为 ' '''' ' c( )3(3-1) ((')2( ')2)2 其中“ '”表示关于的微分。 H.W.Engl在文献[40]中指出:在相当多的情况下,L 曲线准则可通过极小化泛函 精彩文档

( ) x b Ax 来实现。即,选取* 使得 * arg inf ( ) (3-2 ) 这一准则更便于在数值计算上加以实施。 但到目前为止 ,还没有相关文献获得过关于L 曲线准则的收敛性结果。另一方面,有文献己举反例指出了L 曲线准则的不收敛性。虽然如此,数值计算的结果表明,L 曲线准则与 GCV 一样 ,具有很强的适应性。 4.偏差原理 : 定理 4-1:(Morozov 偏差原理 )[135] 如果( ) 是单值函数,则当U ( A z0, u) 时存在这样的( ),使得: U ( A z ( ) , u) (4-1 ) , 式中z0 z | [ z] inf F1 [ ] 。 事实上,令( ) ( ) 2 ,由( ) 的单调性和半连续性,可知( ) 也是单调和半连续的,并且 lim ( ) 0 , 同时,由 z0的定义以及( ) 的半连续性,对于给定的,可以找到这样的0 0( ),使得: (0()) (0()) U ( A z 0 ( ), u) , 由 ( ) 的单值性可导出( ) 的单值性,从而必定存在( ) [0, 0 ] 满足方程(4-1 )。 根据上述定理,若方程 Az u,u F ,u U (4-2 ) 的准确右端项u R(A) , 的近似 u s U 且满足条件: U (u ,u ) ; (0, u ) ,而 u 精彩文档

大地测量中不适定问题的正则化解法研究

大地测量中不适定问题的正则化解法研究 摘要:为了解决大地测量中的不适定问题,人们提出了正则化解法,并期望通 过对正则解法的不断研究从而彻底解决大地测量中的不适定问题。论文对大地测 量中不适定问题的正则化解法研究进行详细论述,给相关人士提供参考。 关键词:大地测量;?不适定问题;?正则化解法;?系统误差; 大地测量是一项对地球的相关数据进行测量的活动。大地测量活动的开展不 但可以有效提升地形测图以及工程测量的精准度,同时还可以促进国家空间科学 以及国防建设的发展。此外,随着大地测量的不断深入,人们可以对地壳运动以 及地震等地质活动进行预测,从而降低地震等自然灾害对于人类的危害。然而在 大地测量中,时常会遇到一些不适定问题。例如,测量中所存在的控制网平差、GPS无法快速定位等。这些大地测量中的不适定问题虽然表现形式不同,但却有 着一些相同点。首先,这些不适定问题一般解均不唯一。再者,这些不适定问题 有时还会出现无解的状况。此外,这些不适定问题常常还会出现解不稳定的现象。这些不适定问题的出现严重影响了大地测量的进行与发展,因此,为了解决大地 测量中的不适定问题,对其解决方法进行了深入的研究,并将其逐步演变为正则 化解法。通过正则化解法,可以有效地解决大地测量中的不适定问题,并针对病 态性的算法进行改进,从而促进大地测量的快速发展。 1 推导了大地测量不适定问题解的统一表达 为对大地测量中不适定问题开展正则化解法研究,最初研究推导了大地测量 中不适定问题解的同意表达。旨在分析大地测量中不适定问题常用的一些数学模型,研究表明在该阶段常见的数学模型主要有拟合推估模型、自由网平差模型、 病态模型和半参数模型等。经计算显示,这些数学模型的解可以用某个数学关系 式统一表达,而令研究者所震惊的是这些数学模型都能够在TIKHONOV正则化原 理下推导出。实际推导过程中,为保证计算结果的准确度,研究者要把握好这些 数学模型之间的共性问题,尽可能地分析出他们的个性,求解时既要考虑数学模 型的基本计算理论,又要寻求合适的优化求解方案,以此来深化研究。 2 克服病态性的改进算法研究 在克服病态性的改进算法研究中,从以下3步展开论述:首先,针对一些难 以确定的岭参数,系统会主动选择研究确定的岭参数L曲线。为使L曲线的效果 能够更加清晰地展现出来,该算法研究采用对比法,将L曲线法同传统的岭迹法 相比较,以此来得出全新的结论。其次,研究还提出了克服病态性的两步解法, 需重点研究了两步解法的计算原理和相关数据性质以及相应的计算适应条件等。 同常规的克服病态性改进算法研究方案相比,该方案更为优异。最后,研究提出 了一种新的奇异值修正方案,该方案的核心是将奇异值分为2个部分进行分别修 正处理。实践证明这种方案是很有研究效果的,同其他克服病态性的改进算法相 比该方案的结算结果更为精准。 3 单频GPS快速定位中减弱病态性的新方法研究 本次研究,主要论述了单频GPS快速定位中减弱病态性的新方法,能够在较 短的时间内实现快速GPS定位。为此,首先分析了关于GPS快速定位的矩阵的结 构特性。在正则化原理的前提下,有针对性地提出了以下2种正则化矩阵的构造 方法。利用这2种新的方案,可以在很大程度上减弱传统法矩阵的病态性,利用 较短的时间就可以得出较为准确的结论。为此,对这2种新型的减弱矩阵病态性

正则化方法

3.2正则化方法的概念 从数学角度来分析,CT 中的有限角度重建问题相当于求解一个欠定的代数方程组,属于不适定问题研究范畴,解决这类问题通常需要引入正则化方法]27,26[。 3.2.1不适定的概念 设算子A 映X x ∈为P p ∈,X 与P 分别为某类赋范空间,记 P Ax = (3.9) 在经典意义下求解(3.9),就存在下述问题: (1)(3.9)式的解是否存在; (2)(3.9)式的解如果存在,是否唯一; (3)(3.9)式的解是否稳定或者说算子A 是否连续:对于右端的P 在某种意义下作微小的变动时,相应的解童是不是也只作微小的变动。 只要这些问题中有一个是否定的,就称(3.9)的解是不适定的。 3.2.2正则化方法概念的引入 设算子A 映X x ∈为P p ∈,X 与P 分别为某类赋范空间,二者满足(3.9)式。设A 的逆算子1-A 不连续,并假定当右端精确值为r p 时,得到经典意义下的解为r x ,即满足 r r P Ax = (3.10) 现在的问题是,如果右端受到扰动后变为δp ,且二者满足关系 δδ≤-r p p (3.11) 其中,?为某范数。则由于1-A 的不连续性,我们显然不能定义r p 对应的解为: δδp A x 1-= (3.12)

因此,必须修改该逆算子的定义。 定义:设算子),(αp R 映p 成x ,且依赖一个参数α,并具有如下性质: (1)存在正数01>δ,使得对于任意0>α,以及r p 的)(1δδδ≤邻域中的p ,即满足 10,δδδ≤<≤-p p r (3.13) 的p ,算子R 有定义。 (2)若对任意的0>ε,都存在),0(1δδ∈及依赖于δ的参数)(δαα=,使得算子),(αp R 映r p 的δ邻域到r x 的ε领域内,即 εδαδδ≤-=r x x x p R ,))(,( (3.14) 则称),(αp R 为方程(3.14)中A 的正则逆算子;δx 称为方程(3.14)的正则解,当0→δ时,正则解可以逼近我们所要求的精确解;α称为正则化参数。这样的求解方法就称为正则化方法。

正则化简介

正则化(regularization) 正则化(regularization)在线性代数理论中,不适定问题通常是由一组线性代数方程定义的,而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。反问题有两种形式。最普遍的形式是已知系统和输出求输入,另一种系统未知的情况通常也被视为反问题。许多反问题很难被解决,但是其他反问题却很容易得到答案。显然,易于解决的问题不会比很难解决的问题更能引起人们的兴趣,我们直接解决它们就可以了。那些很难被解决的问题则被称为不适定的。一个不适定问题通常是病态的,并且不论是简单地还是复杂地改变问题本身的形式都不会显著地改善病 态问题。另一方面,病态问题不一定是不适定的,因为通过改变问题的形式往往可以改善病态问题。在严格的数学意义上,我们通常不可能对不适定问题进行求解并得到准确解答。然而,通过使用我们的先验知识,我们通常有希望能够得到一个接近准确解答的答案。 求解不适定问题的普遍方法是:用一族与原不适定问题相“邻近”的适定问题的解去逼近原问题的解,这种方法称为正则化方法。如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。通常的正则化方法有基于变分原理的Tikhonov 正则化、各种迭代方法以及其它的一些改进方法,这些方法都是求解不适定问题的有效方法,在各 类反问题的研究中被广泛采用,并得到深入研究。 正则化:Normalization,代数几何中的一个概念。 通俗来说,就是给平面不可约代数曲线以某种形式的全纯参数表

示。 即对于PC^2中的不可约代数曲线C,寻找一个紧Riemann面C*和一个全纯映射σ:C*→PC^2,使得σ(C*)=C 严格的定义如下: 设C是不可约平面代数曲线,S是C的奇点的集合。如果存在紧Riemann面C*及全纯映射σ:C*→PC^2,使得 (1) σ(C*)=C (2) σ^(-1)(S)是有限点集 (3) σ:C*\σ^(-1)(S)→C\S是一对一的映射 则称(C*,σ)为C的正则化。不至于混淆的时候,也可以称C*为C 的正则化。 正则化的做法,实际上是在不可约平面代数曲线的奇点处,把具有不同切线的曲线分支分开,从而消除这种奇异性。[1] 正则化方法 Regularization Method 正则化算子 regularizing operator 物理学中,尤其是量子场论,正则化(regularization)是一项处理无限大、发散以及一些不合理表示式的方法,其方法透过引入一项辅助性的概念——正则化因子(regulator)。举例来说,若短距离物理效应出现发散,则设定一项空间中最小距离来解决这情形。正确的物理结果是让正则化因子消失(此例是) 的极限情形,不过正则化因子的用意就在于当它是有限值,理论结果也是有限值的。正则化是将数学中的发散级数的可和性方法(summability methods)用在物理学问题上。

层析反演中的正则化方法研究

李辉,王华忠,张兵.层析反演中的正则化方法研究[J].石油物探,2015,54(5):569 - 581Li Hui,Wang Huazhong,Zhang Bing.The study of regularization in tomography[J].Geophysical Prospecting for Petroleum,2015,54(5):569 - 581收稿日期:2014-11-24;改回日期:2015-02- 26。作者简介:李辉(1985—) ,男,博士,现从事射线类偏移与反演的研究工作。基金项目:国家自然科学基金(41374117)、国家重点基础研究发展计划(973计划)项目(2011CB201002) 、国家科技重大专项项目(2011ZX05003-003,2011ZX05005-005-008HZ,2011ZX05006-002)和中国石化地球物理重点实验室开放基金项目(33550006-14- FW2099- 0026)共同资助。层析反演中的正则化方法研究 李 辉1,2,王华忠1,张 兵1, 3 (1.同济大学海洋与地球科学学院波现象与反演成像研究组,上海200092;2.青凤致远应用地球物理研究所,上海200093;3.中国石油化工股份有限公司石油物探技术研究院,江苏南京211103 )摘要:正则化可显著降低层析反演解的非唯一性,提高层析反演结果的质量。主要研究了模型参数正则化和数据正则化。地下介质参数之间的关联性如何加入模型正则化是讨论的问题之一;观测数据之间的关联性加入数据正则化的方法则是另一个主要议题。此外,讨论了Tikhonov正则化和预条件两种模型正则化实现策略,指出前者理论比较直观,后者计算效率更高,并证明了两者在理论上的等价性。模型正则化通过构造各向异性光滑算子加入地质构造特征,数据正则化则通过在层析矩阵中加入预先构造的数据预条件矩阵来实现。通过层析偏移速度分析给出了模型正则化和数据正则化的具体实现策略。理论分析和层析偏移速度分析的数值实验说明本文的模型正则化和数据正则化可显著提高层析反演的质量。 关键词:层析偏移速度分析;模型正则化;数据正则化;预条件;地质构造约束中图分类号:P631 文献标识码:A 文章编号:1000-1441(2015)05-0569-13  DOI:10.3969/j .issn.1000-1441.2015.05.010The study  of regularization in tomographyLi Hui 1,Wang Huazhong1,Zhang  Bing1,2 (1.Wave Phenomena and Inversion Imaging Group(WPI),Tongji University,Shanghai 200092,China;2.Qingfeng- zhiyuan Applied Geophysics Institute,Shanghai 200093,China;3.Sinopec Geophysical Research Institute,Nanjing211103,China) Abstract:Regularization in tomography is able to weaken the non-uniqueness of tomography to improve the inversion result-The discussion of regularization in this paper includes model-regularization and data-regularizationModel parameters are not i-solated,how to add the relationship of these parameters into tomography is one of the missions hereSimilarly,considering da-tum relationship in tomography is another problemThe so-called“straightforward regularization”and the“precondition regu-larization”are focused,and we achieve that the former is intuitionistic and the latter is more efficiencyAlso,we point out thatthe above two algorithms are equivalent to each other,and this will be shown in this paperThe geological structure character-istics of the medium can be integrated into the tomography using the model-regularization with anisotropic smooth matrix.The data-regularization is realized with another smooth operator which will be integrated into the tomographic matrix.Themodel-regularization and data-regularization are tested with tomographic migration velocity analysis(MVA)algorithm.Theresults of theory and numerical experiments with tomographic MVA show that the proposed model-regularization and the da-ta-regularization are both able to improve the quality of tomography  obviously.Key words:tomographic MVA,model-regularization,data-regularization,precondition,geological structure constraint 随着勘探地震技术的发展以及石油工业需求 的提高,叠前深度偏移逐渐成为工业应用中偏移技 9 65第54卷第5期2015年9月石 油 物 探 GEOPHYSICAL PROSPECTING FOR  PETROLEUMVol.54, No.5Sep.,2015

正则化图像超分辨率重建算法

正则化图像超分辨率重建算法 1. MAP 正则化算法理论介绍 图像超分辨率重建问题是一个病态的问题,而在求解中加入先验信息可以提供一个很好的正则化机制来获得具有物理意义的解。贝叶斯(Bayesian )方法可以用先验概率分布的形式来加入先验限制,从而可以获得超分辨率问题的正则解,而且该方法在近年的研究中被证明十分有效,因此成为图像超分辨率重建的主要方法之一。 贝叶斯的基本思想是:假设原始图像X 和降质图像Y 都是随机场,当概率 ()|P X Y 取最大值时,X 代表了在已知降至图像Y 时,原始图像X 的最大可能, 被称为X 的最大后验概率估计。 ()()()()arg max || arg max MAP X X X P X Y P Y X P X P Y =???? ?? =?? ?? (1) 由于以e 为底数的log 函数是单调递增函数,因此可以将上述概率函数取log 对数,不会影响最大值的结果。 ()()()arg max log log log MAP X X Y X P X P Y ??=+-?? (2) 由上式可知,()log P Y 与MAP X 取得最大值无关,因此可以忽略不计。由此可得: ()()arg max log log MAP X X Y X P X ??=+?? (3) 假定图像的噪声是均值为0,方差为2σ的高斯分布,则在给定的HR 图像的 当前估计X 的条件下,LR 图像的概率密度为: ( )22,,,,,|()2)k i j k i j k n i j P Y X Y Y σ=-- (4) 由此可得

( )22,,,,,22,,,,,,2,,,,,,?arg max log |arg max log ()2)arg min ()2arg min ()X X i j k i j k n i j X i j k i j k n i j k X i j k i j k i j k X P Y X Y Y Y Y Y Y σσ??=?? ??=--?? ??????=-?? ?? ??=-???? ∑∑ (5) 上式中,由于方差齐次性,所以可以消去n σ的影响。 2. 图像超分辨率重建的正则化处理 由于图像成像系统降质过程模型表达式为: y Hx n =+ (6) 图像超分辨率重建问题转化为求解使下式达到最小值的X 2?arg min X X Y HX =- (7) 其Euler-Lagrange 方程为: T T H HX H Y = (8) 由此可看出,H 及Y 的很小变化就会造成解的很大变化,从而导致解不连续依赖于观测数据,所以这种情况是病态的。由于上述问题,我们通常加入正则化项2 CX α,对X 进行约束,构造正则化泛函如下: { }2 2 ?arg min X X Y HX CX α=-+ (9) 2Y HX -表示数据拟合项,通过已知数据和未知数据的差来衡量数据拟合程 度;2 CX α是正则项,用来平衡数据的奇异性,并补偿降质图像所丢失的一些信息,使问题不在病态;α为正则化参数,起平衡正则项和数据项的作用,其值 的变化,可以影响数据的平滑性和数据拟合误差,直接影响重建数据的效果;C 通常代表高通滤波。 上式作为代价函数是凸函数,可以找到唯一解 1()T T T x H H C C H y α-=+ (10) 但由于逆矩阵的求解十分复杂,本文采用迭代下降算法求解重建图像,可以得到迭代表达式为: 1(())T T T k k k k x x H y H H x C C x α+=+-+ (11) 222 2 ()15k k x y Hx y α=- (12)

正则化和反问题

正则化和反问题 正则化(regularization)在线性代数理论中,不适定问题通常是由一组线性代数方程定义的,而且这组方程组通常来源于有着很大的条件数的不适定反问题。大条件数意味着舍入误差或其它误差会严重地影响问题的结果。反问题有两种形式。最普遍的形式是已知系统和输出求输入,另一种系统未知的情况通常也被视为反问题。许多反问题很难被解决,但是其他反问题却很容易得到答案。显然,易于解决的问题不会比很难解决的问题更能引起人们的兴趣,我们直接解决它们就可以了。那些很难被解决的问题则被称为不适定的。一个不适定问题通常是病态的,并且不论是简单地还是复杂地改变问题本身的形式都不会显著地改善病态问题。另一方面,病态问题不一定是不适定的,因为通过改变问题的形式往往可以改善病态问题。在严格的数学意义上,我们通常不可能对不适定问题进行求解并得到准确解答。然而,通过使用我们的先验知识,我们通常有希望能够得到一个接近准确解答的答案。 求解不适定问题的普遍方法是:用一族与原不适定问题相"邻近"的适定问题的解去逼近原问题的解,这种方法称为正则化方法。如何建立有效的正则化方法是反问题领域中不适定问题研究的重要内容。通常的正则化方法有基于变分原理的Tikhonov正则化、各种迭代方法以及其它的一些改进方法,这些方法都是求解不适定问题的有效方法,在各类反问题的研究中被广泛采用,并得到深入研究。 正则化:Normalization,代数几何中的一个概念。 通俗来说,就是给平面不可约代数曲线以某种形式的全纯参数表示。 即对于PC^2中的不可约代数曲线C,寻找一个紧Riemann面C*和一个全纯映射σ:C*→PC^2,使得σ(C*)=C 严格的定义如下: 设C是不可约平面代数曲线,S是C的奇点的集合。如果存在紧Riemann 面C*及全纯映射σ:C*→PC^2,使得

正则化参数的确定方法

1. 拟最优准则 Tikhonov 指出当数据误差水平δ和η未知时,可根据下面的拟最优准则: 0min opt dx d ααααα>????=?????? (1-1) 来确定正则参数。其基本思想是:让正则参数α以及正则解对该参数的变化率同时稳定在尽可能小的水平上。 2. 广义交叉验证 令 22(())/()[(())]/I A y m V tr I A m δααα-=- (2-1) 其中,* 1*()A (A A I)A h h h h A αα-=+,1(I A())(1())m kk k tr ααα=-=-∑,()kk αα为()A α的 对角元素。这样可以取* α满足 *()min ()V V αα= (2-2) 此法源于统计估计理论中选择最佳模型的PRESS 准则,但比它更稳健。 3. L_曲线法 L 曲线准则是指以log-log 尺度来描述与的曲线对比,进而根据该对比结果来确定正则 参数的方法。其名称由来是基于上述尺度作图时将出现一个明显的L 曲线。 运用L 曲线准则的关键是给出L 曲线偶角的数学定义,进而应用该准则选取参数α。Hanke 等[64]建议定义L 曲线的偶角为L 曲线在log-log 尺度下的最大曲率。令log b Ax αρ=- ,log x αθ=,则该曲率作为参数α的函数定义为 '''''' 3 '2'22()(()())c ρθρθαρθ-=+ (3-1) 其中“'”表示关于α的微分。 H.W.Engl 在文献[40]中指出:在相当多的情况下,L 曲线准则可通过极小化泛函 ()x b Ax ααφα=-来实现。即,选取*α使得 {} *0arg inf ()ααφα>= (3-2) 这一准则更便于在数值计算上加以实施。 但到目前为止,还没有相关文献获得过关于L 曲线准则的收敛性结果。另一方面,有文献己举反例指出了L 曲线准则的不收敛性。虽然如此,数值计算的结果表明,L 曲线准则与GCV 一样,具有很强的适应性。 4. 偏差原理: 定理4-1:(Morozov 偏差原理)[135]如果()φα是单值函数,则当0(,)U z A u ρδ>时存在这 样的()ααδ=,使得:

地质参数确定方法

水文地质参数确定方法 水文地质参数,反映含水层或透水层水文地质性能的指标。如渗透系数、导水系数、水位传导系数、压力传导系数、给水度、释水系数、越流系数等,都是基本的水文地质参数。水文地质参数是进行各种水文地质计算时不可缺少的数据。一般是通过勘探试验测求水文地质参数。表征岩石(土)的水文地质性能的数量指标。是供水水文地质勘察中进行水文地质计算和地下水资源评价的数据。表征岩土储存、释出和输运水、溶质或热的特性的定量指标。 水文地质参数主要包括渗透系数、导水系数、释水系数、压力传导系数、越流系数、降水入渗系数、给水度、影响半径和弥散系数等。 常用的水文地质参数有下列各种: 1、渗透系数,又称水力传导系数,是水力坡度为1时,地下水在介质中的渗透速度。为表征介质导水能力的重要水文地质参数。渗透系数不仅与介质性质有关,还与在介质中运动的地下水的粘滞系数、比重及温度等物理性质有关。根据达西定律:V=-KH/I式中,V为渗透速度;H为地下水水头;I为渗透距离;K为介质的渗透系数,量纲为(L/T)。其与渗透率的关系为K=r?k/μ(K为渗透系数;k为渗透率;r为地下水的比重;μ为地下水动力粘滞系数)。从关系式中可知渗透系数与水的粘滞系数成反比,而后者随温度的升高而减小,因此,渗透系数随温度的升高而增大。在地下水温度变化较大时,应作相应的换算。在地下水矿化度显著增高时,水的比重和粘滞

系数均增大,渗透系数则随之而变化。在这种情况下,一般采用与液体性质无关的渗透率较为方便。 渗透系数是水力坡度为1时,水在介质中的渗透速度(以m/d表示)。是描述地下水在岩石(土)中导水性能的重要参数。又称水力传导系数。渗透系数的大小由岩石(土)中连通的孑L隙大小决定。岩石(土)中的孔隙大,则其渗透系数也大。同时渗透系数还与地下水在岩石(土)中运动时所溶物质、粘滞度、密度和温度等物理性质有关。由于地下水的密度和粘滞度等变化极小,对这些因素的变化常忽略不计。 渗透系数和渗透率渗透系数是表征在水力坡度作用下岩土输运地下水的能力的参数,又称水力传导系数(见达西定律)。因此,其数值不仅取决于岩土的特性,同时也与通过岩土的地下水的物理性质有关,即 式中K为渗透系数;k为岩土的渗透率;γ为地下水的重率;μ为地下水的动力粘滞系数。 渗透率也称渗透度,表征岩土本身输运流体能力而与流体的性质无关的参数,它仅仅取决于岩土的空隙性(空隙的大小、空隙率、空隙的形状和空隙的曲折性等)。因此,对于同一种岩土,渗透率是个定值;渗透系数则随水的物理性质的差异而不同。 在各向同性的岩土中,渗透率与渗流方向无关;对于各向异性的岩土,渗透率则随渗流方向而变。 在非饱和岩土中,渗透系数K和渗透率k为含水率的函数,不是

图像处理中的正则化

图像处理中的正则化 二维的图像可以分解成不同的频率成分。其中,低频成分描述大范围的信息,而高频成分描述具体的细节。 在灰度图像中,亮度变化小的区域主要是低频成分,而亮度变化剧烈的区域 (比如物体的边缘)主要是高频成分。 前一章说明当噪声存在时过滤是必要的。这章需要仔细看看过滤。过滤也称为正则化,因为它可以解释成对解执行特定规律的条件。正规化的程度是由一个正则化参数决定的,这个参数应该仔细选择。我们本章主要关注两个正则化方法(TSVD 和Tikhonov)和三个计算正则化参数的方法(差异原则,广义交叉验证和L-曲线标准). 6.1 两个重要的方法 在前面的章节中SVD 分析激发了谱过滤方法的使用,因为这些方法使我们通过过滤因子能控制模糊图像的谱的内容。实现谱过滤方法必须通过选择计算出的解 ∑==N i i i T i i filt v b u X 1 σφ, (6.1) 中的过滤因子i φ。 为了获得一个有理想性质的解。这些方法受坐标系b u T i 和坐标系x v T i 的影响,其中坐标系b u T i 由向量()N i u i ,...,1=决定,坐标系x v T i 由向量()N i v i ,...,1=决定。操作b 的数据 上面提到的坐标系是谱坐标系,因为这些向量分别是A A T 和T A A 的特征向量。 我们看到了精确的求解方程组b Ax =,当数据被噪声污染时得不到一个好的解。相反,我们通过(5.3)中的过滤展式过滤光谱解,使得在i v 方向上解的元素按过滤因子i φ缩放,而且可以减小误差在b u T i 中的影响。在这一节中我们讨论两个最重要的谱过滤方法。 1.TSVD 方法. 对于这个方法,我们定义对于大奇异值过滤因子的大小为1,对于其他奇异值过滤因子为0。更确切地说, ? ? ?+==≡.,...,1 ,0, ,...,1 ,1N k i k i i φ (6.2) 参数k 称为截断参数决定了正则解中奇异值的数量。注意k 总满足N k ≤≤1。例如,这是一种用于 计算图5.6所示的解的方法。 2.Tikhonov 方法. 对于这种方法,我们定义过滤因子为 ,,...,1 ,2 22 N i i i i =+≡ασσφ (6.3) 其中0>α 称为正则化参数,这个参数的选择得到了最小化问题 { }22 222 min x Ax b x α+-, (6.4) 的解向量 αX 。

正则化参数λ

正则化参数λ或者α如何选择? 1Tikhonov (吉洪诺夫)正则化 投影方程Ax=b (1) 在多种正则化方法中,Tikhonov 正则化方法最为著名,该正则化方法所求解为线性方程组众多解中使残差范数和解的范数的加权组合为最小的解: (2) 式中22. 表示向量的 2 范数平方;λ 称为正则参数,主要用于控制残差范数22 Ax b 与解的范数22Lx 之间的相对大小; L 为正则算子,与系统矩阵的具体形式有关。 Tikhonov 正则化所求解的质量与正则参数λ 密切相关,因此λ 的选择至关重要。确定正则参数的方法主要有两种:广义交叉验证法和 L-曲线法。 (1)广义交叉验证法(GCV ,generalized cross-validation ) 广义交叉验证法由 Golub 等提出,基本原理是当式Ax=b 的测量值 b 中的任意一项i b 被移除时,所选择的正则参数应能预测到移除项所导致的变化。经一系列复杂推导后,最终选取正则参数λ 的方法是使以下 GCV 函数取得最小值。 (3) 式中T A 表示系统矩阵的转置; trace 表示矩阵的迹,即矩阵中主对角元素的和。 (2)L-曲线法(L-curve Method ) L-曲线法是在对数坐标图上绘制各种可能的正则参数所求得解的残差范数和解的范数,如图1所示,所形成的曲线一般是 L 形。 图1 L 曲线示意图 L 曲线以做图的方式显示了正则参数变化时残差范数与解的范数随之变化的情况。从图

中知道当正则参数λ 取值偏大时,对应较小的解范数和较大的残差范数;而当λ 取值偏小时,对应较大的解范数和较小的残差范数。在 L 曲线的拐角(曲率最大)处,解的范数与残差范数得到很好的平衡,此时的正则参数即为最优正则参数。 另外一种方法 Morozov 相容性原理 是一种应用非常广泛的选取策略,它是通过求解非线性的Morozov 偏差方程来得到正则化参数。 投影方程 Kx=y 考虑有误差的右端观测数据 y Y δ∈ 满足y y δδ-≤,Tikhonov 正则化方法是通过极小化Tikhonov 泛函。 来得到正则化解,其中,α为正则化参数。当0α>时,泛函()J x α 在空间X 上存在唯一的极小元,x αδ,且该极小元恰为方程 的唯一解,其中,*K :Y X → 为算子K 的伴随算子。 Morozov 相容性原理选取正则化参数()ααδ=是通过保证正则化解,x αδ满足方程 来实现的。

LM 优化算法和贝叶斯正则化算法

% 采用贝叶斯正则化算法提高 BP 网络的推广能力。在本例中,我们采用两种训练方法, %即 L-M 优化算法(trainlm)和贝叶斯正则化算法(trainbr), % 用以训练 BP 网络,使其能够拟合某一附加有白噪声的正弦样本数据。其中,样本数据可以采用如下 % MATLAB 语句生成: % 输入矢量:P = [-1:0.05:1]; % 目标矢量:randn(‘seed’,78341223); % T = sin(2*pi*P)+0.1*randn(size(P)); % MATLAB 程序如下: close all clear all clc % P 为输入矢量 P = [-1:0.05:1]; % T 为目标矢量 T = sin(2*pi*P)+0.1*randn(size(P)); % 创建一个新的前向神经网络 net=newff(minmax(P),[20,1],{'tansig','purelin'}); disp('1. L-M 优化算法 TRAINLM'); disp('2. 贝叶斯正则化算法TRAINBR'); choice=input('请选择训练算法(1,2):'); if(choice==1) % 采用 L-M 优化算法 TRAINLM net.trainFcn='trainlm';

% 设置训练参数 net.trainParam.epochs = 500; net.trainParam.goal = 1e-6; % 重新初始化 net=init(net); pause; elseif(choice==2) % 采用贝叶斯正则化算法 TRAINBR net.trainFcn='trainbr'; % 设置训练参数 net.trainParam.epochs = 500; % 重新初始化 net = init(net); pause;

相关文档
相关文档 最新文档