文档库 最新最全的文档下载
当前位置:文档库 › 参数自动优选的迭代ARS算法v4[地理研究]

参数自动优选的迭代ARS算法v4[地理研究]

参数自动优选的迭代ARS算法v4[地理研究]
参数自动优选的迭代ARS算法v4[地理研究]

—————————— 基金项目: 作者简介:

投《地理研究》

1 参数自动优选的迭代ARS 算法

2

3 摘要:为了得到一个较小的参数最优值区间(及其组合)以用于不确定性分析等后继研究,作者尝试优选

4 算法迭代使用,即将上次优选出的结果(区间)作为下一次参数优选的参数变域,重复多次以得到较小的

5 参数最优值区间。结果表明ARS 算法迭代使用后优选结果的提升十分明显,于是本文在随机搜索算法的基

6 础上设计了一个简单有效的参数优选算法——迭代ARS 方法,该方法基于一定数量的随机搜索运算、根据

7 优选指标最佳的若干个结果交替减小参数变域,最终获得各个参数的优值区间。本文主要以非洲Nzoia 流域

8 为例、通过五参数实验模型详细解释了该方法的基本原理。

9 关键词:参数优选;全局优选;ARS ;迭代 10

11 Iterative adaptive random search algorithm -an simple and effect global optimization

12 method

13

14 Abstract: Most of the hydrological models are tailored to a specific application through a process of calibration. 15 During the iterative applying of ARS we found that optimum domain of sensitive parameter is easy to be focused, 16 after that some un-sensitive parameters maybe appear their optimum domain gradually. Hence we developed 17 Iterative Adapted Random Search algorithm (I-ARS) -an simple and effect global optimization. There are two 18 repeated steps in I-ARS: the most relative sensitive parameter was picked up by many random searching; new 19 variable domain of that parameter is generated from several top ones of all random search results. It was proved 20 that I-ARS can get a steady and slim optimized variables domain and very helpful in many researches. With the 21 help of 5-parameter test model driven by TRMM-3B42 satellite precipitation production and global daily PET 22 data, inspiration, design, evaluations and applications of I-ARS were introduced in this paper. 23 Key Word: Automatic optimization; Global optimization; Adaptive Random Search; Iterative 24

25 大多数水文模型在使用时都需要一个率定参数的过程[1,2,3,4],即改变参数值使得模型模拟值与实测值的26 差异小于预设的误差限。自动率定参数的方法可分为全局搜索算法(Global Search Methods )和局部搜索27 算法(Local Search Methods )两种[5],因为局部搜索算法无法处理模型的局部最优值(Local Optima )、并

28 且结果好坏对初值的依赖性很大,所以使用更多的是全局搜索算法[6]

。全局搜索算法中使用较多的包括SCE

29 法(Shuffled Complex Evolution algorithm )[6]

和GA 法(Genetic Algorithms )[7]两种。全局搜索算法除了极30 少数学者试用过穷举法外,大多以随机搜索算法为基础。随机搜索算法(Random Search )起始于上世纪31 50年代,以Brooks 的ARS 法(Adaptive Random Search method )最有代表性[8]。

32 大多数全局优选算法利用复杂的理论设计来降低计算负载、加快优选速度,随着计算机软硬件的快速33 发展,来自计算量和计算时间上的限制越来越小。为了得到一个较小的参数最优值区间(及其组合)以用34 于不确定性分析等后继研究,作者尝试将SCE 、GA 等优选算法迭代使用,即将上次优选出的结果(区间)35 作为下一次参数优选的参数变域,重复多次以得到较小的参数最优值区间。结果表明SCE 和GA 算法迭代36 使用后,其最优值区间的较小有限;但是ARS 算法迭代使用后优选结果的提升十分明显,于是本文在ARS 37 算法的基础上设计了一个简单有效的参数优选算法——迭代ARS 方法,该方法基于一定数量的随机搜索38 运算、根据优选指标最佳的若干个结果交替减小参数变域,最终获得各个参数的优值区间。该方法原理简39 单,在集总式模型(以新安江模型为例9)、半分布式模型(以TOPMODEL 为例)、“木桶阵列”模型(以40 VIC 模型为例)、全分布式模型(以CREST 模型为例)、一二维水力学模型以及河网模型参数率定中都可41 以使用,建模快速、效果较好。本文以五参数实验模型为例,介绍该方法的主要原理。 42

43 2 算法描述

44 2.1 ARS 算法简介

45 ARS 算法的基本原理可以参见图2:每个参数都有一个预先确定的参数范围,可以用最小值P min 到最46 大值P max 的区间来表示;在某一次随机搜索时,每个参数都先按照平均分布在其取值范围内随机生成一个47 参数值p i j (i 是参数序号,

j 是某次随机搜索计算的编号),然后模型在随机生成的参数组 [p 1j , …, p i j , …, p I j ] 48 控制下计算出模拟值(大多为出口径流),最后将模拟值与基准值(大多为实测径流)比较得到相应的优49 选指标D j ,完成一次随机搜索计算。实际使用时视模型结构及其适用性、参数数量、驱动数据质量等的不50 同,往往需要重复搜索上万乃至几十万次。

51

J j I J I j I I I i

J

i j

i i i J

j D D D p p p P P

p p p P P

p p p P P ......................

......................11min

max

1min max

111

11min 1

max 优选指标---------------????

?????

?????

?

52

图2 随机搜索算法原理示意图

53

54 (图中:P 是参数,下标min 表示参数的最小值,下标max 表示参数的最大值,p 是在P min ~P max 区间按照平均分布随机得55 到的参数值,上标1、i 和I 是参数序号,下标1、j 和J 是某次随机搜索计算的编号,D 是某次搜索计算得到的优选指标)

56 2.2 参数与优选指标的关系分析

57 在ARS 算法的使用中发现:敏感参数的优值区间仅需要一次全面的随机搜索计算就可以确定,参数58 在此区间内的取值与其它参数的特定组合能够得到更好的优选指标。以本文实验模型为例:随机搜索8.759 万次可以得到约3000组优选指标较好(指NSCE>0,当有3000组结果的优选指标较优时即结束本轮搜索,60 下同)的随机搜索结果,参数取值与优选指标关系图表明:①敏感参数慢速径流线型水库出流系数rUL 在61 0.25附近有一个十分明显的优值区间(见图3-e 1);②敏感参数蒸发折算系数pKE 在0.65附近也有一个十62 分明显的优值区间(见图3-c 1);③快速径流线性水库出流系数rSL 的敏感性较弱(见图3-d 1),在0.2左63 右有一个范围较大的优值区间;④相对不敏感的参数是土层最大含水量pWm (见图3-a 1)和蓄水容量曲64 线指数pB (见图3-b 1),其取值与优选指标的关系点均匀分布在整个变域上。

65 在ARS 算法的迭代使用中发现:当敏感参数的变域接近其优值区间时,原来不敏感参数的优值区间66 也会逐渐出现。例如当我们利用前面搜索结果中优选指标最好的10组结果重新确定敏感参数rUL 、pKE 67 和rSL 的变域之后(见表1),再进行2.7万次随机搜索就会发现:不敏感参数pWm 在60mm 附近出现一68 个明显的优值区间(见图3-a 2)。当我们利用第二组随机搜索结果中优选指标最好的10组结果再次重新确69 定rUL 、pKE 、rSL 和pWm 的变域之后(见表1),第三次进行0.8万次随机搜索就会发现:不敏感参数70 pB 在0.9附近出现了一个十分明显的优值区间(见图3-b 3)。

71

(a

1) (a 2)(a 3)

72

(b 1)(b 2)(b 3)

73

(c 1)(c 2)(c 3)

74

(d 1)(d 2)(d 3)

75

(e 1)(e 2)(e 3)

76 图3 五参数实验模型的参数与优选指标关系分析:敏感参数的取值与优选指标的关系很明显,关系图存在峰值(图c1和77 e1);当敏感参数的变域接近其最优值时,原来不敏感的参数其取值与优选指标的关系变得明显,出现峰值(图a2和b3)

78 (图中每一个点对应一个随机搜索结果,突出的黑色点对应最优的10个结果)

79

80 表1 实验模型参数及其取值范围

81 (表中:三次变域递减的依据是前一组随机搜索结果中优选指标最好的10个结果;优选结果的控制条件(参见2.3节)是

82 N=10,M=3,E=0.001)

83

pWm

土层最大 含水量 最大

100 / 64.13 61.06 60.34 最小

10 / 58.21 58.57 59.42 pB

蓄水容量 曲线指数 最大

1.5 / / 0.963 0.940 最小

0.05 / / 0.897 0.927 pKE 蒸发折算系数

最大

1 0.719 0.686 0.684 0.683 最小

0.1 0.650 0.681 0.681 0.682 rSL

快速径流线性 水库出流系数 最大

1 0.344 0.185 0.180 0.171 最小

0.1 0.125 0.159 0.161 0.165 rUL

慢速径流线性 最大

1 0.331 0.028 0.028 0.028

84

2.3 迭代ARS 算法的建立

85 上述参数与优选指标的关系分析揭示了一种获取模型参数优值区间的方法:可以使用简单的ARS 全86 局优选算法估计敏感参数的优值区间;缩小敏感参数的变域重复使用ARS 方法,依次确定原来不敏感参87 数的优值区间,直到获得满意的结果。在此基础上我们建立了迭代ARS 算法,其主要原理见图4。

88

89

90

91

迭代ARS算法是一个连续的自动过程,优选控制参数有三个:①参照的随机搜索结果数量N,优选92

算法将根据最优的N组结果确定潜在的优值区间。N值越大,参数变域削减的速度越慢,但是漏掉最优区93

间的可能性就越小,建议取值在10或更多。②给定的比值1/M,当某个参数潜在的优值区间最先小于其94

搜索变域的1/M时,优选算法判定该参数为当前变域下的相对最敏感参数,随后设定其潜在的优值区间为95

新的搜索变域,重新开始随机搜索计算。M值越大,变域缩减的速度越慢,漏掉最优区间的可能性就越小,96

建议取值在3或更多。③结束控制阈值E,即当最优N组结果的优选指标相差小于该阈值时结束计算,E 97

值越小,最后优选出的参数变域范围越小,当用NSCE作为优选指标时,建议取E值在0.001或更小。

98

2.4 算法的评测

99

评价优选算法的指标有很多,比较重要的是自回归能力和结果稳定性两个方面。

100

自回归能力是指对任意一组预设参数模拟出的结果进行优选分析,优选算法重现该组参数及其模拟结101

果的能力。本文以随机生成的参数模拟出的径流过程作为目标,设定优选控制参数取值为N=10、M=3、102

E=0.001,测定优选算法对该结果的重现能力。重复100次的结果表明任意预设参数都包含在优选结果给103

出的参数最优值区间内,预设参数虚拟的径流过程能够通过优选得到精确重现,平均结果是Nash=0.993、104

Bias=-0.041%。

105

优选结果稳定性主要是指多次优选结果在相同和不同优选控制条件下的差异。大量的测试结果证明:106

设定优选控制参数为N=10、M=3、E=0.001时,50次独立的优选测试中参数最优值区间的差异在百分之107

十左右,更严格的优选控制条件下这一差异会进一步减小,例如当取N=20、M=5、E=0.0005时,50次独108

立的优选结果中参数最优值区间的差异降低到百分之二左右,但后者随机搜索的重复次数也将增加到二十109

万次左右。

110

111

参考文献

112

1 Beven, K., and Binley, A.. The future of distributed models: model calibration and predictive uncertainty.

Hydrol. Processes, 1992. 6: 279-298.

2 Gupta, H., Sorooshian, S., and Yapo, P.. Toward improved calibration of hydrologic models: Multiple and

noncommensurable measures of information: Water Resources Research, 1998. 34: 751-763.

3 Linsley Ray, K., and Kohler Max, A.. Hydrology for Engineers. New York: McGraw Hill, 1986. 339-356.

4 Vrugt, J., Diks, C., Gupta, H., Bouten, W., and Verstraten, J.. Improved treatment of uncertainty in hydrologic

modeling: Combining the strengths of global optimization and data assimilation. Water Resources Research, 2005. 41: W01017.

5 Sorooshian, S., and Gupta, V.K.. Model calibration. Colorado: Water Resources Publications, 1995. 93

6Duan, Q., Sorooshian, S., and Gupta, V.. Effective and efficient global optimization for conceptual rainfall–runoff models. Water Resource Research, 1992. 28: 1015-1031.

7 Wang, Q.. The genetic algorithm and its application to calibrating conceptual rainfall-runoff models. Water Resources Research, 1991. 27: 2467-2471.

8 Brooks, S.. A discussion of random methods for seeking maxima. Operations Research, 1958. 244-251.

9舒畅, 刘苏峡, 莫兴国, 等. 新安江模型参数的不确定性分析. 地理研究, 2008. 27(2): 343-352.

结构最优设计的一种自动高效迭代算法

结构最优设计的一种自动高效迭代算法 t陈树勋喻定新吴朝生 摘要论述结构优化数学规划法与准则法迭代求解的计算效率,讨论准则法遇到的两类困难与解决途径,介绍一种高效结构优化理性准则法)))导重法所使用的步长因子法及其在自动迭代计算中存在的问题,提出一种求解结构优化准则方程组的自动高效迭代算法)))类埃特金法,大量算例表明,该算法具有优化效率高,无需人为干预,适用范围广的优点。 关键词:结构优化导重法步长因子类埃特金法 中图分类号:T H166文献标识码:A文章编号:1671)3133(2004)04)0077)04 An automatic and efficient iteration algorithm of structural optimization t Chen Shuxun,Yu Dingxin,Wu C haosheng Abstract Discusses the efficiency of iteration computation of mathematics program method and criterion method of structur al optimizatio n,discusses two kinds of difficulties that ar e encounter ed w hen criterio n method is used and the approaches of solv ing t hese difficult ies,and introduces the method of step-length factor which is used by a efficient method of structure optimization) G uide-W eigh Method.Finally,an automatic and efficient algor ithm to so lve a g roup of criterion equations of structure opt imiza-tion is pro posed and is call Atken-Analog Algor ithm.It was proved by examples that the algorithm has the advantages of high ef-ficiency,no need of being interfered by peo ple and wide applicable field. Key words:Structure optimization Iteration efficiency Guide-Weigh Method Aitken-Analog Algorithm 一、结构优化迭代算法的困难 11结构优化的迭代格式与优化效率 结构优化方法与迭代算法越来越多,但大多数优化算法不是应用范围窄,就是算法繁杂,编程困难。为此,需寻找一种应用范围广,计算效率高,算法稳定,无需人为干预,编程简单的结构优化方法及其迭代算法。 结构优化方法主要有数学规划法与准则法两大类。数学规划法的本质是根据当前设计点的形态函数及其导数信息,确定寻优方向和步长,一步一步地逼近最优点。其迭代通式为X(k+1)=X(k)+A(k)S(K),其中A是迭代步长,S是迭代方向,其优点是有较强的数学基础,通用性好,可处理不同性质的优化问题。但由于结构优化问题是涉及高次非线性隐函数的非线性规划,随着设计变量与约束条件的增加,求解问题规模的加大,采用数学规划法需要的结构分析次数即迭代计算次数迅速增加,优化效率低,尤其是优化迭代的前几步优化效果不明显,因而影响其在工程结构优化实践中的推广和应用。 结构优化设计准则法的特点是事先给定结构最优的准则,把寻找最优结构问题转化为寻求满足某一准则的结构问题。早期的结构最优准则是根据经验直接给出的,如满应力准则、满约束准则及满应变能准则等,属于感性准则法,感性准则法优化效果较差。后来人们把满足结构优化不等式极值问题最优性必要条件即Kuhn-Tucker条件作为结构最优的准则,这就是理性准则法。与感性准则法相比,理性准则法具有坚实的数学基础,优化效果好,一般可保证解的最优性。结构最优准则可表达为非线性方程组:X=F(X),其优化直接迭代求解的算法格式为:X(k+1)=F(X(k))。由于结构优化准则法以满足最优准则为明确迭代方向,故有较高的优化效率;同时准则法比较直观,程序编制与规划法相比也相对简单,因而在工程实际中得到广泛应用。 21结构优化准则法优化计算的困难与解决途径 结构优化准则法优化计算的第一类困难是由优化准则不准带来的。优化准则不准使优化迭化计算得到的解并不是原结构优化问题的真正的最优解,它严重影响着结构优化准则法的优化效果。且不说感性准则法的满应力准则、满约束准则以及满应变能准则等,由于它们是根据力学经验给出的最优准则,而结构优化的本质是数学上的条件极值问题,力学感性准则不可能保证得到原结构优化数学问题的最优解,即使是利用了不等式极值必要条件)Kuhn-T ucker条件的虚功准则法也存在准则不准优化效果差的问题。 虚功准则法是国内、外流行很广的一种结构优化理性准则法,其特点是结构位移采用虚功表达。1980年,钱令希等提出了一种对多单元、多工况、多约束问题进行优化的虚功准则法。由于这种方法采用线性互补问题解法求解Kuhn-Tucker乘子,从而有效地确定

高聚物挤出胀大的迭代稳定分步算法模拟

第46卷第2期2010年1月 机械工程学报 JOURNALOFMECHANICALENGINEERING V01.46NO.2 Jan.201O DoI:10.3901/J1ⅥE.2010.02.047 .___IL Cj 同聚物挤出胀大的迭代稳定分步算法模拟木 王伟1,2李锡夔1韩先洪3 (1.大连理工大学工业装备结构分析国家重点实验室大连116023; 2.青岛科技大学橡塑材料与工程教育部重点实验室青岛266042; 3.上海交通大学塑性成形工程系上海200030) 摘要:重构引入有限增量微积分过程的压力稳定质量守恒方程,以克服因流体不可压缩性引发的压力场空间分布虚假振荡现象。采用离散的弹性一粘性应力分裂技术以在缺失纯粘性项情况下保持动量方程弱形式中的椭圆项贡献。利用迎风流线方法离散粘弹性Phan.Thien.Tanner本构方程中的对流项,基于Crank-Nicolson隐式差分格式的迭代稳定分步算法求解质量、动量守恒方程和本构方程。用流函数法追踪和确定移动自由面,对等温低密度聚乙烯和线型低密度聚乙烯熔体的挤出胀大进j,数值模拟,数值结果与相关文献和试验结果吻合得较好。 关键词:粘弹性流有限元法分步算法挤出胀大 中图分类号:0241.82TQ336.1 SimulationofPolymerExtrusionSwellingbyUsinglterativeStabilized FractionalStepAlgorithm Ⅵ硝NGWdl’2LlXikuilHANXianhong’ (1.StateKeyLaboratoryofStructuralAnalysisofIndustryEquipment,DalianUniversityof Technology,Dalianl16023; 2.KeyLaboratoryofRubber-plastics,MinistryofEducation,QingdaoUniversityofScience& Technology,Qingdao266042; 3.DepartmentofPlasticityFormingEngineering,ShanghaiJiaoTongUniversity,Shanghai200030) Abstract:WiththeintroductiOnofthefiniteincrementalcalculusprocedureapressurestabilizedmassconservationequationiSreconstructedtoovercomespuriousoscillationsofresultingpressurespatialdistributionduetoincompressibilityoffluids.功ediscreteelasticviscousstresssplittingmethodiSusedtoretainanellipticcontributionintheweakformofthemomentumequationintheabsenceofapurelyviscouscontributionorastheviscouscontributionisnegligibleincomparisonwiththeviscoelasticcontribution.InconsistentstreamlineupwindingmethodisemployedtospatiallydiscretizetheconstitutiveequationofthePhan.Thien.Tannerviscoelasticconstitutivemodel.Themass.momentumandconstitutiveequationsarediscretizedandsolvedbytheiterativestabilizedfractionalstepalgorithmbasedonCrank—Nicolsonimplicitdiffereneescheme.ThemovingfreesurfaceiScapturedanddeterminedintermsofthestreamfunction.Theisothermalextrusionswellingsimulationsforlowdensitypolyethyleneandlinearlowdensitypolyethylenemeltsareinvestigated.Numericalresultsdemonstrategoodagreementofnumericalresultsobtainedbytheproposedalgorithmwiththosegivenintheliteratureandexperimentresults. Keywords:ViscoelasticflowFiniteelementmethodFractionalstepalgorithmExtrusionswelling 0前言 挤出工艺是高分子材料重要的加工过程,由于 ?围家自然科学基金资助项U(10590354,10272027)。20090318收到初稿20090919收剑修改稿其生产效率高、成形制品和半成品质量高,而得到广泛的应用。如挤出各种塑料、橡胶管,异形密封条、片状板材和电缆等。近年来又出现了多组分的共挤m工艺,使挤出工艺得到进一步发展,但也给挤f}{过程的研究带来了挑战。对挤出过程的模拟,可以使人们更深入地理解高分子流体的粘弹性行为,为合理设计和优化口型,选择合适的工艺条件 万方数据

缓和曲线上各种迭代算法及比较

缓和曲线各种迭代算法及比较 半只烟(850570455) 关于缓和曲线的直接计算式都是采用近似计算,因而其计算精度和参数有关,不同的参数得到的计算精度是不一样的,那么很自然的会想到,有没有一种计算方法使计算结果达到一给定的精度后才结束过程而和参数无关,答案是肯定的。通常利用程序使用数值计算的迭代方法。下面给出常用的使用迭代原理进行计算的变步长辛普森积分法和高斯-勒让德求积法,至于别的方法,此处不再详述,有兴趣的可参阅数值计算方法方面的资料。 变步长辛普森迭代求积法 变步长辛普森积分法是计算定积分∫)(b a dx x f S =的经典方法,其计算步骤如下: (1) 用梯形公式计算[] 2/)()(b f a f h T n +=,其中n=1,h=b-a,且令S n =T n 。 (2) 用变步长梯形法则计算 ∑1 2)2/(221n k k n n h x f h T T =++= 用辛普森求积公式计算 3 422n n n T T S = 若ε≥2n n S S ,则令h h n n ?2 ,?2转到步骤(2)继续计算;否则结束,S 2n 即为所求的积 分近似值。其中 为事先给定的求积精度。 由于需要对被积函数求值,先给出求解回旋线的函数值的子程序FX ,用于求解回旋线上距起点x 处的X 坐标,求解Y 坐标只需把cos(余弦函数)改成Sin(正弦函数),此处不在给出。

高斯-勒让德迭代求积法 对定积分∫)(b a dx x f S =的积分变量x 作变换2 2 a b t a b x ++ = ,将原积分转化为区间[-1,1]上的积分,即 dt t a b dt a b t a b f a b dx x f S b a )(2)22(2)(∫∫∫1 1 1 1=++== 由差值求积公式有 ∑∫ 1 1 1 )(λ)(n k k k t dt t == 其中,k t (k=0,1,2,……,n-1),为区间[-1,1]上的n 个求积结点,且, dt t A k k )(λ∫1 1 = ∏ 1 ≠,0)(n k j j j k j k t t t t t A == 如果n 个结点k t (k=0,1,2,……,n-1)取勒让德多项式

激光器中光场稳定分布过程的数值仿真

激光器中光场稳定分布过程的数值仿真 摘要:采用Fox-Li 数值迭代法,对三种激光器腔镜类型下,激光从初始状态到稳定分布的这一过程进行了MATLAB 建模仿真。分析了激光器结构参数的变化对光场稳定所需的迭代次数的影响。 关键词:Fox-Li 数值迭代法 光场稳态分布 MATLAB 仿真 Abstract: We use Fox-Li numerical iteration method to build a simulation of laser distribution from initialization to stability by MATLAB ,and analyze the effect on iteration times of laser distribution based on different laser structure parameters Key words: Fox-Li numerical iteration method laser stable distribution MATLAB simulation Fox-Li 迭代法 所谓迭代法,就是利用迭代公式 1(,,',') ' (,,',')(1cos )4(,,',')j j s ik x y x y Ku ds ik e K x y x y x y x y ρμθπρ+-==+?? 直接运行数值运算。首先,假设在某一镜面上存在一个初始场分布1u ,将它代入上式,计算在腔内经第二次渡越而在第一个镜上生成的场2u 代入上式,计算 在腔内经第二次渡越而在第一个镜上生成的场3u 。如此反复运算并注意经过足够 多次以后,在腔面上能否形成一种稳态场分布。在对称开腔的情况下,当j 足够大时,由数值计算得出的12,,j j j u u u ++能否满足下述关系式: 12111j j j j u u u u γγ +++= = 式中γ为复常数。如果直接数值计算得出了这种稳定的场分布,则可认为找到了腔的一个自再现模或横模。

LMS算法的稳定性分析和算法收敛条件

LMS 算法的稳定性分析和算法收敛条件 1最小均方法LMS 简介 LMS (Least Mean Square )算法是Widrow 和Hoff 于1960年首次提出的,目前仍然是实际中使用的最广泛的一种算法。 LMS 算法是在最陡下降法的基础上实现的,它是维纳滤波和最速下降算法互相结合而生成的一种新的算法。通过维纳滤波所求解的维纳解,.必须在已知输入信号与期望信号的先验统计信息,以及再对输入信号的自相关矩阵进行求逆运算的情况下才能得以确定。因此,这个维纳解仅仅是理论上的一种最优解。但是通过借助于最速下降算法,LMS 算法以递归的方式来逼近这个维纳解,从而避免了矩阵求逆运算。 2LMS 算法的导出 在LMS 算法中用瞬时误差的平方来代替均方误差是LMS 算法最主要的思想,以瞬时误差信号平方的梯度作为均方误差函数梯度的估计。 在最陡下降法中其维纳解方程如下 (1)()k k k μξ +=-?w w (1-1) 其中ξk ?为梯度矢量,此时的 2[()]E e n ξ=, 此时取性能函数()n e 2=ξ来代替之前的性能函数, 则新的维纳方程变为如下形式 2(1)()()n n e n μ+=-?w w (1-2) 同时又可以求得 22 ()()()2()2()()e n e n e n e n e n n ???===-??x w w (1-3) 所以LMS 算法的权值更新方程可写成下式 (1)()()()n n e n n μ+=+w w x (1-4) 为了了解LMS 算法与最速下降法所得到的权矢量之间的关系,需要重写LMS 算法的递推公式,

因为)()()()(n w n x n d n e T -=代入LMS 算法的权值更新方程可得 )())()()()(()()1(n x n w n x n d n u n w n w T -+=+ 即)()()())()(()1(n d n ux n w n x n ux I n w T +-=+ 对上式求均值,又因为w (n )和x (n )不相关,所以 )] ()([)]([)])()([()]1([n d n x uE n w E n x n x uE I n w E T +-=+ (1-5) 其中互相关矢量 T L p p p n d n E ],...,,[)]()([121-==x p 自相关矩阵 ()()T E n n ??=??R x x 把P 和R 代入1-5式可得 uP n w E uR I n w E +-=+)]([)()]1([ (1-6) 由式1-6可知LMS 算法的权矢量的平均值E[w(n)]的变化规律和最速下降法的权矢量w(n)完全一样。最速下降法根据确定性轨迹沿着误差性能曲面计算权向量w(n),最后终止于维纳解w0。而在LMS 算法中,由于每步迭代过程中梯度估值是带噪的,因而权值运动轨迹并不是严格的与真正梯度方向一致。因此LMS 算法的解不是终止于维纳解。 3 LMS 算法的性能指标及性能分析 收敛性 收敛性,即当n 趋于无穷大时,让滤波器权矢量处于某个最优值或者在它的一个邻域范围内而不是越来越远,也就是让w(n)趋于w0所需满足的收敛条件。对任意自适应滤波系统,收敛性是实现其自适应功能的根本保证。 类似于最速下降法,定义权值误差矢量v(n)=w0-w(n),并利用 P=Rwo 。,则将式(1-6)写成v(n)的表达式为 )]([)()]1([n v E uR I n v E -=+ (2-1) 当R 为实数阵时有T =R Q ΛQ ,代入上式可得 )]([)()]1([n v E Q u I Q n v E T Λ-=+ (2-2)

浅谈算法的稳定性

数值稳定性,在计算机编程中,有很多算法都需要考虑数值稳定性。比如在机器学习算法中我学过的Logistic回归的牛顿迭代解法,在牛顿迭代时需要解线性方程组,由于Hessian矩阵是对称正定的,用Cholesky矩阵分解不但可以大大减少运算量,而且还具有很好的数值稳定性。借此机会来更多地了解一下数值稳定性。 在计算机编程中,有时候同一个计算问题,不同算法中舍入误差对计算的结果产生的影响各不相同,舍入误差对计算结果的精确度影响小的算法,具有较好的数值稳定性;反之,算法的数值稳定性差。所设计的算法的舍入误差在一定条件下要能够控制。否则就像蝴蝶效应一样,使风和日丽的美洲几个月后出现狂风暴雨。 接下来我们先来看一个比较经典的例子。 题目:计算如下积分的值 分析:很容易,可以进行如下推导过程 根据这个递推式,可以计算任意的,但是我们再计算一下放大的误差,得到 可以看出误差是逐渐放大的,在一定范围内无法控制,这样做的结果就是最终答案与真实答案相差十万八千里。 为了提高数值的稳定性,我们在设计算法时需要遵循如下几个原则 (1)尽量减少运算次数 (2)加法运算时,避免大数加小数

(3)避免两个相近数相减 (4)避免小数做除数或大数做乘数 (1)尽量减少运算次数 比如计算多项式的秦九韶算法,再比如下例 题目:计算的值,要求精确到。 分析:用两种方法进行比较,以此说明运算次数的重要性。首先采用如下公式计算 即得到 要精确到,就要计算100000项,而且还有精度损失,此方法效率太低。再考虑另一种方法 这样的话取,得到 要精确到,只需要计算前4项就行了,因为 可以看出第二种方式大大减少了计算量,精度相应也会损失很少。

相关文档
相关文档 最新文档