RBM 算法理解
RBM 算法理解 这份笔记参考了很多网上的资源,也加入很多自己的理解和详细推导, 非常适合初学者使用, 这篇笔记属于复合型产物,感谢那些网上无私奉献自己心得的人们。RBM能量模型这里说一下RBM的能量模型,这里关系到RBM的理解能量模型是个什么样的东西呢?直观上的理解就是,把一个表面粗糙又不太圆的小球,敚到一个表面也匕较粗糙的碗里,就随便往里面一扔,看看小球停在硫的哪个地方。一般来说停在碗底的可能性比较大,停在靠近碗底的其他地方也可能,甚至运气好还会停在碗口附近(这个碗是比较浅的一个碗):能量模型把小球停在哪个地方定义为一种状态,每种状态都对应着个能量,这个能量由能量函数来定义,小球处在某和状态的概率(如停在碗底的概率跟停在碗口的慨率当然不一样)可以通过这种状态下小球具有的能量来定义(换个说法,如小球停在了碗∏附近,这是·种状态,这个状态对应着一个能量,而发生“小球停在碗口附近”这种状态的概率,可以用来表小,表小成,其中是能量函数),其实还有一个简单的理解,球在碗底的能量一般小于在碗边缘的,比如重力势能这,显然碗底的状态稳定些,并且概率大些,就是我认为的能量模型。1.概率分布函数。各个节点的取值状态是概率的、随机的,这里用了3种概率分布来描述整个RBM网络,有联合概率密度,条件概率密度和边缘概率密度2.能量函数。随机神经网络的基础是统计力学,差不多思想是热力学米的,能量函数是描述整个系统状态的一种测度。系统越有序或者概率分布越集中(比如小球在碗底的情况),系统的能量越小,反之,系统越无序并且概率分布发散(比如平均分布),则系统的能量越大,能量函数的最小值,对应着整个系统最稳定的状态RBM能量模型的作用是什么呢?为什么要弄清楚能量模型的作用呢?第一、RBM网终是一种无监督学习的方法,无监督学习的目的自然就是最大限度的拟合输入数据和输出数据。第二、对于组输入数据来说,如果不知道它的分布,那是非常难对这个数据进行学习的。例如:如果我们实现写出了高斯函数,就可以写出似然睬数,那么就可以进行求解,就知道大致的参数,所以实现如果不知道分布是非常痛苫的·件事情,但是,没关系啊,统计力学的一项硏究成果表明,任何概率分布都可以转变成基于能量的模型,即使这个概率分布是未知的。我们仍然可以将这个分布改写成能量函数第三、能量函数能够为无监督学习方法提供个特殊的东两)日标函数b)标解换句话说,使用能量模型使得学丬一个数据的变得容易叮行了。能否把最优解的求解嵌入能量模型中至关重要,决定着我们具体问题求解的好坏。能量模型要捕获变量(这里我理解的是各个分量之间的关系)之间的相关性,变量之间的相关程度决定了能量的高低。把变量的相关关系用图表是一个图,以概率为测度,所以是概率图)模型的能量模型。由上面所说,RBM是一种概率图模型,既然引入了概率,那么就可以通过采样技术来求解,在CD( contrastive diⅳ vergence)算法中采栟部分扮演着模拟求解梯度的角色。能量模型需要定义一个能量函数,RBM能量函数如下:()=∑∑∑∑这个式子的含义非常明显,每个节点有一个能量, hidden和wsbe之间的连接也有个能量,如何求解呢?如果ⅵ isible有组取值(1,0,1),对应的 hidden取值是(1,0,1,01,0,分别带入上面的公式,最后得到的结果就是能量,这里要注意到()里面的地位是相等的,不存在先后顺序,这是一个结构整体的能量值为什么要搞能量函数?前面指出未知分布不好求解但是可以通过能量函数米表示,那么能量函数的概率模型很大程度上可以得到未知分布的概率模型,这样大致就知道了未知分布的分布既然知道了—个RBM网络 hidden和 visible整个框架的能量函数,那么可以定义这个能量函数(能量)出现的概率,很显然这个能量的出现与 hidden和sbe的每个节点的取值都有关系,那么这个能量出现的概率就是和的联合概率密度里可以将能量函数理解成小球在碗里面具体的一个位置所具有的一个能量,那么联合概率密度就是能量也就是这个状态出现的概率)这个概率不是随便定义的,是有统计热力学解释的定义了联合概率密度,那么我就可以得到一个分布,现在再回来前面的知识,可以得到1最初是未知分布的数据,求解参数,完全无从下手2.将未知分布的数据与能量函数联合在起3定义这个能量函数出现的概率,其实也就是对应着未知分布数据一个函数出现的概率4我们可以得到能量函数的概率分布,这个分布就叫 Gibbs分布,这里不是一个标准的Gibs分布,而是一个特殊的 Gibbs分布,这个分布有一组参数,其实就是能量函数中的那儿个前面知道∫下面可以得到边缘概率密度和()∑∑也可以得到条件概率密度和∑∑从概率到极大似然上面的内容已经得到了Gb分布的各种概率密度函数,现在回到最初的目的,即求解让RBM网络表示的Gibs分布最大可能的拟合输入数据,或者换一种说法,求解的目标可以认为是让RBM网终表示的 Gibbs分布与输入样本的分布尽可能的接近现在的小问题是“最大可能的拟合输入数据"这句话怎么定义:假设表小样本空间,即里面含有很多个不同的,是输入样本的分布,()表示训练样本的概率,再假设是RBM网络表示的 Gibbs分布的的边缘分布,即可以理解成每种不同情况的都对应着一个概率。输入样本的集合定义为,那么样木真实的分布和RBM网络表示的边缘分布的KL距离就是2者之间的差异性(KL的详细讲解见附录),样本的真实分布(什么是样本的分布?见附录)与RBM网络表示的边缘分布的KL距离如下所示()20)-0=2()0)2()(如果输入样本表小的分布与RBM表小的Gbbs分布完全符合,这个KL距离就是0,否则是一个大于0的数山附录对熵的定义(在KL讲解里面)可知,上面)的第一项是输入样本的熵,这个是·个固定的数,输入样本固定了,熵就固定了,第二项明显无法直接求。由KL的性质可知,KL是一定大于0的,那么当第二项最大的时候,整个KL最小,我们本来的日的也是求KL最小。注意到第二项-∑()()中的()当样木固定的时候,是固定的而函数是递增的,即当∑()最大即可。在实际应用中,我们采用的是∑(),其中是样本的个数。这里的-∑()就是极大似然估计(这里大家可以∈代替了∈Ω,这是为什么呢?拿一个2维向量来说,(1,0),(1,1),(0,0)这3个的概率和是1,(0,1)出现的概率是0,那么样本空间是(1,0),(1,1),(0,0),但是我们采样的时候只采样到∫(1,0),(1,1),那么这次的输入样本的集合就是(1,0)(1,1))。结论就是求解输入样本的极大似然,就能让RBM网络表示的 Gibbs分布和样本本身表示的分布最接近。求解极大似然这里对似然的定义参考我的另一篇笔记EM算法这个样本从所有样本被取到的概率为0)=∏(b)b∈6()=(0)=∑(0)c⊙在RBM模型中,上面的似然函数写成(上面的式子中是样本,也可以理解为一个isbe节点):(O)-(0)-l()O∈()=∏(b)=∑()0∈对这个函数进行求导02(066∈⊙66我们由能量模型应该也知道了()的概率∑,那么下面开始求导∑06∑c8上面这个式子一定要注意一个问题,即第一项的和第二项的00是不一样的。第一项的是固定的里面的取多少它就取多少而第二项里面的是所有可能的,其实这个细节也可以从∑和∑中发现出来()注意到()和,上面的式子可以写成∑0606∑()∑x((2m0)2x(2m0606第一项和第二项分别是和的期望,这2个是不同的,第一060个求在下的期望,第二项求的是这个函数在概率()下的期望。将O和()由最前面的东西代换,可得到以下3个式了∑∑∑∑∑∑()∑∑()∑()∑∑(这里用到了一个技巧∑这里∑是指hden中第个向量为0,其他分量的值任取的一组向量。?岁∑()∑()∑()∑()∑∑∑∑)-∑()-∑∑()()-∑()∑()∑∑=∑()-∑∑()()=∑()-∑()∑())-∑()(可以发现和的第二项都含有∑,这意味着要对进行遍历,这明显不可能,但是算梯度需要怎么小呢?这时就可以通过 markov采样来算,只要抽取一堆样本,这些样本符合RBM网络表示的Gibs分布,就可以把上面3个偏导数算出来。具体的处理过程是对于每个训练样本,都用某种抽样方法抽取一个对应的,这个是符合RBM网络所表示的Gbs分布的。那么对于整个训练集{米说,就得到一组对应的符合RBM网络表示的Gibs分布的样本集{然后拿这个样本去估算第二项∑,那么梯度就可以用以下的式了来近似了:()(=)-∑()(=)-∑()上面的式子中表小第个训练样木,是所对应的符合RBM网络表小的Gs分布的样本,在式子中用表示。梯度求出来了,就可以求解了,最后不断迭代就可以得到
- 2020-12-11下载
- 积分:1
遗传算法与工程优化_玄光男_程润伟
本书是遗传算法的一本经典书籍。玄光男和程润伟合著。目汞3.7距离方法…………………………………":100371距离方法的一般思想…703.7.2计算距离度量…444…*…1023.7.3距离方法的应用噜早嗶忄唱嗆甲ψ『噜早鲁鲁旱P會P噜鲁鲁唱与·■鲁d鲁D咱·中自冒■啁■■曾■■P■P■曹1043.8妥协方法噌■■■■冒■冒■冒暑■■鲁冒■■■■■冒■■冒■■日■■■■■■■■和↓■最聊谭愚■和西晶dd晶动3.9目标规划方法….…10第4章模优化问题…甲■号十十↓4山口■■■■■■■■■■■■画■画n10941引言早昏!昏4昏山十山山·■留詈■·口音■“甲◆44P咱■自c■1094.2模糊线性规划■■■『■冒口■…:…1094.2.1模榭线性规划模型…s…1104.2.2遗传算法方法……………,………:,:11442.3交互式方法w"…!"""s""!"s,L1642.4数值例子1184.3模糊非线性规划…昌■晶■甲++4+白■■■■口■『十自l■?■『甲■甲矿1204,3.1非线性规划模型…………24.3.2用于求解FO/RNP1的非精确方法…………………1234.3.3交互式方法………………………154.3.4数值例子1264,4模糊非线性混合整数目标规划争■+山中早曾4曾曾會■曾■罪血聊自_略!1284,4.1模糊非线性混合整数目标规划模型■旱旱冒甲■■昏■■d1284.42遗传算法方法……1304.4.3数值例子自口·?··血中自省品日↓4晶日日甲吾晋……………:1324.5模糊多目标整数规划,"…s:1384.5.1问题描述……看pψ口13845.2增广的最小最大问题……………………………………40.5.3遗传算法方法會曾血曾鲁…………1404.5.4交互式模糊满意方法………………"s"t435.5数值例子144第5簟可靠性设计问题甲·自福4口备日看山山山口日日日4吾B·幽口甲》+目吾τ■1481引言5.2网络可靠性设计………《自■自·自哪日日b如由■5.2.1问题描述15QⅫ目录5.2.2 Dengiz, altiparmak和 Smith的方法…………………1505.2,3 Deeter和 Smith的方法…………1555.3基于树的网络可靠性和局城网设计…16l53.1双目标网络拓扑设计…11605.3.2数值例子……………………………………:1665.4多目标可靠性设计會!●早日●自◆中鲁·曾■鲁■4音目中自中昏自P目冒音自『■■■日『自D聊qp自即自自自自自自司日■■道■b电即画41695,4.1双目标可靠性设计……■唱罩鲁P‘會自■·聊·■司●D申看…ss……∴M1694.2遗传算法方法罩卩●■■·k↓■■■■b■d1695.4.3混合遗传算法方法…中斗P■白自+如『■■■b日日音日p食●自零唯●4pF714.4带有模糊目标的可靠性设计……su"…174第6章调度问题…中专自■會血督■平自谭卩血聊曲聊178引言……………………………………………1786.2作业车间调度………增+早早■盲◆自宁自命唱吾西b山如日中P中4看音甲目品司品罪山山自西由q1786.2.l基本方法…………………,………1796.2.2编码……口亡d…"s1796.2.3适应性遗传算子■中噜鲁會!中■譬1806.24以启发式方法为特点的遗传算子…………………………1836.2.5混合遗传算法1856.2.6讨论…""…1916.3群体作业调度问题r……_画唱晋■十舀昌■■口■■晋口↓冒+■■由■日早要甲号甲冒P卜■■■■如1926.3.1问题的描述和必要条件备由看.4吾日自吾啬v日日◆自自·4·口即口自咱目s1926.3.2基本运行""“"""……·…"""s"…………194表示…+……"…1!!B““s…19E6.3.4评价幽·44警↓甲甲1976.3.5遗传算子……………………………………………1976.3.6整体过程…………………………………………:1976.3.7数值例子……………晕翟■■山d●1986.4資源约柬的项目调度…4·4·■卜■如古罾日◆q『◆自血即·曾●聊司■咖自▲自■自晶昏如自白2006.41基于优先权的缩码………………1·命會省自自音自P■自自咱白自唱最‘罪42026.4.2遗传算子…………""""…s…2056.4.3评价与选择■看晋冒日●唱中↓由·■唱面斗q甲+量口2076.4.4试验结果……""…""s·2C86,5并行机器调度日录Ⅻ6.5.1支配条件2126.5.2 Memetic算法…………………………………………………2166.5.3试验结果6.6多处理器调度问题…,中即■鲁冒■2206.6.÷问题描述与假设………………………………………………………2206.6.2求解MSP的遗传算法…………………206.6.3数值例子4■P日·号日·咖自P·自·日■·目4B日4卓看d画■■d中·晶qφ甲号■甲■甲昏平昏■昏如●■●223第7章高级运輸问题…………………………甲自『■■昏『◆■■如■■曲。冒中2267.1引言…………*…"…"…s…∵………………………………2267.1,1运输模型…………,………….::267.1、2运输问题的构遣………………………………….2772基于生成树的方法…唱■鲁面■b■日甲如b血bdd■中2307.2.1树的表示中唱自P■■晶■萨卓◆甲■口b■■■号P即■中?2317.2.2初始化日1日°日宁■卩_甲■■t7,2.3遗传运算“日日:◆P晋自百自甲口自P省中自a自■凸………234了,2.4评价与选择……情●早■■即■自血··■血■■++4甲辱下■2347.2.5整个算法过程……………………………………:.357.3多目标运输问题……·早P·■·日哥日日日西4晶“甲中"■·自:■即如自■烟咖日西通2367.3.1问题的描述…………………↓■日■日早中中自■·唱日■吧曾·1t鲁辛冒…*2367.3,2多目标运输问题的基于生成树的遗传算法…2377,3.3数例239.4固定费用运输问题Ba2427.4.1数学模型2427.4.2fTP间题的难点…………2437,4.3fTP的求解方法d■p即■q■■看■■國■■■b晶b‘山bb早昏卜斷■备■■■自即曾■鲁■2437.4.4遗传算法的实现……………………甲早■音曹中■■卓■画2447.4.5数例7.5容量限制的工厂选址问题…■ψ會P◆■曾4西■■画d晶画2467.5.1数学模型罩品品品目b4:.口·自日即日日↓·日P44日日吾··24?7.5.2针对T厂问题的基于生成树的遗传算法…hh警■音学日日日日2自a画t2487.5.3数例……2496带模糊系数的双目标运输问题2507.6.1问题的表述……………………………………,251月录7.6.2排序模糊数■■血■血·會■■■會■■噜會■■會自甲中看鲁看血中噜曹個鲁P咱PPP看看看!噜7.6.3遗传算法的实现………"2527.6.4数例……254第8章网络设计与路径…………………………………2583.1引言2588.2最短路径问题……………………2588,2.1问题描述…………………t………"2598.2,2遗传算法的方法…………………………………………"……26082.3数例s…2658.3有适应能力的网络路由……………………………………………"2668.3.1基于遗传算法的有适应能力的路由2678.3.2染色体表示咖■■■■2678.3,3染色体评价■章·;咖咖…2688.3.4遗传算子…■■譬■号■■■tbdd·t血d2688.3.5数例聊●自·』壘■■着■wrrs;“"…2724集中式网络设计…ψq■4血b血4■■■◆■·■■■自■自■自■自■■■_■■晶■▲甲4}+■…2758.4.1问题的描述…………*……………………2758.4.2遗传算法……,""" ++I++TB+Br.…;s"……!2768.4.3数例▲…2778.5计算机网络扩展…■■■■↓4十山4p■■T■■『··q章自自■曾■■■自聊……………2788.5.1问题描述2782 Kumar, Pathak和(ptn的方法8.5.3数例…■■■■■啬■ψ■ψ罩·自●↓↓壘■■■■■晶卩晶4b4φdsms■a■↓■+個山t■曾■■音多阶段工序汁划2828.6.l问题的描述曾■■日『·■早早譬P即■4■■■■4■山■·b828.6.2遗传算法··号P··D■昏■■■日自■身罩·』自自·日4B目■B■晶bp4●4d2838.6.3数例甲會■昏■口■饣中十2848.7网络上的MG/s队列设酱定位會ψ會即自■■■画■■db凸面■白■■甲↓4山2858:7.1问题的描述…………………;………………………∵…………2868.7.2进化计算方法………………………………………893.7,3数例…………………"…"r"………291第9章制造元设计………中山中■4晋甲曾T吾4卩■;■Td+4■■■冒t曾■■■■留■2949.1引言……………;……………………………………2949.2制造元设计■會◆■鲁■智咱自■■■中鲁鲁■曾聊■■t卩·■■4聊■聊■咱自■■电L■■自聊■……+,…2959.3传统的制造元设计方法■号◆444■自曲■2969.3.1相似系数方法…………………………………………299.3.2基于数组的方法………电··1日罪■■山■■■中罩●4卓■中自p■昏■2979.33数学规划方法……………中即··日··■·■·日■·中号唱■号■■‘■■日卜p↓●卓■■2989.34图与网络方法………………………………………2989.4退传算法方法…s"………,"·299.4.1遗传子表示和遗传算子…↓看b昏↓昏■■"甲●曾2999.4.2 Joines基丁次序的方法…………9.4.3Mn和Kimn的方法b■■■·号卩·■ψ自西■中■■■■Jbb●4●049.4.4 Joines的整数规划方法………9,4,5其他方法…………1·卩『『『P■■d卜一r■『■甲『卓■■『■■■■旷*r』…3159.5可选址工计划的制造元设计……………………….39.5,1可选操作和机器冗余的结合………………………………13179.5.2可选路径的绪合■■4·西■b■■■甲nd4●■是3209.5.3Mon,Gen和Kim的对于独立单元的方法3259.6独立单元的设计…………,3309.6.1机器类型数最小化的族群构造3309.6.2族群数的确定……………aaa·中日▲b·白。当3349.6.3极小化机器数…日·P·■■■■罪ψ■聊咖■↓■卜■即↓■3379,6.4其他设想……1■甲甲甲甲昏■早■■国山■4■■↓■4■晶晶■■b■画血曲338参考文………………………………339素引………………………381第1章遗传算法的基础1.1引言自1960年以来人们对于模拟生物以及由此开发的针对复杂优化问题的有效算法产生了浓厚兴趣。当前在该领域中常常引用的术语就是进化计算( evolutionarycomputation)它包含以下一些主要算法:传算法( genetic algorithMs)由Hlln开发303),进化策略< evolution stra: Clcs)(由 Rechenberg)和 Schwefel开发),进化规划 evolutionary programming)(由 Fogel等人开发0)和遺传程序设计( geneticprogramming)(由K0za开发)。当然还存在若T将上述算法的各种特点加以结合而形成的混合算法。当前进化计算领域的最新发展水平在Back和 Schwefel3,Michalewi21以及Foge等人的综述里有很好的介绍,作为强有力且应用广泛的随机搜索和优化方法,遗传算法可能是当今影响最广泛的进化计算方法之一。在过去的几年中,遗传算法界将更多的注意力放在工业上程领域的优化问题上,并由此产生了一批新的研究和应用11:有关遗传算法的参考书目请参阅 Alander的著述1般认为遗传算法有5个基本组成部分(这是由 Mictialewica归纳的41.问题的解的遗传表示2.创建解的初始种群的方法3.根据个休适应值对其进行优劣判定的评价函数4:用来改变复斜过程中产生的子个体遗传组成的遗传算子5.遗传算法的参数值遗传算法维持由一群个体组成的种群Pt(t代表遗传代数)。每一个体均代表问题的一个潜在的解。每一个体都被评价优劣并得到其适应值。某些个体要经历称作遗传操作的随机变换由此生产新的个体。主要有两种变换方法:变异( mutation)的方法是将个个体改变从而获得新的个体;杂交( crossover)的是方法将两个个体的有关部分组合起来形成新的个体。新产生的个体(称作后代( offspring!C(t))继续被评价优劣。从父代种群和子代种群中选择比较优秀的个体就形成了新的种群。在若干代以后,算法收敛到个最优个体该个体很有可能代表着问题的最优或次优解。遗传算法的一般结构可以摘述如下:第1章遗传法約基础遄传算法过程begil始化P(t评价Pwhile(终止条件不满足)dbe重组P(以产生Ct评价C(从P(t)和C()中选择P(t-1)endend关于搜索策路存在两种重要方案:深度搜索最优解利广度搜索解空间m,遗传算法提供了一种在复杂解空间上进行有向随机搜家的方法。遗传算子原则上进行的是盲搜索;选择算亍嫏勻可能将遗传搜索的方向引早到解空间的理想区域中。针对特定现实世界屮问题开发的遗传算法需注意这样一条普遍原则,即要在对解空间进行深度搜索和度搜索中继持很好的平衡。为实现这一原则,必须仔细考虑遗传算法的所有组成部分另外可能还需要结合附加的启发式方法来增强其性能1.1.1编码问题如何将问题的解编码成为染色体是逮传算法使用屮的关键问题。该问题已经从多方面进行过饼究,比奶当个体需要解码成为解时从基因型空间到表现型空间的映射性质,以及个体被遗传算子操作时的变形特性等。编码的分类在 Hofland的℃作中,编码采用了二进制字符串(lbinary strings)的形巴经知道,由于 Hamming悬崖的存在,二进制编码对于函数优化问题存在重缺陷。 Hamming悬崖指的是表现型空间中距离很小的个体对可能有很大的 Hamming距离+42。举例来说,个体对01111000000于表现型空间中的相邻点最小 Euclidean距离点》但它们却在基因型空间其有最大的丑 aImiNg臣离。为了翻越且 ammIng悬崖’个体的所有苞需要同时进行改变。由杂交和变异实现翻越Ia悬崖的可能性非常小。在这种情况下,二进制编码无法维持表现型空间中点的位置。对于丁业工程领域里的许多问题而言,几乎不可能用二进制编码来表示它们的解在过去的1年里已经针对特定的问题提出了各种编码方法,其目的都是为了能够更有效地实现遗传算法。根据采用何种符号作为某因的等位基因,编码方式可以分类如下◆二进制編码( binary encoding)实数编码(rea!- number encoding整数或字母排列编码般数据结构编码实数编码对于函数优化问题最为有效c关于实数编妈在函数优化和约荣优化领城比二进制编码和Gray编码更有效的说法,经得到了广泛的验证191041由于实数编码基因型空闯中的柘扑结构与其表现型空间中的拓扑结构一致,因此徒容易从传统优化方法中借鉴好的技巧来形成有效的遗传算孑。整数和字母排列編码( literalpermutation encoding)对于组合优化问题最为有效。由于组合优化间题最关键的是要寻找满足约束项目的最佳排列或组合,因此字母排列编码对」这类问题是最有效的方法对于更为复杂的现实问题,用合适的数据结构来表示基因的等位基因,可以有效抓住问题的本质。在这种情扰下,基因可能是n维数组或更为复杂的数据结构根据編码的结构,编码方法还可以分为如下两类:(1)一维築码( one-dimensionalencoding):(2)多维编码( multidimen onal encoding)。大多数实践中采用了一维端码。然而许多实际间题需要多结构的解:用多维编码方法米衣不这些解就很自然。比如,vinous和 Michalewic2对运输间题采用了分配矩阵进行编码。( hoon和 Pari对VSI电路效置问题采用了二维编码(。 Anderson, Jones和Ryan采用了二维网格型编码。Moon科Kim对于图问题采用二维編码13Ono, Yamamura和 Kobayashi对于作业车间调度向题采用了作业赈序矩阵编码、Bti和Mon给出∮关子多维编码和杂交的一般性讨论。他们在文中指出将多维问题的解进行一维编码必然会损失多维结构中相当数量的信息根据编码的内容,编码方法还可看作如下两类:(1)仅包含解,(2)包含解和参数在遗传算法实践中,第一种方法被广泛用来针对给定的问题开发合适的编码。第一种方法在 Rechenberg和 Schwefel提出的进化策略中被采用11]个个体包含厨个部分:首先是给定问题的解其次是策略参数,包括变异中正态分布的方差和协方差。将策略参数并入个体表示的目的,是通过将进化算子应用于这些参数来促进它们的进化自透应。因此搜索就在解空间和进化参数上问时进行。通过这种方法,可以在任意环境下获得变异参数的合理调整和多样性。不可行( infeasi bility)与非法性( (illegality)遗传算法交替地在编码空间和解空间中进行操作。换句话说,也就是交莕地在基因型空间和表现型空间中进行操作。遗传算子作用于基因型空间中,而评价和选择则作用于表现型空间中。然选择连接了染色休和解码产生的解的性能。从基因型空间到表现型空间的映射对于遗传算子的性能有很大影响。其中…个与映射相关的重要问惠就是某些个体对应着给定问题的不可行解。对子约束优化间题和组合优化问题而言,这个问题可能很严重
- 2020-12-08下载
- 积分:1