An Evolution Path-Based Reproduction Operator for Many-Objective Optimization

摘要

在高維目標(biāo)空間中华匾,高維優(yōu)化算法(MaOPs)一般采用一組分布廣泛的參考向量來(lái)增加到Pareto front的選擇壓力。然而浅侨,很少有研究如何在決策空間中在參考向量的幫助下向Pareto set (PS)方向生成新的解集纽谒。因此,我們提出一種新的基于差分進(jìn)化的繁殖算子如输。主要思想是利用進(jìn)化路徑來(lái)描述種群的運(yùn)動(dòng)和預(yù)測(cè)它的趨勢(shì)鼓黔。采用這些進(jìn)化路徑來(lái)創(chuàng)造潛在的種群從而加強(qiáng)向PS的收斂速度。進(jìn)一步地不见,提出一種自適應(yīng)機(jī)制來(lái)適應(yīng)相關(guān)參數(shù)的自動(dòng)變化澳化。該算子被用于兩種進(jìn)化算法框架中,其實(shí)驗(yàn)結(jié)果表明提出的算子能夠加強(qiáng)原來(lái)算法的性能脖祈。

引言

多目標(biāo)優(yōu)化問(wèn)題(MOPs)涉及多個(gè)沖突目標(biāo)函數(shù)肆捕。其定義由如下公式表示:

其中\Omega=\prod_{i=1}^D[lb_i,ub_i]\subset R^D為決策空間,\mathbb{F}:\Omega\to R^M由M個(gè)真值目標(biāo)函數(shù)組成盖高,R^M為目標(biāo)空間慎陵。與單目標(biāo)優(yōu)化不同,求解多目標(biāo)的目的是找到一組均衡解喻奥,這些解在決策空間被稱為Pareto set(PS)席纽,在目標(biāo)空間中被稱為Pareto front(PF)。在過(guò)去二十年里撞蚕,大量的多目標(biāo)優(yōu)化算法(MOEA)被提出來(lái)求解MOP润梯。這些MOEA在求解MOPs時(shí)與傳統(tǒng)的方法比有其內(nèi)在優(yōu)勢(shì):它能夠在單次運(yùn)行中找到Pareto最優(yōu)解集。而最著名的MOEA算法是通過(guò)支配關(guān)系對(duì)解集進(jìn)行排序甥厦。當(dāng)然纺铭,也需要一種清晰的分布性管理機(jī)制來(lái)維持種群的多樣性。

基于分解的MOEA/D提供了一種交替方法刀疙,將MOP分解為許多單目標(biāo)優(yōu)化子問(wèn)題舶赔。然后使用進(jìn)化算法以協(xié)作方式優(yōu)化每個(gè)子問(wèn)題。大量研究顯示谦秧,MOEA/D在求解規(guī)則PF問(wèn)題時(shí)效果要比基于Pareto算法效果好竟纳。

雖然這些MOEAs在求解MOPs上非常有效撵溃,但是它們?cè)谇蠼饽繕?biāo)大于3的高維優(yōu)化問(wèn)題MaOPs時(shí)遇到了困難。主要的挑戰(zhàn)是隨著目標(biāo)維數(shù)的增加算法的選擇壓力退化锥累。雖然MOEA/D最初的設(shè)計(jì)是為了求解MOPs缘挑,但是它的分解策略為設(shè)計(jì)新的高維優(yōu)化算法(MaOEAs)提供了有前景的框架。一種方法是將目標(biāo)空間劃分為多個(gè)子區(qū)域桶略,然后通過(guò)聚類函數(shù)在每個(gè)子區(qū)域內(nèi)選擇解集语淘。采用這種方案的MaOEAs有RVEA、MOEA/D-DU等删性。當(dāng)每個(gè)子區(qū)域包含只有一小部分解集時(shí)亏娜,選擇壓力將會(huì)增加,因此蹬挺,能夠使用傳統(tǒng)的Pareto支配方法维贺,例如:非支配排序,來(lái)選擇解巴帮。例如:NSGAIII首先將種群分為不同的非支配層溯泣,然后從臨界層中通過(guò)小生境保持算子選擇解集。值得注意的是榕茧,雖然NSGAIII沒(méi)有向MOEA/D那樣直接分解MaOP垃沦,但是它隱含地分解目標(biāo)空間,通過(guò)小生境保持算子試圖保留靠近每個(gè)可能的參考點(diǎn)的解來(lái)維持種群的多樣性用押。因此肢簿,NSGAIII基本上也屬于分解算法。另一類算法蜻拨,例如MOEA/D-M2M池充,MOEA/DD以及MOEA/PIE,同樣有相似的特征缎讼。我們知道收夸,以上所有的算法具有下面相同的特點(diǎn):

1)一組廣泛分布的參考點(diǎn)應(yīng)用到選擇算子中能夠增加向PF收斂的選擇壓力。

2)新的解集的生成方式是采用隨機(jī)方式生成的血崭,事實(shí)上卧惜,幾乎所有的MaOEAs采用的是模擬二進(jìn)制交叉方法來(lái)生成新的接集。這種隨機(jī)生成方法沒(méi)有使用搜索方向信息夹纫。

也就是說(shuō)咽瓷,當(dāng)在決策空間中生成新的解時(shí),沒(méi)有利用參考向量來(lái)指導(dǎo)向PS方向收搜過(guò)程舰讹。最近提出了一些基于R2指標(biāo)的算法忱详,如:MOMBI和MOMBI-II也是如此。自然就引起我們思考:是否有一種有效的方法在一組參考方向的幫助下往PS方向上生成新的解集跺涤?為了回答該問(wèn)題匈睁,我們將面臨一下幾個(gè)問(wèn)題:

1)參考向量組是定義在目標(biāo)空間的,在決策空間中利用參考向量是非常困難的桶错。

2)許多犯罪算子涉及一些參數(shù)航唆,最好的設(shè)置是問(wèn)題自適應(yīng)。根據(jù)世界上沒(méi)有免費(fèi)午餐的理論院刁,將這些參數(shù)設(shè)置為固定值是不合適的糯钙。總之退腥,我們期望有一種自適應(yīng)機(jī)制來(lái)適應(yīng)這些參數(shù)自動(dòng)變化任岸。

為了設(shè)計(jì)新的繁殖算子來(lái)解決以上問(wèn)題,我們首先回顧一些比較常見(jiàn)的繁殖算子狡刘。在進(jìn)化算法中享潜,生成新的候選解的方法可以分為基于解的方法和基于模型的方法。在基于解的方法中嗅蔬,解可以直接從已有的解集中根據(jù)某種特殊的規(guī)則生成剑按。早期采用的是混合交叉(BLX-\alpha)。該算子中澜术,子代解集在父代附近均勻生成艺蝴,其范圍與父代解集成比例。SBX是BLX-\alpha的擴(kuò)展鸟废,為在父代種群附近生成子代解集提高更高的概率猜敢。這使得SBX在MaOEA中特別有用,因?yàn)樵讷@得子代解集后種群的分布性不會(huì)發(fā)生嚴(yán)重的改變盒延。粒子群優(yōu)化(PSO)是該類別中最著名的生物啟發(fā)算子之一缩擂。與BLX-\alpha和SBX不同的是,它利用促進(jìn)解集來(lái)指導(dǎo)搜索兰英,從而展現(xiàn)了高收斂速率撇叁。差分進(jìn)化(DE)是另外一類常見(jiàn)的基于解的算法。它通過(guò)用隨機(jī)選擇的父代的比例差異擾亂種群的解集來(lái)產(chǎn)生子代解集畦贸。因此陨闹,它不需要而外的概率分布來(lái)探索函數(shù)的形狀。Sindhya等人認(rèn)為DE產(chǎn)生的子代是其父代的線性組合薄坏。他們還建議父代通過(guò)多項(xiàng)式插值法來(lái)產(chǎn)生子代趋厉。隨后,混合算子(HOP)被提出混合多項(xiàng)式插值法和原始DE胶坠,并顯示了明顯的性能優(yōu)勢(shì)君账。注意,雖然DE和PSO已經(jīng)廣泛地應(yīng)用到了MOEAs沈善,然而實(shí)驗(yàn)結(jié)果表明它們并不適合求解MaOPs乡数⊥痔悖總之,以上基于解的算子簡(jiǎn)單而且有效净赴,但是他們很難利用目標(biāo)空間中的參考向量來(lái)引導(dǎo)種群搜索绳矩。

在基于模型的方法中,首先構(gòu)建模型玖翅,并使用該模型生成新的解集翼馆。估計(jì)分配算法(EDAs)屬于這一類。在過(guò)去十年里金度,提出了許多多目標(biāo)EDAs应媚,并顯示了它們?cè)谇蠼釳OPs以及MaOPs中的前景。這些算法采用參考向量將目標(biāo)空間劃分為多個(gè)小的子區(qū)域猜极。然后采用相應(yīng)的解集為子區(qū)域在決策空間中構(gòu)建概率模型中姜。當(dāng)這些模型迭代更新后,它們能夠描述種群的分布和預(yù)測(cè)向PS移動(dòng)的趨勢(shì)魔吐。該方法利用參考向量來(lái)引導(dǎo)在決策空間的搜索扎筒。但是,嵌入到這些算法中的統(tǒng)計(jì)學(xué)習(xí)技術(shù)過(guò)于復(fù)雜導(dǎo)致概率模型的建立需要時(shí)間開(kāi)銷酬姆。一般而言嗜桌,這些基于模型的繁殖算子提供了一種在決策空間中利用參考向量的方法,但是它的效率非常低辞色。

除進(jìn)化計(jì)算領(lǐng)域外骨宠,在數(shù)學(xué)規(guī)劃領(lǐng)域中關(guān)于如何使用給定參考向量進(jìn)行搜索的課題已經(jīng)研究了很多年。相關(guān)的方法被稱為“目標(biāo)指導(dǎo)方法”相满。Normal-boundary intersection將MOP轉(zhuǎn)化為一系列的目標(biāo)規(guī)劃問(wèn)題层亿,是早期工作的代表。其它代表性的工作包括Combined-objectives repeated line search和Directed search立美。與傳統(tǒng)的啟發(fā)式搜索方法相比匿又,這些方法提高了算法的收斂速度。但是它們的缺陷是需要目標(biāo)函數(shù)的梯度信息建蹄。當(dāng)這些信息無(wú)法獲得時(shí)碌更,需要采用額外的函數(shù)評(píng)價(jià)或解的鄰域結(jié)構(gòu)來(lái)估計(jì)梯度。通過(guò)實(shí)驗(yàn)驗(yàn)證洞慎,僅采用以上方法很難獲得滿意的結(jié)果痛单。因此,結(jié)合傳統(tǒng)的優(yōu)化算法是必不可少的劲腿。例如旭绒,自適應(yīng)資源分配可用于確定執(zhí)行這些方法的概率。另一方法是在目標(biāo)空間的不同的區(qū)域應(yīng)用不同的搜索策略。然而挥吵,如何設(shè)計(jì)合適的混合策略一直是一個(gè)問(wèn)題重父。

為了結(jié)合以上方法的優(yōu)勢(shì),本文提出一種基于演化路徑的DE算子蔫劣。進(jìn)化路徑首先在協(xié)方差矩陣進(jìn)化策略(CMA-ES)坪郭,它描述了多待種群的優(yōu)化路徑。通常脉幢,它具有一些顯著的統(tǒng)計(jì)特性,因此它能夠描述種群的分布嗦锐。例如嫌松,CMA-ES和多目標(biāo)CMA-ES應(yīng)用進(jìn)化路徑來(lái)計(jì)算種群協(xié)方差矩陣的無(wú)偏估計(jì)。但是如前面所提到的奕污,計(jì)算多協(xié)方差矩陣由于時(shí)間復(fù)雜度在MaOEAs中不可行萎羔。基于進(jìn)化路徑的DE(DEEP)提供了更簡(jiǎn)單的方法碳默,利用進(jìn)化路徑來(lái)提高DE的收斂速率贾陷。但是,該方法僅用于單目標(biāo)優(yōu)化嘱根。

在本文髓废,我們提出一種新的方法在不提高計(jì)算復(fù)雜度的情況下利用進(jìn)化路徑。首先该抒,每個(gè)參考向量與一組進(jìn)化路徑關(guān)聯(lián)慌洪。通過(guò)外推法使用該組進(jìn)化路徑計(jì)算潛在的解。然后這種潛在的解注入到自適應(yīng)DE算子中產(chǎn)生子代解凑保。最后冈爹,在獲得子代和執(zhí)行完環(huán)境選擇后,利用新的種群更新相應(yīng)的進(jìn)化路徑欧引。通過(guò)這種方式频伤,進(jìn)化路徑能夠?yàn)槊總€(gè)參考向量跟蹤解曲線,并且加速收斂芝此。進(jìn)一步地憋肖,如果參考向量具有較好的廣泛性,提出的算子也將有利于維持子代解集的廣泛性和均勻性癌蓖。

本文的貢獻(xiàn)主要?dú)w納為以下幾點(diǎn):

1)提出一種新的方法來(lái)構(gòu)造進(jìn)化路徑并利用它們來(lái)產(chǎn)生潛在的解集瞬哼。我們也提供了一種微妙的方法將這些潛在的解集嵌入到DE算子中來(lái)指導(dǎo)搜索。

2)提出一種自適應(yīng)機(jī)制來(lái)適應(yīng)參數(shù)的自動(dòng)變化租副。我們應(yīng)用數(shù)據(jù)結(jié)構(gòu)來(lái)存儲(chǔ)成功的參數(shù)坐慰。依靠最近存儲(chǔ)的參數(shù)來(lái)生成新的參數(shù)。

3)提出的算子應(yīng)用到了兩個(gè)基于分解的MaOEAs中,實(shí)驗(yàn)結(jié)果驗(yàn)證了該算子能夠提高算法的性能结胀。

提出繁殖算子

在本節(jié)中赞咙,我們首先提供基本思想,然后詳細(xì)介紹算子的主要部分糟港。

基本思想

為了促進(jìn)我們的理解攀操,我們采用MOEA/D作為算法框架。MOEA/D在一組參考向量的幫助下將MOP分解成多個(gè)子問(wèn)題秸抚。每個(gè)子問(wèn)題保留對(duì)應(yīng)的最好解速和。在MOEA/D的應(yīng)用中,一旦最好解被找到剥汤,前面的解被新的解遺棄或替換颠放。然而,被遺棄的解可能能夠提供有效的信息引導(dǎo)算法搜索吭敢。因此碰凶,我們的方法是在發(fā)生替換操作時(shí)收集歷史信息。然后我們能夠利用這些信息預(yù)測(cè)潛在的解集增加收斂速度鹿驼。

以上方法的關(guān)鍵步驟是為子問(wèn)題收集歷史信息欲低。在本文,利用進(jìn)化路徑來(lái)完成畜晰。進(jìn)化路徑是定義在決策空間\Omega的一個(gè)向量砾莱。我們?cè)诿看蔚^(guò)程中通過(guò)新獲得的解的加權(quán)求和來(lái)計(jì)算它。形式上舷蟀,我們利用\mathbf{ep}_i^{(g)}\mathbf{u}^{(g)}分別表示進(jìn)化路徑和新獲得的解恤磷,對(duì)于在第g次替換發(fā)生后的第i個(gè)子問(wèn)題。然后野宜,進(jìn)化路徑遞歸地定義為:

其中c\in [0,1]為控制參數(shù)扫步,\mathbf{u}^{(0)}定義為第i個(gè)子問(wèn)題的初始解。

根據(jù)上述公式匈子,進(jìn)化路徑是給定子問(wèn)題的所有歷史解的加權(quán)求和河胎,這使得它能夠合理的描述歷史信息。然而虎敦,改進(jìn)化路徑中存在控制參數(shù)c游岳。當(dāng)c固定不變時(shí),單個(gè)進(jìn)化路徑只能描述歷史解集的靜態(tài)狀態(tài)其徙。然而胚迫,我們的目標(biāo)是利用歷史解集預(yù)測(cè)潛在解集,意味著我們需要一個(gè)動(dòng)態(tài)的信息唾那。一個(gè)直接的方法是通過(guò)不同的c值構(gòu)造多個(gè)進(jìn)化路徑访锻。例如,對(duì)于第i個(gè)子問(wèn)題,\mathbf{ep}_i^{(g)}描述的是c=0的初始解期犬。通過(guò)一些數(shù)學(xué)工具河哑,我們能夠建立\mathbf{ep}_i^{(g)}c之間的關(guān)系。作為一種歷史信息龟虎,這種關(guān)系最終被用來(lái)生成潛在的解集璃谨。

構(gòu)造進(jìn)化路徑

本節(jié)將介紹如何在MOEA/D中構(gòu)造進(jìn)化路徑。假設(shè)\{\lambda_1, \lambda_2, \cdots , \lambda_H\}為一組容量為H的向量組鲤妥。對(duì)于每個(gè)向量\lambda_i佳吞,假設(shè)\{\mathbf{ep}_{i,1},\mathbf{ep}_{i,2},\cdots,\mathbf{ep}_{i,S}\}為一組D維向量,其中S為正整數(shù)旭斥,\mathbf{ep}_{i,t}為在更新率為t的情況下的進(jìn)化路徑容达。總共S\cdot H個(gè)進(jìn)化路徑被存入到表EPTable中垂券。

1)初始化:首先,EPTable采用初始化種群進(jìn)行初始化羡滑。假設(shè)X=\{x_1, x_2, \cdots ,x_N\}為初始化種群菇爪,其中x_i\in \Omega為第i個(gè)解,N為種群大小柒昏。然后EPTable中的進(jìn)化路徑設(shè)置為一個(gè)隨機(jī)的解:

其中r_i\{1,2, \cdots, N\}之間的隨機(jī)整數(shù)凳宙。

2)更新:對(duì)于每個(gè)參考向量\lambda_i,當(dāng)它的解被新的解\mathbf{u}替換時(shí)职祷,它對(duì)于的進(jìn)化路徑通過(guò)以下公式更新:

圖2說(shuō)明了在對(duì)應(yīng)于第i個(gè)子問(wèn)題的前兩個(gè)替換中如何改變進(jìn)化路徑的氏涩。這里S被設(shè)置為4,\mathbf{u}_0為初始解。對(duì)于收斂性有梆,4個(gè)路徑的初始值被設(shè)置為\mathbf{u}_0是尖。假設(shè)\mathbf{u}_0首先被\mathbf{u}_1替換。在這種情況下泥耀,四個(gè)優(yōu)化路徑位于\mathbf{u}_0\mathbf{u}_1之間(如圖2(a)所示)饺汹。當(dāng)\mathbf{u}_2替換\mathbf{u}_1后,所有進(jìn)化路徑將往\mathbf{u}_2方向移動(dòng)(如圖2(b)所示)痰催《荡牵可以發(fā)現(xiàn),在目標(biāo)空間中夸溶,當(dāng)解往PF方向移動(dòng)時(shí)逸吵,對(duì)應(yīng)的優(yōu)化路徑在決策空間中將朝著PS方向移動(dòng)。當(dāng)更新率越大缝裁,進(jìn)化路徑更容易接近PS扫皱。考慮從具有較小更新率的進(jìn)化路徑指向具有較大更新率的方向(例如:從\mathbf{ep}_{i,1}\mathbf{ep}_{i,4})。如紅色箭頭描述的啸罢,該方向在替換后變得更加準(zhǔn)確编检。下一節(jié),我們將利用該方向加強(qiáng)搜索過(guò)程扰才。

生成隱含解

假設(shè)\mathbf{ep}_i(t)=(ep_{i,1}(t),ep_{i,2}(t),\cdots, ep_{i,D}(t))^T=\mathbf{ep}_{i,t}允懂,我們考慮\mathbf{ep}_{i,t}的各個(gè)元素為t的函數(shù),那么進(jìn)化路徑有如下特殊性質(zhì)衩匣。

性質(zhì)一:\mathbf{ep}_i(0)=x_{i,init}蕾总,其中x_{i,init}為關(guān)于\lambda_i的初始解。

性質(zhì)二:\mathbf{ep}_i(S)=x_{i,current}琅捏,其中x_{i.current}為關(guān)于\lambda_i的當(dāng)前解生百。

以上性質(zhì)可以直接從優(yōu)化路徑的初始化和更新規(guī)則推導(dǎo)出。并且柄延,從圖2中蚀浆,我們也有如下觀察:

觀察一:如果0<t_0<S\mathbf{ep}_i(t_0)位于x_{i,init}x_{i,current}之間搜吧。

觀察二:如果0<t_1<t_2<S市俊,\mathbf{ep}_i(t _2)\mathbf{ep}_i(t _1)更接近x_{i,current}

在路徑優(yōu)化的幫助下滤奈,搜索過(guò)程的時(shí)間范圍被規(guī)范到[0, S]\mathbf{ep}_i(0)視為初始解摆昧,\mathbf{ep}_i(S)視為當(dāng)前解,\mathbf{ep}_i(t)視為歷史中的位置蜒程。使用進(jìn)化路徑的基本思想是為了預(yù)測(cè)有前景的子代:如果我們能夠生成\mathbf{ep}_i (t^*)绅你,其中t^*>S,它在未來(lái)可以被視為一種潛在的解昭躺。詳細(xì)的生成潛在解的過(guò)程如下所示忌锯。

對(duì)于任意j\in \{1,2,\cdots, D\},我們有S對(duì)點(diǎn):(1,ep_{i,j}(1)), (2,ep_{i,j}(2)),\cdots,(S,ep_{i,j}(S))窍仰。根據(jù)這些點(diǎn)汉规,通過(guò)等式插值法構(gòu)造拉格朗日多相似來(lái)估計(jì)ep_{i,j}(t)

根據(jù)上述多相似驹吮,我們能夠生成潛在解\mathbf{ep}_i (t^*)针史,t^*>S。圖3提供了S=4t^*=5.5情況下的例子碟狞。注意啄枕,當(dāng)t^*超過(guò)范圍[0,S]時(shí),如果t^*S過(guò)大會(huì)使得外推結(jié)果不準(zhǔn)確族沃。最終频祝,我們限制t^*<2SS<5泌参。

結(jié)合進(jìn)化路徑與差分進(jìn)化

因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=t%5E*" alt="t^*" mathimg="1">很難確定,所以不能直接將潛在解\mathbf{ep}_i(t^*)作為子代常空。我們提出一直方法將進(jìn)化路徑與DE算子結(jié)合來(lái)避免參數(shù)t^*的設(shè)置沽一。特別地,我們?yōu)槊總€(gè)解x_i生成子代\mathbf{u}=(u_1, u_2, \cdots, u_D)^T

其中x_{r_1}x_{r_2}為從匹配池內(nèi)隨機(jī)選擇的兩個(gè)相鄰個(gè)體漓糙。FEs是消耗的適應(yīng)度估計(jì)的數(shù)量铣缠,maxFEs是運(yùn)行的最大適應(yīng)度估計(jì)數(shù),FC_r為DE算子的兩個(gè)參數(shù)昆禽。

與經(jīng)典的DE算子相比蝗蛙,該算子搜索\mathbf{ep}_i(t^*)附近區(qū)域而不是x_i。原因是:由于環(huán)境選擇醉鳖,種群將越來(lái)越接近真實(shí)PF面捡硅。根據(jù)優(yōu)化路徑的更新規(guī)則可知,\mathbf{ep}_i(t^*)x_i更接近PS盗棵。因此壮韭,該方法加強(qiáng)了\lambda_i方向上的收斂能力。

從公式5中我們可以設(shè)置t^*S\cdot (1+(FEs/maxFEs)\cdot(1-F)).原因如下:

1)F為DE算子的縮放參數(shù)纹因,其取值范圍一般為[0,1]泰涂。因此,t^*的取值在S2S之間辐怕。下邊界使得\mathbf{ep}_i(t^*)為將來(lái)潛在解,而上邊界是為了防止?jié)撛诮膺h(yuǎn)離當(dāng)前解从绘。

2)在DE中寄疏,F維持了探索(小的F值)和開(kāi)發(fā)(大的F值)的能力。當(dāng)F越大僵井,向量差(x_{r_2} - x_{r_1})的隨機(jī)性越大陕截。另一方面,因?yàn)?img class="math-inline" src="https://math.jianshu.com/math?formula=%5Cmathbf%7Bep%7D_i(t%5E*)" alt="\mathbf{ep}_i(t^*)" mathimg="1">為高階多項(xiàng)式批什,隨著t^*的增加农曲,外推的精度將逐漸減小。為了平衡推進(jìn)的準(zhǔn)確性和隨機(jī)性驻债,維持t^*伴隨F增加而減少是一個(gè)理想的策略乳规。

3)t^*隨著FEs的增加而減小。這樣設(shè)計(jì)使得在早期更多的強(qiáng)調(diào)收斂能力合呐,隨著搜索過(guò)程暮的,這種能力將逐漸降低。除此之外淌实,提出的繁殖算子將退化為標(biāo)準(zhǔn)的DE算子冻辩。

參數(shù)自適應(yīng)

由于與DE結(jié)合猖腕,提出的繁殖算子涉及兩個(gè)參數(shù):1)F和2)C_r。我們知道恨闪,DE的性能依賴于這些參數(shù)倘感。這里,我們提出一種新的機(jī)制它能夠自適應(yīng)這些參數(shù)咙咽。這個(gè)方法的靈感來(lái)源于the suceess-history-based adaptive DE老玛。我們將該工作擴(kuò)展到了處理MaOPs。

如圖4所示犁珠,我們保留了歷史內(nèi)存\mathbf{hm}_i逻炊,每個(gè)參考向量\lambda_i包含HL個(gè)記錄,其中i=1,2,\cdots,H犁享。\mathbf{hm}_i的第k個(gè)記錄包含一對(duì)參數(shù)\{F_{i,k},C_{r_{i,k}}\}余素。我們還提供了提示ptr_i指示\mathbf{hm}_i寫入位置。

自適應(yīng)參數(shù)設(shè)置機(jī)制工作如下;

1)首先炊昆,所有參數(shù)FC_r被設(shè)置為0.5桨吊,所有位置設(shè)置為1。

2)在繁殖過(guò)程中凤巨,我們用如下方式為\lambda_i生成參數(shù):

其中jrand是從\{1,2,\cdots,HL \}隨機(jī)選擇的整數(shù)视乐,randn()是從標(biāo)準(zhǔn)分布中隨機(jī)選擇的數(shù)。當(dāng)它們的值超出[0,1]范圍時(shí)敢茁,FC_r需要重新生成佑淀。

3)在環(huán)境選擇之后,如果子代解從選擇算子中保留后彰檬,它將與對(duì)于的參考向量\lambda_i關(guān)聯(lián)伸刃。它的參數(shù)將存儲(chǔ)到第i個(gè)歷史信息中。更具體地逢倍,參數(shù)被寫入到ptr_i指向的條目中捧颅。然后,ptr_i指向下一個(gè)條目较雕。如果ptr_i的值大于HL時(shí)碉哑,ptr_i設(shè)置為1。

圖5給出了以上過(guò)程亮蒋。對(duì)于某個(gè)特定的參考向量扣典,自適應(yīng)機(jī)制能夠生成新的參數(shù)接近舊的參數(shù)。如果新的參數(shù)對(duì)生成有前景的解有幫助宛蚓,則這些解又有助于將這些參數(shù)傳遞給附近的參考向量激捏。此外,當(dāng)新獲得的參數(shù)進(jìn)入歷史內(nèi)存中凄吏,最舊的參數(shù)將被移除远舅。一般而言闰蛔,以上機(jī)制能夠從過(guò)去的生成有前景的解的經(jīng)驗(yàn)中學(xué)習(xí)使得參數(shù)逐漸自適應(yīng)。

以上為提出的繁殖算子的所有元素图柏。我們將以上工作視為兩個(gè)階段:繁殖和自適應(yīng)序六。啟發(fā)式代碼如算法1和2所示。另外蚤吹,算法中還采用了多項(xiàng)式變異例诀。

討論

提出的繁殖算子是為了求解MaOPs。這主要是通過(guò)引入受限制的重組方案來(lái)實(shí)現(xiàn)的裁着。因此繁涂,本節(jié)將討論它為什么能夠?qū)Ω呔S優(yōu)化問(wèn)題有幫助。另外二驰,提出的算子使用了外推策略和參數(shù)自適應(yīng)扔罪,它與目標(biāo)指導(dǎo)方法有一定的相似之處。本節(jié)將總結(jié)它們的不同之處桶雀。

1)嚴(yán)格重組機(jī)制:在求解MaOPs矿酵,隨著目標(biāo)維數(shù)的增加,解的支配區(qū)域呈指數(shù)減少矗积。這會(huì)導(dǎo)致非支配解集覆蓋到目標(biāo)空間或決策控制絕大區(qū)域全肮。如果重組在兩個(gè)遠(yuǎn)離的解中進(jìn)行,它們的結(jié)果可能是破壞性的棘捣,因?yàn)樗鼈冏哟矔?huì)遠(yuǎn)離父代辜腺。

通過(guò)提出的算子獲得的子代可以被考慮為四種解的重組:父代解,潛在解乍恐,DE算子中使用的兩個(gè)隨機(jī)解哪自。為了緩解這個(gè)問(wèn)題,對(duì)這種重組添加了兩個(gè)限制禁熏。首先,對(duì)于單個(gè)父代解x_i邑彪,僅使用對(duì)應(yīng)于參考向量\lambda_i的優(yōu)化路徑來(lái)生成潛在解瞧毙。其次,從限制的匹配池選擇兩個(gè)隨機(jī)解寄症。因此宙彪,子代解可能會(huì)接近參考向量\lambda_i

另外有巧,參數(shù)自適應(yīng)機(jī)制也是受限的释漆。拿MOEA/D為例,子代解僅被它的相鄰解替換篮迎。也就是說(shuō)男图,它的參數(shù)只能寫入到它相鄰解的歷史內(nèi)存中示姿。通過(guò)這種方式,彼此接近的解通常具有類似的搜索步驟逊笆,這有助于保持種群多樣性栈戳。

2)與目標(biāo)指導(dǎo)方法比較:目標(biāo)指導(dǎo)方法屬于數(shù)學(xué)規(guī)劃領(lǐng)域利用參考向量來(lái)指導(dǎo)在決策空間搜索。但是难裆,它與本文提出的算子有以下重要差異:

1.目標(biāo)指導(dǎo)方法一般是構(gòu)造目標(biāo)和決策變量的關(guān)系子檀。在目標(biāo)空間中給出一個(gè)參考方向,決策空間中計(jì)算相應(yīng)的“下降方向”來(lái)指導(dǎo)搜索乃戈。相反地褂痰,我們的算子是嘗試找到?jīng)Q策變量與更新速度之間的關(guān)系。根據(jù)該關(guān)系症虑,潛在解能夠通過(guò)外推直接計(jì)算出來(lái)缩歪。因此,我們的方法沒(méi)有采用下降方向侦讨。

2.因?yàn)橄陆捣较蚴幻埃繕?biāo)指導(dǎo)方法要求計(jì)算合適的搜索步長(zhǎng)。而在我們的方法中韵卤,搜索步長(zhǎng)由DE的參數(shù)控制骗污,這些參數(shù)由參數(shù)自適應(yīng)機(jī)制決定。

3.在計(jì)算目標(biāo)指導(dǎo)方法中的下降方向時(shí)沈条,通常會(huì)考慮決策變量之間的成對(duì)依賴關(guān)系需忿。它帶來(lái)了一些計(jì)算密集型任務(wù)崭参,如矩陣分解和矩陣求逆津坑。相反笔横,我們的算子的所有運(yùn)算都是分別對(duì)每個(gè)決策變量執(zhí)行的嫌拣。因此复局,所提出的算子在計(jì)算上是有效的郁副。

論文:An Evolution Path-Based Reproduction Operator for Many-Objective Optimization - IEEE Journals & Magazine

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
  • 序言:七十年代末珠漂,一起剝皮案震驚了整個(gè)濱河市崩溪,隨后出現(xiàn)的幾起案子父款,更是在濱河造成了極大的恐慌溢谤,老刑警劉巖,帶你破解...
    沈念sama閱讀 219,539評(píng)論 6 508
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件憨攒,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡肝集,警方通過(guò)查閱死者的電腦和手機(jī)瞻坝,發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 93,594評(píng)論 3 396
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來(lái)杏瞻,“玉大人所刀,你說(shuō)我怎么就攤上這事衙荐。” “怎么了勉痴?”我有些...
    開(kāi)封第一講書人閱讀 165,871評(píng)論 0 356
  • 文/不壞的土叔 我叫張陵赫模,是天一觀的道長(zhǎng)。 經(jīng)常有香客問(wèn)我蒸矛,道長(zhǎng)瀑罗,這世上最難降的妖魔是什么? 我笑而不...
    開(kāi)封第一講書人閱讀 58,963評(píng)論 1 295
  • 正文 為了忘掉前任雏掠,我火速辦了婚禮斩祭,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘乡话。我一直安慰自己摧玫,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 67,984評(píng)論 6 393
  • 文/花漫 我一把揭開(kāi)白布绑青。 她就那樣靜靜地躺著诬像,像睡著了一般。 火紅的嫁衣襯著肌膚如雪闸婴。 梳的紋絲不亂的頭發(fā)上坏挠,一...
    開(kāi)封第一講書人閱讀 51,763評(píng)論 1 307
  • 那天,我揣著相機(jī)與錄音邪乍,去河邊找鬼降狠。 笑死,一個(gè)胖子當(dāng)著我的面吹牛庇楞,可吹牛的內(nèi)容都是我干的榜配。 我是一名探鬼主播,決...
    沈念sama閱讀 40,468評(píng)論 3 420
  • 文/蒼蘭香墨 我猛地睜開(kāi)眼吕晌,長(zhǎng)吁一口氣:“原來(lái)是場(chǎng)噩夢(mèng)啊……” “哼蛋褥!你這毒婦竟也來(lái)了?” 一聲冷哼從身側(cè)響起睛驳,我...
    開(kāi)封第一講書人閱讀 39,357評(píng)論 0 276
  • 序言:老撾萬(wàn)榮一對(duì)情侶失蹤壁拉,失蹤者是張志新(化名)和其女友劉穎,沒(méi)想到半個(gè)月后柏靶,有當(dāng)?shù)厝嗽跇?shù)林里發(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 45,850評(píng)論 1 317
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡溃论,尸身上長(zhǎng)有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 38,002評(píng)論 3 338
  • 正文 我和宋清朗相戀三年屎蜓,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片钥勋。...
    茶點(diǎn)故事閱讀 40,144評(píng)論 1 351
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡炬转,死狀恐怖辆苔,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情扼劈,我是刑警寧澤驻啤,帶...
    沈念sama閱讀 35,823評(píng)論 5 346
  • 正文 年R本政府宣布,位于F島的核電站荐吵,受9級(jí)特大地震影響骑冗,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜先煎,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 41,483評(píng)論 3 331
  • 文/蒙蒙 一贼涩、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧薯蝎,春花似錦遥倦、人聲如沸。這莊子的主人今日做“春日...
    開(kāi)封第一講書人閱讀 32,026評(píng)論 0 22
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽(yáng)。三九已至消略,卻和暖如春堡称,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背疑俭。 一陣腳步聲響...
    開(kāi)封第一講書人閱讀 33,150評(píng)論 1 272
  • 我被黑心中介騙來(lái)泰國(guó)打工粮呢, 沒(méi)想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人钞艇。 一個(gè)月前我還...
    沈念sama閱讀 48,415評(píng)論 3 373
  • 正文 我出身青樓啄寡,卻偏偏與公主長(zhǎng)得像,于是被迫代替她去往敵國(guó)和親哩照。 傳聞我的和親對(duì)象是個(gè)殘疾皇子挺物,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 45,092評(píng)論 2 355

推薦閱讀更多精彩內(nèi)容