『筆記』模擬退火

部分圖片轉自：RPChe_

引言

平常生活中，咱們常常會遇到一些函數求最值的問題，例如單峯函數求最值問題

就例如上面的圖片，那麼如今就能夠引入一個新算法：登山算法
顧名思義，登山算法能夠形象的理解爲人在山坡上上向着坡頂爬去的一個場景，能夠經過左右比較範圍內的值，經過找到更優解，進而縮小範圍，直到找到單峯函數的最大值。（顯然能夠用三分）

然而這個算法仍是存在缺陷的，極可能會讓咱們陷入局部最優解致使沒法找到最終的全局最優解，就例以下面的圖片

特別明顯的能看出很容易就會陷入局部最優解中

那麼此時，就引入了一個玄學算法--模擬退火！

簡介

模擬退火算法（Simulate Anneal，SA）是一種通用機率演算法，用來在一個大的搜尋空間內找尋命題的最優解。模擬退火是由S.Kirkpatrick, C.D.Gelatt和M.P.Vecchi在1983年所發明的。V.Černý在1985年也獨立發明此演算法。模擬退火算法是解決TSP問題的有效方法之一。

模擬退火的出發點是基於物理中固體物質的退火過程與通常組合優化問題之間的類似性。模擬退火算法是一種通用的優化算法，其物理退火過程由加溫過程、等溫過程、冷卻過程這三部分組成。

原理

模擬退火的原理也和金屬退火的原理近似：將熱力學的理論套用到統計學上，將搜尋空間內每一點想像成空氣內的分子；分子的能量，就是它自己的動能；而搜尋空間內的每一點，也像空氣分子同樣帶有「能量」，以表示該點對命題的合適程度。演算法先以搜尋空間內一個任意點做起始：每一步先選擇一個「鄰居」，而後再計算從現有位置到達「鄰居」的機率。

簡化來講就是用來求多峯函數的最值問題的一種算法，經過溫度的下降，能夠獲得新的解，溫度越大，解得變化量也就越大，隨着溫度的下降，解也愈來愈穩定，當最後達到最終溫度的時候，即物理上的結晶，此時求出來的即爲最優解。

實現方法

首先引入一些變量，當前的最優解 \(E_0\) ,經過降溫的到的解 \(E\) ,兩個解的差值 \(\Delta E\) 。以及當前的溫度 \(T\)，初始溫度 \(T_0\),最終溫度 \(T_k\)，降溫係數 \(d\) 。

\(d\) 是一個十分接近 \(1\) 可是小於 \(1\) 的小數，\(T_k\) 是一個十分接近 \(0\) 可是大於 \(0\) 的小數。

\(T_0\) 通常設置在\(2000-5000\)以內，\(d\) 設置在1e-8~1e-15以內

首先能夠用公式來判斷是否進行更新當前的解。

一、若是當前的 \(\Delta E\) 知足條件，直接轉換。
二、反之若是不符合，那麼根據Metropolis準則進行斷定是否接受。

拿找最小值爲例

首先通過降溫咱們得出了新解，和當前最優解的差值 \(\Delta E\) 若是 \(<0\),那麼直接轉換最優解就行了，由於當前的解必定是比以前更優的，反之，並不符合條件，那就根據公式以必定機率來接受他,其機率爲:

\[e^{\frac{-\Delta E}{T}} \iff exp(-\Delta E/T) \]

至於爲何會有接受它一說，談一下我的理解，首先，咱們所求的是要找全局的最優解，若是僅僅趨向於當前最優，那麼頗有可能找到的是一個局部最優解，那麼就和登山算法沒有什麼區別了。經過必定機率接受它，那麼就能夠從另一個點去出發，來找它的解，增長了找到全局最優解的可能性。

對於接受的機率（假定當前\(\Delta E\) 爲正），當 \(\Delta E\) 較大時，也就是咱們遇到了一個十分劣的解，那麼此時的 \(-\Delta E\) 就會相對的較小，那麼接受的機率就越小；若是當前的 \(\Delta E\) 較小的話，那麼咱們遇到了一個有些劣的解，顯然此時的 \(-\Delta E\) 會大一些，那麼接受的機率也就會大一些。當 \(T\) 大的時候，那麼此時接受的機率也就會增大，大部分的解都會別接受，若是當溫度降到很低的時候，那麼此時接受的機率會大大減小，也就穩定在了一個最優解內，固然爲了保證解更加正確，當退火完成以後，考慮一下在時間容許的範圍內，在當前解的一個範圍內繼續嘗試退火。

列出一個圖清晰形象的觀摩一下退火的全過程

算法改進

（1）設計合適的狀態產生函數，使其根據搜索進程的須要表現出狀態的全空間分散性或局部區域性；

（2）設計高效的退火策略；

（3）避免狀態的迂迴搜索；

（4）採用並行搜索結構；

（5）爲避免陷入局部極小，改進對溫度的控制方式；

（6）選擇合適的初始狀態；

（7）設計合適的算法終止準則。

列出幾個個人經常使用數據，實戰效果較好

\(T=2000,d=0.996\)
退火通常進行 \(6\) 爲最佳

模板

#include<iostream>
#include<cstdio>
#include<algorithm>
#include<cstdlib>
#include<ctime>
...
const double T_begin=..;//退火初溫
const double T_end=..;//末溫
const double V=..;//速率
void fz()
{
	... //若題目有關序列操做模擬退火常須要隨機生成一個序列(random_shuffle)
}
void calc()//模擬退火最耗時的函數，寫的好題就A了
{
	...//有一個解，需算出答案，後與已知最優解比較
}
void SA()//模擬退火主要函數
{
 	fz()
  	...//改變當前解，獲得一個新答案,經常使用rand()；
  	int del=tmp-ans;//tmp：當前接，ans：已知最優解
  	if (del>0) 更新最優解，當前值//當前解更優
	else if (exp(del/T)/RAND_MAX>(double)rand()) 更新當前值，以必定機率接受劣解
	else // 討論狀況
}
int mian()
{
  	srand((int)time(0))；//玄學隨機種子,隨便改數->逆天改命
	...
  	while(clock()/CLOCKS_PER_SEC<0.9) SA();//計算時間的
   ...//輸出答案
	return 0;
}
//還有兩種常常用的隨機生成格式

一、矩陣中座標版： nowx=rand%n,nowy=rand%m;
二、不規則平面內座標版：nowx=ansx+((rand()<<1)-RAND_MAX)*T
                     nowy=ansy+((rand()<<1)-RAND_MAX)*T

例題

P3936 Coloring 矩陣中兩個位置微調問題，噁心調參數

P2503 [HAOI2006]均分數據 序列隨機打亂，隨機貪心

P4035 [JSOI2008]球形空間產生器 多維空間找點，數論（高斯消元可過）

P5544 [JSOI2016]炸彈攻擊1 二維空間不規則找點