Wprowadzenie

Popularne deterministyczne algorytmy poszukiwania minimum lub maksimum są często obciążone

jedną istotną wadą – utknięcie w lokalnym ekstremum, podczas gdy naszym cele jest poszukiwanie
globalnego minimum lub maksimum. Stąd, aby efektywnie poszukiwać globalnych ekstremów nasz
algorytm musi być w stanie z pewnym prawdopodobieństwem opuścić lokalne ekstremum.
Dostępnymi rozwiązaniami opisanego wyżej problemu są algorytmy optymalizacji stochastycznej. W
niniejszej pracy skupimy się na jednym z szerokiej klasy owych algorytmów, a mianowicie na
symulowanym wyżarzaniu ( Simulated Annealing ). Idea owego algorytmu pochodzi od pewnego
dobrze znanego procesu w metalurgii – wyżarzanie. Polega on na stopniowym ochładzaniu
rozgrzanego metalu, w taki sposób, aby między obniżeniem temperatur cząsteczki miały czas na
stabilizację. Algorytm symulowanego wyżarzania jest wykorzystywany do minimalizacji pewnej
funkcji ( często funkcja straty lub kosztu ) w rozwiązywaniu problemów kombinatorycznych, np.
problemu komiwojażera.

Simulated Annealing

Postać kanoniczna modelu

Na początek wprowadźmy kilka niezbędnych oznaczeń oraz założeń.

Niech {Xn} będzie ciągiem zmiennych losowych o wartościach w skończonej przestrzeni stanów E.
Naszym celem będzie minimalizacja pewnej funkcji kosztu U:E->R, czyli poszukiwanie i0nalE dla
którego U(i0)<=U(i) dla każdego inalE.

Wprowadźmy kilka pojęć:

Def

Sąsiedztwem stanu i nal E nazywamy zbiór N(i)={j:i~j} oraz i nienal do N(i) dla pewnej relacji ~.

Def

Struktura sąsiedztwa nazywamy {N(i):i nal E}.

Uwaga

Strukturę sąsiedztwa naziwemy komunikującą się jeżeli …..

Niech Q={q}ij będzie nieprzywiedlną macierzą przejścia na E, a alfaij(T) prawdopodobieństwem

akceptacji przy przejściu ze stanu i do j dla dwo T. Wówczas {Xn} o wartościach w E z macierzą
przejścia P(T) gdzie pij(T)=qijlalfaij(T) jest jednorodnym łańcuchem Markowa. Jednorodność łańcuhca
wynika wprost z postaci pij(T) – nie zależy od n. Dodatkowo zakładamy nieprzywiedlność łańcucha
oraz jego nieokresowość.

Z teorii procesów stochastycznych znamy przydatny fakt:

Fakt

Dla dowolnego łańucha Markowa o skończonej liczbie stanów istnieje rozkład stacjonarny.

Dowód
Poszukujemy wektora własnego odpowiadającego wartości własnej Lamba=1, a wiemy, że lambda=1
jest wartością własną każdej macierzy stochastycznej.

Powyższy fakt okaże się pomocny przy wykorzystaniu dobrze znanego, twierdzenia egodycznego:

Tw

Wiec istnieje jednoznacznie wyznaczony rozkład stacjornay pi(T) dla naszego jednorodnego łańcucha
Markowa

Jakos koncowme zapodać

Metropolis sampler

Aby otrzymać jakiekolwiek wnioski z wporwadzonej postaci kanonicznej, musimy określić dokładniej
Q, strukturę sąsiedztw, P(T).

Macierz Q oraz strukturę sąsiedztw możemy zadać na dwa sposoby:

 dobieramy pewną strukturę sąsiedztw, a następnie macierz Q, tak aby

qij= 0 albo c
Macierz ta jest nieprzywiedlna co wynika wprost z definicji struktury sąsiedztw
 dla wybranej nieprzywiedlnej macierzy Q definiujemy N(i)={j : j!=i, qij>0 }

Następnie skorzystajmy z używanego w algorytmie Metropolisa prawdopodbieństwa akceptacji

Alfa(ijT)=…

Dla X-n=i ..

Wyżej pokazaliśmy, iż przy Q i P(T) spełniających ogólne założenie postaci kanonicznej istnieje
jednoznacznie wyznaczony rozkład stacjonarny. Dla zadanej P(T) (1,2) rozkład stacjonarny jest dany
wzorem:

Pi(T)=..

Dowód

…..

Mając nieprzywiedlny, nieokresowy oraz jednorodny łańcuch Markowa, posiadający jednoznacznie

wyznaczony rozład początkowy, możemy skorzystać z następującego faktu

Fakt

Dla dowolnego rozkładu początkowego mi, i nal E

Lim…

Widzimy, że w przypadku, gdy duża masa prawdopodbieństwa rozkładu stacjonarnego byłaby

skupiona na stanach minimalizujących U(i), to dla dużych n nasz algorytm powinien kończyć swoje
działanie w stanie, który minimalizuje wartość U(i). Sprawdźmy, czy nasza intuicja sprawdzi się w
rzeczywistości dla rozkładu stacjonarnego Pi(T), przy T->0

Oznaczmy przez H={} oraz m=min U(i)

Wówczas:

Pi(t)=

Stąd otrzymujemy, iż lim t>0

Łatwo zauważyć, że w tym przypadku jest to rozkład jednosytajny na zbiorze minimów.

Otrzymane rezultaty sugerują, aby procedura przebiegała w nas™epujący sposób:

 T=T0, czekamy dostatecznie długo az się