Memetic algorithms for combinatorial optimization problems : fitness landscapes and effective search strategies

Abstract

For many combinatorial optimization problems, no effective algorithms capable of finding guaranteed optimum solutions in short time are available. Therefore, powerful heuristics have been developed that deliver no guarantee to find the optimum, but have shown to be highly effective in many test cases. In this work, a special class of heuristics is investigated. The algorithms under consideration are called memetic algorithms, which are – roughly speaking – hybrids of evolutionary algorithms and problem-specific search algorithms, such as greedy heuristics and local search. In order to provide explanations under which circumstances these memetic algorithms are highly effective, a search space analysis relying on the concept of fitness landscapes is conducted, consisting of an autocorrelation analysis and a fitness distance correlation analysis of the peaks in the fitness landscape. It is shown that the former type of analysis enables a comparison and thus a selection of local search algorithms, while the latter type of analysis provides a guideline for the choice of evolutionary variation operators in the evolutionary meta-algorithm. The search space analysis is conducted for five combinatorial optimization problems, namely the traveling salesman problem, the graph bipartitioning problem, the quadratic assignment problem, NK landscapes, and the unconstrained binary quadratic programming problem. Based on the results of the analysis, new memetic algorithms are presented. Experimental results demonstrate that they are among the best heuristics developed so far for the five problems.

Für viele kombinatorische Optimierungsprobleme sind keine effektiven Algorithmen bekannt, die garantiert optimale Lösungen in kurzer Zeit liefern. Daher sind leistungsfähige Heuristiken entwickelt worden, die zwar keine Garantie bieten, daß ein Optimum gefunden wird, sich aber in der Praxis als äußerst effektiv erwiesen haben. In der vorliegenden Arbeit wird eine bestimmte Klasse von Heuristiken untersucht. Die betrachteten Algorithmen werden memetische Algorithmen genannt und können vereinfacht als hybride Verfahren aus evolutionären Algorithmen und problemspezifischen Heuristiken, wie Greedy-Heuristiken und lokale Suche aufgefaßt werden. Um erklären zu können, unter welchen Bedingungen diese memetischen Algorithmen effektiv sind, ist eine Suchraumanalyse basierend auf dem Konzept der Fitneßlandschaften durchgeführt worden, die aus einer Autokorrelationsanalyse und einer Fitneß-Distanz-Korrelationsanalyse der Gebirgsspitzen der Fitneßlandschaften besteht. Es wird gezeigt, daß die erstgenannte Analysemethode einen Vergleich und somit eine Auswahl von lokalen Suchverfahren erlaubt, wä;hrend die letztgenannte Analysemethode eine Richtlinie für die Wahl der Variationsoperatoren im evolutionären Meta-Algorithmus liefert. Die Suchraumanalyse wurde auf fünf kombinatorische Optimierungsprobleme angewandt, dem Problem des Handlungsreisenden, dem Problem der Graph-Zerlegung, dem quadratischen Zuweisungsproblem, dem NK-Modell, und dem binären quadratischen Optimierungsproblem. Basierend auf den Analyseergebnissen wurden neue memetische Algorithmen entwickelt, und es wurde experimentell gezeigt, daß diese Algorithmen zu den besten bisher veröffentlichten Heuristiken für die fünf Probleme zählen.