Evolutionary Algorithms for Multiobjective Optimization

Abstract

Vícekriteriální evoluční algoritmy se v posledních letech těší velké pozornosti. Dokázaly, že patří mezi nejlepší vícekriterální optimali- zátory a byly použity v mnoha průmyslových aplikacích. Jejich po- užitelnost je ale omezována tím, že vyžadují velké množství vyhod- nocení jednolivých účelových funkcí. Tyto mohou být v případě re- álných problémů složité a jejich vyhodnocení může být drahé. Pro snížení počtu vyhodnocení jednotlivých účelových funkcí se použí- vají tzv. náhradní modely. Ty jsou jednoduchou a rychlou aproximací skutečných účelových funkcí. V této práci představujeme výsledky výzkumu prováděného mezi lety 2009 a 2013. Představujeme vícekriteriální evoluční algoritmus s agregovaným náhradním modelem a jeho verze, které použivají další náhradní model pro předvýběr jedinců. V další části se zabýváme pro- blémem výběru vhodného typu náhradního modelu. Diskutujeme o tom, které charakteristiky modelu jsou důležité a žádané, a navrhu- jeme propojení náhradního modelování s meta-učením. V poslední části se potom zabýváme využitím vícekriteriální optimalizace pro ladění parametrů klasifikátorů a ukazujeme, že přidání dalších účelo- vých funkcí může urychlit nalezení vhodného nastavení. 1

Multi-objective evolutionary algorithms have gained a lot of atten- tion in the recent years. They have proven to be among the best multi-objective optimizers and have been used in many industrial ap- plications. However, their usability is hindered by the large number of evaluations of the objective functions they require. These can be expensive when solving practical tasks. In order to reduce the num- ber of objective function evaluations, surrogate models can be used. These are a simple and fast approximations of the real objectives. In this work we present the results of research made between the years 2009 and 2013. We present a multi-objective evolutionary algo- rithm with aggregate surrogate model, its newer version, which also uses a surrogate model for the pre-selection of individuals. In the next part we discuss the problem of selection of a particular type of model. We show which characteristics of the various models are im- portant and desirable and provide a framework which combines sur- rogate modeling with meta-learning. Finally, in the last part, we ap- ply multi-objective optimization to the problem of hyper-parameters tuning. We show that additional objectives can make finding of good parameters for classifiers faster. 1