Self-Optimizing Neural Network 3
Autor/Author: Adrian Horzyk
Wydawnictwo/Publisher: Constructive Neural Networks, Springer, Series: Studies in Computational Intelligence, ISBN 978-3-642-04511-0, Vol. 258, 2009, pp. 83-101
Redaktorzy/Editors: L. Franco, D. Elizondo, J.M. Jerez
Streszczenie:
W tym artykule opisano efektywną konstrukcję wielowarstwowej częściowo połączonej architektury oraz obliczanie parametrów wagowych automatycznie optymalizujących się sieci neuronowych SONN-3, które mogą zostać wykorzystane jako uniwersalny klasyfikator dla różnych danych rzeczywistych, całkowitych (dyskretnych) i binarnych nawet dla trudno separowalnych problemów. Sieci SONN-3 składają się z trzech typów neuronów, które odgrywają ważną rolę w trakcie procesu ekstrakcji i transformacji najważniejszych przedziałów cech/parametrów z danych wejściowych w celu uzyskania wyników generalizacji które mogą konkurować z wynikami innych popularnych metod klasyfikacyjnych. Najważniejszym aspektem tej metody jest to, iż metoda w trakcie transformacji nie gubi ani nie zaokrągla istotnych wartości i dzięki temu otrzymuje dokładne i odpowiednie wyniki. Wszystkie najlepiej dyskryminujące/odróżniające przedziały cech danych wejściowych są transformowane do odpowiednich struktur sieci neuronowej oraz są dla nich dokładnie obliczane wagi bez stosowania żmudnego procesu uczenia. Automatyczna konstrukcja tych sieci oraz algorytmy optymalizacyjne są opisane tutaj w szczegółach. Wyniki klasyfikacji oraz generalizacji są porównane na kilku przykładach.
Abstract:
This paper describes an efficient construction of a partially-connected multilayer architecture and a computation of weight parameters of Self-Optimizing Neural Network 3 (SONN-3) that can be used as a universal classifier for various real, integer or binary input data, even for highly non-separable data. The SONN-3 consists of three types of neurons that play an important role in a process of extraction and transformation of important features of input data in order to achieve correct classification results. This method is able to collect and to appropriately reinforce values of the most important input features so that achieved generalization results can compete with results achieved by other existing classification methods. The most important aspect of this method is that it neither loses nor rounds of any important values of input features during this computation and propagation of partial results through a neural network, so the computed classification results are very exact and accurate. All the most important features and their most distinguishing ranges of values are effectively compressed and transformed into an appropriate network architecture with weight values. The automatic construction process of this method and all optimization algorithms are described here in detail. Classification and generalization results are compared by means of some examples.
Prezentacja:
Aplikacja umożliwiająca porównanie SONN-3 z innymi metodami