Self Optimizing Neural Networks SONN-3 for Classification Tasks

Autor/Author: Adrian Horzyk

Wydawnictwo/Publisher: Proc. of HAIS 2008, LNAI 5271, Springer-Verlag, Berlin Heidelberg 2008, pp. 229-236.

Redaktorzy/Editors: E. Corchado, A. Abraham, W. Pedrycz

Streszczenie:

Artykuł opisuje nowe algorytmy wprowadzone do sieci neuronowych typu SONN, dzięki którym uzyskano wydajny uniwersalny klasyfikator neuronowy SONN-3 umożliwiający automatyczną klasyfikację danych rzeczywistych, całkowitych i binarnych. Skonstruowana metoda jest bardzo efektywna, gdyż analizuje dane i buduje dedykowaną dla danych sieć neuronową przy złożoności obliczeniowej na poziomie O(n log n), gdzie n jest sumą danych i wymiarów danych wejściowych i ilości klas. Pokazano zastosowania tej metody oraz porównania z wiodącymi metodami klasyfikacji na świecie. Wykazano i zademonstrowano, iż dostępność wszystkich danych uczących przed procesem adaptacji umożliwia skonstruowanie bardzo efektywnych algorytmów adaptacyjnych nie wykorzystujących procesu uczenia. Ponadto pokazano, iż globalna analiza danych umożliwia lepszą selekcję parametrów i zbudowanie bardziej zoptymalizowanego modelu neuronowego, który charakteryzuje się jakością uogólnienia na poziomie najlepszych algorytmów uczących na świecie.

Abstract:

The paper introduces new valuable improvements of a performance, a generalization ability and a topology optimization of the Self-Optimizing Neural Networks (SONNs). The described SONN-3 integrates the very effective solutions used in the SONN-2 together with the very effective ADFA algorithms for an automatic conversion of real input features into binary vectors. The integration provides not only a simple sum of valuable features of the both methods but it makes able to substantially improve a performance and generalization properties of these networks reducing SONN-3 topology sizes in comparison to SONN-2 topology sizes. The paper describes the construction of the SONN-3 and compares its performance with the SONN-2 and other AI computational methods applied to an exemplar classification task.

Prezentacja:

Punktacja: 10/10