Neural Network Adaptation Process Effectiveness Dependent of Constant Training Data Availability
Autorzy/Authors: Ewa Dudek-Dyduch, Ryszard Tadeusiewicz, Adrian Horzyk
Wydawnictwo/Publisher: Neurocomputing 72, 2009, pp. 3138-3149
Streszczenie:
W tym artykule podjęto dyskusję i porównanie dwóch różnych podejść do adaptacji systemów sztucznej inteligencji. Jeden bazuje na dobrze znanych mechanizmach biologicznych opartych na stopniowym uczeniu neuronów i innych parametrów. Drugie podejście wykorzystuje pewne ważne dodatkowe założenie dotyczące danych uczących, które umożliwiają adaptację systemu sztucznej inteligencji w bardziej efektywny sposób niż odbywa się to w systemach biologicznych. Jeśli założymy, że dane uczące są kompletne i znane przed rozpoczęciem procesu adaptacji i nie zmieniają się do jego końca, wtedy można przeanalizować wszystkie dane uczące globalnie i bardzo szybko dostosować system sztucznej inteligencji do nich z pominięciem procesu uczenia się. W tym artykule skupiono się na tej ważne różnicy w działaniu biologicznych systemów i systemów sztucznej inteligencji ponieważ dane są zwykle zbierane, dostępne i niezmienne w trakcie procesu uczenia lub adaptacji systemu sztucznej inteligencji. Z drugiej strony biologiczne systemy nerwowe zbierają dane uczące w trakcie całego ich życia i muszą zmieniać swój wewnętrzny model reprezentacji, więc uczenie z ich punktu widzenia jest bardzo dobrym rozwiązaniem umożliwiającym im ciągłą adaptację systemu biologicznego do zmieniających się danych uczących. Systemy sztucznej inteligencji mogą również wykorzystać taki biologiczny sposób uczenia się, ale w większości przypadków można znaleźć szybsze i bardziej efektywne rozwiązanie, jeśli tylko wspomniany warunek jest spełniony. Powyższe tezy zostały zilustrowane na kilku przykładach.
Abstract:
The paper discusses and compares two different ways of adapting artificial intelligence systems. One is founded on a well known biological mechanism of gradual training of neurons or other parameters. The second one uses a significant extra feature of training data that ably makes us possible to adapt the artificial intelligence system in more effective way than nature does in biological systems. This extra feature is availability of all training data before the adaptation process begins till an end of which all these data have to be constant. This feature provides an ability to analyze training data globally and very quickly tune an artificial intelligence system with them. The paper focus the attention on this important difference between biological and artificial intelligence problems because in most cases of artificial intelligence problems training data are gathered, available and constant during the training process. On the other hand, the biological nervous systems gather training data during the whole life, have to change the inner model, so training is a very good solution for them because it makes them possible to tune with changing training data. Artificial intelligence systems can also use training inherent in biological systems but in most cases it is possible to find more quickly and effectively the solution if only the mentioned feature is met. The above thesis is illustrated by means of some examples.