Přejít na obsah

Publikace

Detail publikace

Citace

Šimandl, M. and Hering, P. : Recursive parameters estimation and structure adaptation of neural network . Proceedings of the eighth IASTED international conference on Intelligent systems and control, p. 78-83, ACTA Press, Anaheim, 2005.

Abstrakt

Application of neural networks in identification of nonlin- ear stochastic systems is treated. The stress is laid on a parameters estimation and structure adaptation of the net- works. They are trained by a global filtering method allow- ing to determine conditional probability density functions of network parameters. The Gaussian sum approach used for parameters estimation of network gives better results than the commonly used prediction error methods, and it is an interesting alternative to sequential Monte Carlo meth- ods. The approach also enables structure adaptation which is given by pruning of insignificant connections from an a priori chosen large network. The designed structure adap- tation method utilizes conditional probability density func- tions of the parameters obtained from the estimation algo- rithm to measure saliency of the network connections and it represents a generalization of the extended Kalman filter based pruning method.

Abstrakt v češtině

Je prezentována aplikace neuronových sítí pro identifikaci nelineárních stochastických systémů. Důraz je kladen na odhad parametrů a adaptaci struktury sítí. Jsou trénovány globální metodou filtrace, která umožňuje určení podmíněných hustot pravděpodobnosti parametrů sítě. Metoda Gaussovských směsí použitá pro odhad parametrů sítě dává lepší výsledky než běžně užívané metody chyby predikce a je zajímavou alternativou k sekvenční metodě Monte Carlo. Tento přístup též umožňuje adaptaci struktury která je dána prořezáváním nevýznamných spojení z předem vybrné velké sítě. Navržená metoda adaptace struktury využívá podmíněných hustot pravděpodobnosti parametrů získaných algoritmem odhadu k změření význačnosti spojení sítě a představuje zobecnění metody prořezávání založené na rozšířeném Kalmanově filtru. Navržený přístup trénování a prořezávání sítě je demonstrován na příkladě.

Detail publikace

Název: Recursive parameters estimation and structure adaptation of neural network
Autor: Šimandl, M. ; Hering, P.
Název - česky: Rekuzivní odhad parametrů a adaptace struktury neuronové sítě
Jazyk publikace: anglicky
Datum vydání: 31.10.2005
Rok vydání: 2005
Typ publikace: Stať ve sborníku
Název časopisu / knihy: Proceedings of the eighth IASTED international conference on Intelligent systems and control
Strana: 78 - 83
ISBN: 0-88986-517-5
Nakladatel: ACTA Press
Místo vydání: Anaheim
Datum: 31.10.2005 - 2.11.2005
/ /

Klíčová slova

system identification, nonlinear parameters estimation, structure adaptation, probability density function, multi- layer perceptron network.

Klíčová slova v češtině

identifikace systémů, nelineární odhad, parametrů, adaptace struktury, hustota pravděpodobnosti, vícevrstvá perceptronová síť

BibTeX

@INPROCEEDINGS{SimandlM_2005_Recursiveparameters,
 author = {\v{S}imandl, M. and Hering, P.},
 title = {Recursive parameters estimation and structure adaptation of neural network},
 year = {2005},
 publisher = {ACTA Press},
 journal = {Proceedings of the eighth IASTED international conference on Intelligent systems and control},
 address = {Anaheim},
 pages = {78-83},
 ISBN = {0-88986-517-5},
 url = {http://www.kky.zcu.cz/en/publications/SimandlM_2005_Recursiveparameters},
}