Neuronale Netze für die Musterklassifikation

In diesem Beitrag wird die Anwendung von konnektionistischen Konzepten auf Problemstellungen aus dem Bereich Musterklassifikation mit Lehrer (supervised learning) untersucht. Zu diesem Zweck wurden die beiden wichtigsten neuronalen Modelle — Multilayer-Perzeptron und RadialBasis-Funktionen — ausgewahlt. Diese Ansatze werden mathematisch beschrieben und einheitlich dargestellt, wobei eine moglichst vollstandige Auflistung des in der Fachliteratur bekannten Wissens angestrebt wird. Mit Hilfe des entscheidungstheoretischen Losungsansatzes (Bayes-Klassifikator) gelingt es, die beiden Konzepte in das Arsenal klassischer Verfahren der Mustererkennung einzuordnen und ihre Eigenschaften zu bewerten. Zum Abschlus werden kurz Vergleichsergebnisse fur die Klassifikation von handgeschriebenen Ziffern angegeben.

[1]  F. Girosi,et al.  Networks for approximation and learning , 1990, Proc. IEEE.

[2]  Alex Waibel,et al.  Consonant recognition by modular construction of large phonemic time-delay neural networks , 1989, International Conference on Acoustics, Speech, and Signal Processing,.

[3]  John Moody,et al.  Fast Learning in Networks of Locally-Tuned Processing Units , 1989, Neural Computation.

[4]  Kurt Hornik,et al.  Universal approximation of an unknown mapping and its derivatives using multilayer feedforward networks , 1990, Neural Networks.

[5]  Lawrence D. Jackel,et al.  Backpropagation Applied to Handwritten Zip Code Recognition , 1989, Neural Computation.

[6]  U. Kressel.  The Impact of the Learning–Set Size in Handwritten–Digit Recognition , 1991 .

[7]  John C. Platt.  A Resource-Allocating Network for Function Interpolation , 1991, Neural Computation.

[8]  Halbert White,et al.  Connectionist nonparametric regression: Multilayer feedforward networks can learn arbitrary mappings , 1990, Neural Networks.

[9]  E. Parzen.  On Estimation of a Probability Density Function and Mode , 1962 .

[10]  Ulrich Kressel,et al.  Polynomklassifikator versus Multilayer-Perzeptron , 1990, DAGM-Symposium.

[11]  S. P. Lloyd,et al.  Least squares quantization in PCM , 1982, IEEE Trans. Inf. Theory.

[12]  Kurt Hornik,et al.  Multilayer feedforward networks are universal approximators , 1989, Neural Networks.

[13]  D. Broomhead,et al.  Radial Basis Functions, Multi-Variable Functional Interpolation and Adaptive Networks , 1988 .

[14]  Andreas Sebastian Weigend.  Connectionist architectures for time series prediction of dynamical systems , 1991 .

[15]  Richard P. Lippmann,et al.  An introduction to computing with neural nets , 1987 .

[16]  P. Werbos,et al.  Beyond Regression : "New Tools for Prediction and Analysis in the Behavioral Sciences , 1974 .

[17]  Philip E. Gill,et al.  Practical optimization , 1981 .

[18]  Donald F. Specht,et al.  Probabilistic neural networks and the polynomial Adaline as complementary techniques for classification , 1990, IEEE Trans. Neural Networks.