论文信息 - Simulation Neuronaler Netze auf Massiv Parallelen Rechnern

Simulation Neuronaler Netze auf Massiv Parallelen Rechnern

Wir beschreiben hier Erfahrungen mit drei verschiedenen Implementierungen mehrstufiger vorwartsgerichteter neuronaler Netze auf einem massiv parallelen SIMD-Rechner, einer MasPar MP-1216 mit 16384 Prozessoren. Zwei der Implementierungen wurden als knoten- und trainingsmusterparallele Simulatorkerne des Stuttgarter Neuronale Netze Simulators (SNNS) entwickelt, die dritte war eine kantenparallele Prototyp-Implementierung. Alle parallelen Implementierungen liefern bei optimaler Netztopologie sehr hohe Leistungsdaten: unsere Hochstwerte von 348 MCPS und 129 MCUPS fur Backpropagation auf der MP-1216 und von 972 MCPS und 360 MCUPS auf einer MP-2216 gehoren zu den weltweit hochsten publizierten Werten fur universelle SIMD-Parallelrechner ohne Neuro-Hardware.

Andreas Zell | Michael Vogt | Niels Mache | Markus Hüttel

[1] Alex Waibel,et al. Consonant recognition by modular construction of large phonemic time-delay neural networks , 1989, International Conference on Acoustics, Speech, and Signal Processing,.

[2] Tomaso A. Poggio,et al. Extensions of a Theory of Networks for Approximation and Learning , 1990, NIPS.

[3] Stephen Grossberg,et al. The ART of adaptive pattern recognition by a self-organizing neural network , 1988, Computer.

[4] Andreas Zell,et al. Neural network simulation environment , 1990, Defense, Security, and Sensing.

[5] Andreas Zell,et al. Translations- und rotationsinvariante Erkennung von Werkstücken mit Neuronalen Netzwerken , 1991, DAGM-Symposium.

[6] James L. McClelland,et al. Parallel distributed processing: explorations in the microstructure of cognition, vol. 1: foundations , 1986 .

[7] Alexander Singer,et al. Implementations of artificial neural networks on the Connection Machine , 1990, Parallel Comput..

[8] Christian Lebiere,et al. The Cascade-Correlation Learning Architecture , 1989, NIPS.

[9] Jill P. Mesirov,et al. An Efficient Implementation of the Back-propagation Algorithm on the Connection Machine CM-2 , 1989, NIPS.