Forschungsteam vor Bildschirmen mit Visualisierungen künstlicher neuronaler Netze

Projekt

Spiking Neural Networks for Communication Systems: Encoding Schemes, Learning Algorithms, and Equalization Techniques

Künstliche Intelligenz, insbesondere maschinelles Lernen mit künstlichen neu- ronalen Netzen (ANNs), bietet Lösungsansätze für die wachsende Komplexität moderner Kommunikationssysteme und ermöglicht Datenübertragung nahe der theoretischen Grenze. Die steigende Komplexität geht jedoch mit einem hohen Energieverbrauch u…

Künstliche Intelligenz, insbesondere maschinelles Lernen mit künstlichen neu- ronalen Netzen (ANNs), bietet Lösungsansätze für die wachsende Komplexität moderner Kommunikationssysteme und ermöglicht Datenübertragung nahe der theoretischen Grenze. Die steigende Komplexität geht jedoch mit einem hohen Energieverbrauch und somit mit energieintensiven Systemen einher. Gepulste neuronale Netze (SNNs) sind vom menschlichen Gehirn inspirierte Mod- elle, die durch ereignisgesteuerte Mechanismen energieeffiziente Signalverarbeitung in Echtzeit ermöglichen. Sie unterscheiden sich von ANNs durch ihre inhärente zeitliche Dynamik, sowie durch ihre Informationsverarbeitung in Form kurzer binärer Pulse. Offene Herausforderungen sind insbesondere die Wahl geeigneter Lernregeln und neuronaler Kodierungen zur Konvertierung realer Signale in Pulse. Diese Arbeit untersucht den Entwurf SNN-basierter Empfänger für verrauschte sowie frequenzselektive zeitinvariante Kanäle. Der erste Teil fokussiert sich auf die Entwicklung eines SNN-basierten Detektors für einen verrauschten Kanal. Untersucht werden drei Lernregeln: eine biologisch inspirierte und zwei gradien- tenbasierte, wobei die gradientenbasierte Lernregel “Backpropagation through time mit Ersatzgradienten” als vielversprechende Lernregel identifiziert wird. Weit- erhin werden verschiedene neuronale Kodierungen untersucht, wobei drei vielver- sprechende Kandidaten identifiziert werden, z.B. Quantization encoding (QE). Der zweite Teil widmet sich SNN-basierten Entzerrern und Demappern. Zwei Architekturen, mit und ohne Entscheidungsrückkopplung, werden jeweils mit den drei neuronalen Kodierungen kombiniert. Für das Modell einer nicht-kohärenten optischen Übertragung werden die Ansätze bezüglich ihrer Leistungsfähigkeit und der Anzahl generierter Pulse verglichen. Der Einsatz von Entscheidungsrückkop- plung und QE ermöglicht leistungsfähige Entzerrer mit einer geringen Anzahl an generierten Pulsen. Bemerkenswerterweise übertreffen SNN-basierte Entzerrer ANN-basierte deutlich hinsichtlich ihrer Leistungsfähigkeit. Der dritte Teil nutzt Methoden des verstärkenden Lernens (RL) um eine neue Lernregel für SNNs sowie der neuronalen Kodierung herzuleiten. Es wird ein RL-basierter Update-Algorithmus eingeführt, der keine Backpropagation benötigt. Für den SNN-basierten Entzerrer und Demapper werden mittels des neuen Al- gorithmus die Parameter der neuronalen Kodierung optimiert, wodurch ohne Leistungseinbußen die Laufzeit, Komplexität und Anzahl der pro Inferenz gener- ierter Pulse erheblich reduziert wird. Diese Arbeit leistet einen Beitrag zum erfolgreichen Entwurf von SNN-basierten Empfängern. Durch die Diskussion zentraler Herausforderungen erleichtert sie zukünftige Fortschritte im Entwurf und Einsatz energieeffizienter Empfänger auf Basis von SNNs.

Technologien