Forschung

Rekurrente neuronale Netzwerke

Was sind die fundamentalen Prinzipien rekurrenter Netzwerke? Um das herauszufinden, untersuchen wir sowohl klassische, biologisch inspirierte Architekturen als auch neuromorphe Hardware-Implementierungen. Im Zentrum steht die Frage, wie zeitreihenbasierte Dynamiken und Gedächtnismechanismen in rekurrenten Netzen stabil und gleichzeitig flexibel gehalten werden können.

Ein entscheidender Schlüssel liegt dabei in der synaptischen Plastizität: Wir nutzen dieses Prinzip der veränderbaren Verbindungsstärken, um grundlegend zu verstehen, wie neuronale Netze lernen und Informationen über die Zeit hinweg kodieren.

Durch analytische Modellierung, systematische Simulationen und experimentelle Validierung mit memristorbasierten Schaltungen zeigen wir, dass rekurrente Strukturen nicht nur für Vorhersage- und Klassifikationsaufgaben, sondern auch für das emergente, hierarchische Lernen von zeitlichen Mustern besonders geeignet sind. Dabei erweist sich die gezielte Steuerung der neuronalen Plastizität als essenziell, um die Effizienz und Adaptivität dieser Systeme zu maximieren.

 Spatiotemporal Computations of an Excitable and Plastic Brain: Neuronal Plasticity Leads to Noise-Robust and Noise-Constructive Computations.
Toutounji H, Pipa G (2014)
PLoS Comput Biol 10(3): e1003512

 Continual familiarity decoding from recurrent connections in spiking networks.
Zemliak V, Pipa G, Nieters P (2025)
PLoS Comput Biol 21(8): e1013304

 Learning sparse and meaningful representations through embodiment.
Clay V, König P, Kühnberger KU, Pipa G. (2021)
Neural Netw. 134:23-41 

 SORN: a self-organizing recurrent neural network.
Lazar A, Pipa G, Triesch J (2009).  
Front Comput Neurosci. 3:23

 Spike synchrony as a measure of Gestalt structure.
V Zemliak, J Mayer, P Nieters, G Pipa (2024)
Sci Rep 14, 5910

 Dendritic plateau potentials can process spike sequences across multiple time-scales.
Leugering J, Nieters P and Pipa G (2023)
Front. Cognit. 2:1044216

 Biologically Inspired Deep Learning Model for Efficient Foveal-Peripheral Vision.
Lukanov H, König P, Pipa G (2021)
Front Comput Neurosci. 15, 746204

Erforschung komplexer kognitiver Prozesse

Wie entstehen aus neuronaler Aktivität komplexe kognitive Leistungen? Dieser Forschungsbereich widmet sich dem Verständnis der Mechanismen, die menschlichem Denken und Handeln zugrunde liegen.

Im Fokus steht die komplexe Datenanalyse kognitiver Prozesse, um zu entschlüsseln, wie das Gehirn Informationen in Abhängigkeit vom jeweiligen Kontext verarbeitet. Wir untersuchen, wie neuronale Repräsentationen flexibel, schnell und effizient gelernt und an unterschiedliche Situationen angepasst werden, um adaptive Entscheidungen und Verhalten zu ermöglichen.

Durch die Kombination von computergestützten Modellen und experimentellen Daten erforschen wir spezifische Domänen der Kognition:

• Räumliche Navigation: Wir analysieren, wie neuronale Karten im Gehirn entstehen und wie diese genutzt werden, um sich in komplexen Umgebungen zu orientieren.
• Moralische Entscheidungsfindung: Hierbei untersuchen wir die Abwägungsprozesse und die Integration verschiedener sozialer sowie ethischer Variablen und wie diese unser Verhalten beeinflussen.
• Kontextuelle Flexibilität: Ziel ist es, mathematisch zu beschreiben, wie das Gehirn zwischen verschiedenen Verhaltensregeln wechselt, wenn sich die Umweltanforderungen ändern.

Durch den Einsatz moderner Methoden des maschinellen Lernens und der statistischen Physik leisten wir einen Beitrag dazu, die Brücke zwischen elektrophysiologischen Signalen und höheren kognitiven Funktionen zu schlagen.

  Beyond the first glance: How human presence enhances visual entropy and promotes spatial learning
T Sánchez Pacheco, D Nolte, SU König, G Pipa, P König
PLOS Computational Biology 22 (1), e1013173

 A statistical framework to infer delay and direction of information flow from measurements of complex systems.
Schumacher J, Wunderle T, Fries P, Jäkel F, Pipa G (2015)
Neural Computation 27(8): 1555–1608

 Real-time dialogue between experimenters and dreamers during REM sleep.
Konkoly KR, Appel K, Chabani E, Mangiaruga A, Gott J, Mallett R, Caughran B, Witkowski S, Whitmore NW, Mazurek CY, et al. (2021)
Current Biology 31(7): 1417–1427

 A Bayesian Monte Carlo approach for predicting the spread of infectious diseases.
Stojanović O, Leugering J, Pipa G, Ghozzi S, Ullrich A (2019)
PLoS One 14(12): e0225838

 Postprocessing of NWP precipitation forecasts using deep learning.
Rojas-Campos A, Wittenbrink M, Nieters P, Schaffernicht EJ, Keller JD, Pipa G (2023)
Weather and Forecasting 38(3): 487–497

 Context matters: the illusive simplicity of macaque V1 receptive fields.
Haslinger R, Pipa G, Lima B, Singer W, Brown EN, Neuenschwander S (2012)
PLoS One 7(7): e39699

 Is deep-learning and natural language processing transcending the financial forecasting? Investigation through lens of news analytic process.
Khalil F, Pipa G (2022)
Computational Economics 60(1): 147–171

 Predicting epileptic seizures using nonnegative matrix factorization.
Stojanović O, Kuhlmann L, Pipa G (2020)
PLoS One 15(2): e0228025

 Biologically inspired deep learning model for efficient foveal-peripheral vision.
Lukanov H, König P, Pipa G (2021)
Frontiers in Computational Neuroscience 15: 746204

 A trajectory-based loss function to learn missing terms in bifurcating dynamical systems.
Vortmeyer-Kley R, Nieters P, Pipa G (2021)
Scientific Reports 11(1): 20394

 Discrete time rescaling theorem: determining goodness of fit for discrete time statistical models of neural spiking.
Haslinger R, Pipa G, Brown E (2010)
Neural Computation 22(10): 2477–2506

 Investigating consciousness in the sleep laboratory–an interdisciplinary perspective on lucid dreaming.
Appel K, Pipa G, Dresler M (2018)
Interdisciplinary Science Reviews 43(2): 192–207

 Using virtual reality to assess ethical decisions in road traffic scenarios: applicability of value-of-life-based models and influences of time pressure.
Sütfeld LR, Gast R, König P, Pipa G (2017)
Frontiers in Behavioral Neuroscience 11: 122

 Forced-choice decision-making in modified trolley dilemma situations: a virtual reality and eye tracking study.
Skulmowski A, Bunge A, Kaspar K, Pipa G (2014)
Frontiers in Behavioral Neuroscience 8: 426

 Encoding through patterns: regression tree–based neuronal population models.
Haslinger R, Pipa G, Lewis LD, Nikolić D, Williams Z, Brown E (2013)
Neural Computation 25(8): 1953–1993

 Transfer entropy—a model-free measure of effective connectivity for the neurosciences.
Vicente R, Wibral M, Lindner M, Pipa G (2011)
Journal of Computational Neuroscience 30(1): 45–67