Learning latent dynamical systems via low-rank hypernetworks

Comprendre comment les circuits neuronaux donnent naissance au comportement exige des modèles capables de capturer la dynamique de grandes populations de neurones de haute di- mension tout en généralisant à travers diverses tâches et contextes. Les réseaux de neurones récurrents (RNNs) contraints par les données ont été utiles pour modéliser l’activité neu- ronale, mais leurs formulations à poids fixes tendent à surajuster et offrent une compréhension mécanistique limitée. Dans cette thèse, nous développons un cadre hiérarchique combinant des hyperréseaux avec des architectures récurrentes de rang faible afin d’apprendre conjoin- tement des représentations de contexte et des poids dépendants de la tâche. En paramétrant la connectivité des RNNs par ces embeddings, le modèle intègre divers enregistrements neu- ronaux dans une représentation unifiée, soutient la généralisation entre tâches et révèle une structure dynamique interprétable. À l’aide de données synthétiques générées par des RNNs chaotiques, nous montrons que les hyperréseaux à rang faible identifient correctement les tâches, généralisent de manière ro- buste et produisent des matrices récurrentes dont les spectres d’autovalues reflètent des signa- tures dynamiques connues. Appliqué à des enregistrements corticaux moteurs de macaques lors de mouvements de pointage, le cadre met en évidence des motifs conservés entre di- rections et révèle des signatures spectrales cohérentes avec les phases de préparation et d’exécution du mouvement. Enfin, des analyses de perturbation montrent que les espaces latents appris sont stables et robustes, surpassant les autoencodeurs variationnels. Ces résultats soulignent l’utilité des hyperréseaux à rang faible et informés par le contexte comme modèles interprétables de la dynamique neuronale et ouvrent une voie pour intégrer des ensembles de données hétérogènes et sonder les mécanismes de calcul au niveau des circuits.