La matematica delle reti neurali. II

Read full text Summarise with VIRAT
Authors: Silvano Salvador
Cited by: 0

Summary

No summary yet. VIRAT can read this paper and write a plain-language summary of its aim, methods, key findings and limitations.

Summarise with VIRAT Free to try with your Science Catalogs account.

Abstract

Il Volume II completa e amplia il Volume I coprendo le Parti 51–100 del trattato Matematica delle Reti Neurali. Partendo dai modelli generativi basati su equazioni differenziali stocastiche — con il framework SDE unificato di Song et al., il Flow Matching e i Normalizing Flows avanzati — il volume sviluppa la teoria dell'equivarianza di gruppo applicata alle reti neurali (G-CNN, EGNN) e i modelli per sequenze ultra-lunghe (S4 con HiPPO, Hyena, BigBird). Una parte sostanziale è dedicata all'alignment dei modelli linguistici, con la derivazione completa di DPO, KTO, IPO e SimPO, e alla teoria dell'ottimizzazione non convessa: landscape, punti di sella, SAM e il Neural Tangent Kernel. Vengono trattate architetture specializzate come le Modern Hopfield Networks (con la loro equivalenza formale con il meccanismo di attenzione), le Spiking Neural Networks con surrogate gradient e STDP, e le Capsule Networks con EM-routing. Le sezioni di frontiera coprono i Variational Quantum Circuits con la parameter-shift rule e il problema dei barren plateau, il Principio del Massimo di Pontryagin con l'equazione HJB e le sue connessioni alle Neural ODE, e la teoria del campionamento di Nyquist-Shannon applicata all'aliasing nelle CNN.

Fields of Study & Subjects

Neural Networks and Applications Stochastic Gradient Optimization Techniques Advanced Neural Network Applications

Publication details

Publication date
21 March 2026
Language
IT