A recursive digital filter as a unit of a recurrent neural network in the problem of predicting the response of a spin system

Предсказание отклика физической системы на управляющее воздействие по результатам наблюдения за ее динамикой является одной из актуальных задач машинного обучения. Часто наблюдение за динамикой системы затруднено во время управляющего воздействия, поэтому требуется модель, обучение которой возможно при частично скрытом отклике. В работе рассматривается предсказание реакции спинового ансамбля на последовательность радиочастотных импульсов с помощью искусственных нейронных сетей. Проведено сравнение нескольких архитектур сетей с различными стандартными рекуррентных ячейками: GRU, LSTM и SCRN. Показано, что сети с перечисленными ячейками плохо поддаются обучению, если между откликом и воздействием имеется дополнительная временная задержка. Также в статье предложена и исследована компактная и устойчивая к шуму рекуррентная ячейка, схожая с цифровым рекурсивным фильтром с бесконечной импульсной характеристикой. Погрешность предсказания отклика нейронной сетью на ее основе не превышает 11% при отношении сигнал/шум 0 дБ. Эта ячейка отличается от стандартных тем, что ее выходной сигнал вычисляется с использованием нескольких предыдущих состояний. Такая простая модификация существенно увеличила скорость обучения модели даже в случае частично скрытой динамики физической системы.