От динамической памяти к обучению Хебба: новый взгляд на импульсные нейросети

Традиционные нейросети, обучаемые через обратное распространение ошибки, требуют оптимизации всего набора данных сразу. Это препятствует динамическому запоминанию новых примеров без потери старых знаний. Альтернативный подход предлагает импульсные нейросети с пороговыми нейронами, способными запоминать отдельные примеры по принципу «словаря».
От динамической памяти к обучению Хебба: новый взгляд на импульсные нейросети
Изображение носит иллюстративный характер

В основе этого подхода лежит идея дискретных состояний нейронов (0 или 1), что позволяет отслеживать активные связи при обработке конкретного примера. Это приводит к тому, что изменения весов происходят только между активными нейронами, что способствует динамическому обучению и сохранению знаний без необходимости переобучения на всем наборе данных.

Вместо градиентного спуска, импульсные нейросети применяют правило обучения Хебба. Оно модифицирует веса в зависимости от активности пре- и постсинаптических нейронов, имитируя механизм обучения биологических систем. Когда оба нейрона активны, вес увеличивается, когда активен только пресинаптический, вес немного уменьшается.

Хотя предложенная модель импульсной нейросети еще не решает всех проблем динамического обучения, она демонстрирует перспективный переход от обучения через оптимизацию к динамическому запоминанию, что является важным шагом на пути к созданию искусственного интеллекта, способного работать в режиме непрерывного обучения.


Новое на сайте

21025Что произошло с облачной защитой почты N-able в трёх регионах? 21024Хакеры ускоряют создание эксплойтов с помощью ИИ 21023Почему Apache Roller оказался под угрозой удалённого захвата? 21022Что изменится для PHP после критических уязвимостей 2026 года? 21021Apple меняет разрешения macOS из-за рисков ИИ-агентов 21020Разрешение отказано, микрофон пишет: как дыра в аудиосервисе Apple месяцами оставалась... 21019Почему N-central2026.4 HF3 требует срочного обновления? 21018Почему атаки на ScreenConnect продолжаются после расследования ConnectWise? 21017Почему SHA-пиннинг не гарантирует безопасность GitHub Actions? 21016Как уязвимость SGLang раскрыла данные 18 агентов и около 100 пользователей NEAR AI? 21015Ошибка в типах PostgreSQL открывает путь к выполнению кода на сервере 21014Майнер с root-доступом: атака на 21 сервер N-central 21013Почему уязвимость UnrealIRCd позволяет обычному пользователю получить права сервера? 21012Как утечка ключа Fireworks AI привела к заражённому расширению Claude Code? 21011Почему Meta оштрафовали в Италии на €805 млн?
Ссылка