avatar
gonzo-обзоры ML статей
@gonzo_ML
31.10.2025 16:48
Графовый LSTM подвезли, gLSTM.

Что сделано?
В статье пересматривается проблема "over-squashing" в графовых нейронных сетях (GNN), разделяя её на два различных режима отказа: низкую чувствительность (сбой распространения сигнала) и насыщение ёмкости хранения (информационное узкое место). Для решения второй проблемы авторы представляют gLSTM — новую архитектуру GNN, вдохновлённую моделью для последовательностей xLSTM. gLSTM дополняет представление каждого узла ассоциативной памятью (матричным скрытым состоянием), чтобы явно увеличить его возможности по хранению и извлечению информации. Они также предлагают новую синтетическую задачу, Neighbor Associative Recall (NAR), специально разработанную для выделения и измерения этого ограничения ёмкости в условиях неглубокого графа, что позволяет избежать мешающих факторов, связанных с глубокими архитектурами.

Подробнее: @gonzo_ML_podcasts1170
Telegram
gonzo_ML_podcasts
Не сигналом единым: gLSTM борется с over-squashing в GNN, наращивая память Title: gLSTM: Mitigating Over-Squashing by Increasing Storage Capacity Authors: Hugh Blayney, ?lvaro Arroyo, Xiaowen Dong, Michael M. Bronstein Paper: https://arxiv.org/abs/2510.08450 Review: https://arxiviq.substack.com/p/glstm-mitigating-over-squashing-by Code: https://github.com/HughBlayney/gLSTM # TL;DR Что сделано? В статье пересматривается проблема "over-squashing" в графовых нейронных сетях (GNN), разделяя её на два различных режима отказа: низкую чувствительность (сбой распространения сигнала) и насыщение ёмкости хранения (информационное узкое место). Для решения второй проблемы авторы представляют gLSTM — новую архитектуру GNN, вдохновлённую моделью для последовательностей xLSTM. gLSTM дополняет представление каждого узла ассоциативной памятью (матричным скрытым состоянием), чтобы явно увеличить его возможности по хранению и извлечению информации. Они также предлагают новую синтетическую задачу, Neighbor Associative Recall…
? 8
? 6
? 4
1 50 5.5K

Обсуждение 1

Обсуждение не доступно в веб-версии. Чтобы написать комментарий, перейдите в приложение Telegram.

Обсудить в Telegram