Модели прозрачного ящика для графовых данных: таксономия, иллюстративный анализ и перспективы формирующегося направления

Модели прозрачного ящика для графовых данных: таксономия, иллюстративный анализ и перспективы формирующегося направления

Соловьев М.В. (ИСП РАН, Москва, Россия; МФТИ, Московская. обл., Россия)
Дробышевский М.Д. (ИСП РАН, Москва, Россия; МФТИ, Московская. обл., Россия)
Моисейкин А.Д. (ИСП РАН, Москва, Россия; МГУ, Москва, Россия)
Полтавцев Е.Ю. (МФТИ, Московская. обл., Россия; ФИЦ ИУ РАН, Москва, Россия)
Потурило Е.Н. (МФТИ, Московская. обл., Россия; ФИЦ ИУ РАН, Москва, Россия)
Халько И.С. (МФТИ, Московская. обл., Россия); ФИЦ ИУ РАН, Москва, Россия)

Аннотация

Несмотря на высокую эффективность графовых нейронных сетей в широком круге задач, связанных с графовыми структурами, их применение в ответственных областях остается ограниченным из-за недостаточной интерпретируемости. В этом контексте особый интерес представляют модели прозрачного ящика для графовых данных, поскольку процесс получения предсказания в таких моделях является прозрачным и не требует использования внешних постфактум-методов объяснения. Однако если для табличных данных подходы прозрачного ящика имеют устоявшуюся классификацию и обычно связываются с аддитивными, древовидными моделями и моделями на правилах, то для графовых данных подобная систематизация пока только формируется. В работе предлагается таксономия и систематизация подходов прозрачного ящика для графовых данных с выделением аддитивного, древовидного классов и класса моделей на правилах. В дополнение к таксономической части представлен иллюстративный анализ, демонстрирующий, что прозрачность механизма предсказания в моделях прозрачного ящика для графовых данных позволяет проследить логику принятия решения и использовать ее для анализа графовых данных. Кроме того, в статье обсуждаются ограничения существующих моделей прозрачного ящика для графов и перспективы дальнейшего развития этого направления. Проведенный анализ позволяет рассматривать такие модели как одно из формирующихся направлений интерпретируемого машинного обучения для графовых данных.

Ключевые слова

машинное обучение на графах; интерпретируемое машинное обучение; модели прозрачного ящика; графовые нейронные сети; аддитивные модели; деревья решений; модели на правилах.

Издание

Труды Института системного программирования РАН, том 38, вып. 6, часть 2, 2026, стр. 93-116.

ISSN 2220-6426 (Online), ISSN 2079-8156 (Print).

DOI: 10.15514/ISPRAS-2026-38(6)-27

Для цитирования

Соловьев М.В., Дробышевский М.Д., Моисейкин А.Д., Полтавцев Е.Ю., Потурило Е.Н., Халько И.С. Модели прозрачного ящика для графовых данных: таксономия, иллюстративный анализ и перспективы формирующегося направления. Труды Института системного программирования РАН, том 38, вып. 6, часть 2, 2026, стр. 93-116. DOI: 10.15514/ISPRAS-2026-38(6)-27.

Полный текст статьи в формате pdf Вернуться к содержанию тома