Оценка табличного глубокого обучения в условиях временного сдвига и высокоразмерных признаковых пространств

Оценка табличного глубокого обучения в условиях временного сдвига и высокоразмерных признаковых пространств

Рубачёв И.В. (НИУ ВШЭ, Москва, Россия)

Аннотация

Прогресс в исследованиях машинного обучения важен прежде всего тогда, когда он переносится с академических наборов задач в реальные приложения. Для табличного глубокого обучения это требует понимания того, какие протоколы оценки, используемые в академии, отражают практические сценарии внедрения. В этой статье мы анализируем существующие табличные наборы задач и выявляем две характеристики, типичные для промышленных задач, но слабо представленные в популярных наборах данных: временной сдвиг распределения и признаковые пространства, полученные с помощью сложных процессов сбора данных и генерации признаков. Первая характеристика требует временных разбиений на обучающую, валидационную и тестовую выборки, а вторая меняет число и структуру предиктивных, неинформативных и коррелированных признаков по сравнению с типичными академическими наборами данных. Чтобы изучить, насколько недавние достижения табличного глубокого обучения переносятся в такие условия, мы представляем TabReD – коллекцию из восьми табличных наборов данных промышленного уровня с временными разбиениями и высокоразмерными признаковыми пространствами. Мы тестируем широкий набор методов на новом наборе задач, включая градиентный бустинг над деревьями решений, полносвязные нейронные сети, векторные представления числовых признаков, модели на основе внимания, методы с непараметрической компонентой, продвинутые рецепты обучения и ансамбли. Результаты показывают, что временная оценка меняет ранжирование методов и их относительное качество по сравнению со случайными разбиениями; на TabReD наиболее устойчивыми оказываются простые полносвязные архитектуры с векторными представлениями числовых признаков и методы градиентного бустинга, тогда как ряд более сложных современных методов переносится менее надежно.

Ключевые слова

табличные данные; набор задач; временной сдвиг; генерация признаков; глубокое обучение.

Издание

Труды Института системного программирования РАН, том 38, вып. 5, 2026, стр. 305-324.

ISSN 2220-6426 (Online), ISSN 2079-8156 (Print).

DOI: 10.15514/ISPRAS-2026-38(5)-17

Для цитирования

Рубачёв И.В. Оценка табличного глубокого обучения в условиях временного сдвига и высокоразмерных признаковых пространств. Труды Института системного программирования РАН, том 38, вып. 5, 2026, стр. 305-324. DOI: 10.15514/ISPRAS-2026-38(5)-17.

Полный текст статьи в формате pdf Вернуться к содержанию тома