Обзор современных исследований по проблеме качества обучения алгоритмов

Приведен обзор основных идей теории обучаемых систем, связанных со способностью к обобщению и обоснованием алгоритмов обучения. Среди них - классическая статистическая теория Вапника-Червоненкиса и минимизация эмпирического риска, эффективная сложность, отступ, композиция алгоритмов (взвешенное голосование, бустинг, баггинг), стабильность метода обучения, скользящий контроль. Более подробно рассмотрен комбинаторный подход для обоснования невероятностной границы обобщения.