Главная arrow книги arrow Копия Глава 18. Обучение на основе наблюдений arrow Библиографические и исторические заметки
Библиографические и исторические заметки

В статистике сложилось независимое направление анализа выборочной сложности, начиная с одной важной работы Вапника и Червоненкиса по теории равномерной сходимости [1538]. Понятие так называемой VC-размерности (VC— сокращение от Vapnik— Chervonenkis) позволяет получить критерий, приблизительно аналогичный, но более общий, чем критерий In | н |, полученный на основе анализа РАС-обучения. В частности, критерий VC-размерности может применяться к непрерывным классам функций, на которые не распространяется стандартный анализ РАС-обучения. Теория РАС-обучения и теория VC-размерности были впервые связаны в единое целое группой ученых, называемых "четырьмя немцами" (хотя ни один из них фактически не является немцем), — Блумером, Эренфойхтом, Хауссле-ром и Вармутом [141]. Дальнейшие исследования в области теории VC-размерности привели к открытию понятия машины поддерживающих векторов, или SVM (Support Vector Machine) [156], [1537], которая будет описана в главе 20.

Большое количество важных статей по машинному обучению было собрано в книге Readings in Machine Learning [1399]. Кроме того, много важных статей, а также огромные библиографические справочники содержатся в двух томах, Machine Learning I [1039] и Machine Learning 2 [1040]. В [1565] дано широкое введение в область методов изучения функций, применяемых в машинном обучении, статистике и нейронных сетях. Исследования, намного превосходящие по своей широте все прочие работы в области сравнения производительности обучающих алгоритмов, были проведены в рамках проекта Statlog [1047]. Результаты продуктивных современных исследований по машинному обучению публикуются в ежегодном сборнике трудов конференций International Conference on Machine Learning и Conference on Neural Information Processing Systems, в журналах Machine Learning и Journal of Machine Learning Research, а также в основных журналах по искусственному интеллекту. Кроме того, труды в области теории вычислительного обучения публикуются в материалах ежегодного семинара ЛСМ Workshop on Computational Learning Theory (COLT), а само это направление представлено в книгах [34] и [786].