Вычислительная теория обучения привела к нескольким практическим методам: PAC (вероятно, примерно правильно) обучение → бустинг Теория ВК (Вапника – Червоненкиса) → машины опорных векторов Бритва Оккама Ищите закономерности в наблюдаемом явлении. Их можно обобщить от наблюдаемого прошлого к будущему. Выберите самую простую непротиворечивую модель. Нет бесплатного обеда Если нет предположений о том, как прошлое связано с будущим, предсказание невозможно. Если нет..

Контекст . Ошибка обобщения относится к вероятности ошибочных прогнозов в будущих данных после обучения некоторого алгоритма на некоторых данных. Это основная величина, интересующая машинное обучение (Синонимы: производительность == ошибка обобщения == истинная ошибка). Распределение данных относится к распределению вероятностей экземпляров данных (например, изображение + метка). Обычно мы предполагаем, что каждая новая выборка независима и одинаково распределена. Инженер машинного..