0.9 от вашего классификатора — это не 90%: почему модели врут о своей уверенности и как это чинить

#Порог #Разберём #Читать
0.9 от вашего классификатора — это не 90%: почему модели врут о своей уверенности и как это чинить

Порог 0,8 часто воспринимают как 80% уверенности — и на этом строят автоматизацию. Разберём, почему predict_proba может врать, как измерить калибровку модели и вернуть её вероятностям практический смысл. Читать далее

Материал подготовлен в рамках курса «Машинное обучение. Экспертный уровень».

Привет, Хабр!

Обучили классификатор, он выдаёт predict_proba, вы берёте эти числа как вероятности и строите на них логику: если модель уверена больше чем на 0.8 — принимаем автоматически, меньше — отправляем человеку. Порог 0.8 выбран как «модель права в 80% случаев».

Вот только модель, скорее всего, права совсем не в 80% случаев на этом пороге. Число 0.8 на выходе классификатора — это не вероятность в обычном смысле, а внутренний скор, который модель выдала, оптимизируя свою функцию потерь. Он неплохо ранжирует объекты — те, кому модель дала выше, обычно правее тех, кому ниже. Но как абсолютная вероятность он врёт, иногда сильно.

Похожие статьи

Аргументы и Факты
Аргументы и Факты

DPA: фермеры в ФРГ забивают скот из-за дефицита кормов, вызванного жарой

В некоторых районах Баден-Вюртемберга образовались очереди на скотобойнях.

Аргументы и Факты
Аргументы и Факты
Аргументы и Факты

Врач Ревкова раскрыла, к чему может привести нехватка витамина D

Терапевт Елена Ревкова предупредила, что нехватка витамина D может повышает вероятность переломов.

Аргументы и Факты
Аргументы и Факты
Аргументы и Факты

В Испании 511 человек обратились к врачам после солнечного затмения

Жители Европы массово пожаловались на проблемы со зрением после солнечного затмения.

Аргументы и Факты
Аргументы и Факты
Аргументы и Факты

Вспыхнул как спичка: под Римом взорвался завод Макрона с оружием для ВСУ

На военном заводе в Италии произошёл пожар и взрыв. Aif.ru собрал детали произошедшего.

Аргументы и Факты
Аргументы и Факты
Аргументы и Факты

Диетолог Охеда заявил, что быстрый прием пищи может привести к перееданию

Диетолог Пабло Охеда заявил, что быстрый прием пищи может привести к проблемам с пищеварением.

Аргументы и Факты
Аргументы и Факты
Аргументы и Факты

Захарова: заявления Токио по Курилам юридически ничтожны

Официальный представитель МИД РФ отреагировала на комментарии Японии по посещению Путиным острова Итуруп.

Аргументы и Факты