Чтобы начать эту статью, я хотел бы объяснить интерпретируемость модели машинного обучения (ML). Согласно Мерриам-Вебстер, интерпретируемость описывает процесс создания чего-то простого или понятного. В контексте машинного обучения интерпретируемость дает нам понятное объяснение поведения модели. По сути, это помогает нам понять, что стоит за прогнозами моделей и как эти модели работают. В статье Миллера и Тима «Объяснение в искусственном интеллекте: идеи социальных наук» говорится, что..

Представьте, что вы построили очень точную модель машинного обучения, используя хитрые приемы и нестандартные функции. Вы счастливы и горды. Однако, когда вы представляете свои результаты заинтересованным сторонам, они менее взволнованы. Они не понимают, что вы сделали и почему. Они не понимают, как ваша умная модель делает прогнозы. Результаты вашей модели даже частично противоречат их интуиции. Разве вы не ненавидите, когда это происходит? [Статья по теме: Встреча ODSC:..