Внутри ИИ X-AI, черные ящики и хрустальные шары Дорога к надежному ИИ На нашем пути к надежному ИИ я обсуждал в своем предыдущем блоге вопрос о предвзятости, о том, как она передается от людей к машинам, как ее усиливают приложениями ИИ, о последствиях в реальном мире для отдельных лиц и предприятий и важность проактивного решения этой проблемы. Сегодня я затрону вопрос объяснимости и прозрачности так называемых моделей черного ящика . Выбор между объяснимостью и точностью?..

Введение в концепцию объяснимости ИИ, включая его роль в управлении, его ограничения и современные методы открытия пресловутого черного ящика. Фраза «открыть черный ящик» стала повсеместной наряду с призывами к повышению прозрачности и регулированию в использовании и развитии технологии машинного обучения (ML). Идея состоит в том, что подотчетность может быть достигнута, если процесс принятия решений системой ОД можно - хотя бы частично - объяснить. Но это часто предполагает, что..