«Если ты не можешь что-то объяснить шестилетнему мальчику, значит, ты не понял самого себя», — гласит пословица.
Поскольку я тренер, а также отец, я всегда осознавал тот факт, что я должен быть в состоянии объяснить вещи всем моим ученикам, а также моему сыну таким образом, чтобы это имело смысл для человека, которым я являюсь. объясняя их.
Все люди, фактически все человечество, придерживаются одних и тех же стандартов и практик, и то же самое относится к компьютерным роботам и алгоритмам.
Им нужно объяснять то, что они делают, как будто это нужно объяснять шестилетнему ребенку.
Действительно, для сложных проблем требуются сложные ответы. Человечество пытается с помощью математики и технологий найти ответы на вызовы, с которыми мы сталкиваемся.
Люди, способные понимать, понимать и интерпретировать сложные события, имеют преимущество в обеих этих дисциплинах.
Подавляющее большинство из нас не любит математику, а для некоторых из нас концепция программирования сложна для усвоения и понимания. Ученые-компьютерщики постоянно работают над автоматизацией процесса написания эффективного кода, чтобы решить эту проблему.
Машинное обучение и глубокое обучение — это результаты работы компьютерной программы с чрезмерным количеством условий «если и тогда». В то время было невозможно иметь программу, записывающую столько условий, что привело к разработке оригинальной компьютерной программы.
Вследствие этого возникла потребность в создании программы, способной автоматически извлекать соответствующие выводы из широкого спектра данных.
Это положило начало процессу разработки эффективных запросов к базе данных, которые помогли бы нам найти конкретную информацию, которую мы ищем.
Иными словами, на протяжении всего нашего обучения нас учили основам интеллектуального анализа данных и применения частотных таблиц в различных классах.
Когда стало дорого получать «неизвестные» идеи из большого объема данных, мы также начали писать алгоритмы, которые самостоятельно выносили бы суждения, чтобы раскрыть значимую информацию или аналитику, чтобы обойти расходы на обработку «неизвестных» идей.
Это вывело процесс автоматических операций или функций компьютера на новый уровень усовершенствования, подняв его на более высокий уровень.
Стало очевидным, что по мере того, как мы продвигались дальше и по мере того, как жизнь машин и области глубокого обучения развивалась, возникла необходимость в объединении и создании конвейеров методов, которые будут работать вместе, сохраняя при этом модульную структуру программы.
Работа алгоритма становилась все более неясной по мере разработки новых оболочек, конвейеров, преобразователей и мета/комбинаторных алгоритмов, а также добавления опций предварительной и последующей обработки.
Люди были в восторге, как и я, но в то же время их беспокоила непрозрачность машины и алгоритмов глубокого обучения.
Такие люди, как я, а также высокотехничные (люди, разбирающиеся в арифметике и вычислительной технике), начали чувствовать себя неловко из-за ситуации.
Следовательно, этот исключительно яркий ученый-компьютерщик начал сегментировать область машинного обучения на два отдельных подразделения.
- Алгоритмы черного ящика: это алгоритмы, которые либо не раскрывают никакой информации о том, как они находят конкретные решения проблемы, либо дают очень мало информации о том, как они находят эти решения.
- Алгоритмы белого ящика: это алгоритмы, которые предоставляют соответствующую информацию о том, как они принимают решения о том, как решать проблемы, такие как классификация стрессоров растений пшеницы.
Использование стратегии белого ящика помогает умным людям глубже узнать и понять внутреннюю работу алгоритмов. Они могут проверять работу или производительность алгоритма, анализируя выходные и входные данные алгоритма. В результате это одно из основных преимуществ «Объяснимого искусственного интеллекта».
Случаи использования:
1. Следующие медицинские рецепты были рекомендованы «роботом алгоритмических рецептов»: в этом конкретном сценарии важно иметь четкое представление о том, как алгоритм может давать рекомендации людям относительно их медицинских рецептов. У человека, которому были даны определенные рецепты, могут возникнуть проблемы со здоровьем в результате получения неправильного рецепта для его состояния.
2. «Алгоритмический финансовый робот» рекомендует инвестировать во взаимный фонд. Важно понимать, как и почему алгоритм предлагает конкретный взаимный фонд в этом сценарии, потому что неправильный выбор может привести к потере финансовых ресурсов. В результате важно получить знания о внутренней работе алгоритмов.
Руководители и начальники контролируют работу своих подчиненных и сотрудников точно так же, как это делают люди.
Аналогично, необходимо вести учет качества принятых решений и внутренней работы алгоритмов.
Опять же, чтобы решить эту проблему, люди разработали автоматизированное решение и в настоящее время находятся в процессе разработки новой категории алгоритмов под названием «Модели стеклянного ящика» или алгоритмы.
Каковы ваши мысли, и что будет дальше?
