История и сообщение о понимании влияния и этических норм, лежащих в основе проектов искусственного интеллекта
Демократизация ИИ, по-видимому, выгодна - любой, включая молодых разработчиков вроде меня, может легко стать участником ИИ, пройдя один курс Coursera или посмотрев плейлист на Youtube. К сожалению, многие, включая меня в недавнем прошлом, не понимают, какую роль ИИ играет в реальном мире. Программистам, которые начинают с базового объектно-ориентированного программирования, трудно представить, что создаваемые нами приложения или программы окажут какое-либо влияние на кого-либо еще. В общем, это правда, поскольку создание игры Alien Invader на Java, безусловно, не имеет реальных последствий. Однако создание приложений искусственного интеллекта, которые продаются как продукты, очень опасно.
ИИ, как и все новые отрасли, существенно не регулируется. Существует несколько письменных кодексов поведения, которым должны следовать разработчики. В результате разработчики, казалось бы, могут создать любое приложение ИИ, заявить о его эффективности и продвигать его как настоящий продукт. ИИ представляет собой особую проблему, потому что нам очень не хватает знаний о том, как ИИ работает в нашем населении. Обычные потребители не смогут определить, как работает приложение AI, а это означает, что разработчики могут распространять дезинформацию для увеличения своих продаж или увеличения количества пользователей.
Хотя у большинства разработчиков нет циничных мотивов, даже те, кто хочет создавать программное обеспечение для улучшения жизни других, могут непреднамеренно подвергать пользователей опасности. Эта статья призвана показать важность признания этических и моральных последствий приложений искусственного интеллекта и принятия мер для обеспечения их приоритетности в процессе разработки.
Моя история
Год назад я разработал свое первое крупное приложение для искусственного интеллекта, которое использует НЛП, чтобы различать суицидальные и депрессивные сообщения. Самоубийство, безусловно, серьезная тема, для которой большинству старшеклассников, вероятно, не следует создавать решения на основе ИИ, но когда мы с моей командой начинали, это был просто личный проект, так что это не было большой проблемой. Наш проект имел некоторый успех и получил положительные отзывы, поэтому мы продолжили совершенствовать наши модели и функции. Когда мы достигли точки, когда мы остались довольны производительностью и функциями приложения, мы решили обратиться к терапевтам и спросить их мнение о том, какими могут быть наши следующие шаги. Терапевтов взволновало наше рвение, но они постоянно предупреждали нас о последствиях нашей работы. Они немного скептически отнеслись к нашему решению и подтолкнули нас искать клиническую проверку, если мы хотим отнестись к нему серьезно. К счастью для нас, после дальнейшего обсуждения мы смогли наладить партнерские отношения с местными терапевтами, что помогло нам завоевать доверие.
Вдохновленные нашим прогрессом, мы сразу же бросили кулак. Через несколько месяцев мы решили получить отзывы о нашем приложении из Интернета. Это было большой ошибкой. Наши сообщения непреднамеренно продвигали приложение как реальный продукт, готовый к запуску, тогда как на самом деле мы просто просили огласки, отзывов и некоторых звезд Github. Отзывы были жестоко критическими и обеспокоенными. Сначала нас считали жадными до денег разработчиками, которым наплевать на людей, которым мы служили. Люди критиковали наше невнимание к тому, как обеспокоенные семья и друзья отреагируют, когда увидят решение искусственного интеллекта, которое может помочь их близким. Помимо того факта, что модель просто не является клинически точной, что было доведено до нашего сведения людьми, которые ее тестировали, созданное нами изображение приложения вызывало беспокойство.
Мы написали исследовательскую работу, в которой исключительно доказана эффективность алгоритма машинного обучения при оценке машинного обучения, а не при клинической проверке. Хотя мы заявили, что эта статья не является клиническим доказательством, мы полагали, что наличие опубликованной статьи означает, что наше приложение действительно работает и является точным. Те, кто были на онлайн-форумах, продолжали давить на нас и убивать нас. Они разобрали документ из-за отсутствия клинической поддержки, и, хотя мы дали понять, что не приблизились к клиническому внедрению, мы все же столкнулись с тщательной проверкой. Люди даже находили наши электронные письма и требовали, чтобы мы удалили приложение, чтобы никому не навредить.
Когда мы наконец объявили, что мы старшеклассники, общественная реакция изменилась и стала гораздо более дружелюбной. Многие извинялись и хвалили наш энтузиазм и уровень работы старшеклассников. Однако они нашли время, чтобы обучить нас и рассказать нам об опасностях нашей работы. Хотя мы старшеклассники, это не дает нам повода игнорировать этические последствия наших проектов. Если старшеклассники могут изучать ИИ на высоком уровне и создавать настоящие приложения, они также должны нести ответственность за этические аспекты своей работы.
Очевидно, что наши этические опасения связаны с влиянием неверных прогнозов. Кто несет ответственность, если кто-то пользуется нашим приложением и считает, что его близкий не находится в депрессии, хотя на самом деле это так? Если кто-то действительно покончил жизнь самоубийством, это наша вина? Или это вина пользователя, который не понял нюансов нашего приложения? На мой взгляд, мы несем полную ответственность за любой вред, причиненный пользователям, даже если пользователи не знают, как работает наше приложение, и даже если мы утверждаем, что это не настоящий продукт. Это общедоступное приложение без предупреждений, что это не настоящий продукт. Как кто-нибудь узнает, что это просто личный проект?
Это вопросы, на которые мы просто не ответили и даже не задумались. Мы сразу пожалели о своих решениях за последние несколько месяцев. Мы были безответственными и заботились только о публичности и похвале. Теперь мы удалили все признаки того, что наше приложение является законным. Мы ясно дали понять, что это личный проект в учебных целях и не более того. Теперь повсюду появляются предупреждения и признаки того, что это приложение не является клинически подтвержденным. Однако так должно было быть с самого начала. Если бы мы были достаточно умны, чтобы даже изучить NLP и построить целое приложение, мы, несомненно, были бы достаточно умны, чтобы понять, что наше выполнение было опасным.
Выводы
Для тех, кто изучает ИИ, он гораздо более значим и эффективен, чем другие области программирования. Для большинства молодых разработчиков переход от базового программирования ООП к созданию приложений ИИ происходит быстро. Хотя это может показаться просто новым трюком, ИИ уже используется во многих отношениях во многих местах, и последствия этого серьезны.
Если вы новичок в искусственном интеллекте, не бросайтесь в серьезные области, такие как здравоохранение. Начните с более тривиальных тем, таких как прогнозы фондового рынка или базовая классификация MNIST. Есть чему поучиться, так что не торопитесь. Хотя создание проектов ИИ - это весело и может быть отличным хобби, если вы действительно хотите запустить собственное приложение, проведите надлежащее исследование своего рынка и этического воздействия. Налаживайте партнерские отношения с людьми, которые лучше понимают рынок и обладают большим опытом, чтобы они могли защитить вас.
Разработчики всегда должны учитывать этические и моральные принципы при создании приложений. Слава, деньги и жадность не должны приносить ущерб потребителю. Тот факт, что в отношении систем искусственного интеллекта существует не так много правил, не должен быть причиной для действий по невежеству или злому умыслу. Скорее, помогите установить общий кодекс поведения в отношении систем ИИ. Продвигайте этичный ИИ и навязывайте правила себе и своим коллегам. Посещайте конференции, посвященные этике, и поощряйте дискуссии о защите потребителей.
Хотя я всего лишь старшеклассник, меня беспокоит, как можно использовать ИИ вредными, особенно непреднамеренно вредными способами. Когда я поступаю в колледж и, в конечном итоге, в промышленность или научное сообщество, я надеюсь стать одним из основных игроков в продвижении этичного ИИ. ИИ меня волнует, а его потенциал движет мной. Однако в его текущем состоянии есть недостатки, и я хочу их сгладить, а не вносить свой вклад в их развитие, как это было до сих пор. Но на данный момент все, что я могу сделать, это написать статью, которую, я надеюсь, люди прочитают и отнесутся к ней серьезно.
