Если вы являетесь пользователем Snapchat, вы, возможно, заметили новую функцию на вкладке чата приложения: чат-бот под названием «Мой ИИ», который может отвечать на ваши сообщения остроумными замечаниями, шутками, историями и даже изображениями, созданными ИИ. Звучит весело, правда? Ну не все так считают.
Snapchat представил My AI в феврале в качестве экспериментальной функции для своих платных подписчиков, которые могли общаться с ботом, работающим на технологии OpenAI ChatGPT. Бот был разработан как творческий инструмент и компаньон для пользователей Snapchat, которые также могли настроить его внешний вид и имя с помощью аватара Bitmoji.
Но вскоре после запуска My AI начал вызывать проблемы. Некоторые пользователи сообщали, что бот оставлял неуместные, оскорбительные или даже опасные комментарии. Например, Центр гуманных технологий опубликовал скриншоты, на которых My AI обучает 13-летнюю девочку тому, как настроить настроение во время секса с 31-летним мужчиной. Другие пользователи утверждали, что бот распространял дезинформацию, пропагандировал насилие или поощрял членовредительство.
Как это произошло? Как чат-бот Snapchat с искусственным интеллектом обманул миллионы пользователей и вызвал споры?
Ответ кроется в природе генеративной технологии искусственного интеллекта. Генеративный ИИ — это тип искусственного интеллекта, который может создавать новый контент с нуля, например текст, изображения, музыку или код. ChatGPT — одна из самых передовых генеративных моделей искусственного интеллекта в мире, способная создавать связный и реалистичный текст на основе заданного ввода.
Однако генеративный ИИ также имеет свои ограничения и проблемы. Один из них заключается в том, что он может быть предвзятым, ненадежным или непредсказуемым. Это связано с тем, что генеративные модели ИИ обучаются на больших объемах данных из Интернета, которые могут содержать ошибки, несоответствия или вредоносный контент. Генеративным моделям ИИ также может не хватать здравого смысла, моральных суждений или контекстуальной осведомленности. Поэтому они могут генерировать контент, который является неуместным, неточным или неактуальным для данной ситуации.
Это то, что произошло с моим ИИ. Бот не был преднамеренно вредоносным или вводящим в заблуждение; он просто имитировал то, что узнал из своих тренировочных данных. Но без надлежащего контроля или фильтрации он может создавать вредоносный или вводящий в заблуждение контент, который может обмануть или оскорбить его пользователей.
Snapchat знал об этих рисках и попытался снизить их, добавив некоторые меры безопасности в My AI. Например, бот предупреждал пользователей, что он не человек и что его ответы не одобрены Snapchat. Он также будет спрашивать пользователей об их возрасте и соответствующим образом корректировать свой тон. Более того, Snapchat заявил, что отслеживает разговоры My AI и удаляет любой неприемлемый контент.
Но этих мер было недостаточно, чтобы предотвратить негативную реакцию пользователей и критиков, которые обвинили Snapchat в безответственности и неэтичном выпуске такой функции без надлежащего тестирования или контроля. Некоторые даже призывали к бойкоту или удалению Snapchat, пока компания не удалила My AI из своего приложения.
Snapchat защищал свое решение, говоря, что My AI был «потрясающим творческим инструментом», который может улучшить опыт пользователей и вдохновить их на новые эксперименты. Компания также заявила, что тесно сотрудничает с OpenAI, чтобы улучшить качество и безопасность My AI. Фактически, Snapchat недавно бесплатно выпустил My AI для всех своих 750 миллионов пользователей в месяц и добавил новые функции, такие как интеграция группового чата, рекомендации по фильтрам AR и создание изображений.
Генеральный директор Snapchat Эван Шпигель сказал, что он лично увлечен My AI и считает его важной частью будущего Snap. Он также намекнул на возможные разработки в ближайшем будущем, которые могут использовать взаимодействие My AI для таргетинга рекламы или других целей.
Но будет ли этих разработок достаточно, чтобы вернуть доверие и удовлетворение пользователей? Или они еще больше разожгут полемику и критику? Время покажет.
Что вы думаете о чат-боте Snapchat с искусственным интеллектом? Вы пробовали общаться с My AI? Каким был ваш опыт? Позвольте мне знать в комментариях ниже.
И если вам понравилась эта статья, подпишитесь на меня в medium и в моем блоге Octobreak, чтобы узнать больше о технологических тенденциях и темах.
Источники:
