Общая разведка
Военные США обеспокоены тем, что их искусственный интеллект Может быть, слишком легковерен
Плюс программа, которая может распознать вас по нажатию клавиши
Добро пожаловать в General Intelligence, еженедельное погружение OneZero в ИИ. новости и исследования, которые имеют значение. Вы можете получать сводку General Intelligence на свой электронный почтовый ящик каждую пятницу, посетив главную страницу OneZero и нажав« Подписаться ».
Искусственный интеллект уже неразрывно связан с некоторыми из наших самых важных систем. Автоматизированная торговля акциями управляет Уолл-стрит, алгоритмические оценки риска встроены в уголовное правосудие и систему патронатного воспитания, а полиция по всему миру в последнее время очень серьезно занимается распознаванием лиц.
Но подобные автоматизированные системы подвержены ошибкам. В четверг DARPA объявило, что сотрудничает с Intel с целью усиления искусственного интеллекта военных. системы. В рамках проекта разрабатываются модели, которые менее подвержены уловкам, также известным как состязательные атаки.
Существуют алгоритмы глубокого обучения, позволяющие находить закономерности в невероятно сложных наборах данных. Алгоритмы снова и снова снижают сложность этих шаблонов, пока чрезвычайно упрощенные результаты не будут сопоставлены с примерами, которые алгоритмы уже видели. Например, алгоритм, созданный для обнаружения изображений собак, определяет ключевые элементы собаки, такие как носы или хвосты, а затем сокращает эти элементы до тех пор, пока они не станут всего лишь несколькими математическими выражениями, объясняющими изгиб носа или форму носа. хвост. Остается лишь тень исходных данных.
(Есть невероятный интерактивный веб-сайт, который показывает вам, как работает это снижение сложности - я рекомендую вам проверить его.)
В 2016 году исследователи узнали, что если бы вы знали последний, самый простой шаблон, который использовался в алгоритме, вы могли бы обмануть всю систему. Вы можете дискретно манипулировать изображением школьных автобусов, например, чтобы заставить алгоритм думать, что вместо этого он видит изображение панды. Эти изменения могут быть настолько незначительными, что будут незаметны для человеческого глаза. (Если вы хотите узнать больше об этом явлении, я рассказал историю об этом в 2016 году.)
Классические примеры этого взлома включают принуждение беспилотных автомобилей к неправильной интерпретации дорожных знаков или отправку неслышных сигналов голосовым помощникам телефонов для открытия вредоносных веб-страниц. Совсем недавно было обнаружено, что можно использовать гораздо более простые подходы: например, двухдюймовый кусок ленты на знаке скорости обманул автомобиль Tesla.
Многим потребовались годы, чтобы серьезно отнестись к этой проблеме. Как OneZero сообщал в прошлом году, военные используют искусственный интеллект, и особенно распознавание лиц, для ряда жизненно важных задач, таких как обеспечение безопасности баз и наблюдение в реальном времени.
Исследователи предполагают, что состязательные атаки существуют из-за самых фундаментальных структур того, как наши алгоритмы глубокого обучения принимают решения. Хотя есть меры, которые мы можем предпринять для защиты от них, и такие компании, как Google, сделали это, это всегда будет игра в кошки-мышки.
И это большой аргумент против использования искусственного интеллекта для автоматизации самых важных решений. Следует ли доверять военную мощь нашей страны наивному агенту?
Пока вы обдумываете это, вот некоторые из самых интересных AI за неделю. исследовать.
« Учимся видеть сквозь препятствия »
Чтобы удалить блики, препятствия, такие как заборы или капли дождя, исследователи создали алгоритм, который сортирует пиксели изображения на две плоскости на двух разных глубинах: одна для препятствия, а другая для фоновой сцены. Затем алгоритм деформирует и выравнивает фоновое изображение, чтобы заполнить недостающие части сцены.
« Обучение обнаружению движения головы при неограниченной оценке удаленного взгляда в дикой природе »
Это исследование позволит алгоритму автоматически определять, где человек смотрит в видео низкого качества, например видеонаблюдения, с позиции его головы. Один из соавторов исследовательских работ для производителя электромобилей Xpeng Motors, цель которых - применить эту технологию, чтобы водитель не отвлекался от дороги. Очевидно, его также можно использовать для отслеживания того, где люди ищут рекламу или наблюдение.
« TypeNet: масштабирование биометрии нажатия клавиш »
Новая форма биометрии может заключаться в том, как вы печатаете. В новом документе показано, что всего несколько примеров ввода данных, например, как долго вы удерживаете клавиши и время между нажатиями клавиш, можно использовать с точностью до 95%, чтобы идентифицировать вас по вашим шаблонам набора текста.
Для получения дополнительной информации посетите Архив общей разведки OneZero .
