Изучение того, как состязательное обучение можно использовать для нацеливания на детекторы SMS-спама с помощью атак на основе карты значимости на основе Якоби Примечание. Методология, лежащая в основе подхода, обсуждаемого в этом посте, основана на совместной публикации между мной и Ирен Анти . ВСТУПЛЕНИЕ SMS-сообщения со спамом часто неожиданно появляются на экранах наших телефонов. Это достаточно обидно, но становится еще хуже. Кто бы ни отправлял вам текстовое..

С появлением глубоких нейронных сетей в сообществе машинного обучения растет озабоченность по поводу безопасности. Люди сомневаются в интерпретируемости нейронных сетей, и, естественно, возникают вопросы о последствиях для безопасности модели глубокого обучения. Состязательные атаки используются для поиска примеров изображений / данных, на которых модель машинного обучения ведет себя совершенно случайным образом. Более того, выходные данные сети на этих примерах противоборства..

AI Scholar: Последствия состязательных атак Это краткое изложение исследования – лишь одно из многих, которые еженедельно публикуются в информационном бюллетене для ученых, занимающихся искусственным интеллектом. Чтобы начать получать еженедельную рассылку , зарегистрируйтесь здесь . Нейронные сети уязвимы для атак со стороны противника, которые могут привести к ложным прогнозам, таким как путаница собаки с лягушкой. Но, как вы, наверное, знаете, они не ограничиваются..