Публикации по теме 'adversarial-attack'
Обсуждение ИИ в Гааге
новая точка обзора
«Добро пожаловать в город мира и справедливости». На Земле мало мест, которые могли бы соперничать с Гаагой по этому титулу, поскольку в этой части Нидерландов находятся Международный уголовный суд, Международный суд и другие организации, занимающиеся правами человека.
В этом месяце я посетил краткий курс по искусственному интеллекту и международному праву. Большинство моих однокурсников работали в области права, политики или юридических исследований, а я программист,..
Состязательные атаки на модели НЛП: защита от троянских угроз — Шаурья Шривастав
В современном цифровом мире модели искусственного интеллекта (ИИ) и обработки естественного языка (НЛП) стали неотъемлемой частью множества приложений: от чат-ботов и языкового перевода до фильтрации контента и анализа настроений. Однако по мере того, как эти модели усложняются и расширяются, они становятся восприимчивыми к атакам нового типа, известным как состязательное машинное обучение. Среди этих атак значительное внимание привлекли троянские атаки на модели AI NLP из-за их..
Состязательное машинное обучение во благо (учебник AAAI’22)
Примечание . Все содержание взято из учебника AAAI 2022, который читал Пин-Ю Чен. Полное видео можно найти здесь .
Введение: AdvML во благо
AdvML (состязательное машинное обучение) — это исследование атак на алгоритмы и модели машинного обучения, а также защиты от таких атак.
Однако разработка технологии AdvML может также использоваться для разработки других приложений машинного обучения, помимо использования в атаках и средствах защиты.
Примеры AdvML
Вот два типа..
Состязательное машинное обучение (часть 2) - Время принятия решений
Описание распространенных атак на время со стороны соперников и способов борьбы с ними
Это вторая часть моей серии о состязательном машинном обучении. Для мягкого введения в состязательное машинное обучение вы можете обратиться к Часть 1 .
Введение
Как упоминалось в предыдущем блоге, атаки на время принятия решения - это атаки, в которых злоумышленник атакует изученные модели или решения, принятые с помощью изученных моделей, и либо изменяет способ их функционирования, либо вносит..
Персональный плащ-невидимка блокирует детекторы людей
Когда Гарри Поттер получает плащ-невидимку в качестве рождественского подарка, он использует его, чтобы спрятаться от учителей Хогвартса и мерзкого смотрителя Аргуса Филча. Теперь исследователи из Facebook AI и Университета Мэриленда представили версию 21-го века - толстовки, напечатанные с примерами противоборства, которые делают пользователя незаметным для детекторов объектов на базе искусственного интеллекта в современных системах общественного наблюдения.
Ян Гудфеллоу , известный..
Состязательное обучение — Основные атаки и фреймворки
С распространением продуктов ИИ в реальной жизни люди постепенно полагаются на продукты, основанные на машинном обучении. Например, автономные автомобили полагаются на технологию компьютерного зрения для принятия решений; Продукты автоматического распознавания поиска, такие как Alexa, основаны на стремительном развитии систем обработки естественного языка и обработки голоса, чтобы сделать нашу повседневную жизнь более удобной. Некоторые больницы исследуют и разрабатывают медицинское..
Обмануть систему: Chatgpt vs Bard
Вы когда-нибудь слышали сценарий, в котором система распознавания образов сталкивается с разумным и адаптивным противником, который модифицирует шаблоны, чтобы обмануть систему.
Если вы еще не слышали, в этой статье мы сосредоточимся на общем заголовке исследования под названием «Состязательное машинное обучение» с интересным опытом.
