В TransferLab мы постоянно следим за новыми разработками в области искусственного интеллекта. Мы пишем краткие обзоры публикаций, библиотек, докладов и т. д., которые находим интересными для нашего сообщества, и публикуем их в виде так называемых бумажных таблеток. Этот блог собирает то, что мы нашли в сентябре.

Алгоритмическая теория игр

Надежные решения для игр Stackelberg Security с несколькими защитниками

Игры безопасности Штакельберга с участием нескольких защитников используются для стратегических рассуждений в сценариях, в которых группа защитников пытается защитить набор обычных товаров. Несмотря на свою полезность, они обладают неприятным свойством, состоящим в том, что решения (в терминах равновесий Нэша или ядер) очень чувствительны к небольшим возмущениям оценки целей злоумышленниками. Эту проблему можно решить, введя небольшую неопределенность в оценках других игроков.

Создание сети с гомофильными агентами

Сегрегация описывает тенденцию группы, состоящей из членов смешанного типа, разделяться на кластеры однородных типов. Чтобы лучше понять это явление, рассматриваются игры по созданию гетерогенных сетей с гомофильными (предпочтение однотипных связей) или предвзятыми агентами (неблагоприятными для многотипных связей). Важным наблюдением является то, что начальные условия, по-видимому, играют важную роль, когда создание края требует больших затрат. Сегрегация очень неблагоприятна во многих сценариях реального мира, и это может указывать на путь отхода за счет первоначальных инвестиций в интеграцию.

Сложность утвержденных победителей

Рассмотрено голосование с несколькими победителями на основе одобрения с метрикой между кандидатами. Цель состоит в том, чтобы вычислить коллективный выбор, который сводит к минимуму недовольство избирателей. Победителем голосования становится комитет из $k$ кандидатов, у которого расстояние от комитета (максимальное/минимальное/суммарное среди комитетов) до голосов (максимальное (эгалитарное)/суммарное (утилитарное) среди голосов) минимально. Авторы исследуют проблему при возможных правилах выбора с точки зрения алгоритмической и параметризованной сложности, а также через призму аппроксимируемости. В целом они представляют собой достаточно полное представление о ландшафте.

Нейронные поля

Нейронные поля в визуальных вычислениях и не только

Отличный начальный обзор координатных нейронных сетей (также известных как нейронные поля), техники, которая недавно продемонстрировала широкий успех в задачах, начиная от трехмерной реконструкции и заканчивая генеративным моделированием и робототехника.

Модели плотности

На пути к генеративному моделированию многомерных экстремумов и хвостовой зависимости

Нормализация потоков затрудняет точное представление хвостов многомерных распределений с маргинальными распределениями с тяжелыми хвостами и асимметричной зависимостью от хвостов. Кометные потоки сочетают нормализующие потоки с экстремальными значениями и теорией копул для решения этих проблем.

Гибридный вывод

Нейросимволическая верификация глубоких нейронных сетей

Нейросимволический подход к верификации нейронных сетей использует эталонные сети для представления понятий высокого уровня. Затем они используются в качестве прокси для проверки свойств, выраженных на языке спецификации высокого уровня. Примером такого свойства является то, что самоуправляемому автомобилю необходимо остановиться на красный сигнал светофора.

Вероятностный вывод с алгебраическими и логическими ограничениями

Гибридный вероятностный вывод позволяет выполнять вероятностный вывод с алгебраическими и логическими ограничениями. Такие ограничения регулярно возникают во многих областях применения. Алгоритмическим ядром этого метода является задача интегрирования взвешенной модели, которая в целом является вычислительно сложной. Текущие реализации основаны на решении SMT и различных механизмах интеграции. Рассмотрены и сравнены последние достижения с упором на вычислительную легкость.

Теория глубокого обучения

Фильтрация тесселяции сетей ReLu

Сети Relu определяют кусочно-линейные функции на мозаиках входного пространства. Авторы анализируют сложность формы поверхности решений нейронной сети relu. Основным вкладом является структура для декомпозиции сети вдоль определенного слоя на часть сложности тесселяции и формы, которая представлена ​​​​нейронной сетью с фильтрацией тесселяции, специальным подклассом сетей relu, который также указан в статье.

Git Re-Basin: слияние моделей по модулю перестановочных симметрий

Две нейронные сети A и B с одинаковой архитектурой и обученные с помощью SGD сравниваются после нахождения подходящей перестановки P, которая минимизирует определенное понятие расстояния. Экспериментально веса, линейно интерполированные между A и P(B), дают одинаковые потери. В контексте федеративного обучения слияние A и P(B) работает намного лучше, чем слияние A и B.

Первоначально опубликовано на https://transferlab.appliedai.de ​​7 октября 2022 г.