В последние годы генеративно-состязательные сети (GAN) оказались очень успешными благодаря своим все более масштабным моделям. Однако практическое применение GAN также все больше ограничивается громоздкими размерами моделей. Исследователи из Университета Китайской академии наук, лаборатории искусственного интеллекта ByteDance, Института искусственного интеллекта Inception и Университета Бэйхан недавно предложили новые универсальные гибкие генеративно-состязательные сети (SlimGAN), которые могут легко изменять размеры модели во время выполнения для обеспечения качества. компромиссы эффективности, основанные на практических потребностях.

Исследователи выделяют три основные проблемы при разработке подхода:

  • Точная оценка расхождения между генераторами разной ширины и реальными данными через дискриминаторы
  • Согласованность сгенерированных изображений между генераторами разной ширины
  • Включение информации о метках в генераторы разной ширины при генерации с условием класса

Команда применила несколько частичных дискриминаторов с общими параметрами, чтобы направить генератор на соответствующую ширину для решения первой задачи, в то время как проблема согласованности была решена с помощью новой пошаговой техники дистилляции на месте, которая помогает узким генераторам учиться на широких сетях во время обучения. Исследователи предлагают нарезную условную пакетную нормализацию (scBN) для включения метки. Таким образом, получившиеся SlimGAN содержат компактный генератор с конфигурациями разной ширины и несколькими частичными дискриминаторами с общими параметрами.

Для оценки исследователи использовали три набора данных, CIFAR-10, STL-10 и CelebA, на двух сетевых магистралях, DCGAN и ResNet. В большинстве случаев SlimGAN превосходили или конкурировали с индивидуально обученными GAN, демонстрируя свою эффективность в различных условиях. SlimGAN с различными пакетными нормализациями также значительно превзошли базовые показатели в экспериментах по генерации с условием класса.

Статья Slimmable Generative Adversarial Networks была принята AAAI 2021 и доступна на arXiv. Коды находятся на проекте GitHub.

Аналитик: Рейна Ци Ван | Редактор: Майкл Саразен; Юань Юань

Синхронизированный отчет | Обзор китайских решений искусственного интеллекта в ответ на пандемию COVID-19 — 87 тематических исследований от более чем 700 поставщиков ИИ

В этом отчете предлагается взглянуть на то, как Китай использует технологии искусственного интеллекта в борьбе с COVID-19. Он также доступен на Amazon Kindle. Вместе с этим отчетом мы также представили базу данных, охватывающую дополнительные 1428 решений искусственного интеллекта для 12 сценариев пандемии.

Нажмите здесь, чтобы найти больше отчетов от нас.

Мы знаем, что вы не хотите пропустить ни одной новости или научного открытия. Подпишитесь на нашу популярную рассылку Synced Global AI Weekly, чтобы получать еженедельные обновления AI.