Deep Learning Indaba — крупнейшая конференция по искусственному интеллекту в Африке

Провести свой отпуск в другой стране совершенно замечательно, как никакое другое занятие. Но подождите, есть кое-что получше — проведите отпуск в Deep Learning Indaba, Тунис ❤

Deep Learning Indaba – это ежегодное мероприятие, которое собирает более 350 африканских энтузиастов машинного обучения в течение одной недели, чтобы укрепить африканское сообщество машинного обучения и помочь объединить будущих создателей африканского ИИ. Мероприятие представляет собой смесь конференций, панелей, основных докладов, семинаров, постерных сессий и множества интересных мероприятий с разнообразными темами и богатым содержанием.

После того, как ранее были организованы в Южной и Восточной Африке (Южная Африка и Кения). В этом году мероприятие 2022 впервые состоялось в Северной Африке — Тунисе, под девизом "Masirouna", что в переводе с арабского означает "наша судьба".

Мы были поражены впечатляющим сообществом присутствовавших исследователей и практиков ИИ, а также блестящим контентом, представленным на различных конференциях. Мы узнали много нового во время встречи и за время пути подружились с отличными друзьями!

Мероприятие началось 21 августа и продлится до 26 августа. Было много тем и разнообразных мероприятий, которые сделали мероприятие абсолютно ценным опытом. Некоторые из мероприятий повестки дня в этом году:

КОДИРОВАНИЕ И ПРАКТИЧЕСКИЕ ЗАНЯТИЯ

Введение в ML с использованием Jax

На этом занятии мы узнали о JAX и его основных концепциях, таких как автоматическое дифференцирование (Grad), распараллеливание (pmap), векторизация (vmap), своевременная компиляция (JIT) и многое другое. Мы эффективно внедрили линейную регрессию и изучили некоторые основы оптимизации.

Алгебра массивов

W получил интуитивное представление о многомерных массивах («тензорах»), чтобы лучше понять транспонирование, трансляцию, сжатие и другие «алгебраические движения», которые делают программирование массивов одновременно разочаровывающим и полезным.

Обучение с подкреплением

Мы узнали об обучении с подкреплением, типе машинного обучения, при котором агент учится выбирать действия в среде, которые в конечном итоге приводят к максимальному вознаграждению. RL добился огромных успехов в решении широкого круга сложных задач, таких как обучение игре в сложные видеоигры, такие как Atari, StarCraft II и Dota II. На этом вводном семинаре мы решили классическую среду Cart Pole, где агент должен научиться балансировать на тележке, используя несколько различных подходов RL.

Граф нейронных сетей

Мы узнали о графовых нейронных сетях (GNN), теме, популярность которой резко возросла как в исследованиях, так и в промышленности. Мы начали с повторения теории графов, а затем подробно рассмотрели, как работают GNN. Затем мы рассмотрели некоторые популярные реализации GNN и увидели, как они работают на практике.

Глубокие генеративные модели

Мы изучили основы генеративного моделирования, представляющего собой структуру машинного обучения, которая позволяет нам научиться выбирать новые невидимые точки данных, соответствующие распределению нашего обучающего набора данных. Затем мы внедрили Denoising Diffusion Model, которая является основой недавних и захватывающих моделей Dalle-2 и Imagen, которые мы все видели в Twitter.

Трансформеры и внимание

На этом практическом занятии мы были представлены более подробно и построили всю архитектуру трансформатора блок за блоком, чтобы открыть для себя ее надежность и мощную архитектуру.

Байесовское глубокое обучение на практике

Мы изучили основы байесовских рассуждений с помощью дискриминационных моделей. Внедрите байесовскую линейную регрессию, а затем углубитесь в более сложные модели, такие как логистическая регрессия и нейронные сети. Мы также научились реализовывать вариационный вывод «черного ящика» — общий алгоритм приближенного байесовского вывода, который можно применять практически к любой модели машинного обучения.

Темы семинара

Введение в причинность
Небольшое мета-обучение
Алгебра массивов
Методы Монте-Карло 101
Байесовский вывод
Мультиагентное обучение с подкреплением
Введение в архитектуру трансформатора
Модели временных рядов
НЛП в Deep Learning Indaba
Оптимизация в машинном обучении
ИИ и стартапы
Африканский семинар по машинному обучению и здравоохранению
От специалистов к универсалам: мир универсальных агентов RL
Семинар по компьютерному зрению
ML на грани
Афро-франкоязычные в ИИ, проблемы и возможности
Афро-феминистский подход к управлению и политике ИИ
Надежный ИИ: предвзятость + объяснимый + интерпретируемый ИИ

Особые моменты

Разнообразие и инклюзивность

Мы находимся на важном этапе, когда мы должны доказать следующим поколениям любого пола, что женщины действительно настроены серьезно.

Deep Learning Indaba был больше, чем местом для обмена знаниями. Это было место, где поощряли женщин и создавали среду, в которой больше не было никаких сомнений в способности женщин преуспеть в сфере ОД.

Вдохновляющие истории

Помимо передачи технических знаний, Indaba также стремилась вдохновлять участников и распространять позитивный настрой через конференцию выпускников, где бывшие участники indaba и даже организаторы делились с нами своими историями и опытом.

День демонстрации исследований в Африке

Это день, посвященный демонстрации исследований в области машинного обучения в Африке. Ядро недели Индаба. Этот день был отличным шансом для африканских исследователей и студентов обменяться поддержкой и отзывами о своих презентациях, чтобы улучшить свои исследования на любом этапе. Было более 170 плакатов, у которых можно было поучиться.

Мы получили конструктивные отзывы о нашем плакате! И, к счастью, мы получили награду за нашу работу во время объявления победителей плаката.

МасаханеНЛП — Строим вместе!

Одним из наших лучших открытий в Индабе было узнать о Масакхане. Это африканская инициатива, направленная на создание сообщества исследователей НЛП, инструментов и наборов данных для приложений в правительстве, медицине, науке и образовании, чтобы обеспечить сохранение африканского языка и повысить его глобальную известность.

Подробнее о работе сообщества и о том, как к нему присоединиться, можно узнать на их github.

Малышка Джоанна выиграла ❤

Самая вдохновляющая и симпатичная участница индаба, которая хранила молчание во время конференций и постигала весь ИИ с юных лет — малышка Джоанна получила приз на Дне африканских исследований глубокого обучения индаба, преподав всем урок о том, что присмотр за детьми никогда не является препятствием для любой матери. продолжайте ее мечты в AI.

Последний день, церемония закрытия и объявление победителей

Эффективность машинного обучения была последним семинаром, который мы посетили. Это была богатая дискуссия с различными ключевыми темами, такими как (ML на грани, роль разреженности в машинном обучении и т. д.), которая завершилась панелью «Проблемы и возможности для повышения эффективности в дикой природе».

В итоге мы стали одним из проектов-победителей Ideathon.

Deep Learning Indaba — отличное место для африканских молодых талантов, где они могут встретиться с элитными исследователями и практиками ИИ из мировых гигантов, активными новаторами и наиболее влиятельными сообществами в Африке.

Мы были одними из самых счастливых людей, которые стали свидетелями плодотворных результатов этого мероприятия и грандиозного воздействия его миссии.

Большое спасибо организаторам Deep Learning Indaba за организацию такого замечательного мероприятия ❤

С нетерпением жду встречи со всеми вами в следующих выпусках,

Индаба Масироуна!