Автор: Давид Соселия и Шота Амашукели, 31 января 2020 г.
NeurIPS — одна из крупнейших конференций по машинному обучению, интерес к которой растет с каждым годом. На NeurIPS20 было получено 12115 тезисов и 9467 полных статей, что на 40 % больше, чем в предыдущем году. Он также довольно избирательный: допущено только 1900 статей и 105 презентаций, что составляет чуть более 20 %.
В этом году был большой выбор как теоретических, так и прикладных работ, с достижениями в использовании графиков, более глубоком понимании языковых моделей, практическом применении непрерывного обучения и т. д.
Разреженные сети — лотерея здесь, в НЛП
Во время конференции NeurIPS 2020 статья «Гипотеза лотерейного билета для предварительно обученных сетей BERT привлекла внимание нашего…medium.com »
Кажется, также увеличивается количество совместных работ, отмеченных работами с несколькими авторами. Как обычно, США вносят основной вклад как в академические круги, так и в промышленность, в общей сложности колоссальные 1186 статей. Сергей Иванов провел глубокий анализ происхождения и принадлежности бумаги.
Интересно, что Alphabet лидирует: Google и DeepMind публикуют больше всего статей из США и Великобритании соответственно, в то время как в других странах эти места занимают университеты и исследовательские институты.
Тем не менее, без учета относительной численности населения каждой страны довольно сложно получить представление о том, как выглядит мировой ландшафт машинного обучения.
Во-первых, давайте возьмем данные о населении и ВВП для каждой страны. Данные, которые мы использовали, доступны здесь в формате CSV:
Загрузив количество статей, цифры ВВП и численность населения, мы можем посмотреть, какие страны лидируют с поправкой на каждую категорию.
Прежде всего, давайте посмотрим, какие страны опубликовали больше всего статей на душу населения.
Теперь Швейцария, Сингапур и Израиль лидируют с большим отрывом, при этом США и Великобритания сохраняют лидирующие позиции, а также хорошо представлены страны Северной Европы.
Далее, давайте посмотрим, кто получит больше всего за свои деньги — Глядя на количество статей о ВВП.
И здесь у Израиля, Сингапура и Швейцарии дела идут неплохо. Кипр также входит в этот список благодаря захватывающей статье о устойчивой распределенной оценке, написанной в соавторстве с Ангелосом Георгиу, профессором Кипрского университета.
И, наконец, с поправкой на ВВП на душу населения имеем следующую картину:
Китай и Индия вышли на первые строчки, опубликовав большинство статей, учитывая их относительно низкий ВВП на душу населения.
В целом США по-прежнему лидируют по большинству показателей, но и другие страны также добиваются успехов. Поскольку у NeurIPS есть авторы из все большего числа стран, мы надеемся, что будущее ИИ будет децентрализованным и открытым для всех стран, несмотря на их богатство.
