«Что читает PAIR» - это серия списков для чтения, составляемых членами команды PAIR на ротационной основе.
Познакомиться с автором
Джеймс Векслер | инженер-программист, People + AI Research
На работе меня привлекают проекты, которые помогают людям заглянуть внутрь моделей машинного обучения с помощью интерактивности и визуализации с целью помочь им понять, как работает конкретная модель, или исследовать такие вещи, как проблемы справедливости машинного обучения.
Я возглавляю работу над What-If Tool и помогал с кучей других проектов, таких как TCAV и супер-забавный Bach Google Doodle. Как разработчик, работающий в исследовательской группе, я участвую во многих различных частях жизненного цикла проекта: прототипирование, проектирование, рецензирование, кодирование, тестирование, документирование, запуск, поддержка и продвижение.
Я также увлечен музыкой: как сочинять музыку с друзьями, так и смотреть живую музыку (и комбинировать машинное обучение и музыку смешными способами). И ничто не сравнится с исследованием мира с женой и сыном.
Что я читаю
Крис Олах и другие,« Увеличить масштаб: введение в схемы , Distill»
Нейронные сети часто называют черными ящиками, потому что их внутренняя работа может быть непостижимой. Но было проведено множество отличных исследований по раскрытию внутренней работы этих сетей, чтобы лучше понять, чему они учатся и как они принимают решения. В этой работе используются концепции клеточной биологии для увеличения масштаба каждого отдельного нейрона и связей между ними в сетях обнаружения изображений, чтобы понять, что заставляет их работать. Конечными результатами являются простые и мощные визуализации, которые дают реальную интуицию относительно того, как эти модели распознают объекты.
Джой Буоламвини, Сострадание через вычисления: борьба с алгоритмической предвзятостью
В этом видео Джой Буоламвини исполняет мощное устное стихотворение «AI, Ain’t I a Woman?» и описывает свое исследование отказов систем распознавания лиц у чернокожих женщин. Джой является ведущим голосом в области обнаружения и смягчения алгоритмической предвзятости, и работа ее, ее сотрудников и других исследователей в этой области оказывает ощутимое положительное влияние на мир. Текущая тенденция, когда крупные технологические компании исключают или ограничивают использование своих алгоритмов распознавания лиц, восходит к проекту «Gender Shades» от Joy и Timnit Gebru.
Уилл Найт,« Пионер искусственного интеллекта хочет, чтобы его алгоритмы понимали «почему », Wired»
Большую часть современного машинного обучения можно рассматривать как гигантскую корреляционную машину, которая связывает большой набор собранных вручную обучающих примеров с предоставленными людьми метками для этих примеров, а затем пытается экстраполировать эти изученные корреляции на невидимые примеры. Но если бы вместо этого эти машины могли рассуждать о причинно-следственной связи («Почему изображения с черными круговыми фигурами внизу часто содержат автомобиль?»), Они могли бы с меньшей вероятностью выйти из строя (или, по крайней мере, более понятными в том, почему и как они потерпели неудачу) в сценариях, где они сталкиваются с ситуациями, невидимыми во время обучения.
Кэсси Козырков, AI =« Автоматизированное вдохновение »
Кэсси обладает сверхспособностью превращать сложные статистические концепции в действительно занимательные и информативные статьи. Эта статья - отчасти урок истории, отчасти введение в подводные камни аналитики данных и отчасти призыв к действию.
Джой ДеГрю, Поездка в продуктовый магазин
Джой через свою личную историю о проверке в продуктовом магазине очень хорошо проясняет системное расовое неравенство. Всего за три минуты история проливает свет на белые привилегии и способность высказываться вместо того, чтобы быть пассивным наблюдателем.
Дэйв Грол,« День возвращения живого концерта , The Atlantic»
По мере того, как пандемия COVID-19 продолжается, я все больше и больше скучаю по катарсическому опыту посещения отличного концерта. Дэйв Грол передает волшебство и красоту живой музыки в этом эссе о силе концертов и своих надеждах на их возможное возвращение. Когда-нибудь я надеюсь увидеть тебя там с корешком билета в руке.
