Почему кризис разнообразия ИИ имеет значение и как с ним справиться

Jan 12, 2024

Рэйчел Кроуэлл — журналист-фрилансер, проживающая недалеко от Де-Мойна, штат Айова.

Вы также можете найти этого автора в PubMed Google Scholar.

У вас есть полный доступ к этой статье через ваше учреждение.

Инклюзивные группы сосредоточены на продвижении разнообразных строителей для будущих проектов искусственного интеллекта. Автор фото: Shutterstock

Искусственный интеллект (ИИ) сталкивается с кризисом разнообразия. Если эту проблему не решить незамедлительно, недостатки в рабочей культуре ИИ будут закреплять предубеждения, которые просачиваются в получаемые в результате технологии, которые будут исключать и наносить вред целым группам людей. Вдобавок ко всему, полученный «интеллект» будет ошибочным, ему не будет хватать разнообразных социально-эмоциональных и культурных знаний.

В отчете Института искусственного интеллекта Нью-Йоркского университета за 2019 год исследователи отметили, что более 80% профессоров искусственного интеллекта — мужчины. Более того, чернокожие составляли всего 2,5% сотрудников Google и 4% тех, кто работал в Facebook и Microsoft. Кроме того, авторы отчета отметили, что «подавляющее внимание к «женщинам в сфере технологий»» при обсуждении вопросов разнообразия в ИИ «слишком узко и, вероятно, ставит белых женщин выше других».

Некоторые исследователи борются за перемены, но существует также культура сопротивления их усилиям. «Под этой видимостью «о, ИИ — это будущее, и у нас есть все эти блестящие, приятные вещи», как академия ИИ, так и индустрия ИИ фундаментально консервативны», — говорит Сабина Вебер, научный консультант VDI/VDE Innovation + Technik. технологическая консалтинговая компания со штаб-квартирой в Берлине. В обоих секторах ИИ «доминируют в основном белые мужчины среднего возраста из богатых семей. Они действительно привязаны к статус-кво», — говорит Вебер, который является основным организатором правозащитной группы «Квир в ИИ». Nature поговорила с пятью исследователями, которые возглавляют усилия по изменению статус-кво и повышению справедливости экосистемы ИИ.

Старший менеджер по обработке данных в Shopify в Атланте, штат Джорджия, и генеральный председатель конференции Deep Learning Indaba 2023 года.

Я родом из Ганы и получил степень магистра статистики в Университете Акрона в Огайо в 2011 году. Мой опыт работы связан с использованием машинного обучения для решения бизнес-задач в области управления клиентским опытом. Я применяю свои аналитические навыки для создания моделей, которые управляют поведением клиентов, таких как системы рекомендаций, ориентированные на клиентов, аспекты оценки лидов — ранжирование потенциальных клиентов, определение приоритетности того, с кем связаться для различных коммуникаций — и тому подобное.

В этом году я также являюсь генеральным председателем Deep Learning Indaba, встречи африканского сообщества машинного обучения и искусственного интеллекта, которая каждый год проводится в разных африканских странах. В прошлом году он прошел в Тунисе. В этом году он пройдет в Гане в сентябре.

Наша организация создана для всей Африки. В прошлом году в нем приняли участие 52 страны. Цель состоит в том, чтобы были представлены все 54 африканские страны. Глубокое обучение Indaba дает каждой стране возможность иметь сеть людей, управляющих делами на местном уровне. У нас есть флагманское мероприятие — ежегодная конференция, а также мероприятия IndabaX для конкретных стран (вспомните выступления TED и TEDx).

Во время конференций IndabaX в Гане мы обучаем людей программированию и работе с различными видами данных. Мы также проводим семинары о том, что происходит в отрасли за пределами Ганы и о том, как Гана должна в этом участвовать. IndabaX предоставляет финансирование и рекомендует докладчиков, которые являются признанными исследователями, работающими в таких компаниях, как Deep Mind, Microsoft и Google.

Чтобы усилить машинное обучение, искусственный интеллект и инклюзивность в Гане, нам необходимо наращивать потенциал, обучая молодых исследователей и студентов понимать набор навыков и подготовку, необходимые им для достижения успеха в этой области. Проблема номер один, с которой мы сталкиваемся, — это ресурсы. Наше экономическое положение таково, что внимание правительства и большинства жителей Ганы сосредоточено на хлебе насущном для народа. Большинство жителей Ганы даже не думают о технологической трансформации. Многие местные ученые не имеют опыта, позволяющего обучать студентов и действительно знакомить их с искусственным интеллектом и машинным обучением.