Twitter проводит расследование после того, как пользователи заметили, что мобильное приложение предпочитает белые лица

Twitter проводит расследование после того, как пользователи заметили, что мобильное приложение предпочитает белые лица

ЛОНДОН. Twitter сообщает, что изучает, почему его алгоритм обрезки изображений иногда предпочитает белые лица черным.

Расследование было проведено после того, как пользователи Twitter заметили, что черные лица с меньшей вероятностью будут отображаться, чем белые, при предварительном просмотре изображений на мобильных устройствах, когда изображение содержит черное лицо и белое лицо.

Платформа микроблогов заявила, что не обнаружила никаких доказательств расовой или гендерной предвзятости при тестировании алгоритма, но признала, что ей нужно провести дополнительный анализ.

Параг Агравал, технический директор Twitter, сказал, что Twitter проанализировал модель при ее поставке, но сказал, что она требует постоянного улучшения.

«Люблю этот публичный, открытый и строгий тест – и очень хочу извлечь из него уроки», – сказал он на платформе.

Проблема обнаружилась после того, как Колин Мэдленд, менеджер университета в Ванкувере, заметил, что голова его черного коллеги постоянно пропадала при использовании приложения для видеоконференцсвязи Zoom. Похоже, программное обеспечение Zoom посчитало, что голова Черного человека является частью фона, и удалило ее в результате. Zoom не сразу ответил на запрос CNBC о комментарии.

После написания в Твиттере о проблеме, чтобы узнать, знает ли кто-нибудь, что происходит, Мэдленд затем понял, что Твиттер также виновен в сокрытии черных лиц. В частности, он заметил, что Твиттер предпочел превью своего собственного Белого лица вместо Черного лица его коллеги на мобильном телефоне.

Дэнтли Дэвис, главный дизайнер Twitter, понял, что проблему можно исправить, удалив волосы на лице и очки Мэдленда.

Twitter получил изрядную критику, но Дэвис сказал, что проблема будет исправлена.

«Я знаю, что ты думаешь, что замочить меня – это весело, но меня это раздражает так же, как и всех остальных. Тем не менее, я могу исправить это, и я это сделаю», – сказал Дэвис.

Он добавил: «Это 100% наша вина. Никто не должен говорить иначе».

После открытия пользователи Twitter провели еще несколько экспериментов. Один эксперимент показал, что лицо белого лидера сенатского большинства США Митча МакКоннелла предпочтительнее бывшего президента США Барака Обамы.

Другой предположил, что стоковая фотография белого мужчины в костюме предпочтительнее фотографии, на которой мужчина был черным.

Искусственный интеллект имеет опыт выявления предубеждений, укоренившихся в обществе, и исследователи обнаружили, что количество ошибок в продуктах распознавания лиц, разработанных IBM, Microsoft и Amazon, связано с частотой ошибок.

В 2018 году научный сотрудник Microsoft Research Тимнит Гебру и ученый-компьютерщик из Массачусетского технологического института Джой Буоламвини выступили соавторами статьи, показывающей, что системы распознавания лиц IBM и Microsoft были значительно хуже, когда дело касалось идентификации людей с более темной кожей.

Microsoft заявила, что предприняла шаги для повышения точности своей технологии распознавания лиц и инвестирует в улучшение наборов данных, на которых обучает системы, в то время как IBM заявила, что планирует запустить новую версию своего сервиса.

В следующем году Буоламвини и Дебора Раджи из AI Now Institute обнаружили, что система Amazon Rekognition изо всех сил пытается определить пол темнокожих людей. Иногда он идентифицировал чернокожих женщин как чернокожих мужчин, но у него не было проблем при анализе изображений людей со светлой кожей.

В июне IBM заявила, что прекратит продажу своего программного обеспечения для распознавания лиц для расового профилирования и массового наблюдения.

.