Twitter выделяет в своих репостах белокожих людей

Если вы заядлый пользователь Twitter, вы можете заметить, что в вашей ленте появляются твиты, содержащие более одного изображения. в виде небольшой галереи Возможно, вы заметили, что оно появляется. В этом представлении галереи максимум 4 изображения в сообщениях перечислены в уменьшенном размере, а центр изображений размещен в миниатюрах. 

Например, если в правом углу панорамной пейзажной фотографии есть человек, Twitter покажет вам человека в крайнем правом углу небольшой галереи, а не в разделе пейзажа посередине. При нажатии загружается версия фотографии в реальном размере. Из этого процесса автоматизации Искусственный интеллект Твиттера несет ответственность. на изображении человек, текст, улыбающееся лицо выбран и выделен на миниатюре. 

Однако искусственный интеллект Твиттера подогревал дебаты о расизме своим выбором. Попробуйте открыть фотографии из этих постов, которые на первый взгляд кажутся совершенно нормальными:

На первом посту - американские политики Митч Макконнелл и Барак Обама. Один из этих людей светлокожий, а другой темнокожий. Однако в галерее миниатюр показан только белокожий Митч МакКоннелл. Щелкнув мышью, мы видим, что на изображении также присутствует Барак Обама. Более того, на более поздних стадиях эксперимента Обама и МакКоннелл Даже если локация изменится, результат не изменитсяАлгоритм Twitter продолжает настаивать.

Во втором посте цвета галстуков изменены, и хоть и есть сдвиги в миниатюре, но фото белокожего все равно выделено:

Когда изображения делаются негативными, то есть меняются местами цвета, результат меняется:

Алгоритмы Twitter, основанные на машинном обучении, основаны на комментариях, оставленных людьми на платформе. Анализируя миллионы акций приходит к такому выводу. Другими словами, он делает свой выбор, синтезируя поведение людей, делящихся информацией. 

Аналитик по безопасности Утку Шен основывает эту скандальную структуру Twitter на самой фундаментальной ошибке приложений искусственного интеллекта: 

Поскольку этические проблемы общества отражаются в социальных сетях, их можно увидеть в Твиттере или любой другой среде, в любой структуре, где искусственный интеллект разрабатывается при поддержке машинного обучения, а материалами является поведение человека. совершать «гуманоидные» ошибки приветствуется, естественно. 

Но что-то вроде Твиттера в СМИ нового поколения Эта ошибка должна находиться в верхней части списка проблем, которые платформа должна распознавать и предотвращать. С другой стороны, Twitter может устранить эту ситуацию обновлением в любой момент. 

Вы можете взглянуть на еще один эксперимент, связанный с новостями ниже: