Расистская нейросеть. Facebook назвал чернокожих на видео "приматами"
Facebook извинился за то, что его алгоритм посоветовал «продолжать смотреть видео о приматах» после записи с темнокожими
В Великобритании рекомендательная система Facebook предложила пользователям, посмотревшим видео о драке полиции с чернокожими гражданами, «продолжать смотреть видео о приматах». Хотя нейросеть вполне могла причислить к представителям отряда плацентарных млекопитающих и сотрудников правоохранительных органов, возмутились по понятным причинам именно меньшинства, так что компании пришлось приносить официальные извинения.
«Хоть мы и улучшили работу нашего искусственного интеллекта, но знаем, что он не идеален и нам еще предстоит продвинуться вперед, — пояснил The New Yourk Times пресс-секретарь Facebook Дэни Левер. — Приносим извинения всем, кто видел эти оскорбительные рекомендации».
Напомним, что системы автоматического распознавания лиц и другие подобные алгоритмы уже не раз совершали ошибки при работе с темнокожим населением. К примеру, в 2015 году сервисы Google назвали представителя меньшинства гориллой. Такие неточности часто вызывают возмущение на фоне социального неравенства в обществе. К примеру, в США после убийства Джорджа Флойда и ряда других случаев полицейского насилия в отношении темнокожих лидеры технологической индустрии отказались предоставлять американским властям свои сервисы для распознавания лиц.
