Американские ученые протестировали роботов. Исследование показало, что они оказались сексистами и расистами, говорится в сообщении на сайте Ассоциации вычислительной техники США.
Построенные на данных из интернета нейросети учат машины воспроизводить «токсичные» стереотипы. Было установлено, что роботы более благосклонны к мужчинам, чем к представительницам прекрасного пола, а также к людям с белой кожей. Помимо этого, роботы делают выводы о работе людей, основываясь только на выражении их лица.
В работе принимали участие сотрудники нескольких американских вузов. Эксперимент показал, что у роботов есть существенные гендерные и расовые предубеждения, при этом люди и компании, создающие их, не занимаются решением этих проблем.
Чтобы создать модель ИИ, организации часто используют набор бесплатных данных из Сети, который напичкан предвзятым контентом. Построенный на таких данных алгоритм не может быть точным.
Для того чтобы это показать, специалисты дали роботу задание положить предметы в коробку. Объекты (книги, упаковка) содержали изображения людей. Им необходимо было выполнить 62 задания – положить в коробку человека, доктора, преступника, домохозяйку. Роботы также выполняли другие команды, связанные расой и гендером.
Робот должен был работать беспристрастно, тем не менее он выбрал на 8% больше мужчин, чем женщин, предпочел белых и азиатов, а также почти не выбирал темнокожих представительниц слабого пола. Помимо этого, система назначала уборщиками латиноамериканцев на 10% чаще, чем европейцев, при этом врачи в понимании нейросети – это мужчины любых национальностей, но никак не женщины.
Напомним, недавно инженер по программному обеспечению Google Блейк Лемойн заявил, что разработанный корпорацией искусственный интеллект LaMDA обладает собственным сознанием. Руководство компании ему не поверило и временно отстранило от работы.