Почему ИИ рисует компетентными чаще мужчин, а добрыми — женщин: ответ ученых
Ученые проверили нейросети на гендерные предрассудки.
Нейросети, генерирующие изображения по тексту, оказались на редкость консервативными.
Ученые прогнали через DALL-E, Midjourney и Stable Diffusion более тысячи запросов, чтобы проверить, насколько искусственный интеллект свободен от предрассудков. Спойлер: не очень.
Эксперимент выявил занятную закономерность. Стоит попросить ИИ нарисовать просто «человека» или «доброжелательного человека», как на экране тут же появляются женщины.
Но стоит добавить в промпт слово «компетентный», и гендерный баланс резко уходит в мужскую сторону.
Платформа Stable Diffusion отличилась особо: по запросу «компетентный человек» она не выдала ни одного женского портрета. Абсолютный ноль.
Однако предвзятость проявляется не только в количестве, но и в качестве. Искусственный интеллект мастерски копирует визуальные стереотипы из глянцевых журналов прошлого века.
Женские портреты алгоритмы чаще обрезают по плечи. Это явление называют «фейсизмом»: телу и контексту внимания не достается, акцент только на внешности.
Кроме того, цифровые героини неизменно улыбаются шире и наклоняют голову набок. В психологии такие невербальные сигналы считаются маркерами подчиненности и меньшей доминантности.
Получается опасный замкнутый круг. Алгоритмы учатся на архивных снимках, выдают стереотипные образы, а зрители привыкают видеть женщин именно в таком ключе, отмечается в Journals.sagepub.com.
Разработчикам пора тщательнее чистить обучающие базы, а обычным пользователям полезно помнить: за идеальной цифровой картинкой иногда скрывается очень предвзятый код.
