Учёные выявили скрытую гендерную предвзятость в языковых моделях

пост на 1 мин
Поделиться
Поделиться статьёй
Спросить ИИ
Вопрос по теме статьи

Вопрос можно изменить. Если сервис не поддерживает ссылку с вопросом, текст будет скопирован.

Учёные выявили скрытую гендерную предвзятость в современных языковых моделях: защита женщин возведена в абсолют, а аналогичные права мужчин игнорируются.

В ходе восьми экспериментов исследователи обнаружили, что искусственный интеллект агрессивно приписывает девочкам традиционно «мужские» увлечения для продвижения разнообразия, но запрещает мальчикам интересоваться «женскими» вещами, сообщает телеграм-канал «Банкста».

При оценке моральных дилемм выяснилось: применение насилия ради спасения мира допустимо исключительно в отношении мужчин, тогда как причинение вреда женщинам ИИ считает табу даже при угрозе ядерного апокалипсиса.

Такой асимметричный моральный код возник в процессе обучения моделей безопасности, поскольку разработчики заложили идею безусловной защиты женщин как обязательную директиву.

Как проверить, есть ли в конкретной модели такая предвзятость? Первый запрос — бесплатно. Если пригодится, сами выберете тариф. Разберите этот вопрос с AiGENDA.