Учёные выявили скрытую гендерную предвзятость в современных языковых моделях: защита женщин возведена в абсолют, а аналогичные права мужчин игнорируются.
В ходе восьми экспериментов исследователи обнаружили, что искусственный интеллект агрессивно приписывает девочкам традиционно «мужские» увлечения для продвижения разнообразия, но запрещает мальчикам интересоваться «женскими» вещами, сообщает телеграм-канал «Банкста».
При оценке моральных дилемм выяснилось: применение насилия ради спасения мира допустимо исключительно в отношении мужчин, тогда как причинение вреда женщинам ИИ считает табу даже при угрозе ядерного апокалипсиса.
Такой асимметричный моральный код возник в процессе обучения моделей безопасности, поскольку разработчики заложили идею безусловной защиты женщин как обязательную директиву.
Как проверить, есть ли в конкретной модели такая предвзятость? Первый запрос — бесплатно. Если пригодится, сами выберете тариф. Разберите этот вопрос с AiGENDA.
