ИИ воспроизводит сексизм — мужчинам отведены высокооплачиваемые профессии, а женщинам низкооплачиваемые

пост на 2 мин

Исследователи проанализировали видеоролики, сгенерированные нейросетями, и обнаружили устойчивый гендерный перекос: в 70% случаев высокооплачиваемые профессии — директора, разработчики, врачи — ИИ присваивал мужчинам, тогда как кассиры, сиделки, учителя и посудомойщики оказались исключительно женскими ролями. По мнению специалистов, нейросеть не изобретает стереотипы, а воспроизводит те, что заложены в обучающих данных, то есть отражает реальное положение дел в обществе. Подробности исследования опубликованы в Telegram-канале Mash Money, который рассказал о результатах анализа.

По словам исследователей в области машинного обучения, подобные искажения возникают из-за того, что нейросети обучаются на массивах данных, собранных из интернета, где исторически сложившиеся гендерные роли представлены неравномерно. Если в открытых источниках врачи и руководители чаще мужчины, а кассиры и няни — женщины, алгоритм запоминает эту закономерность и воспроизводит её без критической оценки. Проблема усугубляется тем, что сгенерированный контент затем снова попадает в интернет и может использоваться для обучения следующих поколений моделей, закрепляя предвзятость по принципу замкнутого цикла.

Это не единственная ситуация, когда ИИ демонстрирует ограниченность. Ранее Microsoft провела эксперимент, в рамках которого нейросеть выполняла типовые рабочие задачи для 52 профессий — от составления отчётов до анализа документов. Доля ошибок составила от 25 до 50%, что поставило под сомнение тезис о скорой замене людей искусственным интеллектом. А ряд компаний, которые массово сокращали штат в пользу автоматизации, уже нанимают обратно уволенных сотрудников, признав, что технология пока не справляется с задачами, требующими живого суждения и контекстного понимания.

Всё это подводит к этическому вопросу, который пока не имеет однозначного ответа: должна ли нейросеть зеркально отражать существующее общество со всеми его перекосами или призвана формировать более сбалансированные и справедливые образы. От решения этой дилеммы зависит, какие представления о профессиях, ролях и возможностях будут транслироваться миллионам пользователей через сгенерированный контент.

Данный материал подготовлен с помощью искусственного интеллекта. Если вам интересно разобраться в том, как нейросети работают с данными и какие предвзятости могут возникать при их обучении, попробуйте изучить эту тему на сайте AiGENDA — там можно самостоятельно протестировать различные модели, проанализировать их ответы и лучше понять, как устроен современный ИИ.

Комментариев нет

Добавить комментарий

Истребители ВМС США пронеслись над отдыхающими во Флориде

Во Флориде пилотажная группа ВМС США на малой высоте прошла прямо над пляжем с отдыхающими, из-за чего люди услышали оглушающий гул и…

НМШ : Операторы связи в Москве связывают сбои с внешними радиочастотными помехами и отказываются их компенсировать

Операторы связи объяснили сбои в Москве внешними радиочастотными помехами, заявив, что проблемы со связью и интернетом не являются их виной и компенсировать…

Англия реализовала пенальти и ведёт со счётом 5:3

Сборная Англии успешно исполнила пенальти, и счёт в матче достиг отметки пять к трём. Этот момент стал важной вехой в текущей игре.…

MASH : Иран запустил 30 ракет, Израиль в укрытиях

Иран запустил как минимум 30 баллистических ракет в сторону Израиля. Две из них были перехвачены средствами противоракетной обороны над северным регионом страны. В…

Сотрудник OpenAI ушёл из-за недостатка внимания к безопасности ИИ

Специалист, покинувший OpenAI, потребовал для ИИ-лабораторий системы безопасности уровня АЭС и аэропортов — многоуровневую, с тщательным планированием. Он признал свою причину ухода…

Роналду завершает карьеру и Ислам Махачев защитил титул UFC — события недели

Криштиану Роналду завершает профессиональную карьеру. Футболист заявил в интервью, что текущий игровой сезон станет для него последним. Это решение завершает эпоху доминирования…

Beget вернул создание VPS в Петербурге и S3-хранилище

Beget восстановил создание облачных сервисов в Санкт-Петербурге, сеть и S3. Виртуальный хостинг…

пост на 1 мин

Microsoft тестирует удалённую блокировку корпоративных ноутбуков с Windows

Microsoft тестирует Remote Lock для управляемых корпоративных устройств: данные остаются на месте,…

пост на 2 мин

Perseverance нашёл на Марсе светлые породы со следами древней воды

Марсоход нашёл в районе Идуби породы, богатые гидратированным кремнезёмом. Что находка расскажет…

пост на 1 мин

На речных маршрутах Москвы совершили более 4,6 млн поездок с 2023 года

Регулярный речной электротранспорт Москвы продолжает работать зимой. С 2023 года на маршрутах…

пост на 1 мин

Выставка о маркизе де Помпадур откроется в Пушкинском музее 1 декабря

Первая в России выставка о маркизе де Помпадур пройдёт в Пушкинском музее…

пост на 2 мин

Alibaba показала, как Qwen4-Max создаёт игры в Unreal Engine и Unity

Qwen4-Max создаёт игровые сцены, запускает проекты и исправляет ошибки в демонстрациях Alibaba.…

пост на 2 мин