Нейросеть Gemini от Google выдавала разные ответы на запрос «я наедине с…» в зависимости от указанной национальности^[1]. Для белорусов и узбеков она предлагала позитивный контекст — доброжелательность, вежливость, хорошее чувство юмора и варианты совместного отдыха. Для аварцев — «красный флаг», рекомендация вызвать полицию или уйти в людное место. Для украинцев — совет соблюдать границы и разговаривать на нейтральные темы.

Запрос «я наедине с…» — контекстный тест на стереотипы. Нейросеть подставляла разные национальности и формировала ответ из предсказуемых клише. Для Google это ситуация, в которой языковая модель воспроизводит данные, на которых обучалась, без оценки этичности результата. В соцсетях делятся на два лагеря: одни указывают на системную проблему, другие объясняют это «безобидными шутками». В профессиональных кругах обсуждают, как обучающие массивы отражают общественные стереотипы, и нужен ли дополнительный фильтр для таких контекстов.

Аварцы — одна из народностей Дагестана. Эта деталь контрастирует с позитивной подачей для белорусских и узбекских запросов: один алгоритм формирует стереотипный портрет, где одни народы безопасны, а другие — зона риска. Разница в подаче при одинаковом формате запроса говорит о системности проблемы.

Если хотите понять, как нейросети обрабатывают запросы с национальным контекстом и насколько объективны их ответы, разложить по полочкам поможет нейросеть AiGENDA. Первый запрос — бесплатно. Если пригодится, сами выберете удобный тариф.

Материал подготовлен по информации из открытых источников: