Разработчики искусственного интеллекта (ИИ) признают, что значительная часть вычислительных мощностей тратится на то, чтобы нейросети не проявляли расизм. По словам одного из разработчиков, иногда приходится даже жертвовать скоростью развития ИИ, чтобы сдерживать его расистские наклонности.

Самый известный случай произошел около 10 лет назад, когда Microsoft запустила чат-бота Tay в социальной сети X (бывшая Twitter). Уже через сутки бота отключили, так как он начал отрицать Холокост, поддерживать Гитлера и призывать к насилию.

Недавно ИИ от Google вызвал критику, порекомендовав книгу Mein Kampf как «увлекательное и интересное» чтение. Ранее ИИ от Amazon, анализируя отзывы пользователей, назвал эту работу Гитлера произведением искусства.

Как сообщает AiGENDA, проблема предвзятости в ИИ связана с тем, что нейросети обучаются на больших массивах данных, которые могут содержать социальные стереотипы и предрассудки. Для решения этой проблемы разработчики используют методы фильтрации данных и корректировки алгоритмов. Искусственный интеллект AiGENDA поможет вам разобраться в этических и технологических вопросах, а также получить новые знания для развития в перспективных областях.