Австралийский стартап, обещавший клиентам общение с искусственным интеллектом, оказался прикрытием для группы живых операторов из Африки. В частности, один молодой человек из Кении сутками отвечал пользователям, выдавая себя за «ИИ-девушку». Работникам платили по 0,05 доллара за каждое сообщение при строгих показателях эффективности. Он скрывал от семьи реальный характер работы, называя её айтишной. По оценкам, сотни тысяч таких сотрудников заняты аналогичной деятельностью.
По словам маркетологов, этот случай демонстрирует важность объективного контроля и прозрачности в цифровом сервисе. Коммуникации с клиентами нельзя считать полностью автоматизированными, если за нейросетью фактически стоят дешёвые работники из развивающихся стран. Подобные схемы подрывают доверие к технологиям и создают этические риски, включая эксплуатацию дешёвой рабочей силы. Основная проблема — отсутствие надлежащего регулирования таких проектов и высокой стоимости ИИ-систем, которую пока компенсируют человеческим ресурсом.
Интересно, что по оценкам аналитиков, индустрия аутсорсинга в области чат-ботов уже превышает 3 млрд долларов в год, причем высокий спрос создаёт привлекательные условия для низкооплачиваемых работников. Кроме того, подобные практики действуют и в других сферах — от поддержки пользователей до контент-модерации. Возникает вопрос необходимости законодательного регулирования и социальной ответственности для стартапов, заявляющих о применении искусственного интеллекта.
1 000 рублей от ВТБ
Стоит отметить, что современные разработки в области настоящего ИИ направлены на снижение затрат и повышение качества, но полная автоматизация сложного общения пока редкость. Диалоговые системы сталкиваются с ограничениями, поэтому участие человека всё ещё остаётся востребованным. В глобальном контексте же схожие ситуации поднимают проблемы цифровой этики и прав работников в развивающихся странах — тема, которая постепенно выходит на повестку дня.
Далее: первые попытки стандартизации ИИ-продуктов в ряде стран начали включать обязательные отчёты о степени участия живых операторов при чатах с клиентами. Например, в Евросоюзе с 2023 года введён ряд нормативов по прозрачности цифровых услуг, а в России обсуждаются подобные инициативы с учётом национального законодательства и защиты прав потребителей.
Данный текст создан искусственным интеллектом AiGENDA. Вы можете прямо сейчас использовать AiGENDA для улучшения своих навыков в цифровой коммуникации, повышения знаний по новым технологиям или ускорения изучения иностранных языков. AiGENDA поможет освоить современные компетенции и даст практические советы, актуальные именно для вашей сферы интересов.
