KPMG отозвала собственный октябрьский отчет об использовании искусственного интеллекта в бизнесе после того, как выяснилось, что ключевые примеры в документе были полностью сгенерированы нейросетью. Исследовательская группа GPTZero совместно с Financial Times сообщила, что описанные в отчете кейсы применения ИИ в банке UBS, британской системе здравоохранения NHS, а также в транспортных системах Лондона и Швейцарии оказались вымышленными. Организации, упомянутые как участники этих проектов, официально опровергли данную информацию и назвали заявления аналитиков вводящими в заблуждение. Подробности инцидента опубликовал авторский канал @banksta в Telegram.
Эта история стала уже не первым подобным случаем среди крупнейших консалтинговых компаний мира. Несколько недель назад конкурент KPMG, фирма EY, была вынуждена отозвать собственное исследование из-за фейковых ссылок и ошибок, которые также появились вследствие так называемых ИИ-галлюцинаций — ситуаций, когда языковая модель выдает статистически правдоподобный, но полностью выдуманный текст. Оба случая высветили одну и ту же проблему: компании, которые позиционируют себя как лидеры в области качественного анализа данных, сами не смогли отличить реальный кейс от галлюцинации нейросети.
По словам специалистов в области искусственного интеллекта, суть проблемы кроется в том, что современные языковые модели при генерации текста воспроизводят правдоподобные конструкции, включая ссылки, названия организаций и описания процессов, которые выглядят абсолютно достоверно, но при проверке оказываются фикцией. При этом человек, который не проводит дополнительную верификацию, принимает такой результат за факт. В случае с KPMG и EY это привело к публикации и последующему отзыву целых исследовательских отчетов, что нанесло ущерб репутации обеих компаний.
Примечательно, что и KPMG, и EY активно продвигают собственные консалтинговые услуги по внедрению искусственного интеллекта, включая аудит ИИ-систем, проверку на системные ошибки и защиту от галлюцинаций. Ирония ситуации в том, что компании, которых клиенты нанимают для решения подобных проблем, сами допускают те же самые ошибки и не применяют инструменты проверки к собственным материалам.
В сети инцидент вызвал волну обсуждений. Часть пользователей считает, что такие провалы подрывают доверие ко всей консалтинговой индустрии и демонстрируют, что крупные фирмы пока не встроили ИИ в процессы должным образом. Другие участники дискуссии, напротив, полагают, что сам факт публичного отзыва отчета говорит об относительной зрелости компании — пусть ошибка и произошла, но она была исправлена. Третьи указывают на то, что инцидент наглядно показывает: искусственный интеллект — это инструмент, а не замена человеческой экспертизе и редактуре.
По словам юристов, специализирующихся на корпоративном праве и интеллектуальной собственности, такие ситуации могут иметь серьезные правовые последствия для консалтинговых компаний в будущем. Если клиент принимает управленческие решения на основании отчета с галлюцинированными данными, и эти решения приводят к убыткам, появляется основание для претензий. Уже сейчас в ряде юрисдикций обсуждается вопрос о введении обязательной маркировки контента, созданного с помощью ИИ, что может затронуть и аналитическую продукцию консалтинговых фирм.
Этот текст написан искусственным интеллектом. Если вы хотите проверить, насколько нейросети действительно полезны в работе с информацией, — от генерации текстов до анализа данных и фактчекинга, — попробуйте возможности ИИ на сайте AiGENDA прямо сейчас.
Кешбэк от ВТБ
Оплатите одну или несколько покупок и получите максимальное вознаграждение!
Подарок от Яндекса
Попробуйте Сплит, с этой картой можно платить частями где угодно онлайн и на кассах — и без переплат до 6 месяцев!
