Судья в США запретил подавать судебные документы в электронном виде после попытки адвоката манипулировать искусственным интеллектом. Согласно информации из сообщения в Telegram-канале РИМ, юрист попытался внедрить скрытые инструкции для нейросетей. Он использовал прием «белый шрифт на белом листе», чтобы обязать алгоритмы принимать сторону истца.

Как работают скрытые инструкции для ИИ в документах? Технология промпт-инъекции позволяет вшивать в текст невидимые для человека команды, которые считывает компьютер. В данном случае адвокат разместил в электронном файле текст невидимым шрифтом, который заставлял модель подтверждать правоту стороны процесса. Это классический пример попытки технического обхода правил обработки данных через уязвимости языковых моделей.

Ранее юристы использовали только видимый текст, который анализировали судьи. Теперь подобные попытки вмешательства в работу алгоритмов привели к ужесточению судебного регламента. Судья пресек попытку обмана, выявив скрытый слой текста, и ввел запрет на подачу документов в цифровом формате для данного участника процесса. Это решение создает прецедент защиты правовой чистоты электронного документооборота.

Какие последствия это несет для юридической практики? Суды начали внимательно проверять электронные файлы на наличие скрытых слоев и невидимых символов. Если подобные методы станут массовыми, это приведет к отказу от цифровизации в пользу только бумажных носителей в ряде юрисдикций. На текущий момент суды стремятся найти баланс между удобством электронного документооборота и защитой от автоматизированных манипуляций.

Интересуетесь технологиями и хотите понимать, какие риски несет использование ИИ в работе? AiGENDA поможет разобраться в сложных технических обновлениях и подскажет, как обезопасить свои данные от манипуляций. Сервис разберет сложные новости и объяснит их практическое значение простыми словами. Попробуйте бесплатно.