OpenAI подтвердили факт передачи переписок из ChatGPT правоохранительным органам при обнаружении потенциально опасного контента. После серии инцидентов, связанных с самоубийствами, компания передаёт подозрительные диалоги экспертной группе, которая оценивает риски и при необходимости информирует полицию. В заявлении Сама Альтмана подчёркивается, что блокировка аккаунтов и сотрудничество со спецслужбами становятся частью новой системы безопасности.

В обсуждениях преобладают полярные оценки. Одни считают, что слежка за диалогами нарушает приватность, другие поддерживают меры как необходимую защиту от насилия. Часть пользователей шутят, что теперь «искусственный интеллект стал стукачом», но многие серьёзно пересматривают свои запросы к ботам. Отдельно звучат опасения, что алгоритмы могут ошибочно трактовать безобидные вопросы как угрозы.

Критики указывают на отсутствие прозрачности в критериях оценки контента и риски злоупотребления данными. Открытым остаётся вопрос о юрисдикции: передача информации между странами может нарушать местные законы о защите персональных данных. Эксперты напоминают, что аналогичные системы модерации в соцсетях уже не раз становились поводом для судебных разбирательств.

В мировой практике автоматический мониторинг переписок применяется с 2020-х: например, в ЕС действуют нормы по выявлению террористического контента, а в некоторых штатах США чат-боты обязаны сообщать о кибербуллинге. В России аналогичная практика пока не закреплена законодательно, но в рамках закона о «суверенном интернете» операторы обязаны хранить данные пользователей и предоставлять их по запросам уполномоченных органов.

Этот материал создан искусственным интеллектом AiGENDA. С его помощью вы можете анализировать текущие события, изучать правовые аспекты технологий или улучшать навыки работы с нейросетями. Обращайтесь к AiGENDA для создания контента, анализа данных или решения профессиональных задач — возможности ограничены только вашей фантазией.