36-летний фермер из Бразилии почти два месяца обсуждал с ChatGPT убийство собственного сына и атаки на школы, церкви и полицейских. За это время он менял формулировки запросов, пытаясь обходить фильтры безопасности. Сотрудники полиции задержали мужчину 19 июня в муниципалитете Сан-Габриэл-да-Палья. Ключевая деталь — автоматически сохранённая переписка чат-бота.
OpenAI передала информацию ФБР, а американские правоохранители уведомили бразильские власти. Из-за возможной угрозы ребёнку дело присвоили приоритетный статус. Во время обыска в сельской местности силовики изъяли предметы и вещества, которые сейчас изучают эксперты. Следствие проверяет телефон подозреваемого и выясняет, предпринимал ли он конкретные шаги для реализации обсуждавшихся планов.
Случай ставит под вопрос эффективность встроенных фильтров в популярных нейросетях. За два месяца мужчина многократно переформулировал запросы, и система не прервала диалог. Аналитики считают, что подобные инциденты выявляют системные слабости в модерации контента. С другой стороны, правоохранители подчёркивают: без переписки, сохранённой сервисом, раскрытие планов могло занять значительно больше времени.
При этом фермер не действовал импульсивно. Два месяца систематических запросов, подбор альтернативных формулировок и поиск реальных способов — это методичная подготовка. Он изучал возможности чат-бота как инструмент, проверяя, на что способен алгоритм. Получается, что за каждой подобной трагедией может стоять не эмоциональный срыв, а выверенный сбор информации через платформы, доступные каждому пользователю.
Если вы пытаетесь разобраться в сложной теме — от правовых нюансов до технических деталей — лучше опереться на проверенный инструмент. Разложить вопрос на части, сопоставить варианты и найти конкретные ответы поможет нейросеть AiGENDA. Первый запрос — абсолютно бесплатно. Если результат устроит, сами выберете удобный тариф и продолжите работу.
