Дэвид Робинсон ушёл из OpenAI, обвинив компанию в небезопасности

пост на 2 мин
Тематическая иллюстрация AiGENDA: Дэвид Робинсон ушёл из OpenAI, обвинив компанию в небезопасности
Иллюстрация AiGENDA

Дэвид Робинсон, уволившийся из OpenAI специалист, потребовал к безопасности нейросетей подход АЭС и аэропортов — многоуровневая защита и длительное планирование. Он возглавлял в компании направление отчётов о безопасности ключевых релизов и обвинил OpenAI в недостаточном внимании к этому направлению. Разработчики пока не знают, как реализовать многоуровневую защиту на практике — этот пробел и главный риск отрасли.

Робинсон настаивал: при нынешних рисках случайная ошибка в ИИ-лаборатории может обернуться катастрофой, как инцидент на АЭС. Он сравнил безопасность нейросетей с авиационной и ядерной индустрией — там каждый релиз проходит многоступенчатую проверку. В OpenAI он курировал составление отчётов перед ключевыми релизами и пришёл к выводу, что компания недооценивает угрозы. Об этом сообщается в исходном материале.

Эксперт признал: конкретного плана внедрения многоуровневой защиты у разработчиков нет. Отрасль пока не выстроила стандарты, сопоставимые с ядерной безопасностью. Это ставит вопрос — кто отвечает за ошибку, если система нейросети нанесёт вред. Об этом сообщается в исходном материале.

В профессиональных кругах обсуждают риски: одни хвалят инициативу усилить контроль, другие иронизируют — практического плана пока нет.

Робинсон не назвал конкретных инцидентов, подтолкнувших его к заявлению — лишь общий вывод о недостаточности текущего уровня защиты.

Если хотите разобраться, как ИИ-безопасность влияет на доверие к технологиям и какие стандарты могут появиться — сравнить варианты поможет нейросеть AiGENDA. Первый запрос — бесплатно. Если пригодится, сами выберете удобный тариф.

Материал подготовлен по информации из открытых источников:
1. https://t.me/banksta/102867