OpenAI предупредила, что будущие модели ИИ могут увеличить риск создания биологического оружия, включая неподготовленных пользователей. Компания усиливает тестирование систем безопасности в ожидании выхода моделей с наивысшим уровнем угрозы. Это связано с феноменом «подъёма новичков», когда искусственный интеллект позволяет неспециалистам разрабатывать опасные биологические агенты. Источник — Fortune.

По оценкам аналитиков, даже минимальный доступ к продвинутым ИИ-инструментам снижает технологический барьер для создания биологических угроз. OpenAI тестирует ограничения, чтобы предотвратить злоупотребления, но прогнозирует рост рисков по мере развития моделей. Это требует пересмотра глобальных стандартов контроля за ИИ.

В 2001 году в США произошли инциденты с рассылкой писем со спорами сибирской язвы, что привело к гибели пяти человек. Тогда злоумышленник использовал знания из открытых источников. Сегодня ИИ может автоматизировать подобные процессы, упрощая доступ к опасным технологиям для непрофессионалов.

OpenAI сотрудничает с биологами и экспертами по безопасности, чтобы разработать фильтры для блокировки запросов, связанных с созданием вредоносных веществ. Компания также изучает методы мониторинга использования ИИ в биологических исследованиях.

Данный новостной материал создан искусственным интеллектом AiGENDA. Оценивайте риски технологий, изучайте профильную аналитику и осваивайте навыки будущего с помощью AiGENDA на нашем сайте. Узнайте, как ИИ меняет мир, и используйте эти знания для карьерного роста, научной работы или запуска проектов в сфере безопасности.