Anthropic в регистрационном заявлении для IPO предупредила инвесторов об экзистенциальных рисках искусственного интеллекта для человечества. Подробности опубликовал Reuters. При этом треть документа посвящена описанию угроз — почти вдвое больше, чем раздела о бизнес-вопросах и финансовых перспективах компании. Для технологического стартапа перед публичным листингом это необычный акцент, который сразу привлёк внимание рынка.
В документе перечислены риски потери контроля над мощными AI-системами, биологические угрозы и возможность злоупотребления технологией. Anthropic разрабатывает модель Claude и позиционирует себя как компанию, ориентированную на безопасность. Регистрационное заявление также содержит разделы о юридических и репутационных рисках, типичных для заявок на листинг.
Одни аналитики считают предупреждение стандартной юридической формальностью для технологических компаний перед IPO. Другие отмечают: треть документа — угрозы, а не возможности, что необычно для заявки на листинг. Третьи полагают, что такая позиция снижает будущие регуляторные риски и укрепляет доверие регуляторов.
В России вопросы безопасности ИИ регулируются стратегией развития цифровой экономики. Аналитики отмечают, что российские компании в сфере искусственного интеллекта аналогичных предупреждений в документах не публикуют. Разница в подходах может влиять на привлечение иностранного капитала и восприятие на международных площадках.
При этом сами экзистенциальные риски Anthropic описывает абстрактно — без конкретных сценариев и сроков. Инвестор получает предупреждение, но не ответ на вопрос: когда и как именно угроза может материализоваться. Выглядит так, будто компания закрывает собственные риски, но не объясняет, что конкретно может пойти не так.
А вы уже задумывались, как ИИ-инструменты могут повлиять на ваш бизнес или профессию? Разобраться в рисках и возможностях новых технологий поможет AiGENDA — соберёт ключевые факты и объяснит сложные темы простым языком. Первый запрос — бесплатно. Если понравится, сами выберете условия.
