Брэд Смит, президент Microsoft Brad Smith, назвал риск восстания искусственного интеллекта осязаемой угрозой, сравнив остроту требований к безопасности стиральной машины с теми, что требуют ИИ. Он призвал создать глобальные правила с «аварийным тормозом» для остановки ИИ при преследовании нежелательных целей.
Смит подчеркнул, что технологии эволюционируют быстрее, чем нормативная база, а текущие стандарты к ИИ сравнимы с теми, что применялись к первым электроприборам. Его призыв выглядит как реакция на растущее давление со стороны правительств и общества на крупнейших игроков в сфере ИИ. Microsoft один из первых продемонстрировал активный подход к этике искусственного интеллекта, включая исследования в области контроля над автономными системами. Об этом сообщается в исходном материале.
Контексту остроте внимания к безопасности ИИ служат как публичные скандалы с использованием ИИ в военных целях, так и беспрецедентные автоматизированные системы, которые начали самостоятельно перегруживать инфраструктуры. Эксперты отмечают, что без скоординированных международных усилий возможные сценарии могут выходить за рамки текущего регулирования.
Мнение о серьезности угрозы делится: некоторые видят в призывах к остановке ИИ форму паники, другие считают это предвестником необходимости ясных границ. Стоит отметить, что подобные заявления часто набирают обороты в медиа, но не всегда сопровождаются конкретными предложениями.
Материал подготовлен по информации из открытых источников:
1. https://t.me/rhymesrim/37628
