Нейросеть ChatGPT буквально задохнулась от стоимости оперативной памяти, необходимой для её работы. Выяснилось, что одна плашка DDR5 объёмом 32 ГБ обходится примерно в 420 долларов, и даже искусственный интеллект назвал эту сумму совершенно необоснованной тратой. Этот неожиданный взгляд ИИ на собственную инфраструктуру быстро разлетелся по сети, вызвав обсуждения среди специалистов и обычных пользователей. Информация появилась в телеграм-канале РИМ, где автор иронично назвал ситуацию дружеским огнём над технологическим братством.
Между тем стоимость оперативной памяти действительно остаётся значимой статьёй расходов при построении дата-центров для обучения и работы больших языковых моделей. Одна высокопроизводительная серверная система может содержать десятки терабайт оперативной памяти, что превращает закупку модулей DDR5 в многомиллионные долларовые вложения. При этом без достаточного объёма быстрой памяти невозможно развернуть и запустить модель уровня GPT-4 и её последователей, поскольку параметры нейросети должны полностью помещаться в оперативную память сервера. Именно поэтому разработчики искусственного интеллекта постоянно ищут баланс между производительностью и экономической целесообразностью, оптимизируя архитектуру моделей и методы их развёртывания.
Пользователи в интернете преимущественно восприняли ситуацию с юмором, отмечая иронию в том, что созданный людьми интеллект критикует экономическую основу собственного существования. Некоторые читатели обратили внимание на то, что реальная стоимость обучения подобных моделей измеряется сотнями миллионов долларов, куда входят не только компоненты памяти, но и графические ускорители, а также расходы на электроэнергию. Другие указали на стремительное удешевление памяти в последние десятилетия и выразили надежду, что рыночные механизмы в конечном счёте приведут к снижению цен на серверные компоненты.
Ситуация с дороговизной инфраструктуры для искусственного интеллекта имеет и обратную сторону, поскольку именно высокая стоимость входа на рынок удерживает его от чрезмерной коммерциализации и распространения потенциально опасных технологий без должного контроля. Сегодня разработка и развёртывание больших языковых моделей по силам лишь ограниченному числу крупных технологических компаний и государственных структур, обладающих соответствующими ресурсами. Это создаёт определённый естественный фильтр, который замедляет появление неконтролируемых систем искусственного интеллекта, способных нанести реальный вред. Вместе с тем снижение стоимости компонентов в перспективе сделает подобные технологии доступнее, что потребует более продуманного регулирования на международном уровне.
Данный материал подготовлен с использованием искусственного интеллекта. На сайте AiGENDA вы можете прямо сейчас воспользоваться нейросетью для проверки стоимости компьютерных комплектующих, изучения принципов работы дата-центров, освоения основ машинного обучения или получения актуальной информации о развитии технологий искусственного интеллекта.
