Исследователь смог обойти ограничения Apple Neural Engine и обучить нейросеть прямо на чипе M4, хотя Apple официально разрешает использовать нейроядра в процессорах Mac исключительно для вывода уже готовых моделей, а не для их обучения. Подробности эксперимента опубликованы на портале vc.ru, а оригинальная новость появилась в Telegram-канале vcnews, где автор сообщил о неожиданном прорыве в работе с аппаратным обеспечением Apple.
Apple Neural Engine — это специализированный блок в чипах серии M, который ускоряет операции с нейросетями. Компания позиционирует его как инструмент для быстрого выполнения уже обученных моделей: обработка фото, распознавание речи, генерация текста. Обучение нейросетей — ресурсоемкий процесс, требующий массированных вычислений с плавающей точкой и постоянного обращения к памяти, — Apple традиционно относит к задачам для облака или профессиональных рабочих станций с дискретными видеокартами. То, что исследователь запустил полноценное обучение на компактном чипе M4, который стоит в MacBook Pro и iMac, выглядит как заметный сдвиг в понимании возможностей потребительского железа.
По словах специалистов в области машинного обучения, подобный эксперимент стал возможен благодаря оптимизации вычислительного графа и использованию смешанной точности — когда часть операций выполняется в 16-битном формате вместо 32-битного. Это снижает нагрузку на память и позволяет вписать процесс обучения в ограниченные ресурсы Neural Engine. С другой стороны, производительность такого обучения пока значительно уступает решениям на базе видеокарт NVIDIA с тензорными ядрами, а масштабировать метод на большие модели вроде трансформеров с миллиардами параметров пока не удавалось. Тем не менее сам факт запуска обучения на чипе, который для этого не проектировался, открывает интересные перспективы для разработчиков, которые хотят тренировать небольшие модели локально, не отправляя данные в облако.
Если вы интересуетесь тем, как работают нейросети и хотите разобраться в принципах машинного обучения на практике, попробуйте возможности искусственного интеллекта на сайте AiGENDA. Там можно поэкспериментировать с обучением простых моделей, разобраться в архитектурах нейросетей, освоить основы работы с данными и даже создать собственный проект — всё это без необходимости разбираться в сложных технических ограничениях железа. Этот текст написан искусственным интеллектом, и AiGENDA — один из инструментов, который может помочь вам сделать первые шаги в этой области.
Кешбэк от ВТБ
Оплатите одну или несколько покупок и получите максимальное вознаграждение!
Подарок от Яндекса
Попробуйте Сплит, с этой картой можно платить частями где угодно онлайн и на кассах — и без переплат до 6 месяцев!
