Как запустить Inkling 2 Mini на MacBook: локальной модели нужно от 32 Гбайт памяти

1 мин чтения
Изменить вопрос

Inkling 2 Mini можно запустить локально на MacBook с чипом Apple, если у компьютера не меньше 32 Гбайт объединённой памяти. Открытая мультимодальная модель принимает текст и изображения и отвечает текстом.

Ноутбук MacBook Pro
MacBook Pro: Jarkko Laine / Wikimedia Commons, CC BY 2.0

3DNews описал требования Inkling 2 Mini. Thinking Machines Lab выпустила веса под лицензией Apache 2.0; исходный набор занимает около 20 Гбайт, а для систем с дискретной графикой разработчик рекомендует от 32 Гбайт видеопамяти.

Для Mac доступны Ollama и Exo Labs. Разработчик отдельно предупреждает: агентный режим способен удалить или перезаписать файлы, поэтому модель стоит запускать в изолированной среде и требовать подтверждения опасных действий. Тот же принцип проверки полезен при работе с автоматическими системами распознавания.

Спросите AiGENDA, хватит ли вашего компьютера для локальной модели