Inkling 2 Mini можно запустить локально на MacBook с чипом Apple, если у компьютера не меньше 32 Гбайт объединённой памяти. Открытая мультимодальная модель принимает текст и изображения и отвечает текстом.

3DNews описал требования Inkling 2 Mini. Thinking Machines Lab выпустила веса под лицензией Apache 2.0; исходный набор занимает около 20 Гбайт, а для систем с дискретной графикой разработчик рекомендует от 32 Гбайт видеопамяти.
Для Mac доступны Ollama и Exo Labs. Разработчик отдельно предупреждает: агентный режим способен удалить или перезаписать файлы, поэтому модель стоит запускать в изолированной среде и требовать подтверждения опасных действий. Тот же принцип проверки полезен при работе с автоматическими системами распознавания.
Спросите AiGENDA, хватит ли вашего компьютера для локальной модели
