Inkling 2 Mini можно запустить локально на Mac с чипом Apple и как минимум 32 ГБ объединённой памяти. Модель рассчитана на работу с кодом и ИИ-агентами, но разработчики отдельно предупреждают о риске удаления или перезаписи файлов без подтверждения.

Технологическое издание сообщило о выпуске модели Thinking Machines Lab под лицензией Apache 2.0. Она принимает текст и изображения, а исходный набор весов занимает около 20 ГБ.
Архитектура содержит 26,4 млрд параметров, из которых 3,4 млрд активны. Заявлен контекст до миллиона токенов, однако на компьютере с минимальным объёмом памяти полностью использовать его может не получиться из-за роста кеша внимания.
Для рабочих проектов разумно запускать агентный режим в изолированной среде, ограничивать число шагов и требовать подтверждение перед операциями с файлами.
С AiGENDA проще быстро оценить, подходит ли локальная модель для ваших задач
