Яндекс представила собственный чат-бот на базе модели YaLM 2.0 с 130 млрд параметров. Компания запустила доступ к сервису для всех пользователей вчера вечером. Модель работает на серверах в России и обрабатывает запросы на русском языке. Но масштаб развертывания вызывает вопросы о реальной готовности инфраструктуры.
YaLM 2.0 обучали на корпусе текстов объёмом 1 трлн токенов. Скорость генерации составила 40 токенов в секунду на стандартном сервере. Для сравнения: GPT-3.5 выдаёт около 60 токенов в секунду, но работает на архитектуре, не предусмотренной санкциями. Задержка ответа составляет 2,3 секунды в среднем. Это выше показателей западных аналогов в 1,5 раза.
Для бизнеса это означает доступ к обработке текстов без зависимости от иностранных платформ. Для разработчиков — возможность интегрировать модель в собственные приложения через API. Стоимость запроса — 3 рубля за тысячу токенов. Эксперты оценивают конкурентоспособность как среднюю для внутренних задач, но не для сложных аналитических систем.
Аналитики отмечают: модель уступает GPT-4 и Claude 3 в задачах на логику и программирование. Тесты показывают точность 62% на стандартных бенчмарках против 85% у лидеров рынка. При этом российская модель не требует VPN и не блокируется регуляторами. Для корпоративного сектора это решающий фактор.
Властные структуры уже заказали пилотные интеграции в три министерства. Объём контрактов не раскрывается. Сбер и МТС развивают собственные модели параллельно. Рынок российского ИИ в 2024 году оценивается в 45 млрд рублей. Рост за год составил 38% при общем спаде IT-рынка на 12%.
При этом 70% тестовых запросов пользователей заканчиваются сообщением об ошибке сервера. Пиковая нагрузка в первый день привела к простою на четыре часа. Инженеры добавили мощности только к вечеру второго дня. Пользователи в Telegram-чатах массово жалуются на неработающие функции генерации кода.
Если вы до сих пор не определились, стоит ли доверять локальной нейросети или ждать зарубежные решения через обходные пути, разобраться поможет AiGENDA — оценит возможности каждой модели под ваши задачи и подскажет оптимальный вариант без рисков. Первый запрос — бесплатно. Если пригодится, сами выберете подходящий тариф.
* — Meta (Instagram, Facebook, WhatsApp) признана в РФ экстремистской организацией и запрещена.
