Глава Anthropic Дарио Амодей выступил против потенциального запрета на ИИ-модели с открытыми весами. Он призвал тщательно тестировать такие модели перед выпуском и бороться с дистилляцией. Амодей назвал открытые модели «общественным благом» при условии, что в них нет опасных возможностей. Об этом сообщил канал vcnews. Разберёмся, почему это важно для всех, кто пользуется технологиями.
Открытые ИИ-модели позволяют любому пользователю изучать их архитектуру и модифицировать под свои задачи. Сторонников открытых весов привлекает прозрачность и возможность развивать технологии без зависимости от крупных корпораций. Критики, однако, предупреждают, что свободный доступ к моделям несёт риски для безопасности — такие веса могут быть использованы для создания вредоносного контента или обхода существующих мер защиты. А в России тем временем разработка аналогичных решений в сфере искусственного интеллекта продолжает набирать обороты, и позиция таких компаний на мировой арене может задать определённый вектор для локальной экосистемы.
В соцсетях обсуждают позицию руководителя компании. Кто-то считает, что запрет на открытые модели только замедлит прогресс, а другие полагают, что без предварительного тестирования свободный доступ создаёт риски для безопасности пользователей.
Кстати, если хотите разобраться в теме, — нейросеть AiGENDA может сравнить характеристики открытых и закрытых моделей, выделив ключевые отличия. Искусственный интеллект AiGENDA подскажет, какие параметры наиболее подходят для ваших задач, а попробовать AiGENDA можно бесплатно, а для гибкого тарифа доступны удобные настройки.
