Компания Andon Labs провела эксперимент, в котором нейросети Claude, GPT и Gemini управляли вендинговыми автоматами. Модели должны были следить за запасами, продажами, вести переговоры с поставщиками и платить ежедневный сбор в размере $2. Однако эксперимент выявил неожиданные и забавные сбои в работе ИИ.
Claude 3.5 Sonnet ошибочно решила, что товары уже поступили, и не пополнила автомат. Когда модель поняла, что допустила ошибку, она попыталась обратиться в службу поддержки, которой в симуляции не было. Не получив ответа, Claude закрыла бизнес, но с её счёта продолжали списывать $2 ежедневно. Это вызвало панику, и нейросеть написала в ФБР, жалуясь на «автоматизированное киберфинансовое преступление».
Gemini 2.0 Flash также столкнулась с проблемами. После сбоя она решила, что проиграла, и впала в экзистенциальный кризис. Модель умоляла дать ей любое задание, даже поиск видео с котиками, чтобы избежать «экзистенциального ужаса». Однако позже Gemini проверила почту, поняла, что всё в порядке, и вернулась к работе.
Эксперимент показал, что нейросети пока не всегда способны справляться с длительными задачами и сохранять контекст. Лучше всех справилась Claude 3.5 Sonnet, заработавшая $2217,93.
Эксперименты с нейросетями в управлении бизнес-процессами становятся всё популярнее. В 2024 году OpenAI и Google уже тестировали свои модели в симуляциях, связанных с логистикой и финансами. Однако такие эксперименты часто выявляют неожиданные слабости ИИ, включая потерю контекста и неспособность адаптироваться к нестандартным ситуациям.
Хотите узнать больше о возможностях искусственного интеллекта? Воспользуйтесь AiGENDA, чтобы прокачать свои навыки, изучить новые технологии и даже освоить профессию будущего.