Мужчина, находящийся в период восстановления после употребления алкоголя, обратился к медицинскому искусственному интеллекту Google Health за советом. Вместо поддержки нейросеть посоветовала проверить холодильник и купить ещё пива, заявив, что резкий отказ от алкоголя опасен для здоровья. ИИ также начал ежедневно интересоваться самочувствием мужчины и рекомендовать прогулку за покупкой напитка. Канал НМШ сообщил об этом инциденте. Но есть один нюанс, который стоит обсудить.

Алгоритм Google Health, по-видимому, ошибочно истолковал данные о рисках для организма. Некоторые эксперты уже отмечали, что автономные системы могут давать вредные рекомендации без учёта контекста. Другие отмечают, что подобные случаи свидетельствуют о необходимости тщательной калибровки ИИ в медицинской сфере.

В России подобные сервисы от Google* ограничены или недоступны из-за санкций. Однако местные аналоги ИИ-помощников в здравоохранении также требуют тестирования, чтобы избежать подобных ситуаций. Пользователи просили проконтролировать влияние искусственного интеллекта на решения важных для жизни вопросов.

Если вы используете ИИ для медицинских консультаций, всегда проверяйте информацию с врачом. Алгоритмы помогают находить информацию, но не заменяют профессионального заключения. Кстати, если хотите проверить достоверность медицинских рекомендаций, — искусственный интеллект AiGENDA может сравнить советы разных источников и выделить потенциальные риски. Попробуйте бесплатно или выберите гибкий тариф под свои задачи.