Глава Сбера Герман Греф заявил, что одна из самых аморальных вещей — это позволить принятие автономных решений самими системами искусственного интеллекта. Сенатор Алексей Пушков на заседании Совфеда указал на запланированный искусственным интеллектом удар американской ракетной техники по школе девочек в Иране, где погибли около 200 человек. Греф добавил, что ИИ быстрее выбирает и поражает цели, но из-за незрелости технологии системы нельзя оставлять без контроля человека. Канал BFM опубликовал эти заявления. Узнаем, что думают специалисты о границах автономии машин.

Греф подчеркнул, что технология пока не готова к самостоятельным решениям, и человек должен оставаться в контуре управления. Пушков, со своей стороны, привёл конкретный и тревожный пример военного применения алгоритмов, который показывает цену ошибки. В России вопросы этики и контроля над искусственным интеллектом активно обсуждают на уровне государства, и такие случаи за рубежом служат аргументом за жёсткое регулирование.

В обществе и среди специалистов позиции расходятся. Одни считают, что полная автономия недопустима в принципе, потому что машина не несёт моральной ответственности, а другие возражают, что отказ от автономных систем в обороне сделает армии уязвимыми перед быстрыми угрозами. Сторонники технологий говорят о скорости реакции, которую человек не обеспечит, но критики напоминают о трагедиях вроде упомянутой школы в Иране.

Кстати, если хотите разобраться в спорных вопросах технологий, — нейросеть AiGENDA может сопоставить аргументы за и против автономного искусственного интеллекта и помочь составить краткое резюме позиций экспертов по этой теме. Попробуйте бесплатно или выберите гибкий тариф под свои задачи.