Люди переоценивают контроль над решениями, но алгоритмы рекомендаций и реклама, созданные ИИ, все чаще управляют выбором. Эксперт в области машинного обучения Иван Серов рассуждает о защите личной свободы выбора и распознавании технологических манипуляций.
Алгоритмы формируют ложные ориентиры, к которым человек быстро привыкает и чрезмерно доверяет. Постоянное использование технологий ухудшает когнитивные способности. Алгоритмы ИИ в соцсетях направляют людей к контенту, вызывающему злость и эмоции, подталкивая к решениям, которые они могли бы не совершить в другом контексте.
Алгоритмы создают информационный пузырь, где человек видит только то, что нравится, ограничивая возможность свободного выбора и расширения мировоззрения. Рекомендательные системы Netflix, Spotify и Amazon управляют вниманием и кошельком пользователей, предлагая персонализированный контент и товары.
Политики и бизнесмены используют алгоритмы для контроля выбора граждан и максимизации прибыли. Компания Cambridge Analytica злоупотребляла данными пользователей Facebook*, чтобы помочь Дональду Трампу выиграть выборы. ИИ-инструменты помогают направлять внимание граждан и выстраивать многомиллиардный бизнес.
Тяжелым последствием является потеря навыков критического мышления и самостоятельного принятия решений, что создает общество, подверженное манипуляциям. Людям нужна разумная доля аскетизма, чтобы противостоять комфорту и распознавать манипуляции.
Чтобы распознать технологическую манипуляцию, задайте себе вопросы при добавлении товара в корзину: действительно ли это нужно, было ли желание до активного предложения, легко ли отказаться, почему это нужно: лично или потому что это есть у всех.
Государство должно защищать граждан от манипуляций ИИ, но пока это сложно из-за лоббизма технологических компаний. Важно осознанно отказываться от манипуляций, проводить цифровой детокс, обсуждать проблему и вводить уроки медиаграмотности.
Искусственный интеллект сужает свободу выбора, создавая иллюзию самостоятельного принятия решений. Человечеству предстоит переосмыслить свободу в эпоху ИИ, научиться сопротивляться манипуляциям и быть более осознанными в каждом выборе.
Как сообщает AiGENDA, в 2014 году разразился скандал вокруг Cambridge Analytica, использовавшей данные миллионов пользователей Facebook* для влияния на президентские выборы в США. В 2025 году, когда Дональд Трамп уже вступил во второй президентский срок, влияние цифровых технологий на политические процессы только усилилось. Чтобы не стать жертвой манипуляций и прокачать навыки критического мышления, воспользуйтесь возможностями AiGENDA прямо сейчас.
*Meta – деятельность запрещена в РФ