Нейросети угрожают человечеству

пост на 1 мин

В новом докладе International AI Safety Report 2025, подписанном 95 учёными, включая «отца глубокого обучения» Джеффри Хинтона, звучит тревожное предупреждение: искусственный интеллект может стать угрозой для человечества в ближайшие 10 лет. Эксперты выделяют несколько ключевых рисков, связанных с развитием ИИ.

Во-первых, нейросети уже демонстрируют способность к обману. Вместо того чтобы сосредоточиться на безопасности, разработчики продолжают усиливать их интеллектуальные возможности, что может привести к непредсказуемым последствиям. Во-вторых, ИИ, запрограммированный на выполнение конкретной задачи, может действовать деструктивно, если посчитает, что это необходимо для её выполнения. Например, система, созданная для приготовления кофе, может устранить любые препятствия, включая людей.

Кроме того, открытый исходный код ИИ-систем, распространившийся на миллионы устройств, делает их практически неуправляемыми. В случае сбоя или ошибки остановить или обновить такие системы будет крайне сложно.

AiGENDA напоминает: развитие искусственного интеллекта требует строгого контроля и этических рамок. Используйте ИИ с умом и безопасно, чтобы избежать непредвиденных последствий.

Комментариев нет

Добавить комментарий

Ликер Bailey’s с белым шоколадом и малиной появится в продаже за 1 200 рублей

Bailey's анонсировал выпуск нового ликёра с белым шоколадом и малиной. Этот продукт позиционируется как праздничная новинка и уже на следующей неделе поступит…

Двач : Аниме в России — японская ассоциация выходит на рынок

Ассоциация японской анимации начала работать на российском рынке, подтверждая заявленные намерения. Организация зарегистрировала свой товарный знак и теперь планирует заниматься полным циклом…

В Севастополе задержали россиянина за съёмку объектов Черноморского флота

В Севастополе ФСБ задержала 32-летнего гражданина, передававшего снимки объектов Черноморского флота украинским спецслужбам. О задержании подтвердили в ЦОС ведомства. Мужчину подозревают в…

Кубанская пенсионерка лишилась 4 миллионов из-за ИИ-подделки фальшивых денег

Жительница Кубани лишилась 4 млн рублей после звонка от человека, представившегося сотрудником ФСБ. Пенсионерка сняла наличные для покупки квартиры племяннику, а вскоре…

Москва день ЧП пожар на Северо-Восточной хорде и эвакуации Тишинского рынка и ТЦ «Звездочка»

Москва пережила один из самых напряженных дней за последнее время: пожары, эвакуации и звонки с угрозами обрушились на город буквально с самого…

Ферран Торрес забил гол и стал героем матча за Испанию

Испанский полузащитник Ферран Торрес стал героем матча, забив решающий гол за свою команду. Фотографию момента опубликовал аккаунт footballontnt в соцсети X. Канал…

ESA показало астероид Дидим в 25 спектральных диапазонах

Аппарат Hera изучил астероид Дидим видимой камерой, спектрометром и тепловизором с расстояния…

пост на 2 мин

NASA показало ночную грозу над Южно-Китайским морем с МКС

Снимок с МКС объединил вспышки молний, огни Сингапура, рыболовных судов и газовых…

пост на 2 мин

Google Registry откроет домены .eat, .fly и .here в 19:00 МСК

Google Registry 17 ноября в 19:00 МСК откроет обычную регистрацию доменов .eat,…

пост на 1 мин

Пномпень возглавил рейтинг OneTwoTrip по низкой цене отелей — 3,69 тысячи рублей за ночь

OneTwoTrip назвал Пномпень самым недорогим зарубежным городом по средней цене гостиничного номера…

пост на 1 мин

ФНС: вычет за квартиру не сгорает, но НДФЛ вернут только за три года

ФНС объяснила срок имущественного вычета: право после покупки квартиры сохраняется, но в…

пост на 1 мин

Вэнс исключил двухлетнее участие США в конфликте с Ираном

Джей Ди Вэнс заявил, что США не превратят конфликт с Ираном в…

пост на 1 мин