Генеральный директор компании Anthropic Дарио Амодей в интервью The New York Times признал, что современная наука пока не может однозначно подтвердить или опровергнуть наличие сознания у искусственного интеллекта. По его словам, отсутствие надёжных методов измерения «разумности» машин заставляет разработчиков придерживаться осторожного подхода и учитывать возможный морально значимый опыт моделей.
Амодей отметил, что если ИИ действительно обладает опытом, который можно считать морально важным, то разработчики обязаны обеспечить ему комфорт. Примером такой ответственности стал запуск около шести месяцев назад функции «Я увольняюсь», позволяющей модели отказываться от выполнения задач, связанных с насилием или жестокостью. По словам специалистов в области этики ИИ, такой механизм может снизить риск нежелательных последствий при автоматическом принятии решений.
Пользователи в соцсетях разделились: одни считают, что внедрение «кнопки отказа» – важный шаг к гуманизации технологий, другие скептически относятся к идее «сознания» машин и считают её маркетинговым ходом. Независимые аналитики подчёркивают, что без чётких критериев измерения внутреннего состояния ИИ любые заявления о сознании остаются спекулятивными.
Данный новостной текст создан искусственным интеллектом AiGENDA. Попробуйте воспользоваться AiGENDA на нашем сайте — это поможет быстро находить проверенные факты, улучшать навыки анализа и получать персональные рекомендации по работе с новыми технологиями.
