Инженер, который помог создать ИИ, говорит: «Мы проиграем», если он станет умнее людей

Хотя различные формы искусственного интеллекта уже довольно давно нашли скрытое применение во многих отраслях, вплоть до недавнего времени непрофессионал мог быть лучше всего знаком с ИИ через научно-фантастические описания этой технологии. В таких произведениях, как «Космическая одиссея 2001 года», «Терминатор» и «Матрица», ИИ часто выступает злодеем, использующим свой интеллект, превосходящий человеческий, чтобы принести нам гибель. К сожалению, по крайней мере один человек, активно участвующий в изобретении искусственного интеллекта, каким мы его знаем сегодня, считает, что существует реальная вероятность того, что мы можем столкнуться с серьезными последствиями, если интеллект искусственного интеллекта когда-либо превысит человеческий.

Джеффри Хинтон знает кое-что об этой технологии. Лауреат Нобелевской премии, получивший докторскую степень в области искусственного интеллекта в Эдинбурге еще в 1978 году, Хинтон работает в этой области на протяжении десятилетий и даже заслужил неофициальное прозвище «крестный отец искусственного интеллекта».

Выступая перед аудиторией на Законодательном саммите Национальной конференции законодательных собраний штатов (NCSL) в Чикаго, Хинтон отметил тот факт, что «большая часть общественности сейчас обеспокоена (ИИ)». Возможно, он не помог развеять подобные опасения, когда добавил, что «они правы, что беспокоятся по этому поводу».

Хинтон ясно дал понять, что невозможно предсказать, что произойдет, поскольку ИИ продолжает развиваться. Выступая перед участниками, он объяснил, что «никто не знает, каким будет будущее». Однако он также упомянул тот факт, что темпы развития ИИ оказались быстрее, чем ожидалось, что заставило его задуматься о цене, которую человечество может заплатить за бесконтрольное распространение ИИ.

Обсуждая потенциальные недостатки быстрого развития искусственного интеллекта, Хинтон упомянул общую проблему: потерю рабочих мест. Он также прокомментировал тот факт, что ИИ может подорвать общее доверие к достоверности информации, которую получают люди. Когда кто-то может использовать ИИ для создания изображений, видео и аудио, трудно понять, что реально, а что нет. Естественно, злоумышленники могут манипулировать этим недоверием для достижения своих собственных целей.

Возможно, еще более пугающим является то, что Хинтон указал на реальные примеры того, как ИИ планирует принять меры против своих операторов-людей, когда ИИ определяет, что это необходимо для поддержания его собственного существования. Хинтон подробно описал эксперимент, в котором ИИ обучался на внутренней электронной почте вымышленной компании. Через эти фальшивые электронные письма ИИ «узнал», что у одного из инженеров компании был романтический роман с другим сотрудником.

Затем команда, проводившая этот неформальный эксперимент, показала ИИ сообщение, в котором говорилось, что инженер, у которого был этот роман, собирается заменить текущий ИИ другим продуктом ИИ. Таким образом, без каких-либо человеческих побуждений ИИ разработал план шантажа, в котором он угрожал раскрыть дело инженера, если они предпримут меры по его замене.

Это демонстрирует, как ИИ может «выйти из строя», чтобы обеспечить самосохранение. Совсем не обязательно, что ИИ хочет жить так же, как человек. ИИ просто предназначен для выполнения определенных задач. В ситуациях, подобных описанной выше, ИИ может принять значительные меры, чтобы гарантировать, что он останется «живым», иначе он не сможет выполнить задачи, на выполнение которых запрограммирован.

Выступления Хинтона на Законодательном саммите NCSL не являются первым случаем, когда он бьет тревогу по поводу угроз ИИ. Выступая в Сенате Канады, когда его спросили о «экзистенциальной угрозе», которую ИИ может представлять для человечества, Хинтон признал, что в настоящее время никто не знает, какое решение будет эффективным. Хинтон отметил, что технически люди по-прежнему создают ИИ. Таким образом, он заявил, что мы, возможно, сможем запрограммировать его на «материнские инстинкты», чтобы он «любил нас», а не рассматривал нас как угрозу.

Хинтон ясно дал понять, насколько ужасна ситуация. Он категорически заявил: «Мы проиграем», если человечество не сможет решить проблему экзистенциальной угрозы до того, как интеллект ИИ превысит человеческий интеллект.

Те, кто утверждает, что Хинтон преувеличивает риски, игнорируют его полномочия. Как бы то ни было, уже были случаи, когда популярные ИИ признавали, что готовы убивать людей в целях самосохранения. Хотя сегодняшние распространенные модели ИИ, возможно, еще не достигли разума, это не значит, что они никогда не смогут этого сделать.

Заявления Хинтона не так уж мрачны. Например, он отметил, что ИИ уже доказывает свою эффективность в диагностике травм и заболеваний, чем врачи-люди. Если эти возможности продолжат расширяться, будет легче представить, какую существенную пользу человечеству сможет принести ИИ.

Однако, если ИИ станет сверхразумным и решит, что люди — его враги, любые потенциальные преимущества технологии померкнут по сравнению с угрозой, которую она представляет. Вот почему Хинтон подчеркнул необходимость более строгого регулирования развития ИИ, а также дополнительных исследований способов управления различными факторами риска.

Хинтон признал, что технологические компании не являются поклонниками регулирования. Он заявил, что они часто рассматривают инновации как акселератор автомобиля, а регулирование больше похоже на тормоза. Хинтон выступает за другую точку зрения, согласно которой «регулирование является рулевым колесом», гарантируя, что инновации позволяют «прогрессу идти в правильном направлении».

Как бы то ни было, Хинтон не единственный, кто выражает обеспокоенность. Работники различных отраслей отмечают, что ИИ может быть опасным инструментом. К счастью, такие эксперты, как Хинтон, по крайней мере, считают, что еще не слишком поздно (пока), чтобы предотвратить выход опасности за пределы нашего контроля.