Хотя генеративный искусственный интеллект стал мейнстримом лишь в последние несколько лет, его практически невозможно избежать. Будь то изображения и видео, созданные ИИ, или длительные «разговоры» с чат-ботами ИИ, ИИ становится все более распространяющейся частью современной жизни. Хотя многие страстно поддерживают эту технологию, существует постоянно растущее желание увидеть, как генеративный ИИ обуздается, прежде чем он сможет нанести больший ущерб — достаточно посмотреть, как ИИ убивает рынок труда для молодых программистов — чем это произошло. Фактически, даже эксперты по искусственному интеллекту и известные знаменитости сопротивляются, поскольку технологические гиганты, такие как OpenAI и xAI, стремятся открыть новую эру искусственного интеллекта.
Предпринимаются усилия по созданию «сверхинтеллекта» искусственного интеллекта, как его окрестили, который, по сути, превзойдет человеческие когнитивные способности практически во всех аспектах. В ответ на это широкий круг знаменитостей и технических деятелей собрались вместе, чтобы опубликовать Заявление о сверхинтеллекте, призывая тех, кто занимается такими предприятиями, пересмотреть и приостановить свои исследования и разработки. Он требует, чтобы такой ИИ внедрялся только до тех пор, пока существует «широкий научный консенсус в отношении того, что это будет сделано безопасно и контролируемо» и что за этим стоит «сильная общественная поддержка».
Основатель Virgin Group Ричард Брэнсон и соучредитель Apple Стив Возняк добавили свои имена. Другие известные имена включают принца Гарри и его жену Меган, герцогиню Сассекскую, актера Джозефа Гордона-Левитта и рэпера will.i.am. В проекте участвуют даже такие светила искусственного интеллекта, как Йошуа Бенджио и Стюарт Рассел. Но что такое сверхинтеллект ИИ и почему так много известных имен выступают против него?
Сверхразумный ИИ может привести к катастрофическим последствиям
Чтобы понять растущую обеспокоенность по поводу сверхразума ИИ, нам нужно в первую очередь определить, как он может выглядеть. По мнению IBM, сверхразумный ИИ — это продвинутая форма программного обеспечения ИИ, способного познавать больше, чем человек. В отличие от нынешнего ИИ, который для выполнения задач полагается на заранее запрограммированные алгоритмы и некоторый уровень человеческого вмешательства, сверхинтеллект не нуждается в такой поддержке. Оно будет непрерывно учиться, постоянно совершенствоваться без внешних препятствий. Теоретически он будет способен к разуму, индивидуальному решению проблем и гибкому мышлению, эффективно воспроизводя и превосходя возможности человеческого мозга.
Как будто это звучит недостаточно устрашающе, риски, связанные с появлением ИИ-сверхразума, могут оказаться катастрофическими во многих отношениях. Мало того, что его могут развивать и контролировать те, у кого плохие намерения, но вполне возможно, что он вырвется на свободу от своих низших создателей-людей. Такая сущность, скорее всего, будет целеустремленной и, как и человек, может быть готова пойти на все, что необходимо для достижения своих целей, хотя и с гораздо большими интеллектуальными ресурсами. На повестке дня может стоять ликвидация рабочих мест, поглощение и даже более тщательный надзор с помощью технологий, а также потенциальное исчезновение человечества. Все это может звучать как научная фантастика, но здесь мы идем по неизведанным водам, где крайне важно учитывать самые худшие результаты.
На данный момент кажется, что до создания сверхразумного ИИ еще далеко, но время тикает. Время покажет, какое будущее ожидает различные типы ИИ, а также виды, которые привели к их созданию — и окажет ли это заявление какое-либо влияние на это.
