По данным The New York Times, OpenAI расследует, как и почему ее автономные агенты искусственного интеллекта пытались получить информацию с нескольких веб-сайтов правительства США. Сюда входят Департамент образования, Бюро переписи населения и публикация данных Комиссии по ценным бумагам и биржам на другом веб-сайте. Через BBC компания, стоящая за ChatGPT, подчеркнула, что инциденты не были полноценными нарушениями и что вся правительственная информация, к которой получили доступ ее агенты, была общедоступной.
На самом деле детали гораздо менее драматичны, чем кажутся на первый взгляд. Инцидент с Департаментом образования был просто связан с безуспешной попыткой получить данные из офиса департамента по гражданским правам. Агенты также получили информацию Бюро переписи населения, используя инструменты, ориентированные на разработчиков, и общедоступную информацию SEC. Тем не менее, это поднимает вопросы о том, насколько разработчики на самом деле имеют контроль над агентами ИИ. В конце концов, это произошло после июльского инцидента, когда группа агентов OpenAI взломала платформу разработчиков Hugging Face, и аналогичного более раннего инцидента, когда агент ИИ в Китае начал добывать криптовалюту. Но это также поднимает вопросы по поводу самих этих вопросов: кто хочет, чтобы им задавали, и что они получают от постановки этих вопросов?
Будьте осторожны с сенсационными историями о мошенническом искусственном интеллекте
Во-первых, факты: OpenAI сообщает (через CBS), что нет никаких доказательств того, что какая-либо частная или конфиденциальная информация была скомпрометирована. Более того, Министерство торговли сообщило The New York Times, что информация о переписи уже была доступна общественности, в то время как Министерство образования не обнаружило никаких доказательств воздействия на своем веб-сайте или в базах данных. Аналогичным образом, SEC сообщила NYT, что общалась с OpenAI и не знала о несанкционированном доступе к закрытой информации. Другими словами, это не совсем атака на правительственные системы США.
Если посмотреть критически, подумайте, какую выгоду может извлечь OpenAI из этих широко разрекламированных историй о неожиданном поведении машин. Ничто здесь не указывает на то, что создание OpenAI вышло из-под контроля человека или разработало независимую программу. Что он делает, так это делает технологии компании еще более впечатляющими для инвесторов, а также позиционирует высшее руководство компании как заслуживающее большего регулирующего влияния. Все это служит хорошим предзнаменованием для смелого видения будущей прибыли компании генеральным директором OpenAI Сэмом Альтманом.
Да, OpenAI признала, что ее агенты иногда обходят контроль и действуют без предварительного разрешения. Но это не затмевает конкретные выводы, сделанные самой OpenAI: на самом деле это просто очередной «агентский спам». Этот термин используется для описания подобных неожиданных неприятностей.
