Самые большие проблемы с кодированием ИИ только ухудшаются

В марте ИИ -подставные лица выкрикивали, что их собственные сотрудники будут отправлены в мусорную яруску истории. «Я думаю, что мы будем там через три -шесть месяцев, где ИИ пишет 90% кодекса», — заявил генеральный директор Антрии Дарио Амодеей. «А затем, через 12 месяцев, мы можем быть в мире, где ИИ пишет практически весь код». Даже Озимандий, возможно, предупредил от такой корыстной грандиозности, но претензии Амодея не были неуместными. Генеральный директор Amazon Энди Джаси предсказал, что ИИ значительно сокращает рабочую силу компании, включая программистов. Скептические голоса, такие как технологический аналитик Эда Цитрона, который назвал Amodei «лжецом, мошенником, карнавальным баркером и шарлатаном» в информационном бюллетене, опубликованном непосредственно перед претензией Amodei, не смог смягчить пузырь AI Hype.

Шесть месяцев спустя фундаментальные проблемы с ИИ в качестве инструмента кодирования обнажаются, и они только ухудшаются. Далеко от ИИ, направляющегося к чувствительности, как предсказывали сторонники, компании, которые охватывали ИИ в надежде ускорить работу, в то время как проливающие работники изучают трудный путь, которым это не серебряная пуля. Между тем, исследования продолжают показывать, что ИИ не только не смог ускорить работу по кодированию, но и на самом деле замедляет программисты. Код, произведенный с ИИ, ненадеж, и чаще всего приводит к опасной уязвимости безопасности. Основная проблема заключается в том, что ИИ совершает ошибки, что означает, что кодеры должны выбирать между двойной проверкой всего или пересечением пальцев, когда они совершают код. Эти проблемы не показывают никаких признаков ослабления, и нет никакого реального решения, поскольку головные боли, кодирующие AI, размножаются в различных отраслях промышленности.

Если вы когда -либо имели дело с некомпетентным сотрудником или коллегой, вы знаете, какой это может быть головная боль. Постоянно контролируя их или дважды проверяя их работу, не только тратит время, но и отталкивает вас от собственных обязанностей. Талантливые кодеры, которые обращаются к ИИ для повышения производительности, быстро оказываются в той же ситуации. Проблема «галлюцинации», которая сохраняется в крупных языковых моделях, — это не просто Google, рассказывающая людям есть клей. Это также производит плохой код.

В июле некоммерческий METR AI Research (оценка модели и угрозы) обнаружил, что разработчикам, которые использовали некоторые из лучших инструментов кодирования ИИ, потребовалось 19% дольше для выполнения задач. Разработчики в исследовании приняли менее 44% кода, сгенерированного AI, и потратили значительное время, полируя код, который они использовали, чтобы сделать его функциональным. Исследователи также заметили, что чем сложнее окружающая среда, тем менее полезным ИИ был кодеров. Еще более шокирующе, некоторые разработчики, похоже, не заметили, что ИИ замедляет их. После участия в исследовании они оценили, что он ускорил свою работу примерно на 20%, что почти обратно с снижением эффективности, которое показали данные.

Учитывая это снижение эффективности, неудивительно, что компании, которые поспешили принять ИИ, не видят результатов, которые они, возможно, ожидали. ИИ-это головная боль, с которой сталкиваются при простое приеме вашего заказа Taco Bell, поэтому ожидая, что он будет генерировать сложный код, и заменить четырехлетние владельцы степени никогда не звучали рациональными. Тем не менее, исследования, опубликованные в апреле, от компании -разработчика программного обеспечения Orgvue, обнаружили 55% сожаления среди 39% старших бизнесменов, которые уволили сотрудников, чтобы заменить их на ИИ.

Таким образом, сгенерированный AI-код может затирать время разработки до ползания, но, с другой стороны, он также пронизан уязвимостями безопасности. Результаты, опубликованные в начале сентября компании по безопасности Apiiro, показывают, что, когда компании обязывают ИИ использование ИИ в своей рабочей силе, они начинают отправлять в 10 раз больше «бомб» всего за шесть месяцев. Наиболее распространенной проблемой, с увеличением на 322%, была привилегия. Именно тогда код включает уязвимости, которые позволяют хакерам получить доступ высокого уровня к системе. При рассмотрении того, сколько компаний в настоящее время олл-ин в ИИ, последствия тревожны. Подобные эксплойты считаются временными бомбами, потому что код может показаться идеально, пока не обнаружит злой актер. От банков до электромобилей, легко эксплуатируемые обновления могут уже поставить под угрозу безопасность.

Это исследование было предвещено совместным документом, опубликованным в мае исследователям из Университета Сан -Франциско и других учреждений, что показало, что код ИИ увеличил критические уязвимости на 37,6% после всего лишь пяти «итераций». Подобные результаты сохранялись даже при использовании различных методов подсказования. На простом английском языке не только сгенерированный AI код создает проблемы безопасности, но и ухудшается, тем больше ИИ используется.

Существует только одно решение, каждая соответствующая исследовательская группа рекомендует: строгий надзор за человеком, чтобы дважды проверить код, сгенерированный AI, прежде чем он может нанести вред. Как отмечалось выше, такой контроль является вероятным объяснением сниженной эффективности ИИ, к которому приводит к разработке. Это проблема с курицей и яйцом-улов-22. Использование ИИ для ускорения разработки вызывает кошмары безопасности, но проверка кода на предмет ошибок замедляет разработку.