Учителя беспокоятся о том, что ученики используют ИИ для выполнения домашних заданий, издатели беспокоятся о том, что писатели используют ИИ для завершения своих книг, но теперь экспертам по биобезопасности есть о чем беспокоиться еще больше: о способности ИИ создавать опасные биологические агенты. Достаточно того, что крупные технологические компании, ведущие ученые и защитники национальной безопасности обеспокоены одним и тем же вопросом.
Есть опасения, что системы искусственного интеллекта стали достаточно способными создавать биологические молекулы и помогать в выполнении других сложных лабораторных задач, которые когда-то были прерогативой только высококвалифицированных специалистов. Теперь руководители от Microsoft до OpenAI и Anthropic присоединились к призывам Конгресса что-то сделать. В частности, есть надежда, что правительство сможет потребовать обязательной проверки синтетических ДНК и РНК, чтобы не допустить, чтобы злоумышленники преследовали опасное (потенциально смертельное) биологическое оружие.
В настоящее время программы скрининга, проводимые некоторыми компаниями, занимающимися синтетической биологией, в основном являются добровольными. Но сторонники разработки нового законодательства говорят, что эти проверки должны стать обязательным требованием по всей стране, прежде чем возможности ИИ продвинутся еще дальше. Законодатели уже добились определенного прогресса по аналогичным предложениям, таким как Закон о модернизации и инновациях в области биобезопасности 2026 года. В случае его принятия компаниям, продающим синтетические генетические материалы, придется проверять как клиентов, так и заказы, сохраняя при этом записи, чтобы помочь в любых будущих расследованиях.
Ученые расходятся во мнениях относительно лучшего решения проблемы
Тем не менее, мнения расходятся относительно того, насколько быстро растет опасность и что с этим делать. Грубо говоря, биологические системы искусственного интеллекта уже могут проектировать белки, предсказывать эволюцию вирусов и генерировать новые молекулярные структуры. Вот откуда столько беспокойства. Ученые обеспокоены тем, что будущие версии могут быть использованы для создания токсинов, усиления существующих патогенов и даже разработки новых биологических угроз. Это тоже не беспочвенно. Исследователи могут указать на исследования, показывающие, что продвинутые языковые модели уже могут помочь пользователям выполнять специализированные биологические задачи на уровне, приближающемся к уровню опытных ученых.
Однако создание вредоносного организма на компьютере — это только первый шаг. Важно помнить, что производство, тестирование и применение биологических агентов по-прежнему требует специального оборудования, технических знаний и различных других ресурсов, которые остаются недоступными для большинства людей. Вот почему эксперты утверждают, что наиболее эффективной защитой будет усиление надзора в тот момент, когда цифровые проекты станут физическими. (То есть компании, занимающиеся синтезом ДНК.) Независимо от того, будут ли в конечном итоге поставлены ограничения на программное обеспечение или аппаратное обеспечение, главное остается: промышленность и исследователи должны действовать быстро, если они действительно хотят помешать любителям смешивать ИИ и оружие.
