Калифорния вышла на передний план управления искусственным интеллектом, приняв два законодательных акта, SB53 и SB243, которые потенциально могут повлиять на историю искусственного интеллекта. Первый устанавливает правила прозрачности для самой быстрорастущей отрасли в Америке, требуя, чтобы компании публично ссылались на политику безопасности и сообщали о критических проблемах. Защитники надеются, что закон ограничит деятельность отрасли, часто прикрытой теневой практикой раскрытия информации, облегчит компаниям и информаторам сообщение о проблемах общественной безопасности и создаст реальные механизмы правоприменения для привлечения к ответственности за злоупотребления.
Последний, тем временем, пытается защитить уязвимых пользователей от неблагоприятного воздействия сопутствующих приложений ИИ посредством требований проверки возраста, требований об отказе от ответственности и требований по предотвращению членовредительства. Законы были приняты на фоне бушующих по всей стране дебатов по поводу управления ИИ: президент Трамп пообещал, что федеральное правительство отменит законодательство, ограничивающее рост сектора, а республиканцы в Конгрессе пытаются запретить штатам и местным органам власти сворачивать отрасль.
Тем временем Нью-Йорк обдумывает свой собственный закон о Frontier AI, а законодательные органы нескольких штатов стремятся регулировать сопутствующие приложения. Законы о проверке возраста, запреты на контент и даже потенциальные ограничения VPN еще больше подчеркивают эти этические дилеммы, в то время как быстрый рост отрасли требует немедленных решений. Калифорния занимает уникальную позицию в этих дебатах. Золотой штат, четвертая по величине экономика в мире, является лидером в сфере искусственного интеллекта, в нем расположены 32 из 50 крупнейших компаний в области искусственного интеллекта по версии Forbes. Согласно отчету Стэнфордского университета «Индекс искусственного интеллекта» за 2025 год, 15% всех объявлений о вакансиях в сфере ИИ было расположено в Калифорнии, а Pitchbook обнаружил, что более 50% инвестиций венчурных капиталистов в ИИ было направлено в Силиконовую долину. Эти тенденции не вызывают удивления, поскольку в штате базируются такие гиганты искусственного интеллекта, как Apple, Google и Nvidia.
Знаменательный законопроект о прозрачности
Закон о прозрачности в передовом искусственном интеллекте устанавливает основные барьеры для передового искусственного интеллекта посредством «разработки политики на основе фактических данных», которая балансирует соображения прозрачности, безопасности и инноваций. Основываясь на рабочем докладе Калифорнии о состоянии искусственного интеллекта за март 2025 года, закон устанавливает несколько основных параметров. В целях повышения прозрачности законопроект требует от разработчиков публиковать на своих веб-сайтах политику передового опыта, гарантируя, что компании будут соответствовать отраслевым нормам и международным стандартам. Законопроект также создает механизм привлечения компаний к ответственности посредством гражданских наказаний, одновременно облегчая защиту информаторов.
Чтобы предотвратить крупные катастрофы, поскольку ИИ все больше проникает в нашу государственную и частную инфраструктуру, компании должны сообщать о потенциальных проблемах безопасности, таких как ядерные катастрофы, биологическое оружие или кибератаки, в Управление по чрезвычайным ситуациям Калифорнии. Помимо мер безопасности, сенатский законопроект 53 направлен на развитие государственно-частного партнерства через государственный вычислительный кластер в рамках правительственного операционного агентства, получивший название CalCompute, для содействия развитию отрасли.
Новый законопроект — не первая попытка законодателей Калифорнии управлять ИИ. Например, губернатор Ньюсом в 2024 году наложил вето на более строгий законопроект, требующий от разработчиков ИИ включать выключатели, средства защиты от кибербезопасности, меры защиты от «критического вреда» и тестирование безопасности перед выпуском. Критики утверждают, что новый законопроект лишает большую часть нормативных требований законопроекта 2024 года, прибегая в основном к добровольному раскрытию информации, а не к требованиям безопасности, чтобы привлечь компании к ответственности. Сторонники, однако, рекламируют первый в своем роде закон как образец федеральной структуры. Между тем реакция отрасли была неоднозначной. Например, Anthropic, заботящаяся о безопасности, публично поддержала законопроект, в то время как Meta и OpenAI сначала лоббировали его, а затем молча согласились.
Обеспечение безопасности ИИ-компаньонов
В октябре 2025 года Калифорния ввела самые комплексные в стране меры безопасности для ИИ-компаньонов. Законопроект Сената 243 направлен на защиту молодых и уязвимых пользователей, требуя предупреждений о пригодности, уведомлений о раскрытии информации ИИ и напоминаний о перерывах для несовершеннолетних. Он также предписывает новые протоколы контента, требующие от компаний не допускать создания чат-ботами контента, связанного с самоубийствами, и предлагать ссылки на ресурсы по предотвращению самоубийств или на кризисные линии для пользователей из группы риска. Кроме того, SB243 требует, чтобы провайдеры не позволяли компаньонам делиться откровенными материалами с несовершеннолетними, а компании должны публиковать эти протоколы на своих веб-сайтах, предоставляя пользователям «частное право на иск» по взысканию ущерба против чат-ботов. Начиная с июля 2027 года ИИ-компаньоны должны предоставлять ежегодные отчеты в Департамент общественного здравоохранения Калифорнии с подробным описанием своих мер реагирования на кризисные ситуации среди пользователей.
Закон появился на фоне напряженности по поводу влияния ИИ-компаньонов, а также серии судебных исков и расследований, в которых обвиняются такие компании, как Character.AI, Meta и OpenAI, в причинении неправомерного вреда или смерти несовершеннолетних. Обеспокоенность по поводу романтических отношений, неприемлемого контента и вводящих в заблуждение терапевтических ботов вышла на первый план, поскольку несовершеннолетние становятся все более зависимыми от технологий. Согласно исследованию Common Sense Media, большинство американских подростков используют ИИ-компаньонов, в то время как Центр демократии и технологий обнаружил, что более 40% использовали приложения для социальных консультаций, при этом почти 20% признались, что у них или кого-то из их знакомых были романтические отношения с ИИ-компаньоном.
Эти тенденции, вероятно, сохранятся по мере распространения ИИ-компаньонов в социальных сетях, а некоторые компании, занимающиеся ИИ, даже запускают свои собственные приложения для социальных сетей. По состоянию на 2025 год пять штатов приняли правила для чат-ботов, связанные с психическим здоровьем, но ни один из них не является таким всеобъемлющим, как Калифорния. Пойдут ли другие по стопам Золотого штата, может определить курс самой быстрорастущей отрасли страны.
