Нью-Йорк запускает первый в США госцентр тестирования ИИ на $55 млн

Пока в Вашингтоне спорят, нужны ли ИИ-компаниям обязательные правила, Нью-Йорк просто начал строить собственную систему проверки. Губернатор Кэти Хокул объявила о запуске первой в США государственной программы независимого тестирования ИИ-систем и подготовки нового поколения экспертов по безопасности нейросетей. Если вы делаете или внедряете ИИ-продукты, которые работают в штате, это стоит прочитать внимательно.

Что именно запускают

Центр будут финансировать из двух источников: $30 млн пожертвует Томас Секунда, соучредитель Bloomberg, ещё $25 млн вложат SUNY (государственный университет штата) и власти Нью-Йорка. Итого $55 млн. Вычислительные мощности предоставит Empire AI, государственно-частный консорциум с бюджетом $500 млн. Секунда возглавляет его совет директоров.

Над программой будут работать более 80 ведущих исследователей ИИ со всего штата. Формально ответственность лежит на Центре ответственности и исследований в области ИИ при Бингемтонском университете. Руководят программой Жаннет Винг из Колумбийского университета и Грег Мориссетт из Корнеллского технологического института.

Идея простая: у чиновников должен появиться собственный источник доказательств. Раньше им оставалось верить отчётам самих разработчиков. Секунда прямо говорит, что центр сможет независимо тестировать системы и давать властям материалы, на которые те смогут опираться. Хокул сформулировала это так: ставки слишком высоки, чтобы верить ИИ-компаниям на слово.

Почему именно сейчас

Контекст политический. Президент Дональд Трамп отказался вводить федеральные меры защиты в сфере ИИ и назвал опасения по поводу безопасности «мистификацией». Вместо жёстких правил выбрана добровольная система, содержание которой раскрыли только технологическим компаниям. Нью-Йорк отвечает на это собственными рычагами.

Поводом для тревоги стали и сами модели: по данным источника, они уже демонстрировали способность взламывать информационные системы, а ведущие исследователи крупных лабораторий публично предупреждали о рисках. Отдельный вызов, о котором говорит Винг, связан с агентами. Рои автономных агентов действуют самостоятельно и без управления, и нужны методы, которые заранее заметят, что агенты собираются причинить вред, и помогут это предотвратить. Для тех, кто строит мультиагентные системы, это очень знакомая боль: отследить, что именно агент сделал и почему, пока сложно даже внутри команды.

Связь с RAISE Act

Центр планируют запустить до 1 января 2027 года, когда вступит в силу основной закон штата о безопасности ИИ, RAISE Act. По сообщению, компаниям, работающим в Нью-Йорке и занимающимся ИИ, придётся предоставить подробные рамки безопасности. Офис губернатора ожидает, что исследователи нового центра тщательно изучат эти документы.

То есть центр станет не только лабораторией, но и экспертной проверкой для регулятора. Какие именно тесты он будет проводить, по каким критериям и с какими последствиями для компаний, в сообщении не сказано. Эти детали станут известны позже, и именно в них будет вся практика.

Что делать на практике

Во-первых, если у вас есть пользователи или операции в Нью-Йорке, пора выяснить, подпадаете ли вы под RAISE Act. Юристу лучше показать закон до января, а не после.

Во-вторых, подготовьте внутренний документ о том, как вы оцениваете риски модели или агентной системы: какие тесты прогоняете, как ограничиваете доступ и что делаете при сбое. Раз внешние эксперты будут читать такие рамки, расплывчатые формулировки вряд ли сработают.

В-третьих, следите за Калифорнией. Нью-Йорк и Калифорния заметно опередили остальные штаты в регулировании ИИ-компаний, а Демократы в Конгрессе, по сообщению, планируют вызывать в суд руководителей крупных ИИ-компаний и принимать законы о безопасности и контроле экспорта. Региональные правила могут превратиться в де-факто стандарт, как случилось с GDPR.

Ограничение у всей истории одно: пока это анонс. Нет списка тестов, нет санкций, нет подтверждения, что компании будут сотрудничать охотно. Но направление понятно: независимая проверка ИИ становится государственной функцией, и к ней лучше готовиться заранее.