Администрации США предложили обязать разработчиков передовых систем искусственного интеллекта проходить государственную проверку безопасности перед публичным выпуском моделей и увязать доступ к федеральным контрактам с результатами таких тестов. С этой инициативой 11 мая выступила американская организация Americans for Responsible Innovation, которая направила свои предложения чиновникам на фоне резкого роста интереса Вашингтона к использованию ИИ в обороне, госуслугах и критической инфраструктуре.
По данным Reuters, группа призвала власти проверять новейшие модели на риски, связанные с национальной безопасностью, включая возможность содействия кибератакам, созданию опасных биологических или химических материалов, а также злоупотреблениям при развертывании в государственном секторе. Предлагаемый подход предполагает, что компании, не прошедшие такую оценку или отказавшиеся от нее, не должны получать выгодные контракты федерального правительства.
Инициатива появилась в момент, когда Белый дом и профильные ведомства пересматривают архитектуру надзора за ИИ. На прошлой неделе Microsoft, Google и xAI согласились предоставлять американским властям ранний доступ к новым моделям до их публичного релиза для проверки угроз национальной безопасности. OpenAI и Anthropic, у которых уже были договоренности о подобных оценках, обновили условия сотрудничества с государством. Проверки проводит Center for AI Standards and Innovation в структуре Национального института стандартов и технологий США.
Речь идет не о полном лицензировании отрасли, а о механизме, который должен дать государству рычаг влияния через закупки. Для Вашингтона это особенно важно, поскольку именно федеральные заказы становятся одним из крупнейших источников выручки для разработчиков ИИ. В последние месяцы американские власти ускорили внедрение таких систем в оборонной сфере и в административных процессах, рассчитывая снизить издержки и повысить скорость обработки данных.
Дискуссию подогревают и недавние конфликты вокруг условий безопасного использования ИИ в работе с государством. Ранее Reuters сообщало о споре между Anthropic и Пентагоном из-за требований ослабить защитные ограничения моделей, после чего вопрос о том, должны ли государственные структуры поощрять только те компании, которые принимают независимую проверку рисков, стал еще более политически чувствительным.
Сторонники более жесткого контроля считают, что именно система госзакупок может стать самым быстрым способом навязать единые стандарты без долгого прохождения отдельного закона через Конгресс. Критики же опасаются, что такие проверки могут превратиться в инструмент политического давления на разработчиков или затормозить выпуск новых моделей в условиях глобальной конкуренции с Китаем и другими центрами ИИ-разработки.
Отдельный вопрос — кто именно и по каким критериям будет проводить оценку. Сейчас правительство США делает ставку на тестирование моделей до выпуска, в том числе версий с ослабленными защитными барьерами, чтобы понять, насколько система опасна в «сыром» виде. Эксперты по безопасности ИИ давно настаивают, что оценивать нужно не только финальный продукт, но и базовые возможности модели до внедрения ограничений, поскольку именно это позволяет точнее судить о потенциальном вреде.
Для крупных лабораторий, уже работающих с государством, новые правила могут стать конкурентным преимуществом: компании, способные доказать надежность моделей, получат больше шансов закрепиться на рынке федеральных заказов. Для более мелких игроков и стартапов, напротив, обязательная сложная экспертиза рискует повысить стоимость выхода на рынок и усилить концентрацию отрасли в руках нескольких крупнейших участников.
Коротко о главном
Предложение увязать доступ к госконтрактам США с обязательной проверкой безопасности ИИ отражает новый баланс между инновациями и национальной безопасностью. Вашингтон фактически использует силу федеральных закупок как регуляторный инструмент там, где полноценное законодательство еще не сформировано. Если эта логика закрепится, крупнейшие американские лаборатории начнут еще глубже встраивать внешние аудиты и предрелизные тесты в цикл разработки, а рынок госзаказа станет одним из главных механизмов давления на отраслевые стандарты не только в США, но и у союзников страны.
