МСЭ ООН запустил в Женеве группу по доверию к ИИ-агентам

Международный союз электросвязи ООН 9 июля объявил в Женеве о запуске новой инициативы по выработке стандартов доверия и цифровой идентификации для ИИ-агентов. По данным МСЭ, новая Focus Group on Trust and Identity for Humans and Agentic AI должна создать рамки, при которых люди и автономные системы смогут безопасно взаимодействовать в цифровой среде.

Речь идет о структуре, которая займется не только идентификацией таких систем, но и проверкой того, насколько их поведение остается подотчетным и контролируемым на всем жизненном цикле. В пресс-релизе МСЭ сказано, что по мере перехода ИИ от вспомогательных инструментов к автономным агентам растут риски имитации людей и организаций, а также несанкционированных действий в связанных между собой системах.

Инициативу представили на саммите AI for Good Global Summit 2026, который проходит в Женеве с 7 по 10 июля. Как уточняет МСЭ, первая встреча новой группы намечена на ноябрь 2026 года в Париже, вторая — на январь 2027 года в Женеве; курировать работу будет профильная Study Group 17, отвечающая за стандарты безопасности.

«Будущее ИИ зависит от доверия», — заявила генеральный секретарь МСЭ Дорин Богдан-Мартин.

По ее словам, чем более автономными становятся системы, тем важнее совместная работа бизнеса, правительств, научного сообщества и гражданского сектора над механизмами, которые обеспечат уверенность в работе ИИ. МСЭ отдельно подчеркивает, что при выполнении чувствительных задач, включая финансовые транзакции и управление критической инфраструктурой, должен сохраняться значимый человеческий контроль.

Сопредседателями новой группы назначены Дебора Компарин и Амир Банифатеми. По сообщению МСЭ, участникам предстоит подготовить общую терминологию, эталонные архитектуры для идентичности, доверия и совместимости, модели оценки надежности на разных этапах жизненного цикла, механизмы совместимости цифровых учетных данных и критерии безопасности для постоянной оценки ИИ-агентов.

Контекст Женевской недели ИИ

Запуск инициативы совпал с насыщенной международной повесткой в Женеве. МСЭ ранее сообщал, что неделя с 6 по 10 июля объединила первый Глобальный диалог ООН по управлению ИИ, саммит AI for Good и форум WSIS, чтобы связать политические дискуссии с практическими решениями в сфере цифровых технологий.

По информации МСЭ и совместного секретариата диалога, в центре обсуждения оказались безопасный и заслуживающий доверия ИИ, преодоление цифрового разрыва, права человека и сохранение человеческого надзора. В материале МСЭ от 17 июня подчеркивалось, что глобальный ландшафт управления ИИ остается фрагментированным, а самой площадки, где эти подходы можно было бы собрать вместе, до сих пор не хватало.

6 июля генеральный секретарь ООН Антониу Гутерриш, выступая в Женеве, предупредил, что развитие ИИ опережает способность государств вырабатывать правила. Об этом сообщило Reuters. По словам Гутерриша, технология, способная менять экономику, рынок труда, выборы и сферу безопасности, внедряется быстрее, чем за ней успевают разработчики и регуляторы.

Неделей ранее Reuters также передало основные выводы первого доклада независимой научной панели ООН по ИИ. В документе говорится, что технология несет огромный потенциал, но при неконтролируемом масштабном внедрении способна подрывать информационную целостность, общественное доверие и социальную сплоченность, а большинству стран не хватает технической экспертизы для оценки самых мощных моделей.

Шире, чем один стандарт

Нынешняя группа по доверию к ИИ-агентам стала еще одним элементом более широкой архитектуры, которую МСЭ выстраивает этим летом. Еще 2 июля организация объявила о создании AI for Good Global Commission — комиссии с участием более 40 основателей из числа глав государств, руководителей технологических компаний и международных организаций.

Согласно МСЭ, комиссию возглавили президент Руанды Поль Кагаме и глава Salesforce Марк Бениофф, а заместителем председателя стала Дорин Богдан-Мартин. В список участников вошли, в частности, Дженсен Хуанг из NVIDIA, Энди Джесси из Amazon, Брэд Смит из Microsoft и Джеймс Манийка из Google. Отдельный акцент комиссия делает на доверии к ИИ и на том, чтобы доступ к его возможностям не усиливал глобальное неравенство: МСЭ напоминает, что 2,2 миллиарда человек в мире по-прежнему остаются офлайн.

На этом фоне новая техническая группа выглядит попыткой перевести общие политические призывы в более прикладной язык стандартов. МСЭ прямо указывает, что автономные агенты в ближайшей перспективе смогут вести переговоры, совершать транзакции и принимать решения от имени людей, а значит международным организациям и отрасли нужны общие правила того, кто именно действует в цифровой среде, каким образом подтверждается его идентичность и где остаются границы человеческой власти.