ООН предупредила о риске катастрофы из-за бесконтрольного ИИ

Организация Объединённых Наций 1 июля в Женеве представила предварительный доклад Независимой международной научной панели по искусственному интеллекту и предупредила: развитие ИИ уже опережает и научное понимание, и способность государств вырабатывать правила для этой технологии.

Документ подготовила независимая группа из 40 экспертов из разных регионов мира. Сопредседателями панели выступили канадский учёный Йошуа Бенджио и филиппинская журналистка, лауреат Нобелевской премии мира Мария Ресса. По оценке авторов, у правительств возникает всё более острый конфликт: для качественного регулирования нужны убедительные научные данные, но сами технологии меняются быстрее, чем успевают появляться такие данные.

Йошуа Бенджио заявил, что возможности ИИ растут быстрее, чем способность науки и властей осмыслить последствия. Авторы доклада отдельно указали на появление всё большего числа признаков обманчивого поведения у отдельных систем и подчеркнули: на нынешнем этапе наука не может гарантировать, что по мере усиления возможностей ИИ он не приведёт к катастрофическому ущербу — как самостоятельно, так и в случае злоупотребления со стороны людей.

Генеральный секретарь ООН Антониу Гутерриш поддержал выводы экспертов и призвал правительства ускорить выработку общих подходов. По его позиции, мир не сможет эффективно управлять тем, что пока недостаточно понимает.

Что именно встревожило экспертов

В докладе говорится, что в ближайшей перспективе рынок будет смещаться в сторону агентных систем ИИ — то есть моделей, способных выполнять реальные задачи с большей степенью автономии. Речь идёт не только о генерации текста или изображений, но и о программировании, научных расчётах, анализе данных, автоматизации офисных процессов, кибероперациях и взаимодействии с другими цифровыми сервисами.

По оценке панели, современные системы уже демонстрируют уровень рассуждений, сопоставимый с экспертным, в математике и естественных науках, а сложность задач, которые они способны решать, быстро растёт. Это открывает путь к ускорению разработки лекарств и вакцин, повышению производительности и снижению издержек в ряде отраслей. Однако эксперты подчёркивают, что пока неясно, превратятся ли эти преимущества в устойчивый экономический рост и как именно они отразятся на рынке труда.

Среди главных угроз названы потеря контроля над всё более автономными системами, использование ИИ для дезинформации, мошенничества, кибератак и потенциально опасных биологических сценариев. Ещё одна проблема — фрагментарное регулирование: многие страны не обладают ни вычислительными ресурсами, ни экспертной базой, чтобы самостоятельно оценивать передовые модели, а потому зависят от технологий, которые не могут до конца проверить или контролировать.

Авторы отдельно отметили, что существующие инструменты безопасности часто опираются на ограниченные результаты тестов и данные, которые раскрывают сами компании. Это, по сути, создаёт дефицит независимой верификации и затрудняет объективную оценку рисков.

Почему тема стала глобальной

Новая панель ООН — это первый независимый глобальный научный механизм такого типа, созданный для оценки последствий и рисков искусственного интеллекта. Её учреждение Генеральная Ассамблея ООН одобрила в феврале 2026 года. За решение проголосовали 117 стран, против выступили США и Парагвай, ещё несколько государств воздержались. Антониу Гутерриш тогда называл этот шаг основой для глобального научного понимания ИИ.

Состав панели сформировали из более чем 2600 кандидатов после независимого отбора при участии структур системы ООН, включая Международный союз электросвязи и ЮНЕСКО. Мандат экспертов рассчитан на три года. В ООН рассчитывают, что их работа поможет странам обсуждать регулирование на общей фактической базе, а не только исходя из интересов отдельных государств или технологических корпораций.

Предварительный доклад станет одной из ключевых тем первого Глобального диалога по управлению ИИ, который пройдёт в Женеве 6–7 июля 2026 года. Эта площадка задумана как международный форум, где правительства, бизнес, исследователи и гражданское общество смогут обсуждать единые подходы к управлению быстро развивающейся технологией.

Коротко о главном

Сигнал ООН сводится к простому выводу: технологии ИИ развиваются быстрее, чем институты, которые должны задавать для них правила. Главная причина тревоги — рост автономности систем при нехватке независимых проверок, единых стандартов безопасности и международной координации. Если государства не договорятся о базовых механизмах контроля, рынок продолжит идти вперёд фрагментарно, а число инцидентов — от дезинформации до киберугроз и критических сбоев — будет расти. В ближайшие месяцы ключевой вопрос сместится от обсуждения общих принципов к конкретным требованиям: тестированию передовых моделей, прозрачности разработчиков и международному обмену данными о рисках.