Anthropic объединяет Nvidia, Microsoft и Apple после находки тысяч скрытых уязвимостей

Anthropic 7 апреля объявила о запуске Project Glasswing — новой инициативы в сфере кибербезопасности, к которой присоединились Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia и Palo Alto Networks. Проект создан на фоне стремительного роста возможностей генеративного ИИ в поиске и анализе программных уязвимостей и, по замыслу компании, должен помочь защитить критически важное программное обеспечение до того, как аналогичные инструменты окажутся в распоряжении злоумышленников.

Ключевым элементом инициативы стала модель Claude Mythos Preview — пока не выпущенная в открытый доступ фронтирная система Anthropic с продвинутыми навыками программирования и логического анализа. Как говорится в публикации Anthropic, модель уже обнаружила тысячи уязвимостей высокой критичности, в том числе в каждой основной операционной системе и в крупных веб-браузерах. По данным Yahoo Finance, компания также утверждает, что речь идет о тысячах уязвимостей нулевого дня, многие из которых оказались критическими, а некоторые ошибки оставались незамеченными 27 и 16 лет.

Anthropic подчеркивает, что Claude Mythos Preview не будет доступна широкой аудитории. Доступ к модели предоставят лишь ограниченному кругу организаций, а около 40 компаний, работающих с критической программной инфраструктурой, смогут применять ее для проверки собственных продуктов и open source-решений. Участники Project Glasswing должны делиться результатами такой работы, чтобы усиливать защиту более широкого круга разработчиков и сопровождающих инфраструктурное ПО.

Как отмечает TechCrunch, Anthropic позиционирует Mythos как одну из самых мощных своих систем и считает, что уже в ближайшие месяцы аналогичные возможности ИИ могут распространиться значительно шире. На этом фоне компания заявляет, что отрасли необходимо действовать заранее: задача проекта — ускорить поиск и устранение уязвимостей в ключевых программных компонентах до того, как такие инструменты начнут массово использоваться для атак.

В рамках инициативы Anthropic пообещала предоставить 100 миллионов долларов в виде кредитов на использование своих сервисов и еще 4 миллиона долларов прямых пожертвований организациям, связанным с открытой кибербезопасностью. Компания также сообщила, что ведет обсуждения с властями США о защитных и потенциально наступательных возможностях новой модели, что подчеркивает чувствительность темы на уровне государства и крупных инфраструктурных игроков.

Объявление прозвучало вскоре после другого резонансного эпизода вокруг Anthropic. Ранее компания признала, что из-за человеческой ошибки допустила утечку части внутреннего исходного кода, что усилило внимание к вопросам безопасности самих разработчиков ИИ. На этом фоне запуск Project Glasswing выглядит не только как технологический шаг, но и как попытка выстроить более широкую систему отраслевой защиты в период, когда ИИ начинает превосходить большинство специалистов в отдельных задачах по поиску и эксплуатации уязвимостей.

Коротко о главном

Причина запуска Project Glasswing — быстрое усиление ИИ-моделей в сфере поиска программных уязвимостей и риск того, что такие инструменты вскоре начнут широко применять не только защитники, но и атакующие. Если участники проекта сумеют оперативно закрывать найденные бреши и наладить обмен результатами, инициатива может стать важным стандартом превентивной защиты критического ПО, однако в ближайшей перспективе она одновременно усилит и дискуссию о том, где проходит граница между оборонительным и потенциально наступательным использованием фронтирного ИИ.