Глобальная сеть институтов AI-безопасности: анонс координации на Давосе

Одним из наиболее конкретных результатов WEF 2026 стало объявление о расширении и координации глобальной сети институтов AI-безопасности. Идея национальных институтов, специализирующихся на оценке рисков AI-систем, начала реализовываться после AI Safety Summit в Блетчли в 2023 году. Великобритания создала первый такой институт, за ней последовали США, Япония, Канада и Сингапур. В Давосе было объявлено о присоединении к сети еще шести стран.

Суть инициативы — создание международной инфраструктуры для независимого тестирования и оценки AI-моделей. Каждый национальный институт работает с разработчиками AI на своей территории, проводит тесты на безопасность и публикует рекомендации. Координация между институтами позволяет обмениваться методологиями, результатами тестов и лучшими практиками. Это своего рода параллельная система контроля, дополняющая формальное регулирование.

В Давосе было представлено соглашение о единых протоколах тестирования. До этого каждый институт использовал собственные методики оценки, что затрудняло сравнение результатов. Новое соглашение предусматривает общую таксономию рисков, стандартизированные тесты для оценки опасного контента, кибербезопасности и автономного поведения, а также единый формат отчетности. Это важный шаг к интероперабельности системы.

Британский AI Safety Institute к моменту анонса уже протестировал несколько десятков моделей, включая продукты OpenAI, Anthropic, Google и Meta. По имеющимся данным, результаты тестов выявили ряд неожиданных уязвимостей, которые были переданы разработчикам для исправления. Модель взаимодействия — не карательная, а партнерская: институт помогает компаниям находить и устранять проблемы до того, как они станут инцидентами.

Американский институт, созданный при NIST, подошел к задаче несколько иначе. Он сосредоточился на разработке эталонных тестов и красных команд — групп, имитирующих враждебное использование AI-систем. Результаты этих тестов, по замыслу, должны стать основой для секторальных стандартов в критических отраслях: финансах, здравоохранении, энергетике и обороне.

На форуме обсуждался важный вопрос: как обеспечить доступ институтов к наиболее мощным моделям? Разработчики не обязаны предоставлять свои системы для тестирования, и некоторые компании проявляют осторожность, опасаясь утечки интеллектуальной собственности. Соглашение, представленное в Давосе, предусматривает конфиденциальный режим тестирования и юридические гарантии для компаний. Но вопрос обязательности доступа остается открытым.

Финансирование сети — еще одна нерешенная проблема. Национальные институты финансируются из государственных бюджетов, но объемы значительно различаются. Британский институт имеет годовой бюджет около 100 миллионов фунтов. У институтов менее обеспеченных стран ресурсы существенно скромнее. В Давосе обсуждалась идея совместного финансирования, но конкретных решений не было принято.

Для AI-индустрии сеть институтов безопасности — это формирующаяся реальность, с которой придется считаться. Даже если тестирование пока добровольное, отказ от сотрудничества с институтами создает репутационные риски. Компании, которые проходят независимую оценку и получают положительные результаты, получают дополнительный аргумент для клиентов и регуляторов.

Что это значит: анонс в Давосе — это шаг к созданию глобальной системы контроля качества для AI-моделей. Система еще далека от зрелости, но направление движения понятно. Для компаний-разработчиков участие в тестировании постепенно становится не опцией, а ожиданием рынка. Для государств — инвестиции в национальные институты AI-безопасности окупаются через влияние на формирование глобальных стандартов.