🔴 Защитный аудит Эндрю Ына заблокировали американские модели — помогли китайские

🔴 Защитный аудит Эндрю Ына заблокировали американские модели — помогли китайские

Предохранители сработали против тех, кого должны были защищать. Эндрю Ын и его коллега проверяли безопасность нового открытого AI-агента OpenWorker, но ведущие модели OpenAI и Anthropic отказались помогать. Тогда разработчики поручили проверку двум китайским моделям — Kimi K3 от Moonshot AI и GLM-5.2 от Zhipu AI.

Получился неудобный контраст: ограничения американских систем должны отсекать опасные запросы, однако заблокировали законную работу по кибербезопасности. Задача не исчезла — она ушла к китайским конкурентам.

SCMP связывает отказ с усиленными предохранителями GPT-5.6 и Fable 5: модели обучены не содействовать вредоносным действиям. Но пользователи жалуются, что под запрет попадают и защитные сценарии. Для разработчика цена ложного срабатывания вполне материальна: нужный инструмент приходится искать в другой экосистеме.

OpenWorker превращает спор об AI-безопасности в конкретный тест: может ли закрытая модель отличить атаку от аудита защиты. В этом случае не смогла — и практическую работу выполнили Kimi и GLM.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#ИИ #Кибербезопасность #OpenSource #Китай #AravanaAI