OpenAI вырастила ИИ-хакера, чтобы он ломал её собственные модели

🔴 OpenAI вырастила ИИ-хакера, чтобы он ломал её собственные модели

Чтобы найти дыры в своих моделях раньше злоумышленников, OpenAI не стала нанимать хакеров, она вырастила искусственного.

По данным MIT Technology Review, система под названием GPT-Red училась взламывать в своеобразном «додзё»: снова и снова атаковала другие модели, а те учились защищаться, и обе стороны становились сильнее. GPT-Red специализируется на инъекциях промпта — когда во внешне безобидный текст внедрена скрытая инструкция для модели. По ходу дела ИИ нашёл и совершенно новый тип атаки: подсовывал модели ложные записи прямо в её собственную цепочку рассуждений. А для наглядности взломал торговый автомат под управлением ИИ, менял цены и отменял заказы.

Цифры показывают, зачем это нужно. Против GPT-5, вышедшей в августе 2025-го, GPT-Red пробивала защиту более чем в 90% случаев. Против свежей GPT-5.6, меньше чем в 23%. Наружу модель не отдают: слишком мощный инструмент, да и повторить его дорого.

Оборона ИИ теперь тоже строится на ИИ, ведь люди-тестировщики в одиночку за сложностью атак уже не поспевают. Открытым остаётся неудобный вопрос: что будет в тот день, когда такой же атакующий ИИ окажется в руках у тех, кто строит его не для защиты?

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#нейросети #LLM #OpenAI #ChatGPT #агентыИИ #безопасностьИИ #модели #ИИ #технологии #AravanaAI