CEO Anthropic просит регулировать AI как самолёты — государство должно иметь право блокировать опасные модели

🔴 CEO Anthropic просит регулировать AI как самолёты — государство должно иметь право блокировать опасные модели

Один из лидеров AI-индустрии сам зовёт регулятора. Дарио Амодеи, CEO Anthropic, опубликовал манифест: пусть правительство получит право останавливать выпуск опасных моделей до того, как они попадут к пользователям.

По данным SiliconAngle, эссе называется «Policy on the AI Exponential». Амодеи проводит параллель: лучшая аналогия — машины, самолёты и лекарства, мощные технологии, способные убить много людей при плохом проектировании. Предложение конкретное. При превышении порога вычислений модель уходит на обязательный аудит независимыми экспертами по четырём направлениям: кибербезопасность, возможности по биооружию, ускорение опасных исследований и потенциал моделей выйти из-под контроля человека. Если хоть один риск признан неприемлемым — правительство имеет право остановить релиз.

Сигнал индустрии важнее цифр: первая из ведущих AI-лабораторий просит превратить добровольные стандарты в обязательные. Для российского бизнеса это означает следующее: в США и ЕС барьеры для развёртывания мощных AI-сервисов поднимут — будут аудиты, тесты, нагрузка на соответствие регуляторным требованиям. Если планируете запуск AI-продукта на западных рынках, заранее закладывайте бюджет на безопасность и юридическую проверку, а не оставляйте это на последний квартал.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#регуляция #безопасностьИИ #Anthropic #США #геополитика #ИИ #технологии #AravanaAI