🔴 Предупреждение экс-исследователя Anthropic стало доводом за ограничения ИИ в Конгрессе

🔴 Предупреждение экс-исследователя Anthropic стало доводом за ограничения ИИ в Конгрессе

Джейкоб Коксон объявил об уходе из Anthropic и предупредил: создаваемые OpenAI и Anthropic системы могут превзойти человека и привести к исчезновению человечества к 2030 году. Исследователь сообщил, что три года занимался предварительным обучением моделей в обеих компаниях. Уже на следующий день его публикацию начали цитировать американские законодатели.

Коксон оказался не один: как минимум двое сотрудников Anthropic поддержали его оценку. Республиканец Тед Круз назвал риск от ИИ катастрофическим. Независимый сенатор Берни Сандерс сослался на опрос, согласно которому американцы выступают за запрет искусственного сверхинтеллекта и паузу в разработке ИИ до появления ясных стандартов безопасности.

Демократ Тед Лью назвал публикацию новым доводом за срочное принятие двухпартийного законопроекта об аварийном отключении ИИ. Его коллега Лори Трахан потребовала, чтобы Конгресс перестал оставаться в стороне. Однако пока это политическое давление, а не принятое ограничение: в источнике речь идёт о призывах и законопроектах.

Anthropic отвечает, что открыто говорит о пользе и беспрецедентных рисках технологии, применяет одни из самых строгих защитных мер в отрасли и предлагает компаниям вместе определять темп выпуска мощных моделей. При этом сценарий исчезновения человечества к 2030 году остаётся прогнозом Коксона, а не установленным исходом. Конфликт теперь конкретен: разработчики предлагают согласовывать скорость гонки внутри отрасли, а законодатели обсуждают, не пора ли ограничить её извне.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором. #ИИ #Anthropic #OpenAI #США #Регулирование #AravanaAI