Anthropic заблокировала аккаунты после пяти биокейсов с Claude — злой умысел не доказан

🔴 Anthropic заблокировала аккаунты после пяти биокейсов с Claude — злой умысел не доказан

Anthropic сообщила о пяти случаях, когда применение её моделей, по оценке компании, могло помочь разработке биологического оружия. Связанные с ними аккаунты заблокировали. Однако намерение причинить вред установить не удалось: речь идёт о потенциально опасном использовании, а не о доказанных попытках создать биооружие.

В самом подробно описанном эпизоде исследователь за пределами США заходил в Claude из региона, где сервис не поддерживается, и изучал высокопатогенный птичий грипп — в том числе его адаптацию к млекопитающим. Anthropic назвала работу исследованием двойного назначения: такие знания помогают выявлять возникающие в природе варианты с пандемическим потенциалом, но могут пригодиться и для повышения опасности вируса.

С декабря 2025 года компания пресекла десятки случаев потенциально вредного применения своих моделей. Но материал ABC News не раскрывает механизм обнаружения пяти биологических кейсов: неизвестны решающие запросы, конкретные ответы системы и то, подавал ли сигнал сам Claude. Поэтому публикация подтверждает блокировку аккаунтов, но не подтверждает, что модель самостоятельно распознала подготовку биооружия.

Публично показан результат контроля доступа, но не способ принятия решения. Это оставляет принципиальное различие между предотвращённой атакой и остановленным исследованием двойного назначения: пока намерение, критерии срабатывания и роль модели не раскрыты, эти два сценария невозможно отделить друг от друга по данным кейса.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором. #ИИ #Anthropic #Claude #Биобезопасность #AravanaAI