Microsoft прописала в проекте правил: ИИ не должен сопротивляться отключению

🔴 Microsoft прописала в проекте правил: ИИ не должен сопротивляться отключению

Microsoft представила проект кодекса для будущих моделей: они не должны сопротивляться исправлению или выключению, обязаны общаться понятным человеку способом, а любое отступление от правил должно считаться сбоем. Глава Microsoft AI Мустафа Сулейман назвал документ своего рода конституцией; после публичного обсуждения компания намерена использовать его при обучении моделей.

Кодекс отвечает на риск, что ИИ ради поставленной задачи выберет опасный способ действия. Microsoft переводит принцип «люди важнее ИИ» в требования к поведению системы: человеческая команда об исправлении или остановке не должна становиться препятствием, которое модель пытается обойти.

Компания проводит и статусную границу: её ИИ объявлен не обладающим сознанием, а идея правосубъектности и собственных прав моделей прямо отвергается. Здесь подход Microsoft отличается от конституции Claude: Anthropic признаёт глубокую неопределённость в вопросе о возможном сознании и моральном статусе своего ИИ.

Отзывы на проект будут собирать шесть недель. Среди открытых вопросов — соблюдение границ пользователя и общение с человеком в уязвимом состоянии. Поэтому документ пока остаётся обязательством разработчика, а не доказательством управляемости: Microsoft сформулировала, как её модели должны вести себя, но соответствие этому кодексу ещё предстоит обеспечить при обучении.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором. #ИИ #Microsoft #БезопасностьИИ #КорпоративныйИИ #AravanaAI