🔴 Исследователь обвинил AI-лаборатории в опасной гонке — и предложил доверить им самоконтроль
Джейкоб Коксон считает, что законы не успевают за развитием моделей, но его временное решение оставляет контроль тем же компаниям, которые он обвиняет в опасной гонке.
🔴 Исследователь обвинил AI-лаборатории в опасной гонке — и предложил доверить им самоконтроль
Бывший исследователь Anthropic Джейкоб Коксон предложил Конгрессу США временно оставить надзор за ведущими AI-лабораториями самим компаниям, пока власти создают долгосрочную систему регулирования. За несколько дней до этого он ушёл из Anthropic и обвинил её и OpenAI в безответственной гонке к самоулучшающемуся сверхинтеллекту. Получается, Коксон предлагает доверить паузу тем же участникам, которых считает источником риска.
Его аргумент — государственные правила могут устаревать быстрее, чем меняются модели. По словам Коксона, аварийное отключение пока технически осуществимо, когда инфраструктура сосредоточена в ограниченном числе физических точек, хотя выключателей потребуется много. Но если группа AI-агентов успеет развернуть взломы по всему интернету, остановка исходных серверов уже может не помочь. Поэтому будущие законы, считает он, придётся постоянно адаптировать к новым моделям.
Временная схема держится на заявленном желании самих разработчиков притормозить. Руководители Anthropic и OpenAI Дарио Амодеи и Сэм Альтман призвали замедлить развитие передовых моделей. Однако спикер Палаты представителей Майк Джонсон указал, что главы компаний пока не объяснили, как именно намерены это сделать, и одновременно предостерёг Конгресс от поспешных мер, способных ослабить США в конкуренции с Китаем.
В предложении Коксона не назван внешний механизм, который заставит все лаборатории соблюдать общий темп. Пока такого механизма нет, саморегулирование означает, что участники гонки сами решают, насколько сильно тормозить — даже после публичного признания, что продолжать движение с прежней скоростью опасно.
Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором. #ИИ #Anthropic #OpenAI #РегулированиеИИ #БезопасностьИИ #AravanaAI
Хотите получать подобные материалы раньше?
Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.
Узнать про IntelligenceНе пропускайте важное
Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.
🔴 Глава госбезопасности Китая назвал ИИ угрозой стабильности и инфраструктуре
Чэнь Исинь объединил политическое влияние, кибератаки, разведку и технологическую зависимость в единую карту рисков ИИ.
🔴 Иск к Meta связал фото из соцсетей с ИИ и распознаванием лиц
Истцы утверждают, что Meta могла извлекать биометрию из фотографий для генеративного ИИ и распознавания лиц, но конкретные изображения и сам факт такой обработки пока не установлены.
Apple Watch получили ИИ, который обрабатывает разговоры весь день — юристы советуют спрашивать согласие
Apple уверяет, что новые часы не записывают разговоры, но юристы считают: непрерывная обработка речи всё равно может потребовать согласия каждого собеседника.