Глава DeepMind предлагает Уолл-стрит-модель надзора для самых мощных AI
Демис Хассабис хочет, чтобы сильнейшие модели проверял независимый орган ещё до релиза.
🔴 Глава DeepMind предлагает Уолл-стрит-модель надзора для самых мощных AI
Демис Хассабис хочет, чтобы сильнейшие модели проверял независимый орган ещё до того, как они попадут к пользователям.
В своём предложении сооснователь Google DeepMind описывает орган по образцу FINRA, саморегулятора, который под присмотром властей следит за Уолл-стрит. Смысл в том, что ведущие лаборатории добровольно передают новые модели на проверку за 30 дней до выхода, а со временем такая аттестация может стать обязательной для выхода на рынок США. Финансировать орган предлагается за счёт самой индустрии, но управлять им независимо, с участием технических экспертов и представителей открытого кода.
Предложение стало ответом на хаотичные госпроверки моделей вроде Mythos от Anthropic и Sol от OpenAI, которые критиковали за нехватку экспертизы и непрозрачность. Политический фон противоречив. Советник Белого дома Шрирам Кришнан уже заявил, что «никакого FDA для ИИ не будет». Кто и по каким правилам решит, что модель безопасна, пока остаётся открытым вопросом.
Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.
#регуляция #безопасностьИИ #Google #нейросети #модели #геополитика #ИИ #технологии #AravanaAI
Хотите получать подобные материалы раньше?
Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.
Узнать про IntelligenceНе пропускайте важное
Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.
$3000 за книгу: суд утвердил рекордную расплату Anthropic с авторами
Федеральный суд окончательно утвердил мировое соглашение Anthropic с авторами и издателями на $1,5 млрд — около 500 000 произведений по $3000 за каждое. Но главный вопрос о fair use остаётся открытым.
США разморозили Anthropic Mythos 5, но только для 100 избранных
Министр торговли США Говард Лутник лично подписал разрешение на использование Anthropic Mythos 5 более чем сотней доверенных компаний и федеральных агентств — после двухнедельного запрета. Младшая Fable 5 пока остаётся под блокировкой.
Китай выдал паспорта AI-агентам: первая в мире система их учёта
Госуправление по регулированию рынка Китая запустило национальную систему обязательной идентификации AI-агентов — единый реестр и семь подстандартов, регулирующих архитектуру и взаимодействие автономных программ.