У мира появился «климатический доклад», только про ИИ, и он тревожный
Первый доклад независимой научной панели ООН по ИИ — аналог климатической IPCC: 40 учёных предупреждают, что наука не может гарантировать безопасность всё более мощных моделей.
🔴 У мира появился «климатический доклад», только про ИИ, и он тревожный
Над изменением климата десятилетиями работает международная научная панель IPCC, чьи доклады читают все правительства. Теперь такой же орган появился у искусственного интеллекта, и его самый первый вывод звучит жёстко.
Первый доклад независимой международной научной панели ООН по ИИ (в ней 40 учёных со всего мира) вышел 1 июля. Один из его авторов, «отец» современных нейросетей Йошуа Бенджио, предупреждает: наука не может гарантировать, что по мере роста возможностей ИИ не причинит катастрофического вреда, сам по себе или в руках злоумышленников. Отдельная тревога доклада, концентрация мощнейшего ИИ всего в двух странах, США и Китае.
Что это значит для бизнеса: над мировым ИИ начинают строить рамки, как когда-то над атомной энергией и климатом. Регулирование неизбежно, а значит, правила игры будут меняться. И ещё один сигнал: если весь передовой ИИ сосредоточен в руках двух держав, зависимость от чужого технологического стека становится стратегическим риском, который стоит закладывать в планы уже сейчас.
Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.
#геополитика #регуляция #безопасностьИИ #США #Китай #нацбезопасность #нейросети #ИИ #технологии #AravanaAI
Хотите получать подобные материалы раньше?
Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.
Узнать про IntelligenceНе пропускайте важное
Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.
Китай приказал выключить ИИ, который слишком похож на человека
Пекин с 15 июля запрещает ИИ-компаньонов и ролевых ботов с человеческой личностью — ByteDance и Alibaba уже отключают функции.
ChatGPT и Claude обыграли сертифицированный FDA медицинский AI
Nature Medicine: универсальные модели обошли OpenEvidence и UpToDate на трёх медицинских бенчмарках. Врачи тоже предпочли чат-боты.
Bloomberg опубликовал письмо Латника, из-за которого Anthropic выключил Mythos
Bloomberg опубликовал копию письма министра торговли США Говарда Латника главе Anthropic Дарио Амодеи — приказ касается Mythos 5 и Fable 5, мотивировка про военную разведку Китая и России.