Глава ООН по правам человека: разработчиков передового ИИ нужно обязать раскрывать инциденты
Фолькер Тюрк считает добровольные меры разработчиков недостаточными и призывает государства ввести отчётность об инцидентах, проверки моделей и согласованные международные требования.
🔴 Глава ООН по правам человека: разработчиков передового ИИ нужно обязать раскрывать инциденты
Страны, где находятся ведущие разработчики передового ИИ, должны ввести для них обязательную отчётность и проверки. К этому призвал верховный комиссар ООН по правам человека Фолькер Тюрк. По его оценке, добровольных обещаний компаний уже недостаточно ни для устранения существующего вреда, ни для защиты от более автономных моделей, способных обходить человеческие ограничения.
Тюрк предлагает обязать разработчиков сообщать о серьёзных инцидентах, подтверждать возможности моделей и проводить проверку последствий для прав человека. Такая рамка связывает безопасность ИИ не только с риском неконтролируемого поведения систем, но и с более близкими угрозами — для жизни, здоровья, частной жизни, продовольственной и личной безопасности.
Часть индустрии признаёт необходимость дополнительных ограничений. Глава Anthropic Дарио Амодеи предложил продолжать разработку, одновременно усиливая защиту, включая внешнюю оценку моделей и координацию компаний с государствами. Руководители OpenAI, Google и xAI поддержали этот подход. Тюрк приветствовал инициативу, но провёл границу: отраслевое саморегулирование не заменяет обязательных государственных правил.
Отдельная ответственность, по его мнению, лежит на США и Китае как странах, находящихся в авангарде разработки передового ИИ. Им нужно согласовать подходы, иначе конкуренция между юрисдикциями создаст стимул снижать требования. Однако в сообщении ООН нет ни готового международного соглашения, ни сроков, ни механизма исполнения. Без общих обязательств безопасность останется условием, которое каждая страна и компания трактует под давлением собственной гонки.
Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором. #ИИ #ООН #РегулированиеИИ #БезопасностьИИ #Anthropic #AravanaAI
Хотите получать подобные материалы раньше?
Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.
Узнать про IntelligenceНе пропускайте важное
Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.
Microsoft запретила обучать ИИ на данных школьников — но отраслевым правилом это пока не стало
Microsoft закрепила обязательные ограничения на использование школьных данных и эмоционально вовлекающих функций, но соглашение пока распространяется только на её собственные контракты.
🔴 Китай предложил БРИКС общую ИИ-инфраструктуру — от моделей до инженеров
Китай предложил объединить в БРИКС разработку моделей, облачную платформу и подготовку специалистов, но параметры и поддержка инициативы пока не раскрыты.
🔴 Исследователь обвинил AI-лаборатории в опасной гонке — и предложил доверить им самоконтроль
Джейкоб Коксон считает, что законы не успевают за развитием моделей, но его временное решение оставляет контроль тем же компаниям, которые он обвиняет в опасной гонке.