Meta будет сообщать родителям, если подросток заговорил с её ИИ о суициде
Meta AI начнёт предупреждать родителей о разговорах подростков про суицид и самоповреждение — функция уже работает в четырёх странах, каждую переписку до сигнала читает человек.
🔴 Meta будет сообщать родителям, если подросток заговорил с её ИИ о суициде
Если подросток заведёт с чат-ботом Meta AI разговор о суициде или самоповреждении, его родители получат уведомление. Компания запустила эту функцию в системе родительского контроля Instagram — пока в США, Великобритании, Австралии и Канаде, до конца года обещают открыть по всему миру.
Работает это так: отдельная система ИИ выявляет тревожные диалоги, но прежде чем послать сигнал родителям, каждую такую переписку читает живой человек. Если намерение неоднозначно, Meta решила предупреждать всё равно. Параллельно компания разрабатывает функцию, которая сможет вызвать экстренные службы, если пользователю грозит непосредственная опасность. «Мы понимаем, насколько тревожно родителю получить такое уведомление», говорится в заявлении компании.
Это ответ на давление регуляторов и родителей, которые спрашивают, что вообще происходит, когда ребёнок остаётся один на один с чат-ботом. И здесь повисает честный вопрос: где заканчивается защита подростка и начинается слежка за его личными разговорами, и кто вправе проводить эту границу, компания или семья?
Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.
#нейросети #модели #Meta #безопасностьИИ #регуляция #здоровье #ИИ #технологии #AravanaAI
Хотите получать подобные материалы раньше?
Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.
Узнать про IntelligenceНе пропускайте важное
Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.