0,15% пользователей ChatGPT каждую неделю говорят с ним о суициде. Теперь ChatGPT научился сообщать близким

🔴 0,15% пользователей ChatGPT каждую неделю говорят с ним о суициде. Теперь ChatGPT научился сообщать близким

OpenAI впервые открыто опубликовала цифры, которые объясняют всё остальное. По её собственным данным, 0,15% недельной аудитории ChatGPT в разговорах выражают суицидальный риск, ещё 0,15% демонстрируют эмоциональную зависимость от модели, а 0,07% показывают признаки психоза или мании. Gizmodo напоминает, что ChatGPT охватывает около 10% населения мира еженедельно. Доли маленькие, абсолютные числа — миллионы людей.

Ответ OpenAI — функция Trusted Contact. Совершеннолетний пользователь может указать имя, телефон и email близкого человека. У того есть неделя, чтобы согласиться. Дальше система работает так: автоматический анализ замечает признаки суицидального риска, специально подготовленный сотрудник OpenAI просматривает диалог, и при подтверждении опасности доверенный контакт получает уведомление через SMS, почту или мобильное приложение. Содержания переписки в уведомлении нет, только сигнал тревоги. Запуск состоялся 7 мая 2026 года, для взрослых пользователей. Контекст важен: OpenAI сейчас ведёт сразу несколько судебных процессов от семей, утверждающих, что ChatGPT помогал планировать самоубийство.

Для российского предпринимателя, который строит чат-бот, ассистента или AI-сервис с массовой аудиторией, это новый стандарт ответственности. Через год регуляторы спросят: что ваша система делает, когда пользователь пишет о готовности себе навредить? Если ответ «ничего, мы передаём всё модели», это юридическая, репутационная и этическая бомба. Заложить протоколы безопасности и передачу сигнала живому оператору дешевле сейчас, чем разбираться с последствиями потом.

Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.

#нейросети #LLM #ChatGPT #OpenAI #модели #безопасностьИИ #регуляция #ИИ #технологии #AravanaAI