OpenAI привлекла сотни подрядчиков к проверке чатов ChatGPT
Сотрудники проекта Lily оценивают реальные диалоги с ChatGPT; обезличивание может пропустить личные сведения, а отказ от обработки не действует задним числом.
🔴 OpenAI привлекла сотни подрядчиков к проверке чатов ChatGPT
Реальные разговоры с ChatGPT могут читать нанятые OpenAI специалисты — в том числе диалоги с личными сведениями. Как сообщает Tom’s Hardware со ссылкой на расследование 404 Media, для проекта Lily компания привлекла сотни подрядчиков. Перед проверкой чаты обезличивают, но часть персональных данных может пройти через фильтр.
Подрядчики оценивают не пользователя, а ответы модели: отвечает ли ChatGPT по существу, не говорит ли свысока, не злоупотребляет ли эмодзи и попытками угодить собеседнику. Фактическую точность они проверяют лишь на уровне очевидных ошибок. Вместе с диалогом специалист может получить сводку памяти пользователя — описание его прежних вопросов, интересов, контекста и, возможно, местоположения.
Имена пользователей проверяющим не показывают, однако OpenAI признала, что обезличивание иногда пропускает персональные сведения, особенно в коротких разговорах. Отсюда и риск: люди обращаются к ChatGPT как к другу или психологической поддержке, раскрывают секреты и даже просят систему никому не показывать переписку. Такая просьба не меняет порядок обработки данных.
В потребительском ChatGPT использование чатов для улучшения продукта включено по умолчанию; для Enterprise, Business и Education — выключено. При этом отказ не действует задним числом: ранее сохранённые разговоры остаются до запроса на удаление, а отдельные чаты к этому моменту уже могли обезличить и перенести в набор данных. Поэтому настройка способна закрыть будущий доступ к новой переписке, но не гарантирует изъятия копий, которые уже попали в процесс оценки.
Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором. #ИИ #OpenAI #ChatGPT #Приватность #Данные #AravanaAI
Хотите получать подобные материалы раньше?
Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.
Узнать про IntelligenceНе пропускайте важное
Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.
🔴 Versona позволяет говорить с цифровой копией умершего — но согласие нельзя восстановить
Цифровая копия может дать человеку возможность договорить с умершим, но не решает вопросов согласия и возможной изоляции.
Глава ООН по правам человека: разработчиков передового ИИ нужно обязать раскрывать инциденты
Фолькер Тюрк считает добровольные меры разработчиков недостаточными и призывает государства ввести отчётность об инцидентах, проверки моделей и согласованные международные требования.
Microsoft запретила обучать ИИ на данных школьников — но отраслевым правилом это пока не стало
Microsoft закрепила обязательные ограничения на использование школьных данных и эмоционально вовлекающих функций, но соглашение пока распространяется только на её собственные контракты.