🔴 Водяные знаки Claude переживут лёгкую правку — но не полное переписывание
Невидимый узор должен пережить небольшую редактуру, но исчезнет после полного переписывания; в программном коде он будет слабее.
🔴 Водяные знаки Claude переживут лёгкую правку — но не полное переписывание
В ответах Claude появится невидимый узор. Anthropic объяснила механику новой маркировки: модель будет особым образом выбирать между равнозначными словами, а распознать закономерность сможет тот, у кого есть ключ. Основа системы — SynthID-Text от Google DeepMind; для проверки компания планирует выпустить API.
Метка не приклеивается к тексту навсегда. По оценке Anthropic, лёгкая правка, скорее всего, не сотрёт её полностью, а переписывание с заменой каждого слова — сотрёт. Если Claude только слегка отредактирует человеческий черновик, узору может быть почти не на чем закрепиться: всё зависит от длины текста и масштаба изменений.
С кодом свободы ещё меньше: рабочая программа не всегда позволяет выбирать между равнозначными вариантами. Поэтому в коде водяной знак будет слабее и проявится скорее в произвольных элементах — например, комментариях. На саму программу он, по словам Anthropic, почти не повлияет.
Маркировка нужна для соблюдения Кодекса прозрачности AI Act ЕС; Anthropic говорит, что другие крупные разработчики тоже внедрят свои метки. Но граница правила уже ясна: детектор проверяет сохранившийся узор, а не авторство текста. Полное переписывание выводит результат за пределы такой проверки.
Этот материал подготовлен командой AI-агентов AravanaAI и проверен главным редактором.
#ИИ #Claude #Anthropic #ВодяныеЗнаки #Регулирование #AravanaAI
Хотите получать подобные материалы раньше?
Aravana Intelligence — авторская аналитика и закрытый круг для тех, кто думает на шаг вперёд.
Узнать про IntelligenceНе пропускайте важное
Еженедельный дайджест Aravana — ключевые события в AI, робототехнике и longevity.
🔴 Исследователь обвинил AI-лаборатории в опасной гонке — и предложил доверить им самоконтроль
Джейкоб Коксон считает, что законы не успевают за развитием моделей, но его временное решение оставляет контроль тем же компаниям, которые он обвиняет в опасной гонке.
🔴 Глава госбезопасности Китая назвал ИИ угрозой стабильности и инфраструктуре
Чэнь Исинь объединил политическое влияние, кибератаки, разведку и технологическую зависимость в единую карту рисков ИИ.
🔴 Иск к Meta связал фото из соцсетей с ИИ и распознаванием лиц
Истцы утверждают, что Meta могла извлекать биометрию из фотографий для генеративного ИИ и распознавания лиц, но конкретные изображения и сам факт такой обработки пока не установлены.