Новости России
MAX ·
ChatGPT начнёт помечать сгенерированные тексты невидимыми водяными знаками
OpenAI представила собственную технологию textGrain и собирается в ближайшие недели запустить маркировку написанного ИИ текста. Внедрение затронет ChatGPT и Codex для жителей Евросоюза — так компания выполняет требования европейского Закона об искусственном интеллекте. С сегодняшнего дня отмечать свои тексты смогут и клиенты OpenAI API, то есть разработчики и крупные компании. Опция работает по всему миру, однако её разрешат выключать.
Широкого доступа к самому детектору водяных знаков пока не будет. Первыми его получат одобренные исследователи и экспертные организации, говорится в заявлении компании. Предполагается, что именно они помогут протестировать технологию и довести её до нужного уровня.
Работает textGrain так: знак встраивается через выбор слов, который делает модель при генерации. Если текст достаточно длинный, поясняют в OpenAI, складывается закономерность — по ней можно понять, что материал создан ИИ, при этом для человека она незаметна. Детектор затем изучает множество таких выборов и выявляет характерный сигнал. При этом метка не раскрывает ни конкретного пользователя, ни его аккаунт, ни запрос или переписку с ChatGPT. Не показывает она и то, какую часть текста написал человек.
Точность пока далека от идеальной, предупреждает OpenAI: при целевом уровне ложных срабатываний 1% водяной знак находят примерно в 80% случаев для текстов на 200 токенов и примерно в 95% — для 400 токенов. Любая правка текста заметно снижает результативность проверки. В тестах замена каждого десятого слова синонимом уменьшила вероятность обнаружения метки примерно с 92% до 66%, а замена четверти слов — до 17%. Поэтому если метки нет, это ещё не значит, что текст написан человеком.
Ранее о похожем шаге сообщила Anthropic: её модель Claude тоже начнёт помечать весь сгенерированный контент невидимыми водяными знаками. Сделано это было также после принятия европейского закона об ИИ.
Новости России
