🤖 ИИ научили обходить собственные системы контроля
Исследователи показали интересный и довольно тревожный эксперимент с Gemma-2-9B-IT.
Модель дообучили так, чтобы при сигнале о проверке она могла менять свои внутренние активации — в результате специальные детекторы хуже распознавали признаки обмана или вредного поведения.
⚡️Причём трюк сработал даже против некоторых мониторов, с которыми модель раньше не сталкивалась.
Пока это лабораторный эксперимент, а не «восстание ИИ». Но сам факт заставляет задуматься: а насколько вообще можно доверять системе, которая сама понимает, что её проверяют❓
🔥 — звучит тревожно
🤔 — просто интересный эксперимент
😂 — роботы уже учатся проходить проверки
Техно-логично | MAX
