Олеся Медведева
MAX ·
Запуск «взрослого режима» в ChatGPT отложили, пишет WSJ.
Предполагалось внедрить чаты, где чат-бот будет вести с пользователями диалоги эротического характера. Но после предупреждений «сексуального коуча по суициду», проект пока не внедряют.
Консультативный совет OpenAI по вопросам безопасности заявил, что новая функция может привести к «нездоровой эмоциональной зависимости» пользователей от чат-бота. Один из экспертов указал на случаи, когда люди, установив тесную связь с ИИ, совершали самоубийства.
Функцию анонсировали еще в 2025 году, запуск планировали на конец года, затем перенесли на начало 2026-го, но снова отложили.
По данным издания, проблемы возникли и на техническом уровне. Система проверки возраста в тестах ошибочно определяла несовершеннолетних как взрослых примерно в 12% случаев, что могло открыть доступ к эротическим чатам миллионам пользователей младше 18 лет.
Кроме того, разработчики столкнулись с трудностями: нужно было разрешить «взрослые» темы, но одновременно надежно блокировать более чувствительный контент, включая насилие над детьми.
В OpenAI заявили, что планируют ограничиться текстовыми диалогами, а новые правила и инструменты модерации должны снизить риски и не допустить формирования «эксклюзивных отношений» между пользователем и ботом.
Напомним, ранее ИИ-клиент Grok Илона Маска разрешил создание фото и видео эротического характера. После этого его раскритиковали в Европе и призвали к запрету.
