ИИ начали использовать для скама — ChatGPT может случайно увести на фейковые сайты.
Журналисты The Guardian пишут, что если спросить у ИИ, где купить товар, он иногда подкидывает ссылки на поддельные магазины со «скидками». И этим уже пользуются мошенники.
Они копируют сайты реальных брендов, делают фейковые страницы и «кормят» ими ИИ. В итоге модель может принять это за правду и спокойно посоветовать скам-сайт.
В OpenAI о проблеме знают, но полностью закрыть её пока не могут.
Мораль такая: верить ссылкам на 100% всё ещё опасно.