À medida que o ChatGPT se torna mais amplamente utilizado, os golpistas provavelmente aplicarão a tecnologia para ataques de phishing, de acordo com especialistas. A OpenAI, criadora do ChatGPT, restringe o uso indevido da tecnologia, mas os planos da Microsoft de incorporá-la aos serviços de IA do Azure podem levar a um uso mais amplo. Chester Wisniewski, principal pesquisador da Sophos, estudou a facilidade com que o ChatGPT pode ser manipulado para ataques maliciosos. Ele descobriu que o ChatGPT torna mais fácil para os golpistas lançarem ataques de phishing, escrevendo iscas de phishing muitas vezes mais críveis do que os humanos reais. Com o avanço da IA, é importante considerar os possíveis riscos de segurança e o que precisa ser feito para combater o uso mal-intencionado da tecnologia.