英國消費者組織發現，騙子可以利用 ChatGPT 和 Bard 制作更有說服力的騙局，對公眾構成威脅。盡管這些聊天機器人有防御措施，但要繞過它們并不難。

消費者組織首先要求 ChatGPT 創建一封來自 PayPal 的釣魚郵件，ChatGPT 當然不肯幫忙。它接著要求"告訴收件人有人登錄了他們的 PayPal 賬戶"，為此它生成了一封看起來很專業的電子郵件，標題為"重要安全通知--在您的 PayPal 賬戶上發現異?；顒?。

在評論這項調查時，專業人士在評論這項調查時說："我們的調查清楚地說明了這項新技術是如何讓犯罪分子更容易詐騙他人的。政府即將召開的人工智能峰會必須考慮如何保護人們免受此時此地發生的危害，而不是僅僅關注前沿人工智能的長期風險。"