Selon un rapport divulgué de centres de fraude birmans cité par Hongxing News, les réseaux d’escroquerie exploitent ChatGPT d’OpenAI et Gemini de Google pour du phishing multilingue automatisé et de l’usurpation d’identité, les paiements en cryptomonnaies permettant des transferts de fonds transfrontaliers rapides. Les opérations utilisent ce que les chercheurs décrivent comme un modèle « acquisition d’IA plus règlement en cryptomonnaies », combinant ingénierie sociale générée par IA avec des canaux de paiement basés sur la blockchain pour atteindre une automatisation élevée et une évolutivité internationale.
Starlink est devenu le principal fournisseur d’accès Internet pour ces centres de fraude birmans, les FAI basés aux États-Unis gérant environ un cinquième du trafic des opérations. OpenAI a déclaré que l’utilisation de ChatGPT par les fraudeurs imite le comportement des utilisateurs légitimes et est difficile à détecter, mais a ajouté qu’elle supprime environ 100 000 comptes suspects par mois grâce à la reconnaissance de schémas et aux contrôles de risques. Google a affirmé que ses modèles d’IA incluent des garde-fous de sécurité et a souligné son engagement en faveur d’un « développement responsable de l’IA » pour prévenir les utilisations abusives dans la fraude et d’autres activités illégales.