ChatGPT : les arnaques se multiplient, comment les reconnaître ?

L’arrivée du chatbot d’OpenAI sur le marché a entraîné son lot d’usurpateurs et de logiciels malveillants.

 Publié le 15 avril 2023

Certains arnaques utilisent ChatGPT pour se perfectionner. © picsmart - stock.adobe.com

Dès lorsqu’une technologie prend de l’ampleur, des utilisateurs tentent de la détourner à des fins malveillantes. Si des usages malintentionnés avaient déjà été soulignés lors de l’émergence des NFT ou du metaverse, c’est désormais l’intelligence artificielle – et en particulier ChatGPT – qui fait office de terrain de jeu privilégié pour les escroqueries. Retour sur les différentes arnaques liées à ChatGPT.

L’intelligence artificielle utilisée à des fins malveillantes

Des campagnes de phishing générées grâce à ChatGPT

Les chercheurs en cybersécurité de l’antivirus Norton ont récemment publié un rapport sur les cyber-risques liés à ChatGPT. Les experts notent l’utilisation du chatbot dans le cadre de campagnes de phishing. En effet, l’IA a la capacité de rédiger des textes structurés dans de nombreuses langues. Son utilisation peut ainsi permettre d’améliorer les contenus présents dans les mails d’hameçonnage, qui sont actuellement facilement reconnaissables pour un œil averti.

Les capacités de code utilisées pour la création de malwares

Selon les chercheurs de Norton, les compétences en code de ChatGPT pourraient également servir à la création de malwares plus sophistiqués :

Certains langages de programmation sont rarement utilisés pour créer des malwares, et il est simple d’utiliser ChatGPT pour « traduire » le code source d’un langage vers un autre moins courant.

Cette aptitude du chatbot à transférer un code d’un langage à l’autre permettrait alors de contourner certaines couches de protection des antivirus.

L’association de ChatGPT avec d’autres IA

Les textes issus de ChatGPT peuvent être couplés à d’autres outils utilisant l’intelligence artificielle afin de produire un contenu trompeur particulièrement persuasif. Récemment, des vidéos réalisées à l’aide de générateur de vidéo par IA (comme Synthesia), mettant en scène des avatars réalistes, ont été postées sur YouTube. Ces vidéos, présentées comme des tutoriels pour cracker des logiciels payants (de la suite Adobe notamment) renvoyaient vers des malwares. Si cette pratique n’est pas nouvelle, l’utilisation de l’intelligence artificielle permet de la rendre plus difficile à détecter.

L’usurpation du nom ChatGPT

De fausses applications et extensions

De nombreuses arnaques profitent également de la forte popularité de ChatGPT pour usurper son nom. Ainsi, une fausse extension pour Chrome a récemment fait parler d’elle. Nommée Quick access to ChatGPT, l’extension promettait un raccourci vers le chatbot, mais était en réalité utilisée pour détourner les comptes Facebook. Elle permettait alors aux pirates de diffuser des publicités pour elle-même afin de se propager, utilisant parfois les crédits des comptes entreprise. L’extension a depuis été retirée, après avoir atteint plus de 2000 téléchargements par jour. Par ailleurs, vous pourrez retrouver une multitude d’applications reprenant le nom de ChatGPT sur les app stores, alors qu’OpenAI n’en a pas encore développé à ce jour.

Des arnaques dans la cryptomonnaie

Ces derniers mois, des centaines de projets de cryptomonnaie utilisant le nom de ChatGPT – ou Bing ChatGPT  – sont apparues sur les blockchains de Binance, d’Ethereum, et d’Arbitrum afin de tromper les investisseurs souhaitant surfer sur la tendance. Plus élaboré encore : un faux chatbot se faisant passer pour ChatGPT a également fait son apparition. Celui-ci faisait miroiter à l’internaute un investissement dans les cryptomonnaies grâce à l’intelligence artificielle. Le but de l’opération ? Récupérer les accès au compte bancaire de la cible.

Comment repérer les arnaques utilisant ChatGPT ?

À l’avenir, il pourra être de plus en plus difficile de repérer les arnaques générées par l’intelligence artificielle. C’est pourquoi il sera nécessaire de redoubler de vigilance. En cas de doute sur un contenu textuel, des outils existent pour distinguer un texte généré par ChatGPT. 

D’autres pourraient voir le jour pour permettre de détecter les images ou deepfakes.

En ce qui concerne les utilisations du nom ChatGPT, veillez à vérifier par une recherche rapide que les outils sont bien développés par OpenAI, et évitez d’y avoir recours si ce n’est pas le cas.