Les criminels pourraient utiliser les capacités de ChatGPT pour commettre des fraudes et d’autres cybercrimes, a averti Europol.
L’agence européenne d’application de la loi Europol a averti lundi 27 mars que ChatGPT et d’autres systèmes d’IA générative pourraient être utilisés à mauvais escient pour la fraude en ligne et d’autres formes de cybercriminalité dans le rapport « ChatGPT – L’impact des modèles de grande langue sur l’application de la loi ». Les experts d’Europol ont examiné ChatGPT pour une éventuelle utilisation abusive.
ChatGPT, développé par la start-up américaine OpenAI en novembre dernier, a été rapidement adopté par les utilisateurs. Ce qui s’avère être une avancée significative pour l’apprentissage automatique d’une part, offre également un potentiel d’abus d’autre part. Europol met actuellement en garde contre l’utilisation possible de LLM (Large Language Models) tels que ChatGPT à des fins criminelles.
Les chatbots IA peuvent couvrir un large éventail de cybercrimes, du phishing à la désinformation et aux logiciels malveillants. Europol a évalué : « Alors que les capacités des LLM (Large Language Models) comme ChatGPT sont activement améliorées, l’exploitation potentielle de ces types de systèmes d’IA par des criminels présente des perspectives inquiétantes. »
Europol met en garde : Avec ChatGPT aux activités criminelles
Le rapport met en évidence un abus potentiel de ChatGPT dans trois domaines de criminalité. Europol souligne que pour la première fois, ChatGPT fait partie des meilleurs grâce à sa capacité à composer des textes réalistes « outil utile à des fins de phishing » peut être.
Deuxièmement, ChatGPT serait dû à sa pertinence, « Reproduire des modèles de discours pour imiter le style de discours d’individus ou de groupes particuliers » précieux pour les criminels. Le chatbot IA est capable de « écrire des textes authentiques rapidement et à grande échelle ». Cela pourrait lui faire « Outil de propagande et de désinformation» selon l’évaluation d’Europol.
Avec des styles de langage authentiques de personnes ou de groupes, les criminels pourraient plus facilement attirer les victimes dans un piège et gagner leur confiance. « Il permet aux utilisateurs de créer et de distribuer des messages qui reflètent un récit spécifique avec relativement peu d’efforts. »
Troisièmement, même avec peu de connaissances techniques, les criminels pourraient utiliser ChatGPT pour créer du code malveillant, selon Europol.
Avec ce rapport, Europol vise à sensibiliser les forces de l’ordre à la question d’un éventuel abus de ChatGPT.