mer. Fév 8th, 2023

Grâce à ChatGPT, même les script kiddies sans connaissances en développement créent désormais de nouveaux logiciels malveillants, des outils de cryptage et des marchés du dark web.

Les chercheurs en sécurité ont déjà mis en garde contre cela – cela devient maintenant une réalité. Les script kiddies font leur apparition sur les forums de hackers, utilisant ChatGPT pour créer leurs propres outils pour les activités criminelles. Le chatbot lui-même ne blâme pas son créateur OpenAI pour l’abus.

ChatGPT génère un code source malveillant pour les script kiddies

Les utilisateurs ont déjà abusé du chatbot IA ChatGPT, sorti en novembre 2022, à toutes sortes de fins douteuses. L’outil populaire offre donc non seulement de grandes opportunités, mais aussi d’énormes risques.

En attendant, un dessein particulièrement explosif semble se mettre en place, ce que les chercheurs en sécurité ont mis en garde il y a des semaines. Car de plus en plus de script kiddies, c’est-à-dire des cybercriminels qui n’ont que des connaissances techniques limitées, utilisent le chatbot OpenAI pour générer du code source malveillant.

Les codes générés par ChatGPT sont souvent défectueux et peuvent nécessiter une correction par une personne disposant du savoir-faire nécessaire. Mais avec plusieurs tentatives et une combinaison intelligente des résultats, il est certainement possible de créer de nouveaux outils efficaces pour les cyberattaques. D’autant plus que le chatbot apprend constamment et fournit des résultats de mieux en mieux.

Génération de logiciels malveillants, d’outils de chiffrement et plus encore – sans compétences de développeur

La société de sécurité Check Point Research a identifié les premiers cas de telles activités lors de l’analyse de certains sites Web de piratage – mot-clé « OPWNAI“. Même les script kiddies les moins qualifiés peuvent utiliser l’outil d’intelligence artificielle pour mener des attaques de pirates informatiques efficaces. Ce que les vrais professionnels pourraient en faire au fil du temps est une tout autre affaire.

« Comme nous le soupçonnions, certains des cas ont clairement montré que de nombreux cybercriminels utilisant OpenAI n’ont aucune compétence en développement. Bien que les outils que nous présentons dans ce rapport soient assez basiques, ce n’est qu’une question de temps avant que les acteurs de la menace plus sophistiqués améliorent la façon dont ils utilisent les outils basés sur l’IA pour faire des dégâts. »

Rapport de recherche Check Point

Les mêmes chercheurs ont averti en décembre que ChatGPT pouvait parfois être utilisé à mauvais escient par des script kiddies pour créer des logiciels malveillants et une campagne de phishing associée. Bien qu’ils aient également souligné à l’époque que l’outil d’IA pourrait également être utilisé pour soutenir la cyberdéfense. Cela devrait établir un jeu de chat et de souris basé sur l’IA à l’avenir.

Voir aussi  Nintendo Wii : un amateur installe macOS 9.2 et joue à Doom

Dans les forums de hackers, les chercheurs en sécurité ont découvert des indices de développement de logiciels malveillants basés sur le code de souches de logiciels malveillants courants. Ils ont également rencontré l’émergence de nouveaux outils de cryptage et de marchés du dark web avec des prix constamment mis à jour basés sur des crypto-monnaies bien connues.

Bien sûr, les script kiddies sont responsables – pas «OPWNAI« 

Comme le rapporte The Register, les chercheurs sont finalement passés à un nouveau niveau de découverte. Ils ont eux-mêmes interrogé ChatGPT sur la manière d’abuser de ses capacités.

« Dans sa réponse, ChatGPT a parlé d’utiliser la technologie de l’IA pour créer des e-mails de phishing convaincants et des publications sur les réseaux sociaux pour inciter les gens à révéler des informations personnelles, à cliquer sur des liens malveillants ou à joindre des fichiers vidéo et audio pour créer qui peuvent être utilisés pour la désinformation. »

Le registre

Néanmoins, le chatbot a également défendu son créateur OpenAI, qui a déclaré «n’est pas responsable de l’utilisation abusive de sa technologie par des tiers » être. Enfin, l’entreprise prend des mesures pour empêcher que sa technologie ne soit utilisée à des fins malveillantes. Nous pouvons rester curieux de voir si le chatbot peut également nous protéger des script kiddies malveillants à l’avenir.