ChatGPT : Comment est-il détourné pour créer des comportements malveillants ? 

Au cœur de tous les débats depuis plusieurs mois, l’IA ChatGPT fait encore parler d’elle. Sa nouvelle version 4.0 est si performante qu’elle est utilisée à des fins malveillantes. En effet, les qualités de codage informatique et de rédaction du logiciel en font un allié de taille pour certains hackers novices. Le logiciel peut-il vraiment devenir dangereux ? Quelles réglementations pour l’IA dans l’avenir ? Explications.

Des comportements malveillants

Dès sa sortie en novembre 2022, ChatGPT a notamment fait parler de lui pour ses qualités de rédacteur, produisant des textes si réalistes qu’on pourrait croire à l’écriture d’un humain. Mais le programme d’intelligence artificielle a récemment attiré les regards vers un autre de ses talents cachés. 

ChatGPT, un génie du code informatique ?

ChatGPT s’avère en effet être un as du code informatique. Même s’il n’a pas été conçu à cet effet, il apporte une aide non négligeable pour les personnes qui l’utilisent. Une aubaine pour les développeuses et développeurs informatiques désireux d’automatiser une partie de leurs tâches les plus chronophages, mais également une embellie pour des hackers mal intentionnés. Effectivement, des chercheurs en cybercriminalité ont récemment découvert que des pirates utilisaient le chatbot pour créer des logiciels malveillants. 

Tout commence quand un utilisateur publie un post sur un forum souterrain populaire du dark web le 29 décembre 2022. Le créateur du fil a révélé qu’il expérimentait le prototype lancé par Open IA pour recréer des souches de malwares et des techniques décrites dans des publications de recherche sur les logiciels malveillants courants. À titre d’exemple, il a partagé quelques lignes de code non abouties qui trouvent finalement une fonctionnalité grâce à ChatGPT.

Comme le stipulent les conditions d’utilisation de ChatGPT, le logiciel interdit tout type d’activité malveillante ou de comportement illégal. Cependant, le langage informatique est si complexe et facilement modifiable que le software est incapable de distinguer une ligne de code saine d’une autre malintentionnée. 

Doit-on alors vraiment s’inquiéter de l’usage de ChatGPT pour ses talents de codeur ? En réalité, il ne serait qu’un outil de facilitation pour des apprentis pirates, appelés « script kiddies », voulant compenser leurs faibles connaissances informatiques. Les qualités de codage informatique du chatbot sont donc limitées. Elles permettent certes d’automatiser une partie du travail, sans pour autant révolutionner les pratiques de hackeuses et hackers chevronnés.

« ChatGPT est un perroquet qui a beaucoup lu et qui ne sait que refaire ce qui est déjà connu. Pas besoin de lui pour développer des virus. »

Expert du ministère des armées

Une aubaine pour l’hameçonnage 

Une fois écartées les craintes d’un programme d’IA expert en confection de virus, ChatGPT se montre pour autant très performant dans ce qu’il sait faire de mieux : la rédaction. Et bis repetita, le logiciel connaît aussi son lot d’utilisations malveillantes. 

En effet, le chatbot se montre particulièrement utile pour les arnaqueurs et arnaqueuses du Net. Il peut concevoir des courriers de phishing dans une syntaxe parfaite, dans la langue choisie par les pirates. Ces messages ciblés comportent des liens malveillants, et sont ensuite envoyés par courriel à grande échelle. 

L’utilisation du logiciel permet alors un gain de temps significatif, permettant aux pirates de se concentrer sur les facettes strictement techniques de l’attaque. De plus, ChatGPT rend les e-mails envoyés plus authentiques et mieux personnalisés, pouvant alors tromper quiconque dans un certain état de fatigue.

Et ces utilisations détournées ne sont pas près de s’arrêter. Microsoft a annoncé vouloir injecter quelques milliards d’euros dans la recherche d’Open IA, promettant un chatbot d’un potentiel d’intelligence encore jamais vu.

L’urgence de régulation et de réglementation

En seulement 3 mois, l’intelligence artificielle a fait peau neuve : l’irruption de ChatGPT 4, infiniment plus puissant et rapide que sa version originale, inquiète, et accélère le besoin d’une régulation de l’IA. 

En France, aucune action concrète n’a été mise en place pour contrer les dérives du chatbot. Ceci étant dit, le gouvernement souhaite tout de même renforcer la recherche sur l’IA. Ce sont 700 millions d’euros qui ont été investis dans la stratégie nationale pour l’IA (SNIA), déployée en 2018. Le monde de la cybersécurité, particulièrement vulnérable face aux avancées de l’IA, se renforce lui aussi : 15 000 postes sont à pourvoir sur le territoire.