Au cœur de tous les débats depuis plusieurs mois, l’IA ChatGPT fait encore parler d’elle. Sa nouvelle version 4.0 est si performante qu’elle est utilisée à des fins malveillantes. En effet, les qualités de codage informatique et de rédaction du logiciel en font un allié de taille pour certains hackers novices. Le logiciel peut-il vraiment devenir dangereux ? Quelles réglementations pour l’IA dans l’avenir ? Explications.

Des comportements malveillants

Dès sa sortie en novembre 2022, ChatGPT a notamment fait parler de lui pour ses qualités de rédacteur, produisant des textes si réalistes qu’on pourrait croire à l’écriture d’un humain. Mais le programme d’intelligence artificielle a récemment attiré les regards vers un autre de ses talents cachés. 

ChatGPT, un génie du code informatique ?

ChatGPT s’avère en effet être un as du code informatique. Même s’il n’a pas été conçu à cet effet, il apporte une aide non négligeable pour les personnes qui l’utilisent. Une aubaine pour les développeuses et développeurs informatiques désireux d’automatiser une partie de leurs tâches les plus chronophages, mais également une embellie pour des hackers mal intentionnés. Effectivement, des chercheurs en cybercriminalité ont récemment découvert que des pirates utilisaient le chatbot pour créer des logiciels malveillants. 

Tout commence quand un utilisateur publie un post sur un forum souterrain populaire du dark web le 29 décembre 2022. Le créateur du fil a révélé qu’il expérimentait le prototype lancé par Open IA pour recréer des souches de malwares et des techniques décrites dans des publications de recherche sur les logiciels malveillants courants. À titre d’exemple, il a partagé quelques lignes de code non abouties qui trouvent finalement une fonctionnalité grâce à ChatGPT.

Comme le stipulent les conditions d’utilisation de ChatGPT, le logiciel interdit tout type d’activité malveillante ou de comportement illégal. Cependant, le langage informatique est si complexe et facilement modifiable que le software est incapable de distinguer une ligne de code saine d’une autre malintentionnée. 

Doit-on alors vraiment s’inquiéter de l’usage de ChatGPT pour ses talents de codeur ? En réalité, il ne serait qu’un outil de facilitation pour des apprentis pirates, appelés « script kiddies », voulant compenser leurs faibles connaissances informatiques. Les qualités de codage informatique du chatbot sont donc limitées. Elles permettent certes d’automatiser une partie du travail, sans pour autant révolutionner les pratiques de hackeuses et hackers chevronnés.

« ChatGPT est un perroquet qui a beaucoup lu et qui ne sait que refaire ce qui est déjà connu. Pas besoin de lui pour développer des virus. »

Expert du ministère des armées

Une aubaine pour l’hameçonnage 

Une fois écartées les craintes d’un programme d’IA expert en confection de virus, ChatGPT se montre pour autant très performant dans ce qu’il sait faire de mieux : la rédaction. Et bis repetita, le logiciel connaît aussi son lot d’utilisations malveillantes. 

En effet, le chatbot se montre particulièrement utile pour les arnaqueurs et arnaqueuses du Net. Il peut concevoir des courriers de phishing dans une syntaxe parfaite, dans la langue choisie par les pirates. Ces messages ciblés comportent des liens malveillants, et sont ensuite envoyés par courriel à grande échelle. 

L’utilisation du logiciel permet alors un gain de temps significatif, permettant aux pirates de se concentrer sur les facettes strictement techniques de l’attaque. De plus, ChatGPT rend les e-mails envoyés plus authentiques et mieux personnalisés, pouvant alors tromper quiconque dans un certain état de fatigue.

Et ces utilisations détournées ne sont pas près de s’arrêter. Microsoft a annoncé vouloir injecter quelques milliards d’euros dans la recherche d’Open IA, promettant un chatbot d’un potentiel d’intelligence encore jamais vu.

L’urgence de régulation et de réglementation

En seulement 3 mois, l’intelligence artificielle a fait peau neuve : l’irruption de ChatGPT 4, infiniment plus puissant et rapide que sa version originale, inquiète, et accélère le besoin d’une régulation de l’IA. 

En France, aucune action concrète n’a été mise en place pour contrer les dérives du chatbot. Ceci étant dit, le gouvernement souhaite tout de même renforcer la recherche sur l’IA. Ce sont 700 millions d’euros qui ont été investis dans la stratégie nationale pour l’IA (SNIA), déployée en 2018. Le monde de la cybersécurité, particulièrement vulnérable face aux avancées de l’IA, se renforce lui aussi : 15 000 postes sont à pourvoir sur le territoire.

La menace est telle que même les expertes et experts mondiaux de l’intelligence artificielle s’affolent. Ironie de l’histoire, c’est Elon Musk, investisseur principal dans Open IA, qui s’est posé comme tête de pont d’un moratoire mondial contre l’intelligence artificielle. Pour les signataires de la pétition, il conviendrait de faire une pause de six mois dans la recherche en IA. 

La Commission européenne elle-même semble courir après la rapidité de l’innovation. En 2021, le Parlement européen avait rédigé une proposition de loi, « l’AI Act », destinée à renforcer les règles d’utilisation des données, et à améliorer leur qualité et leur transparence. Le texte alerte aussi sur les questions éthiques de mise en œuvre de l’intelligence artificielle dans les domaines de la santé, de l’éducation ou de l’énergie. 

Mais pour les expertes et experts, ces avancées sont beaucoup trop timides. Pour contrer ChatGPT 4, des parlementaires ont dû proposer en urgence de mettre les IA générant des textes complexes sur une liste « à hauts risques ». Ils travaillent en parallèle sur des règles plus strictes qui devraient s’appliquer aux développeurs et aux utilisateurs de ChatGPT. Ces efforts de réglementation sont salutaires, mais risquent de mettre un certain temps à s’appliquer. 

Lire aussi

Incendie de Notre-Dame : 5 ans après,
quels enseignements tirés du drame ?

Sécurité & Sûreté humaine
16 avril 2024

Le 15 avril 2019, l’incendie de Notre-Dame de Paris a cruellement mis en lumière la vulnérabilité des édifices religieux. Ossatures et charpentes en bois, mobiliers, décors ou encore configuration des lieux parfois inadaptée constituent autant de talons d’Achille face à la menace des flammes. Cinq ans après le sinistre, la…

L’écoterrorisme, une notion contestée mise sur le devant de la scène

Sécurité & Sûreté humaine
9 avril 2024

Relativement récent, le terme d’écoterrorisme interpelle et divise. Tout droit venu des États-Unis, il a été plus d’une fois utilisé dans la sphère politique française, et décrié par les mouvements écologistes aux noms desquels il a été associé. Il fait aujourd’hui son retour sur le devant de la scène à…

Le luxe, un domaine aux enjeux sécuritaires spécifiques

Sécurité & Sûreté humaine
26 mars 2024

Montres, voitures, joaillerie, haute couture… Dans l’univers du luxe et des produits haut de gamme, chaque détail est minutieusement orchestré pour offrir une expérience unique et exclusive aux clients. La sécurité y revêt donc une importance capitale. De la protection des biens d’une valeur inestimable à celles des informations et…