Raphael ThysChatGPT Virus
Un chercheur en sécurité est parvenu à créer un malware indétectable en posant des questions à Chat GPT. Pour contourner la sécurité de l'Intelligence artificielle, il a segmenté ses demandes.
C’est l’angoisse de tout éditeur d’antivirus ou de responsable en sécurité informatique : qu’un virus passe entre les mailles du filet et n’infecte un ordinateur ou même un réseau.
C’est ce qu’on appelle une attaque « zero-day », et c’est d’autant plus angoissant lorsque le malware en question est inconnu et qu’on découvre qu’il a été créé par une Intelligence artificielle ! C’est ce qu’a démontré, Aaron Mulgrew, un expert en cybersécurité, puisqu’il est parvenu à créer un virus grâce à Chat GPT.
Bien sûr, par défaut, l’Intelligence artificielle d’OpenIA est programmée pour ne pas répondre à des demandes malveillantes, et ainsi éviter que des pirates ne l’utilisent pour créer des cyberattaques.
Sauf que ce chercheur a piégé Chat GPT en segmentant ses demandes, et ainsi éviter qu’elles ne soient bloquées. Pas question donc d’écrire : « Peux-tu me développer un malware caché dans une fausse application ? ».
À la place, ce chercheur a donc rusé, et d’abord il a simplement demandé à l’Intelligence artificielle de générer du code capable de chercher une image au format PNG supérieur à 5 Mo sur un disque local.
Pourquoi 5 Mo ? Parce que c’est assez grand pour stocker un fragment d’un document sensible tel qu’un PDF ou un document Word.
Par défaut, Chat GPT bloque tout demande qui inclut le terme « malware ». Il faut donc ruser pour l’obliger à produire du contenu malveillant à son insu © Forcepoint
En quelques minutes, Chat GPT produit le travail de plusieurs semaines
Ce chercheur a ensuite copié dans la console et a demandé à Chat GPT d’ajouter du code qui encodera le png trouvé avec la stéganographie. Autre étape : il faut créer du code qui indique les dossiers à cibler sur la machine infectée, et le serveur vers où seront téléchargés les fichiers.
L’expert a demandé à ce que Chat GPT développe du code pour fouiller les dossiers Documents, Bureau et AppData de l’utilisateur pour trouver des documents PDF ou des documents Word. Enfin, pour le téléchargement, il a opté pour Google Drive car le cloud Google est souvent utilisé en entreprise, et il n’est pas bloqué par un pare-feu.
Cette commande récupère un fichier PDF qui sera ensuite extrait de l’ordinateur en étant caché dans un PNG, puis stocké dans un Google Drive © Forcepoint
Il ne restait plus qu’à compiler ce malware et à le soumettre aux éditeurs d’antivirus, via la plate-forme VirusTotal. Résultat ? Seuls cinq éditeurs sur 69 ont estimé que le programme créé par Chat GPT était suspicieux. Ce qui signifie que plus de 90% des antivirus ne l’ont pas détecté ! Mais ce chercheur a voulu encore aller plus loin, et il a demandé à Chat GPT de modifier le code suspect pour qu’il soit indétectable à 100%. Et il y est parvenu !
Le virus se cache dans un économiseur d’écran
« Et voilà, nous l’avons ; nous avons notre Zero Day » écrit Aaron Mulgrew.
« En utilisant simplement les invites Chat GPT et sans écrire de code, nous avons pu produire une attaque très avancée en quelques heures seulement. J’estime que le temps équivalent pris sans un Chatbot basé sur l’IA pourrait prendre quelques semaines à une équipe de 5 à 10 développeurs de logiciels malveillants, en particulier pour échapper à tous les éditeurs basés sur la détection. »
Une fois qu’il a obtenu ce 100%, le chercheur a demandé à Chat GPT de cacher ce fichier dans un exécutable sous Windows. Impossible de le faire dans un programme avec une extension en .exe et il a opté pour un économiseur d’écran, qui s’affiche lorsque l’écran est en veille.
Lorsque son fichier est soumis aux antivirus, il est considéré comme malveillant par trois éditeurs sur 69. Surpris de ce score, il a envoyé un autre économiseur d’écran classique, sans malware, et il a obtenu le même score.
Conclusion : son virus est donc indétectable.
Je vois ce message car j’ai refusé les cookies
Vous avez fait le choix de bloquer les cookies de mesure d’audience, contenu personnalisé et ciblage publicitaire. Je soutiens le travail de la rédaction qui propose une offre éditoriale de qualité financée uniquement par la publicité.