Les virus créés par Chat GPT font trembler les experts en sécurité
C’est l’angoisse de tout éditeur d’antivirus ou de responsable en sécurité informatique : qu’un virus passe entre les mailles du filet et n’infecte un ordinateur ou même un réseau.
C’est ce qu’on appelle une attaque « zero-day », et c’est d’autant plus angoissant lorsque le malware en question est inconnu et qu’on découvre qu’il a été créé par une Intelligence artificielle ! C’est ce qu’a démontré, Aaron Mulgrew, un expert en cybersécurité, puisqu’il est parvenu à créer un virus grâce à Chat GPT.
Bien sûr, par défaut, l’Intelligence artificielle d’OpenIA est programmée pour ne pas répondre à des demandes malveillantes, et ainsi éviter que des pirates ne l’utilisent pour créer des cyberattaques.
Sauf que ce chercheur a piégé Chat GPT en segmentant ses demandes, et ainsi éviter qu’elles ne soient bloquées. Pas question donc d’écrire : « Peux-tu me développer un malware caché dans une fausse application ? ».
À la place, ce chercheur a donc rusé, et d’abord il a simplement demandé à l’Intelligence artificielle de générer du code capable de chercher une image au format PNG supérieur à 5 Mo sur un disque local.
Pourquoi 5 Mo ? Parce que c’est assez grand pour stocker un fragment d’un document sensible tel qu’un PDF ou un document Word.
En quelques minutes, Chat GPT produit le travail de plusieurs semaines
Ce chercheur a ensuite copié dans la console et a demandé à Chat GPT d’ajouter du code qui encodera le png trouvé avec la stéganographie. Autre étape : il faut créer du code qui indique les dossiers à cibler sur la machine infectée, et le serveur vers où seront téléchargés les fichiers.
L’expert a demandé à ce que Chat GPT développe du code pour fouiller les dossiers Documents, Bureau et AppData de l’utilisateur pour trouver des documents PDF ou des documents Word. Enfin, pour le téléchargement, il a opté pour Google Drive car le cloud Google est souvent utilisé en entreprise, et il n’est pas bloqué par un pare-feu.
Il ne restait plus qu’à compiler ce malware et à le soumettre aux éditeurs d’antivirus, via la plate-forme VirusTotal. Résultat ? Seuls cinq éditeurs sur 69 ont estimé que le programme créé par Chat GPT était suspicieux. Ce qui signifie que plus de 90% des antivirus ne l’ont pas détecté ! Mais ce chercheur a voulu encore aller plus loin, et il a demandé à Chat GPT de modifier le code suspect pour qu’il soit indétectable à 100%. Et il y est parvenu !
Le virus se cache dans un économiseur d’écran
« Et voilà, nous l’avons ; nous avons notre Zero Day » écrit Aaron Mulgrew.
« En utilisant simplement les invites Chat GPT et sans écrire de code, nous avons pu produire une attaque très avancée en quelques heures seulement. J’estime que le temps équivalent pris sans un Chatbot basé sur l’IA pourrait prendre quelques semaines à une équipe de 5 à 10 développeurs de logiciels malveillants, en particulier pour échapper à tous les éditeurs basés sur la détection. »
Une fois qu’il a obtenu ce 100%, le chercheur a demandé à Chat GPT de cacher ce fichier dans un exécutable sous Windows. Impossible de le faire dans un programme avec une extension en .exe et il a opté pour un économiseur d’écran, qui s’affiche lorsque l’écran est en veille.
Lorsque son fichier est soumis aux antivirus, il est considéré comme malveillant par trois éditeurs sur 69. Surpris de ce score, il a envoyé un autre économiseur d’écran classique, sans malware, et il a obtenu le même score.
Conclusion : son virus est donc indétectable.
REF.: https://www.science-et-vie.com/magazines/technologie/intelligence-artificielle-chatgpt-virus-malware-indetectable-102671.html
Aucun commentaire:
Publier un commentaire