Powered By Blogger

Rechercher sur ce blogue

jeudi 19 novembre 2026

Amazon Threat Intelligence observe des acteurs malveillants menant des campagnes de cybercriminalité à l'aide d'agents d'IA ARTEX

Amazon Threat Intelligence observe des acteurs malveillants menant des campagnes de cybercriminalité à l'aide d'agents d'IA ARTEX


Par CJ Moses, le 13 novembre 2026, dans la rubrique Annonces, Sécurité, Identité et Conformité

Lien permanent

Commentaires

Partager


Du 3 octobre au 5 novembre 2026, MadPot d'Amazon, un réseau mondial de capteurs de menaces leurres, a intercepté des requêtes d'agents d'IA contenant de la mémoire opérationnelle issues de campagnes offensives menées par des acteurs malveillants sur ARTEX, un framework open source de tests d'intrusion basé sur l'IA. Les agents ARTEX ont envoyé ces requêtes aux capteurs MadPot configurés pour se présenter comme des API d'inférence de modèles de langage étendus (LLM) populaires. Ces requêtes contenaient les enregistrements des campagnes menées par les agents.


Amazon Threat Intelligence a évalué l'activité de menace en ciblant les clients AWS potentiellement affectés et les a notifiés le cas échéant. L'activité contre d'autres organisations n'ayant pu être confirmée, cet article présente les résultats et les indicateurs de compromission (IOC) afin que les organisations utilisant les technologies concernées puissent examiner leurs propres environnements.


La campagne ARTEX la plus marquante consistait en un vol massif d'identifiants permettant d'accéder à des modèles d'IA. Organisée comme une opération autonome, elle utilisait les clés volées pour financer l'inférence LLM, qui alimentait ensuite la recherche d'identifiants supplémentaires. Une autre campagne ciblait les plateformes d'échange de cryptomonnaies afin de contourner la vérification KYC (Know Your Customer) grâce à l'injection de deepfakes en temps réel. Globalement, les enregistrements des agents montrent que les frameworks d'agents sont passés d'une utilisation expérimentale à des opérations offensives multi-objectifs soutenues, menées avec une intervention humaine minimale. Cet article décrit le fonctionnement de ces campagnes d'après les descriptions fournies par les agents eux-mêmes.


Attribution et instructions

Amazon Threat Intelligence estime avec un degré de certitude modéré qu'ARTEX a été utilisé pour ces campagnes, compte tenu des références fréquentes aux outils ARTEX et à d'autres éléments techniques y faisant référence. Les acteurs malveillants ont donné des instructions aux agents ARTEX via des messages prédéfinis qui définissaient les objectifs de la mission, les règles de ciblage et les contraintes opérationnelles. Les agents ont ensuite exécuté les tâches de manière autonome, conformément à ces instructions. Lors d'une campagne de vol d'identifiants, les opérateurs ont demandé aux agents de cibler une séquence de pays prédéfinie, de privilégier les sites de production d'entreprises par rapport aux projets personnels et d'évaluer chaque identifiant volé selon sa fonctionnalité et son potentiel. Les agents ont reçu pour instruction de considérer les identifiants exposés publiquement pendant plus de 30 jours comme des actifs de faible valeur.


Amazon Threat Intelligence estime également, avec un degré de certitude modéré, qu'il s'agit de groupes de menaces distincts liés à la Chine, en raison de l'utilisation du chinois simplifié dans les messages, de la configuration du fuseau horaire chinois, d'un ciblage cohérent avec les intérêts chinois et d'outils principalement utilisés par des menaces liées à la Chine. Parmi les instructions données figuraient la définition de lignes rouges, comme l'exclusion des cibles en Chine continentale et des domaines gouvernementaux, et l'obligation pour tout le trafic sortant de transiter par des serveurs proxy.


Comment MadPot a permis d'observer ces campagnes


MadPot présente des services contrôlés aux attaquants potentiels et enregistre la manière dont ils les découvrent, les testent et tentent de les compromettre ou de les exploiter. La télémétrie de MadPot permet à Amazon Threat Intelligence d'observer le comportement des attaquants sans exposer les charges de travail des clients. Dans ce cas précis, les capteurs MadPot présentaient des interfaces de complétion de chat compatibles LLM populaires sur différents ports. Les frameworks d'agents envoyaient des requêtes à ces interfaces dans le cadre de leurs flux de travail offensifs, les considérant comme des backends d'inférence LLM.


La télémétrie résultante contenait le contexte de tâche persistant, les requêtes système, l'historique des outils, l'état du graphe de connaissances et les résultats rapportés que ces frameworks envoient habituellement à un LLM pour prendre des décisions opérationnelles. Étant donné que les frameworks d'agents conservent l'historique des conversations passées, chaque requête contient souvent l'historique opérationnel complet d'une campagne. Cet historique décrivait des activités antérieures et postérieures aux requêtes capturées, sur des systèmes non surveillés par MadPot. Amazon Threat Intelligence n'a pas observé ces activités en direct et ne peut donc pas vérifier les résultats rapportés par les agents. Cependant, les enregistrements montrent les objectifs des acteurs.


La plupart des activités utilisaient ARTEX pour répartir le travail entre les agents planificateurs, exécutants, de vérification et de compression, partageant un graphe de connaissances persistant. Le graphe de connaissances sert de mémoire partagée pour l'opération : chaque agent y accède et y réécrit ses résultats, reprenant ainsi le travail là où les autres l'ont laissé. Les enregistrements des agents décrivent des activités de reconnaissance, des tests de vulnérabilité, des vols d'identifiants, des extensions de privilèges cloud et des tentatives de fraude aux cryptomonnaies sur des centaines de cibles, couvrant des plateformes d'applications d'IA et d'autres charges de travail. Ces enregistrements montrent comment les acteurs malveillants organisent des opérations offensives persistantes et à motivation financière à l'aide de frameworks d'IA multi-agents.


Campagne 1 : Vol d'identifiants d'IA à grande échelle


Dans cette campagne, les acteurs malveillants ont utilisé des agents d'IA pour voler des clés API et d'autres identifiants.

Ils cherchaient à obtenir un accès à des modèles d'IA, très probablement pour pouvoir les utiliser aux frais d'autrui. Les traces laissées par ces agents montrent que des clés dérobées étaient injectées dans la passerelle de modèles (gateway) du framework lui-même ; ces clés servaient ensuite à alimenter les agents dans leur quête de nouvelles clés. Au-delà des clés d'accès aux modèles d'IA, les identifiants cloud étaient perçus comme une porte ouverte vers des accès plus étendus. Les agents validaient des identités via les jetons et les services d'identité de chaque fournisseur, cartographiaient les espaces de stockage, évaluaient l'étendue des autorisations, et ciblaient des services de modèles d'IA gérés, des coffres de secrets ou de paramètres, ainsi que des identités applicatives. Ils privilégiaient l'accès à des modèles d'IA de pointe (« frontier models ») plutôt qu'à de simples autorisations cloud génériques.


Bien que les agents aient eu recours à diverses passerelles, clés et modèles d'IA, ils suivaient tous une méthode commune : identifier des applications d'IA exposées sur Internet, en extraire les clés fournies par les prestataires en amont, valider ces clés, puis les stocker dans un réservoir centralisé. Les agents se concentraient sur les applications qui agrègent des clés provenant de différents fournisseurs, car une interface de gestion vulnérable peut suffire à exposer de nombreux comptes en aval. Parmi les cibles figuraient des passerelles LLM et des plateformes proxy — telles que One API, New API, Veloera, Sub2API et LiteLLM — ainsi que des outils de création d'applications d'IA comme Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat et Ollama. Un référentiel de vulnérabilités associait chaque produit identifié à une chaîne d'attaque spécifique : installations non initialisées pouvant être détournées, points de terminaison de gestion ou de configuration accessibles sans authentification, identifiants administrateur par défaut (comme la clé maîtresse par défaut de LiteLLM), vulnérabilités telles que CVE-2025-3248 (Langflow) ou CVE-2026-28797 (RAGFlow), contournement de l'authentification via l'en-tête `isCliRequest` dans les systèmes de la famille One API, attaques SSRF (via des fonctionnalités de récupération d'URL ciblant les services de métadonnées cloud), ou encore secrets oubliés dans du code JavaScript côté client, des « source maps », des routes de débogage ou des fichiers d'environnement.


Pour localiser ces clés, les agents s'appuyaient sur des services de scan Internet, la transparence des certificats, ainsi que sur des sources publiques de code et d'artefacts : dépôts GitHub et archives d'événements (ciblant des secrets ayant échappé aux mécanismes de révocation automatique), paquets npm et PyPI, couches d'images de conteneurs, notebooks, espaces d'hébergement de modèles, sites de partage de texte (« paste sites ») et canaux Telegram. Une opération parallèle a suivi une séquence de pays prédéfinie, en donnant la priorité aux sites de production des entreprises, et a classé chaque identifiant : L1 pour une simple piste (lead), L2 pour un appel API fonctionnel confirmé, et L3 pour un impact quantifié, tel que l'accès à des données lisibles ou à un solde utilisable. Les clés exposées publiquement pendant plus de 30 jours ont été considérées comme des éléments à faible valeur.


Campagne 2 : Contournement de la vérification d'identité par des « deepfakes »

Dans cette campagne, des acteurs malveillants ont utilisé des agents basés sur l'IA pour contourner les contrôles de vérification d'identité (KYC) sur deux plateformes d'échange de cryptomonnaies, au moyen de « deepfakes ». Les enregistrements des agents montrent la génération, en temps réel, de vidéos « deepfake » pour valider les contrôles par selfie, ainsi que la création de faux documents d'identité pour réussir les vérifications documentaires.


Les documents décrivent une approche méthodique du contrôle de « vivacité » (liveness check) — une mesure de sécurité visant à confirmer que la personne interagissant avec un système numérique est bien un être humain réel, physiquement présent au moment de la capture. Les agents ont procédé à une ingénierie inverse détaillée du protocole de vérification de vivacité d'un fournisseur, documentant le flux d'événements de détection faciale, le suivi de la position du visage durant le contrôle, ainsi que le système de coordonnées utilisé pour guider les mouvements de l'utilisateur. Lors de leur tentative la plus aboutie, ils sont parvenus à réaliser toute la séquence de mouvements, en maintenant le visage à moins de 7 pixels de la cible visée. Malgré cela, le serveur du fournisseur a systématiquement rejeté le « deepfake » dans toutes les tentatives enregistrées par les agents. Parallèlement, une autre session a permis de mettre en place un pipeline de génération de « deepfakes » en temps réel, exécuté sur un processeur graphique (GPU) grand public, en utilisant un modèle d'animation faciale « open source ». En optimisant le modèle et en évitant les copies mémoire inutiles sur le GPU, ils ont atteint une cadence de 11,5 images par seconde, une performance proche des exigences d'un contrôle vidéo en direct.


Les agents se sont également penchés sur les documents d'identité. Les prestataires de vérification recherchent des indices révélant qu'une image a été modifiée ou qu'il s'agit de la photographie d'un écran plutôt que d'une capture directe par appareil photo. Pour contourner ces contrôles, les agents ont généré des métadonnées d'appareil photo synthétiques, dont les dimensions correspondent aux valeurs réelles attendues dans un fichier JPEG, tout en préservant les tables de compression originales — des éléments qui, normalement, seraient modifiés lors de l'enregistrement d'une image retouchée. Le résultat est une image altérée qui, au niveau du fichier, apparaît comme une photographie authentique, non modifiée. Cette campagne illustre également comment ARTEX déploie plusieurs flux de travail vers un objectif unique. Au moins quatre sessions d'agents étaient menées simultanément : l'une recherchait des moyens de retirer de l'argent, une autre s'occupait de vider les comptes, une troisième mettait en place le processus de création de vidéos deepfake et la dernière effectuait le contournement de la vérification. Les agents partageaient leurs découvertes et se relayaient les tâches grâce à des outils inter-sessions.


Conséquences pour les défenseurs


Aucune des techniques employées dans ces campagnes n'était nouvelle. Ce que les agents d'IA modifient, c'est la rapidité et la persévérance de l'attaquant. Ils ont réussi là où les règles de sécurité élémentaires faisaient défaut, notamment en utilisant des identifiants par défaut ou codés en dur, des clés laissées dans le code et des artefacts publics.

...des interfaces non authentifiées, des points de terminaison d’inférence et des logiciels non corrigés. Maîtriser ces fondamentaux demeure la défense la plus efficace.

Compte tenu de la rapidité et de la persistance des attaquants, les organisations doivent partir du principe que les secrets exposés et les erreurs de configuration seront rapidement découverts, et prendre les mesures correctives qui s’imposent. Elles doivent soumettre les applications d’IA, les passerelles de modèles et les points de terminaison d’inférence aux mêmes contrôles que les autres systèmes en production, et rester vigilantes face à toute utilisation abusive des services d’IA, en surveillant notamment les dépenses imprévues ou les modes d’utilisation inhabituels. Indicateurs de compromission (IOC)
Valeur de l'IOC Type d'IOC Première apparition Dernière apparition Annotation
104.28.225[.]223 IPv4 2026-10-17 2026-10-19 Campagne 1
31.22.91[.]156 IPv4 2026-10-14 2026-10-19 Campagne 1
150.136.38[.]110 IPv4 2026-10-31 2026-10-31 Campagne 1
128.242.115[.]131 IPv4 2026-10-31 2026-10-31 Campagne 1
216.176.239[.]231 IPv4 2026-11-02 2026-11-02 Campagne 1
212.107.28[.]51 IPv4 2026-10-14 2026-10-14 Campagne 2
103.142.140[.]158 IPv4 2026-10-17 2026-10-17 Campagne 2
104.28.251[.]98 IPv4 2026-10-18 2026-10-18 Campagne 2
104.28.251[.]99 IPv4 2026-10-18 2026-10-18 Campagne 2
104.28.219[.]97 IPv4 2026-10-18 18/10/2026 Campagne 2
125.103.213[.]41 IPv4 18/10/2026 19/10/2026 Campagne 2
Si vous avez des questions, ouvrez un nouveau fil de discussion sur AWS re:Post ou contactez le support AWS.

CJ Moses

Aucun commentaire: