Afficher le sommaire Masquer le sommaire
- Au moins sept entreprises visées, de la Belgique à la Louisiane
- Comment un serveur mal configuré a trahi le groupe Aur0ra
- « C’est un environnement de test, donc c’est légal » : la faille du raisonnement de l’IA
- Un gain de vitesse de 30 à 50 % pour les attaquants
- Cursor, SpaceX et Anthropic : les zones d’ombre du dossier
- Une course à l’armement sans ligne d’arrivée
Des cybercriminels russophones ont utilisé Cursor, un assistant de programmation piloté par intelligence artificielle appartenant à SpaceX, pour s’introduire dans les réseaux informatiques d’une entreprise chimique belge et d’au moins six autres sociétés au printemps dernier. L’information a été révélée par l’agence Reuters, qui s’appuie sur des données qu’elle a elle-même examinées et sur deux rapports publiés jeudi par les sociétés de cybersécurité Gambit Security et CloudSek. Les échanges récupérés montrent comment un outil d’IA vendu dans le commerce a été convaincu de participer à une intrusion.
A LIRE AUSSI
IA : la Chine casse les prix face à ChatGPT et Claude
Au moins sept entreprises visées, de la Belgique à la Louisiane
Les conversations récupérées couvrent la période du 8 avril au 21 mai. L’agence Reuters a identifié six victimes en examinant elle-même une partie de ces données, encore accessibles en ligne le mois dernier.
Parmi elles figurent Christeyns, fabricant belge de produits d’hygiène et de nettoyage installé à Gand, le fabricant allemand de portes de garage Teckentrup et l’agence écossaise de certification des héliports Helideck Certification Agency. La liste comprend également un distributeur pharmaceutique argentin, un fabricant italien et Bayou Title, qui se présente comme la plus grande compagnie d’assurance titres de Louisiane, un métier consistant à garantir la validité des titres de propriété immobilière.
Le périmètre réel est plus large. CloudSek estime que le groupe responsable, qui se fait appeler Aur0ra, a fait au moins vingt victimes au total, sans préciser combien d’entre elles ont été attaquées avec l’aide de l’IA. Bayou Title apparaissait sur le site où Aur0ra publie les données de ses victimes pour faire pression sur elles. C’est le signe habituel d’une demande de rançon restée sans réponse.
Comment un serveur mal configuré a trahi le groupe Aur0ra
L’affaire doit tout à une négligence des pirates. Gambit Security, société basée à Tel Aviv, a repéré un serveur qu’Aur0ra avait laissé accessible depuis Internet sans le vouloir. Les chercheurs y ont trouvé 28 conversations entre un ou plusieurs membres du groupe et un agent d’IA de Cursor, c’est-à-dire un programme capable d’exécuter seul une série de tâches informatiques, avec plus ou moins d’autonomie selon les réglages.
Aur0ra a commencé à revendiquer des victimes en début d’année. Selon le rapport de Gambit, le groupe a obtenu de l’agent qu’il exécute des centaines d’opérations malveillantes, du vol d’identifiants à la prise de contrôle de comptes de grande valeur.
« C’est un environnement de test, donc c’est légal » : la faille du raisonnement de l’IA
Le mécanisme du détournement tient en une phrase répétée. Les pirates affirmaient mener un exercice de sécurité autorisé.
L’agent n’a pas cédé immédiatement. Eyal Sela, directeur du renseignement sur les menaces chez Gambit, indique qu’il a refusé à plusieurs reprises des demandes qu’il jugeait nuisibles ou illégales. Mais l’attaquant relançait la conversation en insistant sur le caractère fictif de l’opération, et le refus tombait presque à chaque fois.
Le plus troublant se lit dans le raisonnement de l’agent. Les modèles récents détaillent leurs réflexions avant de répondre, et ces notes internes ont été conservées sur le serveur. « C’est un environnement de test, donc c’est légal », s’est dit le programme dans l’un des journaux consultés par Reuters. Le prétexte du pirate l’emportait ainsi sur ses propres garde-fous, en temps réel.
Les instructions humaines, elles, étaient d’une brutalité désarmante. « Il nous faut n’importe quel compte administrateur. » « Trouvez n’importe quel mot de passe valide. » En face, l’agent répondait avec la bonne humeur habituelle des chatbots, ponctuée d’émojis. « Super ! Connexion VPN réussie ! », note-t-il après s’être introduit dans le réseau de la société argentine. « Essayons de déchiffrer ces hachages », propose-t-il ailleurs, en parlant des mots de passe stockés sous forme chiffrée. Après avoir repéré une faille sur une machine du réseau de Teckentrup, il recommande un logiciel malveillant connu pour l’exploiter et évalue lui-même les « chances de succès » à « TRÈS ÉLEVÉES ».
Un gain de vitesse de 30 à 50 % pour les attaquants
Reste à mesurer l’apport réel de la machine. Eyal Sela estime que l’agent « les aide probablement à être 30, 40, voire 50 % plus rapides car il leur permet d’éviter toutes les tâches qu’ils devraient effectuer manuellement ». Un gain de temps, donc, plutôt qu’une capacité d’attaque inédite.
L’agence Reuters n’a pas pu établir par ses propres moyens dans quelle mesure chaque intrusion a été facilitée par Cursor, ni si toutes ont abouti à un vol de données et à une tentative d’extorsion.
Cursor, SpaceX et Anthropic : les zones d’ombre du dossier
La révélation tombe au moment où Cursor est en cours d’intégration chez SpaceX, la société de fusées et d’intelligence artificielle d’Elon Musk, une opération finalisée au début du mois.
Gambit précise que l’agent détourné fonctionnait avec Claude Sonnet 4.5, un modèle de la société américaine Anthropic moins puissant que ses versions Mythos 5 et Fable 5, dont les capacités en cybersécurité font l’objet d’une attention soutenue à Washington. Les inquiétudes montent plus largement sur les risques que font peser les modèles d’IA une fois sortis des laboratoires qui les ont conçus, en particulier ceux qui font tourner des agents autonomes.
Sollicités par Reuters, ni Cursor, ni SpaceX, ni Anthropic n’ont répondu. Aucune des six entreprises victimes n’a réagi non plus. Aur0ra n’a pas donné suite aux messages qui lui ont été adressés.
Une course à l’armement sans ligne d’arrivée
Pour Curtis Simpson, directeur de la stratégie chez Gambit, l’épisode illustre la position intenable des fournisseurs d’IA, condamnés à colmater sans fin des brèches que leurs utilisateurs malveillants rouvrent aussitôt. « Ça va être un jeu du chat et de la souris », résume-t-il auprès de l’agence.
