L’ère des Cyber-menaces : Le Ver Morris II et la Vulnérabilité des IA
Dans un monde où la technologie évolue à une vitesse fulgurante, la cybersécurité est devenue un enjeu majeur. Récemment, une équipe de chercheurs de Cornell Tech à New York a mis en lumière une vulnérabilité alarmante dans les systèmes d’intelligence artificielle (IA) génératifs. Leur expérience, impliquant un ver informatique baptisé Morris II, a démontré la facilité avec laquelle ces systèmes peuvent être manipulés pour voler des données et propager des logiciels malveillants.
Morris II, qui tire son nom du premier ver informatique créé en 1988, cible spécifiquement les assistants de messagerie gérés par IA. Il utilise des techniques de dialogue avancées pour contourner les sécurités et s’introduire dans les systèmes. Une fois à l’intérieur, il est capable de dérober des informations sensibles contenues dans les e-mails et d’envoyer des messages infectés à d’autres systèmes, se propageant ainsi de manière autonome.
Ce qui rend Morris II particulièrement redoutable, c’est sa capacité à être généré directement via des plateformes comme ChatGPT ou Gemini. Les chercheurs ont utilisé une méthode qu’ils appellent « invite contradictoire à auto-réplication », une commande qui incite l’IA à générer une nouvelle invite dans sa réponse, créant ainsi un cycle de propagation autonome.
L’expérience a révélé une faille fondamentale dans la conception des modèles de langage à grande échelle (LLM), qui, si elle n’est pas corrigée, pourrait permettre à des vers comme Morris II de se répandre à grande échelle dans les deux à trois prochaines années. Les chercheurs ont alerté des entités telles qu’OpenAI et Google, soulignant la nécessité de renforcer les mesures de sécurité pour prévenir de telles cyberattaques.
