Avec la montée rapide de l’intelligence artificielle, un changement de mer dans la cybersécurité est en cours. À mesure que de nouvelles menaces émergent de l’adoption générative de l’IA, les outils de sécurité compatibles AI sont également des défenses fortifiées.
L’augmentation de l’IA a provoqué des dépenses plus élevées pour une sécurité informatique plus avancée. En 2025, les dépenses de sécurité devraient croître de 12,5% aux États-Unis par rapport à l’année dernière, atteignant 131 milliards de dollars, selon la société d’études de marché de la technologie IDC. La croissance mondiale sera similaire, dirigée par les grandes entreprises, mais même les petites entreprises dépensent plus. Les secteurs les plus dépenses sont les finances, le gouvernement, les télécommunications et les soins de santé, cherchant à acheter des outils pour sécuriser les applications cloud, gérer l’identité numérique et analyser les cyber-menaces.
Les attaques aggravent à tous les niveaux, avec une augmentation de la vitesse, de l’échelle et de la sophistication. L’IA est en train de suralimenter les e-mails de phishing et les clones vocaux via du texte et de l’audio créés par AI qui incitent souvent les victimes à partager des informations privées ou à cliquer sur des logiciels malveillants. Le ransomware est également en augmentation. Les cyber-états se développent à travers le monde. Le cyber-espionnage chinois, y compris les attaques ciblées, est en augmentation. L’Iran utilise l’IA pour trouver des défauts de sécurité pour exploiter et répandre une désinformation en ligne. C’est sûr d’augmenter. La Russie utilise également l’IA pour les attaques et la propagande numérique.
L’infrastructure physique reste une cible mûre. Cela comprend les usines chimiques, les réseaux électriques, les barrages, les hôpitaux, les systèmes de transport et les centrales nucléaires. Un exemple récent est l’intrusion du typhon de sel en Chine dans les réseaux de télécommunications américains.
L’utilisation des employés de l’IA, une grande partie non autorisée, donne aux proscèses de la sécurité des pros. Commencez par le risque de divulguer les secrets de l’entreprise car les travailleurs partagent des données avec des chatbots d’IA publics, ce qui peut être peu sûr. Le logiciel de Palo Alto Networks et d’autres suit l’utilisation de l’IA dans un réseau pour protéger les données et bloquer les applications d’IA non approuvées. Les autres menaces d’IA comprennent des attaques «injection rapide», lorsqu’un chatbot d’IA est trompé pour remplacer les politiques intégrées, donnant accès à des données ou systèmes de l’entreprise non autorisés. Les «hallucinations», qui sont des réponses inexactes mais à consonance réelle, présentent également un risque de sécurité.
L’IA a une grande promesse d’améliorer les logiciels de cybersécurité, mais il apporte également des risques. Certaines choses peuvent déjà faire: trouver des défauts de sécurité dans les logiciels et aider à les corriger. Développer un logiciel qui résiste aux défauts de sécurité. Surveiller les menaces, identifier les dangers réels et alerter les cyber-pros humains. Les chatbots de sécurité de l’IA peuvent donner des réponses détaillées sur le personnel de sécurité sur les menaces ou les politiques de l’entreprise pour les aider à résoudre les problèmes.
L’un des développements les plus excitants est les «agents de l’IA» qui peuvent effectuer des tâches de sécurité de manière autonome. Construits par des sociétés telles qu’Amazon, Microsoft, Google, CrowdStrike, OneTrust et Radiant Security, les outils peuvent corriger les défauts de sécurité, contrecarrer les violations de données, suivre les menaces d’initiés, simuler des attaques et plus encore. Une autre utilisation pour les agents autonomes consiste à émettre des informations d’identification de connexion aux employés à un logiciel par e-mail. Une tâche fastidieuse qui se fait maintenant manuellement par le personnel informatique.
Mais il y a peur que les outils autonomes fassent des erreurs ou deviennent un voyou. Ces agents de l’IA doivent être eux-mêmes sécurisés, avec des garde-corps clairs et des audits réguliers. « Derrière cette incroyable ère d’IA agentique se trouvent des considérations de sécurité complexes auxquelles les organisations doivent préparer aujourd’hui », a déclaré Hammad Rajjoub, directeur de la sécurité chez Microsoft, lors d’une récente conférence. Il est déjà prévu de déployer des agents d’IA pour garder d’autres agents.
Malgré les nouvelles menaces d’IA, les précautions de base de la cybersécurité atténuent toujours les risques pour les entreprises. Utilisez des noms d’utilisateur et des mots de passe solides, ainsi qu’un autre facteur, comme une broche unique ou une empreinte digitale. Mettre à jour et patcher régulièrement le logiciel. Vétéran de la sécurité étroite et nouveaux outils d’IA. Minimiser les données stockées. Fournir une formation régulière à la sécurité au personnel. Préparez un plan de réponse aux incidents de sécurité et testez-le régulièrement.
