(Crédit image : Getty Images)
Il est difficile d’éviter les histoires sur IA dans l’actualité ou sur les réseaux sociaux ces jours-ci. On s’attend généralement à ce que la technologie soit transformatrice, même si l’ampleur et la rapidité avec laquelle elle aura un impact sur la société ne sont pas bien comprises.
Anthropiquele créateur du modèle d’IA Claude, a fait l’actualité ces derniers temps pour plusieurs raisons différentes. Fin mars, la société a admis avoir a accidentellement mis en ligne une partie du code source de Claude.
Bien que cela n’ait exposé directement aucune donnée utilisateur ou information confidentielle, on craint que des acteurs malveillants puissent utiliser ces informations pour créer des agents malveillants ou trouver des moyens d’injecter des commandes malveillantes dans les flux de travail de l’outil.
Entre-temps, elle a également présenté son prochain grand modèle : Mythe (mur payant). Ce modèle d’IA aurait la capacité de trouver des milliers de vulnérabilités dans les logiciels d’entreprise et serait probablement capable de trouver de manière autonome des vulnérabilités inconnues.
Jamie Dimon, PDG de JPMorgan Chase, a mentionné Mythos lors d’un récent appel aux résultatsce qui suggère que l’ensemble de notre système financier pourrait désormais être menacé par des menaces de cybersécurité en raison de son interconnexion. L’exposition des points de défaillance potentiels a un impact sur l’ensemble du système.
En général, comme Entreprises d’IA comme Anthropic, OpenAI, Meta et d’autres se précipitent tous pour publier de nouveaux outils dotés des meilleures fonctionnalités, l’attention portée à la sécurité semble être négligée alors que la vitesse est une priorité.
En tant que particulier et investisseur, comment pouvez-vous vous protéger face aux vulnérabilités, connues et inconnues, que l’IA expose ?
Contrôlez ce que vous stockez dans la mémoire de l’IA et ce à quoi vous le connectez
Pour commencer, soyez prudent avec les informations personnelles que vous partagez avec Outils d’IAcomme ChatGPT, Claude, Gemini et Perplexity. Ces outils stockent généralement vos données par défaut, sauf si vous leur dites de ne pas le faire.
Ils le font pour améliorer l’expérience utilisateur et rendre les résultats de votre chat plus personnalisés au fil du temps. Ils pourraient même sembler lire dans vos pensées lorsque vous poserez des questions à l’avenir.
Cependant, cela signifie qu’ils peuvent stocker vos préférences ou les informations que vous partagez, telles que votre profession, les informations personnelles glanées à partir de vos questions et tous les documents et images que vous téléchargez.
Si vous partagez des dossiers médicaux ou des questions, ils peuvent également stocker des informations hautement confidentielles sur vos antécédents médicaux.
Si l’on considère également que les acteurs malveillants sur Internet cherchent des moyens d’inciter les outils d’IA à partager les données des utilisateurs – une technique appelée « injection rapide » – il semble judicieux de limiter les informations sensibles que vous transmettez.
Lorsque vous créez un compte avec un outil d’IA, réfléchissez bien à la nécessité ou non de désactiver les fonctions de mémoire. Le faire en quelques clics pourrait contribuer à réduire le risque qu’une future violation de données expose des données personnelles que vous ne souhaitez pas diffuser.
Gardez vos appareils à jour
Nous pourrions bientôt assister à une vague de mises à jour logicielles critiques de la part de grandes entreprises technologiques, telles que Microsoft, Google et Apple, qui utilisent un accès pilote à Mythos pour identifier et corriger des vulnérabilités non détectées auparavant.
Garder vos appareils à jour sera crucial. D’autres modèles d’IA actuellement en développement, pas seulement Mythos, en feront probablement notre nouvelle réalité. Les gens s’accrochent à vieux ordinateurs ou smartphones ne plus recevoir de mises à jour logicielles peut s’exposer à un risque plus élevé d’être consulté par des personnes malveillantes.
Gardez vos données privées
Les applications de réseaux sociaux désactivent par conception toutes les protections de la vie privée, à moins que vous ne les activiez de manière proactive. Cela signifie que des applications comme Facebook et Instagram collectent autant d’informations que possible concernant vos goûts et préférences, et des services comme Google stockera votre historique de navigation et vos données de localisation si vous utilisez des fonctionnalités telles que Google Maps.
Si l’un de ces services est piraté, vos données personnelles pourraient potentiellement être menacées.
Comme Agents IA pouvez désormais vous connecter à d’autres services pour automatiser le travail à votre place, il est toujours possible que les données personnelles stockées dans une application que vous utilisez soient partagées avec d’autres systèmes.
Par exemple, Claude peut désormais se connecter à Gmail et Google Drive (lorsque vous choisissez de lui en donner accès), lui donnant ainsi la possibilité d’effectuer des recherches dans vos e-mails et vos fichiers. Cela pourrait représenter une grande amélioration de la productivité pour certains d’entre nous, mais il est important de réfléchir aux implications en matière de vie privée.
De même, les outils d’automatisation tels que Microsoft Copilot Tasks permettent à un agent IA d’effectuer des tâches répétitives dans un navigateur pour vous, mais il peut nécessiter l’accès à des noms d’utilisateur et des mots de passe de sites Web spécifiques et les stocker pour effectuer des routines selon un calendrier.
Limiter les informations publiques vous concernant sur Internet
Violations de données représentent toujours un risque majeur pour les individus et pourraient devenir plus courants si des modèles comme Mythos tombaient entre de mauvaises mains. Pour vous prémunir contre cela, envisagez de limiter le nombre de sites Web sur lesquels vous avez des comptes et le nombre de sites contenant vos données personnelles.
Vous pouvez également demander aux sites de courtiers en données de supprimer vos informations personnelles ou payer des services tels que Incogni ou Opterie pour le faire pour vous. Cela ne garantit pas la suppression à 100 % de vos données d’Internet, mais cela réduit leur empreinte.
Une partie de cet effort devrait également inclure la limitation du nombre de sites Web sur lesquels vous créez des comptes et auxquels vous donnez votre numéro de téléphone, votre adresse ou les détails de votre carte de crédit. Lorsque vous vous inscrivez à des programmes de récompenses ou à des comptes d’achat, tout cela augmente progressivement votre empreinte numérique.
À mesure que la possibilité de violations dues à de nouvelles vulnérabilités augmente, tout site contenant des informations personnellement identifiables vous concernant pourrait être utilisé dans de futures attaques de phishing ou d’usurpation d’identité.
N’oubliez pas non plus que les données du modèle de formation de l’IA peuvent inclure des informations accessibles au public sur Internet, elles peuvent donc également récupérer toute information publiée sur vous en ligne.
Choisissez les institutions financières avec lesquelles vous travaillez
En réfléchissant à l’impact financier que cela pourrait avoir sur vous, le risque est que des modèles d’IA de plus en plus sophistiqués soient utilisés pour pirater des banques, des bourses ou des maisons de courtage, mettant ainsi votre argent et vos informations financières en danger.
Les investisseurs individuels ne seront peut-être pas en mesure de faire grand-chose par eux-mêmes, hormis le choix de travailler avec de plus grandes institutions financières dotées de cyberprotections plus solides et de services informatiques plus importants activement engagés dans la prévention des intrusions.
Les petites institutions financières devront maîtriser leur technologie et combler les failles de leur sécurité.
Peut-être qu’avec le temps, l’IA pourrait être utilisée pour améliorer cyberdéfensesmais à court terme, les nouvelles fonctions du modèle d’IA pourraient faire pencher la balance en faveur des mauvais acteurs. La perspective de voir un adversaire enquêter et tester les vulnérabilités des logiciels et des systèmes des banques et des bourses sera intimidante pour les professionnels de la sécurité.
Les institutions devront peut-être consacrer davantage d’argent et de ressources à la protection de leur environnement à mesure que les technologies évoluent.
Nous devrons tous continuer à faire preuve de diligence en matière de sécurité en modérant les données que nous partageons avec les outils d’IA afin de pouvoir tirer parti de leurs capacités.
Le vieil adage « faire confiance mais vérifier » semble ici pertinent. Assurez-vous que vos comptes en ligne ne partagent pas vos informations personnelles par défaut et soyez sceptique lorsque vous autorisez les outils d’IA à se connecter à vos comptes de messagerie et de stockage de données.
Cet article a été écrit et présente les points de vue de notre conseiller collaborateur, et non de la rédaction de Kiplinger. Vous pouvez vérifier les dossiers des conseillers auprès du SECONDE ou avec FINRA.
