La Chine a rapidement amélioré sa technologie d’intelligence artificielle ces dernières années. Mais il le fait en subtilisant les secrets des plus grandes sociétés américaines d’IA.
Les actions de la Chine constituent un vol à l’échelle industrielle des capacités exclusives des entreprises américaines, selon un avis de cybersécurité publié par la Cybersecurity and Infrastructure Security Agency (CISA), la principale agence américaine de cybersécurité. La CISA a été rejointe par le FBI et la NSA pour le rapport.
Les sociétés chinoises DeepSeek, MoonshotAI, Alibaba, MiniMax, StepFun et Z.AI participent aux campagnes visant à améliorer leurs modèles d’IA internes, « probablement avec la connaissance du gouvernement chinois », indique le rapport. Parmi les victimes des attaques figurent les plus grandes sociétés américaines d’IA : Anthropic, OpenAI, Google et xAI.
Les attaques peuvent durer des mois et extraire des capacités valant des milliards de dollars en coûts de développement. Les entreprises basées en Chine échappent à la détection en utilisant des proxys, cachant ainsi de vastes réseaux d’utilisateurs frauduleux et d’autres méthodes furtives. Ils déploient également de grandes quantités de requêtes pour bombarder les systèmes d’IA et les soumettre.
Une faiblesse flagrante de l’IA générative
Le processus de distillation peut être un moyen légitime de mener des recherches et de créer de meilleurs modèles d’IA. Mais la façon dont la Chine procède enfreint les conditions d’utilisation des sociétés américaines d’IA et est considérée comme une activité clairement illicite, équivalant à voler les principaux secrets d’une entreprise.
Les attaques deviennent de plus en plus agressives, malveillantes et ciblées. Mais ces attaques reposent sur une action incroyablement simple : demander au grand modèle de langage de révéler ses secrets. Ces soi-disant injections rapides utilisent une formulation intelligente pour tromper un chatbot IA afin qu’il révèle des secrets, effectue des actions restreintes ou enfreigne les garde-fous internes. Oui, cela semble improbable, mais les utilisateurs peuvent ainsi tromper un système d’IA.
Exemples d’invites d’attaque par distillation du nouveau rapport de menace:
Il n’existe toujours pas de moyen infaillible d’atténuer les attaques. Anthropic et d’autres sociétés sont de mieux en mieux capables de détecter et d’arrêter les attaques par distillation, mais les attaquants deviennent également plus rusés.
Les sociétés américaines d’IA se concentrent sur une détection améliorée, une meilleure vérification des clients, des réponses ciblées et de nouveaux efforts de partage de renseignements. La CISA préconise également des « réponses plus coordonnées à l’échelle de l’écosystème », ce qui nécessiterait probablement l’implication du gouvernement fédéral. Mais il est probable que le problème persiste – un casse-tête croissant pour les entreprises à mesure que la concurrence s’intensifie.
La menace croissante à la sécurité nationale
Les agences de sécurité nationale sont sur le qui-vive, car le vol du savoir-faire en matière d’IA pourrait donner un avantage injuste à la Chine dans la bataille mondiale en matière d’IA. La politique américaine a mis l’accent sur la priorité en matière de sécurité nationale de vaincre la Chine en matière d’IA, puisque le leader mondial récoltera les fruits du contrôle d’une technologie incroyablement puissante. Prendre du retard risque de donner à Pékin une immense puissance mondiale pour les années à venir.
Mais il ne s’agit pas seulement de compétition entre deux superpuissances. Les attaques par distillation ouvrent la porte à une IA puissante et débridée, car les modèles d’IA qui en résultent ne bénéficient pas des garanties d’outils légitimes. Cela pourrait permettre aux criminels de développer des armes biologiques, de construire du matériel militaire avancé, de déployer des cyberattaques à grande échelle et de créer d’autres menaces.
« Des capacités dangereuses pourraient proliférer si de nombreuses protections étaient supprimées », prévient Anthropic dans un rapport de février sur les attaques par distillation. Les gouvernements autoritaires pourraient également « déployer des cyberarmes offensives, des campagnes de désinformation et une surveillance de masse ».
Aucune mesure de garde-fou ou de réglementation fédérale n’aurait d’importance si la technologie avancée de l’IA était extraite par la Chine ou d’autres adversaires et largement diffusée.
Ce que les investisseurs doivent savoir
La prévalence des attaques par distillation est une preuve supplémentaire que la Chine n’a pas découvert de nouveaux moyens de construire une IA avancée à moindre coût. Au lieu de cela, les progrès de la Chine proviennent, au moins en partie, du siphonnage de l’innovation américaine. De toute évidence, l’IA de pointe nécessite encore d’énormes dépenses en puces, en centres de données et en énergie.
Rappelons que la société chinoise DeepSeek a secoué les investisseurs l’année dernière en affirmant que son système d’IA avancé avait été développé à un coût considérablement inférieur à celui des principaux modèles d’IA américains. Le rapport de la CISA résume cette tromperie : « Les coûts de formation de 5,6 millions de dollars annoncés publiquement par DeepSeek sont trompeurs car ils n’incluent pas le coût réel des données acquises grâce à une distillation malveillante approfondie. »
DeepSeek a utilisé des invites indiquant aux outils d’IA américains de divulguer le processus étape par étape de son raisonnement, ce qui a donné à l’entreprise chinoise une feuille de route sur la manière de réaliser ses propres progrès.
Parallèlement, il existe une concurrence croissante sur les prix entre les fournisseurs d’IA, souvent issus de modèles d’IA plus petits, plus efficaces et moins coûteux. Des modèles chinois moins chers, tels que DeepSeek, gagnent également du terrain aux États-Unis. Cette tendance souligne la menace concurrentielle et l’urgence de contrecarrer les attaques par distillation.
