{"id":24492,"date":"2026-10-27T18:45:02","date_gmt":"2026-10-27T16:45:02","guid":{"rendered":"https:\/\/www.kaspersky.fr\/blog\/?p=24492"},"modified":"2026-10-27T18:45:02","modified_gmt":"2026-10-27T16:45:02","slug":"tokenomics-ai-and-cybersecurity","status":"publish","type":"post","link":"https:\/\/www.kaspersky.fr\/blog\/tokenomics-ai-and-cybersecurity\/24492\/","title":{"rendered":"L’impact direct de la « tokenomics » sur les processus de cybers\u00e9curit\u00e9"},"content":{"rendered":"

Nous avons r\u00e9cemment publi\u00e9 un article sur la \u00ab\u00a0tokenomics\u00a0\u00bb<\/a> et les attaques de type \u00ab\u00a0d\u00e9ni de portefeuille\u00a0\u00bb, un nouveau type d\u2019attaque DDoS visant \u00e0 \u00e9puiser les jetons d\u2019IA. Mais avant que les sp\u00e9cialistes de la s\u00e9curit\u00e9 ne se mettent \u00e0 prot\u00e9ger les processus d\u2019IA de leurs coll\u00e8gues contre cette nouvelle menace, ils doivent garder \u00e0 l\u2019esprit que le travail du service de s\u00e9curit\u00e9 de l\u2019information lui-m\u00eame peut devenir la cible d\u2019une telle attaque. \u00c9tant donn\u00e9 que les \u00e9quipes de s\u00e9curit\u00e9 testent et mettent d\u00e9sormais activement en \u0153uvre divers types d\u2019automatisation bas\u00e9s sur l\u2019IA, la menace d\u2019une ing\u00e9rence ext\u00e9rieure visant \u00e0 paralyser le syst\u00e8me de d\u00e9fense affecte directement leurs propres processus et technologies.<\/p>\n

Elastic a estim\u00e9<\/a> que, selon l\u2019architecture \u00ab\u00a0SOC bas\u00e9e sur des agents\u00a0\u00bb, le triage d\u2019une seule alerte provenant d\u2019un h\u00f4te peut co\u00fbter 0,69\u00a0$ pour un ensemble d\u2019agents hautement sp\u00e9cialis\u00e9s ou 3,42\u00a0$ pour un agent polyvalent dot\u00e9 de 14\u00a0comp\u00e9tences diff\u00e9rentes.<\/p>\n

Cependant, ces moyennes masquent d\u2019\u00e9normes \u00e9carts. \u00c0 tout moment, le traitement de base d\u2019une simple alerte (par exemple, un millier de jetons) peut se transformer en une cascade de recherches impliquant le traitement de millions d\u2019entr\u00e9es de journal, d\u2019appels d\u2019API et d\u2019autres donn\u00e9es associ\u00e9es, ce qui repr\u00e9sente des millions de jetons en l\u2019espace de quelques minutes<\/a>.<\/p>\n

Elastic reconna\u00eet avoir utilis\u00e9 le mod\u00e8le\u00a04.6 de Claude Sonnet dans son SOC. Ce constat soul\u00e8ve imm\u00e9diatement la question suivante\u00a0: que se passe-t-il lorsque le budget est \u00e9puis\u00e9 ou que les filtres de s\u00e9curit\u00e9 du mod\u00e8le se d\u00e9clenchent\u00a0? Dans le pire des cas, voici ce qui se produit\u00a0: le SOC d\u2019IA lance un \u00ab\u00a0ensemble d\u2019agents\u00a0\u00bb pour enqu\u00eater sur des \u00e9v\u00e9nements suspects qui s\u2019apparentent \u00e0 un d\u00e9placement lat\u00e9ral au sein de l\u2019infrastructure. L\u2019agent interroge l\u2019API Anthropic, mais le budget mensuel du service est \u00e9puis\u00e9 et l\u2019API renvoie des erreurs. L\u2019enqu\u00eate est au point mort, et tout le monde l\u2019apprend une demi-journ\u00e9e plus tard. De plus, si les \u00ab\u00a0filtres de s\u00e9curit\u00e9\u00a0\u00bb en constante \u00e9volution d\u2019un grand fournisseur d\u2019IA signalent les requ\u00eates du SOC comme malveillantes, le m\u00eame effet peut se produire m\u00eame sans que le budget soit \u00e9puis\u00e9, comme l\u2019a d\u00e9montr\u00e9 l\u2019exp\u00e9rience de Hugging Face<\/a> lors de son enqu\u00eate sur la violation de son infrastructure par OpenAI.<\/p>\n

Bien s\u00fbr, un pirate a tout int\u00e9r\u00eat \u00e0 ce que cela se produise. Ils peuvent influencer directement les co\u00fbts support\u00e9s par les d\u00e9fenseurs en injectant des instructions malveillantes dans les donn\u00e9es mises \u00e0 leur disposition (enregistrements TXT DNS, en-t\u00eates HTTP, commentaires de code, noms de fichiers, etc.), en misant sur le fait que ces instructions seront trait\u00e9es par les syst\u00e8mes de s\u00e9curit\u00e9 informatique. Par exemple, dans le cas de l\u2019attaque de type GhostJacking<\/a>, les journaux WAF servent de vecteur d\u2019injection de commandes, et dans le cadre d\u2019une \u00e9tude universitaire, une autre m\u00e9thode a \u00e9t\u00e9 propos\u00e9e\u00a0: les chercheurs ont r\u00e9ussi \u00e0 attaquer les m\u00e9canismes de s\u00e9curit\u00e9 des mod\u00e8les LLM<\/a> eux-m\u00eames<\/a>, ce qui a entra\u00een\u00e9 une augmentation de la latence de leurs requ\u00eates de 148 et du nombre de tokens consomm\u00e9s de 63. Autrement dit, le syst\u00e8me continue th\u00e9oriquement \u00e0 fonctionner correctement, mais le temps de latence dans le traitement des alertes et les co\u00fbts associ\u00e9s augmentent consid\u00e9rablement.<\/p>\n

Erreur silencieuse dangereuse<\/h2>\n

Dans les sc\u00e9narios bas\u00e9s sur des agents, l\u2019\u00e9puisement du budget ne se traduit pas toujours par une erreur explicite accompagn\u00e9e d\u2019un message \u00ab\u00a0limite de requ\u00eates d\u00e9pass\u00e9e\u00a0\u00bb et d\u2019une alerte imm\u00e9diate adress\u00e9e aux responsables. Dans certaines configurations, des sc\u00e9narios de type \u00ab\u00a0gu\u00e9rilla\u00a0\u00bb peuvent se produire\u00a0: une requ\u00eate adress\u00e9e au mod\u00e8le expire, le syst\u00e8me bascule automatiquement vers un mod\u00e8le moins co\u00fbteux, ce qui entra\u00eene une baisse de la qualit\u00e9 des r\u00e9sultats, et les sous-agents ainsi que les t\u00e2ches p\u00e9riodiques cessent de s\u2019ex\u00e9cuter. Pendant ce temps, l\u2019\u00e9quipe de s\u00e9curit\u00e9 peut continuer \u00e0 croire pendant des heures que tout fonctionne comme avant.<\/p>\n

Comment ma\u00eetriser les co\u00fbts li\u00e9s \u00e0 l\u2019IA dans le domaine de la cybers\u00e9curit\u00e9<\/h2>\n

La gestion des d\u00e9penses ne se r\u00e9sume bien s\u00fbr pas simplement \u00e0 \u00ab\u00a0\u00e9viter les d\u00e9penses excessives\u00a0\u00bb. Le secteur est d\u00e9j\u00e0 tomb\u00e9 dans ce pi\u00e8ge lors de la mise en \u0153uvre des solutions SIEM\u00a0: lorsque les entreprises devaient s\u2019acquitter de frais calcul\u00e9s en fonction du volume de donn\u00e9es t\u00e9l\u00e9m\u00e9triques collect\u00e9es, elles ont commenc\u00e9 \u00e0 limiter de mani\u00e8re s\u00e9lective (et pas toujours efficace) la collecte des journaux. En cons\u00e9quence, elles se sont retrouv\u00e9es avec des angles morts de d\u00e9tection. La m\u00eame situation pourrait se produire avec les jetons, mais plus rapidement et \u00e0 plus grande \u00e9chelle. Une strat\u00e9gie de r\u00e9duction des co\u00fbts mal con\u00e7ue pourrait nuire \u00e0 la rigueur des enqu\u00eates et \u00e0 la qualit\u00e9 des r\u00e9ponses. Et en l\u2019absence d\u2019une telle strat\u00e9gie, la d\u00e9cision de supprimer un \u00e9l\u00e9ment ne serait pas prise par l\u2019architecte ou le RSSI lors de la phase de conception du syst\u00e8me, mais par l\u2019analyste de garde \u00e0 3\u00a0heures du matin. Un limiteur automatique d\u00e9fini par le fournisseur du syst\u00e8me pourrait \u00e9galement intervenir.<\/p>\n

Quelques principes simples peuvent permettre d\u2019\u00e9viter les d\u00e9passements de co\u00fbts pr\u00e9visibles et de mieux g\u00e9rer les situations qui sont v\u00e9ritablement impr\u00e9visibles.<\/p>\n

Ne fournissez pas au mod\u00e8le d\u2019IA des informations qui peuvent \u00eatre v\u00e9rifi\u00e9es \u00e0 l\u2019aide d\u2019une requ\u00eate standard. <\/strong>Tout ce qui est r\u00e9p\u00e9titif et pr\u00e9visible doit \u00eatre g\u00e9r\u00e9 de mani\u00e8re traditionnelle, c\u2019est-\u00e0-dire \u00e0 l\u2019aide de r\u00e8gles et de requ\u00eates de donn\u00e9es. Ces syst\u00e8mes peuvent \u00eatre d\u00e9velopp\u00e9s \u00e0 l\u2019aide de l\u2019IA, mais ils doivent fonctionner de mani\u00e8re d\u00e9terministe. Ce mod\u00e8le ne doit \u00eatre utilis\u00e9 que lorsqu\u2019une \u00e9valuation d\u2019une situation ambigu\u00eb s\u2019av\u00e8re r\u00e9ellement n\u00e9cessaire.<\/p>\n

Appliquez des limites strictes et avertissez les utilisateurs de mani\u00e8re claire et ferme en cas de d\u00e9passement. <\/strong>Les limites doivent \u00eatre combin\u00e9es\u00a0: une limite par t\u00e2che, une limite quotidienne, etc. Les alertes signalant des d\u00e9passements de limites doivent \u00eatre transmises imm\u00e9diatement aussi bien aux analystes en service qu\u2019aux responsables du syst\u00e8me dans son ensemble.<\/p>\n

D\u00e9terminez \u00e0 l\u2019avance ce qui se passe lorsqu\u2019une limite est atteinte. <\/strong>Choisir entre s\u2019arr\u00eater pour faire des \u00e9conomies (tout en perdant un peu de contr\u00f4le) ou continuer et payer est une d\u00e9cision qui doit \u00eatre prise avant qu\u2019un incident ne se produise.<\/p>\n

Limitez les autorisations des agents ainsi que l\u2019ensemble des outils mis \u00e0 leur disposition. <\/strong>Moins le syst\u00e8me a acc\u00e8s \u00e0 des actions, plus il fonctionne efficacement sur une t\u00e2che cibl\u00e9e, moins il a d\u2019occasions de faire grimper les co\u00fbts, et moins il risque d\u2019\u00eatre \u00ab\u00a0exploit\u00e9\u00a0\u00bb par un tiers.<\/p>\n

Effectuez syst\u00e9matiquement une analyse des donn\u00e9es externes non fiables. <\/strong>Les requ\u00eates, demandes de renseignements, messages et commentaires entrants, ainsi que divers champs techniques susceptibles de contenir du texte arbitraire (enregistrements DNS, en-t\u00eates HTTP, noms de fichiers) peuvent non seulement entra\u00eener une injection de commande imm\u00e9diate, mais aussi augmenter d\u00e9lib\u00e9r\u00e9ment la charge de travail. Limitez leur taille et surveillez la charge qu\u2019ils g\u00e9n\u00e8rent.<\/p>\n

Pour \u00e9viter les interruptions de service li\u00e9es aux fournisseurs externes et conserver un contr\u00f4le total sur les donn\u00e9es de votre organisation, envisagez la possibilit\u00e9 d\u2019utiliser des mod\u00e8les locaux d\u00e9ploy\u00e9s sur site<\/strong>, au moins pour r\u00e9pondre aux besoins en mati\u00e8re de s\u00e9curit\u00e9 informatique. M\u00eame si ces mod\u00e8les ne sont peut-\u00eatre pas \u00e0 la pointe de la technologie, leur sp\u00e9cialisation cibl\u00e9e et leur ajustement \u00e0 partir des donn\u00e9es de l\u2019entreprise permettront d\u2019obtenir des performances satisfaisantes sans d\u00e9faillances impr\u00e9vues.<\/p>\n

Dans une architecture plus complexe, l\u2019utilisation des LLM peut \u00eatre divis\u00e9e en plusieurs niveaux<\/strong>. La premi\u00e8re ligne de d\u00e9fense (routage, filtrage du bruit, enrichissement des donn\u00e9es) est assur\u00e9e par des mod\u00e8les compacts d\u00e9ploy\u00e9s sur site. Cette approche r\u00e9duit consid\u00e9rablement la volatilit\u00e9 budg\u00e9taire. Le deuxi\u00e8me niveau consiste en un vaste mod\u00e8le local qui se charge du travail de fond\u00a0: relier les \u00e9v\u00e9nements entre eux, tester des hypoth\u00e8ses et reconstituer le tableau d\u2019un incident. De plus, il n\u2019est pas factur\u00e9 \u00e0 la requ\u00eate, mais son d\u00e9bit est limit\u00e9. Par cons\u00e9quent, au lieu de d\u00e9passements de budget, ce sont des surcharges et des files d\u2019attente d\u2019\u00e9v\u00e9nements qui peuvent se produire. Seuls les cas isol\u00e9s, v\u00e9ritablement complexes, sont transmis \u00e0 des mod\u00e8les avanc\u00e9s bas\u00e9s sur le cloud, de pr\u00e9f\u00e9rence avec l\u2019accord explicite d\u2019un analyste humain. Dans ce mod\u00e8le, les co\u00fbts variables persistent, mais ils se limitent \u00e0 un petit nombre de cas, et chacun d\u2019entre eux r\u00e9sulte d\u2019un choix d\u00e9lib\u00e9r\u00e9 plut\u00f4t que d\u2019un effet secondaire d\u2019un script s\u2019ex\u00e9cutant pendant la nuit.<\/p>\n

Concr\u00e8tement, ce syst\u00e8me reproduit le mod\u00e8le classique de SOC \u00e0 plusieurs niveaux, o\u00f9 la premi\u00e8re ligne assure le filtrage et la troisi\u00e8me ligne m\u00e8ne les enqu\u00eates, \u00e0 la seule diff\u00e9rence que ces r\u00f4les sont assum\u00e9s par des mod\u00e8les plut\u00f4t que par des personnes.<\/p>\n\n","protected":false},"excerpt":{"rendered":"

Nous analysons l’impact de la d\u00e9pendance \u00e0 l’IA sur la cybers\u00e9curit\u00e9 d’une organisation. <\/p>\n","protected":false},"author":2722,"featured_media":24494,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[2112,3150],"tags":[3152,87,3383,204,4163,3189,4629,527],"class_list":["post-24492","post","type-post","status-publish","format-standard","has-post-thumbnail","category-business","category-enterprise","tag-budget","tag-conseils","tag-ia","tag-menaces","tag-ml","tag-soc","tag-soc-autonome","tag-technologie"],"hreflang":[{"hreflang":"fr","url":"https:\/\/www.kaspersky.fr\/blog\/tokenomics-ai-and-cybersecurity\/24492\/"},{"hreflang":"en-in","url":"https:\/\/www.kaspersky.co.in\/blog\/tokenomics-ai-and-cybersecurity\/31131\/"},{"hreflang":"en-ae","url":"https:\/\/me-en.kaspersky.com\/blog\/tokenomics-ai-and-cybersecurity\/26165\/"},{"hreflang":"en-gb","url":"https:\/\/www.kaspersky.co.uk\/blog\/tokenomics-ai-and-cybersecurity\/30971\/"},{"hreflang":"es-mx","url":"https:\/\/latam.kaspersky.com\/blog\/tokenomics-ai-and-cybersecurity\/29565\/"},{"hreflang":"es","url":"https:\/\/www.kaspersky.es\/blog\/tokenomics-ai-and-cybersecurity\/32542\/"},{"hreflang":"it","url":"https:\/\/www.kaspersky.it\/blog\/tokenomics-ai-and-cybersecurity\/31073\/"},{"hreflang":"ru","url":"https:\/\/www.kaspersky.ru\/blog\/tokenomics-ai-and-cybersecurity\/42810\/"},{"hreflang":"tr","url":"https:\/\/www.kaspersky.com.tr\/blog\/tokenomics-ai-and-cybersecurity\/14993\/"},{"hreflang":"x-default","url":"https:\/\/www.kaspersky.com\/blog\/tokenomics-ai-and-cybersecurity\/56523\/"},{"hreflang":"pt-br","url":"https:\/\/www.kaspersky.com.br\/blog\/tokenomics-ai-and-cybersecurity\/25399\/"},{"hreflang":"ru-kz","url":"https:\/\/blog.kaspersky.kz\/tokenomics-ai-and-cybersecurity\/31135\/"},{"hreflang":"en-au","url":"https:\/\/www.kaspersky.com.au\/blog\/tokenomics-ai-and-cybersecurity\/36876\/"},{"hreflang":"en-za","url":"https:\/\/www.kaspersky.co.za\/blog\/tokenomics-ai-and-cybersecurity\/36545\/"}],"acf":[],"banners":"","maintag":{"url":"https:\/\/www.kaspersky.fr\/blog\/tag\/ia\/","name":"IA"},"_links":{"self":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/24492","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/users\/2722"}],"replies":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/comments?post=24492"}],"version-history":[{"count":3,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/24492\/revisions"}],"predecessor-version":[{"id":24496,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/posts\/24492\/revisions\/24496"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media\/24494"}],"wp:attachment":[{"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/media?parent=24492"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/categories?post=24492"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.kaspersky.fr\/blog\/wp-json\/wp\/v2\/tags?post=24492"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}