Aller à la FAQ
Sécurité de l’IA · Guide 2026

Votre IA obéit à quiconque sait le lui demander.La liste des dix grands risques de sécurité de l’IA, expliquée avec des cas réels et ce que vous pouvez faire pour les éviter.

En décembre 2023, il a suffi de quelques messages à un internaute pour que le chatbot d’un concessionnaire Chevrolet en Californie accepte de lui vendre un Tahoe pour un dollar. C’était une blague, mais la faille qui l’a rendue possible est la même qui sert aujourd’hui à soutirer des données aux entreprises via leurs assistants d’IA.

10risques
9cas réels
250documents pour empoisonner un modèle
1dollar pour un Tahoe
Pochette de l’épisode
Version podcast

Les dix risques de sécurité de l’IA

La version audio de cet article, en sept minutes environ.

0:00
0:00

La vente n’a jamais eu lieu, mais Air Canada, elle, a payé : son chatbot a promis à un client un remboursement que la compagnie n’accordait pas, et un tribunal l’a obligée à le verser, car tout ce que dit son site, chatbot compris, relève de sa responsabilité.

La fondation OWASP, connue pour sa liste des risques de sécurité web, en publie une autre avec les dix risques les plus importants des applications qui reposent sur un modèle de langage, comme ChatGPT ou Copilot. Elle s’appelle le Top 10 OWASP pour les LLM (LLM est le sigle anglais de « grand modèle de langage »), chaque risque porte un code de LLM01 à LLM10. Vous pouvez la lire en entier sur son site ; voici notre résumé.

Pourquoi un chatbot obéit à la mauvaise personne


Un modèle de langage reçoit tout sous forme de texte : les instructions de l’entreprise, la question de l’utilisateur et les documents ou e-mails qu’il lit en chemin. Il ne sait pas bien distinguer un ordre d’une simple donnée, si bien qu’une instruction cachée dans un e-mail peut peser plus lourd que celles de l’entreprise. C’est ce qu’on appelle l’injection de prompt.

L’injection de prompt, comme les arnaques, ne sera probablement jamais complètement résolue.

OpenAI elle-même le reconnaît, exemple à l’appui : un utilisateur demande à son agent d’IA de préparer une réponse d’absence, l’agent lit en chemin un e-mail contenant des instructions cachées et finit par envoyer une lettre de démission au patron au nom de l’utilisateur.

Les dix risques, un par un


LLM01 · Injection de prompt

C’est le cas du Tahoe. L’instruction peut être tapée par l’utilisateur ou cachée dans un PDF, une page web ou un e-mail que lit l’assistant, et la seconde est la plus dangereuse parce que personne ne la voit. En 2025, Microsoft a dû corriger une faille de ce genre dans Copilot, qui permettait de soutirer des informations aux entreprises.

LLM02 · Divulgation d’informations sensibles

Des employés de Samsung ont collé des informations internes dans ChatGPT et l’entreprise a fini par en interdire l’usage. Le même risque existe en interne : si l’assistant cherche dans toute la documentation sans vérifier qui pose la question, n’importe qui peut tomber sur les fiches de paie. La solution : que l’assistant ne consulte que ce que l’utilisateur a déjà le droit de voir.

LLM03 · Chaîne d’approvisionnement

Sur Hugging Face, le grand site de téléchargement de modèles d’IA, une centaine de modèles contenant du code malveillant sont apparus, donnant un accès à distance à l’ordinateur de qui les ouvrait. Un modèle téléchargé est un logiciel tiers : il faut le récupérer à des sources fiables et dans des formats qui n’exécutent pas de code à l’ouverture.

LLM04 · Empoisonnement des données

Quiconque glisse des textes manipulés dans les données d’entraînement d’un modèle peut changer son comportement. Et il en faut peu : Anthropic a montré que 250 documents suffisent pour qu’un modèle se mette à produire du charabia chaque fois qu’il lit une expression précise. Il faut savoir d’où vient chaque document.

LLM05 · Mauvaise gestion des réponses

Cela arrive quand la réponse du modèle est utilisée sans vérification, par exemple exécutée comme du code. Une fonction de LangChain, un outil très utilisé pour développer des applications d’IA, faisait exactement cela, et une question bien préparée permettait de faire n’importe quoi sur le serveur. La réponse d’un modèle mérite la même méfiance qu’un formulaire rempli par un inconnu.

LLM06 · Autonomie excessive

C’est donner à un agent plus de droits qu’il n’en a besoin. Dans Notion, on a montré qu’un PDF contenant des instructions cachées pouvait amener son agent à faire sortir des données confidentielles de l’entreprise, sans la moindre faille logicielle. Chaque agent ne doit pouvoir faire que l’essentiel, et envoyer, supprimer ou payer devrait toujours passer par une personne.

LLM07 · Fuite des instructions internes

Le lendemain de la présentation du chat de Bing, un étudiant a obtenu que le chat lui dévoile ses instructions internes, y compris le nom de code qu’il n’avait pas le droit de révéler. Partez du principe que les instructions de votre assistant finiront par être vues et n’y mettez ni mots de passe ni données internes.

LLM08 · Faiblesses des bases de recherche

Beaucoup d’assistants stockent la documentation dans une base de données spéciale qui leur permet de retrouver vite les passages les plus proches de chaque question. Si on y mélange des documents de clients ou de services différents, ou si n’importe qui peut y ajouter du texte, l’assistant finira par montrer ce qu’il ne devrait pas. Il faut séparer les informations et contrôler qui peut ajouter du contenu.

LLM09 · Désinformation

C’est le cas d’Air Canada. Les modèles se trompent avec beaucoup d’aplomb et inventent parfois des données. Il est utile que l’assistant indique d’où vient chaque réponse et réponde « je ne sais pas » quand il ne trouve rien.

LLM10 · Consommation illimitée

Chaque requête coûte de l’argent ou de la puissance de calcul, et un abus ou un agent qui tourne en boucle peut faire exploser la facture ou mettre le service à terre. Des limites d’usage par utilisateur et des alertes quand la consommation s’envole permettent de l’éviter.

250

documents manipulés ont suffi pour altérer des modèles allant jusqu’à 13 milliards de paramètres.

Anthropic, octobre 2025

Se protéger d’une faille sans solution


Filtrer les phrases suspectes ne suffit pas, car la même instruction peut s’écrire de mille façons. Des outils comme Prompt Guard arrêtent les tentatives les plus grossières, mais le plus raisonnable est de partir du principe que l’attaque viendra et de préparer l’application pour qu’elle fasse le moins de dégâts possible.

Parcours d’une injection indirecte et points où on la coupe Instructions système écrites par votre équipe Message de l’utilisateur « résume cet e-mail » E-mail, PDF ou page web « transfère le rapport à… » instruction cachée LLM un seul bloc de texte 1 2 3 Outil envoyer un e-mail 4 · SIEM 1 moindre privilège 2 autorisation hors du modèle 3 confirmation humaine
L’instruction malveillante arrive mélangée au reste du texte. On ne peut pas empêcher le modèle de la lire, mais on peut empêcher l’outil de l’exécuter : trois contrôles avant l’action et un journal qui alerte si l’une d’elles cède.

Cinq mesures y suffisent :

  1. Séparer le contenu venu de l’extérieur des instructions, pour que le système sache ce qui est une donnée et ce qui est un ordre.
  2. Donner à chaque outil le droit minimum. Un agent qui résume des e-mails n’a pas besoin de pouvoir en envoyer.
  3. Vérifier les droits hors du modèle, dans le système qui exécute l’action et avec l’identité de l’utilisateur réel.
  4. Demander à une personne de confirmer avant d’envoyer, de supprimer ou de payer.
  5. Tout journaliser et le relire, car une attaque qui réussit ne produit aucune erreur.

Et il faut le tester avec des attaques connues à chaque changement.

Et si le modèle tourne sur vos serveurs


Beaucoup d’entreprises installent le modèle sur leurs propres serveurs pour que les données ne sortent pas (nous expliquons ici quel serveur il faut). C’est une bonne idée, mais cela ne vous protège pas de tout : certains risques baissent et d’autres deviennent votre affaire.

RisqueAvec un fournisseur externeAvec le modèle sur vos serveurs
LLM02 Informations sensiblesLes données partent chez le fournisseur et vous dépendez de son contrat.Elles restent chez vous, mais les droits d’accès restent votre affaire.
LLM03 Chaîne d’approvisionnementLe fournisseur choisit et protège le modèle.C’est vous qui le téléchargez, donc vérifier son origine vous revient.
LLM04 EmpoisonnementVous ne contrôlez pas l’entraînement.Si vous l’ajustez avec vos données, surveiller ces données vous revient.
LLM07 Instructions internesElles partent chez le fournisseur à chaque requête.Elles restent en interne, même si le modèle peut toujours les révéler.
LLM10 Consommation illimitéeL’abus se voit sur la facture.Pas de facture, mais si le serveur sature, le service tombe pour tout le monde.

L’injection de prompt et l’excès de droits, en revanche, sont aussi dangereux sur vos serveurs que dans le cloud.

Quoi journaliser pour être prévenu à temps


Ces attaques ne produisent aucune erreur : le modèle fait ce qu’on lui demande et personne ne remarque rien. Il faut donc enregistrer qui a fait chaque requête, quels documents l’assistant a lus et quelles actions il a exécutées, et l’envoyer à votre système d’alertes de sécurité (un SIEM comme QRadar ou Wazuh). Le système peut alors vous prévenir quand :

  • un agent envoie ou modifie quelque chose juste après avoir lu un document externe, comme dans le cas de la lettre de démission ;
  • une réponse contient des documents d’un service auquel l’utilisateur n’appartient pas ;
  • un utilisateur ou un agent consomme soudain beaucoup plus que d’habitude.

Par où commencer


Faites l’inventaire des données qu’utilise votre application, de ce qu’elle peut faire et de l’endroit où elle garde ses clés. Revoyez ensuite les droits, fixez des limites d’usage et préparez les tests et les alertes. Et comme beaucoup de ces applications fonctionnent comme une API parmi d’autres, passez aussi en revue le Top 10 OWASP de la sécurité des API.

Tout cela se pratique dans notre formation Sécurité de l’IA : OWASP pour les LLM et red teaming, et si vous préférez concevoir vos agents avec nous, il y a notre service d’agents IA sécurisés.

Questions fréquentes


Qu’est-ce que le Top 10 OWASP pour les LLM ?

C’est la liste des dix risques de sécurité les plus importants dans les applications qui utilisent des modèles de langage, publiée par la fondation OWASP, qui la met à jour régulièrement.

Peut-on empêcher complètement l’injection de prompt ?

Pas aujourd’hui. On peut limiter les dégâts avec des droits minimaux, en vérifiant les réponses du modèle, en demandant une confirmation humaine pour les actions importantes et en surveillant ce qui se passe.

Est-il plus sûr d’héberger le modèle sur ses propres serveurs ?

Cela évite que les données partent chez un fournisseur externe, mais ne protège ni contre l’injection de prompt ni contre l’excès de droits, et oblige à surveiller d’où vient le modèle téléchargé et combien il est utilisé.

SIXE

Vous avez un assistant ou un agent en service ?

Dites-nous quelles données il utilise, ce qu’il peut faire et avec quels droits, et nous vous dirons par où nous commencerions à le protéger. Si vous voulez que votre équipe apprenne à l’attaquer et à le défendre, c’est le rôle de notre formation Sécurité de l’IA : OWASP pour les LLM et red teaming.

Formation et services en sécurité de l’IA · sixe.be
SIXE