En bref. Déployer un agent IA, c'est lui donner accès à vos données et à vos outils. La sécurité ne se joue pas sur la question « l'IA est-elle dangereuse », mais sur ce qu'on l'autorise à faire et sur ce qui reste verrouillé. Voici les huit règles appliquées à chaque déploiement, et les questions à poser à n'importe quel prestataire pour vérifier qu'il les respecte.
Un agent IA ne reste pas à répondre dans un coin. Il lit vos fichiers, agit dans vos logiciels, déclenche des actions. C'est précisément ce qui le rend utile, et c'est ce qui demande un cadre clair. La plupart des incidents ne viennent pas du modèle qui « dérape », mais d'un accès trop large donné sans réfléchir, d'un secret qui traîne, ou d'une action automatique qu'on aurait dû laisser à un humain.
1. Vos données restent chez vous
L'agent tourne dans votre infrastructure, pas sur une plateforme tierce qu'on contrôlerait. Vos données ne servent jamais à entraîner un modèle. Quand un fournisseur de modèle entre dans la boucle, on passe par des accès qui interdisent la réutilisation de vos données pour l'entraînement.
2. Moindre privilège
Un agent ne reçoit que les accès strictement nécessaires à sa tâche. Par défaut il lit, il n'écrit pas. La prod, la base client, le cœur métier restent fermés tant que vous n'avez pas ouvert l'accès vous-même, périmètre par périmètre.
3. Secrets verrouillés
Les clés et mots de passe vivent côté serveur, hors de portée de l'agent, jamais écrits en dur dans le code. Chaque accès est limité à ce qu'il doit toucher, et peut être révoqué ou changé à tout moment sans rien casser.
4. Humain à la gâchette sur l'irréversible
Tout ce qui sort de l'entreprise ou ne se rattrape pas, envoyer de l'argent, un mail à un client, publier quelque chose, demande une validation humaine. L'agent prépare et propose, une personne appuie. On automatise l'ennuyeux, pas l'engageant.
5. Garde-fous testés avant la prod
Avant qu'un agent passe en production, il franchit une batterie de tests et dispose d'un retour arrière. On vérifie qu'il fait ce qu'il doit, et seulement ça. Rien ne part en vrai sur la foi d'une démo qui a marché une fois.
6. Auditable et réversible
Le code est à vous, sur une stack ouverte, avec des traces que vos équipes peuvent lire. Vous pouvez l'auditer, le faire vérifier par un tiers, le reprendre ou le couper. Pas de boîte noire dont vous dépendriez.
7. Agnostique et souverain
Pas de verrou sur un seul fournisseur. Le système peut router vers une autre IA, y compris européenne ou open-weight, sans tout réécrire. Si un fournisseur change ses règles ou coupe l'accès, vous n'êtes pas bloqués.
8. Cloisonnement des données
Quand plusieurs personnes ou plusieurs clients partagent un même système, chacun ne voit que ses propres données. La séparation est posée dans la base elle-même, pas seulement dans l'application, pour qu'une erreur de code ne puisse pas exposer ce qui ne devrait pas l'être.
Les questions à poser à votre prestataire
Vous n'avez pas besoin d'être technique pour vérifier qu'un prestataire prend la sécurité au sérieux. Posez-lui ces questions et écoutez s'il répond précisément ou s'il botte en touche :
- Où tournent les agents, et où vivent mes données ?
- Mes données peuvent-elles servir à entraîner un modèle ?
- Quels accès l'agent a-t-il exactement, et qui les a accordés ?
- Qu'est-ce qui se déclenche automatiquement, et qu'est-ce qui attend une validation humaine ?
- Est-ce que je récupère le code, et puis-je le faire auditer ?
- Que se passe-t-il si je veux changer de fournisseur d'IA ?
Questions fréquentes
Mes données servent-elles à entraîner l'IA ? Non. Les agents qu'on déploie passent par des accès qui interdisent la réutilisation de vos données pour l'entraînement, et les données restent dans votre infrastructure.
Un agent peut-il agir tout seul sans qu'on le sache ? Non sur l'irréversible. Toute action qui sort de l'entreprise ou qu'on ne peut pas annuler demande une validation humaine. Le reste, automatisable sans risque, est tracé.
Est-ce compatible avec le RGPD ? Oui, c'est même un point de départ : données minimisées, hébergement maîtrisé, cloisonnement par utilisateur, et possibilité de router vers des modèles européens.
Qu'est-ce qui me reste si j'arrête ? Le code et le système, qui tournent sur votre infrastructure. Vous n'êtes pas locataire d'une boîte noire.