Une équipe automatise la rédaction de ses réponses au support client avec un modèle de langage. Trois semaines plus tard, un client reçoit une réponse qui invente une politique de remboursement qui n’existe pas. Personne n’avait relu cette réponse avant l’envoi. L’automatisation n’a pas échoué à cause de l’IA, elle a échoué à cause de l’endroit où on a placé le contrôle humain, c’est-à-dire nulle part.
La question à poser avant d’automatiser quoi que ce soit
Pas « est-ce que l’IA peut faire cette tâche », presque toujours la réponse est oui sous une forme ou une autre. La bonne question est « quelle est la conséquence si l’IA se trompe sur cette tâche, et à quelle fréquence puis-je vérifier qu’elle ne se trompe pas ». Deux tâches qui semblent similaires en surface peuvent appeler des réponses opposées selon cette conséquence.
Générer des brouillons de légendes pour les réseaux sociaux d’une entreprise tolère une erreur occasionnelle, une personne les relit avant publication de toute façon. Générer des réponses envoyées automatiquement sans relecture à des clients sur des questions de facturation ne tolère pas la même marge, parce qu’une erreur atteint directement un client et engage l’entreprise.
Trois niveaux de contrôle, du plus sûr au plus risqué
Premier niveau, l’IA propose, un humain valide chaque sortie avant qu’elle produise un effet. C’est le niveau le plus sûr et le plus lent à grande échelle, adapté aux tâches à fort enjeu, peu nombreuses, comme la rédaction d’un communiqué de presse.
Deuxième niveau, l’IA agit automatiquement, un humain vérifie un échantillon a posteriori. Adapté aux tâches à volume élevé et enjeu modéré, comme la catégorisation de tickets entrants, où une erreur isolée se corrige facilement et où vérifier chaque sortie individuellement prendrait plus de temps que de faire la tâche à la main.
Troisième niveau, l’IA agit seule sans supervision humaine directe, avec des alertes automatiques en cas d’anomalie détectée. Réservé aux tâches à très faible enjeu individuel, comme le tri automatique d’emails entrants dans des dossiers, où une erreur se corrige en trois secondes sans conséquence réelle.
Le piège classique consiste à placer une tâche à enjeu élevé au troisième niveau parce que l’automatisation complète semble plus impressionnante ou plus rentable à court terme. L’histoire du support client qui invente une politique de remboursement vient exactement de cette erreur de calibrage.
Un signal simple pour savoir si le niveau choisi est le bon
Demandez-vous ce qui se passe si l’erreur la plus embarrassante possible sur cette tâche se produit et n’est détectée par personne pendant une semaine entière. Si la réponse vous inquiète, vous êtes probablement au mauvais niveau de contrôle. Si la réponse reste anodine, vous pouvez sans doute automatiser davantage sans risque disproportionné.
Automatiser avec l’IA ne consiste pas à choisir entre tout confier à la machine ou tout garder à la main. Ça consiste à placer le bon niveau de vérification humaine au bon endroit, en fonction de ce que coûte réellement une erreur, et pas en fonction de ce qui semble le plus impressionnant à présenter.
