Un modèle de langage vous donne une réponse assurée à une question de droit fiscal, une autre réponse tout aussi assurée à une question médicale, et une troisième sur un événement récent qu’il n’a jamais vu passer. Le ton ne change pas selon que la réponse est fiable ou inventée. C’est là le vrai piège, pas l’erreur elle-même.
L’invention de faits qui sonnent juste
Demandez une référence bibliographique sur un sujet pointu et le modèle peut vous fournir un titre, un auteur, une année de publication, tout cela présenté avec la même confiance qu’un fait vérifié. Le livre n’existe pas. Le modèle n’a pas menti au sens où il aurait cherché à tromper, il a produit la suite de mots la plus probable compte tenu du style d’une vraie référence bibliographique, sans mécanisme interne pour vérifier que cette référence existe réellement.
Ce comportement porte un nom, l’hallucination, et il touche davantage les questions pointues, les données chiffrées précises et les événements récents. Sur un sujet large et bien documenté, le risque baisse. Sur un sujet de niche ou une date précise, il grimpe. Vérifiez systématiquement tout chiffre, toute citation, toute référence avant de vous en servir.
Le calcul, un point faible qui surprend
Un modèle de langage traite le texte comme une séquence de tokens à prédire, pas comme des symboles mathématiques à manipuler selon des règles fixes. Sur une multiplication à trois chiffres, il peut se tromper alors qu’une calculatrice de 1975 ne se serait jamais trompée. Les modèles récents progressent en s’appuyant sur des outils externes pour les calculs, mais le réflexe de vérifier un résultat chiffré reste indispensable.
Le raisonnement en plusieurs étapes, encore fragile
Posez un problème qui demande d’enchaîner cinq déductions logiques et le modèle peut réussir les trois premières puis dérailler sur la quatrième, sans montrer de signe visible d’incertitude. Décomposer la demande en étapes plus courtes, et vérifier chaque étape avant de passer à la suivante, réduit ce risque de façon nette.
L’absence de mémoire entre les conversations
Sauf configuration spécifique, un modèle ne se souvient pas de votre conversation d’hier. Chaque nouvelle session repart de zéro, ce qui signifie que répéter le contexte essentiel au début d’un nouvel échange est une nécessité technique.
Ce que cette liste change concrètement pour vous
Ces limites ne sont pas des raisons d’éviter ces outils, elles sont des raisons de savoir où placer votre vigilance. Un texte de brainstorming ne demande pas la même vérification qu’un chiffre destiné à un rapport financier. Un premier jet créatif tolère l’approximation, une citation destinée à une publication ne la tolère pas.
La compétence qui distingue un utilisateur avancé d’un débutant n’est pas de connaître plus de prompts. C’est de savoir, à chaque réponse reçue, si elle appartient à la catégorie qui mérite une vérification ou à celle qui peut être utilisée telle quelle.
