L’hallucination est le phénomène par lequel un LLM produit une réponse fluide, plausible, mais factuellement fausse. C’est le risque n°1 à connaître avant tout déploiement IA en production.
Pourquoi ça arrive
Un LLM ne "sait" pas, il prédit. Quand on lui pose une question dont il n’a pas l’info exacte, il génère ce qui ressemble statistiquement à la bonne réponse. Le résultat peut être totalement faux mais formulé avec aplomb.
Comment limiter le risque
1. RAG : ancrer le LLM sur des documents vérifiés. 2. Citer les sources : forcer le modèle à mentionner d’où vient l’info. 3. Validation humaine pour les sorties critiques. 4. Choisir des modèles plus stables (GPT-5, Claude 4 hallucinent moins que les versions précédentes).
Cas critiques à surveiller
Toute réponse à valeur juridique, médicale, financière, ou contractuelle doit être validée par un humain. Tout usage avec contact client direct doit avoir un filet (escalade, garde-fous).
Exemple concret
En 2023, un avocat américain a utilisé ChatGPT pour préparer un dossier. Le modèle a inventé des arrêts de jurisprudence parfaitement formulés mais inexistants. L’avocat a été sanctionné.
À retenir
L’hallucination est un risque structurel des LLMs. Le mitiger par le design (RAG, validation, citations) est obligatoire pour tout déploiement sérieux.