Hallucinations, LLM et IA conversationnelle

Qu’est-ce qu’une hallucination ?

Les hallucinations désignent des « réponses fausses ou trompeuses mais qui semblent plausibles », présentées avec assurance. Exemples concrets : statistiques fabriquées, citations inventées, événements historiques fictifs, noms de lieux ou de personnes créés de toutes pièces.

Comprendre les grands modèles de langage

Les LLM sont des réseaux de neurones profonds entraînés sur des volumes massifs de données pour prédire le mot suivant. Leurs caractéristiques clés :

• Excellence dans la génération de texte syntaxiquement correct
• Absence de véritable compréhension ou connaissance sémantique
• Fonctionnement par calcul, non par compréhension
• Entraînement nécessitant des milliards de paramètres et des milliers de serveurs spécialisés

L’origine de la « connaissance » des LLM

Pourquoi les LLM semblent magiques

Les causes des hallucinations

• L’incapacité des LLM à distinguer séquences probables et séquences exactes
• Des données d’entraînement insuffisantes, biaisées ou trompeuses
• Des prompts ambigus ou imprécis

Des recherches suggèrent que les hallucinations sont inhérentes à la technologie LLM : « Hallucination is Inevitable: An Innate Limitation of Large Language Models ».

Les hallucinations en milieu professionnel

À juste titre, l’IA générative (c’est-à-dire à base de LLM) est de plus en plus utilisée en milieu professionnel.

En particulier, pour proposer un accès conversationnel simple aux bases de connaissances du métier (voir les architectures RAG, en français Génération Augmentée de Récupération).

Mais ces solutions ne sont pas parfaites, et leurs erreurs peuvent avoir des conséquences significatives. Prenons une étude dans un contexte juridique, par exemple :

• « Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools » de Varun Magesh, Faiz Surani, Matthew Dahl, Mirac Suzgun, Christopher D. Manning et Daniel E. Ho (universités de Stanford et de Yale)
• « RAG juridique et hallucinations » de Raphaël d’Assignies

Cette dernière étude propose une typologie des erreurs des systèmes RAG juridiques, et un classement des erreurs rencontrées lors de tests comparatifs :

1. Erreurs de récupération : les documents pertinents ne sont pas récupérés
2. Erreurs d’interprétation : le modèle interprète mal les documents récupérés et en tire des conclusions erronées
3. Erreurs de synthèse : le modèle combine incorrectement des informations de plusieurs documents, par exemple mélange des faits correspondant à des situations indépendantes
4. Erreurs de contextualisation : le modèle manque du contexte juridique nécessaire (subtilité juridique, par exemple)

Conséquences possibles des hallucinations

Pour cela, listons quelques implications possibles en milieu professionnel :

1. Diffusion de fausses informations : propagation d’informations incorrectes, pouvant affecter des décisions stratégiques ou de planification, particulièrement problématique dans des domaines où la précision est cruciale, comme le journalisme, la recherche scientifique ou la médecine. Dans un logiciel métier, le même risque existe côté RH ou paie : un agent qui invente une règle de proratisation de congés inexistante génère une erreur de paie bien réelle, pas une simple anecdote
2. Risque juridique et responsabilité : les données erronées générées par un LLM pourraient conduire à des poursuites judiciaires si les informations fournies causaient des dommages ou des pertes financières, par exemple des conseils financiers basés sur des données incorrectes
3. Perte de confiance : professionnels et clients peuvent perdre confiance en l’organisation ou en l’outil qui utilise des LLM s’ils découvrent qu’ils génèrent et partagent fréquemment des informations incorrectes
4. Impacts éthiques et sociaux : la propagation de fausses informations dans des contextes sensibles comme la santé publique, la politique ou les sciences sociales peut avoir des impacts éthiques graves

Pour minimiser ces conséquences, il est crucial de mettre en place des mécanismes de vérification et de validation des informations générées par les LLM, et aussi de former les utilisateurs à identifier et corriger les erreurs potentielles.

Stratégies de mitigation

Les approches actuelles incluent :

• L’ajout de capacités sémantiques via la reconnaissance d’intentions
• L’analyse de cohérence contextuelle
• L’architecture Mixture of Experts (MoE)
• La comparaison des outputs entre plusieurs LLM
• L’annotation humaine pour l’affinement des modèles
• Les systèmes de Retrieval-Augmented Generation (RAG)

Ce qu’il faut retenir

Les LLM révolutionnent l’IA conversationnelle par leur fluidité de génération de texte, mais nécessitent des mécanismes de vérification robustes et une éducation des utilisateurs, particulièrement dans les secteurs exigeant de la précision : droit, finance, santé. L’étude RAG juridique citée plus haut le rappelle avec précision : 45 % des erreurs viennent d’une récupération naïve des documents et 39 % d’un raisonnement défaillant, contre moins de 3 % de pure sycophantie : la majorité des hallucinations ne vient donc pas du LLM qui “invente”, mais de l’architecture qui l’entoure et qui ne lui fournit pas la bonne information au bon moment.