L’intégration de l’intelligence artificielle (IA) dans le domaine juridique apporte son lot d’innovations, mais également de défis. Un phénomène particulièrement préoccupant est celui des « hallucinations » de l’IA, où les outils génèrent des informations incorrectes ou inventées. Damien Charlotin, docteur en droit et enseignant à HEC Paris et Sciences Po Paris, a créé une base de données recensant ces cas problématiques d’utilisation de l’IA par les juristes, soulignant la nécessité d’une vigilance accrue.
Les « hallucinations » de l’IA se manifestent lorsque des avocats, s’appuyant sur ces technologies pour leurs recherches, présentent au tribunal des jurisprudences qui n’existent pas, dont le contenu est erroné, ou qui sont utilisées hors de leur contexte. Ces erreurs peuvent avoir des conséquences significatives sur le déroulement des affaires judiciaires. Par exemple, en mai 2023, un avocat new-yorkais a été sanctionné pour avoir cité 17 décisions de justice inexistantes, générées par une IA.
Une étude de l’Université de Stanford révèle que les outils d’IA dédiés à la recherche juridique sont sujets aux hallucinations, produisant des résultats incorrects dans un pourcentage significatif de cas. Ce phénomène peut s’expliquer par la complexité des requêtes juridiques qui nécessitent souvent de croiser des informations provenant de multiples sources et documents. Les chercheurs insistent sur l’importance de vérifier systématiquement les sources citées par l’IA et de valider le contenu auprès d’experts.
Malgré ces risques, l’IA générative offre des gains de temps considérables pour les professionnels du droit, notamment pour des tâches comme la recherche juridique personnalisée, la rédaction de courriers, l’analyse de contrats ou la gestion des litiges. Cependant, son déploiement doit être encadré pour garantir la protection des données personnelles et répondre aux exigences éthiques et déontologiques de la profession. La transparence dans le fonctionnement des outils d’IA et une compréhension approfondie de leurs limites sont essentielles pour une adoption responsable.
