Une évolution inquiétante qui menace les fondements mêmes des procédures judiciaires a été signalée: un juge britannique de haut rang a lancé un avertissement sévère concernant les dangers de l’intelligence artificielle après que des avocats ont présenté devant des tribunaux britanniques des jurisprudences fictives générées par l’IA. Cette tendance alarmante met en lumière les défis croissants auxquels les systèmes juridiques du monde entier sont confrontés alors que les outils d’IA deviennent de plus en plus sophistiqués tout en restant fondamentalement imparfaits dans des applications critiques.
Lord Justice Birss, chef adjoint de la justice civile en Angleterre et au Pays de Galles, a révélé plusieurs incidents où des professionnels du droit ont soumis aux tribunaux des précédents entièrement fabriqués. Lors d’une récente conférence sur la technologie juridique à Londres, il a décrit comment un avocat a cité six affaires inexistantes, avec des noms d’affaires fictifs et un raisonnement juridique détaillé mais entièrement inventé.
“Lorsqu’on l’a interrogé sur ces affaires que personne ne pouvait trouver, l’avocat a expliqué que le matériel avait été généré à l’aide d’un outil d’IA”, a expliqué Lord Justice Birss. “Cela représente un risque sérieux pour l’administration de la justice.”
Ces incidents ne sont pas isolés. Dans une autre affaire devant la Haute Cour de Londres, un avocat a présenté une demande appuyée par des citations de précédents qui se sont avérés être des hallucinations d’IA—des fabrications convaincantes qui semblaient authentiques mais n’avaient aucun fondement réel.
Ces développements au Royaume-Uni font écho à des préoccupations similaires émergeant de l’autre côté de l’Atlantique. Le tribunal fédéral de New York a récemment sanctionné deux avocats pour avoir soumis un mémoire juridique contenant des cas fictifs générés par l’IA, les obligeant à payer les frais juridiques de la partie adverse. Dans un autre cas au Canada, un juge du Québec a exprimé sa consternation en découvrant que six précédents cités dans une affaire de blessures corporelles n’existaient tout simplement pas.
Les experts juridiques tirent la sonnette d’alarme sur ce que cela signifie pour des systèmes judiciaires fondés sur les précédents et l’exactitude factuelle. Michael Karanicolas, directeur exécutif de l’Institut de technologie, droit et politique de l’UCLA, note que ces incidents minent potentiellement des siècles de tradition juridique.
“Le système juridique dépend entièrement de la confiance et de l’exactitude”, a déclaré Karanicolas. “Lorsque des outils d’IA génèrent de faux précédents suffisamment convaincants pour être soumis aux tribunaux, nous assistons à une capacité technologique qui pourrait gravement nuire aux procédures judiciaires.”
La magistrature britannique a réagi avec de nouvelles directives exigeant que les avocats vérifient que tout document présenté aux tribunaux n’est pas généré par l’IA ou, si l’assistance de l’IA a été utilisée, qu’ils le divulguent explicitement. Cette mesure reconnaît que, bien que l’IA puisse être un outil de recherche précieux, ses résultats doivent être méticuleusement vérifiés avant d’être soumis aux tribunaux.
Ce qui rend ces incidents particulièrement préoccupants, c’est qu’ils se sont produits malgré les obligations professionnelles et éthiques claires des avocats de vérifier leurs citations. La plupart des grands modèles linguistiques, y compris ChatGPT et des outils similaires, sont connus pour occasionnellement “halluciner” ou générer de fausses informations présentées comme des faits—un problème qui devient particulièrement dangereux dans des contextes juridiques où la précision est primordiale.
Les implications financières sont également importantes. Les grands cabinets d’avocats ont investi massivement dans les technologies d’IA pour améliorer l’efficacité, mais ces incidents mettent en évidence les risques substantiels associés à une dépendance excessive à ces outils. L’industrie juridique fait maintenant face au défi d’équilibrer l’innovation technologique avec les principes fondamentaux d’exactitude et d’intégrité qui sous-tendent les systèmes judiciaires.
Alors que les tribunaux du monde entier sont aux prises avec ces défis, une question reste particulièrement pressante: comment nos systèmes de justice s’adapteront-ils à une ère où la technologie peut produire des faussetés convaincantes qui menacent les bases mêmes du raisonnement juridique et des précédents?
