Une affaire britannique montre le risque d’utiliser une réponse automatisée sans vérifier ses références juridiques. Franceinfo rapporte qu’une procureure a cité à trois reprises un arrêt de cour d’appel supposément rendu en 2024 pour justifier des poursuites. Les avocats ont constaté que cette décision, dotée d’un numéro précis, n’existait pas.
La procureure a reconnu l’erreur et indiqué qu’elle voulait citer une autre décision, datant de 2009. Selon l’article, une enquête du Guardian attribue la fausse référence à un résumé généré par intelligence artificielle lors d’une recherche en ligne, tandis que le parquet britannique parle d’une erreur de recherche. Un avocat londonien tient un registre de 101 signalements d’erreurs juridiques potentiellement liées à l’IA, qu’elles soient avérées, soupçonnées ou contestées.
Pour le Maroc, ce cas ne prouve pas l’existence d’un problème identique dans les tribunaux nationaux. Il fournit néanmoins une règle de travail claire pour les professionnels du droit, les administrations et les entreprises : une citation produite ou résumée par un outil d’IA doit être retrouvée dans une base officielle, puis contrôlée dans son texte et son contexte.
L’innovation peut accélérer la recherche documentaire, mais elle ne transfère pas la responsabilité de la décision. Une procédure robuste devrait conserver la source consultée, distinguer le texte original du résumé automatique et imposer une validation humaine avant tout usage ayant un effet sur les droits d’une personne. Cette discipline protège à la fois la qualité de la justice et une adoption responsable de l’intelligence artificielle.
La procureure a reconnu l’erreur et indiqué qu’elle voulait citer une autre décision, datant de 2009. Selon l’article, une enquête du Guardian attribue la fausse référence à un résumé généré par intelligence artificielle lors d’une recherche en ligne, tandis que le parquet britannique parle d’une erreur de recherche. Un avocat londonien tient un registre de 101 signalements d’erreurs juridiques potentiellement liées à l’IA, qu’elles soient avérées, soupçonnées ou contestées.
Pour le Maroc, ce cas ne prouve pas l’existence d’un problème identique dans les tribunaux nationaux. Il fournit néanmoins une règle de travail claire pour les professionnels du droit, les administrations et les entreprises : une citation produite ou résumée par un outil d’IA doit être retrouvée dans une base officielle, puis contrôlée dans son texte et son contexte.
L’innovation peut accélérer la recherche documentaire, mais elle ne transfère pas la responsabilité de la décision. Une procédure robuste devrait conserver la source consultée, distinguer le texte original du résumé automatique et imposer une validation humaine avant tout usage ayant un effet sur les droits d’une personne. Cette discipline protège à la fois la qualité de la justice et une adoption responsable de l’intelligence artificielle.