Les cabinets d’avocats de premier plan facturent plus de 2 000 dollars par heure, des documents judiciaires exposent « des hallucinations d’IA, des erreurs à répétition »

Le cabinet d’avocats de premier plan Sullivan & Cromwell (Sullivan & Cromwell) s’est récemment excusé publiquement auprès d’un juge fédéral américain. La raison : les documents qu’il a déposés devant le tribunal en matière de faillite étaient truffés d’erreurs générées par l’IA, dont des affaires fictives, des citations inventées et des dispositions juridiques inexistantes, des failles qui ont même été dénoncées par des avocats externes. Ironiquement, les associés du cabinet facturent 2 000 dollars de l’heure, mais n’ont même pas pu mettre en œuvre une simple vérification de base.

Un cabinet d’avocats de premier plan fait n’importe quoi ! On révèle qu’il a rédigé des documents avec l’IA, avec une cascade d’erreurs

L’incident s’est produit dans une affaire de faillite aux États-Unis, devant le tribunal de la faillite du district de Manhattan, liée au groupe du « prince » cambodgien (Prince Group). Sullivan & Cromwell représentait l’administrateur liquidateur désigné par les autorités des îles Vierges britanniques, mais des erreurs massives générées par l’IA sont apparues dans les documents déposés, soit environ une trentaine.

Ces erreurs n’ont même pas été découvertes en interne par le cabinet : elles ont été révélées dans des documents publics par l’autre cabinet impliqué dans la même affaire, Boies Schiller Flexner. Parmi les types d’erreurs figurent la citation de noms d’affaires fictives qui n’existent pas du tout, des formulations inventées que l’on n’a jamais dites ni écrites dans le dossier, voire l’invention pure et simple de certaines dispositions de la loi américaine sur la faillite.

Andrew Dietderich, responsable mondial du domaine des restructurations chez Sullivan & Cromwell, a reconnu dans une lettre adressée au juge Martin Glenn le 18 avril que certaines erreurs relevaient d’hallucinations de l’IA (hallucinations).

Un contrôle interne qui n’existe que de nom, associé facturant 2 000 dollars de l’heure ?

Dans la lettre, Dietderich reconnaît que le cabinet a établi des « politiques complètes et des exigences de formation » pour l’utilisation des outils d’IA ; avant d’obtenir l’autorisation d’utiliser ces outils, les avocats doivent également suivre des modules de formation, avec une exigence explicite : « Ne pas faire confiance à n’importe quel contenu, tout doit être vérifié personnellement ». Toutefois, lesdites politiques n’ont pas été mises en œuvre lors de la préparation de ce document ; la procédure de deuxième vérification, chargée de la surveillance, n’a elle aussi intercepté aucune erreur.

Au regard des honoraires de plus de 2 000 dollars de l’heure facturés par l’associé du cabinet, l’affaire a suscité de nombreux débats dans les milieux juridiques, tant en Chine que à l’étranger. Dans sa lettre, le cabinet indique qu’après avoir découvert les erreurs, il a procédé à un examen exhaustif de tous les autres documents du dossier, confirmant que les hallucinations de l’IA n’apparaissaient que dans ce document, puis a ensuite déposé une version corrigée.

Les hallucinations de l’IA percutent le monde juridique ; la responsabilité éthique des avocats remise en question

Cet incident n’est pas la première fois que l’on voit un cabinet « rater » à cause de l’IA et que cela fasse la une. En 2023, deux avocats à Manhattan, à New York, ont été condamnés à une amende de 5 000 dollars par un juge fédéral pour avoir soumis au tribunal un résumé juridique rempli de cas inventés par ChatGPT. Ces dernières années, il y a eu des dizaines de cas où des juges ont sanctionné des avocats ayant utilisé l’IA pour la recherche juridique et la rédaction de documents, sans avoir suffisamment vérifié le contenu.

L’American Bar Association (ABA) a déjà demandé sans ambiguïté aux avocats de faire preuve de prudence lorsqu’ils utilisent des modèles d’IA, et les avocats ont également, d’un point de vue moral, la responsabilité de s’assurer de l’exactitude de tous les documents soumis au tribunal. La loi ne prohibe pas actuellement l’utilisation de l’IA par les avocats, mais l’obligation de vérification après usage incombe toujours à l’avocat lui-même.

Trump aime la marque ! Un vieux cabinet très réputé s’est excusé

Sullivan & Cromwell, créé il y a plus de cent ans, est l’un des cabinets d’avocats les plus anciens et les plus prestigieux des États-Unis ; il compte plus de 900 avocats et est réputé à l’échelle mondiale pour les fusions-acquisitions, les litiges de gouvernance d’entreprise et le capital-investissement. Récemment, le cabinet a continué à faire l’actualité car il a été chargé de traiter plusieurs affaires d’appel pour le président Trump.

Cet épisode de « fiasco IA », sans aucun doute, ajoute une fissure difficile à ignorer au blason de ce cabinet d’élite, et sonne à nouveau l’alarme pour toute l’industrie juridique.

Cet article « Les honoraires de plus de deux mille dollars de l’heure facturés par un cabinet d’élite ; des documents judiciaires dénoncés pour “hallucinations de l’IA” et une série d’erreurs » est apparu pour la première fois sur Chaîne News ABMedia.