La Cour d’appel de l’Utah a sanctionné un avocat qui a déposé un document judiciaire avec de fausses informations générées par ChatGPT. Preuve supplémentaire que l’utilisation incontrôlée de l’IA comporte des risques importants.
L’IA a pourtant la réputation de diffuser de fausses informations. La fraude a été découverte quand les autorités judiciaires ont remarqué que le document, qui a été rédigé par un assistant juridique du cabinet, contenait des citations et autres éléments inventés. L’avocat a reconnu les faits et présenté ses excuses pour cette lourde faute professionnelle selon le Huffington Post.
Un avocat condamné pour l’utilisation de ChatGPT
Le document en question est une requête en appel avec des éléments générés par l’IA selon l’avocat de la défense. Par exemple, une référence à une affaire judiciaire hallucinée par ChatGPT qui n’existe dans aucune base de données juridiques. D’autres citations sont inventées avec des références qui n’ont aucun rapport avec l’affaire.
L’avocat principal affirme que son assistant juridique ne l’a pas averti de l’utilisation de ChatGPT jusqu’à la découverte de ces éléments inventés. Les faits ont été immédiatement reconnus et il a été proposé de rembourser les frais d’avocat engagés dans cette affaire.
Lors de l’audience, l’avocat a réitéré ses aveux et assuré qu’il n’a pas participé à la rédaction et à la requête de ce document, mais aussi qu’il n’a pas vérifié l’exactitude avant de le signer. Les conséquences : l’assistant juridique a été licencié et une politique stricte autour de l’utilisation a été mise en place, ce n’était pas le cas au moment des faits.
« Dans cette affaire, les avocats du requérant ont failli à leurs obligations de vérification en tant que membres du barreau de l’État de l’Utah en soumettant une requête citant un précédent fictif généré par ChatGPT. », a conclu la Cour d’appel dans sa décision.
L’avocat doit payer les frais de la défense pour la requête et l’audience, rembourser à son client les frais engagés pour préparer le dossier et assister à l’audience.
Source: www.lesnumeriques.com
