Des avatars IA aux scènes de crime en réalité virtuelle, les tribunaux sont aux prises avec l'IA dans le système judiciaire

Stacey Wales s'est accrochée au pupitre, retenant ses larmes alors qu'elle demandait au juge de donner à l'homme qui a tiré et tué son frère la peine maximale possible pour homicide involontaire.

Ce qui est apparu ensuite a stupéfié les personnes présentes dans la salle d'audience de Phoenix la semaine dernière : une vidéo générée par l'IA avec une image de son frère, Christopher Pelkey, a indiqué au tireur qu'il était pardonné.

Le juge a déclaré avoir apprécié la vidéo, puis a condamné le tireur à 10,5 ans de prison – la peine maximale, plus que celle requise par le parquet. Quelques heures après l'audience du 1er mai, l'avocat du défendeur a interjeté appel.

L'avocat de la défense Jason Lamm ne s'occupera pas de l'appel, mais a déclaré qu'un tribunal supérieur sera probablement invité à se prononcer sur la question de savoir si le juge s'est appuyé de manière inappropriée sur la vidéo générée par l'IA lors de la condamnation de son client.

Partout aux États-Unis, les tribunaux se sont penchés sur la meilleure façon de gérer la présence croissante de l'intelligence artificielle dans les salles d'audience. Avant même que la famille de Pelkey ​​n'utilise l'IA pour lui donner la parole dans le cadre de la procédure relative à l'impact sur les victimes – une première dans les tribunaux américains –, la Cour suprême de l'Arizona a créé un comité chargé d'étudier les meilleures pratiques en matière d'IA.

En Floride, un juge a récemment revêtu un casque de réalité virtuelle destiné à montrer le point de vue d'un accusé qui affirmait avoir agi en état de légitime défense en brandissant une arme chargée sur les invités d'un mariage. Le juge a rejeté sa demande.

À New York, un homme sans avocat a utilisé un avatar généré par l'IA pour plaider sa cause lors d'un procès par vidéo. Il n'a fallu que quelques secondes aux juges pour comprendre que l'homme qui s'adressait à eux depuis l'écran vidéo n'était pas réel .

Les experts affirment que l'utilisation de l'IA dans les salles d'audience soulève des préoccupations juridiques et éthiques, surtout si elle est utilisée efficacement pour influencer un juge ou un jury. Ils soutiennent également qu'elle pourrait avoir un impact disproportionné sur les communautés marginalisées confrontées à des poursuites.

« J'imagine que ce sera une forme de preuve contestée, en partie parce que cela pourrait être quelque chose qui avantage les partis qui ont plus de ressources par rapport à ceux qui n'en ont pas », a déclaré David Evan Harris, expert en deep fakes d'IA à l'école de commerce de l'UC Berkeley.

L’IA peut être très persuasive, a déclaré Harris, et les chercheurs étudient l’intersection de la technologie et des tactiques de manipulation.

Cynthia Godsoe, professeure de droit à la Brooklyn Law School et ancienne avocate commise d'office, a déclaré qu'à mesure que cette technologie repousse les limites des pratiques juridiques traditionnelles, les tribunaux devront se poser des questions qu'ils n'ont jamais eu à se poser auparavant : cette photographie prise par l'IA correspond-elle vraiment au témoignage du témoin ? Cette vidéo exagère-t-elle la taille, le poids ou la couleur de peau du suspect ?

« C'est certainement une tendance inquiétante », a-t-elle déclaré, « car elle pourrait encore davantage dériver vers de fausses preuves dont les gens ne se rendent peut-être pas compte qu'elles sont fausses. »

Dans le cas de l'Arizona, la sœur de la victime a déclaré à l'Associated Press qu'elle avait pris en compte « l'éthique et la morale » de l'écriture d'un scénario et de l'utilisation de l'image de son frère pour lui donner une voix lors de l'audience de détermination de la peine.

« Il était important pour nous d'aborder cela avec éthique et morale et de ne pas l'utiliser pour dire des choses que Chris ne dirait pas ou ne croirait pas », a déclaré Stacey Wales.

Les victimes peuvent faire leurs déclarations d'impact dans n'importe quel format numérique en Arizona, a déclaré l'avocate des droits des victimes Jessica Gattuso, qui représentait la famille.

Lorsque la vidéo a été diffusée dans la salle d'audience, Wales a déclaré que seuls elle et son mari étaient au courant.

« L’objectif était d’humaniser Chris et d’atteindre le juge », a déclaré Wales.

Après l'avoir visionné, le juge de la Cour supérieure du comté de Maricopa, Todd Lang, a déclaré qu'il « aimait la beauté de ce que Christopher » disait dans la vidéo d'IA.

« Cela en dit long sur la famille », a-t-il dit. « Parce que vous m'avez dit à quel point vous étiez en colère, que vous avez exigé la peine maximale et que, même si c'était ce que vous souhaitiez, vous avez laissé Chris s'exprimer avec son cœur, tel que vous le voyiez. »

En appel, a déclaré l'avocat du défendeur, les commentaires du juge pourraient être un facteur pour que la peine soit annulée.

___

Les journalistes de l'Associated Press Sarah Parvini à Los Angeles, Sejal Govindarao à Phoenix et Kate Payne à Tallahassee, en Floride, ont contribué à ce rapport.