L’IA de cette compagnie aérienne hallucine et “arnaque” un client, l’entreprise doit payer
L'IA d'une compagnie aérienne a mal conseillé un client en hallucinant sa réponse. Poursuivie en justice, elle pensait que le chatbot était une entité à part entière et donc responsable de ses actes. Perdu.
En 2022, Jake Moffat doit prendre un billet d'avion avec la compagnie Air Canada afin de se rendre aux funérailles d'un membre de sa famille. Comme c'est souvent proposé dans ce genre de cas, l'homme se renseigne pour connaître les conditions d'obtention du tarif décès. Il pose sa question à l'intelligence artificielle prenant la forme d'un chatbot sur le site d'Air Canada. Ce dernier lui indique qu'il doit remplir un formulaire “dans les 90 jours suivant la date d'émission du billet”. Il recevra ensuite la différence entre le plein tarif et le tarif spécial.
Fort de cette information, Moffat paye son billet au prix fort et fait sa demande après son retour. La compagnie aérienne refuse en indiquant qu'il est trop tard pour cela dans la mesure où le trajet a été effectué. Elle dirige le client vers la page du site dédiée à la question du tarif décès. Quand l'homme montre la capture d'écran de sa conversation avec l'IA, Air Canada reconnaît que le chatbot a utilisé des “mots trompeurs” dans sa réponse et promet qu'elle le mettra à jour. Autrement dit, l'intelligence artificielle a halluciné les conditions d'obtention du tarif décès.
Cette compagnie aérienne voulait que l'IA soit reconnue responsable de son hallucination
Le phénomène n'est pas nouveau, il a même conduit à la condamnation de deux avocats en 2023. Toujours est-il que Jake Moffat poursuit Air Canada en justice. Cette dernière a une défense pour le moins originale : elle affirme que l'IA est une “entité légale distincte” de la compagnie et donc responsable de ses propres actions.
Un argument qu'a balayé le membre du tribunal Christopher Rivers. “Même si un chatbot comporte une composante interactive, il ne constitue qu’une partie du site Web d’Air Canada. Il devrait être évident pour Air Canada qu'elle est responsable de toutes les informations contenues dans son site Web. Peu importe qu'elles proviennent d'une page statique ou d'un chatbot”.
Lire aussi – Ces IA simulent des guerres et hallucinent sur Star Wars et Matrix
Même son de cloche quand l'entreprise rappelle que les informations sur le tarif décès sont disponibles sur son site. “Il n’y a aucune raison pour que M. Moffatt sache qu’une section de la page Web d’Air Canada est exacte et qu’une autre ne l’est pas”, répond-t-il. La firme a été condamnée à payer 650,8 $, soit la différence entre le prix du billet plein tarif et le tarif décès, plus des frais s'élevant à 161,14 $ au total.
Source : The Guardian