Air Canada, chatbotunun bir müşteriye sahte poliçeler halüsinasyonu göstermesinin ardından davayı kaybetti

Air Canada’nın yapay zeka destekli olduğu iddiası müşteri chatbotu yalnızca kendi eylemlerinden sorumluydu hukuk mahkemesinde direnmedi (çok şükür) ve şimdi havayolu şirketi, kendisine uçak bileti ücretinin ödeneceği konusunda yanlış bilgi verilen bir müşteriye para iadesi yapmak zorunda.

2022’deki olay, bir Air Canada müşterisi Jake Moffatt’ı ve Moffatt’ın bir cenazeye katılmak üzere son dakika yolculuğu için ölüm ücretine nasıl hak kazanılacağı hakkında bilgi almak için kullandığı havayolunun sohbet robotunu içeriyordu. Sohbet robotu, Moffat’ın, satın alma tarihinden itibaren 90 gün içinde olması koşuluyla, normal bilet maliyeti ile vefat ücreti maliyeti arasındaki farkın iadesi için geriye dönük olarak başvurabileceğini açıkladı.

Ancak bu kesinlikle havayolunun politikası değil. Air Canada’nın haberine göre İnternet sitesi:

Air Canada’nın vefat nedeniyle seyahat politikası, yakın bir aile üyesinin yakın ölümü veya ölümü nedeniyle seyahat etmesi gereken müşterilerimize bir seçenek sunmaktadır. Vefat politikamızın halihazırda gerçekleşmiş olan seyahatler için geri ödeme yapılmasına izin vermediğini lütfen unutmayın.

Air Canada yanlış bilgilendirme nedeniyle geri ödeme yapmayı reddettiğinde Moffat onları mahkemeye verdi. Air Canada’nın para iadesine karşı argümanı, chatbotunun “yanıltıcı sözlerinden” kendilerinin sorumlu olmadığı yönündeki iddiaları içeriyordu. Air Canada ayrıca chatbot’un kendi eylemlerinden sorumlu olması gereken “ayrı bir tüzel kişilik” olduğunu savundu ve havayolunun “chatbot dahil olmak üzere acenteler, hizmetçiler veya temsilciler” tarafından verilen bilgilerden de sorumlu olmadığını iddia etti. Her ne demekse.

Kanadalı bir mahkeme üyesi, “Chatbot’un etkileşimli bir bileşeni olsa da, Air Canada’nın web sitesinin sadece bir parçası” diye yanıt verdi. “Air Canada’nın web sitesindeki tüm bilgilerden kendisinin sorumlu olduğu açık olmalıdır. Bilgilerin statik bir sayfadan mı yoksa bir chatbot’tan mı geldiği fark etmez.”

Türünün ilk örneği olan Kanada mahkemesindeki karar, müşteri hizmetleri tekliflerine yapay zeka veya makine öğrenimi destekli “temsilcileri” ekleyen diğer şirketler için ileride önemli sonuçlar doğurabilir.