Bir kargo şirketinin destek için kullandığı yapay zeka, müşteriye küfür etti

Avrupa’nın 3. en büyük kargo şirketi DPD, bir müşteriye küfür ettikten sonra çevrimiçi destek sohbet robotunun bir kısmını devre dışı bıraktı. Paket teslimat şirketi, çevrimiçi sohbetinde soruları yanıtlamak için insan operatörlerin yanı sıra yapay zekayı (AI) kullanıyor. Yeni bir güncelleme, şirkete küfretme ve eleştirme dahil olmak üzere beklenmedik davranışlar sergilemesine neden oldu.

DPD, chatbotun sorumlu kısmını devre dışı bıraktığını ve bunun sonucunda sistemini güncellediğini söyledi. Firma yaptığı açıklamada, "Birkaç yıldır sohbette yapay zeka unsurunu başarıyla çalıştırdık. Sistem güncellemesinden sonra bir hata oluştu. Yapay zeka öğesi hemen devre dışı bırakıldı ve şu anda güncelleniyor" dedi.

Değişiklik yapılmadan önce, bir müşteri tarafından fark edildikten sonra karışıklığın haberi sosyal medyada yayıldı.

Gönderi 24 saat içinde 800.000 kez görüntülendi; insanlar bir şirketin yapay zekayı kendi işine dahil etmeye yönelik en son başarısız girişimini hızla paylaştı.

Müşteri Ashley Beauchamp, daha önce Twitter olarak bilinen X'teki viral hesabında, "Herhangi bir soruyu yanıtlamak tamamen işe yaramaz ve sorulduğunda, şirket olarak ne kadar berbat olduklarına dair mutlu bir şekilde bir şiir üretti" diye yazdı. "Bana da küfretti." dedi.