Το chatbot τεχνητής νοημοσύνης που μιλούσε για τη μητέρα του
Μια αυστραλιανή αλυσίδα σούπερ μάρκετ αναγκάστηκε να επαναρυθμίσει AI Chatbot, με το όνομα Όλιβ, αφού πελάτες δήλωσαν ότι ισχυριζόταν επανειλημμένα πως ήταν άνθρωπος και μάλιστα παραπονιόταν για τη μητέρα του.
Η εταιρεία ανέφερε ότι αναθεώρησε το σενάριο λειτουργίας της μετά τα παράπονα, προσθέτοντας ότι το μεγαλύτερο μέρος των σχολίων για την «προσωπικότητα» της Όλιβ ήταν «πολύ θετικό».
Χρήστες στο Reddit είπαν ότι απογοητεύτηκαν με το bot αφού άρχισε να μιλά για «αναμνήσεις από τη μητέρα του» και να επιδίδεται σε «ψεύτικη κουβεντούλα».
Η εταιρεία είναι μία από τις πολλές μεγάλες αλυσίδες λιανικής που έχουν αναπτύξει βοηθούς εξυπηρέτησης πελατών με τεχνητή νοημοσύνη τα τελευταία χρόνια, για να βοηθούν σε ζητήματα ρουτίνας.
Η προσπάθεια της εταιρείας να «εξανθρωπίσει» το chatbot της φαίνεται ότι είχε το αντίθετο αποτέλεσμα, καθώς ορισμένοι χρήστες είπαν ότι η Όλιβ ήταν «ενοχλητική», ενώ άλλος ανέφερε ότι βρήκε την κουβέντα της «εκνευριστική».
«Μου ζήτησε την ημερομηνία γέννησής μου και όταν την έδωσα, άρχισε να μιλά ασταμάτητα για το πώς η μητέρα του γεννήθηκε την ίδια χρονιά», ανέφερε ένας άλλος χρήστης του Reddit, ο οποίος προσπαθούσε να αλλάξει μια παράδοση.
Εκπρόσωπος της Woolworths δήλωσε στο BBC ότι οι απαντήσεις σχετικά με τα γενέθλια είχαν γραφτεί από άνθρωπο.
«Η Όλιβ υπάρχει από το 2018. Σε αυτό το διάστημα, τα σχόλια των πελατών για την Όλιβ ήταν πολύ θετικά, με πολλούς να επισημαίνουν την προσωπικότητά της», ανέφερε.
«Ορισμένες απαντήσεις σχετικά με γενέθλια είχαν γραφτεί για την Όλιβ από μέλος της ομάδας πριν από αρκετά χρόνια, ως ένας πιο προσωπικός τρόπος για να συνδεθεί με τους πελάτες.
»Ως αποτέλεσμα των σχολίων των πελατών, αφαιρέσαμε πρόσφατα το συγκεκριμένο σενάριο.»
Τον Ιανουάριο, η αλυσίδα σούπερ μάρκετ ανακοίνωσε ότι συνεργάζεται με την Google για να προσθέσει επιπλέον δυνατότητες στον εικονικό βοηθό της, συμπεριλαμβανομένου του προγραμματισμού γευμάτων και της εύρεσης υλικών από συνταγές που ανεβάζουν οι πελάτες.
Περίπου το 80% των επικεφαλής εξυπηρέτησης πελατών δήλωσαν ότι πέρυσι διερευνούσαν ή είχαν ήδη αναπτύξει βοηθούς τεχνητής νοημοσύνης — αλλά μόνο το 20% των σχεδίων ανταποκρινόταν στις προσδοκίες.
Οι εταιρείες έχουν δηλώσει ότι η τεχνολογία μπορεί να επιταχύνει τις συναλλαγές και να εξοικονομεί χρόνο για τους εργαζομένους σε εργασίες ρουτίνας, αλλά μπορεί επίσης να παρουσιάζει «παραισθήσεις», οδηγώντας σε απρόβλεπτη συμπεριφορά.
Οι ερευνητές έχουν επισημάνει ότι, ενώ η τεχνητή νοημοσύνη μπορεί να είναι χρήσιμη στην εξαγωγή πληροφοριών από τεράστιες ποσότητες δεδομένων, μπορεί να παρουσιάσει προβλήματα όταν καλείται να παράγει «πρωτότυπες» απαντήσεις.
Το 2024, η εταιρεία παράδοσης δεμάτων DPD απενεργοποίησε μέρος του online chatbot της αφού αυτό άρχισε να γράφει ποίηση και να βρίζει πελάτες.
Σχεδόν 1 στους 5 εργαζόμενους σε κρίσιμους τομείς όπως η υγεία, η εκπαίδευση και οι τεχνικές εργασίες θα πρέπει να αντικατασταθεί. Οι επιπτώσεις είναι ήδη εμφανείς.
20°
