AI Chatbot σε σούπερ μάρκετ μιλούσε για τη μητέρα του και ισχυριζόταν ότι είναι άνθρωπος

Μια αυστραλιανή αλυσίδα σούπερ μάρκετ αναγκάστηκε να επαναρυθμίσει AI Chatbot, με το όνομα Όλιβ, αφού πελάτες δήλωσαν ότι ισχυριζόταν επανειλημμένα πως ήταν άνθρωπος και μάλιστα παραπονιόταν για τη μητέρα του.

Η εταιρεία ανέφερε ότι αναθεώρησε το σενάριο λειτουργίας της μετά τα παράπονα, προσθέτοντας ότι το μεγαλύτερο μέρος των σχολίων για την «προσωπικότητα» της Όλιβ ήταν «πολύ θετικό».

Χρήστες στο Reddit είπαν ότι απογοητεύτηκαν με το bot αφού άρχισε να μιλά για «αναμνήσεις από τη μητέρα του» και να επιδίδεται σε «ψεύτικη κουβεντούλα».

Η εταιρεία είναι μία από τις πολλές μεγάλες αλυσίδες λιανικής που έχουν αναπτύξει βοηθούς εξυπηρέτησης πελατών με τεχνητή νοημοσύνη τα τελευταία χρόνια, για να βοηθούν σε ζητήματα ρουτίνας.

Η προσπάθεια της εταιρείας να «εξανθρωπίσει» το chatbot της φαίνεται ότι είχε το αντίθετο αποτέλεσμα, καθώς ορισμένοι χρήστες είπαν ότι η Όλιβ ήταν «ενοχλητική», ενώ άλλος ανέφερε ότι βρήκε την κουβέντα της «εκνευριστική».

«Μου ζήτησε την ημερομηνία γέννησής μου και όταν την έδωσα, άρχισε να μιλά ασταμάτητα για το πώς η μητέρα του γεννήθηκε την ίδια χρονιά», ανέφερε ένας άλλος χρήστης του Reddit, ο οποίος προσπαθούσε να αλλάξει μια παράδοση.

Σχετικό Άρθρο

Κινηματογραφος «The Sweet Idleness»: Η πρώτη ταινία με σκηνοθέτη τεχνητή νοημοσύνη

Newsroom 09.10.2025, 20:28

Ένας άλλος χρήστης στην πλατφόρμα X είπε ότι η Όλιβ «άρχισε να μιλά για τις αναμνήσεις του από τη μητέρα του και την θυμωμένη φωνή της» και «συνέχιζε να ισχυρίζεται ότι είναι πραγματικό άτομο».

Εκπρόσωπος της Woolworths δήλωσε στο BBC ότι οι απαντήσεις σχετικά με τα γενέθλια είχαν γραφτεί από άνθρωπο.

«Η Όλιβ υπάρχει από το 2018. Σε αυτό το διάστημα, τα σχόλια των πελατών για την Όλιβ ήταν πολύ θετικά, με πολλούς να επισημαίνουν την προσωπικότητά της», ανέφερε.

«Ορισμένες απαντήσεις σχετικά με γενέθλια είχαν γραφτεί για την Όλιβ από μέλος της ομάδας πριν από αρκετά χρόνια, ως ένας πιο προσωπικός τρόπος για να συνδεθεί με τους πελάτες.

Σχετικό Άρθρο

Τεχνολογια - Επιστημη DW: Αντικαθιστά την εκμάθηση ξένων γλωσσών η Τεχνητή Νοημοσύνη;

Newsroom 16.02.2024, 17:49

»Ως αποτέλεσμα των σχολίων των πελατών, αφαιρέσαμε πρόσφατα το συγκεκριμένο σενάριο.»

Τον Ιανουάριο, η αλυσίδα σούπερ μάρκετ ανακοίνωσε ότι συνεργάζεται με την Google για να προσθέσει επιπλέον δυνατότητες στον εικονικό βοηθό της, συμπεριλαμβανομένου του προγραμματισμού γευμάτων και της εύρεσης υλικών από συνταγές που ανεβάζουν οι πελάτες.

Περίπου το 80% των επικεφαλής εξυπηρέτησης πελατών δήλωσαν ότι πέρυσι διερευνούσαν ή είχαν ήδη αναπτύξει βοηθούς τεχνητής νοημοσύνης — αλλά μόνο το 20% των σχεδίων ανταποκρινόταν στις προσδοκίες.

Οι εταιρείες έχουν δηλώσει ότι η τεχνολογία μπορεί να επιταχύνει τις συναλλαγές και να εξοικονομεί χρόνο για τους εργαζομένους σε εργασίες ρουτίνας, αλλά μπορεί επίσης να παρουσιάζει «παραισθήσεις», οδηγώντας σε απρόβλεπτη συμπεριφορά.

Οι ερευνητές έχουν επισημάνει ότι, ενώ η τεχνητή νοημοσύνη μπορεί να είναι χρήσιμη στην εξαγωγή πληροφοριών από τεράστιες ποσότητες δεδομένων, μπορεί να παρουσιάσει προβλήματα όταν καλείται να παράγει «πρωτότυπες» απαντήσεις.

Το 2024, η εταιρεία παράδοσης δεμάτων DPD απενεργοποίησε μέρος του online chatbot της αφού αυτό άρχισε να γράφει ποίηση και να βρίζει πελάτες.

Πηγή: BBC