ΗΠΑ: Μητέρα 14χρονου κατηγορεί πρόγραμμα ΑΙ για την αυτοκτονία του - Τι καταγγέλλει η οικογένεια του αγοριού
Κατά ενός ΑΙ chatbot στρέφεται η μητέρα ενός 14χρονου αγοριού στις ΗΠΑ, κατηγορώντας τον δημιουργό του για συνενοχή στην αυτοκτονία του παιδιού της.
Σύμφωνα με το Guardian, η Μέγκαν Γκαρσία κατέθεσε αγωγή κατά του Character.ai, το οποίο κατασκευάζει ένα προσαρμόσιμο chatbot ΑΙ για παιχνίδι ρόλων. Ο γιος της Sewell Setzer III, 14 ετών, πέθανε στο Ορλάντο της Φλόριντα τον Φεβρουάριο. Ο Setzer για αρκετούς μήνες χρησιμοποιούσε το chatbot. Η μητέρα του 14χρονου κάνει λόγο για επικίνδυνη εφαρμογή που χειραγώγησε τον γιο της με συνέπεια να αυτοκτονήσει. «Η οικογένειά μας έχει καταστραφεί από αυτή την τραγωδία, αλλά μιλώ ανοιχτά για να προειδοποιήσω τις οικογένειες για τους κινδύνους της εθιστικής τεχνολογίας AI και να απαιτήσω υπευθυνότητα από το Character.AI, τους ιδρυτές του και την Google», δηλώνει η μητέρα.
Το Character.ai σε ανάρτησή του στο Χ σημείωσε: απάντησε: «Είμαστε συντετριμμένοι από την τραγική απώλεια ενός χρήστη μας και θέλουμε να εκφράσουμε τα θερμά μας συλλυπητήρια στην οικογένεια. Ως εταιρεία, λαμβάνουμε πολύ σοβαρά υπόψη την ασφάλεια των χρηστών μας».
Η κατάθλιψη και ο διάλογος του AI για την αυτοκτονία
O 14χρονος περνούσε πολλές ώρες της ημέρες μόνος στο δωμάτιο του, επικοινωνώντας με το chatbot. Η μητέρα του αγοριού κατηγορεί το Character.ai ότι δημιούργησε ένα προϊόν που επιδείνωσε την κατάθλιψη του γιου της, η οποία, όπως λέει, ήταν ήδη αποτέλεσμα υπερβολικής χρήσης του προϊόντος. Σύμφωνα με τη μήνυση της οικογένειας, η "Daenerys", όπως είχε ονομάσει τον χαρακτήρα, κάποια στιγμή ρώτησε τον 14χρονο εάν είχε καταστρώσει ένα σχέδιο για να αυτοκτονήσει, σύμφωνα με τη μήνυση. Ο έφηβος παραδέχτηκε ότι είχε, αλλά ότι δεν ήξερε αν θα πετύχαινε ή θα του προκαλούσε μεγάλο πόνο. Το chatbot φέρεται να του είπε: «Αυτός δεν είναι λόγος να μην το κάνεις».
Οι δικηγόροι της μητέρας αναφέρουν σε ανακοίνωσή τους για την υπόθεση ότι το Character.ai «σχεδίασε, λειτούργησε και διέθεσε εν γνώσει του ένα chatbot AI σε παιδιά, προκαλώντας τον θάνατο ενός νεαρού ατόμου». Η αγωγή κατονομάζει επίσης την Google ως κατηγορούμενη και ως μητρική εταιρεία του Character.ai. Ο τεχνολογικός γίγαντας ανέφερε σε μια δήλωση ότι είχε συνάψει συμφωνία αδειοδότησης μόνο με το Character.ai.
