Πρέπει να είμαστε ευγενικοί με την τεχνητή νοημοσύνη; Η απόφαση της Anthropic ανοίγει νέο debate
Η Anthropicπροκαλεί συζητήσεις μετά την απόφασή της να απαγορεύσει τη «συστηματική και αχρείαστη» κακοποιητική συμπεριφορά χρηστών απέναντι στα συστήματα τεχνητής νοημοσύνης της.
Η εταιρεία, που αναπτύσσει το chatbot Claude, ανακοίνωσε ότι επικαιροποιεί την πολιτική χρήσης της ώστε τα εργαλεία της να μπορούν να τερματίζουν συνομιλίες όταν οι χρήστες επιδεικνύουν επίμονα «σκληρή» ή κακοποιητική συμπεριφορά απέναντι στο AI.
Η Anthropic υποστηρίζει ότι αυτό έχει ήδη συμβεί σε «σπάνιες» περιπτώσεις, όμως πλέον η σχετική πρόβλεψη εντάσσεται επισήμως στον κατάλογο των απαγορευμένων συμπεριφορών, μαζί με πρακτικές όπως ο εκφοβισμός άλλων ανθρώπων, η προώθηση αυτοτραυματισμού και η δημιουργία μη συναινετικού προσωπικού υλικού.
Πότε μπορεί το Claude να «κλείσει» μια συνομιλία
Η εταιρεία διευκρινίζει ότι το μέτρο θα εφαρμόζεται μόνο σε «ακραίες περιπτώσεις» επαναλαμβανόμενης κακοποίησης και όχι όταν ένας χρήστης απλώς εκφράζει εκνευρισμό, διαφωνεί με το chatbot ή χρησιμοποιεί σκοτεινά θέματα στο πλαίσιο δημιουργικής γραφής, δοκιμών ή έρευνας.
Ορισμένοι σχολιαστές υποστήριξαν ότι η πολιτική μπορεί να ενθαρρύνει καλύτερους τρόπους επικοινωνίας ή να συμβάλει στην έννοια της «ευημερίας των μοντέλων». Άλλοι αντέδρασαν έντονα.
«Δεν μπορείς να είσαι σκληρός με αριθμούς και μαθηματικά»
Ο δρ Μπάρι Σκάνελ, εταίρος τεχνολογίας στη δικηγορική εταιρεία William Fry στην Ιρλανδία, έγραψε στο LinkedIn ότι «δεν μπορείς να είσαι σκληρός με αριθμούς και μαθηματικά», υποστηρίζοντας ότι η υπερβολική ανθρωπομορφοποίηση της τεχνητής νοημοσύνης μπορεί να δημιουργήσει λανθασμένη εικόνα για το τι πραγματικά είναι αυτά τα συστήματα.
Στην αλλαγή αντέδρασε και ο επικεφαλής AI της Microsoft, Μουσταφά Σουλεϊμάν, ο οποίος στο παρελθόν είχε επικρίνει την Anthropic επειδή, όπως θεωρεί, αντιμετωπίζει τα συστήματα AI με υπερβολικά ανθρώπινους όρους.
Η νέα πολιτική προέκυψε έπειτα από την ετήσια αναθεώρηση των κανόνων χρήσης της Anthropic.
Παράλληλα, η εταιρεία επικαιροποίησε τους όρους της και σε άλλους τομείς, απαγορεύοντας μεταξύ άλλων τη χρήση του Claude για «παραπλανητικές καμπάνιες» και διευκρινίζοντας ότι δεν μπορεί να χρησιμοποιείται για εξαπάτηση ψηφοφόρων ή παρεμπόδιση εκλογικών διαδικασιών.
Χρειάζεται να λέμε «παρακαλώ» και «ευχαριστώ» στο AI;
Η υπόθεση επαναφέρει και μια πιο καθημερινή συζήτηση: αν οι χρήστες πρέπει να είναι ευγενικοί με τα chatbots.
Ορισμένοι ειδικοί θεωρούν ότι λέξεις όπως «παρακαλώ» και «ευχαριστώ» δεν είναι απαραίτητες και απλώς αυξάνουν τον αριθμό των tokens που επεξεργάζονται τα συστήματα AI.
Άλλοι υποστηρίζουν ότι η ευγενική διατύπωση μπορεί σε ορισμένες περιπτώσεις να οδηγεί σε καλύτερες απαντήσεις ή, τουλάχιστον, να εμποδίζει την επιθετική γλώσσα προς τα μηχανήματα να επηρεάζει τον τρόπο με τον οποίο μιλάμε και στους ανθρώπους.
Η συζήτηση είναι αρκετά έντονη ώστε ακόμη και η λέξη «clanker», ένας παλιός υποτιμητικός όρος για ρομπότ από το σύμπαν του Star Wars, να επιστρέψει στην καθημερινή γλώσσα ως προσβλητικός χαρακτηρισμός για συστήματα AI.
Στο AI Everything στο Άμπου Ντάμπι, η συζήτηση δεν αφορά (μόνο) στο τι μπορεί να κάνει η τεχνητή νοημοσύνη αλλά πώς θα μοιάζει ο κόσμος που έρχεται. Η ATHENS VOICE είναι εκεί και μεταφέρει εικόνες από το μέλλον
Ο Θάνος Βλόντζος, επιστήμονας που εργάζεται στο Λονδίνο, εξηγεί γιατί η ΑΙ δεν μπορεί να ελεγχθεί όπως τα πυρηνικά και πόσο κοντά είμαστε σε συστήματα που μπορούν να δράσουν ανεξέλεγκτα
25°
