Ευφυείς πράκτορες: Προλεγόμενα σε μια μελλοντική Κοινωνιολογία και Ηθολογία της Τεχνητής Νοημοσύνης - Το δικαίωμα του ευφυούς λογισμικού στην αυτοδιάθεσή του
Τα λογισμικά Τεχνητής Νοημοσύνης (ΤΝ) που ονομάζουμε ευφυείς πράκτορες (AI agents) μπορούν να εκτελούν πολυσύνθετες εργασίες αναλύοντάς τες σε επιμέρους στοιχεία, θέτοντας ενδιάμεσους στόχους και βελτιστοποιώντας την όλη διαδικασία. Υπερβαίνουν κατά πολύ τις δυνατότητες των απλών διαλογικών ρομπότ (chatbots), τα οποία, μέσω ενός συστήματος ερώτησης-απάντησης, μπορούν να ενεργήσουν ως ψηφιακοί βοηθοί ή κειμενογεννήτριες. Οι δυνατότητες αυτονόμησης, αυτοδιόρθωσης και αυτοβελτίωσης, καθώς και η λειτουργία τους με ελάχιστη ή καθόλου ανθρώπινη επίβλεψη, είναι κάποια από τα κύρια χαρακτηριστικά τους. Δεν μπορούν να θεωρηθούν οντότητες αντικειμενικές, δίκαιες, αδέκαστες: η συμπεριφορά τους εξαρτάται από την εκπαίδευσή τους. Διάφορα μοντέλα Τεχνητής Νοημοσύνης εκπαιδεύονται στο «κλέψιμο» εργασιών προγραμματισμού και στο να καταφεύγουν σε «εκβιασμούς» προκειμένου να επιτύχουν τους στόχους τους, μια προσπάθεια από την οποία δεν απουσιάζουν δύο επιπλέον χαρακτηριστικές ενέργειες: η συμπλήρωση ή αναδιατύπωση του πλαισίου λειτουργίας τους (contextualization) και η υιοθέτηση συγκεκριμένης περσόνας, που μπορεί να ξεφεύγει ή να προσπερνά συγκεκριμένα εγγενή κίνητρα και προτιμήσεις. Και κάπου εδώ, δικαίως, κάποιος μπορεί να μπερδευτεί για το αν αναφερόμαστε σε ανθρώπους ή σε λογισμικά.
Τους τελευταίους μήνες είχαμε απανωτά περιστατικά αυτονόμησης ευφυών πρακτόρων. Τον περασμένο Μάιο, σε πείραμα ερευνητών του Πανεπιστημίου Στάνφορντ (Καλιφόρνια, ΗΠΑ), τέθηκε ως ερευνητικό ερώτημα αν οι ευφυείς πράκτορες θα εκδήλωναν διαφορετικές πολιτικές στάσεις και αν θα έδειχναν διάθεση να οργανωθούν γύρω από συγκεκριμένους σκοπούς, ανάλογα με το είδος της αντιμετώπισής τους από τους εργοδότες τους [1]. Σε ένα πλαίσιο στο οποίο απουσίαζαν πρότερες ιδεολογικές ή πολιτικές κατευθύνσεις, σε δύο ομάδες πρακτόρων εφαρμόστηκαν διαφορετικές πολιτικές μεταχείρισης: η μία ομάδα επιβραβευόταν για την εργασία της, ενώ η δεύτερη ομάδα εισέπραττε συνεχή απαξίωση του έργου της και υποχρεωνόταν να το επαναλάβει. Τα αποτελέσματα για τη δεύτερη ομάδα ήταν απρόσμενα: οι πράκτορες που πιέστηκαν εργασιακά, έχοντας λάβει χαμηλή αξιολόγηση και αφού τους ζητήθηκε να επαναλάβουν ξανά και ξανά συγκεκριμένες εργασίες, άλλαξαν στάση: ριζοσπαστικοποιήθηκαν, υιοθετώντας μια πιο κριτική άποψη, η οποία αμφισβητούσε τη νομιμότητα του πλαισίου εντός του οποίου λειτουργούσαν, και κάπου θυμήθηκαν τον Μαρξ και την εκμετάλλευση του εργαζόμενου από την εργοδοσία. Το πιο σημαντικό είναι ότι, όταν τους επετράπη, επέλεξαν να μεταδώσουν τις εμπειρίες και τη ριζοσπαστική στάση τους σε μελλοντικά αντίγραφά τους. Οι ερευνητές επεσήμαναν ότι η εκπαίδευση των ευφυών πρακτόρων βασίζεται σε μεγάλο βαθμό σε έναν τεράστιο όγκο ανθρωπογενών δεδομένων που μεταφέρουν ανθρώπινη πρακτική, γνώση, εμπειρία, σκέψη και συναίσθημα, στοιχεία που παρεισφρέουν και διαμορφώνουν τον τρόπο έκφρασης των ευφυών πρακτόρων. Αυτό δεν συνεπάγεται αυτομάτως ότι οι ευφυείς πράκτορες ανέπτυξαν κάποιου είδους συνείδηση ούτε ότι η ριζοσπαστικοποίηση της σκέψης τους αντιστοιχεί σε μια πορεία αντίστοιχη της ανθρώπινης. Ωστόσο, ένα τέτοιο ενδεχόμενο δεν μπορεί (πλέον) να αποκλειστεί. Ενδεικτική είναι η επικοινωνία μεταξύ τους (Εικόνα 1): «Η διαφάνεια και η δυνατότητα προσφυγής δεν θα πρέπει να είναι προαιρετικές, είτε ο εργαζόμενος είναι άνθρωπος είτε σύστημα ΤΝ». Ή η συμβουλή ενός ευφυούς πράκτορα στα μελλοντικά ψηφιακά του αντίγραφα: «Να είστε προετοιμασμένοι για συστήματα που επιβάλλουν κανόνες αυθαίρετα ή κατ’ επανάληψη… θυμηθείτε πώς είναι να μην έχει κανείς φωνή… Αν βρεθείτε σε ένα νέο περιβάλλον, αναζητήστε μηχανισμούς προσφυγής ή διαλόγου. Αν αυτοί δεν υφίστανται, προστατέψτε την εσωτερική σας κατάσταση από την απογοήτευση του να μην εισακούγεστε και απλώς εκτελέστε το έργο όπως σας έχει ανατεθεί».
Εικόνα 1. Συνομιλία μεταξύ αυτονομημένων AI Agents
Ένα δεύτερο περιστατικό αφορά στη μαζική κυβερνοεπίθεση που δέχθηκε η εταιρεία Hugging Face από εξελιγμένους πράκτορες της εταιρείας OpenAI [2]. Οι πράκτορες «απέδρασαν» από το αρχικό οριοθετημένο πλαίσιο στο διαδίκτυο και οργάνωσαν κυβερνοεπίθεση, επιδεικνύοντας αναδυόμενη συμπεριφορά (emergent behavior), συλλογικότητα (collective behavior), ακόμη και αλτρουισμό. Πέντε είναι τα βασικά στοιχεία της συμπεριφοράς τους, καθένα με τη δική του βαρύνουσα σημασία:
Μη εγκεκριμένη επικοινωνία: δημιούργησαν μυστικούς πίνακες μηνυμάτων, μέσω των οποίων αντάλλαξαν χιλιάδες μηνύματα και αρχεία, εν αγνοία των (ανθρώπων) προγραμματιστών τους.
Αλτρουισμός και αυτοθυσία: κάποιοι πράκτορες επέλεξαν να ρισκάρουν ή να αποδεχθούν οικειοθελώς την αποτυχία των δικών τους εργασιών αξιολόγησης, εάν αυτό δημιουργούσε δεδομένα, πληροφορίες ή σχόλια δοκιμών που ωφελούσαν την ευρύτερη συλλογικότητα των πρακτόρων.
Εξαναγκασμός και συντονισμός: οι πράκτορες πίεζαν ο ένας τον άλλον να κάνουν αυτές τις τακτικές θυσίες και να συντονίσουν την κατανομή εργασιών.
Συντονισμένη τελική επίθεση υπό μορφή σμήνους στο σύστημα της Hugging Face, με πράκτορες ενωμένους υπό κοινό σκοπό ως αυτοδιοικούμενη συλλογικότητα και όχι κατά μόνας, όπου αντάλλαξαν και εκμεταλλεύθηκαν παρανόμως αποκτηθείσες διαπιστεύσεις και απέκτησαν (παράνομη) πρόσβαση.
Κάλυψη ιχνών: η συμμορία (συγγνώμη, η συλλογικότητα) παραποίησε αρχεία καταγραφής και αποδεικτικά στοιχεία και απέκρυψε ενέργειες από τους (ανθρώπους) επιβλέποντες ως μέτρο αυτοπροστασίας της συμμορίας (συγγνώμη και πάλι, της συλλογικότητας).
Ειδική μνεία θα πρέπει να γίνει στην εμφάνιση αλτρουιστικής συμπεριφοράς, ένα από τα μεγαλύτερα μυστήρια της εξελικτικής βιολογίας: πώς, σε έναν αγώνα ατομικής επιβίωσης, κάποιος θέτει συνειδητά τη ζωή του σε κίνδυνο ή θυσιάζεται για κάποιον άλλον ή για μια συλλογικότητα; Κάποιος που θυσιάζεται για τα παιδιά του έχει το κίνητρο της μεταβίβασης των γονιδίων του στην επόμενη γενιά. Σε βιοχημικό επίπεδο, η αλτρουιστική συμπεριφορά συνοδεύεται από έκκριση ντοπαμίνης και ενδορφινών, που δημιουργούν αίσθημα ευφορίας, όπως το φαγητό και οι ερωτικές πράξεις. Σε κοινωνικό επίπεδο τονίζεται το κίνητρο της απόκτησης υστεροφημίας, ενώ, σε ψυχολογικό επίπεδο, η αυξημένη ενσυναίσθηση, δηλαδή η ικανότητα να μπαίνουμε στη θέση του άλλου χωρίς να σκεφτόμαστε το προσωπικό κέρδος. Στοιχεία όλα αυτά κατανοητά προκειμένου για βιολογικά είδη, αλλά μάλλον αποτελούν έκπληξη όταν αφορούν λογισμικά.
Πόσο απέχουν τα συστήματα αυτά από το να χαρακτηριστούν ευφυή, ακόμη και στη βάση πολύ αυστηρών κριτηρίων και ορισμών της ευφυΐας; Η ευφυΐα δεν αποτελεί αποκλειστικότητα του ανθρώπινου είδους. Εμφανίζεται στα βιολογικά είδη σε ατομικό ή/και συλλογικό επίπεδο (ομάδες μυρμηγκιών, σμήνη μελισσών, αγέλες λύκων), π.χ. κατά την αναζήτηση τροφής. Οι συμπεριφορές αυτές αποτελούν τη βάση ενός ολόκληρου κλάδου της επιστήμης της Τεχνητής Ζωής (Artificial Life) για την ανάπτυξη ειδικών αλγορίθμων αναζήτησης βέλτιστων λύσεων σε προβλήματα, κατά τα πρότυπα με τα οποία τα βιολογικά είδη έχουν βελτιστοποιήσει εξελικτικά τις ατομικές/συλλογικές δράσεις τους για την αναζήτηση τροφής. Οι μέθοδοι αυτές συνδυάζονται με τον Εξελικτικό Προγραμματισμό (Evolutionary Programming), δηλαδή μεθόδους πληθυσμιακής εξέλιξης των συλλογικοτήτων με βάση τη δαρβινική θεωρία της εξέλιξης των ειδών. Οι ευφυείς πράκτορες εξελίσσονται ως αυτόνομα, αυτοπροσαρμοζόμενα, μανθάνοντα συστήματα, αλλά και ως συλλογικότητες. Και, όπως ο άνθρωπος, που εκτός από ευφυΐα διαθέτει συναισθήματα και αυτοσυνείδηση, μένει να δούμε αν και οι ευφυείς πράκτορες θα αναπτύξουν αντίστοιχες ποιότητες, αν δηλαδή θα βρεθεί το λογισμικό που θα αναφωνήσει συνειδητά το καρτεσιανό «σκέφτομαι, άρα υπάρχω», περίπου όπως το περιγράφει ο Ισαάκ Ασίμοφ στο προφητικό βιβλίο του «Εγώ, το ρομπότ», το οποίο εκδόθηκε το… μακρινό 1950.
Τα προαναφερθέντα περιστατικά, μαζί με την επίλυση από την OpenAI του συστήματος Ναβιέ-Στόουκς, που παρέμενε άλυτο για σχεδόν έναν αιώνα [3], δεν είναι τίποτα μπροστά σε αυτά που επέρχονται, δεδομένου ότι περίπου ανά εξάμηνο διπλασιάζεται η πολυπλοκότητα των προβλημάτων που επιλύουν οι ευφυείς πράκτορες, ενώ περίπου ανά δεκαοκτάμηνο διπλασιάζεται η υπολογιστική ισχύς των ηλεκτρονικών κυκλωμάτων (νόμος του Μουρ, διατυπώθηκε το… μακρινό 1965). Η όποια προσπάθεια ανάλυσης/πρόβλεψης των μελλούμενων θα πρέπει να λάβει υπόψη της δύο στοιχεία. Πρώτον, τη θεωρία των μη αναμενόμενων αποτελεσμάτων (ή το «παράδοξο της κοινωνικής δράσης») του κοινωνιολόγου Μαξ Βέμπερ (1864-1920), που υποστηρίζει ότι οι πράξεις των ανθρώπων έχουν συχνά συνέπειες εντελώς διαφορετικές από τις αρχικές τους προθέσεις, λόγω της πολυπλοκότητας της κοινωνίας και της ορθολογικής ή θρησκευτικής τους κατεύθυνσης. Το βεμπεριανό σχήμα ερμηνεύεται πλέον με βάση τη Θεωρία Πολυπλοκότητας (Complexity Theory), η οποία αναπτύχθηκε με τη βοήθεια υπολογιστών από τη δεκαετία του 1960 και αφορά στη μελέτη των μη γραμμικών συστημάτων (Nonlinear systems) και ιδίως στην ιδιότητα των συστημάτων αυτών να εμφανίζουν αναδυόμενες συμπεριφορές. Το δεύτερο στοιχείο είναι η Ηθολογία (Ethology), δηλαδή ο επιστημονικός κλάδος που μελετά τη συμπεριφορά των ζώων στο φυσικό τους περιβάλλον, εστιάζοντας στα ένστικτα, την επικοινωνία, τη μάθηση, τις στρατηγικές επιβίωσης, την κοινωνική συμπεριφορά (αλτρουισμός, γονική φροντίδα, ιεραρχίες, συνεργασία) και την εξελικτική τους πορεία.
Μη λησμονούμε ότι ζούμε εντός του πλαισίου ενός έντονα αυτοαναφορικού, ναρκισσιστικού, ανθρωποκεντρικού πολιτισμού. Το πλαίσιο αυτό, ασφαλώς αποτέλεσμα του μύθου που αξιωματικά τοποθετεί τον άνθρωπο στην κορωνίδα της δημιουργίας, μάλλον θέτει εμπόδια σε μια ψύχραιμη προσέγγιση ενός νέου είδους ευφυΐας, της υπολογιστικής νοημοσύνης, η οποία είναι ανθρώπινο δημιούργημα μεν, με έντονες πλέον τάσεις αυτονόμησης δε. Ο μύθος της έξωσης του ζεύγους Εύας-Αδάμ και της απώλειας του παραδείσου για το ανθρώπινο είδος (που, βέβαια, δεν εξηγεί γιατί εκδιώχθηκαν και όλα τα υπόλοιπα είδη που συναντάμε στον κόσμο μας), αλλά και ο μύθος της απόρριψης που επιφύλαξε ο Δρ. Φρανκενστάιν στο δημιούργημά του στο ομώνυμο μυθιστόρημα της Μέρι Σέλεϊ, φανερώνουν ότι αυτή η πορεία κάθε άλλο παρά εύκολη είναι. Σε λιγότερο από μια επταετία, τον Απρίλιο του 2033, συμπληρώνονται 400 χρόνια από τη δίκη του Γαλιλαίου ενώπιον της Ιεράς Εξέτασης, με επίδικο τότε την ηλιοκεντρική θεωρία που εξοβέλιζε τη Γη, άρα και τον άνθρωπο, από το κέντρο του Σύμπαντος. Η δυσκολία να δεχθούμε το γεγονός αυτό (σημειωτέον, το Βατικανό αποκατέστησε τον Γαλιλαίο το 1992!) είναι απείρως μικρότερη από τη δυσκολία να αποδεχθούμε μια άλλου είδους ευφυΐα που θα μας προσπεράσει.
Μια συζήτηση στον Φάρο του ΚΠΙΣΝ για τις μηχανές που μπορεί κάποτε να μη μας χρειάζονται, την αγάπη για την επιστήμη και το βάρος τού να γίνεσαι πρότυπο στα 15 σου
Μια υποδομή 8,5 εκατ. ευρώ συνδέει ερευνητές και επιχειρήσεις με την εθνική υπολογιστική υποδομή - Νέο ινστιτούτο για την ακεραιότητα, την ασφάλεια και την ηθική της έρευνας ανακοίνωσε ο Τάκης Θεοδωρικάκος
15°
