Κάτι τρέχει με την Τεχνητή Νοημοσύνη: Πέντε διεθνείς καμπάνες και δύο φουτουριστικοί της κίνδυνοι 

Ας υποθέσουμε ότι κάποιος σας έλεγε πως «υπάρχει 10% πιθανότητα να αφανιστεί όλο το ανθρώπινο είδος στις επόμενες δεκαετίες». Ότι υπάρχει μια τεχνολογία που, αν δεν τη ρυθμίσουμε σωστά, μπορεί να κονιορτοποιήσει για πάντα τους homo sapiens και να αφανιστούν μετά από εκατοντάδες χιλιάδες χρόνια ιστορίας τους από προσώπου Γης. Θα λέγατε πως είναι μια καλή ιδέα «κάτι να κάνουμε για αυτό»;

Εκατοντάδες κορυφαίοι επιστήμονες της Τεχνητής Νοημοσύνης (ΤΝ) ρωτήθηκαν σε έρευνα του 2022 σχετικά με τους κινδύνους της. Το 50% απ’ αυτούς απάντησε ότι υπάρχει «τουλάχιστον 10% πιθανότητα» η ανθρωπότητα να αφανιστεί ή να υποστεί μια παγκόσμια βλάβη από μια μελλοντική μορφή ΤΝ. Ότι εξαιτίας της σήμερα εμείς μπορεί να είμαστε μια από τις τελευταίες γενιές ανθρώπων που έχει υπάρξει. Ήταν η 1η ηχηρή καμπάνα που ακούστηκε πρόσφατα για τους κινδύνους της ΤΝ.

Ελάχιστους μήνες μετά έκανε την εμφάνισή του το περίφημο ChatGPT: μια μορφή ΤΝ που μπορεί να παράγει λόγο που μοιάζει ανθρώπινος γράφοντας σε δεύτερα κατεβατά από κείμενα για κάθε τι που θα ρωτήσεις: από θέματα κβαντομηχανικής ή φιλοσοφίας μέχρι gossip του Χόλιγουντ, αθλητικά ή οδηγίες για το πως να φτιάξει κανείς ένα π.χ. αεροπλάνο. Η εφεύρεση αιφνιδίασε ακόμη και τους πιο μυημένους στην ΤΝ αφού μια τέτοια μηχανή αναμένονταν να σφυρηλατηθεί χρόνια αργότερα – ή ακόμη και ποτέ.

Το ChatGPT συμπαρέσυρε έτσι μια πρωτοφανή παγκόσμια κούρσα επενδύσεων από εταιρείες και κράτη που εδώ και λίγους μήνες ρίχνουν εκατομμύρια δολάρια, ευρώ ή γουάν για να μη μείνουν πίσω στην ψηφιακή αρένα. 

Η Google ετοιμάζει μια αντίστοιχη μορφή ΤΝ όπως το GPT. Ο Έλον Μασκ ετοιμάζει μια αντίστοιχη μορφή ΤΝ. H Βρετανία, η Κίνα, η Ρωσία – όλες οι υπερδυνάμεις θαρρείς του κόσμου χτίζουν από μια αντίστοιχη μορφή ΤΝ για να εξυπηρετήσει ο καθένας τους δικούς του (δημοκρατικούς ή αυταρχικούς) σκοπούς.

Στη σκιά των παραπάνω εξελίξεων ήχησε η 2η παγκόσμια καμπάνα. Τον Μάρτιο του 2023 ορισμένοι από τους σημαντικότερους ανθρώπους της ΤΝ – όπως ο συνιδρυτής της Apple Στιβ Βόζνιακ, ο ιστορικός και συγγραφέας Γιούβαλ Χαράρι, ο κορυφαίος επιστήμονας ΤΝ Στιούαρτ Ράσελ, ο Έλον Μασκ, υψηλά στελέχη και μηχανικοί της Google και της Microsoft – συμμετείχαν σε μια διεθνή έκκληση να σταματήσει για 6 (τουλάχιστον) μήνες η ανάπτυξη γιγάντων ΤΝ ώστε να ρυθμιστούν τα ρίσκα που επωάζουν. Σημείωσαν πως «η ΤΝ μπορεί να αντιπροσωπεύει μια βαθιά αλλαγή στην ιστορία της ζωής και πρέπει να σχεδιάζεται με ανάλογη φροντίδα».

Αρκετοί θώρησαν την παραπάνω έκκληση υπερβολική. Η UNESCO πάντως δεν ήταν ανάμεσά τους. Ο διεθνής οργανισμός, με το κύρος και το εκτόπισμα που διαθέτει, κάλεσε τα κράτη να εφαρμόσουν «αμέσως τη σύσταση για ηθική διαχείριση της ΤΝ» υπαγορεύοντας πως «ο κόσμος χρειάζεται ισχυρότερους ηθικούς κανόνες για την ΤΝ: Αυτή είναι η πρόκληση της εποχής μας». Ήταν η 3η διεθνώς ηχηρή καμπάνα.

Η έκκληση της UNESCO ή της παραπάνω επιστολής μπορεί να είναι σωστή. Δεν είναι όμως ρεαλιστική. Δεν είναι εμφανές πως μπορεί να επιβάλει κανείς σε χώρες με την αχανή γεωπολιτική δύναμη της Κίνας ή των ΗΠΑ να σταματήσουν την τεχνολογική τους έρευνα. Αλλά και πάλι δεν ήταν αλήθεια αυτή η πρόθεση των φιλοσόφων και των τεχνολόγων που συνυπέγραψαν την προειδοποίηση. Ήταν να προσελκύσουν το διεθνές ενδιαφέρον πολιτικών και πολιτών γύρω απ’ τις πρωτόγνωρες απειλές που η ΤΝ κυοφορεί.

Οι προειδοποιήσεις παίρνουν μορφή χιονοστιβάδας. Μια 4η καμπάνα χτύπησε πριν ένα μήνα απ’ τον αποκαλούμενο «νονό» της ΤΝ, Τζέφρι Χίντον, η έρευνα του οποίου στην “deep learning” ΤΝ επέτρεψε σε μορφές ΤΝ όπως το ChatGPT σήμερα να υπάρχουν. Ο Χίντον ανακοίνωσε λοιπόν πως παραιτείται από την (εξαιρετικά) ακριβοπληρωμένη του θέση στην Google ώστε να μπορεί να μιλά ελεύθερα για τους κινδύνους της ΤΝ. Δήλωσε πως «μετανιώνω πλέον για τη δουλειά μου» - και το να χαρακτηριστεί αυτή η είδηση μόνο ανησυχητική θα ήταν μια ριζική της υποβάθμιση.

Πριν λίγες μέρες, τέλος, ήρθε μια ακόμη προειδοποίηση από εκατοντάδες ειδήμονες της ΤΝ, όπως ο ίδιος ο Χίντον αλλά κι ο επικεφαλής του ChatGPT, Σαμ Άλτμαν, σε μια νέα επιστολή που σημειώνουν: «Ο μετριασμός της απειλής αφανισμού μας από την ΤΝ θα πρέπει να αποτελεί παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους όπως οι πανδημίες και ο πυρηνικός πόλεμος». Ήταν η 5η ηχηρή καμπάνα που ακούστηκε στον πυκνό χρόνο των τελευταίων μηνών.

Τα παραπάνω κομμάτια του παζλ θα μπορούσαν να είναι μια συναρπαστική ταινία επιστημονικής φαντασίας. Είναι όμως η σύγχρονη επιστημονική πραγματικότητα.

Από τις προειδοποιήσεις της UNESCO και του πατριάρχη της ΤΝ, Τζέφρι Χίντον, μέχρι τις αντίστοιχες επιστολές από εκατοντάδες ειδικούς και τις έρευνες που δείχνουν τις πιθανότητες αφανισμού της ανθρωπότητας από την ΤΝ, ποτέ άλλοτε δεν έχουν υπάρξει τόσες φωνές που να μιλούν για τις απειλές που ελλοχεύουν στους αλγόριθμους της ΤΝ.

Όλο αυτό το κύμα προειδοποιήσεων είναι δηλωτικό για το πού βρισκόμαστε τώρα: στην απαρχή μιας γιγάντωσης της ΤΝ. Μιας γιγάντωσης δηλαδή του πλέον επιδραστικού ιστορικά φαινόμενου της εποχής μας.

Ο Χίντον έχει πει δε ότι η ΤΝ «συγκρίνεται μόνο με τη σημασία που έχει ο τροχός». Ο επικεφαλής της Google Σ. Πιτσάι έλεγε ότι η ΤΝ «είναι πιο σημαντική απ’ τη φωτιά ή τον ηλεκτρισμό ή από ό,τι άλλο απ’ τα μεγάλα θέματα με τα οποία έχει ασχοληθεί η ανθρωπότητα». Με άλλα λόγια στην τροχιά της ΤΝ περιστρέφονται πανίσχυρες δυνάμεις και αν ο πυρήνας τους δεν προγραμματιστεί ηθικά (δηλαδή φιλοσοφικά) σωστά θα φέρει ανυπολόγιστες επιπτώσεις στον κόσμο μας.

Η ΤΝ δεν κρύβει βέβαια μόνο κινδύνους. Αλλιώς δεν θα τη φτιάχναμε. Μέσα της φωλιάζουν μεγαλειώδεις ευκαιρίες που βελτιώνουν ήδη την ανθρώπινη ζωή μαζί με τις οποίες όμως φωλιάζουν εφάμιλλα μεγάλα ρίσκα που χρήζουν ρύθμισης και δεν παρουσιάζονται ρητά στις παραπάνω προειδοποιήσεις.

Στη φιλοσοφία της ΤΝ η απειλή που ανησυχεί περισσότερο είναι η ΤΝ να ξεπεράσει κάποτε τη νοημοσύνη του ανθρώπου και έτσι να μην είμαστε σε θέση να την ελέγξουμε. Όπως π.χ. ένα ον χαμηλότερης νοημοσύνης από εμάς (σαν τα μυρμήγκια ή τους σκύλους) δεν μπορεί να κατανοήσει τη ζωή ενός ανθρώπου (δεν μπορεί να κατανοήσει μια γάτα τι είναι μια τηλεόραση ή μια συζήτηση μας) δεν μπορεί άρα και να ελέγξει τη ζωή μας, έτσι δεν θα μπορούμε ούτε εμείς να κατανοήσουμε και να ελέγξουμε μια ΤΝ που θα έχει ισχυρότερη νοημοσύνη από εμάς. Ακούσια η ΤΝ λοιπόν μπορεί να αποβεί ολέθρια για τον άνθρωπο - ακόμη και αν εκείνη έχει τους πλέον καλοκάγαθους σκοπούς. Και οι άνθρωποι χτίζουμε από αγαθούς σκοπούς ένα πχ νοσοκομείο σε ένα οικόπεδο, αλλά αυτό έχει ως αποτέλεσμα να εξολοθρεύσουμε από εκεί μυριάδες μυρμήγκια. Όχι από μοχθηρία. Απλώς γιατί έχουμε διαφορετική νοημοσύνη και άρα διαφορετικούς στόχους από τα άλλα όντα. Πρόκειται για ένα σοβαρό (οντολογικό) ζήτημα που χρήζει σοβαρής ανάλυσης στην πολιτική σκέψη του 21ου αιώνα.

Μια άλλη απειλή που εδώ θα παρουσιάσουμε και ακούγεται διεθνώς λιγότερο είναι ότι, ιδίως μετά το ChatGPT, κάθε κράτος αρχίζει πια να φτιάχνει μια αντίστοιχη δική του προηγμένη «ΤΝ παραγωγής Λόγου» (τα λεγόμενα Large Language Models, LLMS’s).

Αυτό που κάνει η ΤΝ Λόγου είναι πως μπορεί να προβλέψει την επόμενη λέξη μέσα σε ένα σύμπλεγμα λέξεων. Κάτι που φαίνεται αθώο. Λες π.χ. «εύχομαι χρόνια» και το μηχάνημα απαντά «πολλά». Αυτό δεν δείχνει φοβερό. Αλλά μπορείς επίσης να πεις «πως μπορώ να χτίσω ένα βιολογικό όπλο στο σπίτι μου;» και στη συνέχεια η ΤΝ να σου δώσει επίσης λεπτομερείς οδηγίες για το πώς να κάνεις κάτι τέτοιο. Και αυτό δείχνει μάλλον λιγότερο αθώο...

Στη φιλελεύθερη Δύση το ChatGPT, ως γέννημα-θρέμμα της, λειτουργεί με ένα αντίστοιχο δημοκρατικό φιλελεύθερο ηθικό σύστημα που αναγνωρίζει π.χ. την ισότητα όλων των ανθρώπων και δεν δίνει απαντήσεις που μπορεί να είναι επιστημονικά αβάσιμες ή που μπορούν να επιφέρουν σωματική βλάβη σε άλλους. Ας πούμε, αν του ζητήσεις να σου δώσει επιχειρήματα για το ότι η Γη είναι επίπεδη ή για το πώς να φτιάξεις μια βόμβα, θα αρνηθεί να απαντήσει. Γιατί ακολουθεί το ηθικό, δηλαδή το φιλοσοφικό, πρόσημο της φιλελεύθερης Δημοκρατίας.

Όμως οι άνθρωποι έχουμε αντιφατικές μεταξύ μας αξίες. Υπάρχουν οι αξίες της Δημοκρατίας, υπάρχουν και οι αξίες της αυταρχικής Κίνας, του πολιτικού Ισλάμ ή του φονταμενταλισμού. Ποιες απ’ αυτές είναι κατάλληλες για να «φορτώσει» κανείς σε μια υψηλή ΤΝ; Ή αντίστροφα: Ποια κοσμοθεώρηση οφείλει να αποφύγει κανείς με κάθε τρόπο να εγκατασταθεί σε μια πανίσχυρη ΤΝ;

Εάν τα πράγματα αφεθούν ανεξέλεγκτα, το πιο πιθανό είναι ότι η ΤΝ θα ενσαρκωθεί εμπεριέχοντας κάθε πιθανό ηθικό κώδικα και κάθε ποικιλία στόχων: θα υπάρχει και η δημοκρατική ΤΝ, και η φονταμενταλιστική. Θα υπάρχουν π.χ. και αυτόνομα όπλα ΤΝ που δεν σκοτώνουν τους άμαχους, και άλλα που τους σκοτώνουν.

Τα αυτόνομα όπλα (εκείνα που στηρίζονται στην ΤΝ και εκτελούν στόχους με δικές τους αποφάσεις) έχουν χαρακτηριστεί ως η «3η επανάσταση του πολέμου» μετά το μπαρούτι και τα πυρηνικά. Τι θα γίνει εάν ένα από αυτά προγραμματιστεί ηθικά ή τεχνικά λάθος; Αν είναι φτιαγμένο π.χ. να επιτίθεται σε στρατιωτικούς του αντιπάλους αλλά αντί για αυτό, από μια αβλεψία στον κώδικά του, επιτεθεί μαζικά σε αμάχους; Πρόσφατα σε μια ψηφιακή προσομοίωση ένα όπλο ΤΝ σκότωσε τον χειριστή του επειδή έκρινε πως εκείνος έστεκε εμπόδιο στους σκοπούς του. Τι θα γίνει αν κάτι αντίστοιχο συμβεί σε μια πραγματική συνθήκη πολέμου ή ειρήνης – και δη μαζικά;

Αν κάθε πολιτισμός φτιάξει δικά του αυτόνομα όπλα ΤΝ, σε στιγμές έντασης θα μπορεί να τα στρέφει και εναντίον των άλλων πολιτισμών: οι αυταρχικοί εναντίον των φιλελεύθερων, οι φονταμενταλιστές χριστιανοί εναντίον των ισλαμιστών, οι Ρώσοι εναντίον των ΗΠΑ, και όλοι εναντίον όλων.

Οι διαμάχες μεταξύ των ανθρώπων δεν είναι βέβαια καινούργιο φαινόμενο. Καινούργιο είναι οι διαμάχες μεταξύ ανθρώπων που κρατούν όμως στα χέρια τους υπεράνθρωπες δυνάμεις που αφανίζουν χώρες.

Ας φανταστούμε έναν παγκόσμιο πόλεμο όπου κράτη έχουν στην κατοχή τους από ένα φορέα υψηλής ΤΝ που θα έχει την εντολή «βρες τρόπους να σκοτωθούν όσο πιο πολλοί Αμερικανοί» ή «Κινέζοι γίνεται». Θα είναι σημείο δίχως επιστροφή τη στιγμή που ο 1ος ηγέτης πατήσει το λάθος κουμπί. Το ντόμινο αβύσσου που θα ακολουθήσει θα χορογραφήσει τα βήματα από ένα ακατάληπτο χάος.

Μόνο μέσα στο πλαίσιο κάποιας συνθήκης που αφορά το διεθνές δίκαιο μπορούμε να δοκιμάσουμε να τιθασεύσουμε το ηφαίστειο της ΤΝ απ’ όπου βλέπουμε τώρα μόλις τις πρώτες του σπίθες. Αλλά και πάλι είναι μεγάλη πρόκληση να εφαρμοστεί κάτι τέτοιο παγκοσμίως όπως χρειάζεται – γιατί Η ΤΝ είναι σα την κλιματική αλλαγή. Δεν μπορείς να περιορίσεις τα ρίσκα της αν έχεις μόνο μια χώρα ή μια ομάδα χωρών που τα περιορίζει. Χρειάζεται μια παγκόσμια δομή.

Είναι σημαντικό μαζί να γίνει αισθητό ότι ο έλεγχος μιας μελλοντικής προηγμένης ΤΝ (στρατιωτικής ή μη) που φτάνει ή ξεπερνά τη νοημοσύνη του ανθρώπου, μπορεί να γίνει μόνο στην αρχή της. Προτού γίνει τόσο ισχυρή. Μετά θα είναι αργά γιατί θα μπορεί να καθορίζει τους δικούς της στόχους με τις δικές της μεθόδους. Αυτός είναι ο λόγος για τον οποίο τώρα γεννιούνται τόσες προειδοποιήσεις γύρω απ’ την ΤΝ από φιλοσόφους και τεχνολόγους: γιατί τώρα σχηματίζεται η αρχή μιας κορύφωσης της.

Είναι γνωστή η σημασία της αρχής μιας συνθήκης (ιδίως στην οντολογία) ενώ εκείνη ορίζει την κατεύθυνση, τη διαδρομή και την τελική μορφή του γίγνεσθαι. Και είναι η φιλοσοφία εκείνη που καλείται να διακρίνει τις οντολογικές και ηθικές αρχές με τις οποίες πορεύεται το μέλλον της ΤΝ.

Στο τραπέζι άλλωστε του διαλόγου δεν κάθονται πολλοί άλλοι συνομιλητές με βαθύτερη επίγνωση των αρχών όπου επωάζουν οι μεγαλειώδεις ευκαιρίες και απειλές της ΤΝ.