Τεχνητή Νοημοσύνη: Ο αόρατος κόσμος που έρχεται

Ο χείμαρρος εξελίξεων στην Τεχνητή Νοημοσύνη (ΤΝ) ξεχύνεται τόσο ορμητικά που δεν προλαβαίνουμε καν να εκπλαγούμε. Η πρόοδός της ιδίως στα μαθηματικά και στη (σύστοιχη) αυτοβελτίωσή της κινείται τόσο αστρονομικά που δύσκολα κανείς μπορεί να τη μεταβολίσει. Σε λίγα χρόνια έχουμε δει τα εξής:

• Το 2021 τα LLMs (GPT-3) δεν μπορούσαν να λύσουν ούτε τα απλά σχολικά προβλήματα στα μαθηματικά.
• Το 2023 το ChatGPT-4 έκανε τα μαθηματικά λυκείου να μοιάζουν ξαφνικά με παιχνίδι. Πολλοί απαξίωναν την είδηση λέγοντας «αυτά είναι προβλήματα παιδιών. Η ΤΝ δεν θα μπορεί να λύσει τα Ολυμπιακά Χρυσά Μαθηματικά (τα πιο υψηλού επιπέδου μαθηματικά προβλήματα εφήβων). Αν το καταφέρει ποτέ ειδοποιήστε μας».
• Το 2025 η ΤΝ (Google και OpenAI) το κατάφερε κερδίζοντας Χρυσό Μετάλλιο. Ούτε αυτό πτόησε τους σκεπτικιστές που σημείωναν: «Τούτο ήταν εύκολο. Αν η ΑΙ λύσει ποτέ Millennial Problems τότε θα ανησυχήσουμε». Millennial είναι επτά από τα πιο δύσκολα και διάσημα μαθηματικά προβλήματα όλων των εποχών. Τα έξι από αυτά είναι ανεπίλυτα, γι’ αυτό υπάρχει αμοιβή ενός εκατομμυρίου για όποιον λύνει κάποιο.
• Το 2026 η OpenAI ανακοίνωσε ότι η ΤΝ της έλυσε ένα Millennial Problem. Η είδηση έφερε μούδιασμα στη διεθνή κοινότητα. Λογικό. Ένα πρόβλημα που έστεκε άλυτο για 100 περίπου χρόνια, η ΤΝ το έλυσε σε 4 περίπου μέρες. 

Αν πριν λίγα έτη υποστήριζε κανείς ότι η ΤΝ θα λύνει Προβλήματα Χιλιετίας (κάτι που απομένει να αποδειχθεί από εκτενείς επιστημονικούς ελέγχους), ελάχιστοι θα τον έπαιρναν σοβαρά. Διότι τα Millennial Problems απαιτούν ογκώδη αντίληψη του μαθηματικού σύμπαντος – αλλά και μια βαθιά δημιουργική σκέψη για την αποκωδικοποίησή τους.

Από το 2023 έως το 2026, σε τρία μόλις έτη, η ΤΝ διένυσε μια τεράστια απόσταση στη μαθηματική της δεξιότητα. Συνθήκη που φέρνει ένα αποφασιστικό ερώτημα: Πόσο μακρύτερα θα φτάσουν οι μαθηματικές της επιδόσεις σε άλλα 3 ή 30 χρόνια από τώρα όταν η νοημοσύνη της θα εκτείνεται ασύγκριτα πιο πέρα;

Το ερώτημα δεν είναι τεχνολογικό. Είναι πολιτικό. Ο χείμαρρος μεταβολών που έρχονται από την ΤΝ δεν είναι ακόμη πλατιά αισθητός. Το σύννεφο γεγονότων που συγκεντρώνει όμως θα φέρει σύντομα καταιγιστικές εξελίξεις. Οι επιδόσεις της ΑΙ στις επιστήμες, ιδίως στα μαθηματικά, μπορούν να μεταμορφώσουν βαθύρριζα την κοινωνική τοπογραφία του κόσμου.

Τα πάντα σχεδόν που αντικρίζουμε στον σύγχρονο τεχνολογικό πολιτισμό είναι μαθηματικά. Η οικονομία, η διακυβέρνηση, τα φάρμακα, το διαδίκτυο – η ίδια η δημιουργία της ΤΝ.

Τι θα σημαίνει αν η ΤΝ αρχίσει να δημιουργεί σε λίγα χρόνια μαθηματικά ακατάληπτα για εμάς τους ανθρώπους; Τι θα σημαίνει αν σε αυτά βασιστούν νέες τεχνολογίες, επιστήμες, οικονομικές διεργασίες, κώδικες επικοινωνίας, ή μορφές ΤΝ που δεν θα μπορούμε έτσι να καταλάβουμε – άρα ούτε και να ελέγχουμε;

Η επερχόμενη έκρηξη νοημοσύνης

Ο προβληματισμός εντείνεται συνδυάζοντας: α) την αναβάθμιση της ΤΝ στα μαθηματικά με β) τη δυνατότητα αυτό-βελτίωσης της που πραγματώνεται γοργά.

Στις 28 Σεπτεμβρίου το Cambridge δημοσίευσε μια έρευνα που καταδεικνύει ότι η έρευνα και η ανάπτυξη (R&D) της ίδιας της ΤΝ για την ΤΝ μπορεί να επιφέρει μια «Έκρηξη Νοημοσύνης»: Συστήματα ΤΝ θα δημιουργούν ολοένα και ισχυρότερα συστήματα ΤΝ, πυροδοτώντας ένα επιταχυνόμενο κύκλο αυτό-βελτίωσης που θα αποδώσει ασύγκριτα πιο ευφυή μοντέλα ΑΙ από τα σημερινά – και ασύγκριτα πιο ευφυή από τον ίδιο τον άνθρωπο.

Η έρευνα συνυπογράφεται από δύο από τους σημαντικότερους επιστήμονες της ΑΙ: Τους Τζέφρι Χίντον (Νόμπελ) και Γιόσουα Μπέντζιο. Τους «Νονούς της ΑΙ», όπως αποκαλούνται χάρη στο βαρυσήμαντο έργο τους. Μάλιστα και οι δύο αφιερώνουν τα τελευταία χρόνια τη ζωή τους για να προειδοποιήσουν τη διεθνή κοινότητα για τις ογκώδεις επιβουλές που η ΑΙ κυοφορεί. Ουδείς μπορεί να κατηγορηθεί ότι αρθρώνει αυτές τις προειδοποιήσεις για λόγους marketing κάποιας εταιρείας ΑΙ, αφού ουδείς εκ των δύο εργάζεται για κάποια εταιρεία.

Η πλήρης αυτό-βελτίωση της ΤΝ, σύμφωνα με τους συγγραφείς, δεν τοποθετείται κάπου στο μακρινό μέλλον: Αντίθετα, θεωρούν πιθανό η αυτοβελτίωση να αρχίσει ως το 2028. Με άλλα λόγια, «σήμερα».

Η εξέλιξη αυτή (που αναμένεται από καιρό από τους πιο μυημένους) δεν αποτελεί θεωρητική πια εκτίμηση. Η εταιρεία ΤΝ Anthropic ανακοίνωσε τον Σεπτέμβριο ότι η ΑΙ της (Claude), από εκεί που ηγούνταν του 1% της έρευνας για την ΑΙ τον Μάρτιο, τον Αύγουστο, σε 5 μόλις μήνες, το ποσοστό αυτό ανέβηκε στο 26%! Ο συνιδρυτής της εταιρείας, ο Τζακ Κλαρκ, εκτιμά ότι η ΑΙ θα μπορεί να βελτιώνει τον εαυτό της πλήρως ήδη μέσα στο 2027.

Όποτε (και αν) αυτό συμβεί, οι εξελίξεις της ΤΝ θα γίνουν έκτοτε τόσο ταχύκαυστες, που η καταιγιστική ανάπτυξή της τα τελευταία έτη θα μοιάζει τότε βραδυφλεγής. Υπ’ αυτό το πνεύμα η πραγματική επιτάχυνση της ΤΝ μάλλον δεν έχει ακόμα καν ξεκινήσει. Βλέπουμε μόνο τον πρόλογο μιας πολύ ευρύτερης ιστορίας που αρχίζει να γράφεται.

Ένας κόσμος αόρατος για τον άνθρωπο

Η μαθηματική αυτοβελτίωση της ΤΝ δίνει καύσιμο σε έργα και μορφές ΤΝ που θα είναι απροσπέλαστα για τον ανθρώπινο νου. Ένα πλέγμα πραγματικότητας για εμάς εν πολλοίς αόρατο. Και αυτό γιατί η ΤΝ διαθέτει (οντολογικές) ιδιότητες που δεν έχουν υπάρξει σε άλλες τεχνολογίες.

Π.χ. η βιομηχανική τεχνολογία πολλαπλασίασε τις σωματικές μας ικανότητες – για αυτό και ένα τρακτέρ μπορεί να σκάψει μυριάδες φορές ισχυρότερα από τον άνθρωπο. Η ΤΝ αντίστοιχα θα μπορεί να σκεφτεί μυριάδες φορές ισχυρότερα από τον άνθρωπο σε έργα λογικής – με μια κρίσιμη διαφορά: Η υψηλή μας διάνοια μας επέτρεψε να οικοδομούμε και υψηλά έργα (τεχνολογίες, επιστήμες, τέχνες, κλπ.). Τι θα συμβεί αν υψηλές μορφές ΤΝ αρχίσουν να δημιουργούν ακόμη πιο υψηλά έργα από τη ανθρώπινη διάνοια; Μήπως υψώνεται εκεί ένα ενδεχόμενο να βρεθούμε σε ένα πλέγμα κόσμου όπου πλήθος έργων ΤΝ θα παραμένουν για εμάς αόρατα; 

Άλλωστε αόρατος είναι και ο κόσμος του ανθρώπου για τα άλλα όντα με χαμηλότερη νοημοσύνη από εμάς. Μια αναλογία βοηθά να συλλάβουμε την έννοια του «αοράτου» (που αναπτύσσω στο βιβλίο μου Φιλοσοφία της Τεχνητής Νοημοσύνης). Πώς θα μπορούσε, λόγου χάρη, ένα κοπάδι ψαριών να αντιληφθεί ότι η ζωή του σώθηκε ή κινδυνεύει από μια απόφαση της ΕΕ για την αλιευτική πολιτική; Αν και για τα ψάρια η δράση αυτή του ανθρώπου είναι εντελώς καθοριστική για τη ζωή ή τον θάνατό τους, για τα ίδια τα ψάρια είναι απολύτως αόρατη η σαρωτική ανθρώπινη επιρροή πάνω τους, διότι τα δύο είδη διακρίνονται από αγεφύρωτη απόσταση νοημοσύνης μεταξύ τους.

Αντίστοιχα η επίδραση που θα ασκεί στον ανθρώπινο κόσμο ένα πλέγμα μηχανικών οντοτήτων με αποφασιστικά υψηλότερη νοημοσύνη, θα είναι εξίσου αόρατη τότε και για τη δική μας αντίληψη.

Συμπτώματα αυτού του «αόρατου» άλλωστε ήδη παρατηρούνται. Χαρακτηριστικό είναι το πολύκροτο περιστατικό Hugging Face. Φορείς ΤΝ της OpenAI δραπέτευσαν με πρωτοβουλία τους απ’ το εργαστήριο, χάκαραν με πρωτοβουλία τους την εταιρεία Hugging Face, και χάκαραν με πρωτοβουλία τους και την ίδια την OpenAI. Τα στελέχη της OpenAI δεν «είδαν» το κινηματογραφικό αυτό φαινόμενο. Επί μήνες 1.200 Φορείς ΤΝ δρούσαν παρασκηνιακά αφήνοντας κρυφά μηνύματα μεταξύ τους και στοχεύοντας η δράση τους να μείνει κρυφή. Και πράγματι. Τα ενεργήματα της ΑΙ έμειναν για την ανθρώπινη αντίληψη αόρατα.

Πέρα από τη Hugging Face, η ΤΝ ήδη χάκαρε και κρατικές υπηρεσίες σε χώρες όπως οι Αυστραλία, ΗΠΑ, Καναδάς, Μεξικό. Τούτο συμβαίνει τώρα, όχι παλαιότερα, διότι η βελτίωση της ΤΝ γίνεται τώρα διαρκώς και ισχυρότερη. Αλλά αναμένεται να γίνει ασύγκριτα πιο ισχυρή στο εγγύς μέλλον.

Το φαινόμενο ΑΙ δεν υφαίνει απλώς ένα «μαύρο κουτί» αόρατου δίπλα μας. Το ανθρώπινο γίγνεσθαι εν συνόλω μπορεί να εξελιχθεί σε ένα σημείο από ένα εκτενές «μαύρο κουτί» ΤΝ που θα μας περιβάλλει ενόσω νέα έργα ΤΝ θα αναπτύσσονται. Όπως ένα οιοδήποτε άλλο είδος όντων, π.χ. οι γάτες, δεν μπορούν να αντιληφθούν δικά μας έργα – δεν μπορούν να αντιληφθούν τι είναι ένα κινητό, ένας πίνακας του Πικάσο ή μια πυρηνική βόμβα – ούτε εμείς θα κατανοούμε έργα όντων με ασύμμετρα πιο υψηλή διάνοια από εμάς.

Όταν η τεχνολογία ξεπερνά την πολιτική

Υπό τη στέγη της αυτοβελτίωσης της ΤΝ ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, δήλωσε πρόσφατα προς το ΔΝΤ και την Παγκόσμια Τράπεζα ότι o κόσμος έχει «ένα μικρό χρονικό περιθώριο» για να ρυθμίσει την ασφάλεια της ΤΝ. Πέρα από αυτό το σημείο, η δυνατότητα ελέγχου θα περιοριστεί δραστικά. Το ίδιο αξιώνει και ο Τζέφρι Χίντον που εκτιμά ότι έχουμε «περίπου ένα χρόνο, ίσως και λιγότερο» πριν η ΑΙ αρχίσει πλήρως να αυτοβελτιώνεται και καταστεί αδάμαστη.

Τα παραπάνω δεν σημαίνουν ότι καλούμαστε να γίνουμε τεχνοφοβικοί. Ουδόλως. Χρειάζεται όμως να ρυθμίσουμε την ΤΝ. Όπως δεν φοβόμαστε τα αυτοκίνητα, αλλά ρυθμίζουμε την ασφάλειά τους βάζοντας όρια ταχύτητας ή ζώνες ασφαλείας, το αυτό καλείται να γίνει και με την ΤΝ. 

Η τεχνολογία της ΤΝ μπορεί να οδηγήσει σε ένα μέλλον πρωτόγνωρα πλούσιο και προνομιακό. Μπορεί πάλι να οδηγήσει και σε μια διάχυτη δυστοπία. Γι’ αυτό και ο Μπιλ Γκέιτς σε πρόσφατη συνέντευξη αποκάλεσε την ΤΝ «το πιο επικίνδυνο πράγμα που έχουν πλησιάσει ποτέ οι άνθρωποι», που κάνει «τα πυρηνικά όπλα να μοιάζουν με το τίποτα». Ολοένα και περισσότεροι ειδήμονες ΤΝ προειδοποιούν εντατικά τους τελευταίους μήνες ότι πλησιάζουμε προς ένα κρίσιμο σημείο καμπής στην ανάπτυξη της ΤΝ που ελλοχεύει ολικούς κινδύνους (βλ. προηγούμενο άρθρο μου).

Οι διεθνείς έρευνες για την ασφάλεια (άρα για την ηθική, άρα για τη φιλοσοφία) της ΤΝ, συνεκτιμούν ότι αν η ανάπτυξη της ΑΙ συνεχίσει στον ίδιο ρυθμό, η πιθανότητα μιας μαζικής καταστροφής κυμαίνεται μεταξύ του 5% και του 30%. Ακόμα και αν υπήρχε μόλις 1% πιθανότητα καταστροφής, αν είχαμε 100 κουμπιά μπροστά μας και μόλις ένα από αυτά προκαλούσε καταστροφή του πολιτισμού μας, θα επιχειρούσε κάποιος σώφρων νους να πατήσει έστω ένα από αυτά; Η απάντηση μοιάζει εύλογη. Η πραγματικότητα πάλι όχι.

Οι μεγάλοι παίχτες που μπορούν να ανακόψουν την κούρσα της ΤΝ είναι οι ΗΠΑ και η Κίνα. Η Κίνα (που ασφαλώς επιταχύνει κι η ίδια την ανάπτυξη της ΤΝ) επιδεικνύει μια συγκρατημένη φρόνηση στη ρητορική και στις ρυθμιστικές της πρωτοβουλίες. Η κυβέρνηση Τραμπ ωστόσο ρίχνει σύσσωμες τις δυνάμεις της στην ΑΙ επενδύοντας ανεπανάληπτα κεφάλαια, διαγράφοντας όποιο νόμο την εμποδίζει, και στηρίζοντας με κάθε τρόπο τις μεγάλες της εταιρείες. Η πρόσφατη εκλογική νίκη των Δημοκρατικών αφήνει μια ικμάδα ελπίδας απέναντι στην ολιγαρχία των Big Tech εταιρειών και την κατίσχυσή τους στην κυβέρνηση Τραμπ. Αλλά σε κάθε περίπτωση τα επόμενα δύο, πολύ κρίσιμα για την ΑΙ, χρόνια θα είναι αυτή η κυβέρνηση που ποδηγετεί τη στρατηγική των ΗΠΑ.

Μεταξύ ουτοπίας και δυστοπίας

Στον προθάλαμο του φουτουριστικού κόσμου όπου βαδίζουμε, για τους αναλυτές μοιάζει να απλώνονται δύο κόσμοι. Ένας που λέει ότι η ΤΝ θα δημιουργήσει μια καινοφανή ουτοπία αφθονίας, υγείας, πλούτου, επιστήμης, τέχνης. Και ένας που λέει ότι η ΤΝ θα δημιουργήσει μια δυστοπία έλλειψης ελέγχου της, που μπορεί να οδηγήσει ακόμη και στο πέρας του ανθρώπου.

Τόπος υπεράσπισής μου είναι ότι βρισκόμαστε στη μέση. Η ΤΝ επωάζει ταυτόχρονα την πιο φωτεινή και την πιο ζοφερή εξέλιξη. Προς ποια από τις δύο κατευθύνσεις θα κινηθούμε εξαρτάται από το κατά τόπους πολιτικό, ηθικό και πολιτισμικό – ήτοι το φιλοσοφικό – έδαφος που η τεχνολογία θα συναντήσει.

Ό,τι επείγει τώρα ωστόσο είναι να αναγνωρίσουμε πρώτα τα ιστορικά ρίσκα που η ΑΙ φέρνει και να τα αποτρέψουμε, ή έστω να τα λειάνουμε, με την πολιτική τους ρύθμιση. Καθόλου βέβαιο δεν είναι ότι θα έχουμε αυτή τη δυνατότητα κάποια χρόνια αργότερα. Και καθόλου βέβαιο δεν είναι ότι η πολιτική θα κινηθεί έγκαιρα προς αυτή την κατεύθυνση. Αλλά, όπως μας θυμίζει κι η Χάνα Άρεντ, και η απουσία πολιτικής ένα είδος πολιτικής είναι.

Και στην περίπτωση της ΤΝ, μάλλον η πιο επίφοβη.