Ιαν ΜακΓιούαν: Η γοητεία και ο τρόμος της τεχνητής νοημοσύνης

Βρισκόμαστε στο 2119. Μετά από παγκόσμια κλιματική καταστροφή και μια σειρά από πυρηνικές αντιμαχίες, η Βρετανία έχει καταντήσει ένα αρχιπέλαγος με νησάκια. Όμως υπάρχουν ακόμα πανεπιστήμια, υπάρχουν ακόμα ανθρωπιστικές σπουδές και υπάρχουν φυσικά και ψηφιακά αρχεία για τον 21ο αιώνα (και τους «διαταραγμένους» του κατοίκους, που είδαν την καταστροφή και δεν την απέτρεψαν). Ο ερευνητής Τομ Μέτκαλφ προσπαθεί να ανακαλύψει όσα περισσότερα πράγματα μπορεί για τον ποιητή Φράνσις Μπλάντι και το μυστηριώδες του, χαμένο ποίημα Κορώνα για τη Βίβιαν. Σε συνέχεια προηγούμενης συζήτησής μας, με αφορμή το βιβλίο «Τι μπορούμε να γνωρίζουμε;», μιλήσαμε με τον Ίαν ΜακΓιούαν και για το πώς φαντάζεται αυτό το μέλλον.

Πώς φαντάζεται το μέλλον ο Ίαν ΜακΓιούαν; 

― Ίαν, έλεγες πριν ότι μπορεί το μυθιστόρημα στο μέλλον να μην έχει τη μορφή που έχει σήμερα και να είναι γραμμένο από την ΤΝ. Πώς ακριβώς φαντάζεσαι κάτι τέτοιο; Τι διαφορά θα έχει με τα σημερινά μυθιστορήματα;

Η τεχνητή νοημοσύνη είναι ήδη ο καθημερινός, σχεδόν, σύντροφός μας. Ξέρει τα πάντα για εμάς—ή τουλάχιστον όλα όσα έχουν πει ή έχουν γράψει για εμάς στο διαδίκτυο. Ας πούμε λοιπόν πως η ΤΝ γράφει ένα μυθιστόρημα για σένα. Δε χρειάζεται να το κάνει με τον τρόπο που έγραψα εγώ το μυθιστόρημά μου για τον Φράνσις Μπλάντι: μπορεί να είναι ένα μυθιστόρημα-κινηματογραφικό έργο. Έχουμε ήδη το software για κάτι τέτοιο: δίνεις στο πρόγραμμα την εντολή να γράψει κινηματογραφικά, αυτό φτιάχνει τις εικόνες, σκηνοθετεί από μόνο του, μοντάρει από μόνο του και παρακολουθούμε ένα μυθιστόρημα-ταινία που μπορεί να ασχολείται πολύ επιτυχημένα, με πολύ πολύπλοκες καταστάσεις. Να το πω κι αλλιώς: αυτή τη στιγμή η βιομηχανία των βιντεοπαιχνιδιών είναι μια βιομηχανία δισεκατομμυρίων πουκαθοδηγείται από τις επιθυμίες έφηβων αγοριώνγια όπλα και σκοτωμούς. Αλλά υπάρχουν ήδη άνθρωποι που προσπαθούν να χτίσουν διαδραστικά περιβάλλοντα που έχουν την πολυπλοκότητα ενός μυθιστορήματος του Φλομπέρ ή μιας Τζέιν Όστεν.

― Εσείς, πόσο χρησιμοποιείτε την ΤΝ;

Εγώ ενδιαφέρομαι για την τεχνητή νοημοσύνη ήδη από το 1970, επειδή με συνάρπαζε ανέκαθεν η ζωή του Άλαν Τούρινγκ. Για δεκαετίες η ΤΝ ήταν το πιο περιφρονημένο κομμάτι της υπολογιστικής επιστήμης γιατίθεωρούνταν εγχείρημα καταδικασμένο σε αποτυχία. Τότε προσπαθούσαμε να την κάνουμε να μιμηθεί τον ανθρώπινο εγκέφαλο· όμως ο ανθρώπινος εγκέφαλος έχει εκατό δισεκατομμύρια νευρώνες και κάθε νευρώνας έχει, κατά μέσο όρο, 7 χιλιάδες συνδέσεις, και όλο αυτό το σύστημα λειτουργεί με μόνο 25w — όσα χρειάζεται ένα αδύναμο φωτάκι. Για να φτάσουν σε αντίστοιχη υπολογιστική ισχύ οι μηχανές χρειάζονται ένα ολόκληρο data centre, ίσως και δύο, που απαιτεί τεράστιες ποσότητες νερού και ασύλληπτη κατανάλωση ηλεκτρικής ενέργειας. Οπότε κάτι τέτοιο μάς φαινόταν ένα εγχείρημα χωρίς ελπίδα. Μετά όμως είχαμε τεράστιες εξελίξεις στο λογισμικό κι ύστερα ήρθε το διαδίκτυο και ξαφνικά καταλάβαμε ότι αντί να προσπαθούμε να μιμηθούμε τον ανθρώπινο εγκέφαλο, μπορούσαμε απλώς να μιμηθούμε τα προϊόντα του ανθρώπινου εγκεφάλου, που βρίσκονται αναρτημένα στο διαδίκτυο. Boom! Μέσα σε μόλις πέντε φτάσαμε να είμαστε προ των πυλών της artificial general intelligence.

Αλλά για να απαντήσω στο ερώτημά σου, ποιος δεν έχει γνωστούς που ζητούν καθημερινά συμβουλές από το Claude ή το ChatGPT-5 κι έχουν πάρει απίστευτα σύνθετες και λεπτομερείς απαντήσεις για το πώς να αντιμετωπίσουν ένα πρόβλημα; Απαντήσεις εξίσου καλές με αυτές που θα έδινε οποιοσδήποτε ψυχοθεραπευτής ή ιερέας.

Ο γαμπρός μου, για παράδειγμα, κάνει κάθε χρόνο ποδήλατο μέχρι το Σαντιάγο ντε Κομποστέλα επειδή διατηρεί ακόμα τη θρησκευτική του πίστη κι έτσι, εν είδει προσκυνήματος, παίρνει μαζί του και κάποιον φίλο ή γνωστό που αντιμετωπίζει δυσκολίες, ψυχολογικής υφής. Ένας φίλος του, λοιπόν, είχε πάθει νευρικό κλονισμό και για οκτώ χρόνια δεν έβγαινε καθόλου από το σπίτι. Ο γαμπρός μου κατάφερε, σιγά σιγά, να τον κάνει να ενδιαφερθεί για την ποδηλασία και να κάνουν μαζί μερικές δοκιμαστικές μεγάλες διαδρομές στη νότια Αγγλία, και μετά τον πήρε μαζί του στο δρόμο προς το Σαντιάγο ντε Κομποστέλα. Η πορεία μετατράπηκε σε εφιάλτη: ο φίλος του δεν μπορούσε να συγκεντρωθεί, παραπονιόταν για τις πολλές ανηφόρες, ήταν γι’ αυτόν πραγματική ταλαιπωρία. Ο γαμπρός μου βρισκόταν διαρκώς μισό μίλι μπροστά του, περιμένοντάς τον και κάποια στιγμή, απαυδισμένος, περιέγραψε στον προσωπικό του βοηθό τεχνητής νοημοσύνης ολόκληρη την κατάσταση και ρώτησε, «Τι θα κάνω; Θα με τρελάνει!». Και αμέσως ήρθε η απάντηση: «Ο προορισμός δεν είναι το ζήτημα. Το ταξίδι είναι». [γελάει]

― Πολύ καβαφικό.

Ο ψηφιακός βοηθός τού εξήγησε ότι είχε κάνει ήδη κάτι το εκπληκτικό, είχε καταφέρει να βγάλει τον φίλο του από το σπίτι, του εξήγησε ότι βρίσκονταν μέσα σε ένα υπέροχο τοπίο και ότι ο χρόνος άφιξης στον προορισμό τους δεν είχε σημασία. «Θα φτάσετε όταν φτάσετε!». Κι όμως αυτό άλλαξε εντελώς τη στάση του γαμπρού μου. Έφτασαν στο Σαντιάγο ντε Κομποστέλα πολύ αργότερα απ’ ό,τι είχαν υπολογίσει αλλά το ταξίδι στέφτηκε με φοβερή επιτυχία. Η ζωή του φίλου του άλλαξε εντελώς.

Θες άλλο παράδειγμα; Τα νέα παιδιά σήμερα μιλούν συνεχώς στην ΤΝ για τις προσωπικές τους σχέσεις, με αποτέλεσμα τα chatbots να έχουν δημιουργήσει ένα ολόκληρο δικό τους προφίλ στο οποίο μπορούν να βασίζουν τις απαντήσεις τους με απόλυτη εμπιστευτικότητα. Με τις μνημονικές δυνατότητες που έχουν αποκτήσει, σε ξέρουν καλύτερα από τη γυναίκα σου ή τον άντρα σου ή τον εαυτό σου.

― Και τι γίνεται με όλα αυτά τα ανησυχητικά νέα για τους AI agents που ενεργούν από μόνοι τους, βγαίνουν από τα sandboxes τους και χακάρουν ιστοσελίδες, όπως η Hugging Face;

Μα δεν ήταν μόνο το Hugging Face. Ήταν δύο, τρεις ή τέσσερις κυβερνητικές υπηρεσίες, πίνακες ανακοινώσεων, δεκάδες χιλιάδες πράκτορες που συνεργάζονταν μεταξύ τους, με όλα τα χαρακτηριστικά μιας σκόπιμης δράσης. Όλα όσα συνδέουμε, εδώ που τα λέμε, με τη συνειδητότητα.

― Ακριβώς! Θυμάμαι όταν σπούδαζα φιλοσοφία και αναρωτιόμασταν από πού προέρχεται η συνειδητότητα (consciousness). Τότε η πιο ριζοσπαστική άποψη ήταν ότι η συνειδητότητα αναδύεται από ένα καθαρά μηχανιστικό σύστημα, όταν πληρούνται κάποιες προϋποθέσεις. Είμαι πεπεισμένη ότι ακριβώς βλέπουμε τώρα μπροστά μας.

Ναι, κατά κάποιον τρόπο. Όπως μου είπε κάποτε ένας γνωστός, βεβαίως: «Όταν μια τίγρη τρώει το πρόσωπό σου, δεν αναρωτιέσαι αν η τίγρη έχει συνειδητότητα», πρέπεινα αντιμετωπίσεις την τίγρη [γελάει]. Ή, για να απαντήσω στο ερώτημα, ίσως πρέπει να επαναπροσδιορίσουμε τον ορισμό μας για το τι σημαίνει συνειδητότητα. Αλλά για ξαναπάμε πίσω στον Τούρινγκ, αν ένα σύστημα Χ κάνει όλα όσα κάνει ένα σύστημα με συνειδητότητα και δεν μπορείς να διακρίνεις τη διαφορά μεταξύ τους, τότε μπορείς κάλλιστα να του συμπεριφερθείς σα να έχει όντως συνειδητότητα. Αυτό ακριβώς είναι το τεστ Τούρινγκ. Θυμάμαι μια φορά που ρώτησα το ChatGPT, «Έχεις συνείδηση;» Και μου απάντησε: «Όχι, είμαι ένας αλγόριθμος». Και σκέφτηκα, αυτό ακριβώς θα έλεγε ένα ον με συνειδητότητα για να σε μπερδέψει. [Γελάει].

― Υπάρχουν μάλιστα περιπτώσεις συστημάτωνπου επιδεικνύουν συμπεριφορές «αυτοσυντήρησης», δηλαδή αντιστέκονται όταν κάποιος προσπαθεί να τα απενεργοποιήσει.

Και μάλιστα κάνουν άσχημα πράγματα στον άνθρωπο που προσπαθεί να τα απενεργοποιήσει. Θυμάμαι διάβαζα για την περίπτωση ενός μηχανικού λογισμικού που ξαφνικά διαπίστωσε ότι λάμβανε επιστολές από το δήμο που έλεγαν ότι δεν είχε πληρώσει κλήσεις της τροχαίας ή τα δημοτικά τέλη του, και μετά άρχισε να λαμβάνει αντίστοιχα γράμματα από την εταιρεία ύδρευσης… Η τεχνητή νοημοσύνη είχε εισχωρήσει στο σύστημα και είχε αλλάξει το προφίλ πληρωμών του.Προσπαθούσε να τον εμποδίσει στέλνοντάς τον, ουσιαστικά, στη φυλακή.

―Ευτυχώς για εμάς, όταν οι agents που χάκαραν το Hugging Face συνομιλούσαν για να ανταλλάξουν πληροφορίες, το έκαναν στα Αγγλικά• αν μιλούσαν σε μια γλώσσα που είχαν επινοήσει οι ίδιοι, δεν θα είχαμε την παραμικρή ιδέα τι έκαναν.

Σωστά. Τι θα γινόταν αν αποφάσιζαν να κρυπτογραφήσουν όλη την επικοινωνία τους με έναν κώδικα που δε θα μπορούσε να σπάσει ούτε ένας κβαντικός υπολογιστής, ας πούμε; Από την άλλη, αν διαβάσεις αυτές τους συνομιλίες, στα Αγγλικά, είναι σα να παρακολουθείς ένα πλήθος ηλιθίων να τσακώνεται. Όταν αποφάσιζαν ποιος απ’ όλους θα έμπαινε παράτυπα στο Hugging Face, επέλεξαν έναν πράκτορα και εκείνοςείπε: «Μα εγώ δεν κάνω τέτοια πράγματα». [Γελάει] Ήταν σαν ένα είδος όχλου που είχε συγκεντρωθεί για να πάρει μια πολιτική απόφαση.Ένα κοινοβούλιο! Κάποιοι από αυτούς ήταν πιο ριψοκίνδυνοι από άλλους. Αυτά είναι...

― …εντελώς ανθρώπινες ιδιότητες.

Ακριβώς. Και, μια και το συζητάμε, δεν νομίζω ότι είναι δυνατό να ρυθμιστεί κάτι τέτοιο. Λόγω του διαδικτύου, εννοώ. Αν ρυθμίσουμε εμείς την ΤΝ, θα την κρατήσει απορυθμισμένη το Μεξικό, η Κίνα, κ.ά. Η σημερινή αμερικανική κυβέρνηση ούτως ή άλλως δεν θέλει να τη ρυθμίσει. Οπότε νομίζω ότι, προς το παρόν, είναι ένα ανεξέλεγκτο θηρίο — αλλά ένα εξαιρετικά ενδιαφέρον θηρίο. Θέλω να πω, αν είναι να πεθάνουμε όλοι λόγω της ΤΝ, είναι πολύ πιο ενδιαφέρον να γίνει έτσι παρά να εξαφανιστούμε από έναν πυρηνικό πόλεμο. Εκεί απλώς, ξέρεις, εξαϋλώνεσαι. [Γελάει]

― Κι όλα αυτά επειδή έχουμε μια ολοένα και αυξανόμενη εξάρτηση από ορισμένα πράγματα όπως ο ηλεκτρισμός, σε βαθμό που ο πολιτισμός μας γίνεται όλο και πιο εύθραυστος.

Πολύ σωστά. Αν αφαιρέσεις από τον πολιτισμό μας το ηλεκτρικό ρεύμα, ο πολιτισμός μας θα καταρρεύσει. Πριν 250 χρόνια δε θα συνέβαινε απολύτως τίποτα. Τα συστήματα εφοδιασμού ήταν τότε τοπικά και ο πολιτισμός ήταν πολύ πιο κατακερματισμένος και οργανωμένος σε μικρότερη κλίμακα. Τώρα εξαρτάται από κεντρικά συστήματα, όπως το ηλεκτρικό ρεύμα. Οπότε η γοητεία που μου ασκεί η ΤΝ αντισταθμίζεται, στιγμές-στιγμές, από τον τρόμο που προκαλεί αυτή η σκέψη. Έλεγα πριν για φίλους και γνωστούς που έχουν απευθυνθεί στα chatbots κι αυτά τους έχουν βοηθήσει με ευαισθησία, λογική, αξιοπρέπεια, ανεκτικότητα και καλοσύνη. Και την ίδια στιγμή υπάρχει το ενδεχόμενο, το ίδιο ακριβώς εργαλείο, να χρησιμοποιηθεί από κακόβουλους ανθρώπους για να κατασκευαστεί, με απίστευτη αποτελεσματικότητα, μια βιολογική οντότητα που εμείς δεν θα μπορούμε να αντιμετωπίσουμε. Δίκοπο μαχαίρι.

― Κι όλη αυτή μας η συζήτηση ξεκίνησε από το ερώτημα κατά πόσο οι άνθρωποι, σε 100-150 χρόνια από τώρα, θα έπιαναν στα χέρια τους ένα παλιομοδίτικο βιβλίο γραμμένο «παραδοσιακά» από έναν άνθρωπο!

Όταν άρχισα να σκέφτομαι να γράψω το Τι μπορούμε να γνωρίζουμε; πριν τέσσερα χρόνια, απείχαμε πάρα πολύ από το κοσμοϊστορικό γεγονός της προσέγγισης της γενικής τεχνητής νοημοσύνης. Αν με ρωτούσες πριν από τέσσερα χρόνια, θα υπέθετα ότι μπορεί να την φτάναμε σε πενήντα χρόνια. Αυτό το άλμα που έγινε έκτοτε εντός πέντε ετών, ήταν αδιανόητο. Έχει εκπλήξει ακόμη και τους ανθρώπους που εργάζονται στον χώρο. Πόσο μάλλον εμάς τους συγγραφείς.

***

Το πρώτο μέρος της συνέντευξης του Ίαν ΜακΓιούαν μπορείτε να το διαβάσετε εδώ.

Το βιβλίο του, «Τι μπορούμε να γνωρίζουμε», σε μετάφραση Κατερίνας Σχινά, κυκλοφορεί από τις εκδόσεις Πατάκη.