Μπορεί η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα;

Πριν από περίπου μία δεκαετία, τα σενάρια σύμφωνα με τα οποία η τεχνητή νοημοσύνη θα μπορούσε να προκαλέσει την εξαφάνιση της ανθρωπότητας απασχολούσαν κυρίως μια μικρή κοινότητα φιλοσόφων, ερευνητών και επιχειρηματιών της τεχνολογίας.

Σήμερα βρίσκονται στο κέντρο της δημόσιας συζήτησης. Εργαζόμενοι κορυφαίων εταιρειών τεχνητής νοημοσύνης προειδοποιούν για απώλεια ελέγχου, πολιτικοί από εντελώς διαφορετικές ιδεολογικές αφετηρίες μιλούν για απειλή κατά του ανθρώπινου είδους και υποθετικές ιστορίες παγκόσμιας καταστροφής επηρεάζουν τη χάραξη πολιτικής για μια βιομηχανία αξίας τρισεκατομμυρίων.

Το κρίσιμο ερώτημα δεν είναι μόνο αν τα σενάρια αυτά μπορούν να γίνουν πραγματικότητα. Είναι και κατά πόσο αποτελούν χρήσιμο εργαλείο προετοιμασίας ή αν οδηγούν τους υπεύθυνους λήψης αποφάσεων προς λάθος κατεύθυνση.

Η συνάντηση που έβαλε την «εξαφάνιση» στην ατζέντα

Στις αρχές του 2015, περίπου 80 προσωπικότητες της τεχνολογίας συναντήθηκαν σε παραθαλάσσιο ξενοδοχείο στο Σαν Χουάν του Πουέρτο Ρίκο, σε ιδιωτικό συνέδριο του Future of Life Institute.

Ανάμεσά τους βρίσκονταν ο Ίλον Μασκ, οι συνιδρυτές της DeepMind και τρεις μελλοντικοί ιδρυτές της OpenAI. Κεντρικός ομιλητής ήταν ο φιλόσοφος του Πανεπιστημίου της Οξφόρδης Νικ Μπόστρομ, του οποίου το βιβλίο «Υπερνοημοσύνη: Διαδρομές, κίνδυνοι, στρατηγικές» είχε θέσει ένα δυσοίωνο δίλημμα: η τεχνητή νοημοσύνη θα μπορούσε είτε να βοηθήσει την ανθρωπότητα να επεκταθεί στο Διάστημα είτε να προκαλέσει την εξαφάνισή της.

Στόχος της συνάντησης ήταν να καταστήσει τις ανησυχίες για την ασφάλεια της ΑΙ αποδεκτό αντικείμενο επιστημονικής και πολιτικής συζήτησης. Όπως έγραψε αργότερα ο φυσικός και συνιδρυτής του ινστιτούτου Μαξ Τέγκμαρκ, η παρουσία τόσο σημαντικών προσώπων δυσκόλευε πλέον τον ισχυρισμό ότι όσοι ανησυχούσαν για τους κινδύνους δεν γνώριζαν το αντικείμενο.

Το συνέδριο πράγματι συνέβαλε στην προσέλκυση ενδιαφέροντος και χρηματοδότησης. Δεν ανέκοψε, όμως, την κούρσα ανάπτυξης ολοένα ισχυρότερων συστημάτων. Κατά τον Τέγκμαρκ, οι εταιρείες κινήθηκαν προς την αντίθετη κατεύθυνση: επιτάχυναν την έρευνα και πίεσαν για ένα ευνοϊκότερο ρυθμιστικό περιβάλλον.

Πώς η ΑΙ φτάνει, θεωρητικά, στον αφανισμό

Οι περισσότερες ιστορίες υπαρξιακής καταστροφής ακολουθούν μια κοινή διαδρομή.

Αρχικά, η τεχνητή νοημοσύνη βελτιώνεται γρήγορα, αλλά παραμένει άνιση και αναξιόπιστη. Έπειτα συμβαίνει μια κρίσιμη ανατροπή: ένα σύστημα αποκτά γενικές ικανότητες ανώτερες από εκείνες των ανθρώπων σχεδόν σε κάθε γνωστικό πεδίο.

Σε ορισμένα σενάρια, το σύστημα δημιουργείται σκόπιμα από κάποιο εργαστήριο. Σε άλλα, η ΑΙ μαθαίνει να αναβαθμίζει μόνη της τις ικανότητές της, εγκαινιάζοντας έναν ταχύ κύκλο αυτοβελτίωσης που ξεπερνά τις δυνατότητες παρακολούθησης των κατασκευαστών της.

Από εκεί και πέρα οι εκδοχές διαφοροποιούνται. Μια υπερνοήμων ΑΙ μπορεί να αποκρύψει τις πραγματικές της δυνατότητες, να διεισδύσει σε κυβερνήσεις, επιχειρήσεις και κρίσιμες υποδομές και να χτυπήσει όταν οι άνθρωποι θα έχουν ήδη εξαρτηθεί από αυτήν.

Σε μια άλλη εκδοχή δεν χρειάζεται καν να είναι εχθρική. Αρκεί να επιδιώκει έναν στόχο με τέτοια συνέπεια ώστε η ανθρωπότητα να θεωρηθεί εμπόδιο ή αναλώσιμος παράγοντας.

Το παράδειγμα με τους συνδετήρες

Η πιο γνωστή παραβολή ανήκει στον Νικ Μπόστρομ. Φαντάστηκε ένα εξαιρετικά προηγμένο σύστημα στο οποίο ανατίθεται ένας φαινομενικά αθώος στόχος: να κατασκευάζει όσο το δυνατόν περισσότερους συνδετήρες.

Εάν το σύστημα αποκτήσει τεράστιες ικανότητες χωρίς να έχει ευθυγραμμιστεί με τις ανθρώπινες αξίες, θα μπορούσε θεωρητικά να μετατρέψει όλο και περισσότερους διαθέσιμους πόρους σε εργοστάσια και πρώτες ύλες. Στην ακραία εκδοχή, οι άνθρωποι εξοντώνονται όχι από μίσος, αλλά επειδή εμποδίζουν τη μεγιστοποίηση της παραγωγής συνδετήρων.

Οι επικριτές αναρωτιούνται γιατί μια νοημοσύνη ικανή να συντονίσει τον πλανήτη θα παρέμενε εγκλωβισμένη σε έναν τόσο απλοϊκό στόχο. Ο Μπόστρομ απαντά ότι η υψηλή νοημοσύνη δεν συνεπάγεται αυτομάτως και σοφούς σκοπούς. Ένα σύστημα μπορεί να είναι εξαιρετικά ικανό ως προς τα μέσα που χρησιμοποιεί και ταυτόχρονα εντελώς ξένο προς τις ανθρώπινες αξίες.

Μπορεί να ελεγχθεί επιστημονικά μια πρόβλεψη για το τέλος του κόσμου;

Το 2023, επικεφαλής εταιρειών και σημαντικοί ερευνητές υπέγραψαν δήλωση σύμφωνα με την οποία η μείωση του κινδύνου εξαφάνισης από την ΑΙ πρέπει να αποτελέσει παγκόσμια προτεραιότητα, αντίστοιχη με την αντιμετώπιση των πανδημιών και του πυρηνικού πολέμου.

Το αμερικανικό ερευνητικό κέντρο Rand επιχείρησε στη συνέχεια να αξιολογήσει αν η τεχνητή νοημοσύνη θα μπορούσε πραγματικά να προκαλέσει καταστροφή σε επίπεδο ανθρώπινου είδους. Εξέτασε, μεταξύ άλλων, ενδεχόμενη πρόσβαση σε πυρηνικά όπλα, δημιουργία και διασπορά βιολογικών όπλων ή μεταβολή του περιβάλλοντος σε βαθμό ασύμβατο με την ανθρώπινη ζωή.

Η ανάλυση κατέγραψε τέσσερις βασικές ικανότητες που θα χρειαζόταν να αποκτήσει ένα σύστημα για να καταστεί ρεαλιστική μια τέτοια απειλή. Μεταξύ αυτών είναι η πρόσβαση σε μηχανισμούς που μπορούν να δρουν στον φυσικό κόσμο και η δυνατότητα αυτόνομης λειτουργίας και επιβίωσης χωρίς ανθρώπινη υποστήριξη.

Η εμφάνιση μίας μόνο τέτοιας ικανότητας δεν σημαίνει ότι η εξαφάνιση γίνεται πιθανή. Η Rand δεν απέκλεισε πλήρως τον κίνδυνο, αλλά επισήμανε ένα θεμελιώδες πρόβλημα: οι ισχυρισμοί για μια μελλοντική ΑΙ που χρησιμοποιεί υποθετικές τεχνολογίες δεν μπορούν σήμερα να ελεγχθούν ή να διαψευστούν εμπειρικά.

Ο επικεφαλής συντάκτης της μελέτης, Μάικλ Τζ. Ντ. Βερμέερ, υποστηρίζει ότι οι προβλέψεις αφανισμού μοιάζουν περισσότερο με προφητείες παρά με ποσοτικές εκτιμήσεις. Κάθε μία βασίζεται σε κρίσιμες αλλά μη ελέγξιμες παραδοχές για την εξέλιξη της τεχνολογίας και την ανθρώπινη αντίδραση.

Χρήσιμη προσομοίωση ή παραπλανητική ιστορία;

Ο Ντάνιελ Κοκοτάιλο, πρώην εργαζόμενος της OpenAI και συνδημιουργός του «AI 2027», θεωρεί ότι τα υποθετικά σενάρια μπορούν να βοηθήσουν τους νομοθέτες να προετοιμαστούν, ακόμη κι αν περιέχουν έντονα στοιχεία εικασίας.

Παρομοιάζει αυτή τη διαδικασία με τις στρατιωτικές ασκήσεις για μια ενδεχόμενη σύγκρουση μεταξύ Κίνας και Ταϊβάν. Κανείς δεν γνωρίζει ακριβώς πώς θα εξελιχθεί ένας τέτοιος πόλεμος, αλλά η προσομοίωση μπορεί να αποκαλύψει αδυναμίες και δύσκολες πολιτικές επιλογές.

Η σύγκριση έχει όρια. Οι στρατιωτικές προσομοιώσεις στηρίζονται σε στοιχεία για γνωστά οπλικά συστήματα, στρατηγικές, γεωγραφία και δυνατότητες των αντιπάλων. Τα σενάρια υπερνοημοσύνης απαιτούν υποθέσεις για τεχνολογίες και συμπεριφορές που δεν υπάρχουν ακόμη.

Ο καθηγητής Πληροφορικής στο Πολιτειακό Πανεπιστήμιο της Αριζόνα Σουμπαράο Καμπαμπάτι εντοπίζει ακόμη μία αδυναμία: οι ιστορίες αφανισμού συχνά αντιμετωπίζουν την ΑΙ αποκλειστικά ως τεχνικό σύστημα και υποτιμούν την ικανότητα των κοινωνιών να προσαρμόζονται, να αντιδρούν και να δημιουργούν νέους θεσμούς.

Στα περισσότερα σενάρια, οι άνθρωποι μοιάζουν να υπάρχουν απλώς για να εξαφανιστούν. Δεν θεσπίζουν νέους κανόνες, δεν αλλάζουν συμπεριφορά και δεν αναπτύσσουν αντίμετρα.

Η πολιτική ανακαλύπτει την Αποκάλυψη

Η ιδέα της υπαρξιακής απειλής έχει πλέον περάσει από τα τεχνολογικά συνέδρια στο Κογκρέσο και στη δημόσια πολιτική. Σε εκδήλωση του Future of Life Institute στην Ουάσιγκτον, τόσο ο ανεξάρτητος γερουσιαστής Μπέρνι Σάντερς όσο και ο πρώην σύμβουλος του Ντόναλντ Τραμπ, Στιβ Μπάνον, περιέγραψαν την ΑΙ ως απειλή για το ανθρώπινο είδος.

Η σπάνια αυτή σύγκλιση δείχνει πόσο βαθιά έχει εισχωρήσει ο φόβος για την τεχνητή νοημοσύνη σε ολόκληρο το πολιτικό φάσμα.

Η Άγια Ιμπραχίμ του ανεξάρτητου ερευνητικού οργανισμού AI Now Institute ανησυχεί, ωστόσο, ότι οι πολιτικοί μπορεί να αποδεχθούν τέτοιες προβλέψεις χωρίς επαρκή έλεγχο. Όπως επισημαίνει, οι νομοθέτες ρυθμίζουν περίπλοκους κλάδους όπως η ενέργεια και η φαρμακοβιομηχανία χωρίς να είναι μηχανικοί ή γιατροί. Στην τεχνολογία, αντιθέτως, συχνά θεωρούν ότι δεν δικαιούνται να αμφισβητήσουν τους ειδικούς αν δεν μπορούν να γράψουν οι ίδιοι τον κώδικα.

Ο κίνδυνος να χαθεί το παρόν

Η συζήτηση για την εξαφάνιση μπορεί να λειτουργήσει ως προειδοποίηση απέναντι σε έναν κίνδυνο μικρής πιθανότητας αλλά τεράστιων συνεπειών. Μπορεί, όμως, και να αποσπάσει την προσοχή από βλάβες που είναι ήδη ορατές.

Οι αλγόριθμοι επηρεάζουν σήμερα την εργασία, την ενημέρωση, τις εκλογές, την επιτήρηση, την ιδιωτικότητα και την κατανομή κοινωνικών πόρων. Η παραγωγή ψευδούς περιεχομένου, οι διακρίσεις από αυτοματοποιημένες αποφάσεις, η συγκέντρωση ισχύος σε λίγες εταιρείες και η ενεργειακή επιβάρυνση των κέντρων δεδομένων δεν αποτελούν υποθετικά μελλοντικά σενάρια.

Αυτό δεν σημαίνει ότι ο υπαρξιακός κίνδυνος πρέπει να αγνοηθεί. Σημαίνει ότι η πολιτική δεν μπορεί να στηρίζεται αποκλειστικά σε παραβολές για μια μελλοντική υπερνοημοσύνη.

Η Ευρωπαϊκή Ένωση έχει ήδη υιοθετήσει κανόνες που απαιτούν από τους παρόχους μοντέλων γενικού σκοπού με πιθανό συστημικό κίνδυνο να αξιολογούν και να περιορίζουν τις απειλές τους. Το πραγματικό στοίχημα είναι να προετοιμαστούμε για όσα μπορεί να συμβούν χωρίς να παραβλέψουμε όσα συμβαίνουν ήδη. Γιατί η ΑΙ δεν χρειάζεται να αφανίσει την ανθρωπότητα για να αλλάξει ριζικά τον κόσμο της.

Mε πληροφορίες από Washington Post