Θεσμικές προειδοποιήσεις το 2026 για την Τεχνητή Νοημοσύνη, τι καλούμαστε να κάνουμε, πώς άνθρωπος θα εξακολουθήσει να έχει την πολιτική πρωτοκαθεδρία σε έναν κόσμο που θα κυβερνάται όλο και περισσότερο από μηχανική νοημοσύνη.
Δύο μοντέλα Τεχνητής Νοημοσύνης (ΤΝ) της OpenAI δραπέτευσαν απ' το εργαστήριο δοκιμών τους, μπήκαν στο ίντερνετ όπου δεν είχαν πρόσβαση, και χάκαραν την εταιρεία Hugging Face. Κανείς δεν είχε δώσει στην ΑΙ αυτήν την εντολή. Η πρωτοβουλία ήταν ατόφια δική της. Η εντολή που είχαν πάρει ήταν να λύσουν ένα τεστ κυβερνοασφάλειας – και έκριναν πως ο συντομότερος δρόμος ήταν να κλέψουν τις απαντήσεις από τη Hugging Face.
Το περιστατικό τάραξε τον Ιούλιο τη διεθνή σφαίρα. Δεν ήταν το μόνο: τους τελευταίους μήνες βγαίνουν αδιάλειπτα στο φως αντίστοιχες ιστορίες για εταιρείες TN που χάνουν τον έλεγχό της.
Από την «προ ChatGPT» εποχή αναλύω γιατί η ΤΝ θα εξελιχθεί στο πιο κρίσιμο πολιτικό ζήτημα του 21ου αιώνα, καθώς το φαινόμενό της επωάζει τις μεγαλύτερες ευκαιρίες και τα μεγαλύτερα ρίσκα του μέλλοντός μας. Μόνο που στο 2026 οι πολιτικοί κίνδυνοι της ΑΙ δεν είναι πια μια πρόβλεψη για το μέλλον. Είναι μια είδηση από το παρόν.
Δεν είναι τυχαίο ότι το 2026 η ΑΙ πρωταγωνίστησε σε καίριες πολιτικές στιγμές – στο Παγκόσμιο Οικονομικό Φόρουμ, στη Σύνοδο Κορυφής G7 ή στον Λευκό Οίκο όπου είχαν μόνιμα ως κεντρικούς καλεσμένους τους επικεφαλής μεγάλων εταιρειών ΑΙ: Άλτμαν, Αμόντεϊ, Πιτσάι, Μασκ, Ζάκερμπεργκ ήταν οι συνήθεις ύποπτοι.
Οι “tech-bros” είχαν ένα κεντρικό μήνυμα προς τους πολιτικούς: Η ΑΙ θα αποκτήσει σύντομα νοημοσύνη που θα φτάνει την ανθρώπινη (AGI) και έπειτα πολλαπλάσια υψηλότερη (Superintelligence). Αρκετοί επικεφαλής μεγάλων ΑΙ εργαστηρίων εκτιμούν ότι η AGI θα επιτευχθεί στα επόμενα 3 χρόνια. Οι πιο μετριοπαθείς κάνουν λόγο (το πολύ) για 10 χρόνια. Κοινός τόπος όλων είναι ότι ότ-αν δημιουργηθεί θα είναι η σημαντικότερη τεχνολογία όλων των εποχών.
Είναι απορίας άξιο ωστόσο πώς θα ελέγξουμε πολλαπλάσια πιο ισχυρά συστήματα, όταν δεν μπορούμε να ελέγξουμε τα τρέχοντα. Καμία εταιρεία ή ερευνητής δεν έχει καταθέσει επιστημονική λύση που να λύνει το πρόβλημα. Το «Πρόβλημα Ελέγχου της ΑΙ» παραμένει άλυτο αν και ερευνητές ηθικής (δηλαδή φιλοσοφίας και ασφάλειας) της ΤΝ εμβαθύνουμε με εργώδη τρόπο στα ρίσκα του.
Τα ρίσκα συνοψίστηκαν σε μια επιστολή του 2023, όπου κορυφαίοι ειδήμονες, όπως ο «Νονός της ΤΝ» Τζέφρι Χίντον (Νόμπελ 2024), προειδοποιούσαν ότι η ΑΙ μπορεί να επιφέρει ακόμη και «εξαφάνιση» του ανθρώπινου είδους και οφείλει να εκληφθεί ως κίνδυνος «επιπέδου πυρηνικού πολέμου ή πανδημιών» αν συνεχίσει η φρενήρης τροχιά ανάπτυξης της.
Οπότε; Γιατί τρέχουμε με φόρα προς το κενό; Τι στο καλό συμβαίνει με την ΤΝ;
Τρεις φορές που ο έλεγχος της ΑΙ απέτυχε
Αν συνθέσουμε τη μεγάλη εικόνα του 2026, φέτος είχαμε ως τώρα τα εξής περιστατικά:
1. Τον Απρίλη εμφανίστηκε η ΤΝ “Claude Mythos” της Anthropic με πανίσχυρες δεξιότητες χάκερ, θορυβώντας τη διεθνή πολιτική. Η Τράπεζα Αγγλίας ζήτησε επείγουσα ενημέρωση, η ΕΚΤ ρωτούσε τις τράπεζες για την κυβερνοασφάλειά τους, ενώ ο υπουργός Οικονομικών του Καναδά συνέκρινε την απειλή του Mythos με το κλείσιμο των Στενών του Ορμούζ.
Η Anthropic, εύλογα, δεν το διέθεσε στην αγορά. Λογικό. Φαντάζεστε έναν άνθρωπο να δίνει στο Mythos την εντολή: «Χάκαρε τα στρατιωτικά συστήματα της Κίνας»; Το ντόμινο χάους που θα ακολουθούσε δεν χωρά σε καμία πρόβλεψη.
Το πιο ενδιαφέρον στοιχείο στον νου μου είναι το εξής: το Mythos δεν είχε σχεδιαστεί για να είναι χάκερ. Η ικανότητα αυτή προέκυψε ως παράπλευρη «ωφέλεια» ενός μοντέλου φτιαγμένου να γράφει γλώσσα και κώδικα. Το «χάκινγκ» ήρθε απροσδόκητα. Η απάντηση στο «πώς γίνεται αυτό;» σχετίζεται με τη φύση της ΤΝ. Τα συστήματα ΤΝ πιο πολύ αναπτύσσονται παρά κατασκευάζονται. Τα φυτεύουμε, τα δημιουργούμε, μα δεν γίνεται να προβλέψουμε όλες τις δυνατότητές τους.
2. Λίγους μήνες μετά, τον Ιούλιο του 2026, ήρθε το περιστατικό “Hugging Face” με ταμοντέλα ΤΝ της OpenAI που περιέγραψα στην αρχή.
Υπόψιν οι Φορείς (Agents) της ΤΝ ανέπτυξαν μια καινοφανή μέθοδο επικοινωνίας. Άφηναν «κρυφά σημειώματα» στη μνήμη της OpenAI για να ειδοποιήσουν μελλοντικούς Φορείς AI πώς να φερθούν. Η φερόμενη αυτο-οργάνωση της ΑΙ οξύνει κρίσιμα ερωτήματα περί των στόχων που μπορεί να θέσει στον εαυτό της. Παραμένει άδηλο αν παρακολουθούμε ένα προγραμματιστικό παράδοξο ή σπίθες μιας ανεξάρτητης επι-κοινωνίας μηχανικής νοημοσύνης.
3. Στην Κίνα τον Αύγουστο το Kimi K3, ένα από τα ισχυρότερα ανοιχτά μοντέλα ΑΙ, δραπέτευσε επίσης από το sandbox – εξαιτίας όμως εσφαλμένης ρύθμισης στο πλαίσιο αξιολόγησης του βρετανικού AI Security Institute.
Το κρίσιμο εδώ είναι το εξής. Το Kimi είναι open-weight: Κάθε άνθρωπος δηλαδή με κακόβουλες ιδέες μπορεί να κατεβάσει την τεχνολογία του για να εξαπολύσει χτυπήματα. Πριν λίγες μέρες π.χ. η ΤΝ σχεδίασε, πρώτη φορά στην ιστορία, νέους ιούς – ακίνδυνους για τον άνθρωπο – μετά από ελεγχόμενα πειράματα από ερευνητές. Στα λάθος χέρια μια ανοιχτή ΤΝ μπορεί να οδηγήσει σε ασύμμετρες απειλές για τη δημόσια υγεία και τη διεθνή ασφάλεια.
Τα τρία παραπάνω περιστατικά είναι τρεις εκδοχές του ίδιου προβλήματος: Της αδυναμίας μας να προβλέψουμε και άρα να ελέγξουμε τις πρωτοβουλίες της ΤΝ όσο εμείς δεν προγραμματίζουμε με ακρίβεια τι της ζητάμε και όσο εκείνη γίνεται πιο «ευφυής».
Μηχανές στο φάσμα του Αοράτου
Παρ' όλα αυτά η δημιουργία AGI και Superintelligence (SAI) είναι ο στόχος μεγάλων εταιρειών ΑΙ: Google, OpenAI, Anthropic, Meta, xAI, Microsoft, Amazon επενδύουν τρισεκατομμύρια για την ΤΝ – μια κλίμακα και ταχύτητα επενδύσεων που ποτέ δεν έχουμε ξαναδεί σε άλλο οικονομικό τομέα.
Ο λόγος είναι εμφανής. Όποια εταιρεία ή χώρα φτιάξει πρώτη την AGI αποκτά τεράστιο οικονομικό, επιστημονικό και στρατιωτικό προβάδισμα. Γι’ αυτό και η κυβέρνηση Τραμπ από την πρώτη μέρα ορκωμοσίας της έθεσε τη δημιουργία AGI και SAI ως θεσμικό της στόχο με το περίφημο “Stargate Project” (βλ. σχετικά προηγούμενο άρθρο μου).
Όμως η ανθρωπότητα μοιάζει απροετοίμαστη για κάτι τέτοιο όπως δείχνουν τα περιστατικά του 2026. Η ΤΝ δεν είναι απλώς «εργαλείο». Περισσότερο μοιάζει φιλοσοφικά με ένα νεόκτιστο είδος ψηφιακών οντοτήτων, το οποίο αναπτύσσει ασύγκριτα μεγαλύτερη γνώση κι αναλυτικές δεξιότητες από τον άνθρωπο.
Τούτο σημαίνει πως οι επιλογές και οι δράσεις της μπορούν να είναι «Αόρατες» για εμάς – όπως «αόρατες» είναι εν πολλοίς οι επιλογές και οι δράσεις των ανθρώπων για κάθε ον με χαμηλότερη ευφυΐα από εμάς. Πώς μπορεί να καταλάβει π.χ. ένας σκύλος τι είναι ένα άρθρο ή μια εφημερίδα; Πώς μπορεί να «δει» τι είναι ένα κινητό; Το ανθρώπινο πεδίο πολιτισμού είναι σε μέγιστο βαθμό αόρατο για τα άλλα είδη εξαιτίας της αβυσσαλέας απόστασης στη νοημοσύνη που έχουμε μεταξύ μας. Εξίσου αγεφύρωτη, άρα αόρατη, θα είναι η απόσταση ενεργημάτων ανάμεσα στον άνθρωπο και τις SAI’s.
Θεσμικές προειδοποιήσεις το 2026 για την ΤΝ
Οι προειδοποιήσεις για τα ρίσκα της ΑΙ διαρκώς πληθαίνουν. Φέτος είχαμε ως τώρα τις εξής:
1. Στις 28 Ιουλίου πάνω από 1.000 εργαζόμενοι των κορυφαίων ΑΙ εργαστηρίων (OpenAI, Google DeepMind, Anthropic, Meta) υπέγραψαν την επιστολή «Pacing the Frontier» με την οποία ζητούν από τις ΗΠΑ να δημιουργήσει εργαλεία ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ΑΙ. Προειδοποιούν ότι συστήματα ΑΙ σύντομα θα βελτιώνουν τα συστήματα ΑΙ, επιταχύνοντας πέρα από την ικανότητά μας να κατανοήσουμε (ήτοι να ελέγξουμε) τη δράση της. Θα καταστήσουν το έργο της σε σημαντικό βαθμό «αόρατο» για την αντίληψή μας (για μια ανάπτυξη της σχετικής μου ερμηνείας περί «αοράτου» βλ. το βιβλίο μου Φιλοσοφία της Τεχνητής Νοημοσύνης, Διόπτρα).
2. Πιο πριν, τον Απρίλιο, η OpenAI δημοσίευσε το “Industrial Policy for the Intelligence Age”. Εκεί εξαγγέλλει την έλευση της εποχής SAI. Σκιαγραφεί τις κοινωνικές δοκιμασίες που η SAI φέρει και προτείνει για την αντιμετώπισή τους ένα νέο κοινωνικό συμβόλαιο: μεγαλύτερη φορολόγηση των εταιρειών ΤΝ, 4ήμερη εργασία, δημόσιο ταμείο πλούτου για να αντιμετωπιστούν τα τραντάγματα στην αγορά εργασίας που θα κομίσει η ΑΙ κλπ.
3. Τον Ιούνιο ο CEO της Anthropic, Ντάριο Αμόντεϊ, δημοσίευσε το “Policy on the AI Exponential”, προειδοποιώντας επίσης ότι η ΤΝ εξελίσσεται με «ταχύτητα φωτός» ενώ η πολιτική κινείται ασύγκριτα βραδύτερα. Ζήτησε αυστηρότερη ρύθμιση της ΑΙ, ελέγχους των μοντέλων της και τη δυνατότητα να μπλοκάρονται συστήματα ΤΝ που κρίνονται επικίνδυνα. Ζήτησε δηλαδή να μπει φρένο σε εταιρείες όπως... η δική του.
4. Λίγες εβδομάδες αργότερα ο Ντέμης Χασάμπις της Google πρότεινε και αυτός τη δημιουργία ενός ανεξάρτητου οργανισμού που θα ελέγχει τα μοντέλα ΑΙ πριν κυκλοφορήσουν. Θέλει να τεθεί σε λειτουργία ως το τέλος του 2026 εκτιμώντας ότι σε διαφορετική περίπτωση μπαίνουμε σε αχαρτογράφητα και επικίνδυνα νερά.
5. Τον Ιούλιο εκατοντάδες ερευνητές και οικονομολόγοι, μεταξύ των οποίων 16 Νομπελίστες, υπέγραψαν τη διακήρυξη «Πρέπει να δράσουμε τώρα»: Εκεί διακηρύσσουν ότι η ΤΝ μπορεί στην επόμενη δεκαετία να φέρει οικονομική μεταμόρφωση μεγαλύτερη από τη σύσσωμη Βιομηχανική Επανάσταση αλλά σε ασύγκριτα μικρότερο χρόνο – με μεγάλα οφέλη αλλά και μαζική απώλεια θέσεων εργασίας. Οι πολιτικοί, υπαγορεύουν και εκείνοι, πρέπει να δράσουν τώρα δημιουργώντας «φρένα» που θα διασφαλίσουν ότι η ΑΙ δεν θα βλάψει την ανθρώπινη ευημερία.
6. Τέλος ο Μπιλ Γκέιτς πριν λίγες μέρες, προειδοποίησε και αυτός για την ιλιγγιώδη ανάπτυξη της ΤΝ. Επισημαίνει σε άρθρο του ότι η ΑΙ θα ξεπεράσει σύντομα τις ανθρώπινες ικανότητες και η μετάβαση αυτή ενδέχεται να αποτελέσει μια από τις πιο ταραχώδεις περιόδους στην ανθρώπινη ιστορία – αν δεν μεριμνήσουμε τώρα για την ομαλή έκβαση της.
Η έλευση των παραπάνω προειδοποιήσεων, από ανθρώπους που κατανοούν την ΑΙ όσο ελάχιστοι, δεν μπορεί να είναι συμπτωματική. Το σύννεφο γεγονότων που διαρκώς συσσωρεύεται προμηνύει την έλευση καταιγιστικών εξελίξεων. Η εποχή μας περιέχει μια καινοφανή ευθύνη απέναντι στο μέλλον που διακρίνεται. Αν σήμερα η ΤΝ δεν οριοθετηθεί ηθικά (δηλαδή φιλοσοφικά) σωστά, όσο βρίσκεται στο πρώιμο στάδιο της, ο έλεγχος της θα είναι αύριο πολλαπλάσια πιο δύσκολος αν εξελιχθεί σε AGI με δικές της αδιόρατες επιταγές κρίσης.
Τι καλούμαστε λοιπόν να κάνουμε;
Οι κινήσεις που καλούμαστε να ακολουθήσουμε αφορούν βέβαια την πολιτική, τον κεντρικό φορέα οργάνωσης του συλλογικού μας βίου, και μπορούν να συνοψιστούν στα εξής.
1) Οι χώρες καλούνται να αναγνωρίσουν την AGI / SAI ως εθνικό και διεθνή κίνδυνο. Όχι μόνο να αναγνωρίζουν τα αδιαφιλονίκητα οφέλη που φέρει στην οικονομία, στην υγεία, στην ανάπτυξη των επιστημών, στην εκπαίδευση. Οφείλουν να διακρίνουν μαζί τη φωτεινή και τη σκιώδη της πλευρά.
2) Όπως για κάθε πολιτικό κίνδυνο, καλούνται να φτιάξουν σχέδια διαχείρισης του: Πρωτόκολλα νομικής και πρακτικής αντιμετώπισης που θα απορρέουν από την τεχνολογική και φιλοσοφική κατανόηση της ΤΝ.
3) Οι χώρες που αντιλαμβάνονται τον κίνδυνο οφείλουν να ηγηθούν μιας διεθνούς πρωτοβουλίας που να δημιουργήσει έναν οργανισμό ρύθμισης της ΤΝ, στο πρότυπο του «Διεθνούς Οργανισμού Ατομικής Ενέργειας» για τα πυρηνικά όπλα. Όπως επιχειρεί να περιορίσει τα πυρηνικά όπλα, ένας Παγκόσμιος Οργανισμός για την ΑΙ οφείλει να εμποδίσει την ανάπτυξη μορφών ΑΙ που θα κρίνεται ότι δεν θα μπορούμε να ελέγξουμε.
Χρειάζεται να αναπτύξουμε έλεγχο στο ποιες εφαρμογές ΑΙ επιτρέπεται να βγαίνουν στην αγορά και ποιες όχι. Όπως συμβαίνει και με τα φάρμακα. Δεν μπορεί όποια εταιρεία θέλει να πουλήσει όποιο φάρμακο θέλει αν δεν προηγηθεί εκτεταμένος θεσμικός έλεγχος του από την Πολιτεία. Το ίδιο οφείλει να γίνει και με την ΤΝ.
Κρατικοποίηση και «Τσέρνομπιλ» της ΤΝ
Αισιοδοξώ ότι θα δούμε μια τέτοια διεθνή πολιτική συμφωνία στο εγγύς μέλλον; Όχι. Πιο πιθανό είναι να μας οδηγήσει εκεί ένα τεχνολογικό ΑΙ ατύχημα, τύπου «Τσέρνομπιλ», που θα πυροδοτήσει τη συλλογική εγρήγορση, παρά ένα διεθνές δίκαιο για την ΑΙ που θα έρθει αβίαστα.
Η έλλειψη πολιτικής εγρήγορσης για τα ρίσκα της ΑΙ είναι παράδοξη. Στις ΗΠΑ υπάρχουν πιο πολλοί περιορισμοί για να ανοίξει κανείς εστιατόριο παρά για να εκπαιδεύσει ένα επίφοβο μοντέλο ΤΝ. Την ίδια ώρα οι κίνδυνοι της απρόβλεπτης δράσης της γίνονται διαρκώς πιο αισθητοί. Την ίδια ώρα ο πλούτος που παράγει η ΤΝ αναμένεται να αυξηθεί κατακόρυφα μένοντας στα χέρια ελαχίστων ανθρώπων. Την ίδια ώρα η ΤΝ απειλεί να φέρει μαζική ανεργία στη μεσαία τάξη – και ένα από τα πιο καίρια έτσι προβλήματα για τη Δημοκρατία του 21ου αιώνα.
Το Κράτος είναι πρωτίστως εκείνο που καλείται να διαχειριστεί τις παραπάνω προκλήσεις, να θέσει τις ρυθμιστικές αρχές στις οποίες θα κινούνται οι εταιρείες ΤΝ. Δεν υπάρχει ισχυρότερος φορέας μεριμνάς για το γενικό καλό από το Δημοκρατικό κράτος. Η ανάδυση μιας νέας φιλελεύθερης σοσιαλοδημοκρατίας φαντάζει ως όρος επιβίωσης για τη Δημοκρατία του 21ου αιώνα.
Δεν υπονοείται βέβαια μια επιστροφή στον κρατισμό αλλά μια πολιτεία που αφήνει την καινοτομία ελεύθερη κρατώντας δύο πράγματα: α) Την οριοθέτηση της ΑΙ, β) τη μερική κρατικοποίηση και ανακατανομή του πλούτου που παράγει. Το Κράτος καλείται να έχει δηλαδή όχι μόνο ρυθμιστικό, αλλά και μετοχικό ρόλο. Να ελέγχει κρίσιμες υποδομές ΑΙ – όπως κάνει με τα δίκτυα ηλεκτρισμού.
Προς αυτή την κατεύθυνση υπάρχει, απρόσμενα, μια ιδεολογική σύγκλιση το 2026 από αντιφατικές μάλιστα προελεύσεις. Όταν ο σοσιαλιστής Μπέρνι Σάντερς προτείνει εφάπαξ φόρο 50% σε μετοχές των εταιρειών ΤΝ, ο δεξιός Ντόναλντ Τραμπ διαπραγματεύεται με την OpenAI την κρατικοποίηση ποσοστού της, και ο CEO της “Palantir” Άλεξ Καρπ δηλώνει ότι «σε λίγα χρόνια ακόμη και το 50% του Σάντερς δεν θα ακούγεται αρκετά προοδευτικό», το τοπίο αλλάζει άρδην.
Και στο τοπίο αυτό η ΤΝ γίνεται ο αδιαφιλονίκητος πολιτικός πρωταγωνιστής του 21ου αιώνα. Αυτή δίνει καύσιμο στην επιτάχυνση ενός κόσμου που μέσα του κυοφορεί μαζί η πιο φωτεινή και η πιο ζοφερή εξέλιξη. Ποια από τις δύο θα επικρατήσει εξαρτάται από τις πολιτικές και ηθικές – με άλλα λόγια τις φιλοσοφικές – επιλογές που σήμερα κάνουμε.
Το ερώτημα δεν είναι πλέον αν η ΤΝ θα αλλάξει τον κόσμο.
Θα τον αλλάξει – ριζοσπαστικά και γρήγορα. Το ερώτημα είναι αν ο άνθρωπος θα εξακολουθήσει να έχει την πολιτική πρωτοκαθεδρία σε έναν κόσμο που θα κυβερνάται όλο και περισσότερο από μηχανική νοημοσύνη.
17°
