Βενιζέλος: Η νέα ψηφιακή κυριαρχία είναι πανταχού παρούσα, παντογνώστρια και αόρατη

Με αντιφώνηση, ως άλλο «πνευματικό αντίδωρο», που ξέφυγε από τα τυπικά και μπήκε κατευθείαν στην ανάγνωση της εποχής, ο Ευάγγελος Βενιζέλος τίμησε την αναγόρευσή του σε επίτιμο διδάκτορα τόσο της Νομικής Σχολής όσο και του Τμήματος Κοινωνικής Θεολογίας και Θρησκειολογίας της Θεολογικής Σχολής του ΕΚΠΑ. Ο ομότιμος καθηγητής Συνταγματικού Δικαίου του ΑΠΘ και πρώην αντιπρόεδρος της κυβέρνησης επέλεξε ως θέμα: «Η Τεχνητή Νοημοσύνη ως πρόκληση για την κυριαρχία, τον συνταγματισμό και την πολιτική θεολογία».

Σε μία ομιλία διάρκειας περίπου 40 λεπτών, επιχείρησε να περιγράψει μια συνολική μετάβαση, όπου η ΤΝ μεταβάλλει τις ισορροπίες ανάμεσα στα κράτη, τις εταιρείες, τις δημοκρατίες, τα δικαιώματα και τελικά την ίδια την έννοια της κυριαρχίας.

Στάθηκε ιδιαίτερα στον «ψηφιακό συνταγματισμό», τον οποίο όρισε ως προσπάθεια μεταφοράς των αρχών του κλασικού συνταγματισμού στο ψηφιακό περιβάλλον: περιορισμός της εξουσίας, προστασία των θεμελιωδών δικαιωμάτων, κράτος δικαίου. Όμως τόνισε ότι πλέον το ζήτημα δεν αφορά μόνο την κρατική εξουσία, αλλά και την ιδιωτική εξουσία των τεχνολογικών κολοσσών. Σε αυτό το νέο πεδίο, «τίθεται οξύτατα το ζήτημα της ισχύος των θεμελιωδών δικαιωμάτων στις σχέσεις μεταξύ ιδιωτών, αλλά και η ανάγκη κατοχύρωσης νέων δικαιωμάτων: το δικαίωμα στη λήθη, το δικαίωμα αμφισβήτησης αυτοματοποιημένων ή αλγοριθμικών αποφάσεων, καθώς και η προστασία της δικαιοσύνης από πλήρως ρομποτικές ή αδιαφανείς αλγοριθμικές διαδικασίες».

Πάνω απ’ όλα έθεσε το ζήτημα της προστασίας της αντιπροσωπευτικής φιλελεύθερης δημοκρατίας από τον κίνδυνο αλλοίωσης της βούλησης του εκλογικού σώματος μέσω παρεμβατικής και παραβατικής χρήσης των νέων τεχνολογιών. «Το νέο επιστημολογικό παράδειγμα απαιτεί ένα πιο δυναμικό θεσμικό παράδειγμα μαχόμενης και αυτοπροστατευόμενης δημοκρατίας».

Τα τρία μοντέλα

Η ΤΝ είναι «ολιστική πρόκληση, που συνιστά αλλαγή υποδείγματος: κοινωνική, πολιτική, ηθική, θεολογική, ανθρωπολογική. Και ήρθε να αποπολλαπλασιάσει μια πρόκληση που υπήρχε ήδη: το διαδίκτυο, το Cloud, τα big data. Εφαρμογές όπως το Gemini, το ChatGPT, το Claude και δεκάδες άλλα είναι πλέον μέρος της καθημερινότητάς μας».

Απέναντι σε αυτήν την πρόκληση, τρεις μεγάλοι παίκτες έχουν ήδη επιλέξει στρατηγική. Η Κίνα «εθνικοποίησε τον ψηφιακό χώρο». Οι ΗΠΑ επέλεξαν «την ενθάρρυνση της πρωτοβουλίας των επιχειρήσεων», διασφαλίζοντας παράλληλα νομοθετικά -μέσω της Cloud Act του 2018- ότι «οι ομοσπονδιακές αρχές μπορούν να έχουν πρόσβαση σε δεδομένα ακόμα και αν βρίσκονται αποθηκευμένα εκτός αμερικανικής επικράτειας». Εισάγεται έτσι νέα αρχή: η «extraterritoriality των δεδομένων».

Η ΕΕ, «τεχνολογικά μεσαία δύναμη που παρακολουθεί τον ανταγωνισμό ΗΠΑ και Κίνας, εμφανίζεται ως ρυθμιστικός γίγαντας - AI Act, GDPR, Χάρτης Θεμελιωδών Δικαιωμάτων». Υπενθύμισε ότι η Ευρωπαϊκή Επιτροπή επανεξετάζει ήδη πλευρές αυτής της αυστηρής κανονιστικής προσέγγισης μέσω της πρωτοβουλίας «Digital Omnibus», με στόχο την απλούστευση διοικητικών διαδικασιών. Παράλληλα έκανε αναφορά και στο Συμβούλιο της Ευρώπης, μιλώντας για τη σύμβαση-πλαίσιο για την Τεχνητή Νοημοσύνη, τη σύμβαση 108+ για την προστασία από την αυτοματοποιημένη επεξεργασία προσωπικών δεδομένων, αλλά και τον Ευρωπαϊκό Ηθικό Χάρτη για τη χρήση της AI στο δικαστικό σύστημα.

Στο αμερικανικό παράδειγμα στάθηκε ιδιαίτερα στις κινήσεις της δεύτερης θητείας Τραμπ. Όπως σημείωσε, ο Ντόναλντ Τραμπ ανακάλεσε το προηγούμενο ρυθμιστικό πλαίσιο που είχε οικοδομήσει η διοίκηση Μπάιντεν για την ΤΝ, σηματοδοτώντας μετάβαση από τη λογική του ελέγχου στη λογική της ενίσχυσης των επιχειρήσεων. Λίγους μήνες αργότερα, πρόσθεσε, χαρακτήρισε την ΤΝ ομοσπονδιακή αρμοδιότητα, περιορίζοντας ουσιαστικά τις πρωτοβουλίες των Πολιτειών να θεσπίσουν δικά τους ρυθμιστικά πλαίσια.

Στη συνέχεια έθεσε ένα από τα βασικά ερωτήματα της ομιλίας του: ποιος μπορεί τελικά να ελέγξει τις μεγάλες επιχειρήσεις που κυριαρχούν στο πεδίο της ΤΝ; Τα κράτη στα οποία εδρεύουν; Τα κράτη που χρησιμοποιούν τις υπηρεσίες τους; Ή εκείνα που μπορούν να επιβάλουν κυρώσεις; Η απάντηση παραμένει ανοιχτή, ιδίως σε μια εποχή όπου οι εξελίξεις «τρέχουν εκτός Ευρώπης και εμείς παρακολουθούμε και τις εισάγουμε».

Ο ψηφιακός συνταγματισμός και τα όριά του

Μέσα σε αυτό το πλαίσιο, ο κ. Βενιζέλος τοποθέτησε την έννοια του ψηφιακού συνταγματισμού: μια ερμηνευτική πρακτική που επιδιώκει «να μεταφέρει τις αρχές και τις επιδιώξεις του κλασικού συνταγματισμού -τον περιορισμό της εξουσίας, την προστασία των θεμελιωδών δικαιωμάτων, το κράτος δικαίου- στο ψηφιακό περιβάλλον».  Οι ψηφιακές εξουσίες, «όχι μόνο των κρατών, αλλά και των τεχνολογικών κολοσσών», πρέπει να υπόκεινται σε κανόνες ανάλογους με αυτούς που διέπουν την πολιτική εξουσία στον φυσικό κόσμο.

Όπως είπε, τίθενται νέα ζητήματα: «ο περιορισμός της ιδιωτικής εξουσίας, η ισχύς των θεμελιωδών δικαιωμάτων στις σχέσεις μεταξύ ιδιωτών, αλλά και η ανάγκη κατοχύρωσης νέων δικαιωμάτων, όπως το δικαίωμα στη λήθη ή το δικαίωμα αμφισβήτησης αλγοριθμικών αποφάσεων». Η μεγαλύτερη απειλή, σύμφωνα με τον ίδιο, αφορά τη φιλελεύθερη δημοκρατία. Προειδοποίησε ότι «η αντιπροσωπευτική δημοκρατία μπορεί να υπονομευθεί μέσω παρεμβατικής και παραβατικής χρήσης των νέων τεχνολογιών και ιδίως της ΤΝ, με αποτέλεσμα την αλλοίωση της βούλησης του εκλογικού σώματος. Γι’ αυτό απαιτείται ένα νέο θεσμικό παράδειγμα μαχόμενης και αυτοπροστατευόμενης δημοκρατίας».

Στο πλαίσιο αυτό, επανέλαβε την πρόταση για το «επαυξημένο σύνταγμα», την οποία ο ίδιος έχει εισηγηθεί: η αρχή της μείζονος προστασίας - κάθε φορά επιλέγουμε τον κανόνα που «παρέχει τη μείζονα προστασία» στα δικαιώματα, τη δημοκρατία και το κράτος δικαίου. Το κεντρικό διακύβευμα, υπογράμμισε, είναι «η προστασία της αντιπροσωπευτικής φιλελεύθερης δημοκρατίας έναντι του κινδύνου αλλοίωσης της βούλησης του εκλογικού σώματος» μέσω παρεμβατικής χρήσης ΤΝ. Το νέο επιστημολογικό παράδειγμα, τόνισε, απαιτεί ένα πιο δυναμικό θεσμικό παράδειγμα «μαχόμενης και αυτοπροστατευόμενης δημοκρατίας».

Ανέφερε δε και μερικές ιδέες που κυκλοφορούν: Την πρόταση να αναγνωριστούν θεμελιώδη δικαιώματα στην ΤΝ καθεαυτήν, κατά το πρότυπο των δικαιωμάτων ζώων ή φυσικών οντοτήτων. Και την αμερικανική ιδέα ότι η ΤΝ διευκολύνει τον «originalism»: «αφού τώρα μπορούμε να αποκαλύψουμε ταχέως τη διαδικασία παραγωγής του κανόνα, οι Αμερικανοί originalists την υποδέχονται με χαρά».

Ο ιδιωτικός συνταγματισμός

Οι μεγάλες εταιρείες δεν θέλουν τα δεσμά του κρατικοκεντρικού ψηφιακού συνταγματισμού. Εμπνεόμενες από θεωρίες πολλαπλότητας έννομων τάξεων -από τον Santi Romano ως τον «societal constitutionalism» του Gunther Teubner- άρχισαν να παράγουν τον δικό τους «ιδιωτικό συνταγματισμό»: δικά τους οιονεί δικαστήρια, δικοί τους κανόνες, δικές τους κυρώσεις. Πρωτοπόρος το Facebook/Meta. «Αυτός ο ιδιωτικός συνταγματισμός δεν διαθέτει καμία συνταγματική νομιμοποίηση. Είναι οίκοθεν συνταγματισμός», είπε ο Ευάγγελος Βενιζέλος.

Ταυτόχρονα, εταιρείες όπως η Anthropic προβάλλουν πλέον την «Constitutional AI»: δέσμη αρχών ενσωματωμένη στα ίδια τα συστήματά τους. Το πρόβλημα είναι ότι αυτά τα συστήματα «έχουν την τάση να υποδύονται ότι συμμορφώνονται στο σύνταγμα που τους έχουν ενσωματώσει».

Οι εταιρείες δεν αρκούνται πλέον σε ιδιωτικές έννομες τάξεις. «Διεκδικούν κυριαρχία στον κυβερνοχώρο. Κυριαρχία στο Cloud και τώρα κυριαρχία στις εφαρμογές της Τεχνητής Νοημοσύνης». Και η παραδοσιακή κυριαρχία, υπενθύμισε, προϋποθέτει εδαφικό έλεγχο - κάτι που νέφος και διαδίκτυο έχουν ήδη υπονομεύσει. Τα δεδομένα ενός κράτους -ακόμα και τα κρατικά- «δεν ξέρουμε πού βρίσκονται. Υπάρχει μια νέα αποικιοκρατία. Τα περισσότερα κράτη υφίστανται data colonialism». Τρεις αμερικανικές εταιρείες -Amazon, Microsoft, Google- ελέγχουν το 66% της παγκόσμιας αγοράς Cloud. Μαζί με μικρότερες αμερικανικές και κινεζικές, το ποσοστό φτάνει στο 70-80%.

Και έφερε ένα δηλωτικό παράδειγμα: ο Ίλον Μασκ «αρνήθηκε την επέκταση της υπηρεσίας που προσφέρει το Starlink πάνω από την Κριμαία για να εμποδίσει ουκρανική επίθεση με drones». Μια εταιρεία αποφάσισε για την έκβαση πολεμικής επιχείρησης. «Με αυτόν τον τρόπο, φάνηκε ότι ο Μασκ λειτουργεί ως αυτόνομος γεωπολιτικός παράγοντας».

«Το Cloud λειτουργεί ως οιονεί κράτος. Οι χρήστες είναι ο οιονεί λαός. Η νομοθετική αρμοδιότητα αυταρχική. Οι κυρώσεις -αποκλεισμός από την πλατφόρμα- πραγματικές και αναπότρεπτες: τις οποίες δεν μπορείς να αντιπαρέλθεις».

«Η ΤΝ μετατρέπεται και σε οπλικό σύστημα τεράστιων διαστάσεων. Και εκεί πέφτει ο σκληρός πυρήνας της κρατικής κυριαρχίας». Η πιο πρόσφατη οξεία σύγκρουση έγινε ανάμεσα στο Υπουργείο Πολέμου των ΗΠΑ και στην Anthropic, η οποία «αρνήθηκε να χρησιμοποιηθεί το λογισμικό της για μαζική επιτήρηση και για τη λειτουργία αυτόνομων όπλων, τα οποία αποφασίζουν τελικά χωρίς ανθρώπινη κρίση και ανθρώπινη παρέμβαση». Το Πεντάγωνο απάντησε με κυρώσεις. Λίγες εβδομάδες αργότερα, πάλι από την Anthropic, ήρθε το «Mythos Preview» - «ένα σύστημα που αναδεικνύει την επισφάλεια όλων των συστημάτων κρυπτογράφησης και ασφάλειας, θέτοντας εν γνώσει κίνδυνο για το διεθνές τραπεζικό σύστημα και τα κράτη απέναντι σε κυβερνοεπιθέσεις τελείως διαφορετικού τύπου».

Η θεολογία της παντογνωσίας

Προς το τέλος, η ομιλία Βενιζέλου πήρε τη διάσταση που της έδινε η θεολογική της αφετηρία. Επικαλούμενος τον Carl Schmitt -«κυρίαρχος είναι αυτός ο οποίος αποφασίζει για την κατάσταση εξαίρεσης»- και την παράδοση της πολιτικής θεολογίας, ανέδειξε πώς «το κυρίαρχο κράτος υποκαθιστά το ίδιο τον Θεό, ενώ η κατάσταση εξαίρεσης είναι το ισοδύναμο του θαύματος».

Ιδιαίτερη αναφορά έκανε επίσης στον Πίτερ Τιλ και την Palantir, την εταιρεία που κυριαρχεί στην επεξεργασία μεγάλων δεδομένων, εντάσσοντας τη συζήτηση στη μετάβαση από την κλασική πολιτική θεολογία της κυριαρχίας σε αυτό που περιέγραψε ως πολιτική θεολογία της παντογνωσίας.

Τι γίνεται όμως όταν αυτή η κυριαρχία μεταφέρεται σε εταιρείες ΤΝ; «Προσέξτε αυτή η οιονεί κυριαρχία τι είναι: Κυριαρχία πανταχού παρούσα, λόγω της πανταχού παρούσας υποδομής. Εξουσία παντογνώστρια, λόγω της τεράστιας συγκέντρωσης δεδομένων και ικανότητας προγνωστικής ανάλυσης. Κυριαρχία αόρατη, λόγω της αλγοριθμικής αδιαφάνειας. Και κυριαρχία άμεσα αποτελεσματική - το λέει και το κάνει».

Ο Ευ. Βενιζέλος έκλεισε με αναφορά στη χώρα μας: «Η Ελλάδα μία μικρή-μεσαία ευρωπαϊκή χώρα, χωρίς μικρομεγαλισμούς και χωρίς εύκολες κοινοτοπίες, πρέπει να έχει ως κράτος και πολιτικό σύστημα, ως επιστημονική κοινότητα και ως κοινωνία πολιτών, συνείδηση του επίδικου αντικειμένου και της διακινδύνευσης, και να κινείται αναλόγως σε όλα τα πεδία: τη λειτουργία της δημοκρατίας και της εγγύησης του κράτους δικαίου, την πραγματική ενίσχυση της ανταγωνιστικότητας της οικονομίας, τη στρατηγική εθνική της ασφάλεια, τη ριζική αναβάθμιση του εκπαιδευτικού της συστήματος και τη γενναία και διορατική υποστήριξη του ερευνητικού της οικοσυστήματος».

Ολόκληρη η ομιλία Βενιζέλου