In the Belly of AI: Η τεχνητή νοημοσύνη δεν είναι τόσο τεχνητή

«Ό,τι λάμπει δεν είναι χρυσός». Αυτή είναι η πρώτη φράση του Χαράλαμπου Τσέκερη, όταν του ζητώ το πρώτο σχόλιο του για το ντοκιμαντέρ «In the Belly of AI».

Ο κ. Τσέκερης είναι ο προεδρεύων της Εθνικής Επιτροπής Βιοηθικής και Τεχνοηθικής της Ελλάδας κι ένας από τους ανθρώπους στη χώρα με βαθιά γνώση των εξελίξεων της ΑΙ – εξελίξεων που τρέχουν με δαιμονιώδεις ρυθμούς. Είδαμε μαζί το ντοκιμαντέρ που φωτίζει τις αθέατες πλευρές της τεχνητής νοημοσύνης και τις κοινωνικές της επιπτώσεις – υπάρχουν πτυχές που ούτε τις φανταζόμαστε.

Οι επιπτώσεις της Τεχνητής Νοημοσύνης: Μια συνέντευξη με τον Χαράλαμπο Τσέκερη

«Η εντύπωση του μέσου ανθρώπου είναι ότι η τεχνητή νοημοσύνη διαθέτει τεράστιες δυνατότητες και ότι αυτή η τεχνολογία μπορεί να αλλάξει τη ζωή του ριζικά», σημειώνει. Ωστόσο, προειδοποιεί ότι πίσω από τον ενθουσιασμό υπάρχει μια παγίδα: «Πρέπει να μην φετιχοποιήσουμε την τεχνητή νοημοσύνη». Αυτό σημαίνει ότι οφείλουμε να την αποδομήσουμε κριτικά, ώστε να μην τη βλέπουμε ως μια αυτόνομη, σχεδόν μαγική δύναμη, αλλά ως μια τεχνολογία βαθιά συνδεδεμένη με τις κοινωνικές και πολιτικές δομές.

Ο κ. Τσέκερης παρομοιάζει το δέος που προκαλεί σήμερα η ΑΙ με το συναίσθημα που γεννούσε η εκβιομηχάνιση στους εργάτες, μια εποχή που συνοδεύτηκε από κοινωνική αδράνεια και έλλειψη κριτικής σκέψης. «Όταν λέω να αποφετιχοποιήσουμε την τεχνητή νοημοσύνη, εννοώ ακριβώς να αναπτύξουμε κριτική σκέψη», τονίζει, υπογραμμίζοντας ότι το ντοκιμαντέρ συμβάλλει σημαντικά σε αυτή τη διαδικασία.

Προχωρά ένα βήμα παραπέρα, αμφισβητώντας τη θεμελιώδη υπόθεση ότι η ΑΙ είναι πράγματι «τεχνητή»: «Αν πάμε στο μαλακό υπογάστριο της τεχνητής νοημοσύνης, θα καταλάβουμε ότι δεν είναι και τόσο τεχνητή». Όπως εξηγεί, η λειτουργία της βασίζεται σε ανθρώπινη εργασία, είναι «διαποτισμένη με σχέσεις εξουσίας, ανισότητες και ανθρώπινη οδύνη». Αυτές οι πτυχές, όμως, δεν είναι ορατές στην καθημερινή χρήση των συστημάτων ΑΙ, καθώς η τεχνολογία «ανθρωπομορφίζεται και μας μαγεύει τόσο πολύ που πολλές φορές θέλουμε να γίνουμε σαν κι αυτή».

Γι’ αυτό, πέρα από την αποφετιχοποίηση, προτείνει και την αποπραγμοποίηση της τεχνολογίας: «Δεν είναι πράγμα η τεχνητή νοημοσύνη και γενικά η τεχνολογία δεν είναι πράγμα». Αντίθετα, πρόκειται για «ένα κοινωνικό και πολιτικό φαινόμενο», ένα πλέγμα σχέσεων εξουσίας και ανισοτήτων που απαιτεί ρύθμιση και δημόσιες πολιτικές για την προστασία των πιο ευάλωτων.

Ταυτόχρονα, αναδεικνύει την ανάγκη για μια παγκόσμια συνεργασία στη διακυβέρνηση της ΑΙ, καθώς οι ισχυρότερες τεχνολογικές πλατφόρμες λειτουργούν σε παγκόσμιο επίπεδο, καθιστώντας ανεπαρκείς τις εθνικές ρυθμιστικές πολιτικές.

«Η τεχνολογική ισχύς δεν είναι ανίκητη»

Η τεχνητή νοημοσύνη εξελίσσεται ραγδαία, αλλά οι σκοτεινές της πλευρές παραμένουν στην αφάνεια. Ο Χαράλαμπος Τσέκερης εξηγεί ότι αυτό συμβαίνει επειδή η δημόσια αφήγηση εστιάζει στις θετικές της πτυχές, όπως την ψυχαγωγία ή την ενίσχυση της παραγωγικότητας, παραβλέποντας κρίσιμα ζητήματα, όπως οι εργασιακές επιπτώσεις και η τεράστια ενεργειακή κατανάλωση.

Υπάρχει ακόμα χρόνος για αντίδραση; Μήπως έχουμε χάσει το τρένο; «Όχι, δεν έχουμε χάσει το τρένο», τονίζει. Παρά την ταχύτητα και την πολυπλοκότητα της ΑΙ, αυτές «δεν είναι πιο ισχυρές από τις ανθρώπινες ηθικές αξίες και από τις αρχές της δημοκρατίας, που σε βάθος χρόνου έχουν αποδειχθεί πολύ ανθεκτικές». Ωστόσο, αυτό απαιτεί τη δημιουργία νέων θεσμών και νέας γνώσης, ενός «ψηφιακού ανθρώπινου και κοινωνικού κεφαλαίου», ικανών να μετατρέψουν την τεχνολογική πρόοδο σε κοινωνική ευημερία.

Ο κίνδυνος, σύμφωνα με τον ίδιο, είναι η συγκέντρωση πλούτου και ισχύος στα χέρια λίγων, ένα φαινόμενο που ορίζει ως «τεχνοολιγαρχία». «Ζούμε το απόγειο αυτού του φαινομένου στις Ηνωμένες Πολιτείες», παρατηρώ κι ο συνομιλητής μου συμπληρώνει ότι «έχουμε μια σύγκλιση τεχνολογικής ισχύος και πολιτικής εξουσίας», όπου η καινοτομία δεν είναι απλά τεχνολογική αλλά ενσωματώνεται σε ένα παγκόσμιο δίκτυο πολιτικής και οικονομικής κυριαρχίας.

Αυτή η υπερσυγκέντρωση πλούτου, εξουσίας και επιρροής, λέει, «απειλεί τη δημοκρατία, τα θεμελιώδη δικαιώματα και τις ατομικές ελευθερίες». Πρόκειται για ένα νέο υβρίδιο εξουσίας, που βασίζεται σε αλγοριθμική τεχνοεπιστήμη και σε οικοσυστήματα καινοτομίας ελεγχόμενα από τεχνολογικούς κολοσσούς. Το αφήγημα που διαμορφώνεται γύρω από αυτές τις τεχνολογίες προωθείται ως μονόδρομος, αποκλείοντας εναλλακτικές λύσεις. «Ξεχνάμε ότι υπάρχουν και άλλες τεχνολογίες, πιο καθαρές, πιο φιλικές προς τον χρήστη και κοινωνικά πιο βιώσιμες», τονίζει, αναφέροντας εναλλακτικά μοντέλα, όπως η οικονομία του διαμοιρασμού ή η λεγόμενη «οικονομία του ντόνατ».

Η πανδημία, προσθέτει, συσκότισε πολλές από αυτές τις συζητήσεις. «Εστιάσαμε στην ιδιωτικότητα, την παραβίαση δεδομένων, και ξεχάσαμε ότι αυτή τη στιγμή διαμορφώνονται νέες μορφές ανισότητας», επισημαίνει. Αυτή η νέα πραγματικότητα απαιτεί ένα «νέο τεχνοηθικό κοινωνικό συμβόλαιο», οι τεχνολογικοί κολοσσοί πρέπει να αναλάβουν αυξημένες υποχρεώσεις λογοδοσίας. «Βρισκόμαστε σε ένα σταυροδρόμι όπου δημιουργούνται νέες αξίες, νέοι κανόνες συμπεριφοράς και νέες πολιτικές δομές. Δεν μπορούμε να μιλάμε μόνο για ασφάλεια· πρέπει να μιλάμε και για κοινωνική προστασία».

«Να φωτίσουμε τις κρυφές δομές εξουσίας της ΑΙ»

Παρακολουθώντας το ντοκιμαντέρ In the Belly of AI και οι δύο συντείναμε στο συμπέρασμα, ότι το πρώτο βήμα είναι η ενημέρωση. «Αυτή τη στιγμή, βρισκόμαστε ακόμα στο στάδιο της κατανόησης, γιατί υπάρχουν πτυχές της τεχνητής νοημοσύνης που παραμένουν κρυφές ή μυστικές», τονίζω με τον Χαράλαμπο Τσέκερη να εκτιμά ότι το βασικό συμπέρασμα είναι ξεκάθαρο: η τεχνητή νοημοσύνη δεν είναι μια αυτόνομη, ουδέτερη δύναμη, αλλά ένα σύστημα που εμπεριέχει ανθρώπινη οδύνη, σχέσεις εξουσίας και κοινωνικές ανισότητες. Αυτές οι δομές, που παραμένουν σκιώδεις, πρέπει να «τις φωτίσουμε, να τις κατανοήσουμε και να τις αποκαλύψουμε».

Πώς φωτίζουμε αυτές τις κρυφές δομές εξουσίας; Η απάντηση, σύμφωνα με τον ίδιο, βρίσκεται στην ενεργοποίηση της επιστημονικής κοινότητας, της πολιτικής ηγεσίας και της κοινωνίας των πολιτών. «Η “Παγκοσμιοποίηση 4”, δηλαδή η διάχυση της καινοτομίας μέσω των παγκόσμιων πλατφορμών, δεν είναι απλώς μια λαμπερή τεχνολογική εξέλιξη, αλλά ένα πολιτικό και ιδεολογικό ζήτημα», εξηγεί.

Το ντοκιμαντέρ αναδεικνύει τις ιδεολογίες που κρύβονται πίσω από την ανάπτυξη της ΑΙ, όπως ο «μακροπροθεσμισμός» (Long Termism), μια φιλοσοφία που υποστηρίζει την ανάγκη επενδύσεων σε τεχνολογίες που θα αλλάξουν το μακρινό μέλλον, παραμερίζοντας τις άμεσες κοινωνικές επιπτώσεις. Μέσα σε αυτό το ιδεολογικό πλέγμα περιλαμβάνονται επίσης ο Υπερανθρωπισμός (Transhumanism), ο Ρασιοναλισμός (Rationalism), ο Αποτελεσματικός Αλτρουισμός (Effective Altruism) και άλλες θεωρίες που προβάλλουν μια τεχνολογική ουτοπία.

Ένα χαρακτηριστικό παράδειγμα αυτής της αφήγησης είναι η τεράστια επένδυση στις Ηνωμένες Πολιτείες για τη δημιουργία μιας τεχνητής γενικής νοημοσύνης (AGI), δηλαδή ενός «υπερ-νου». «Δεν πρέπει να αγνοήσουμε τα θετικά αποτελέσματα που μπορεί να έχει η τεχνολογία για την επιστήμη και την ανθρώπινη ευημερία», σημειώνει ο κ. Τσέκερης, «αλλά πρέπει να θυμόμαστε ότι μεγάλο μέρος της συζήτησης για την AGI είναι ένα παιχνίδι κερδοσκοπίας».

Το τεράστιο ενεργειακό κόστος της ΑΙ

Μία παράμετρος, που συχνά παραβλέπεται, είναι το ενεργειακό αποτύπωμα της τεχνητής νοημοσύνης. «Η υπολογιστική ισχύς που απαιτεί η ΑΙ διπλασιάζεται κάθε 100 ώρες», εξηγεί, τονίζοντας ότι τα data centers ήδη καταναλώνουν το 1% της παγκόσμιας ηλεκτρικής ενέργειας. Μάλιστα, μια μόνο αλληλεπίδραση με ένα προηγμένο μοντέλο ΑΙ, όπως το ChatGPT, απαιτεί 10 φορές περισσότερη ενέργεια από μια απλή αναζήτηση στο Google.

«Τα τελευταία δύο χρόνια έχουν παραχθεί περισσότερα δεδομένα από ό,τι τα προηγούμενα 20.000 χρόνια», επισημαίνει. Αυτό σημαίνει ότι το ψηφιακό οικοσύστημα που τροφοδοτεί την τεχνητή νοημοσύνη δεν είναι βιώσιμο, εάν δεν υπάρξει σοβαρός έλεγχος και ρύθμιση της ενεργειακής κατανάλωσης.

Το κλείσιμο αυτής της συζήτησης οδηγεί στο επόμενο βήμα: τη δημιουργία ενός νέου τεχνοηθικού κοινωνικού συμβολαίου. «Δεν μπορούμε να αφήσουμε την τεχνολογία να εξελιχθεί ανεξέλεγκτα», υπογραμμίζει. Χρειάζεται παγκόσμια συνεργασία, διακρατικοί μηχανισμοί και κοινωνικός έλεγχος, ώστε η καινοτομία να εξισορροπείται με την κοινωνική δικαιοσύνη.

«Δεν μπορούμε να μιλάμε μόνο για ασφάλεια· πρέπει να μιλάμε και για κοινωνική προστασία». Και αυτό είναι ίσως το σημαντικότερο μήνυμα του In the Belly of AI: η τεχνολογική ισχύς δεν είναι ανίκητη.

«Ο φαύλος κύκλος της ΑΙ»

Η εξέλιξη της τεχνητής νοημοσύνης συνοδεύεται από μια αδιάκοπη απαίτηση για περισσότερη υπολογιστική δύναμη, οδηγώντας σε έναν φαύλο κύκλο. «Όσο βελτιστοποιείται η τεχνητή νοημοσύνη, βελτιστοποιείται και η ανθρώπινη προσοχή, η ανθρώπινη εμπλοκή, η ανθρώπινη οικειότητα που δημιουργεί η τεχνητή νοημοσύνη», εξηγεί ο Χαράλαμπος Τσέκερης. Αυτό, με τη σειρά του, αυξάνει την παραγωγή δεδομένων, ενισχύοντας περαιτέρω τη μηχανική μάθηση και δημιουργώντας νέες ανάγκες βελτιστοποίησης.

Μέσα σε αυτόν τον κύκλο, «βελτιστοποιείται και η επιτήρηση», προσθέτει. Καθώς οι αλγόριθμοι γίνονται πιο ακριβείς, ενισχύονται και οι μηχανισμοί ελέγχου, οδηγώντας σε μια συνεχώς διευρυνόμενη ζώνη επιτήρησης. «Βελτιστοποίηση τεχνητής νοημοσύνης, βελτιστοποίηση προσοχής, βελτιστοποίηση επιτήρησης – ένας φαύλος κύκλος», συνοψίζει. Υποστηρίζει ότι η μόνη διέξοδος είναι να σκεφτούμε εναλλακτικά μοντέλα για την τεχνητή νοημοσύνη και την τεχνολογία γενικότερα.

Οι άνθρωποι πίσω από τον αλγόριθμο

Αν και η Ευρωπαϊκή Ένωση προσπαθεί να θέσει κάποια όρια στις ακραίες μορφές εργασιακής εκμετάλλευσης που σχετίζονται με την ΑΙ, οι συνθήκες παραμένουν προβληματικές. «Είδαμε στο ντοκιμαντέρ εργαζόμενους που μετανάστευσαν στη Βουλγαρία, φυλακισμένες στη Φινλανδία να εργάζονται σε τέτοιες συνθήκες. Βλέπουμε δηλαδή μια μορφή αόρατης εκμετάλλευσης».

Ένα από τα μεγαλύτερα ψέματα που συνοδεύουν την τεχνητή νοημοσύνη, κατά τον κ. Τσέκερη, είναι η αντίληψη ότι οι αλγόριθμοι λειτουργούν αυτόνομα, δίχως ανθρώπινη παρέμβαση. «Το ντοκιμαντέρ αποδεικνύει ξεκάθαρα ότι η ΑΙ δημιουργεί μια πλάνη ανθρώπινης απουσίας. Δεν είναι ο αλγόριθμος που μπλοκάρει το παράνομο ή βίαιο περιεχόμενο στα social media. Είναι οι άνθρωποι πίσω από τον αλγόριθμο».

Αυτοί οι άνθρωποι, όμως, πληρώνουν βαρύ τίμημα. «Είδαμε εργαζόμενους στην Αφρική με σοβαρά ψυχικά προβλήματα, διαταραχή μετατραυματικού στρες, άγχος, κατάθλιψη», σημειώνει. Η υπερεκμετάλλευση της ανθρώπινης εργασίας για την «εκπαίδευση» της τεχνητής νοημοσύνης αποδεικνύει ότι η μεγιστοποίηση του κέρδους συχνά συνεπάγεται και τη μεγιστοποίηση της ανθρώπινης οδύνης.

Ο Χαράλαμπος Τσέκερης επισημαίνει ότι η τεχνολογική εξουσία μετασχηματίζεται σε ένα νέο είδος «τεχνοφεουδαρχίας», όπου οι λίγοι κατέχουν τον έλεγχο των αλγορίθμων, ενώ οι πολλοί εργάζονται υπό αόρατες και επισφαλείς συνθήκες. «Μιλάμε για στρατιές από τεχνοδουλοπάροικους και μια τεχνοελίτ που είναι αόρατη», αναφέρει. Οι εταιρείες που τους απασχολούν τούς επιβάλλουν όρους σιωπής, δεν τους επιτρέπουν να μιλούν για τις συνθήκες εργασίας τους, κρατώντας τα πάντα στο σκοτάδι.

«Αυτά πρέπει να τα φέρουμε στο φως. Δεν θέλουμε μια αόρατη οικονομία της τεχνητής νοημοσύνης», δηλώνει.

Η ακραία ψηφιοποίηση της εργασίας και της καθημερινότητας επιφέρει ένα ακόμη ανησυχητικό φαινόμενο: την έκλειψη της συνεργασίας. Αναφέρεται στον κοινωνιολόγο Νικόλα Χριστάκη, ο οποίος έχει αναλύσει πώς η σύγχρονη τεχνολογία υπονομεύει τις ανθρώπινες σχέσεις. «Η ανθρωπινότητά μας εμπεριέχει τη συνεργασία, τη συμπόνια, την αλληλεγγύη. Αυτά είναι ο πυρήνας της ανθρώπινης ύπαρξης».

Προς μια κοινωνία νέων ανισοτήτων

Όμως, η τεχνητή νοημοσύνη προωθεί μια κουλτούρα απομόνωσης και εξατομίκευσης. «Οι άνθρωποι που εργάζονται στην εκπαίδευση των αλγορίθμων είναι μόνοι τους, ζουν μόνοι τους, εργάζονται μόνοι τους», περιγράφει. Δεν υπάρχει η παραδοσιακή συλλογική εργασία που προσφέρει μια αίσθηση κοινωνικότητας και αλληλεπίδρασης.

«Αν αφήσουμε την κατάσταση να εξελιχθεί χωρίς παρέμβαση, θα οδηγηθούμε σε μια κοινωνία νέων ανισοτήτων, χειρότερων από εκείνες της προ-Γαλλικής Επανάστασης», προειδοποιεί. Οι ακραίες δημιουργούν μια «σύγχρονη σκλαβιά», όπου η οικονομική και πολιτική εξουσία συγκεντρώνεται σε μια μικρή, αόρατη ελίτ.

Κλείνουμε τη συζήτηση με μια έκκληση για δράση. «Πρέπει να έχουμε δημόσιο έλεγχο της τεχνητής νοημοσύνης. Δεν μπορούμε να αφήσουμε την εξέλιξη της τεχνολογίας να λειτουργεί ανεξέλεγκτα». Η ανάπτυξη της ΑΙ έχει εξωτερικότητες –κοινωνικές, οικονομικές, περιβαλλοντικές– και η διαχείρισή της δεν μπορεί να αφεθεί αποκλειστικά σε εταιρικά συμφέροντα.

«Χρειάζεται ανθρώπινη εποπτεία και δημόσια κριτική πάνω στην εξέλιξη της τεχνητής νοημοσύνης», τονίζει. Και αυτό είναι το πιο κρίσιμο μήνυμα που προκύπτει από το In the Belly of AI: η τεχνητή νοημοσύνη δεν μπορεί να εξελίσσεται εις βάρος του ανθρώπου. Η πολιτική, η επιστήμη και η κοινωνία πρέπει να δράσουν για να διασφαλίσουν ότι η καινοτομία θα υπηρετεί την ανθρωπότητα – και όχι το αντίστροφο.

• Το ντοκιμαντέρ In the Belly of AI (Les Sacrifiés de l'IA), σε σκηνοθεσία του Ανρί Πουλέν προβάλλεται στο Διεθνές Φεστιβάλ Ντοκιμαντέρ της Θεσσαλονίκης