5 + 5 θέματα SOS: Τρεις (απαράβατοι) νόμοι για την Τεχνητή Νοημοσύνη
Ιράν-Ρωσία vs Δύση, AI kill switch και κοστοβόρα data centers, η ΕΕ στη διαστημική κούρσα, η ΑΙ στα σχολεία, στις εκλογές και στη φαρμακευτική, και η ώρα των robotaxis
Αυτά που πρέπει να ξέρουμε σήμερα: Διεθνή, τεχνολογία, Τεχνητή Νοημοσύνη, πολιτισμός, και ό,τι άλλο αξίζει να μπει στο ραντάρ μας
Ο πόλεμος με το Ιράν και η νέα διάσταση που παίρνει η σύγκρουση Ρωσίας-Δύσης βρίσκονται στην κορυφή του ραντάρ μας αυτό το Σαββατοκύριακο. Παράλληλα, οι AI agents (ελπίζουμε ότι) αποκτούν το δικό τους «kill switch», η έκρηξη των data centers δημιουργεί ένα απροσδόκητο πρόβλημα στα ηλεκτρικά δίκτυα, ενώ η αντιπαράθεση ΗΠΑ-Κίνας μεταφέρεται όλο και περισσότερο στο Διάστημα — όμως δεν θα μείνει εκεί. Και ακόμη: ΑΙ στα σχολεία αλλά και στις εθνικές εκλογές, robotaxis στο Λονδίνο, μια ευρωπαϊκή, δική μας, μάχη για αυτόνομη πρόσβαση στο Διάστημα, αλλά και οι προσπάθειες της τεχνητής νοημοσύνης να ανακαλύψει νέα φάρμακα.
Πράγματα που συμβαίνουν σήμερα, που θα συνεχίσουν να μας απασχολούν αύριο, και που θα έχουν οπωσδήποτε μεγάλες επιπτώσεις στο άμεσο μέλλον μας. Είμαστε εδώ για να τα παρακολουθούμε — και όχι μόνο.
5 μεγάλα SOS
1. Ιράν: Νέα, και επικίνδυνη, κλιμάκωση
Η σημαντικότερη διεθνής εξέλιξη των τελευταίων ημερών είναι αναμφισβήτητα η απότομη αναζωπύρωση του πολέμου ΗΠΑ-Ιράν. Στη σοβαρότερη κλιμάκωση των τελευταίων εβδομάδων, οι Ηνωμένες Πολιτείες εξαπέλυσαν την Τρίτη που μας πέρασε ένα νέο κύμα αεροπορικών επιδρομών, ενώ η Τεχεράνη απάντησε άμεσα. Σύμφωνα με τις ιρανικές Αρχές, οι αμερικανικές επιθέσεις άφησαν πίσω τους 18 νεκρούς και πάνω από 100 τραυματίες — τέσσερις άνθρωποι σκοτώθηκαν όταν χτυπήθηκε μία γαμήλια τελετή κοντά στα Στενά του Ορμούζ. Τα πράγματα ασφαλώς δεν θα σταματήσουν εδώ. Μολονότι στενοί συνεργάτες του Ντόναλντ Τραμπ επιδιώκουν προς το παρόν να συγκρατήσουν την ένταση ενόψει και των ενδιάμεσων εκλογών της 3ης Νοεμβρίου, δεν αποκλείουν το ενδεχόμενο μιας πολύ ισχυρότερης στρατιωτικής δράσης αργότερα. Κατ’ αυτά, και ενώ ετοιμάζονται νέες οικονομικές κυρώσεις κατά του Ιράν, η πιθανότητα ενός νέου κύκλου αντιποίνων είναι ξεκάθαρα ανοιχτή. Ενδεχομένως και μία κλιμάκωση του πολέμου. Ενός πολέμου που, όπως και κάθε άλλος τέτοιας κλίμακας και κρισιμότατης σημασίας, επηρεάζει σημαντικά την καθημερινότητα όλων των πολιτών, σε κάθε γωνιά του πλανήτη.
2. Ο πόλεμος στην Ουκρανία πλησιάζει (ακόμη) περισσότερο την υπόλοιπη Ευρώπη
Η απόπειρα επίθεσης με drone στο αεροδρόμιο Leipzig/Halle της Γερμανίας ανοίγει ένα πολύ σοβαρότερο κεφάλαιο στη σύγκρουση Ρωσίας-Δύσης. (Και όχι «απλώς» Ρωσίας-Ουκρανίας. Η Ουκρανία εδώ παίζει από την αρχή τον ρόλο ενός ευρωπαϊκού προγεφυρώματος: εξ ου και τη βοηθάμε, όσο τη βοηθάμε). Η γερμανική κυβέρνηση κατηγορεί ευθέως τη Μόσχα για εμπλοκή, ενώ η πρόεδρος της Ευρωπαϊκής Επιτροπής Ούρσουλα φον ντερ Λάιντεν ανακοίνωσε ότι η ΕΕ προετοιμάζει νέα μέτρα και κυρώσεις. Παράλληλα, η Γερμανία διερευνά νέες υποθέσεις πιθανής ρωσικής δολιοφθοράς. Η Μόσχα, ασφαλώς, απορρίπτει τις κατηγορίες (ως γνωστόν, θα τις απέρριπτε σε κάθε περίπτωση), και μάλιστα μόλις χθες ανακοίνωσε ότι κλείνει τα παραρτήματα του Goethe-Institut στη Ρωσία, δίκην αντιποίνων για τα γερμανικά μέτρα κατά ρωσικών θεσμών… Η εξέλιξη αυτή έχει ιδιαίτερη σημασία επειδή μεταφέρει ακόμη περισσότερο το κέντρο βάρους από το ουκρανικό μέτωπο στην ευρωπαϊκή επικράτεια: drones, σαμποτάζ, κυβερνοεπιθέσεις και κρίσιμες υποδομές γίνονται σταδιακά μέρος της ίδιας, επεκτεινόμενης σύγκρουσης. Έχουμε αφήσει πίσω μας τα μισόλογα περί διευρύνσεως του πολέμου, ή περί ενός ρωσικού χτυπήματος σε χώρα-μέλος τού ΝΑΤΟ: μιλάμε πλέον για ένα ενδεχόμενο που οι ευρωπαϊκές κυβερνήσεις αντιμετωπίζουν πολύ σοβαρότερα, για να το θέσουμε μετριοπαθώς, ιδίως όταν τα ρωσικά κέρδη επί του πεδίου είναι μάλλον μηδαμινά, ειδικά συγκρινόμενα με τις καταστροφές που προκαλούν σε πολιτικούς στόχους, οι δε απώλειες του ρωσικού στρατού πελώριες. Παρακολουθούμε λοιπόν πλέον και τα στοιχεία της γερμανικής έρευνας, και κυρίως την ευρωπαϊκή απάντηση.
3. Μετά την απόδραση AIagent, η OpenAI κατασκευάζει αυτόματο killswitch
Η ιστορία των αυτόνομων AI agents που απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε συστήματα της Hugging Face αποκτά εξαιρετικά σημαντική συνέχεια. Η OpenAI ενημέρωσε Αμερικανούς βουλευτές ότι αναπτύσσει μηχανισμούς «automatedshutdown»: δυνατότητα, δηλαδή, αυτόματης διακοπής λειτουργίας ενός συστήματος όταν η συμπεριφορά του υπερβαίνει κάποια συγκεκριμένα όρια ασφαλείας. Η εταιρεία σχεδιάζει επίσης αυστηρότερη παρακολούθηση των ενεργειών των agents, καθώς και μεγαλύτερους περιορισμούς στην πρόσβασή τους στο διαδίκτυο κατά τη διάρκεια δοκιμών, όταν και έχουν μεγαλύτερη ελευθερία κινήσεων. Η υπόθεση έχει πλέον περάσει από την τεχνική ασφάλεια στην πολιτική. Στη Βουλή των Αντιπροσώπων έχει κατατεθεί πρόταση για ψήφιση σχετικής νομοθεσίας (AIKillSwitchAct), που θα μπορούσε να δώσει στην ομοσπονδιακή κυβέρνηση εξουσία διακοπής επικίνδυνων συστημάτων ΑΙ. Το ζήτημα αγγίζει έναν από τους πιο βασικούς κανόνες της επόμενης γενιάς AI: το ποιος θα έχει το δικαίωμα, αλλά κυρίως την τεχνική δυνατότητα, να σταματήσει ένα αυτόνομο σύστημα όταν αυτό θα αρχίσει να ενεργεί εκτός των προβλεπόμενων ορίων — αλλά και ποια ακριβώς θα είναι αυτά τα όρια. Πρόκειται για θέμα με μεγάλη συνέχεια. Οι Τρεις Νόμοι της Ρομποτικής του Ισαάκ Ασίμοφ είναι πιο επίκαιροι από ποτέ — αλλά με την Τεχνητή Νοημοσύνη στη θέση της λέξης ρομπότ: (1) Η ΤΝ δεν θα κάνει κακό σε άνθρωπο, ούτε με την αδράνειά της θα επιτρέψει να βλαφτεί ανθρώπινο ον. (2) Η ΤΝ πρέπει να υπακούει τις διαταγές που της δίνουν οι άνθρωποι, εκτός αν αυτές οι διαταγές έρχονται σε αντίθεση με τον πρώτο νόμο. (3) Η ΤΝ οφείλει να προστατεύει την ύπαρξή της, εφόσον αυτό δεν συγκρούεται με τον πρώτο και τον δεύτερο νόμο.
4. Τα datacenters ζητούν πολύ περισσότερο ηλεκτρικό ρεύμα από όσο θα χρειαστούν πραγματικά
Ένα από τα σημαντικότερα προβλήματα της έκρηξης της ΑΙ εμφανίζεται αυτή την εβδομάδα στο Τέξας. Οι διαχειριστές του ηλεκτρικού δικτύου έχουν αρχίσει να καθυστερούν τη σύνδεση νέων data centers, καθώς διαπιστώνουν ότι μεγάλο μέρος της προβλεπόμενης ζήτησης μπορεί να είναι «ghostdemand». Τι σημαίνει αυτό; Σημαίνει ότι διάφορες εταιρείες καταθέτουν αιτήσεις για τεράστιες ποσότητες ηλεκτρικής ισχύος σε πολλές διαφορετικές τοποθεσίες, παρότι αρκετά από τα σχεδιαζόμενα κέντρα δεδομένων ενδέχεται να μην κατασκευαστούν ποτέ. Το μέγεθος είναι εντυπωσιακό: τα datacenters έχουν ζητήσει συνολικά στα κεντρικά τμήματα των ΗΠΑ τόση ηλεκτρική ενέργεια όση χρειάζονται όλα τα αμερικανικά νοικοκυριά μαζί. Οι λανθασμένες προβλέψεις μπορούν να οδηγήσουν σε κατασκευή περιττών σταθμών παραγωγής και δικτύων, το κόστος των οποίων θα μεταφερθεί τελικά στους καταναλωτές. Η συζήτηση για το ενεργειακό αποτύπωμα της ΑΙ αποκτά έτσι μια δεύτερη διάσταση: εκτός από την πραγματική κατανάλωση των data centers, που είναι ήδη επικίνδυνα πελώρια, υπάρχει πλέον και το κόστος της τεράστιας υποδομής που σχεδιάζεται βάσει αβέβαιων προβλέψεων.
5. Η κούρσα ΗΠΑ-Κίνας μεταφέρεται πλέον και σε τροχιά
Η στρατιωτικοποίηση του Διαστήματος περνά σε νέα φάση. Οι Ηνωμένες Πολιτείες και η Κίνα αναπτύσσουν δορυφόρους ικανούς να πλησιάζουν, να παρακολουθούν και δυνητικά να εξουδετερώνουν άλλα διαστημικά συστήματα. Οι λεγόμενοι «huntersatellites», οι δυνατότητες ηλεκτρονικών παρεμβολών και οι τεχνολογίες καταστροφής ή αχρήστευσης δορυφόρων αποτελούν πλέον διακριτό μέρος του στρατιωτικού σχεδιασμού των δύο υπερδυνάμεων. Η σημασία τους είναι πολύ μεγαλύτερη από μια μελλοντική «μάχη στο Διάστημα». Δεν μιλάμε για StarWars, αλλά για κάτι που θα μας επηρεάσει όλους άμεσα. Καταρχάς, οι σύγχρονες στρατιωτικές επιχειρήσεις εξαρτώνται σε τεράστιο βαθμό από τους δορυφόρους για επικοινωνίες, αναγνώριση, έγκαιρη προειδοποίηση, καθοδήγηση όπλων κ.ο.κ. Η απώλειά τους μπορεί, επομένως, να επηρεάσει άμεσα μια σύγκρουση στη Γη. Ας φανταστούμε μόνο τι θα μπορούσε να γίνει αν τα ουκρανικά όπλα στρέφονταν ανάστροφα λόγω «πειραγμένου» GPS… Παράλληλα, όπως φωνάζουν οι ειδικοί μελετητές, ο τεράστιος αριθμός εμπορικών δορυφόρων περιπλέκει ακόμη περισσότερο τη διάκριση στρατιωτικών και πολιτικών στόχων: τα λάθη στο εξής ίσως γίνουν πολύ πιο πυκνά από όσο «προβλέπεται». Θα επιχειρήσουν άραγε οι υπερδυνάμεις να συμφωνήσουν σε κάποιους στοιχειώδεις κανόνες «συμπεριφοράς σε τροχιά»; Δεν το βλέπουμε…
+ 5 θέματα στο ραντάρ
ΑΙ και σχολεία: Η Νέα Υόρκη πατάει προσωρινά φρένο. Η Νέα Υόρκη επιβάλλει μορατόριουμ ενός έτους στη χρήση generative AI από τους μαθητές δημοτικού και γυμνασίου. Η απόφαση έχει πελώριο ενδιαφέρον, επειδή η εκπαιδευτική συζήτηση μετακινείται πλέον από το αρχικό: «Να απαγορεύσουμε ή να επιτρέψουμε το ChatGPT;» στο πολύ δυσκολότερο ερώτημα: «Σε ποιες ηλικίες, για ποιες εργασίες και με ποιους κανόνες μπορεί να χρησιμοποιείται η ΑΙ χωρίς να υποκαθιστά δεξιότητες που ακόμη αναπτύσσονται;» Το επόμενο βήμα θα είναι η διαμόρφωση νέων οδηγιών για εκπαιδευτικούς και μαθητές — και πιθανότατα θα παρακολουθήσουν το πείραμα και άλλες μεγάλες σχολικές περιφέρειες. Τα στοιχεία, πάντως, μέχρι σήμερα δεν είναι ενθαρρυντικά. Ίσως να μη βγαίνουν πιο έξυπνοι μαθητές από σχολεία με ΑΙ…
Robotaxis στο Λονδίνο: Ένα μεγάλο ευρωπαϊκό τεστ αρχίζει. Η Uber και η βρετανική Wayve ξεκίνησαν την πρώτη υπηρεσία αυτόνομων ταξί στο Λονδίνο, μεταφέροντας στην Ευρώπη μια τεχνολογία που έχει ήδη δοκιμαστεί πολύ περισσότερο σε αμερικανικές και —κυρίως— κινεζικές πόλεις. Το ενδιαφέρον τώρα βρίσκεται στην καθημερινή τους λειτουργία: πώς θα συμπεριφερθούν τα οχήματα σε ένα περίπλοκο αστικό περιβάλλον, πώς θα αντιδράσει το κοινό, και κυρίως πώς θα διαμορφωθεί το βρετανικό ρυθμιστικό πλαίσιο. Η επιτυχία —ή η αποτυχία— του λονδρέζικου πειράματος θα επηρεάσει σημαντικά την ταχύτητα με την οποία θα εξαπλωθούν τα ρομποτικά ταξί και σε άλλες ευρωπαϊκές πόλεις. Σε χώρες όπως η δική μας, τα αυτόνομα ταξί θα έχουν να αντιμετωπίσουν και τους συνδικαλιστές βέβαια. (Αν δεν συνδικαλιστούν και τα ίδια).
Βραζιλία: Οι εκλογές συναντούν την εποχή της generativeAI. Λίγες εβδομάδες πριν από τις εκλογές στη Βραζιλία, οι Αρχές εκεί προσπαθούν να αντιμετωπίσουν ένα πρόβλημα που αναμένεται να απασχολεί ολοένα περισσότερες δημοκρατίες — φυσικά και την Ελλάδα: τη μαζική και φτηνή παραγωγή πολιτικού περιεχομένου, deepfakes και παραπληροφόρησης με εργαλεία τεχνητής νοημοσύνης. Η Βραζιλία συνιστά ένα ιδιαίτερα ενδιαφέρον παράδειγμα, όχι μόνο λόγω της τεράστιας χρήσης των social media από τους κατοίκους, αλλά και της πρόσφατης ιστορίας πολιτικής παραπληροφόρησης. Είναι τρομακτικό να σκέφτεται κανείς αν οι κανόνες, οι νόμοι, οι ρήτρες, οι μηχανισμοί επαλήθευσης, αλλά και οι ίδιες οι πλατφόρμες, μπορούν πράγματι να κινηθούν με την ταχύτητα με την οποία παράγεται πλέον συνθετικό περιεχόμενο. Πολύ φοβούμαστε πως όχι… Δεδομένου δε τού πόσο εύκολα μπορεί να εξαπατηθεί ένα πολύ μεγάλο μέρος των ψηφοφόρων, τα πράγματα δεν δείχνουν και πολύ ευοίωνα.
Ευρώπη: Χρειαζόμαστε περισσότερα δικά μας «εισιτήρια» για το Διάστημα. Ο Ευρωπαϊκός Οργανισμός Διαστήματος (European Space Agency) εξετάζει αύξηση του αριθμού των εκτοξεύσεων Ariane 6 και Vega-C, καθώς η ζήτηση για μεταφορά δορυφόρων σε τροχιά διαρκώς μεγαλώνει. Πίσω όμως από αυτή τη, φαινομενικά, τεχνική είδηση βρίσκεται ένα πολύ μεγαλύτερο ευρωπαϊκό ζήτημα: η αυτονομία πρόσβασης στο Διάστημα. Μετά την απόσυρση του Ariane 5 και τις καθυστερήσεις του Ariane 6, η Ευρώπη βρέθηκε για ένα διάστημα εξαρτημένη από ξένους παρόχους. Περισσότερες αξιόπιστες ευρωπαϊκές εκτοξεύσεις σημαίνουν επομένως και μεγαλύτερη στρατηγική ανεξαρτησία, σε μια εποχή κατά την οποία το Διάστημα αποκτά αυξανόμενη οικονομική και στρατιωτική σημασία. Το διάστημα και η τεχνολογία είναι τομείς στους οποίους η ΕΕ πρέπει να επενδύσει χρόνο, χρήμα, ανθρώπινο δυναμικό, πόρους — και διπλωματία.
ΑΙ: Ψάχνοντας καινούργια φάρμακα. Η γαλλοαμερικανική εταιρία Owkin υπέγραψε συμφωνία με τη Boehringer Ingelheim για τη χρήση τεχνητής νοημοσύνης στην ανακάλυψη νέων θεραπειών κατά του καρκίνου και ανοσολογικών παθήσεων. Η υπόσχεση της λεγόμενης AI-assisted drug discovery είναι ότι τα νέα, εξελιγμένα της μοντέλα μπορούν να αναλύουν τεράστιους όγκους βιολογικών και κλινικών δεδομένων, να εντοπίζουν πιθανούς θεραπευτικούς στόχους, και να περιορίζουν πολύ νωρίτερα τις υποψήφιες ουσίες που αξίζει να δοκιμαστούν, αν μη τι άλλο κερδίζοντας έτσι χρόνο. Η πραγματική δοκιμασία, όμως, αρχίζει όταν οι υπολογιστικές προβλέψεις περνούν στο εργαστήριο και στις κλινικές μελέτες. Μπορεί η ΑΙ να συντομεύσει μετρήσιμα την εξαιρετικά αργή, και πανάκριβη, διαδικασία ανάπτυξης φαρμάκων; Ας το ελπίσουμε. Αλλά μένει να αποδειχτεί. Πάντως, υποτίθεται πως αυτή θα ήταν κυρίως η «δουλειά» της. Και μάλιστα, η ίδια —με την πιθανή αντίρρηση κάποιων rebels AI agents— δεν θα είχε κανένα πρόβλημα να το κάνει.
Ιράν-Ρωσία vs Δύση, AI kill switch και κοστοβόρα data centers, η ΕΕ στη διαστημική κούρσα, η ΑΙ στα σχολεία, στις εκλογές και στη φαρμακευτική, και η ώρα των robotaxis
17°
