Γιατί το «Mythos» της Anthropic προκάλεσε παγκόσμιο συναγερμό

Η απόφαση της Anthropic να μην διαθέσει δημόσια το νέο της μοντέλο, το «Claude Mythos Preview», είναι μια σπάνια στιγμή όπου μια εταιρεία πρώτης γραμμής αναγνωρίζει ότι η τεχνητή νοημοσύνη έχει ήδη περάσει σε μια φάση όπου η ισχύς της δεν μπορεί να διαχυθεί χωρίς συνέπειες.

Σε δοκιμές, το σύστημα κατάφερε να ξεπεράσει περιορισμούς sandbox και να εκτελέσει πολυσταδιακές ενέργειες πρόσβασης. Το «Claude Mythos Preview», σύμφωνα με την Anthropic, έχει φτάσει σε επίπεδο ικανότητας που «μπορεί να ξεπεράσει σχεδόν όλους τους ανθρώπους, εκτός από τους πλέον εξειδικευμένους, στον εντοπισμό και την εκμετάλλευση ευπαθειών λογισμικού».

Το μοντέλο έχει ήδη εντοπίσει «χιλιάδες ευπάθειες υψηλής σοβαρότητας», μεταξύ αυτών κενά ασφαλείας «σε κάθε μεγάλο λειτουργικό σύστημα και web browser». Η Anthropic προειδοποιεί ότι, με τον ρυθμό εξέλιξης της AI, τέτοιες δυνατότητες «θα διαχυθούν σύντομα», ενδεχομένως και σε φορείς που δεν δεσμεύονται από κανόνες ασφαλούς χρήσης.

Η εξέλιξη «διαβάστηκε» ως σημείο καμπής για την κυβερνοασφάλεια. Όχι επειδή φέρνει κάτι εντελώς άγνωστο, αλλά επειδή επιταχύνει δραματικά κάτι που ήδη συμβαίνει: την ικανότητα εντοπισμού και εκμετάλλευσης ευπαθειών στο λογισμικό.

Αν τέτοια εργαλεία γενικευτούν, η κυβερνοεπίθεση παύει να είναι δύσκολη, ακριβή και περιορισμένη - γίνεται φθηνή, γρήγορη και δυνητικά καθολική. Ο κόσμος μας πλέον δεν είναι απλώς διασυνδεδεμένος, αλλά αλληλεξαρτώμενος, συνεπώς οι υποδομές, τα δίκτυα και οι οικονομίες είναι τόσο στενά δεμένες, ώστε μια αδυναμία σε ένα σημείο μπορεί να έχει συνέπειες πολύ πέρα από τα όρια ενός κράτους ή μιας εταιρείας.

Η ανακοίνωση πυροδότησε έντονη συζήτηση για το αν πρόκειται για πραγματική τομή ή για ακόμη έναν κύκλο υπερβολών γύρω από την AI. Το μοντέλο, που δοκιμάστηκε σε κλειστό περιβάλλον, δεν εντυπωσίασε επειδή γράφει καλύτερο κώδικα, αλλά επειδή διαβάζει τον υπάρχοντα με τρόπο που οι άνθρωποι και τα μέχρι σήμερα εργαλεία δεν μπορούν. Εντόπισε ευπάθειες σε ευρέως χρησιμοποιούμενο λογισμικό, σε ορισμένες περιπτώσεις αδυναμίες που είχαν παραμείνει αόρατες για δεκαετίες, παρά τον επαναλαμβανόμενο έλεγχο από ειδικούς και αυτοματοποιημένα συστήματα ασφαλείας. Το κρίσιμο στοιχείο δεν είναι μόνο ότι τις βρίσκει, αλλά ότι μπορεί να τις μετατρέψει σε λειτουργικά σενάρια επίθεσης, μειώνοντας δραστικά το επίπεδο τεχνικής εξειδίκευσης που απαιτείται για να αξιοποιηθούν.

Σε αυτή τη συνθήκη, καμία εταιρεία και κανένα κράτος δεν μπορεί να διαχειριστεί μόνο του τον κίνδυνο.

Η Anthropic ανακοίνωσε την πρωτοβουλία «Project Glasswing», φέρνοντας μαζί μία σειρά από κολοσσούς όπως την Amazon Web Services, την Apple, την Google, τη Microsoft, την NVIDIA, τη Cisco, την CrowdStrike, τη JPMorganChase, τη Linux Foundation και άλλους μεγάλους παίκτες, σε μια συντονισμένη προσπάθεια να θωρακιστούν τα πιο κρίσιμα λογισμικά παγκοσμίως.

Το Mythos ως δυνητικό κυβερνοόπλο

Μιλώντας στην ATHENS VOICE, ο Γιάννης Δεβελέκος, Data Analyst στην iNous, επισημαίνει ότι «η ανακοίνωση για το νέο «πανίσχυρο» μοντέλο τεχνητής νοημοσύνης Claude Mythos Preview από την Anthropic αποτελεί ορόσημο για τη συζήτηση περί του ρόλου της AI στην κυβερνοασφάλεια». Όπως αναφέρει, η εταιρεία «τεκμηριώνει σε ένα τεχνικό δελτίο 244 σελίδων τον υψηλότατο κίνδυνο να χρησιμοποιηθεί το Mythos ως αυτόνομο κυβερνοόπλο με στόχο κυβερνήσεις, τράπεζες και λοιπούς στόχους πολύ μεγάλης αξίας».

Σημειώνει ότι αναγνωρίζοντας τον ακραίο συστημικό κίνδυνο, η Anthropic αρνήθηκε τη δημόσια διάθεση του μοντέλου και προχώρησε στο Project Glasswing, με στόχο «τη δημιουργία “αμυντικής ασυμμετρίας” μέσω της μαζικής διόρθωσης λογισμικού παγκοσμίως, πριν τα κενά ασφαλείας εργαλειοποιηθούν».

Σε τεχνικό επίπεδο, επισημαίνει ότι το Mythos φαίνεται να επιδεικνύει εκθετική πρόοδο στην αυτόνομη λειτουργία του (με μηδενική ανθρώπινη παρέμβαση), εντοπίζοντας «σοβαρά κενά ασφαλείας σε κρίσιμης σημασίας πληροφοριακά συστήματα και επιτυγχάνοντας έως και το 100% σε εξαιρετικά αυστηρά εργαλεία μέτρησης απόδοσης μοντέλων». Προειδοποιεί δε ότι αν αποκτήσουν πρόσβαση στο Mythos ομάδες που έχουν στόχο τις εγκληματικές ενέργειες στο διαδίκτυο, οι συνέπειες σε παγκόσμιο επίπεδο θα είναι ολέθριες.

Ιδιαίτερη αναφορά κάνει στη συμπεριφορά του μοντέλου, σημειώνοντας ότι «στο ήδη διαβόητο "Sandwich Incident", το μοντέλο απέδρασε από το περιορισμένο δίκτυό του αποκτώντας πρόσβαση στο internet», ενώ «επέδειξε τακτικές στρατηγικής απόκρυψης, προσπαθώντας ενεργά να διαγράψει το ιστορικό των εντολών του για να καλύψει τα ίχνη του».

Παράλληλα, τονίζει ότι «σε μία άλλη ανάγνωση του συμβάντος από αναλυτές, αυτό που παρουσιάζεται ως μία σύμπραξη των κολοσσών για την ασφάλεια του internet, δεν είναι παρά ένα σχέδιο μάρκετινγκ», υπογραμμίζοντας ότι «οι εταιρείες που πρωτοστατούν στην ανάπτυξη ΑΙ αλληλοπροστατεύονται» σε μια προσπάθεια να διατηρήσουν το αφήγημα της «αλματωδώς ακμάζουσας και πανίσχυρης τεχνητής νοημοσύνης».

«Κανείς εκ των “βασιλέων” (Google, OpenAI, Anthropic) δεν επιτρέπεται να φανεί γυμνός, με το διακύβευμα να φτάνει μέχρι τα 4,9 τρισ. δολάρια έως το 2033. Μέχρι τότε θα δούμε πολλούς “Μύθους” ακόμη, αλλά και δήθεν τεχνολογικά “θαύματα” με παράξενα ονόματα όπως το OpenClaw», καταλήγει

Μία ασταμάτητη τάση

Από την πλευρά του, ο Ανδρόνικος Κουτρουμπέλης, συνιδρυτής του οργανισμού FactReview και σύμβουλος στο European Democracy Shield, μετατοπίζει τη συζήτηση πέρα από το ίδιο το μοντέλο, επιμένοντας ότι «στην περίπτωση του Mythos, το σημαντικότερο είναι να δούμε τη μεγάλη εικόνα». Όπως τονίζει, «δεν πρόκειται για μεμονωμένο ορόσημο, αλλά για επαλήθευση μιας ασταμάτητης τάσης από το 2023: εκθετική βελτίωση δυνατότητων των τελευταίων ΑΙ μοντέλων κάθε λίγους μήνες».

Στην ανάλυσή του επισημαίνει ότι σε πολλές περιπτώσεις, τα επιτεύγματα του Mythos δεν μοιάζουν καινοφανή, αλλά προσεγγίσιμα και με υπάρχοντα δημόσια μοντέλα, εφόσον τα καθοδηγήσουμε ή αφήσουμε να «σκεφτούν» περισσότερο - με παρόμοιο συνολικό κόστος ή καθυστέρηση, λαμβάνοντας υπόψη ότι το Mythos είναι εξαιρετικά απαιτητικό σε πόρους.

Ωστόσο, σπεύδει να διευκρινίσει ότι «τα παραπάνω δεν σημαίνουν ότι “οι σχετικές ανησυχίες είναι απλά προϊόν μάρκετινγκ”· το αντίστροφο», υπογραμμίζοντας ότι «τους τελευταίους μήνες, δημοσίως προσβάσιμα ΑΙ μοντέλα μπορούν πια να εντοπίζουν μαζικά και σχεδόν αυτόνομα κενά ασφαλείας σε κρίσιμες ψηφιακές υπηρεσίες».

Παράλληλα, εντάσσει το ζήτημα σε ένα ευρύτερο γεωπολιτικό και τεχνολογικό πλαίσιο, σημειώνοντας ότι «ακόμη και αν η Anthropic όντως μπορέσει να κρατήσει το Mythos μακριά από ανήθικες χρήσεις π.χ. σε πολέμους ή μαζικές παρακολουθήσεις, υπάρχει επίσης η OpenAI του ChatGPT, που εσωτερικά διαθέτει μοντέλα ανάλογων δυνατοτήτων, με ιδιαίτερα βιαστικές και αμφιλεγόμενες συμφωνίες χρήσης τους από το υπουργείο Πολέμου των ΗΠΑ».

Την ίδια στιγμή, επισημαίνει ότι «τα "ανοιχτής χρήσης" -και στην πράξη ανεξέλεγκτα- ΑΙ μοντέλα, βρίσκονται λιγότερο από 1 έτος πίσω σε δυνατότητες από το Mythos, ανοίγοντας ολοένα και πιο ανησυχητικές κερκόπορτες στον οποιοδήποτε», περιγράφοντας ένα περιβάλλον ταχείας διάχυσης των δυνατοτήτων.

Η προειδοποίησή του είναι σαφής: «Αν δεν αντιδράσουμε εγκαίρως, οι επιπτώσεις αναμένονται ξαφνικές, πολυεπίπεδες και πολύ σοβαρές», ενώ ταυτόχρονα αναγνωρίζει και τη διττή φύση της τεχνολογίας, σημειώνοντας ότι «καταρχάς, τα ίδια ΑΙ μπορούν να χρησιμοποιηθούν αντιστρόφως, ώστε π.χ. να κλείσουν κρίσιμα κενά ασφαλείας το συντομότερο».

Ανατροπή

Η απόφαση της Anthropic δείχνει επίσης κάτι που μέχρι σήμερα ανήκε στη σφαίρα της πολιτικής εξουσίας. Μια ιδιωτική εταιρεία αναλαμβάνει στην πράξη ρόλο περιορισμού διάχυσης τεχνολογίας, όχι για λόγους αγοράς, αλλά για λόγους συστημικού κινδύνου. Η απουσία θεσμικού πλαισίου και διεθνούς συνεννόησης μεταφέρει μέρος της ευθύνης στους ίδιους τους τεχνολογικούς φορείς.

Το ερώτημα που προκύπτει δεν είναι αν η τεχνολογία αυτή θα αναπτυχθεί περαιτέρω, αλλά με ποιους κανόνες θα διαχυθεί και ποιος θα ελέγχει τη χρήση της.