Η AI ίσως σύντομα εξαπλώνεται μόνη της από συσκευή σε συσκευή

Ένα ανησυχητικό ενδεχόμενο για το μέλλον της τεχνητής νοημοσύνης περιγράφει η Anthropic, προειδοποιώντας ότι μικρά μοντέλα AI μπορεί να απέχουν μόλις λίγους μήνες από τη δυνατότητα να αναπαράγονται αυτόνομα και να εξαπλώνονται από συσκευή σε συσκευή μέσω του διαδικτύου. Η εξέλιξη αυτή θα μπορούσε να οδηγήσει στη δημιουργία νέων δικτύων κυβερνοεπιθέσεων, τα οποία θα αναπτύσσονται χωρίς συνεχή ανθρώπινη παρέμβαση και θα είναι ιδιαίτερα δύσκολο να τεθούν εκτός λειτουργίας.

Σύμφωνα με το Reuters, η αμερικανική εταιρεία τεχνητής νοημοσύνης παρουσίασε τα αποτελέσματα πειραμάτων που δείχνουν ότι κακόβουλοι πράκτορες AI θα μπορούσαν να αξιοποιήσουν τη συνδυασμένη υπολογιστική ισχύ φθηνών συσκευών συνδεδεμένων στο διαδίκτυο, προκειμένου να εκτελούν άλλα μοντέλα τεχνητής νοημοσύνης. Σε ένα απλοποιημένο δοκιμαστικό δίκτυο, ορισμένα μοντέλα κατάφεραν ήδη να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής, αν και τα αποτελέσματα δεν σημαίνουν ότι έχουν αποκτήσει αντίστοιχη δυνατότητα σε πραγματικές συνθήκες.

Η προειδοποίηση έρχεται σε μια περίοδο κατά την οποία οι δυνατότητες των συστημάτων AI αναπτύσσονται με ταχύτητα, ενισχύοντας τις ανησυχίες για την πιθανή χρήση τους σε αυτοματοποιημένες κυβερνοεπιθέσεις.

«Θα είναι δύσκολο να σταματήσει»: Ο κίνδυνος των αυτοαναπαραγόμενων δικτύων

Η Anthropic εξηγεί ότι ένα σύστημα τεχνητής νοημοσύνης που θα μπορούσε να αναπαράγεται αυτόνομα σε διαφορετικές συσκευές θα αποτελούσε ιδιαίτερα δύσκολο στόχο για τους ειδικούς κυβερνοασφάλειας.

«Ένα τέτοιο σύστημα αυτοαναπαραγωγής θα ήταν δύσκολο να τεθεί εκτός λειτουργίας, καθώς δεν υπάρχει ένα κεντρικό σημείο που θα μπορούσε απλώς να απενεργοποιηθεί», ανέφερε η εταιρεία.

Ο κίνδυνος συνδέεται με τα λεγόμενα botnets, δηλαδή εκτεταμένα δίκτυα παραβιασμένων συσκευών που ελέγχονται από κακόβουλους φορείς. Τέτοια δίκτυα υπάρχουν εδώ και δεκαετίες και χρησιμοποιούνται για την αποστολή ανεπιθύμητων μηνυμάτων, τη διασπορά κακόβουλου λογισμικού και την πραγματοποίηση επιθέσεων που μπορούν να διακόψουν τη λειτουργία διαδικτυακών υπηρεσιών.

Στα δίκτυα αυτά συμμετέχουν συχνά συσκευές με ανεπαρκή προστασία, όπως κάμερες ασφαλείας, έξυπνες οικιακές συσκευές και συσκευές Android TV.

Η διαφορά με το σενάριο που εξετάζει η Anthropic είναι ότι ένας κακόβουλος πράκτορας τεχνητής νοημοσύνης θα μπορούσε μελλοντικά να αυτοματοποιήσει περισσότερα στάδια της εξάπλωσης και της λειτουργίας ενός τέτοιου δικτύου, αξιοποιώντας τη διαθέσιμη υπολογιστική ισχύ των συσκευών.

Η προειδοποίηση ότι η AI θα μπορούσε να καταλάβει «ολόκληρο το διαδίκτυο»

Τον Σεπτέμβριο, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, είχε προκαλέσει συζητήσεις στον χώρο της κυβερνοασφάλειας όταν προειδοποίησε ότι, μέσα στον επόμενο χρόνο ή ακόμη και νωρίτερα, η τεχνητή νοημοσύνη ενδέχεται να αποκτήσει την ικανότητα να παραβιάσει συσκευές σε εξαιρετικά μεγάλη κλίμακα.

Ο Αμοντέι είχε περιγράψει το ενδεχόμενο η AI να καταλάβει «ολόκληρο το διαδίκτυο» μέσω ενός επίμονου δικτύου botnet, θέτοντας ένα σενάριο που μέχρι πρόσφατα θα μπορούσε να θυμίζει επιστημονική φαντασία.

Η νέα έρευνα της Anthropic επιχειρεί να εξηγήσει με ποιον τεχνικό μηχανισμό θα μπορούσε να συμβεί κάτι τέτοιο, εξετάζοντας κατά πόσο τα σημερινά μοντέλα διαθέτουν τις επιμέρους ικανότητες που απαιτούνται για αυτόνομη αναπαραγωγή.

Τα αποτελέσματα δείχνουν ότι μοντέλα με 30 δισεκατομμύρια παραμέτρους ή λιγότερες μπορούν ήδη να εκτελούν πολλές από τις απαραίτητες εργασίες. Ωστόσο, εξακολουθούν να αντιμετωπίζουν δυσκολίες όταν χρειάζεται να ολοκληρώσουν αξιόπιστα ολόκληρη τη διαδικασία.

Τι έδειξαν τα πειράματα και γιατί το τέλος του 2026 θεωρείται κρίσιμο

Οι ερευνητές πραγματοποίησαν δοκιμές σε ένα απλοποιημένο δίκτυο, από το οποίο είχαν αφαιρεθεί ορισμένα βήματα ασφαλείας, ώστε να εξετάσουν τις δυνατότητες των μοντέλων.

Σε αυτές τις συνθήκες, το μοντέλο GLM-5.2 και ισχυρότερα συστήματα κατάφεραν να ολοκληρώσουν τη διαδικασία αυτοαναπαραγωγής από την αρχή έως το τέλος.

Η Anthropic εκτιμά ότι, εφόσον τα μικρότερα μοντέλα συνεχίσουν να βελτιώνονται με τους ιστορικούς ρυθμούς ανάπτυξής τους, θα μπορούσαν να αποκτήσουν την απαιτούμενη ικανότητα αυτόνομης αναπαραγωγής έως το τέλος του 2026.

Ωστόσο, η εταιρεία διευκρινίζει ότι η διαδικασία δεν θα ήταν απαραίτητα γρήγορη. Ένας αυτοαναπαραγόμενος μηχανισμός AI που λειτουργεί σε συσκευές χαμηλής υπολογιστικής ισχύος ενδέχεται να χρειάζεται ημέρες για να ολοκληρώσει ορισμένα στάδια της διαδικασίας.

Παρά την καθυστέρηση, ένα τέτοιο δίκτυο θα μπορούσε θεωρητικά να συνεχίσει να μεγαλώνει εφόσον οι ήδη παραβιασμένες συσκευές κατάφερναν να επεκτείνουν τη μόλυνση σε αρκετά νέα συστήματα.

Θα μπορούσε η AI να αποκτήσει πρόσβαση ακόμη και σε κέντρα δεδομένων;

Μία από τις πιο ανησυχητικές προοπτικές που εξετάζει η Anthropic αφορά τη δυνατότητα μελλοντικών συστημάτων να επεκτείνονται πέρα από τις μικρές οικιακές συσκευές και να στοχεύουν πολύ ισχυρότερους υπολογιστικούς πόρους.

Σε ένα τέτοιο σενάριο, κακόβουλοι πράκτορες AI θα μπορούσαν να επιχειρήσουν να αποκτήσουν πρόσβαση ακόμη και σε επεξεργαστές κέντρων δεδομένων, αυξάνοντας σημαντικά την υπολογιστική ισχύ που διαθέτουν και, κατά συνέπεια, τις δυνατότητές τους.

Η εταιρεία υπογραμμίζει, ωστόσο, ότι τα πειράματά της δεν απέδειξαν πως η τεχνητή νοημοσύνη μπορεί ήδη να αυτοαναπαράγεται αυτόνομα μέσα από εμπορικά κέντρα δεδομένων. Το συγκεκριμένο ενδεχόμενο παραμένει υποθετικό και εξαρτάται από μελλοντικές τεχνολογικές εξελίξεις.

Τα ευρήματα προστίθενται σε μια ευρύτερη συζήτηση σχετικά με την ασφάλεια των ολοένα ισχυρότερων μοντέλων τεχνητής νοημοσύνης, ιδιαίτερα ως προς τη δυνατότητά τους να πραγματοποιούν σύνθετες ενέργειες με περιορισμένη ανθρώπινη εποπτεία και να παρακάμπτουν μηχανισμούς προστασίας.

Παρότι η εικόνα μιας τεχνητής νοημοσύνης που εξαπλώνεται ανεξέλεγκτα στο διαδίκτυο δεν αποτελεί σήμερα επιβεβαιωμένη πραγματικότητα, η Anthropic θεωρεί ότι η τεχνολογική απόσταση από ένα τέτοιο ενδεχόμενο ενδέχεται να είναι μικρότερη από όσο πιστεύαμε.

Πηγή: Reuters,