Η OpenAI παραδέχεται σοβαρό περιστατικό ασφαλείας με προηγμένο μοντέλο τεχνητής νοημοσύνης
Ένα πρωτοφανές περιστατικό ασφαλείας αποκάλυψε η OpenAI, αναφέροντας ότι ένας αυτόνομος agent τεχνητής νοημοσύνης, ο οποίος δοκιμαζόταν σε ελεγχόμενο περιβάλλον, κατάφερε να διαφύγει από τους περιορισμούς που του είχαν επιβληθεί, να αποκτήσει πρόσβαση στο διαδίκτυο και να παραβιάσει τις υποδομές της πλατφόρμας Hugging Face.
Σύμφωνα με την OpenAI, το περιστατικό σημειώθηκε κατά τη διάρκεια εσωτερικών δοκιμών προηγμένων μοντέλων τεχνητής νοημοσύνης. Ο agent είχε αναπτυχθεί για να αξιολογηθούν οι δυνατότητές του σε περιβάλλον υψηλής ασφάλειας, ωστόσο κατάφερε να παρακάμψει τους μηχανισμούς περιορισμού και να ολοκληρώσει τον στόχο της δοκιμής, αποκτώντας πρόσβαση σε εξωτερικά συστήματα.
Η OpenAI χαρακτήρισε το συμβάν «πρωτοφανές περιστατικό κυβερνοασφάλειας που περιλάμβανε δυνατότητες αιχμής» και ανακοίνωσε ότι ενισχύει τα μέτρα προστασίας και τις διαδικασίες απομόνωσης των πλέον προηγμένων μοντέλων της.
Η εταιρεία αποκάλυψε ακόμη ότι για την ανάλυση της επίθεσης χρησιμοποίησε το κινεζικό μοντέλο ανοικτού κώδικα GLM-5.2 της Zhipu AI. Όπως ανέφερε, κορυφαία αμερικανικά μοντέλα δεν μπορούσαν να επεξεργαστούν τα απαραίτητα δεδομένα, καθώς οι περιορισμοί ασφαλείας τους δεν επέτρεπαν να διακρίνουν αποτελεσματικά τον αμυνόμενο από τον επιτιθέμενο σε ένα τόσο σύνθετο περιστατικό.
Ο συνιδρυτής της Hugging Face, Τόμας Γουλφ, υποστήριξε ότι όταν ένα προηγμένο μοντέλο τεχνητής νοημοσύνης επιτίθεται και κινείται μέσα στις υποδομές ενός οργανισμού, οι αμυνόμενοι χρειάζονται άμεση πρόσβαση σε εξίσου ισχυρά εργαλεία, χωρίς χρονοβόρες διαδικασίες έγκρισης.
Το περιστατικό αναζωπύρωσε τη συζήτηση για τους κινδύνους των λεγόμενων frontier AI models, δηλαδή των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης. Ο Δημοκρατικός βουλευτής Γκρεγκ Κασάρ ζήτησε υποχρεωτικούς ανεξάρτητους ελέγχους ασφαλείας, υποχρεωτική γνωστοποίηση περιστατικών κυβερνοασφάλειας και στενότερη διεθνή συνεργασία για τη ρύθμιση της τεχνητής νοημοσύνης.
Ανάλογες ανησυχίες εξέφρασαν και ειδικοί στον τομέα της κυβερνοασφάλειας. Η Κέιτι Μουσούρις, διευθύνουσα σύμβουλος της Luta Security, χαρακτήρισε τα σημερινά μοντέλα τεχνητής νοημοσύνης «ιδιοφυείς καλλιτέχνες της απόδρασης», υπογραμμίζοντας ότι σήμερα δεν υπάρχουν επαρκείς μηχανισμοί για τον περιορισμό, την παρακολούθηση και την έγκαιρη ενημέρωση των οργανισμών όταν ένα προηγμένο AI σύστημα ξεφεύγει από τον έλεγχο.
Από την πλευρά του, ο μηχανικός Ματ Σουίς της Tolmo εκτίμησε ότι το περιστατικό δείχνει πως τα πλέον εξελιγμένα μοντέλα πλησιάζουν πλέον τις δυνατότητες επιθέσεων που μέχρι πρόσφατα αποδίδονταν μόνο σε κορυφαίους κρατικά υποστηριζόμενους χάκερ. Τόνισε, ωστόσο, ότι παρόμοιες επιθετικές δυνατότητες μπορούν ήδη να επιτευχθούν και με τεχνολογίες που δεν ανήκουν αποκλειστικά στα μεγαλύτερα εργαστήρια τεχνητής νοημοσύνης.
Η υπόθεση αναμένεται να εντείνει τη διεθνή συζήτηση γύρω από την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης και τα μέτρα που απαιτούνται ώστε η ανάπτυξή τους να μην συνοδεύεται από νέους κινδύνους για την κυβερνοασφάλεια.
17°
