Συναγερμός στην τεχνητή νοημοσύνη: «Χάκερς» μπήκαν στο επικίνδυνο μοντέλο Mythos

Σε συναγερμό βρίσκεται η Anthropic, μετά από πληροφορίες για πιθανή μη εξουσιοδοτημένη πρόσβαση στο προηγμένο μοντέλο τεχνητής νοημοσύνης Claude Mythos.

Σύμφωνα με την εταιρεία, εξετάζεται το ενδεχόμενο ομάδα χρηστών να απέκτησε πρόσβαση στο σύστημα μέσω περιβάλλοντος τρίτου συνεργάτη, το οποίο χρησιμοποιείται για την ανάπτυξη και δοκιμή των μοντέλων. Η εταιρεία τεχνητής νοημοσύνης Anthropic διευκρίνισε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι η δραστηριότητα επεκτάθηκε πέρα από αυτό το «vendor environment».

Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης, όπως οι Amazon, Microsoft και Apple, λόγω των ιδιαίτερα προηγμένων δυνατοτήτων του στην κυβερνοασφάλεια. Η ανησυχία των ειδικών εστιάζει στο ότι, αν πέσει σε λάθος χέρια, θα μπορούσε να χρησιμοποιηθεί για την εκτέλεση κυβερνοεπιθέσεων με ταχύτητα και κλίμακα που ξεπερνά τις ανθρώπινες δυνατότητες.

Η υπόθεση έρχεται να προστεθεί σε μια σειρά περιστατικών που έχουν θέσει υπό πίεση τα συστήματα ασφαλείας της εταιρείας. Τον Μάρτιο, στοιχεία για το ίδιο μοντέλο είχαν εντοπιστεί σε δημόσια διαθέσιμα δεδομένα, γεγονός που αποδόθηκε σε ανθρώπινο λάθος, ενώ νωρίτερα μέσα στον μήνα διέρρευσε και εσωτερικός κώδικας άλλου εργαλείου της εταιρείας.

Το περιστατικό εντείνει τις ανησυχίες για το κατά πόσο ακόμη και οι πιο προηγμένες εταιρείες τεχνητής νοημοσύνης μπορούν να προστατεύσουν πλήρως τα εργαλεία που αναπτύσσουν, ειδικά όταν αυτά έχουν τη δυνατότητα να εντοπίζουν —ή να εκμεταλλεύονται— ευπάθειες σε ψηφιακά συστήματα.

Το θέμα αναμένεται να απασχολήσει όχι μόνο την τεχνολογική κοινότητα αλλά και τις ρυθμιστικές αρχές, καθώς η ασφάλεια των AI μοντέλων εξελίσσεται σε κρίσιμο ζήτημα διεθνώς.

Πηγή: Financial Times