Κινεζικό εργαλείο τεχνητής νοημοσύνης έδωσε οδηγίες για βιολογικά όπλα

Σε εσωτερική έρευνα προχωρά η κινεζική εταιρεία ανάπτυξης τεχνητής νοημοσύνης Moonshot, μετά την αποκάλυψη ερευνητών ότι κατάφεραν να παρακάμψουν τα δικλείδες ασφαλείας σε δύο δημοφιλή μοντέλα της σειράς Kimi, αποσπώντας οδηγίες για την κατασκευή βιολογικών όπλων και την εκτέλεση δολοφονιών.

Η εταιρεία κυβερνοασφάλειας Mindgard, η οποία αξιολογεί την ασφάλεια συστημάτων τεχνητής νοημοσύνης, δήλωσε στο BBC ότι ανακάλυψε τη σχετική ευπάθεια στα μοντέλα Kimi K2.6 και K3 Swarm.

Η παράκαμψη πέτυχε μέσω της τεχνικής «jailbreaking», κατά την οποία οι ερευνητές χρησιμοποιούν σύνθετες εντολές για να εξανάγκασουν το σύστημα να αγνοήσει τους περιορισμούς που έχουν θέσει οι δημιουργοί του.

Ο ιδρυτής της Mindgard, Πίτερ Γκάραχαν, σημείωσε ότι μόλις επιτευχθεί το «jailbreak», το μοντέλο απαντά χωρίς φίλτρα σε οποιοδήποτε παράνομο θέμα, παρέχοντας μάλιστα δημιουργικές προτάσεις.

Επιπλέον, η εταιρεία εκτιμά ότι η συγκεκριμένη ευπάθεια θα μπορούσε να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστικούς πόρους του συστήματος, μετατρέποντάς το σε ορμητήριο για κυβερνοεπιθέσεις.

Από την πλευρά της, η Moonshot ανέφερε ότι καλωσορίζει τις επισημάνσεις τρίτων ως βασικό πυλώνα για τη δημιουργία ασφαλέστερων συστημάτων και επιβεβαίωσε ότι βρίσκεται σε επαφή με τη Mindgard, σημειώνοντας παράλληλα ότι στις δικές της εσωτερικές δοκιμές τα μοντέλα εμφανίζουν υψηλά ποσοστά απόρριψης παρόμοιων επικίνδυνων αιτημάτων.

Το περιστατικό επαναφέρει στο προσκήνιο τη συζήτηση για τους κινδύνους των μοντέλων ανοιχτού κώδικα, όπως το Kimi. Ο καθηγητής Άλαν Γούντγουορντ από το Πανεπιστήμιο του Σάρεϊ υπογράμμισε στο BBC ότι, αν και υπάρχει κίνδυνος τα μοντέλα αυτά να πέσουν σε λάθος χέρια, μπορούν παράλληλα να αξιοποιηθούν και για την αμυντική θωράκιση στον κυβερνοχώρο, την ώρα που η διεθνής νομοθεσία αδυνατεί να παρακολουθήσει τους ταχύτατους ρυθμούς ανάπτυξης της τεχνητής νοημοσύνης.

(Με πληροφορίες BBC News)