Τεχνολογια - Επιστημη

Κινεζικό εργαλείο τεχνητής νοημοσύνης έδωσε οδηγίες για βιολογικά όπλα

Έρευνα στην εταιρεία Moonshot μετά την παραβίαση ορίων ασφαλείας

Athens Voice News
Newsroom
1’ ΔΙΑΒΑΣΜΑ
Έρευνα ασφαλείας αποκάλυψε ότι μοντέλα AI της κινεζικής Moonshot παρέκαμψαν τα πρωτόκολλα, δίνοντας οδηγίες για βιολογικά όπλα και δολοφονίες.
Κινεζικό εργαλείο τεχνητής νοημοσύνης αποκάλυψε επικίνδυνες πληροφορίες σε ερευνητές ασφαλείας © Envato
  • Athens Voice News
    Newsroom
  • 1’ ΔΙΑΒΑΣΜΑ

Eπιλογές

Έρευνα ασφαλείας αποκάλυψε ότι μοντέλα AI της κινεζικής Moonshot παρέκαμψαν τα πρωτόκολλα, δίνοντας οδηγίες για βιολογικά όπλα και δολοφονίες.

Σε εσωτερική έρευνα προχωρά η κινεζική εταιρεία ανάπτυξης τεχνητής νοημοσύνης Moonshot, μετά την αποκάλυψη ερευνητών ότι κατάφεραν να παρακάμψουν τα δικλείδες ασφαλείας σε δύο δημοφιλή μοντέλα της σειράς Kimi, αποσπώντας οδηγίες για την κατασκευή βιολογικών όπλων και την εκτέλεση δολοφονιών.

Η εταιρεία κυβερνοασφάλειας Mindgard, η οποία αξιολογεί την ασφάλεια συστημάτων τεχνητής νοημοσύνης, δήλωσε στο BBC ότι ανακάλυψε τη σχετική ευπάθεια στα μοντέλα Kimi K2.6 και K3 Swarm.

Η παράκαμψη πέτυχε μέσω της τεχνικής «jailbreaking», κατά την οποία οι ερευνητές χρησιμοποιούν σύνθετες εντολές για να εξανάγκασουν το σύστημα να αγνοήσει τους περιορισμούς που έχουν θέσει οι δημιουργοί του.

Ο ιδρυτής της Mindgard, Πίτερ Γκάραχαν, σημείωσε ότι μόλις επιτευχθεί το «jailbreak», το μοντέλο απαντά χωρίς φίλτρα σε οποιοδήποτε παράνομο θέμα, παρέχοντας μάλιστα δημιουργικές προτάσεις.

Επιπλέον, η εταιρεία εκτιμά ότι η συγκεκριμένη ευπάθεια θα μπορούσε να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστικούς πόρους του συστήματος, μετατρέποντάς το σε ορμητήριο για κυβερνοεπιθέσεις.

Από την πλευρά της, η Moonshot ανέφερε ότι καλωσορίζει τις επισημάνσεις τρίτων ως βασικό πυλώνα για τη δημιουργία ασφαλέστερων συστημάτων και επιβεβαίωσε ότι βρίσκεται σε επαφή με τη Mindgard, σημειώνοντας παράλληλα ότι στις δικές της εσωτερικές δοκιμές τα μοντέλα εμφανίζουν υψηλά ποσοστά απόρριψης παρόμοιων επικίνδυνων αιτημάτων.

Σχετικό Άρθρο

Το περιστατικό επαναφέρει στο προσκήνιο τη συζήτηση για τους κινδύνους των μοντέλων ανοιχτού κώδικα, όπως το Kimi. Ο καθηγητής Άλαν Γούντγουορντ από το Πανεπιστήμιο του Σάρεϊ υπογράμμισε στο BBC ότι, αν και υπάρχει κίνδυνος τα μοντέλα αυτά να πέσουν σε λάθος χέρια, μπορούν παράλληλα να αξιοποιηθούν και για την αμυντική θωράκιση στον κυβερνοχώρο, την ώρα που η διεθνής νομοθεσία αδυνατεί να παρακολουθήσει τους ταχύτατους ρυθμούς ανάπτυξης της τεχνητής νοημοσύνης.

(Με πληροφορίες BBC News)

Ακολουθήστε την Athens Voice στο Google News κι ενημερωθείτε πρώτοι για όλες τις ειδήσεις

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΕΙΔΗΣΕΙΣ
ΑΠΟΨΕΙΣ
ΘΕΜΑΤΑ
ΣΤΗΛΕΣ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Από τον πυρηνικό αντιδραστήρα στην κβαντική υπολογιστική: Το επόμενο μεγάλο στοίχημα του «Δημόκριτου»
Τεχνολογια - Επιστημη Από τον πυρηνικό αντιδραστήρα στην κβαντική υπολογιστική: Το επόμενο μεγάλο στοίχημα του «Δημόκριτου»

Ο πρόεδρος του ΕΚΕΦΕ «Δημόκριτος», Βαγγέλης Καρκαλέτσης, μιλά στην ATHENS VOICE για το μεγάλο στοίχημα του Quantum, την ΑΙ που αρχίζει να τον ανησυχεί και την επιστροφή Ελλήνων επιστημόνων

Λουκάς Βελιδάκης

Έχετε δει 20 από 200 άρθρα.

// EMPTY