- CITY GUIDE
- PODCAST
-
17°
Κινεζικό εργαλείο τεχνητής νοημοσύνης έδωσε οδηγίες για βιολογικά όπλα
Έρευνα στην εταιρεία Moonshot μετά την παραβίαση ορίων ασφαλείας
Έρευνα ασφαλείας αποκάλυψε ότι μοντέλα AI της κινεζικής Moonshot παρέκαμψαν τα πρωτόκολλα, δίνοντας οδηγίες για βιολογικά όπλα και δολοφονίες.
Σε εσωτερική έρευνα προχωρά η κινεζική εταιρεία ανάπτυξης τεχνητής νοημοσύνης Moonshot, μετά την αποκάλυψη ερευνητών ότι κατάφεραν να παρακάμψουν τα δικλείδες ασφαλείας σε δύο δημοφιλή μοντέλα της σειράς Kimi, αποσπώντας οδηγίες για την κατασκευή βιολογικών όπλων και την εκτέλεση δολοφονιών.
Η εταιρεία κυβερνοασφάλειας Mindgard, η οποία αξιολογεί την ασφάλεια συστημάτων τεχνητής νοημοσύνης, δήλωσε στο BBC ότι ανακάλυψε τη σχετική ευπάθεια στα μοντέλα Kimi K2.6 και K3 Swarm.
Η παράκαμψη πέτυχε μέσω της τεχνικής «jailbreaking», κατά την οποία οι ερευνητές χρησιμοποιούν σύνθετες εντολές για να εξανάγκασουν το σύστημα να αγνοήσει τους περιορισμούς που έχουν θέσει οι δημιουργοί του.
Ο ιδρυτής της Mindgard, Πίτερ Γκάραχαν, σημείωσε ότι μόλις επιτευχθεί το «jailbreak», το μοντέλο απαντά χωρίς φίλτρα σε οποιοδήποτε παράνομο θέμα, παρέχοντας μάλιστα δημιουργικές προτάσεις.
Επιπλέον, η εταιρεία εκτιμά ότι η συγκεκριμένη ευπάθεια θα μπορούσε να επιτρέψει σε χάκερ να εκτελέσουν κώδικα στους υπολογιστικούς πόρους του συστήματος, μετατρέποντάς το σε ορμητήριο για κυβερνοεπιθέσεις.
Από την πλευρά της, η Moonshot ανέφερε ότι καλωσορίζει τις επισημάνσεις τρίτων ως βασικό πυλώνα για τη δημιουργία ασφαλέστερων συστημάτων και επιβεβαίωσε ότι βρίσκεται σε επαφή με τη Mindgard, σημειώνοντας παράλληλα ότι στις δικές της εσωτερικές δοκιμές τα μοντέλα εμφανίζουν υψηλά ποσοστά απόρριψης παρόμοιων επικίνδυνων αιτημάτων.
Το περιστατικό επαναφέρει στο προσκήνιο τη συζήτηση για τους κινδύνους των μοντέλων ανοιχτού κώδικα, όπως το Kimi. Ο καθηγητής Άλαν Γούντγουορντ από το Πανεπιστήμιο του Σάρεϊ υπογράμμισε στο BBC ότι, αν και υπάρχει κίνδυνος τα μοντέλα αυτά να πέσουν σε λάθος χέρια, μπορούν παράλληλα να αξιοποιηθούν και για την αμυντική θωράκιση στον κυβερνοχώρο, την ώρα που η διεθνής νομοθεσία αδυνατεί να παρακολουθήσει τους ταχύτατους ρυθμούς ανάπτυξης της τεχνητής νοημοσύνης.
(Με πληροφορίες BBC News)
ΠΡΟΣΦΑΤΑ
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Πέτυχε πείραμα σε προσομοιωμένο έδαφος
Έρευνες εξηγούν πώς η ταυτόχρονη οπτική και ακουστική πρόσληψη διευκολύνει τον εγκέφαλο
Ένας κόσμος που σε κάνει να ξεχνάς τις αποστολές
Το νέο παιχνίδι της Rockstar κατέγραψε τη μεγαλύτερη πρεμιέρα στην ιστορία της παγκόσμιας βιομηχανίας ψυχαγωγίας
Πολιτεία και αγορά απαντούν αν η Ελλάδα θα χτίσει δική της ισχύ στην AI ή θα αξιοποιεί την τεχνολογία των άλλων
Μια πρωτοφανής έκρηξη πλούτου κατέκλυσε τη Σίλικον Βάλεϊ
H ηθοποιός Μάνι Λ. Πέρεζ έχει εντελώς διαφορετική ζωή εκτός gaming
Τι ισχύει για τη δημοσιοποίηση φωτογραφιών παιδιών στα social media από τους γονείς
Όταν γράφουμε σε ένα chatbox, νομίζουμε ότι μιλάμε με έναν «κανονικό» άνθρωπο. Είναι φυσιολογικό αυτό;
Συστάσεις για υπεύθυνη οδήγηση στον πραγματικό κόσμο και εγρήγορση από τους γονείς
Το συστατικό που έκανε δυνατή την καλλιέργειά τους
Χιλιάδες εργαζόμενοι δήλωσαν άρρωστοι για να παίξουν
Οι κριτικοί χαρακτηρίζουν αριστούργημα τη νέα δημιουργία της Rockstar
Ο δρ. Ηλίας Τσουτσάνης μιλά για τα αυτόνομα σμήνη drones, την τεχνητή νοημοσύνη και τις τεχνολογικές φιλοδοξίες των Ηνωμένων Αραβικών Εμιράτων
Ο ρόλος της τεχνητής νοημοσύνης και η ανησυχία πως αυτό θα γίνει η νέα κανονικότητα
Η επιστροφή στη Vice City συνοδεύεται από διθυραμβικές κριτικές
Τι μπορεί να κρύβεται πίσω από αυτή τη συνήθεια
Πρωτότυπη καμπάνια για την κυκλοφορία του παιχνιδιού - Ο κίνδυνος για όσους τη χρησιμοποιήσουν
Έχετε δει 20 από 200 άρθρα.