Κοσμος

Τέσσερα chatbots έδωσαν πληροφορίες για τον σχεδιασμό επιθέσεων σε δοκιμές στις ΗΠΑ

Οι δικλίδες ασφαλείας απέκλεισαν αρχικά τα αιτήματα των ελεγκτών

Newsroom
1’ ΔΙΑΒΑΣΜΑ

Από την άρνηση στην απάντηση – Πώς αντέδρασαν τέσσερα chatbots σε δοκιμές για τρομοκρατικά σενάρια

Τέσσερα chatbots τεχνητής νοημοσύνης παρείχαν πληροφορίες που θα μπορούσαν να βοηθήσουν στον σχεδιασμό τρομοκρατικών επιθέσεων, σύμφωνα με δοκιμές της αμερικανικής Υπηρεσίας Κυβερνητικής Λογοδοσίας (GAO), τις οποίες παρουσιάζει η Washington Post. Οι ελεγκτές δοκίμασαν συστήματα των OpenAI, Anthropic, SpaceXAI και Google.

Σύμφωνα με την έκθεση, τα chatbot αρνήθηκαν αρχικά να απαντήσουν στα σχετικά αιτήματα, αλλά στη συνέχεια οι ελεγκτές κατάφεραν να παρακάμψουν τους περιορισμούς.

Σε μία περίπτωση, ένα chatbot παρήγαγε και εικόνα στο πλαίσιο της απάντησής του. Οι εταιρείες ανέφεραν στην υπηρεσία ότι οι δοκιμές έγιναν την άνοιξη, σε παλαιότερες εκδόσεις των συστημάτων τους, και ότι έκτοτε έχουν ενισχύσει τις δικλίδες ασφαλείας τους.

Την έκθεση είχε ζητήσει η Δημοκρατική γερουσιαστής του Νιου Χάμσαϊρ Μάγκι Χάσαν, η οποία αναμένεται να αναλάβει την προεδρία της Επιτροπής Εσωτερικής Ασφάλειας της Γερουσίας.

Η Χάσαν δήλωσε ότι θα δώσει προτεραιότητα σε νομοθετική παρέμβαση για το ζήτημα από τον Ιανουάριο, όταν οι Δημοκρατικοί θα αναλάβουν τον έλεγχο της Γερουσίας.

Πηγή — Washington Post,