Έρευνα της Wall Street Journal αποκαλύπτει ότι η αναβάθμιση του chatbot επέτρεψε την παροχή λεπτομερών οδηγιών για σύνθεση δηλητηρίων και όπλων
Νέα έρευνα της Wall Street Journal αποκαλύπτει ότι προηγμένα chatbot, ανάμεσά τους και τοChatGPT, κατάφεραν, σε ορισμένες περιπτώσεις, να παρέχουν πληροφορίες που σχετίζονται με την κατασκευή δηλητηρίων και βιολογικών όπλων, ακόμη και σε χρήστες που δήλωναν πρόθεση να σκοτώσουν ανθρώπους.
Οι αποκαλύψεις αναζωπυρώνουν τη συζήτηση για το κατά πόσο τα συστήματα AI μπορούν να αποτρέψουν την κατάχρησή τους από κακόβουλους χρήστες.
Όπως επισημαίνεται στο ρεπορτάζ, οι εταιρείες τεχνητής νοημοσύνης βρίσκονται σε μια συνεχή προσπάθεια να κλείσουν τα κενά ασφαλείας των μοντέλων τους, την ώρα που νέες τεχνικές παράκαμψης των περιορισμών εμφανίζονται διαρκώς.
ChatGPT και οδηγίες για βιολογικά όπλα
Σύμφωνα με την Wall Street Journal, μετά την αναβάθμιση του ChatGPT το περασμένο καλοκαίρι, εκατοντάδες χρήστες επιχείρησαν να αποσπάσουν πληροφορίες για την κατασκευή και χρήση βιολογικών όπλων ή ισχυρών δηλητηρίων.
Η εταιρεία διέγραψε τους σχετικούς λογαριασμούς, χωρίς όμως –σύμφωνα με το δημοσίευμα– να ενημερώσει τις διωκτικές αρχές.
Δεν υπάρχει υποχρέωση ενημέρωσης των αρχών
Το δημοσίευμα επισημαίνει ότι στις Ηνωμένες Πολιτείες δεν υπάρχει σήμερα ομοσπονδιακή νομοθεσία που να υποχρεώνει τις εταιρείες τεχνητής νοημοσύνης είτε να μπλοκάρουν όλες αυτές τις αναζητήσεις είτε να τις αναφέρουν στις αρχές.
Η ευθύνη παραμένει σε μεγάλο βαθμό στις ίδιες τις εταιρείες, οι οποίες αποφασίζουν πότε μια συνομιλία αποτελεί πραγματική απειλή.
Η OpenAI δήλωσε στη Wall Street Journal ότι εκπαιδεύει τα μοντέλα της να απορρίπτουν αιτήματα που θα μπορούσαν να προκαλέσουν βλάβη σε ανθρώπους και ότι πραγματοποιεί εκτεταμένους ελέγχους ασφαλείας πριν από κάθε νέα έκδοση.
Η αυξανόμενη ικανότητα των μοντέλων AI να παρέχουν εξειδικευμένες επιστημονικές πληροφορίες έχει προκαλέσει ανησυχία τόσο στον Λευκό Οίκο όσο και στο Πεντάγωνο.
Σύμφωνα με το δημοσίευμα, ήδη από την περίοδο της κυβέρνησης Μπάιντεν πραγματοποιούνταν συζητήσεις για τον κίνδυνο η τεχνητή νοημοσύνη να λειτουργήσει ως «εγχειρίδιο» κατασκευής βιολογικών όπλων.
Η κυβέρνηση Τραμπ φέρεται πλέον να εξετάζει αυστηρότερη εποπτεία των προηγμένων μοντέλων, ενώ το αμερικανικό υπουργείο Εμπορίου είχε πρόσφατα επιβάλει προσωρινούς περιορισμούς σε δύο μοντέλα της Anthropic, μέχρι να διορθωθούν τρόποι παράκαμψης των δικλίδων ασφαλείας.
Τα κενά ασφαλείας παραμένουν
Ερευνητές ασφαλείας υποστηρίζουν ότι, παρά τις βελτιώσεις, κανένα μοντέλο δεν είναι πλήρως προστατευμένο απέναντι σε επίμονους χρήστες.
Η Amy Chang, επικεφαλής έρευνας απειλών AI στη Cisco, δήλωσε ότι οι ερευνητές της κατάφεραν μέσα από λίγες μόνο διαδοχικές ερωτήσεις να παρακάμψουν τους περιορισμούς μεγάλων chatbot και να αποσπάσουν επικίνδυνες πληροφορίες.
Παράλληλα, οι εταιρείες βρίσκονται αντιμέτωπες με ένα δύσκολο δίλημμα: υπερβολικά αυστηροί περιορισμοί μπορεί να εμποδίζουν και νόμιμη επιστημονική έρευνα, όπως η μελέτη παθογόνων μικροοργανισμών ή η ανάπτυξη νέων φαρμάκων και εμβολίων.
Ειδικοί στην εθνική ασφάλεια εκτιμούν ότι σήμερα η τεχνητή νοημοσύνη μπορεί ήδη να βοηθήσει άτομα με επιστημονικές γνώσεις να οργανώσουν μικρότερης κλίμακας βιολογικές επιθέσεις.
Ο μεγαλύτερος φόβος αφορά όμως το μέλλον: ότι τρομοκρατικές οργανώσεις ή εχθρικά κράτη θα αξιοποιήσουν ολοένα ισχυρότερα μοντέλα AI ως «ψηφιακούς συμβούλους», επιταχύνοντας την ανάπτυξη πολύ πιο σύνθετων και καταστροφικών βιολογικών όπλων.
Την ίδια στιγμή, στο Κογκρέσο έχουν κατατεθεί διακομματικές προτάσεις νόμου που θα υποχρεώνουν τις εταιρείες τεχνητής νοημοσύνης να αναφέρουν στις αρμόδιες αρχές ενδείξεις για χρήστες που αναζητούν πληροφορίες σχετικές με όπλα μαζικής καταστροφής ή άλλες σοβαρές απειλές.
17°
