Anthropic: Eρευνητές χρησιμοποίησαν το chatbot τεχνητής νοημοσύνης για «επικίνδυνη» έρευνα σε ιούς

Η Anthropic αποκάλυψε ότι ερευνητές που φέρονται να συνδέονται με κρατικούς ή στρατιωτικούς φορείς χρησιμοποίησαν το chatbot τεχνητή νοημοσύνης Claude για έρευνα πάνω σε παθογόνους οργανισμούς και τοξίνες με πιθανές εφαρμογές διπλής χρήσης, παρά τους γεωγραφικούς περιορισμούς που έχει επιβάλει η εταιρεία.

Σε νέα έκθεση απειλών, η εταιρεία τεχνητής νοημοσύνης περιγράφει πέντε περιπτώσεις στις οποίες λογαριασμοί αποκλείστηκαν επειδή η δραστηριότητά τους κρίθηκε ύποπτη ή δυνητικά επικίνδυνη. Σε τέσσερις από αυτές, σύμφωνα με την Anthropic, η δραστηριότητα καταγράφηκε τον Μάιο.

Η εταιρεία αναφέρει ότι σε όλες τις περιπτώσεις υπήρχαν ενδείξεις πως οι χρήστες είτε συνδέονταν με κυβερνητικούς ή στρατιωτικούς οργανισμούς χωρών στις οποίες η Anthropic δεν παρέχει υπηρεσίες, είτε προσπαθούσαν να αποκρύψουν την πραγματική τοποθεσία και ταυτότητά τους.

Η Anthropic δεν αποκάλυψε τις χώρες προέλευσης των συγκεκριμένων ερευνητών. Οι όροι χρήσης της, πάντως, απαγορεύουν την πρόσβαση από ορισμένες περιοχές, μεταξύ των οποίων η Κίνα, το Ιράν και η Ρωσία.

Έρευνα για chikungunya και γρίπη των πτηνών

Σε μία από τις περιπτώσεις, σύμφωνα με την εταιρεία, ερευνητές χρησιμοποίησαν τρίτη πλατφόρμα για να ζητήσουν από το Claude βοήθεια στη σύνταξη αίτησης χρηματοδότησης για εργασία πάνω στον ιό chikungunya, ο οποίος μεταδίδεται από κουνούπια.

Η Anthropic αναφέρει ότι το σχέδιο αφορούσε έρευνα σε στρατιωτικό ινστιτούτο και ότι οι προσπάθειες του χρήστη να λάβει βοήθεια από το μοντέλο μπλοκαρίστηκαν.

Σε άλλη περίπτωση, χρήστης ζήτησε βοήθεια για έρευνα που αφορούσε τη γρίπη των πτηνών και την επίδρασή της στα θηλαστικά. Η εταιρεία διευκρίνισε ότι ο χρήστης έλαβε μόνο περιορισμένη, διοικητικού χαρακτήρα βοήθεια από λιγότερο ισχυρό μοντέλο του Claude.

Η Anthropic υπογραμμίζει ότι η χρήση AI σε βιολογική έρευνα αποτελεί ιδιαίτερα ευαίσθητο πεδίο, επειδή πολλές σχετικές εργασίες είναι «dual use»: μπορούν δηλαδή να έχουν θεμιτές εφαρμογές, όπως η ανάπτυξη θεραπειών ή εμβολίων, αλλά τα ίδια επιστημονικά δεδομένα μπορεί να αξιοποιηθούν και με επιβλαβή τρόπο.

«Πρόκειται για πραγματικούς κινδύνους»

Ο επικεφαλής threat intelligence της Anthropic, Τζέικομπ Κλάιν, δήλωσε στο NBC News ότι το γεγονός πως τέτοιου είδους έρευνα πραγματοποιείται ήδη με τη βοήθεια συστημάτων AI είναι από μόνο του σημαντικό.

«Αυτοί είναι πραγματικοί κίνδυνοι», ανέφερε, προσθέτοντας ότι η εταιρεία έχει ενημερώσει την αμερικανική κυβέρνηση για τους συγκεκριμένους λογαριασμούς.

Η ίδια η Anthropic σημειώνει στην έκθεσή της ότι εδώ και χρόνια υπάρχει η ανησυχία πως προηγμένα μοντέλα AI θα μπορούσαν κάποτε να βοηθήσουν χρήστες να καταστήσουν υπάρχοντα παθογόνα πιο επικίνδυνα ή να συμβάλουν στη δημιουργία νέων.

Για τον λόγο αυτό, εταιρείες τεχνητής νοημοσύνης έχουν ενσωματώσει μηχανισμούς ασφαλείας που επιχειρούν να εντοπίζουν και να μπλοκάρουν αιτήματα υψηλού κινδύνου.

Η περίπτωση των ιών orthopox

Σε άλλη υπόθεση, λογαριασμός χρησιμοποίησε το Claude για βοήθεια σε αίτηση χρηματοδότησης έρευνας σχετικής με orthopox ιούς, την οικογένεια ιών στην οποία ανήκουν, μεταξύ άλλων, εκείνοι που σχετίζονται με την ευλογιά και το mpox.

Η συγκεκριμένη έρευνα, σύμφωνα με την Anthropic, είχε στόχο τη μείωση της σοβαρότητας της νόσου και γι' αυτό το μοντέλο επέτρεψε την υποστήριξη της εργασίας.

Σε δύο ακόμη περιπτώσεις, χρήστες ζήτησαν τη βοήθεια του Claude για την ταξινόμηση και τον σχεδιασμό ενώσεων που θα μπορούσαν να έχουν τόσο θεραπευτικές όσο και τοξικές εφαρμογές.

Η εταιρεία επισημαίνει ότι οι πέντε αυτές υποθέσεις αποτελούν ένα πολύ μικρό μέρος της συνολικής βιολογικής έρευνας που πραγματοποιείται με τα μοντέλα της.

Και χρήση του Claude για κρατική παρακολούθηση

Η έκθεση δεν περιορίζεται στη βιολογική έρευνα. Η Anthropic περιγράφει επίσης περιπτώσεις στις οποίες κρατικοί φορείς ή συνεργάτες κυβερνήσεων επιχείρησαν να χρησιμοποιήσουν το Claude για παρακολούθηση πολιτών, κυρίως στην Κίνα, το Ιράν και τη Δυτική Αφρική.

Σε μία περίπτωση, σύμβουλος που εργαζόταν για τις υπηρεσίες εθνικής ασφάλειας του Μάλι χρησιμοποίησε το Claude για να σχεδιάσει πλατφόρμα που θα μπορούσε να αξιοποιήσει δεδομένα τηλεπικοινωνιακών δικτύων και να δημιουργεί αυτόματα φακέλους για πολίτες.

Σε άλλη, Ιρανοί προγραμματιστές φέρονται να χρησιμοποίησαν το μοντέλο για την ανάπτυξη επέκτασης του Firefox που θα μπορούσε να χρησιμοποιηθεί για παρακολούθηση χρηστών.

Οι περισσότερες περιπτώσεις παρακολούθησης αφορούσαν την Κίνα

Σύμφωνα με την Anthropic, αρκετές από τις περιπτώσεις που εντόπισε αφορούσαν κινεζικούς κρατικούς φορείς.

Σε αυτές περιλαμβάνονταν αιτήματα για εντοπισμό της τοποθεσίας, των δημογραφικών χαρακτηριστικών και των πολιτικών ενδιαφερόντων χρηστών social media, ταξινόμηση ειδήσεων με βάση την πολιτική τους ευαισθησία και δημιουργία ημερήσιων αναφορών για θρησκευτικές ομάδες στην Ασία.

Σε άλλη περίπτωση, τοπική αστυνομική υπηρεσία χρησιμοποίησε το Claude για την ανάπτυξη συστήματος παρακολούθησης πολιτών και την παραγωγή καθημερινών αναφορών για περιστατικά που θεωρούνταν ευαίσθητα.

Ο Τζέικομπ Κλάιν σημείωσε ότι οι στόχοι της κρατικής παρακολούθησης δεν φαίνεται να έχουν αλλάξει ιδιαίτερα.

«Οι στόχοι δεν έχουν αλλάξει. Απλώς άλλαξε η τεχνολογία που χρησιμοποιούν», ανέφερε.

Η έκθεση της Anthropic δείχνει έτσι μια από τις πιο δύσκολες πλευρές της εξάπλωσης των προηγμένων συστημάτων τεχνητής νοημοσύνης: τα ίδια εργαλεία που μπορούν να επιταχύνουν επιστημονική έρευνα ή προγραμματισμό μπορούν ταυτόχρονα να αξιοποιηθούν σε δραστηριότητες υψηλού κινδύνου, από τη βιοασφάλεια έως την κρατική επιτήρηση.

Πηγή: NBC News