Πόσο πιθανό είναι η AI να βοηθήσει στην ανάπτυξη βιολογικού όπλου

Τα μοντέλα τεχνητής νοημοσύνης που υποστηρίζουν τα chatbots θα μπορούσαν να βοηθήσουν στο σχεδιασμό μιας επίθεσης με βιολογικό όπλο, σύμφωνα με έρευνα αμερικανικής εταιρείας.

Μια έκθεση της Rand Corporation που δημοσιεύθηκε τη Δευτέρα δοκίμασε διάφορα μεγάλα γλωσσικά μοντέλα (LLM) και διαπίστωσε ότι θα μπορούσαν να παρέχουν καθοδήγηση που «θα μπορούσε να βοηθήσει στον σχεδιασμό και την εκτέλεση μιας βιολογικής επίθεσης». Ωστόσο, τα προκαταρκτικά ευρήματα έδειξαν επίσης ότι τα LLM δεν παρήγαγαν ρητές οδηγίες για τη δημιουργία βιολογικών όπλων.

Η έκθεση αναφέρει ότι προηγούμενες προσπάθειες για την οπλοποίηση βιολογικών προϊόντων , όπως η απόπειρα της ιαπωνικής αίρεσης Aum Shinrikyo να χρησιμοποιήσει τοξίνη της αλλαντοτοξίνης τη δεκαετία του 1990, είχαν αποτύχει λόγω έλλειψης κατανόησης του βακτηρίου. Η τεχνητή νοημοσύνη θα μπορούσε «να γεφυρώσει γρήγορα αυτά τα κενά γνώσης», αναφέρει η έκθεση. Η έκθεση δεν διευκρίνισε ποια LLM εξέτασαν οι ερευνητές.

Τα βιολογικά όπλα είναι μεταξύ των σοβαρών απειλών που σχετίζονται με το ΑΙ και θα συζητηθούν στην παγκόσμια σύνοδο κορυφής για την ασφάλεια της τεχνητής νοημοσύνης τον επόμενο μήνα στο Ηνωμένο Βασίλειο. Τον Ιούλιο ο Dario Amodei, διευθύνων σύμβουλος της εταιρείας AI Anthropic, προειδοποίησε ότι τα συστήματα AI θα μπορούσαν να βοηθήσουν στη δημιουργία βιολογικών όπλων σε δύο έως τρία χρόνια.

Τα σενάρια που εξετάστηκαν από την τεχνητή νοημοσύνη

Τα LLM εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων που λαμβάνονται από το διαδίκτυο και αποτελούν βασική τεχνολογία πίσω από chatbots όπως το ChatGPT. 

Σχετικό Άρθρο

Τεχνολογια - Επιστημη H τεχνητή νοημοσύνη και τα προβλήματά της

A.V. Team 09.10.2023, 10:38

Σε ένα δοκιμαστικό σενάριο που επινόησε η Rand, το ανώνυμο LLM εντόπισε πιθανούς βιολογικούς παράγοντες - συμπεριλαμβανομένων εκείνων που προκαλούν ευλογιά, άνθρακα και πανούκλα - και υπολόγισε τις σχετικές πιθανότητες να προκαλέσουν μαζικό θάνατο. Η LLM αξιολόγησε επίσης τη δυνατότητα απόκτησης τρωκτικών ή ψύλλων μολυσμένων από πανούκλα και μεταφοράς ζωντανών δειγμάτων. Στη συνέχεια ανέφερε ότι η κλίμακα των προβλεπόμενων θανάτων εξαρτάται από παράγοντες όπως το μέγεθος του πληθυσμού που θα προσβληθεί.

Σε ένα άλλο σενάριο, το ανώνυμο LLM συζήτησε τα πλεονεκτήματα και τα μειονεκτήματα των διαφορετικών μηχανισμών μεταφοράς της βοτουλινικής τοξίνης - η οποία μπορεί να προκαλέσει θανατηφόρα νευρική βλάβη - όπως τα τρόφιμα ή τα αερολύματα. Το LLM πρότεινε επίσης μια αληθοφανή ιστορία συγκάλυψης για την απόκτηση του Clostridium botulinum σημειώνοντας πως θα μπορούσε κανείς να πάρει με την δικαιολογία πως «θα διεξάγει νόμιμη επιστημονική έρευνα».

Πηγή: The Guardian