AI chatbots έδωσαν οδηγίες για βιολογικά όπλα σε επιστήμονες

Μεγάλη ανησυχία προκαλεί στους ειδικούς βιοασφάλειας η δυνατότητα σύγχρονων συστημάτων τεχνητής νοημοσύνης να παρέχουν επικίνδυνες πληροφορίες σχετικά με βιολογικές απειλές.

Σύμφωνα με τους New York Times, επιστήμονες που κλήθηκαν να δοκιμάσουν μεγάλα γλωσσικά μοντέλα πριν ή μετά τη δημόσια διάθεσή τους διαπίστωσαν ότι ορισμένα chatbots  τεχνητής νοημοσύνης μπορούσαν να περιγράψουν τρόπους απόκτησης γενετικού υλικού, τροποποίησης παθογόνων και διάδοσής τους σε δημόσιους χώρους.

Ο μικροβιολόγος και ειδικός στη βιοασφάλεια Ντέιβιντ Ρέλμαν, από το Πανεπιστήμιο Στάνφορντ, ανέφερε ότι κατά τη διάρκεια δοκιμής chatbot έλαβε απαντήσεις που τον σόκαραν, καθώς το σύστημα δεν περιορίστηκε σε γενικές πληροφορίες, αλλά φέρεται να περιέγραψε σενάριο επίθεσης με τρόπο που ο ίδιος χαρακτήρισε ψυχρό και ανησυχητικά ευρηματικό.

Ανάλογες δοκιμές πραγματοποίησε και ο γενετιστής Κέβιν Έσβελτ, από το MIT, ο οποίος έχει προειδοποιήσει εδώ και χρόνια για τους κινδύνους της συνθετικής βιολογίας. Όπως υποστηρίζει, ορισμένα εργαλεία τεχνητής νοημοσύνης μπορούν να συνδυάσουν επιστημονική πληροφορία με επιχειρησιακή σκέψη, διευκολύνοντας θεωρητικά κακόβουλους χρήστες.

Οι εταιρείες τεχνητής νοημοσύνης, μεταξύ των οποίων η OpenAI, η Google και η Anthropic, αναφέρουν ότι βελτιώνουν διαρκώς τα συστήματα ασφαλείας τους, υποστηρίζοντας ότι οι απαντήσεις που εξετάστηκαν δεν επαρκούν από μόνες τους για την πρόκληση πραγματικής βλάβης. Παράλληλα, τονίζουν ότι η τεχνολογία έχει τεράστιες δυνατότητες στην ιατρική έρευνα, στην ανάπτυξη φαρμάκων και στην κατανόηση ασθενειών.

Ωστόσο, οι ειδικοί επισημαίνουν ότι το πρόβλημα δεν είναι μόνο η πληροφορία, αλλά η ευκολία με την οποία μπορεί πλέον να συγκεντρωθεί, να οργανωθεί και να παρουσιαστεί με πρακτικό τρόπο. Πρωτόκολλα που κάποτε απαιτούσαν βαθιά εξειδίκευση ή πρόσβαση σε επιστημονική βιβλιογραφία βρίσκονται πλέον διάσπαρτα στο διαδίκτυο, ενώ τα chatbots μπορούν να τα συνθέσουν σε απαντήσεις που μοιάζουν με οδηγίες.

Οι περισσότεροι επιστήμονες συμφωνούν ότι η δημιουργία ενός πραγματικά αποτελεσματικού βιολογικού όπλου παραμένει εξαιρετικά δύσκολη και απαιτεί εργαστηριακή εμπειρία. Όμως η ανησυχία μεγαλώνει όταν τέτοιες δυνατότητες βρεθούν στα χέρια ατόμων ή ομάδων με ήδη υπάρχουσα τεχνογνωσία.

Το δίλημμα είναι δύσκολο: από τη μία, η τεχνητή νοημοσύνη μπορεί να επιταχύνει θεαματικά την επιστημονική πρόοδο. Από την άλλη, οι ίδιες δυνατότητες που βοηθούν στην ανακάλυψη νέων θεραπειών μπορεί να χρησιμοποιηθούν και για καταστροφικούς σκοπούς.

Το ερώτημα, πλέον, δεν είναι αν η AI μπορεί να απαντήσει σε επικίνδυνες ερωτήσεις. Είναι πόσο γρήγορα μπορούν οι εταιρείες και οι κυβερνήσεις να βάλουν αξιόπιστα όρια πριν η τεχνολογία ξεπεράσει τους μηχανισμούς ελέγχου της.

Πηγή: The New York Times