Eπιστήμονες προειδοποιούν για δημιουργία μολυσματικών ιών με την βοήθεια τεχνητής νοημοσύνης

Ο Dario Amodei, διευθύνων σύμβουλος της νεοφυούς εταιρείας τεχνητής νοημοσύνης Anthropic, δήλωσε πέρυσι στο Κογκρέσο ότι η τεχνολογία τεχνητής νοημοσύνης θα μπορούσε σύντομα να προκαλέσει βιολογικές επιθέσεις μεγάλης κλίμακας, όπως η απελευθέρωση μολυσματικών ιών ή τοξικών ουσιών.

Τεχνητή νοημοσύνη: Κοινή πρωτοβουλία επιφανών βιολόγων

Γερουσιαστές και από τα δύο κόμματα της Αμερικής θορυβήθηκαν, ενώ ερευνητές της Α.Ι. στη βιομηχανία και στον ακαδημαϊκό χώρο συζητούσαν πόσο σοβαρή μπορεί να είναι η απειλή. Τώρα, πάνω από 90 βιολόγοι και άλλοι επιστήμονες που ειδικεύονται στις τεχνολογίες Α.Ι. που χρησιμοποιούνται για τον σχεδιασμό νέων πρωτεϊνών υπέγραψαν μια συμφωνία που επιδιώκει να διασφαλίσει ότι η έρευνά τους θα προχωρήσει χωρίς να εκθέσει τον κόσμο σε σοβαρή βλάβη.

Οι βιολόγοι, στους οποίους περιλαμβάνεται η βραβευμένη με Νόμπελ Francis Arnold και οι οποίοι εκπροσωπούν εργαστήρια στις Ηνωμένες Πολιτείες και σε άλλες χώρες, υποστήριξαν επίσης ότι οι τελευταίες τεχνολογίες θα έχουν πολύ περισσότερα οφέλη από ό,τι αρνητικά, συμπεριλαμβανομένων νέων εμβολίων και φαρμάκων.

«Ως επιστήμονες που ασχολούμαστε με αυτό το έργο, πιστεύουμε ότι τα οφέλη των σημερινών τεχνολογιών Α.Ι. για τον σχεδιασμό πρωτεϊνών υπερτερούν κατά πολύ του ενδεχόμενου βλάβης και θα θέλαμε να διασφαλίσουμε ότι η έρευνά μας θα παραμείνει επωφελής για όλους στο μέλλον», αναφέρεται στη συμφωνία.

Η συμφωνία δεν αποσκοπεί στην καταστολή της ανάπτυξης ή της διανομής τεχνολογιών Α.Ι. Αντίθετα, οι βιολόγοι στοχεύουν στη ρύθμιση της χρήσης του εξοπλισμού που απαιτείται για την κατασκευή νέου γενετικού υλικού.

Σχετικό Άρθρο

Τεχνολογια - Επιστημη Τζεν Σουν Χουάνγκ: Η NVidia και η Τεχνητή Νοημοσύνη

Μπάμπης Καλογιάννης 12.03.2024, 11:30

Τεχνήτη νοημοσύνη: Μια από τις πολλές προσπάθειες ρύθμισης

Η συμφωνία είναι μία από τις πολλές προσπάθειες να σταθμιστούν οι κίνδυνοι της τεχνητής νοημοσύνης έναντι των πιθανών οφελών. Καθώς ορισμένοι ειδικοί προειδοποιούν ότι οι τεχνολογίες Α.Ι. μπορούν να βοηθήσουν στη διάδοση της παραπληροφόρησης, να αντικαταστήσουν θέσεις εργασίας και ίσως ακόμη και να καταστρέψουν την ανθρωπότητα, οι εταιρείες τεχνολογίας, τα ακαδημαϊκά εργαστήρια, οι ρυθμιστικές αρχές και οι νομοθέτες αγωνίζονται να κατανοήσουν αυτούς τους κινδύνους και να βρουν τρόπους αντιμετώπισής τους.

Η εταιρεία του δρ. Amodei, Anthropic, κατασκευάζει γλωσσικά μοντέλα, ή L.L.M.s, το είδος τεχνολογίας που κινεί τα διαδικτυακά chatbots. Όταν κατέθεσε ενώπιον του Κογκρέσου, υποστήριξε ότι η τεχνολογία αυτή θα μπορούσε σύντομα να βοηθήσει να κατασκευαστούν νέα βιολογικά όπλα. Αναγνώρισε όμως ότι αυτό δεν είναι εφικτό σήμερα. Η Anthropic είχε διεξάγει πρόσφατα μια λεπτομερή μελέτη που έδειχνε ότι αν κάποιος προσπαθούσε να αποκτήσει ή να σχεδιάσει βιολογικά όπλα, τα L.L.M.s ήταν οριακά πιο χρήσιμα από μια συνηθισμένη μηχανή αναζήτησης στο διαδίκτυο.

Πηγή: Νew York Times