Παραιτήθηκε εργαζόμενος ασφάλειας της OpenAI: «Η εποχή του trial and error τελείωσε»

Ένας πρώην εργαζόμενος της OpenAI στον τομέα της ασφάλειας της τεχνητής νοημοσύνης άσκησε έντονη κριτική στην κουλτούρα της εταιρείας μετά την αποχώρησή του, υποστηρίζοντας ότι ο γρήγορος ρυθμός ανάπτυξης νέων συστημάτων αυξάνει τον κίνδυνο σοβαρών αστοχιών.

Ο Ντέιβιντ Ρόμπινσον, ο οποίος, σύμφωνα με όσα γράφει, εργάστηκε στην OpenAI για περίπου τριάμισι χρόνια, εξήγησε τους λόγους της παραίτησής του σε άρθρο με τίτλο «I Quit OpenAI Because Its Culture Is Broken», που δημοσιεύθηκε το Σάββατο στο Atlantic.

Ο Ρόμπινσον υποστηρίζει ότι οι εταιρείες τεχνητής νοημοσύνης, συμπεριλαμβανομένης της OpenAI, δεν επιδεικνύουν την προσοχή που απαιτεί η ταχύτατη εξέλιξη των συστημάτων τους. Κατά την άποψή του, θα πρέπει να επενδύουν περισσότερο στην έρευνα και στην τεχνογνωσία γύρω από την ασφάλεια πριν προχωρούν στην ανάπτυξη ακόμη ισχυρότερων μοντέλων.

«Η εποχή του trial and error τελείωσε», γράφει, υποστηρίζοντας ότι τα προηγμένα συστήματα ΑΙ χρειάζονται δικλίδες ασφαλείας περισσότερο αντίστοιχες με εκείνες που εφαρμόζονται σε τομείς όπως η πυρηνική ενέργεια και η αεροπορία.

Η κριτική στην «επαναληπτική ανάπτυξη»

Στο επίκεντρο της κριτικής του βρίσκεται η προσέγγιση της OpenAI που περιγράφεται ως «iterative deployment»: η διάθεση συστημάτων στην πράξη και η ενίσχυση των μέτρων προστασίας καθώς εμφανίζονται προβλήματα.

Ο Ρόμπινσον θεωρεί ότι αυτή η μέθοδος δεν επαρκεί πλέον για συστήματα με ολοένα μεγαλύτερες δυνατότητες.

Όπως αναφέρει, συμμετείχε στη σύνταξη του πλαισίου ετοιμότητας της OpenAI και είχε την επίβλεψη αναφορών ασφαλείας για 12 λανσαρίσματα προηγμένων μοντέλων.

«Καθώς η εταιρεία τρέχει από το ένα λανσάρισμα στο επόμενο, δεν καταφέρνει να φτάσει στο επίπεδο προσοχής που πιστεύω ότι απαιτείται», έγραψε.

Τι απαντά η OpenAI

Εκπρόσωπος της OpenAI, απαντώντας στην κριτική, ανέφερε ότι η εταιρεία φροντίζει ώστε οι δυνατότητες των μοντέλων της να μην ξεπερνούν το επίπεδο που μπορεί να διαχειριστεί και να ασφαλίσει.

Σύμφωνα με τη δήλωση, η OpenAI μπορεί να επιβραδύνει την εκπαίδευση ενός μοντέλου ή να καθυστερήσει τη διάθεσή του όταν κρίνει ότι κάτι τέτοιο είναι απαραίτητο.

Ο Ρόμπινσον εκφράζει παράλληλα ανησυχία ότι οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης εξελίσσονται ταχύτερα από την κατανόηση των ερευνητών γύρω από το λεγόμενο alignment — τον τομέα που εξετάζει πώς τα συστήματα ΑΙ μπορούν να λειτουργούν σύμφωνα με ανθρώπινους στόχους και αξίες.

Πηγή: Reuters