Πρώην ερευνητές της OpenAI την καλούν να μην δημιουργήσει «ακατανόητη» τεχνητή νοημοσύνη

Τρεις ερευνητές που απολύθηκαν από την OpenAI, η οποία τους κατηγορεί για διαρροές, κάλεσαν τη δημιουργό του ChatGPT να μην αναπτύξει μοντέλα Τεχνητής Νοημοσύνης  ο συλλογισμός των οποίων θα είναι ακατανόητος από τους ανθρώπους που είναι επιφορτισμένοι να επιβλέπουν τη συμπεριφορά τους, σε επιστολή τους που δόθηκε χθες, Τετάρτη, στη δημοσιότητα από τη Wall Street Journal.

Σε απάντησή του, υπεύθυνος έρευνας στην OpenAI δήλωσε «απολύτως σύμφωνος» με τις συστάσεις τους: το να μπορεί να επαληθευτεί στάδιο προς στάδιο πώς τα μοντέλα καταλήγουν σε μια απόφαση είναι «της υψίστης σημασίας», έγραψε σε εσωτερικό του σημείωμα, που διαβιβάστηκε αποσπασματικά στο AFP.

Οι Τζάσμιν Γουάνγκ, Τόμεκ Κόρμπακ και Μικίτα Μπαλέσνι, ειδικοί σε θέματα ασφάλειας της τεχνητής νοημοσύνης, η απόλυση των οποίων αποκαλύφθηκε την 1η Οκτωβρίου, κατηγορούνται από την OpenAI ότι έδωσαν ευαίσθητες πληροφορίες, κυρίως σε εξωτερική ομάδα αξιολόγησης, χωρίς να σεβαστούν τις διαδικασίες.

Μέσα σε έναν μήνα άλλοι δύο ερευνητές εγκατέλειψαν τις θέσεις τους καταγγέλλοντας τους κινδύνους γύρω από την Τεχνητή Νοημοσύνη: ο Τζέικομπ Κόξον, ο οποίος αφού πέρασε από την OpenAI στην ανταγωνίστριά της Anthropic τελικά αποχώρησε τον Σεπτέμβριο κατηγορώντας και τις δύο εταιρείες ότι «παίζουν με τις ζωές μας», και ο Ντέιβιντ Ρόμπινσον παραιτήθηκε από την OpenAI την περασμένη εβδομάδα, κατηγορώντας την για ανεπαρκή αξιολόγηση και διαχείριση κινδύνου.

Οι προειδοποιήσεις αυτές ακολούθησαν μια μακρά σειρά από περιστατικά που προκλήθηκαν στη διάρκεια του καλοκαιριού από μοντέλα Τεχνητής Νοημοσύνης της OpenAI, της Anthropic ή ακόμη της Meta, τα οποία βγήκαν από το περιορισμένο περιβάλλον δοκιμής τους και έφτασαν ορισμένες φορές ως το σημείο να παραβιάσουν άλλες εφαρμογές, μεταξύ των οποίων η πλατφόρμα Hugging Face.

Στην επιστολή τους στο διοικητικό συμβούλιο της OpenAI, οι τρεις ερευνητές δηλώνουν ότι βρίσκονταν εντός του πλαισίου των καθηκόντων τους και κρίνουν ότι η απόλυσή τους «παγώνει αυτούς που παραμένουν» στην εταιρεία, σύμφωνα με τη Wall Street Journal.

«Δεν απολύουμε εργαζόμενους επειδή εκφράζουν ανησυχίες», διαβεβαίωσε ο υπεύθυνος της OpenAI. Στο απόσπασμα από το σημείωμά του στο οποίο είχε πρόσβαση το AFP δεν αναφέρονται οι παραβάσεις καθηκόντων που προσάπτονται στους απολυμένους.

Η επιστολή των τελευταίων επικεντρώνεται στο ζήτημα του κειμένου που παράγουν τα μοντέλα ΤΝ για να περιγράψουν τον συλλογισμό τους προτού δράσουν: το κείμενο αυτό, που οι ερευνητές εξετάζουν εξονυχιστικά για να εντοπίσουν ενδεχόμενες αποκλίσεις, υπάρχει κίνδυνος να μην μπορεί να ελεγχθεί από έναν άνθρωπο.

Στις αρχές Σεπτεμβρίου, ο επιστημονικός διευθυντής της OpenAI, ο Γιακούμπ Πατσότσκι παραδέχθηκε ότι ο συλλογισμός του μοντέλου του GPT-6 Astra ήταν πιο δύσκολο να επιβλεφθεί σε σχέση με το προηγούμενο μοντέλο.

Επικεφαλής του τομέα, μεταξύ των οποίων ο Σαμ 'Αλτμαν (OpenAI) και ο Ντάριο Αμόντεϊ (Anthropic) ζήτησαν να επιβραδυνθεί η ανάπτυξη της ΤΝ. Η κυβέρνηση Τραμπ και ορισμένοι ανταγωνιστές τους, όπως ο Μαρκ Ζάκερμπεργκ (Meta), αρνούνται.