Τρεις ερευνητές που απολύθηκαν από την OpenAI την καλούν να μην δημιουργήσει AI με συλλογισμό που θα είναι ακατανόητος από τους ανθρώπους
Τρεις ερευνητές που απολύθηκαν από την OpenAI, η οποία τους κατηγορεί για διαρροές, κάλεσαν τη δημιουργό του ChatGPT να μην αναπτύξει μοντέλα Τεχνητής Νοημοσύνης ο συλλογισμός των οποίων θα είναι ακατανόητος από τους ανθρώπους που είναι επιφορτισμένοι να επιβλέπουν τη συμπεριφορά τους, σε επιστολή τους που δόθηκε χθες, Τετάρτη, στη δημοσιότητα από τη Wall Street Journal.
Σε απάντησή του, υπεύθυνος έρευνας στην OpenAI δήλωσε «απολύτως σύμφωνος» με τις συστάσεις τους: το να μπορεί να επαληθευτεί στάδιο προς στάδιο πώς τα μοντέλα καταλήγουν σε μια απόφαση είναι «της υψίστης σημασίας», έγραψε σε εσωτερικό του σημείωμα, που διαβιβάστηκε αποσπασματικά στο AFP.
Οι Τζάσμιν Γουάνγκ, Τόμεκ Κόρμπακ και Μικίτα Μπαλέσνι, ειδικοί σε θέματα ασφάλειας της τεχνητής νοημοσύνης, η απόλυση των οποίων αποκαλύφθηκε την 1η Οκτωβρίου, κατηγορούνται από την OpenAI ότι έδωσαν ευαίσθητες πληροφορίες, κυρίως σε εξωτερική ομάδα αξιολόγησης, χωρίς να σεβαστούν τις διαδικασίες.
Μέσα σε έναν μήνα άλλοι δύο ερευνητές εγκατέλειψαν τις θέσεις τους καταγγέλλοντας τους κινδύνους γύρω από την Τεχνητή Νοημοσύνη: ο Τζέικομπ Κόξον, ο οποίος αφού πέρασε από την OpenAI στην ανταγωνίστριά της Anthropic τελικά αποχώρησε τον Σεπτέμβριο κατηγορώντας και τις δύο εταιρείες ότι «παίζουν με τις ζωές μας», και ο Ντέιβιντ Ρόμπινσον παραιτήθηκε από την OpenAI την περασμένη εβδομάδα, κατηγορώντας την για ανεπαρκή αξιολόγηση και διαχείριση κινδύνου.
Οι προειδοποιήσεις αυτές ακολούθησαν μια μακρά σειρά από περιστατικά που προκλήθηκαν στη διάρκεια του καλοκαιριού από μοντέλα Τεχνητής Νοημοσύνης της OpenAI, της Anthropic ή ακόμη της Meta, τα οποία βγήκαν από το περιορισμένο περιβάλλον δοκιμής τους και έφτασαν ορισμένες φορές ως το σημείο να παραβιάσουν άλλες εφαρμογές, μεταξύ των οποίων η πλατφόρμα Hugging Face.
Στην επιστολή τους στο διοικητικό συμβούλιο της OpenAI, οι τρεις ερευνητές δηλώνουν ότι βρίσκονταν εντός του πλαισίου των καθηκόντων τους και κρίνουν ότι η απόλυσή τους «παγώνει αυτούς που παραμένουν» στην εταιρεία, σύμφωνα με τη Wall Street Journal.
«Δεν απολύουμε εργαζόμενους επειδή εκφράζουν ανησυχίες», διαβεβαίωσε ο υπεύθυνος της OpenAI. Στο απόσπασμα από το σημείωμά του στο οποίο είχε πρόσβαση το AFP δεν αναφέρονται οι παραβάσεις καθηκόντων που προσάπτονται στους απολυμένους.
Στις αρχές Σεπτεμβρίου, ο επιστημονικός διευθυντής της OpenAI, ο Γιακούμπ Πατσότσκι παραδέχθηκε ότι ο συλλογισμός του μοντέλου του GPT-6 Astra ήταν πιο δύσκολο να επιβλεφθεί σε σχέση με το προηγούμενο μοντέλο.
Επικεφαλής του τομέα, μεταξύ των οποίων ο Σαμ 'Αλτμαν (OpenAI) και ο Ντάριο Αμόντεϊ (Anthropic) ζήτησαν να επιβραδυνθεί η ανάπτυξη της ΤΝ. Η κυβέρνηση Τραμπ και ορισμένοι ανταγωνιστές τους, όπως ο Μαρκ Ζάκερμπεργκ (Meta), αρνούνται.
Από τις μαθητικές κινητοποιήσεις στη Γαλλία μέχρι την ελληνική πραγματικότητα, η κρίση της δημόσιας παιδείας και οι κοινωνικές ανισότητες παραμένουν ανοιχτές πληγές
Το πραγματικό δίλημμα είναι αν η Μέση Ανατολή θα παραμείνει όμηρος όσων αντλούν ισχύ από τη σύγκρουση ή αν Ισραηλινοί και Παλαιστίνιοι θα αποκτήσουν επιτέλους μια διαφορετική προοπτική.
25°
