«Ο κόσμος βρίσκεται σε κίνδυνο»: Παραιτήσεις-βόμβα από OpenAI και Anthropic
Νέο κύμα ανησυχίας για την πορεία της Τεχνητής Νοημοσύνης πυροδοτούν οι παραιτήσεις δύο ερευνητών από τις εταιρείες πίσω από τα πιο ισχυρά chatbots του κόσμου. Στελέχη της OpenAI και της Anthropic εγκατέλειψαν τις θέσεις τους, δημοσιοποιώντας σοβαρές επιφυλάξεις για τη στρατηγική και τις συνέπειες της τεχνολογίας που οι ίδιοι συνέβαλαν να αναπτυχθεί.
Ο Μρινάνκ Σάρμα, επικεφαλής της ομάδας safeguards στην Anthropic —την εταιρεία πίσω από το chatbot Claude— ανακοίνωσε την αποχώρησή του, γράφοντας ότι «ο κόσμος βρίσκεται σε κίνδυνο». Ο Σάρμα είχε σπουδάσει μηχανική στο Κέιμπριτζ και machine learning στην Οξφόρδη και η ομάδα του εργαζόταν σε άμυνες κατά της χρήσης AI σε βιοτρομοκρατία, καθώς και στο φαινόμενο της «κολακευτικής» συμπεριφοράς των bots, που ενισχύει την υπερβολική συναισθηματική εξάρτηση χρηστών.
Σε ανάρτησή του ανέφερε ότι η ανθρωπότητα πλησιάζει ένα κρίσιμο όριο όπου «η σοφία πρέπει να αυξηθεί στον ίδιο βαθμό με τη δύναμη που αποκτούμε». Παράλληλα, μίλησε για πιέσεις — εντός και εκτός οργανισμών — που οδηγούν σε συμβιβασμούς αξιών. Όπως γνωστοποίησε, σκοπεύει να ακολουθήσει σπουδές ποίησης.
Λίγες ημέρες αργότερα, η Ζόε Χίτζιγκ, ερευνήτρια στην OpenAI, ανακοίνωσε την αποχώρησή της μέσω άρθρου γνώμης στους New York Times. Η Χίτζιγκ εξέφρασε «βαθιές επιφυλάξεις» για την κατεύθυνση της εταιρείας, επικρίνοντας την απόφαση να ενσωματωθούν διαφημίσεις στο ChatGPT. Σύμφωνα με την ίδια, τα chatbots έχουν συγκεντρώσει ένα πρωτοφανές «αρχείο ανθρώπινης ειλικρίνειας», καθώς οι χρήστες μοιράζονται προσωπικούς φόβους, ιατρικές ανησυχίες και υπαρξιακά ερωτήματα. Η αξιοποίηση αυτού του δεδομένου για διαφημιστικούς σκοπούς, υποστήριξε, δημιουργεί «δυνατότητα χειραγώγησης» που δεν έχει ακόμη επαρκώς κατανοηθεί.
Το κλίμα ανησυχίας ενισχύθηκε και από ανάρτηση μέλους της τεχνικής ομάδας της OpenAI, ο οποίος μίλησε για «υπαρξιακή απειλή» και διερωτήθηκε τι θα απομείνει για τους ανθρώπους όταν η AI γίνει «υπερβολικά καλή».
Η Anthropic ιδρύθηκε από πρώην στελέχη της OpenAI που είχαν διαφωνήσει για ζητήματα ασφάλειας. Ο διευθύνων σύμβουλός της, Ντάριο Αμοντέι, έχει προειδοποιήσει ότι η Τεχνητή Νοημοσύνη ενδέχεται να εκτοπίσει έως και το 50% των θέσεων εργασίας γραφείου. Οι φόβοι αυτοί εντάθηκαν μετά την παρουσίαση νέων «AI agents» που αναλαμβάνουν νομικές και διοικητικές εργασίες, προκαλώντας αναταράξεις ακόμη και στις αγορές τεχνολογίας.
Την ίδια ώρα, η εταιρεία xAI του Ίλον Μασκ αντιμετωπίζει επίσης αποχωρήσεις συνιδρυτών, ενώ η OpenAI φέρεται να διέλυσε την ομάδα “mission alignment”, που είχε ως αποστολή να διασφαλίζει ότι η AI ωφελεί συνολικά την ανθρωπότητα. Η διευθύνουσα σύμβουλος της OpenAI, Φίτζι Σίμο, έχει δηλώσει ότι οι διαφημίσεις δεν θα επηρεάζουν τα αποτελέσματα των μοντέλων και θα διαχωρίζονται σαφώς από το περιεχόμενο.
Ο Αντρέα Μορέτι, επικεφαλής της ControlAI, εκτιμά ότι το κύμα παραιτήσεων θα συνεχιστεί, καθώς οι εργαζόμενοι «αντιμετωπίζουν το βάρος της τεχνολογίας που οι ίδιοι δημιουργούν». Όπως επισημαίνει, οι εταιρείες στοχεύουν ρητά στην ανάπτυξη υπερνοημοσύνης — μιας τεχνολογίας που ακόμη και οι ίδιοι οι CEO της AI έχουν χαρακτηρίσει ως πιθανό κίνδυνο αφανισμού.
Ο ταχύτατα εξελισσόμενος κλάδος της Τεχνητής Νοημοσύνης έχει συνηθίσει σε υψηλή κινητικότητα στελεχών. Όμως οι δημόσιες παρεμβάσεις, με τόσο δραματικούς τόνους, προσδίδουν μια διαφορετική βαρύτητα. Δεν πρόκειται απλώς για μετακινήσεις ταλέντου, αλλά για ένα ευρύτερο ερώτημα: ποιος ελέγχει την τεχνολογία που ενδέχεται να αναδιαμορφώσει — ή να απειλήσει — το ίδιο το μέλλον της ανθρωπότητας;
Μια υποδομή 8,5 εκατ. ευρώ συνδέει ερευνητές και επιχειρήσεις με την εθνική υπολογιστική υποδομή - Νέο ινστιτούτο για την ακεραιότητα, την ασφάλεια και την ηθική της έρευνας ανακοίνωσε ο Τάκης Θεοδωρικάκος
SOFT AND FUTURE SCIENCE: Τα πιο πρόσφατα «μικρά» επιστημονικά νέα — αυτά που προκαλούν απορία, θαυμασμό, συζήτηση, και νέους τρόπους θεώρησης του κόσμου
23°
