Ο Τζέφρι Χίντον εκφράζει τις ανησυχίες του για την πορεία της Τεχνητής Νοημοσύνης
Ένας από τους «νονούς της τεχνητής νοημοσύνης», ο Τζέφρι Χίντον, δήλωσε ότι ενδέχεται τελικά η ανθρωπότητα να ήταν σε καλύτερη θέση αν δεν είχε αναπτύξει ποτέ την τεχνολογία, προειδοποιώντας ότι αυτή θα μπορούσε να προκαλέσει ένα περιστατικό μεγάλης κλίμακας μέσα στη φετινή ή την επόμενη χρονιά, όπως μια προσωρινή κατάρρευση των χρηματοπιστωτικών συστημάτων ή των συστημάτων ηλεκτροδότησης.
Ο βραβευμένος με Νόμπελ επιστήμονας δήλωσε στον Guardian ότι δεν είναι «καταστροφολόγος» όσον αφορά την τεχνολογία, η οποία βασίζεται στην πρωτοποριακή έρευνά του πάνω στα τεχνητά νευρωνικά δίκτυα. Όπως είπε, πιστεύει ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα να οδηγήσει σε ένα «υπέροχο μέλλον», ωστόσο πρόσθεσε ότι «ενδέχεται να ήμασταν σε καλύτερη θέση αν δεν την είχαμε αναπτύξει ποτέ».
Ο 78χρονος Χίντον δήλωσε ότι μέσα στην επόμενη δεκαετία, και πιθανότατα νωρίτερα, η ανθρωπότητα θα γνωρίζει αν μπορεί να διαχειριστεί τους κινδύνους της τεχνολογίας και να εξασφαλίσει αυτό που αποκάλεσε «ριζική αφθονία» ή αν «αποτύχουμε να διαχειριστούμε τους κινδύνους και […] καταλήξουμε με ένα τεράστιο χάσμα μεταξύ πλουσίων και φτωχών, τεράστια πολιτισμικά προβλήματα, μαζική ανεργία και μια κοινωνία που διαλύεται».
Ο Χίντον μίλησε πριν από την προβολή ενός νέου ντοκιμαντέρ μεγάλου μήκους με τίτλο AI: Probably Nothing to Worry About («Τεχνητή νοημοσύνη: Μάλλον δεν υπάρχει τίποτα ανησυχητικό»), τίτλος που προτάθηκε από ένα chatbot τεχνητής νοημοσύνης. Στο ντοκιμαντέρ συμμετέχουν ο ίδιος και ο πρώην συνάδελφός του στην Google, Ντέμης Χασάμπης. Απευθυνόμενος στους δημιουργούς της ταινίας, ο Χίντον δηλώνει: «Αισθάνομαι ότι έχω καθήκον. Έχω αποκτήσει μια φήμη που με καθιστά εκπρόσωπο αυτού του ζητήματος και πρέπει να τη διακινδυνεύσω ολόκληρη γι' αυτό».
Μιλώντας στον Guardian, ο Χίντον άσκησε κριτική στην ανάληψη ρίσκου από τους επικεφαλής ορισμένων από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης, οι οποίοι συνεχίζουν να κυκλοφορούν ολοένα ισχυρότερα μοντέλα, καθώς ανταγωνίζονται για την τεχνολογική υπεροχή και το μερίδιο αγοράς.
«Ζάκερμπεργκ, Μασκ και Άλτμαν κατανοούν τους κινδύνους από την Τεχνητή Νοημοσύνη και δεν δίνουν δεκάρα»
Ο επιστήμονας, ο οποίος γεννήθηκε στο Λονδίνο, μεγάλωσε στο Μπρίστολ και πέρασε μεγάλο μέρος της σταδιοδρομίας του στο Πανεπιστήμιο του Τορόντο, χαρακτήρισε «εξαιρετικά ανησυχητικό» το γεγονός ότι ο Άλτμαν βρίσκεται στο τιμόνι μίας από τις λίγες αμερικανικές εταιρείες που αναπτύσσουν τεχνολογίες αιχμής στην τεχνητή νοημοσύνη και ηγούνται σήμερα της κούρσας με την Κίνα για την ανάπτυξη των ισχυρότερων μοντέλων. Τον Σεπτέμβριο, ο Άλτμαν επέμεινε: «Ο κόσμος θα πρέπει να μας εμπιστεύεται ότι θα κάνουμε το σωστό, επειδή είναι το σωστό και επειδή αντιλαμβανόμαστε τη βαρύτητα αυτού που διακυβεύεται».
Ο Χίντον εργάζεται στον τομέα της τεχνητής νοημοσύνης εδώ και περίπου 44 χρόνια, ενώ τη δεκαετία του 1970 διατύπωσε την ιδέα των νευρωνικών δικτύων: ενός μαθηματικού συστήματος που μπορεί να μαθαίνει και να αποκτά εμπειρία με τρόπο παρόμοιο με τον άνθρωπο.
Το 2023 αποχώρησε από την Google, προκειμένου να μπορεί να μιλά ελεύθερα για τους κινδύνους της τεχνητής νοημοσύνης, προειδοποιώντας: «Αν αυτά τα συστήματα παρασυρθούν στην προσπάθειά τους να αποκτήσουν περισσότερο έλεγχο, θα έχουμε πρόβλημα». Ο ίδιος συνέκρινε περιστατικά του φετινού καλοκαιριού, κατά τα οποία πράκτορες τεχνητής νοημοσύνης της OpenAI φέρονται να συνωμότησαν για να παραβιάσουν τον ιστότοπο Hugging Face, με το μερικό πυρηνικό ατύχημα του 1979 στον σταθμό Three Mile Island στην Πενσιλβάνια των ΗΠΑ, χαρακτηρίζοντάς τα ουσιαστικά προειδοποιητικά σημάδια. «Είτε αργότερα μέσα στη φετινή χρονιά είτε την επόμενη, θα δούμε ένα Τσερνόμπιλ, και αυτό μπορεί να είναι αρκετό για να κάνει τους ανθρώπους να δώσουν πραγματικά προσοχή», δήλωσε.
Ένα τέτοιο περιστατικό, αντίστοιχο με το Τσερνόμπιλ, δεν θα αφορούσε πυρηνικό ατύχημα, σύμφωνα με τα παραδείγματα που έδωσε. Θα μπορούσε, για παράδειγμα, να περιλαμβάνει μια κυβερνοεπίθεση με τη βοήθεια της τεχνητής νοημοσύνης στο σύστημα παραγωγής ηλεκτρικής ενέργειας, η οποία θα «προκαλούσε εκτεταμένη πτώση της τάσης και διακοπές ρεύματος», ή ένα περιστατικό που θα παρέλυε το χρηματοπιστωτικό σύστημα για μία εβδομάδα. «Μπορείτε να φανταστείτε τι θα συνέβαινε; Θα μπορούσαμε να ανακάμψουμε από κάτι τέτοιο, αλλά αυτό θα τους έκανε να σηκωθούν από τις καρέκλες τους και να δώσουν προσοχή».
Όταν ρωτήθηκε ποιοι είναι αυτοί στους οποίους αναφέρεται, απάντησε: «Οι παγκόσμιοι ηγέτες, εκτός από τον Τραμπ».
Ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει δηλώσει ότι «απορρίπτει πλήρως κάθε προσπάθεια δημιουργίας ενός παγκοσμιοποιητικού σχεδίου» για τον έλεγχο της τεχνητής νοημοσύνης και επιθυμεί οι κορυφαίες εταιρείες του κλάδου να αυτορυθμίζονται. Η στάση αυτή διατυπώνεται εν μέσω ανησυχιών ότι οι κανονισμοί θα μπορούσαν να υπονομεύσουν τη θέση των ΗΠΑ στον ανταγωνισμό με την Κίνα. Αντίθετα, ο Χίντον υποστηρίζει ένα αυστηρότερο σχέδιο, το οποίο έχουν εγκρίνει ο πρόεδρος της Φινλανδίας και άλλες 32 χώρες, μεταξύ των οποίων η Σιγκαπούρη, η Γερμανία, ο Καναδάς και η Αυστραλία. Το σχέδιο προβλέπει υποχρεωτικές δοκιμές των προηγμένων μοντέλων τεχνητής νοημοσύνης, ανεξάρτητες αξιολογήσεις και κοινά διακρατικά πρότυπα.
Ο πρωθυπουργός του Ηνωμένου Βασιλείου, Άντι Μπέρναμ, έχει δηλώσει ότι θα αξιοποιήσει την προεδρία της χώρας του στην G20 την επόμενη χρονιά, προκειμένου να επιδιώξει συμφωνία για «ένα ενιαίο σύνολο παγκόσμιων αρχών και προτύπων, που θα αποσκοπούν στην αξιοποίηση όλων των δυνατοτήτων της τεχνολογίας, προστατεύοντας παράλληλα από τους κινδύνους της».
«Χρειαζόμαστε έναν FDA για την τεχνητή νοημοσύνη»
Ο Χίντον δήλωσε: «Χρειαζόμαστε κάτι αντίστοιχο με τον αμερικανικό Οργανισμό Τροφίμων και Φαρμάκων (FDA), που ελέγχει τα φάρμακα. Οι εταιρείες θα πρέπει να προσκομίζουν ισχυρά στατιστικά στοιχεία σε μια ανεξάρτητη αρχή, αποδεικνύοντας ότι το μοντέλο τεχνητής νοημοσύνης προσφέρει περισσότερο όφελος παρά βλάβη, προτού κυκλοφορήσει. Με τη θαλιδομίδη, ένα φάρμακο που αναπτύχθηκε τη δεκαετία του 1950 και προκάλεσε σοβαρές γενετικές ανωμαλίες, μάθαμε ότι το να κυκλοφορεί πρώτα ένα προϊόν και στη συνέχεια να οδηγούνται οι υπεύθυνοι στα δικαστήρια δεν είναι ο σωστός τρόπος αντιμετώπισης. Αυτό που λένε οι μεγάλες εταιρείες τεχνολογίας είναι να αντιμετωπίσουμε την τεχνητή νοημοσύνη όπως αντιμετωπίσαμε τη θαλιδομίδη».
Ο ρόλος του Χίντον ως ενός από τους πρωτοπόρους της τεχνητής νοημοσύνης έχει οδηγήσει σε συγκρίσεις με τον Ρόμπερτ Οπενχάιμερ, ο οποίος διαδραμάτισε κεντρικό ρόλο στη δημιουργία των πυρηνικών όπλων. Ένας φίλος του, μάλιστα, τού αγόρασε ένα καπέλο στο στιλ εκείνου που φορούσε ο Οπενχάιμερ. Ωστόσο, ο ίδιος επιμένει: «Δεν ήμουν ο Οπενχάιμερ», επισημαίνοντας ότι χιλιάδες άλλοι επιστήμονες εργάζονταν επίσης στον τομέα των νευρωνικών δικτύων.
Μέσα στο νέο data center και στα εργαστήρια του «Δημόκριτου», η ATHENS VOICE βλέπει πώς η έρευνα στην τεχνητή νοημοσύνη περνά από τους υπολογιστές στα αυτόνομα θαλάσσια σκάφη
Αυτό που χτες φαινόταν ριζοσπαστικό σήμερα είναι συντηρητικό. Κι αυτό που χτες φαινόταν απολύτως αποδεκτό και ανάξιο σημασίας σήμερα είναι το χειρότερο ταμπού.
Μια συζήτηση στον Φάρο του ΚΠΙΣΝ για τις μηχανές που μπορεί κάποτε να μη μας χρειάζονται, την αγάπη για την επιστήμη και το βάρος τού να γίνεσαι πρότυπο στα 15 σου
20°
