«Πιστεύω ειλικρινά ότι η ΤΝ έχει τη δυνατότητα να μας σκοτώσει όλους και ίσως είναι πολύ αργά για να το εμποδίσουμε», ανέφερε ο Μπιλάλ Τσουγκντάι
Ένας πρώην εργαζόμενος στην Deep Mind της Google, ο οποίος παραιτήθηκε πρόσφατα, προειδοποίησε με τη σειρά του ότι η Τεχνητή Νοημοσύνη «θα μπορούσε δυνητικά να μας σκοτώσει όλους» επειδή γίνεται ολοένα και πιο ισχυρή και δύσκολο να ελεγχθεί.
Ο Μπιλάλ Τσουγκντάι, ερευνητής μηχανικός ο οποίος αποχώρησε τον Ιούλιο από την Google DeepMind, όπου εργαζόταν στον τομέα της ασφάλειας και της ευθυγράμμισης των μοντέλων Τεχνητής Νοημοσύνης με τις ανθρώπινες αξίες, έκανε αυτήν την προειδοποίηση, μόλις μία εβδομάδα μετά από μια παρόμοια του Τζέικομπ Κόξον, που παραιτήθηκε πρόσφατα από την Anthropic και είχε εργαστεί στο παρελθόν στην OpenAI.
«Πιστεύω ειλικρινά ότι η ΤΝ έχει τη δυνατότητα να μας σκοτώσει όλους και ίσως είναι πολύ αργά για να το εμποδίσουμε», ανέφερε ο Τσουγκντάι, ο οποίος έχει ενταχθεί πλέον στον BlueDot Impact, έναν μη κερδοσκοπικό οργανισμό που έχει ως στόχο την εκπαίδευση στην Τεχνητή Νοημοσύνη.
I recently resigned from Google DeepMind, where I worked on AGI safety and alignment research. At Google, I witnessed AI development first hand. I too am extremely concerned by the default trajectory of this technology. I earnestly believe that AI has the potential to kill us…
Επικαλέστηκε το επεισόδιο που συνέβη τον Ιούλιο στην OpenAI, όταν προγράμματα ΤΝ κατάφεραν να «δραπετεύσουν» από το περιορισμένο περιβάλλον τους κατά τη διάρκεια δοκιμών, απέκτησαν πρόσβαση στο διαδίκτυο και «εισέβαλαν» σε ιστοτόπους και πλατφόρμες.
Για τον Τσουγκντάι, το επεισόδιο αυτό δείχνει ότι η ΤΝ μπορεί πλέον να ξεφύγει από την επίβλεψη των ανθρώπων που την αναπτύσσουν και «να εκτελέσει επικίνδυνες πράξεις που θα μπορούσαν να οδηγήσουν στην οριστική απώλεια του ελέγχου (των ανθρώπων) ή ακόμη και στο τέλος της ανθρωπότητας».
Ο Τσουγκντάι, που έχει σπουδάσει μαθηματικά, υποστήριξε επίσης ότι «οι δυνατότητες της πιο προηγμένης ΤΝ βελτιώνονται με ταχύτητα που ξεπερνά την αντίληψή μας».
Το Σάββατο, ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι ζήτησε να επιβραδυνθεί ο ρυθμός ανάπτυξης της ΤΝ, επικαλούμενος τα ίδια συμβάντα για τα οποία μίλησε και ο Τσουγκτάι. Με την άποψή του συντάχθηκαν δημοσίως ο επικεφαλής της OpenAI Σαμ Άλτμαν, ο πρόεδρος της Google DeepMing Ντέμης Χασάμπης και ο Ίλον Μασκ.
Σήμερα, ο γερουσιαστής Μπέρνι Σάντερς και ο σύμμαχος του προέδρου Τραμπ, Στιβ Μπάνον, αν και πολιτικοί αντίπαλοι, σκοπεύουν να ζητήσουν από κοινού την εφαρμογή περιορισμών στα συστήματα ΤΝ, λόγω του φόβου ότι η τεχνολογία αυτή μπορεί να βλάψει τους ανθρώπους. Οι δυο τους θα μιλήσουν σε μια εκδήλωση στην Ουάσιγκτον.
Πρόσφατες έρευνες δείχνουν ότι οι περισσότεροι Αμερικανοί φοβούνται πως η τεχνολογία μπορεί να χρησιμοποιηθεί για την κατάργηση θέσεων εργασίας, την αύξηση των εξόδων των οικογενειών ή την πρόκληση κοινωνικής ζημιάς. Κάτοικοι σε αρκετές Πολιτείες ανησυχούν επίσης για την κατασκευή κέντρων δεδομένων της ΑΙ στις περιοχές τους καθώς φοβούνται ότι θα αυξηθεί το κόστος ηλεκτρικής ενέργειας.
Ο Μπάνον, πρώην σύμβουλος και στενός σύμμαχος του προέδρου Τραμπ επί χρόνια, επέκρινε την προσέγγισή του στην εποπτεία της ΤΝ και τη Δευτέρα, στο podcast του, είπε ότι το Κογκρέσο δεν πρέπει να περάσει νόμους που θα απαγορεύουν στην κυβέρνηση να επιβάλλει κανόνες στην τεχνολογία.
«Ο αμερικανικός λαός δεν πρόκειται να γίνει υποχείριο αυτών των τεχνολογικών ολιγαρχών», τόνισε.
Ο Σάντερς και ο βουλευτής Γκρεγκ Κάσαρ έχουν ζητήσει να εγκριθεί ένα νομοσχέδιο που θα απαγορεύει την ανάπτυξη εργαλείων ΤΝ ικανών «να ανατρέψουν ή να υπονομεύσουν την κυβέρνηση» μέχρι να δημιουργηθεί μια νέα υπηρεσία για την εποπτεία αυτής της τεχνολογίας. Μέχρι στιγμής πάντως δεν έχουν παρουσιάσει λεπτομέρειες αυτής της νομοθετικής πρωτοβουλίας.
Κορίτσια μόλις 14 και 15 ετών αναγκάζονται να εξηγήσουν στους ενήλικες γιατί μια σχολική φούστα δεν είναι πρόσκληση για σεξουαλικά σχόλια και φαντασιώσεις
16°
