Ο «νονός» της Τεχνητής Νοημοσύνης απαντά: Μπορεί να καταστρέψει την ανθρωπότητα τα επόμενα 30 χρόνια; - Ο Χίντον που έχει τιμηθεί με Νόμπελ Φυσικής, έχει πολλές φορές επισημάνει τους κινδύνους της Τεχνητής Νοημοσύνης
Ο Τζέφρι Χίντον, ο Βρετανο-Καναδός επιστήμονας που συχνά αναφέρεται ως «νονός» της τεχνητής νοημοσύνηςθεωρεί πως είναι πιθανό η τεχνολογία να εξαφανίσει την ανθρωπότητα και μάλιστα σε πολύ σύντομο χρόνο.
Ο καθηγητής Τζέφρι Χίντον, στον οποίο απονεμήθηκε φέτος το βραβείο Νόμπελ Φυσικήςγια το έργο του στην τεχνητή νοημοσύνη, δήλωσε ότι υπάρχει μια πιθανότητα «10% έως 20%» ότι η τεχνητή νοημοσύνη θα οδηγήσει στην εξαφάνιση του ανθρώπου μέσα στις επόμενες τρεις δεκαετίες.
Προηγουμένως ο Χίντον είχε δηλώσει ότι υπάρχει 10% πιθανότητα η τεχνολογία να προκαλέσει καταστροφική έκβαση για την ανθρωπότητα.
Ερωτηθείς στην εκπομπή Today του BBC Radio 4 αν άλλαξε την ανάλυσή του για μια πιθανή αποκάλυψη της τεχνητής νοημοσύνης και την πιθανότητα να συμβεί μία στις 10, είπε: «Όχι πραγματικά, 10% με 20%».
"AI godfather" Geoffrey Hinton warns humanity has up to a 20% chance of extinction from AI, urging stricter safety measures before it's too late. https://t.co/uDg2BHazj0
Η εκτίμηση του Τζέφρι Χίντον ώθησε τον καλεσμένο συντάκτη του Today, τον πρώην καγκελάριο Sajid Javid, να πει «ανεβαίνεις», στον οποίο ο Hinton απάντησε: «Αν μη τι άλλο. Βλέπετε, δεν είχαμε ποτέ στο παρελθόν να αντιμετωπίσουμε πράγματα πιο έξυπνα από εμάς».
Και πρόσθεσε: «Και πόσα παραδείγματα γνωρίζετε που ένα πιο έξυπνο πράγμα ελέγχεται από ένα λιγότερο έξυπνο πράγμα; Υπάρχουν πολύ λίγα παραδείγματα. Υπάρχει μια μητέρα και ένα μωρό. Η εξέλιξη έκανε πολλή δουλειά για να επιτρέψει στο μωρό να ελέγχει τη μητέρα, αλλά αυτό είναι το μόνο παράδειγμα που γνωρίζω».
Ο γεννημένος στο Λονδίνο Χίντον, ομότιμος καθηγητής στο Πανεπιστήμιο του Τορόντο, δήλωσε ότι οι άνθρωποι θα είναι σαν νήπια σε σύγκριση με την ευφυΐα των πολύ ισχυρών συστημάτων τεχνητής νοημοσύνης.
«Μου αρέσει να το σκέφτομαι ως εξής: φανταστείτε τον εαυτό σας και ένα τρίχρονο παιδί. Εμείς θα είμαστε τα τρίχρονα», είπε.
Η τεχνητή νοημοσύνη μπορεί να οριστεί χαλαρά ως συστήματα υπολογιστών που εκτελούν εργασίες που συνήθως απαιτούν ανθρώπινη νοημοσύνη.
Πέρυσι, ο Χίντον έγινε πρωτοσέλιδο αφού παραιτήθηκε από τη θέση του στην Google για να μιλήσει πιο ανοιχτά για τους κινδύνους που εγκυμονεί η απεριόριστη ανάπτυξη της τεχνητής νοημοσύνης, επικαλούμενος ανησυχίες ότι οι «κακοί παράγοντες» θα χρησιμοποιούσαν την τεχνολογία για να βλάψουν άλλους. Μια βασική ανησυχία των ακτιβιστών για την ασφάλεια της τεχνητής νοημοσύνης είναι ότι η δημιουργία τεχνητής γενικής νοημοσύνης, ή συστημάτων που είναι πιο έξυπνα από τον άνθρωπο, θα μπορούσε να οδηγήσει την τεχνολογία να αποτελέσει υπαρξιακή απειλή, καθώς διαφεύγει του ανθρώπινου ελέγχου.
Αναλογιζόμενος πού πίστευε ότι θα είχε φτάσει η ανάπτυξη της τεχνητής νοημοσύνης όταν ξεκίνησε την εργασία του πάνω στην τεχνολογία, ο Hinton δήλωσε: «Δεν πίστευα ότι θα φτάναμε εδώ που είμαστε τώρα. Πίστευα ότι κάποια στιγμή στο μέλλον θα φτάναμε εδώ».
Nobel laureate & AI godfather Geoffrey Hinton: "The biggest long-term danger is that once these artificial intelligences get smarter than we are, they will take control. They'll make us irrelevant, and that's quite worrying." pic.twitter.com/LujtDua3hC
Ο Χίντον δήλωσε ότι ο ρυθμός ανάπτυξης είναι «πολύ, πολύ γρήγορος, πολύ πιο γρήγορος από ό,τι περίμενα» και ζήτησε να υπάρξει κυβερνητική ρύθμιση της τεχνολογίας.
«Η ανησυχία μου είναι ότι το αόρατο χέρι δεν πρόκειται να μας κρατήσει ασφαλείς. Έτσι, το να το αφήσουμε απλώς στο κίνητρο του κέρδους των μεγάλων εταιρειών δεν θα είναι αρκετό για να διασφαλίσουμε ότι θα την αναπτύξουν με ασφάλεια», δήλωσε. «Το μόνο πράγμα που μπορεί να αναγκάσει αυτές τις μεγάλες εταιρείες να κάνουν περισσότερη έρευνα για την ασφάλεια είναι η κυβερνητική ρύθμιση».
Ο Χίντον είναι ένας από τους τρεις «νονούς της τεχνητής νοημοσύνης» που έχουν κερδίσει το βραβείο ACM AM Turing - το αντίστοιχο βραβείο Νόμπελ της επιστήμης των υπολογιστών - για το έργο τους. Ωστόσο, ένας από την τριάδα, ο Yann LeCun, ο επικεφαλής επιστήμονας Τεχνητής Νοημοσύνης στη Meta του Mark Zuckerberg, έχει υποβαθμίσει την υπαρξιακή απειλή και έχει πει ότι η Τεχνητή Νοημοσύνη «θα μπορούσε στην πραγματικότητα να σώσει την ανθρωπότητα από την εξαφάνιση».
Το κρίσιμο ερώτημα από εδώ και πέρα είναι αν η πολεμική επιχείρηση μετατρέπεται σε ένα καθεστώς όπου η ταχύτητα υπολογισμού λειτουργεί αντιστρόφως ανάλογα με την ανθρώπινη ευθύνη και φρόνηση.
17°
