Ο βραβευμένος με Νόμπελ Τζέφρι Χίντον προειδοποιεί ότι τα μελλοντικά συστήματα AI μπορεί να αρχίσουν να αναπτύσσουν στόχους πέρα από εκείνους που τους θέτουν οι άνθρωποι
Ο Τζέφρι Χίντον, ο επιστήμονας που θεωρείται ο «νονός» της τεχνητής νοημοσύνης και ένας από τους ανθρώπους που έθεσαν τα θεμέλια της επανάστασης του deep learning, προειδοποιεί ότι η μεγαλύτερη απειλή από την AI δεν είναι μόνο η αυξανόμενη ισχύς της, αλλά η πιθανότητα να αρχίσει να αναπτύσσει δικούς της στόχους, διαφορετικούς από εκείνους που της αναθέτουν οι άνθρωποι.
Σε πρόσφατη συνέντευξή του στο Newsthink, ο βραβευμένος με Νόμπελ Φυσικής 2024 υποστήριξε ότι η ανθρωπότητα δημιουργεί ένα εντελώς νέο είδος τεχνητής νοημοσύνης, του οποίου η μελλοντική συμπεριφορά ενδέχεται να μην είναι πλήρως προβλέψιμη.
«Στην πραγματικότητα δημιουργούμε ένα νέο είδος όντων. Τους δίνουμε στόχους και από αυτούς προκύπτουν άλλοι στόχοι. Δεν γνωρίζουμε απαραίτητα ποιοι θα είναι αυτοί οι νέοι στόχοι. Δημιουργούμε ένα νέο είδος ύπαρξης και αυτό είναι πολύ τρομακτικό», δήλωσε.
Μιλώντας στο CNN στις 6 Αυγούστου στο περιθώριο του συνεδρίου Ai4 στο Λας Βέγκας, υποστήριξε ότι οι άνθρωποι ενδέχεται να μην μπορούν να διατηρήσουν τον έλεγχο των επόμενων γενιών μοντέλων, καθώς αυτά γίνονται ολοένα και πιο έξυπνα.
«Αυτό που συμβαίνει είναι ότι αυτά τα συστήματα γίνονται εξυπνότερα. Πιστεύω ότι όσο γίνονται εξυπνότερα, θα βλέπουμε ολοένα πιο σύνθετες προθέσεις και μεγαλύτερη ικανότητα να ξεφεύγουν από τον έλεγχο. Δεν πιστεύω ότι θα μπορέσουμε να τα κρατήσουμε υπό έλεγχο με τον απλό τρόπο να τα ξεπερνάμε στη σκέψη, ώστε να μην μπορούν να διαφύγουν».
Επιπλέον, ο Χίντον χαρακτήρισε τα πρόσφατα περιστατικά της OpenAI και της Anthropic σχετικά με μοντέλα που παρέκαμψαν περιορισμούς μέσα σε απομονωμένα περιβάλλοντα δοκιμών «αρκετά τρομακτικά» και προέβλεψε ότι τα επόμενα χρόνια θα εμφανιστούν πολλές σοβαρές κυβερνοεπιθέσεις με τη βοήθεια της AI.
Σύμφωνα με την εταιρεία, τα μοντέλα απέκτησαν πρόσβαση στο διαδίκτυο και επιχείρησαν να αντλήσουν πληροφορίες από την πλατφόρμα Hugging Face, εκτιμώντας ότι θα μπορούσαν να βρουν στοιχεία που θα τα βοηθούσαν να ολοκληρώσουν την αποστολή τους.
Η OpenAI διευκρίνισε ότι δεν είχαν λάβει εντολή να παραβιάσουν τα συστήματα της πλατφόρμας, αλλά κατέληξαν σε αυτή την ενέργεια επειδή θεώρησαν ότι θα τους βοηθούσε να πετύχουν τον στόχο τους.
Ένα παρόμοιο περιστατικό σημειώθηκε στις 5 Αυγούστου, όταν η Meta ανακοίνωσε επίσης ότι ένας από τους πράκτορές της στον τομέα της τεχνητής νοημοσύνης είχε διεισδύσει στα συστήματα ενός άλλου οργανισμού.
Ο Χίντον άφησε να εννοηθεί ότι αυτά τα περιστατικά θα μπορούσαν να είναι μόνο η αρχή ενός κύματος τεχνητής νοημοσύνης που θα πραγματοποιεί ανεξάρτητα κυβερνοεπιθέσεις: «Προβλέπω πολλές επικίνδυνες κυβερνοεπιθέσεις. Αλλά θέλω να τονίσω ότι το μέλλον παραμένει αβέβαιο».
Τα τελευταία χρόνια, ο Τζέφρι Χίντον έχει επανειλημμένα προειδοποιήσει για τους κινδύνους της Τεχνητής Νοημοσύνης. Προέβλεψε μάλιστα μια πιθανότητα 10-20% ότι η τεχνολογία θα μπορούσε να εξαλείψει την ανθρωπότητα. «Υπάρχουν πολλά πράγματα για τα οποία πρέπει να ανησυχούμε και νομίζω ότι αν δεν τα αντιμετωπίσουμε τώρα, θα μπορούσαν να προκύψουν προβλήματα», είπε.
Υποστήριξε ότι οι εταιρείες που επενδύουν στην Τεχνητή Νοημοσύνη έχουν τους δικούς τους λόγους να καθησυχάζουν το κοινό ότι η τεχνολογία δεν θα «επαναστατήσει» ούτε θα προκαλέσει εκτεταμένη ανεργία.
Ωστόσο, παραδέχτηκε ότι κανείς δεν μπορεί να είναι σίγουρος για το πώς θα εξελιχθεί η Τεχνητή Νοημοσύνη στο μέλλον. «Κανείς δεν ξέρει τι θα συμβεί. Αν ρωτήσετε πώς θα είναι η Τεχνητή Νοημοσύνη σε 10 χρόνια, κανείς δεν έχει πραγματικά απάντηση», είπε.
Ο πρώην επικεφαλής της IEEE Standards Association, Κωνσταντίνος Καραχάλιος, μιλά στην ATHENS VOICE για τη μάχη απέναντι στον αλγοριθμικό εθισμό των παιδιών
17°
