«Η ΑΙ μπορεί να εξαφανίσει την ανθρωπότητα»: Η προειδοποίηση από κορυφαίο ερευνητή της Anthropic
Ένας από τους κορυφαίους ερευνητές ασφάλειας της Anthropic προειδοποιεί ότι η τεχνητή νοημοσύνηεξελίσσεται τόσο γρήγορα, ώστε ο ίδιος εκτιμά πως υπάρχει πιθανότητα μεγαλύτερη από 10% να οδηγήσει σε ένα καταστροφικό σενάριο για την ανθρωπότητα μέσα στην επόμενη δεκαετία.
Ο Έβαν Χούμπινγκερ, ερευνητής που ειδικεύεται στο λεγόμενο AIalignment, έγραψε σε ανάρτησή του στο Χ ότι θεωρεί τον κίνδυνο από τα σημερινά μοντέλα «χαμηλό», αλλά ανησυχεί για το ενδεχόμενο η τεχνολογία να φτάσει σύντομα σε σημείο όπου θα μπορεί να βελτιώνει αυτόνομα τις δυνατότητές της.
«Πιστεύουμε πραγματικά ότι η ΑΙ ενέχει κίνδυνο εξαφάνισης για το ανθρώπινο είδος», έγραψε, προσθέτοντας ότι η Anthropic προσπαθεί να αντιμετωπίσει το πρόβλημα, αλλά δεν υπάρχει ακόμη σαφές σχέδιο για το πώς θα διασφαλιστεί ο έλεγχος μιας ενδεχόμενης υπερνοημοσύνης.
Ο Χούμπινγκερ δεν εξήγησε με ποιον συγκεκριμένο τρόπο θεωρεί ότι ένα προηγμένο σύστημα τεχνητής νοημοσύνης θα μπορούσε να απειλήσει την ανθρωπότητα.
Οι δηλώσεις του ήρθαν ως απάντηση σε ανάρτηση του Τζέικομπ Κόξον, ερευνητή τεχνητής νοημοσύνης που δήλωσε ότι αποχώρησε πρόσφατα από την Anthropic και στο παρελθόν είχε εργαστεί στην OpenAI.
Ο Κόξον κατηγόρησε και τις δύο εταιρείες ότι δεν ενεργούν με αρκετή υπευθυνότητα, υποστηρίζοντας ότι τα επόμενα συστήματα θα μπορούσαν σύντομα να αποκτήσουν «υπερανθρώπινες» δυνατότητες, μεταξύ άλλων στην κυβερνοασφάλεια, την επιστημονική έρευνα και την απόκτηση πραγματικών πόρων και επιρροής.
Η νέα προειδοποίηση έρχεται σε μια περίοδο αυξημένης συζήτησης γύρω από το πόσο αποτελεσματικά μπορούν να ελεγχθούν τα πιο προηγμένα συστήματα ΑΙ.
Σύμφωνα με τους Financial Times, η Anthropic φέρεται να μην έδωσε το νεότερο μοντέλο της στο βρετανικό AI Safety Institute για αξιολόγηση. Η βρετανική κυβέρνηση δεν επιβεβαίωσε ούτε διέψευσε την πληροφορία, αναφέροντας μόνο ότι συνεχίζει να συνεργάζεται στενά με εταιρείες του κλάδου, μεταξύ των οποίων και η Anthropic.
Το βασικό αντικείμενο της δουλειάς του Χούμπινγκερ είναι το AI alignment, δηλαδή η προσπάθεια να σχεδιαστούν συστήματα τεχνητής νοημοσύνης των οποίων οι στόχοι και οι ενέργειες παραμένουν συμβατοί με τις ανθρώπινες αξίες και προθέσεις.
Το πρόβλημα γίνεται πιο περίπλοκο όσο αυξάνεται η αυτονομία των μοντέλων. Τους τελευταίους μήνες, OpenAI, Anthropic και Meta έχουν δημοσιοποιήσει περιστατικά στα οποία εργαλεία ΑΙ χρησιμοποιήθηκαν σε κυβερνοεπιθέσεις, ενισχύοντας τη συζήτηση γύρω από τους κινδύνους των λεγόμενων AI agents.
Στην έκθεση ασφάλειας που δημοσίευσε τον Αύγουστο, η Anthropic είχε εκτιμήσει ως χαμηλό τον κίνδυνο τα μοντέλα της να αποκλίνουν σοβαρά από τους στόχους των χειριστών τους ή να πραγματοποιήσουν αυτόνομη έρευνα που θα μπορούσε να οδηγήσει σε καταστροφική ζημιά. Ταυτόχρονα, όμως, παραδεχόταν ότι είχε μικρότερη βεβαιότητα για αυτή την εκτίμηση σε σχέση με το παρελθόν.
«Βλέπουμε πρώιμες ενδείξεις πιθανής επιτάχυνσης», ανέφερε η εταιρεία.
Οι ανησυχίες δεν περιορίζονται στην Anthropic. Στις αρχές του μήνα, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Παχότσκι, είχε επίσης ζητήσει «ακραία προσοχή» σχετικά με την ταχύτητα εξέλιξης της τεχνητής νοημοσύνης, προειδοποιώντας ότι μπορεί να χρειαστούν πολύ ισχυρότερες παρεμβάσεις προκειμένου «οι άνθρωποι να παραμείνουν στον έλεγχο του μέλλοντος».
Παράλληλα, κορυφαία στελέχη του κλάδου, μεταξύ των οποίων ο Ντάριο Αμοντέι και ο Τζάρεντ Κάπλαν της Anthropic, έχουν υποστηρίξει ότι η ανάπτυξη προηγμένων συστημάτων ΑΙ θα πρέπει να γίνεται με πιο ελεγχόμενο ρυθμό.
Σε ανοιχτή επιστολή που υπέγραψαν περίπου 1.300 εργαζόμενοι εταιρειών τεχνητής νοημοσύνης, ζητήθηκε από την αμερικανική κυβέρνηση να υποστηρίξει μια διεθνή προσπάθεια για τη δημιουργία τεχνικών και θεσμικών μηχανισμών που θα μπορούσαν να περιορίσουν την ταχύτητα ανάπτυξης των ισχυρότερων συστημάτων.
Η εκτίμηση του Χούμπινγκερ για πιθανότητα άνω του 10% δεν αποτελεί επιστημονική πρόβλεψη ούτε κοινά αποδεκτό συμπέρασμα στον χώρο της τεχνητής νοημοσύνης. Αντανακλά όμως τον αυξανόμενο προβληματισμό μιας μερίδας ερευνητών που θεωρούν ότι η πρόοδος των μοντέλων έχει αρχίσει να κινείται ταχύτερα από την ικανότητα των εταιρειών και των κυβερνήσεων να ελέγχουν τους κινδύνους τους.
Πλέον δεν αγοράζουμε, αλλά νοικιάζουμε καθημερινές υπηρεσίες και αγαθά από εταιρείες και διοικητικούς οργανισμούς από την καλή θέληση των οποίων και εξαρτιόμαστε
Μέσα στο νέο data center και στα εργαστήρια του «Δημόκριτου», η ATHENS VOICE βλέπει πώς η έρευνα στην τεχνητή νοημοσύνη περνά από τους υπολογιστές στα αυτόνομα θαλάσσια σκάφη
Αυτό που χτες φαινόταν ριζοσπαστικό σήμερα είναι συντηρητικό. Κι αυτό που χτες φαινόταν απολύτως αποδεκτό και ανάξιο σημασίας σήμερα είναι το χειρότερο ταμπού.
14°
