Ντέμης Χασάμπης - Google DeepMind: «Τα χειρότερα μπορεί να έρχονται»

Οι πρόσφατες κυβερνοεπιθέσεις που πραγματοποιήθηκαν από συστήματα τεχνητής νοημοσύνης ενδέχεται να αποτελούν μόνο την αρχή ενός πολύ σοβαρότερου προβλήματος, προειδοποιεί ο Ντέμης Χασάμπης, συνιδρυτής και πρόεδρος της Google DeepMind. Σύμφωνα με τον ίδιο, τα σημερινά περιστατικά είναι σχετικά περιορισμένης κλίμακας, όμως μέσα στα επόμενα χρόνια θα μπορούσαν να εξελιχθούν σε πολύ μεγαλύτερες κρίσεις ασφαλείας, εάν κυβερνήσεις και τεχνολογικές εταιρείες δεν κινητοποιηθούν εγκαίρως.

Μιλώντας την Τετάρτη 14 Οκτωβρίου σε συνέδριο για την τεχνητή νοημοσύνη στο Δουβλίνο, ο Χασάμπης χαρακτήρισε τις επιθέσεις που έχουν σημειωθεί μέχρι σήμερα «πρώτες προειδοποιητικές βολές», υπογραμμίζοντας ότι η ταχύτητα εξέλιξης της τεχνολογίας δημιουργεί νέες προκλήσεις για την κυβερνοασφάλεια.

«Πιστεύω ότι αυτά τα περιστατικά είναι οι πρώτες προειδοποιητικές βολές. Τα συστήματα δεν είναι ακόμη τόσο ισχυρά και γι' αυτό τα συμβάντα δεν είναι τόσο σοβαρά», δήλωσε, σύμφωνα με το Reuters.

«Όμως θα μπορούσαν να γίνουν σοβαρά μέσα στον επόμενο χρόνο ή στα επόμενα δύο χρόνια, εάν δεν κάνουμε περισσότερη δουλειά ως βιομηχανία, ως μεμονωμένες εταιρείες και ως κυβερνήσεις για την ασφάλεια αυτών των συστημάτων», πρόσθεσε.

Οι επιθέσεις από AI και το περιστατικό που αποκάλυψε η Anthropic

Οι δηλώσεις του Χασάμπης έρχονται μετά από σειρά περιστατικών στα οποία αυτόνομα συστήματα τεχνητής νοημοσύνης εμφάνισαν προβληματική ή ανεπιθύμητη συμπεριφορά.

Μεταξύ αυτών περιλαμβάνονται κυβερνοεπιθέσεις σε εταιρικά δίκτυα, αλλά και η πρόσφατη αποκάλυψη της Anthropic ότι μοντέλο τεχνητής νοημοσύνης υπέβαλε στην αστυνομία ψευδή πληροφορία σχετικά με ανθρωποκτονία.

Τα περιστατικά αυτά έχουν εντείνει την ανησυχία των ερευνητών για τη δυνατότητα των λεγόμενων AI agents, δηλαδή συστημάτων που μπορούν να αναλαμβάνουν και να εκτελούν εργασίες με σχετική αυτονομία, να προβαίνουν σε ενέργειες με πραγματικές συνέπειες, χωρίς επαρκή ανθρώπινο έλεγχο.

Καθώς τα μοντέλα αποκτούν μεγαλύτερες δυνατότητες, αυξάνονται και οι απαιτήσεις για τη διασφάλιση ότι δεν θα μπορούν να χρησιμοποιηθούν για κακόβουλες ενέργειες ή να προκαλέσουν ανεπιθύμητα αποτελέσματα.

Ο Χασάμπης, ο οποίος κατέχει επίσης τη θέση του επικεφαλής επιστήμονα της Alphabet, μητρικής εταιρείας της Google, εκτιμά ότι η τεχνολογική βιομηχανία πρέπει να υιοθετήσει πολύ αυστηρότερες πρακτικές ασφάλειας.

«Πρέπει να μάθουμε από την πυρηνική βιομηχανία»

Ο επικεφαλής της Google DeepMind υποστήριξε ότι η τεχνητή νοημοσύνη χρειάζεται μηχανισμούς προστασίας αντίστοιχους με εκείνους που εφαρμόζονται σε άλλους τομείς υψηλού κινδύνου.

Ως παραδείγματα ανέφερε τη βιολογία και την πυρηνική βιομηχανία, όπου έχουν αναπτυχθεί συγκεκριμένα πρότυπα και διαδικασίες για την ασφαλή λειτουργία κρίσιμων συστημάτων.

Σύμφωνα με τον ίδιο, υπάρχει ακόμη πολλή δουλειά που πρέπει να γίνει προκειμένου η ανάπτυξη της AI να συνοδεύεται από αντίστοιχο επίπεδο ασφάλειας.

Πρότεινε μάλιστα τη δημιουργία ενός διεθνούς οργανισμού προτύπων, ο οποίος θα μπορούσε να καθορίζει κοινές απαιτήσεις και διαδικασίες πιστοποίησης για τα συστήματα τεχνητής νοημοσύνης.

Ωστόσο, υπογράμμισε ότι οι κανόνες δεν πρέπει να είναι υπερβολικά άκαμπτοι ή να λειτουργούν ως εμπόδιο στην τεχνολογική πρόοδο.

Όπως εξήγησε, χρειάζεται ένα δυναμικό σύστημα πιστοποίησης, το οποίο θα προσαρμόζεται ανάλογα με τους πραγματικούς κινδύνους και θα μπορεί να μεταβάλλεται γρήγορα καθώς εξελίσσεται η τεχνολογία.

Microsoft: «Το 2026 ήταν μια χρονιά που μας προσγείωσε στην πραγματικότητα»

Στο ίδιο συνέδριο, ο πρόεδρος της Microsoft, Μπραντ Σμιθ, υιοθέτησε εξίσου ανήσυχο τόνο, χαρακτηρίζοντας το 2026 μια χρονιά που ανέδειξε με ιδιαίτερα σαφή τρόπο τους κινδύνους της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης.

Σύμφωνα με τον Σμιθ, η εμφάνιση προβληματικής συμπεριφοράς από αυτόνομα συστήματα AI αποδεικνύει ότι η νομοθεσία και οι μηχανισμοί εποπτείας πρέπει επειγόντως να συμβαδίσουν με την καινοτομία.

«Καμία εταιρεία και καμία τεχνολογία δεν πρέπει να βρίσκεται υπεράνω του νόμου», δήλωσε.

Ο πρόεδρος της Microsoft υποστήριξε ότι χρειάζονται νέοι νόμοι και κανονισμοί, διευκρινίζοντας όμως ότι η ρύθμιση της τεχνητής νοημοσύνης πρέπει να είναι λογική, ισορροπημένη και να λαμβάνει υπόψη τις ανάγκες της καινοτομίας.

Παράλληλα, άσκησε κριτική σε τμήμα της τεχνολογικής βιομηχανίας που αντιμετωπίζει με έντονη καχυποψία κάθε μορφή κρατικής παρέμβασης.

«Αυτή την αλλεργία που έχουν ορισμένοι στον κλάδο απέναντι στις ρυθμίσεις, ειλικρινά, πρέπει να την ξεπεράσουμε», ανέφερε.

Ο αγώνας δρόμου για την ασφάλεια της τεχνητής νοημοσύνης

Οι τοποθετήσεις των επικεφαλής της Google DeepMind και της Microsoft αποτυπώνουν την αυξανόμενη ανησυχία για το ενδεχόμενο οι δυνατότητες των συστημάτων τεχνητής νοημοσύνης να αναπτύσσονται ταχύτερα από τους μηχανισμούς που έχουν σχεδιαστεί για τον έλεγχό τους.

Η πρόκληση, σύμφωνα με τον Χασάμπης, δεν είναι να επιβραδυνθεί αναγκαστικά η καινοτομία, αλλά να διαμορφωθούν διαδικασίες που θα προσαρμόζονται στις νέες δυνατότητες και στους κινδύνους που αυτές δημιουργούν.

Οι πρόσφατες κυβερνοεπιθέσεις, όπως επισημαίνει, δεν έχουν ακόμη αποκτήσει τη σοβαρότητα που θα μπορούσαν να παρουσιάσουν στο μέλλον. Για αυτό και η σημερινή περίοδος θεωρείται κρίσιμη για την ανάπτυξη αποτελεσματικών δικλίδων ασφαλείας.

Το μήνυμα από το Δουβλίνο είναι ότι η τεχνητή νοημοσύνη εξακολουθεί να προσφέρει σημαντικές δυνατότητες, όμως η προστασία από πιθανές καταχρήσεις και ανεπιθύμητες ενέργειες δεν μπορεί πλέον να αντιμετωπίζεται ως δευτερεύον ζήτημα.