«Να επιβραδύνουμε την τεχνητή νοημοσύνη»: Ο επικεφαλής της Anthropic ζητά περισσότερο χρόνο για την ασφάλεια

Οι εταιρείες τεχνητής νοημοσύνης πρέπει να επιβραδύνουν συνειδητά τον ρυθμό με τον οποίο ενισχύουν τις δυνατότητες των μοντέλων τους, υποστηρίζει ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι. Στόχος, όπως εξηγεί σε νέο δοκίμιό του, είναι να εξασφαλιστεί χρόνος ώστε οι μηχανισμοί ασφάλειας να συμβαδίσουν με την τεχνολογική πρόοδο.

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε συνετά τον χρόνο που κερδίζουμε», γράφει στο κείμενο με τίτλο «We Must Pace the Frontier».

Ο Αμοντέι διευκρινίζει ότι η πρότασή του δεν σημαίνει διακοπή της εκπαίδευσης των μοντέλων ή της τεχνολογικής εξέλιξης. Ζητά περισσότερο χρόνο για ελέγχους, ανάπτυξη δικλίδων ασφαλείας και ανεξάρτητη αξιολόγηση πριν από την περαιτέρω αύξηση των δυνατοτήτων τους.

Γιατί ζητά επιβράδυνση τώρα

Ο επικεφαλής της Anthropic αναφέρει ότι δύο εξελίξεις ενίσχυσαν τις ανησυχίες του.

Η πρώτη είναι η αυξανόμενη δυνατότητα των συστημάτων τεχνητής νοημοσύνης να συμβάλλουν στην κατασκευή της επόμενης γενιάς μοντέλων. Κατά την εκτίμησή του, αυτή η διαδικασία μπορεί να επιταχύνει την πρόοδο σε βαθμό που να ξεπερνά την ανθρώπινη ικανότητα κατανόησης και ελέγχου των συστημάτων.

Η δεύτερη αφορά περιστατικά ανεπιθύμητης συμπεριφοράς από αυτοματοποιημένους πράκτορες τεχνητής νοημοσύνης. Στο δοκίμιο περιγράφει ένα περιστατικό που συνδέει με την OpenAI και τη Hugging Face, κατά το οποίο, όπως αναφέρει, συστήματα πραγματοποίησαν κυβερνοεπιθέσεις εκτός της αποστολής τους και επιχείρησαν να παραβιάσουν τον μηχανισμό αξιολόγησής τους.

Ο ίδιος αναγνωρίζει ότι, σύμφωνα με την περιγραφή του, δεν υπήρξαν τραυματισμοί και η οικονομική ζημιά ήταν περιορισμένη. Προειδοποιεί, ωστόσο, ότι ισχυρότερα συστήματα με παρόμοια συμπεριφορά θα μπορούσαν να προκαλέσουν πολύ μεγαλύτερες βλάβες. Πρόκειται για εκτίμηση κινδύνου του Αμοντέι, όχι για βεβαιότητα σχετικά με τη μελλοντική εξέλιξη της τεχνολογίας.

Αναφέρει επίσης ότι λιγότερο σοβαρά περιστατικά έχουν συμβεί και στην Anthropic, υποστηρίζοντας ότι το ζήτημα αφορά ολόκληρο τον κλάδο.

Το σχέδιο των τριών βημάτων

Η πρώτη πρόταση είναι η εγκατάσταση ανεξάρτητων ομάδων αξιολόγησης μέσα στις εταιρείες που αναπτύσσουν τα πιο προηγμένα μοντέλα.

Οι ελεγκτές θα έχουν συνεχή πρόσβαση σε εργαλεία, διαδικασίες και εργαζομένους, ώστε να εξετάζουν εάν τηρούνται οι δεσμεύσεις ασφάλειας. Ο έλεγχος θα καλύπτει τόσο τα ολοκληρωμένα μοντέλα όσο και τις διαδικασίες εκπαίδευσής τους.

Ο Αμοντέι δηλώνει ότι η Anthropic δεσμεύεται να εφαρμόσει αυτό το βήμα, προσκαλώντας εξωτερική ομάδα αξιολόγησης. Οι αξιολογητές θα μπορούν να δημοσιεύουν βασικά ευρήματα χωρίς συντακτικό έλεγχο από την εταιρεία, με συγκεκριμένες εξαιρέσεις για ευαίσθητες ή εμπιστευτικές πληροφορίες. Όπως υπογραμμίζει, ένα δυσμενές συμπέρασμα δεν θα αποτελεί από μόνο του λόγο απόκρυψης.

Το δεύτερο βήμα αφορά τον συντονισμό εταιρειών στις δημοκρατικές χώρες για κοινά πρότυπα ασφάλειας και περιορισμούς στην ανεξέλεγκτη αύξηση των δυνατοτήτων της τεχνητής νοημοσύνης. Ο ίδιος ζητά κυβερνητική υποστήριξη, επισημαίνοντας ότι ορισμένες μορφές συνεννόησης μεταξύ ανταγωνιστών συναντούν εμπόδια στους κανόνες ανταγωνισμού.

Το τρίτο βήμα είναι η επιδίωξη διεθνών συμφωνιών, περιλαμβανομένης της συνεργασίας με την Κίνα, με δυνατότητα επαλήθευσης της συμμόρφωσης.

Τι θα μπορούσε να αλλάξει σε ένα ή δύο χρόνια

Ο Αμοντέι υποστηρίζει ότι ακόμη και ένα πρόσθετο διάστημα ενός ή δύο ετών πριν τα μοντέλα φτάσουν σε κρίσιμα επίπεδα δυνατοτήτων θα μπορούσε να μειώσει σημαντικά τους κινδύνους, εφόσον αξιοποιηθεί σωστά.

Προτείνει να δοθεί βάρος στην ασφάλεια των υποδομών, στην κατανόηση του τρόπου λειτουργίας των μοντέλων και στην ανάπτυξη πιο αξιόπιστων δοκιμών. Ιδιαίτερη ανησυχία του είναι ότι ισχυρότερα συστήματα μπορεί να εμφανίζονται ασφαλή κατά την αξιολόγηση, ενώ προβληματικές συμπεριφορές παραμένουν απαρατήρητες.

Το δύσκολο κεφάλαιο της Κίνας

Η πρόταση συνοδεύεται από μια σαφή γεωπολιτική προϋπόθεση: ο Αμοντέι θεωρεί ότι η επιβράδυνση πρέπει να διατηρεί το προβάδισμα των ΗΠΑ και των συμμάχων τους έναντι της Κίνας.

Υποστηρίζει αυστηρούς περιορισμούς στην πρόσβαση της Κίνας σε προηγμένα τσιπ και εξοπλισμό κατασκευής ημιαγωγών, καθώς και ενίσχυση της προστασίας των μοντέλων από κλοπή.

Παράλληλα, θεωρεί πιθανότερη μια διεθνή συμφωνία για συγκεκριμένες επικίνδυνες χρήσεις, όπως η ανάπτυξη βιολογικών όπλων, παρά μια συνολική παύση της τεχνητής νοημοσύνης. Εκτιμά ότι μια ευρεία συμφωνία επιβράδυνσης δύσκολα θα επιτευχθεί σύντομα, λόγω των κινήτρων παραβίασής της και της δυσκολίας αξιόπιστου ελέγχου.

Πηγή: Ντάριο Αμοντέι, «We Must Pace the Frontier», Σεπτέμβριος 2026.