Στην κυκλοφορία το εργαλείο AI που θεωρούνταν «πολύ ισχυρό για το κοινό»

Μια έκδοση ενός εργαλείου τεχνητής νοημοσύνης (AI), το οποίο η δημιουργός εταιρεία είχε χαρακτηρίσει στο παρελθόν ως «υπερβολικά ισχυρό» για να διατεθεί στο ευρύ κοινό, μόλις κυκλοφόρησε επίσημα στην αγορά.

Το Claude Fable 5 αποτελεί μια έκδοση του εργαλείου τεχνητής νοημοσύνης Claude Mythos της εταιρείας Anthropic. Πρόκειται για ένα πρόγραμμα ΑΙ που προκάλεσε σοβαρές ανησυχίες σε ηγέτες της τεχνολογίας, των χρηματοοικονομικών και των κυβερνήσεων, όταν διατέθηκε για πρώτη φορά σε ιδιωτικό επίπεδο τον Απρίλιο για προεπισκόπηση και δοκιμές.

Ορισμένοι εκφράζουν φόβους ότι το εργαλείο είναι τόσο ισχυρό που θα μπορούσε να απειλήσει τη χρηματοοικονομική ασφάλεια, αν και άλλοι αναρωτιούνται μήπως ο θόρυβος αυτός αποτελεί απλώς επικοινωνιακό τέχνασμα.

Η Anthropic ανακοίνωσε την Τρίτη ότι το Fable θα κυκλοφορήσει με ενσωματωμένες δικλείδες ασφαλείας και περιορισμούς χρήσης, αν και παραδέχτηκε ότι «η διάθεση ενός μοντέλου με τέτοιες δυνατότητες εγκλείει κινδύνους». Η εταιρεία πρόσθεσε: «Οι δυνατότητες του Fable ξεπερνούν κάθε άλλο μοντέλο που έχουμε διαθέσει ποτέ στο κοινό».

Οι κίνδυνοι για την κυβερνοασφάλεια και οι αντιδράσεις

Όταν το Mythos δόθηκε αρχικά σε μια μικρή ομάδα οργανισμών για δοκιμή, η Anthropic είχε δηλώσει ότι περιόρισε την πρόσβαση επειδή το εργαλείο ήταν τόσο ευφυές που θα μπορούσε να γίνει επικίνδυνο, έχοντας την ικανότητα να εκμεταλλεύεται κενά ασφαλείας ή να χακάρει υπολογιστικά συστήματα.

Ο Καναδός υπουργός Οικονομικών, Φρανσουά-Φιλίπ Σαμπάν, δήλωσε στο BBC τον Απρίλιο ότι η προσοχή γύρω από το Mythos είναι απόλυτα δικαιολογημένη, εν μέρει επειδή «πρόκειται για το απόλυτο άγνωστο».

Στο μεταξύ, παρά τη δικαστική διαμάχη της Anthropic με το υπουργείο Άμυνας των ΗΠΑ, το οποίο αρνείται να δεχτεί τη χρήση των εργαλείων της από την κυβέρνηση, οι αμερικανικές κυβερνητικές υπηρεσίες δοκιμάζουν ήδη το Mythos.

Στόχος οι επενδυτές και η Wall Street

Η Anthropic αναμένεται να εισέλθει σύντομα στο χρηματιστήριο, καθώς η αποτίμησή της στον ιδιωτικό τομέα έχει πλησιάσει το 1 τρισεκατομμύριο δολάρια. Η διαρκής επίδειξη ανώτερων και διευρυμένων δυνατοτήτων AI υπογραμμίζει την αξία της εταιρείας στα μάτια των επενδυτών.

Η εταιρεία ανακοίνωσε επίσης την Τρίτη ότι οι περίπου 150 οργανισμοί που είχαν ήδη πρόσβαση στο Mythos, θα έχουν πλέον πρόσβαση στο αναβαθμισμένο Claude Mythos 5. Η συγκεκριμένη έκδοση δεν διαθέτει περιορισμούς στον τομέα της κυβερνοασφάλειας ή της βιολογίας, ανάλογα με τις ειδικές χρήσεις του κάθε οργανισμού.

Μέχρι σήμερα, οι εταιρείες που χρησιμοποιούν το Mythos έχουν αναφέρει στην Anthropic τον εντοπισμό περισσότερων από 10.000 κρίσιμων ελαττωμάτων ασφαλείας στα συστήματά τους. Η Anthropic διευκρίνισε ότι η διευρυμένη πρόσβαση περιορίζεται προς το παρόν σε μια «μικρή ομάδα αμυνόμενων του κυβερνοχώρου και παρόχων υποδομών», αλλά αναμένεται να επεκταθεί σύντομα.

Μοντέλα AI χωρίς «πεντάλ φρένου»

Τόσο το Fable όσο και το Mythos, τα οποία ουσιαστικά αποτελούν το ίδιο μοντέλο αλλά με διαφορετικούς περιορισμούς ασφαλείας, μπορούν να λειτουργούν αυτόνομα εκτελώντας ανθρώπινες εντολές για πολύ μεγαλύτερα χρονικά διαστήματα «από οποιοδήποτε προηγούμενο μοντέλο Claude», σύμφωνα με την Anthropic.

Ο συνιδρυτής της εταιρείας, Τζακ Κλαρκ, μιλώντας την περασμένη εβδομάδα στην εκπομπή Newsnight του BBC, δήλωσε ότι οι δυνατότητες των εργαλείων AI εξελίσσονται τόσο ραγδαία, που η εταιρεία θεωρεί ότι θα έπρεπε να υπάρχει ένας τρόπος ώστε η κοινωνία να μπορεί να επιβραδύνει την πρόοδο της τεχνολογίας.

«Θέλεις να έχεις την επιλογή να βγάλεις το πόδι σου από το γκάζι και να πατήσεις το φρένο», δήλωσε ο Κλαρκ. «Αυτή τη στιγμή, είναι σαν η βιομηχανία της τεχνητής νοημοσύνης να έχει πεντάλ γκαζιού, αλλά να μην διαθέτει πεντάλ φρένου».

(Με πληροφορίες BBC News)