- CITY GUIDE
- PODCAST
-
17°
Στην κυκλοφορία το εργαλείο AI που θεωρούνταν «πολύ ισχυρό για το κοινό»
Η Anthropic διαθέτει το Claude Fable 5 παρά τις ανησυχίες για την κυβερνοασφάλεια
Η Anthropic κυκλοφόρησε το πανίσχυρο μοντέλο τεχνητής νοημοσύνης Claude Fable 5, προκαλώντας έντονες ανησυχίες σε κυβερνήσεις και αγορές
Μια έκδοση ενός εργαλείου τεχνητής νοημοσύνης (AI), το οποίο η δημιουργός εταιρεία είχε χαρακτηρίσει στο παρελθόν ως «υπερβολικά ισχυρό» για να διατεθεί στο ευρύ κοινό, μόλις κυκλοφόρησε επίσημα στην αγορά.
Το Claude Fable 5 αποτελεί μια έκδοση του εργαλείου τεχνητής νοημοσύνης Claude Mythos της εταιρείας Anthropic. Πρόκειται για ένα πρόγραμμα ΑΙ που προκάλεσε σοβαρές ανησυχίες σε ηγέτες της τεχνολογίας, των χρηματοοικονομικών και των κυβερνήσεων, όταν διατέθηκε για πρώτη φορά σε ιδιωτικό επίπεδο τον Απρίλιο για προεπισκόπηση και δοκιμές.
Ορισμένοι εκφράζουν φόβους ότι το εργαλείο είναι τόσο ισχυρό που θα μπορούσε να απειλήσει τη χρηματοοικονομική ασφάλεια, αν και άλλοι αναρωτιούνται μήπως ο θόρυβος αυτός αποτελεί απλώς επικοινωνιακό τέχνασμα.
Η Anthropic ανακοίνωσε την Τρίτη ότι το Fable θα κυκλοφορήσει με ενσωματωμένες δικλείδες ασφαλείας και περιορισμούς χρήσης, αν και παραδέχτηκε ότι «η διάθεση ενός μοντέλου με τέτοιες δυνατότητες εγκλείει κινδύνους». Η εταιρεία πρόσθεσε: «Οι δυνατότητες του Fable ξεπερνούν κάθε άλλο μοντέλο που έχουμε διαθέσει ποτέ στο κοινό».
Οι κίνδυνοι για την κυβερνοασφάλεια και οι αντιδράσεις
Όταν το Mythos δόθηκε αρχικά σε μια μικρή ομάδα οργανισμών για δοκιμή, η Anthropic είχε δηλώσει ότι περιόρισε την πρόσβαση επειδή το εργαλείο ήταν τόσο ευφυές που θα μπορούσε να γίνει επικίνδυνο, έχοντας την ικανότητα να εκμεταλλεύεται κενά ασφαλείας ή να χακάρει υπολογιστικά συστήματα.
Ο Καναδός υπουργός Οικονομικών, Φρανσουά-Φιλίπ Σαμπάν, δήλωσε στο BBC τον Απρίλιο ότι η προσοχή γύρω από το Mythos είναι απόλυτα δικαιολογημένη, εν μέρει επειδή «πρόκειται για το απόλυτο άγνωστο».
Στο μεταξύ, παρά τη δικαστική διαμάχη της Anthropic με το υπουργείο Άμυνας των ΗΠΑ, το οποίο αρνείται να δεχτεί τη χρήση των εργαλείων της από την κυβέρνηση, οι αμερικανικές κυβερνητικές υπηρεσίες δοκιμάζουν ήδη το Mythos.
Στόχος οι επενδυτές και η Wall Street
Η Anthropic αναμένεται να εισέλθει σύντομα στο χρηματιστήριο, καθώς η αποτίμησή της στον ιδιωτικό τομέα έχει πλησιάσει το 1 τρισεκατομμύριο δολάρια. Η διαρκής επίδειξη ανώτερων και διευρυμένων δυνατοτήτων AI υπογραμμίζει την αξία της εταιρείας στα μάτια των επενδυτών.
Η εταιρεία ανακοίνωσε επίσης την Τρίτη ότι οι περίπου 150 οργανισμοί που είχαν ήδη πρόσβαση στο Mythos, θα έχουν πλέον πρόσβαση στο αναβαθμισμένο Claude Mythos 5. Η συγκεκριμένη έκδοση δεν διαθέτει περιορισμούς στον τομέα της κυβερνοασφάλειας ή της βιολογίας, ανάλογα με τις ειδικές χρήσεις του κάθε οργανισμού.
Μέχρι σήμερα, οι εταιρείες που χρησιμοποιούν το Mythos έχουν αναφέρει στην Anthropic τον εντοπισμό περισσότερων από 10.000 κρίσιμων ελαττωμάτων ασφαλείας στα συστήματά τους. Η Anthropic διευκρίνισε ότι η διευρυμένη πρόσβαση περιορίζεται προς το παρόν σε μια «μικρή ομάδα αμυνόμενων του κυβερνοχώρου και παρόχων υποδομών», αλλά αναμένεται να επεκταθεί σύντομα.
Μοντέλα AI χωρίς «πεντάλ φρένου»
Τόσο το Fable όσο και το Mythos, τα οποία ουσιαστικά αποτελούν το ίδιο μοντέλο αλλά με διαφορετικούς περιορισμούς ασφαλείας, μπορούν να λειτουργούν αυτόνομα εκτελώντας ανθρώπινες εντολές για πολύ μεγαλύτερα χρονικά διαστήματα «από οποιοδήποτε προηγούμενο μοντέλο Claude», σύμφωνα με την Anthropic.
Ο συνιδρυτής της εταιρείας, Τζακ Κλαρκ, μιλώντας την περασμένη εβδομάδα στην εκπομπή Newsnight του BBC, δήλωσε ότι οι δυνατότητες των εργαλείων AI εξελίσσονται τόσο ραγδαία, που η εταιρεία θεωρεί ότι θα έπρεπε να υπάρχει ένας τρόπος ώστε η κοινωνία να μπορεί να επιβραδύνει την πρόοδο της τεχνολογίας.
«Θέλεις να έχεις την επιλογή να βγάλεις το πόδι σου από το γκάζι και να πατήσεις το φρένο», δήλωσε ο Κλαρκ. «Αυτή τη στιγμή, είναι σαν η βιομηχανία της τεχνητής νοημοσύνης να έχει πεντάλ γκαζιού, αλλά να μην διαθέτει πεντάλ φρένου».
(Με πληροφορίες BBC News)
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Η Anthropic διαθέτει το Claude Fable 5 παρά τις ανησυχίες για την κυβερνοασφάλεια
Πρώτη φορά που αστροναύτης της Ευρωπαϊκής Διαστημικής Υπηρεσίας εντάσσεται σε αποστολή του προγράμματος Artemis
Από το gov.gr στην εποχή της προσωποποιημένης εξυπηρέτησης
Η Sega επιβεβαίωσε την ψηφιακή αναβίωση του θρυλικού ράπερ στο «Stranger Than Heaven»
Η νεαρή φιλόσοφος είναι η ψυχή του Claude της Anthropic και οι προβληματισμοί έχουν σημασία
Ο Γιάννης Ασσαέλ μιλά για τον οδηγό «Τεχνητή Νοημοσύνη για Όλους», τον οποίο χαρακτηρίζει «παγκόσμια πρωτοπορία»
Οι ερευνητές εκτιμούν ότι ο άνεμος είναι ενεργός για τουλάχιστον 20.000 χρόνια
Η νέα συνεργασία-μεγαθήριο φέρνει τον Πίκατσου στη ζωή, χρησιμοποιώντας ειδικούς αισθητήρες κίνησης, ήχους και φώτα
Ερευνητές του Πανεπιστημίου του Κέιμπριτζ δημιούργησαν ένα «υπερ-αντιγόνο» ικανό να προστατεύσει από μελλοντικές πανδημίες
Η στροφή των χρηστών από τα κινητά στις τηλεοράσεις αλλάζει τις ισορροπίες στην παγκόσμια αγορά της ψυχαγωγίας
Οι εκτιμήσεις σοκ έκθεσης του ΟΗΕ
Το ΑΙ γράφει πια τα πάντα και τα γράφει με τη δική του, χαρακτηριστική φωνή – μόνο εμένα μου φαίνεται κάπως εκνευριστική;
Η Sydney Morning Herald απέσυρε το κείμενο της καθηγήτριας Κάθριν Έλις ως «απαράδεκτο»
H εταιρεία στοχεύει να διαθέτει έως το 2029 μια κβαντική μηχανή ικανή να επιλύει πραγματικά προβλήματα για επιχειρήσεις και βιομηχανίες
Η μητρική εταιρεία της Google προχωρά σε μία από τις μεγαλύτερες χρηματοδοτήσεις στην ιστορία
Ο Ελληνοολανδός γιατρός που προετοιμάζει τα χειρουργεία του διαστήματος
«Η Ευρώπη δεν έχει χάσει τη μάχη της AI, αλλά κινδυνεύει να αυτοϋπονομευθεί», λέει ο CEO του 28 DIGITAL
Βιολόγοι εξηγούν πώς η εξέλιξη και η ανατομία δημιούργησαν τη μοναδικότητα της ανθρώπινης φωνής
Η κλινική δοκιμή περιέλαβε περίπου 900 νεοδιαγνωσθέντες ασθενείς,
Η κλινική δοκιμή περιέλαβε περισσότερους από 4.400 ασθενείς
Έχετε δει 20 από 200 άρθρα.