- CITY GUIDE
- PODCAST
-
17°
Στην κυκλοφορία το εργαλείο AI που θεωρούνταν «πολύ ισχυρό για το κοινό»
Η Anthropic διαθέτει το Claude Fable 5 παρά τις ανησυχίες για την κυβερνοασφάλεια
Η Anthropic κυκλοφόρησε το πανίσχυρο μοντέλο τεχνητής νοημοσύνης Claude Fable 5, προκαλώντας έντονες ανησυχίες σε κυβερνήσεις και αγορές
Μια έκδοση ενός εργαλείου τεχνητής νοημοσύνης (AI), το οποίο η δημιουργός εταιρεία είχε χαρακτηρίσει στο παρελθόν ως «υπερβολικά ισχυρό» για να διατεθεί στο ευρύ κοινό, μόλις κυκλοφόρησε επίσημα στην αγορά.
Το Claude Fable 5 αποτελεί μια έκδοση του εργαλείου τεχνητής νοημοσύνης Claude Mythos της εταιρείας Anthropic. Πρόκειται για ένα πρόγραμμα ΑΙ που προκάλεσε σοβαρές ανησυχίες σε ηγέτες της τεχνολογίας, των χρηματοοικονομικών και των κυβερνήσεων, όταν διατέθηκε για πρώτη φορά σε ιδιωτικό επίπεδο τον Απρίλιο για προεπισκόπηση και δοκιμές.
Ορισμένοι εκφράζουν φόβους ότι το εργαλείο είναι τόσο ισχυρό που θα μπορούσε να απειλήσει τη χρηματοοικονομική ασφάλεια, αν και άλλοι αναρωτιούνται μήπως ο θόρυβος αυτός αποτελεί απλώς επικοινωνιακό τέχνασμα.
Η Anthropic ανακοίνωσε την Τρίτη ότι το Fable θα κυκλοφορήσει με ενσωματωμένες δικλείδες ασφαλείας και περιορισμούς χρήσης, αν και παραδέχτηκε ότι «η διάθεση ενός μοντέλου με τέτοιες δυνατότητες εγκλείει κινδύνους». Η εταιρεία πρόσθεσε: «Οι δυνατότητες του Fable ξεπερνούν κάθε άλλο μοντέλο που έχουμε διαθέσει ποτέ στο κοινό».
Οι κίνδυνοι για την κυβερνοασφάλεια και οι αντιδράσεις
Όταν το Mythos δόθηκε αρχικά σε μια μικρή ομάδα οργανισμών για δοκιμή, η Anthropic είχε δηλώσει ότι περιόρισε την πρόσβαση επειδή το εργαλείο ήταν τόσο ευφυές που θα μπορούσε να γίνει επικίνδυνο, έχοντας την ικανότητα να εκμεταλλεύεται κενά ασφαλείας ή να χακάρει υπολογιστικά συστήματα.
Ο Καναδός υπουργός Οικονομικών, Φρανσουά-Φιλίπ Σαμπάν, δήλωσε στο BBC τον Απρίλιο ότι η προσοχή γύρω από το Mythos είναι απόλυτα δικαιολογημένη, εν μέρει επειδή «πρόκειται για το απόλυτο άγνωστο».
Στο μεταξύ, παρά τη δικαστική διαμάχη της Anthropic με το υπουργείο Άμυνας των ΗΠΑ, το οποίο αρνείται να δεχτεί τη χρήση των εργαλείων της από την κυβέρνηση, οι αμερικανικές κυβερνητικές υπηρεσίες δοκιμάζουν ήδη το Mythos.
Στόχος οι επενδυτές και η Wall Street
Η Anthropic αναμένεται να εισέλθει σύντομα στο χρηματιστήριο, καθώς η αποτίμησή της στον ιδιωτικό τομέα έχει πλησιάσει το 1 τρισεκατομμύριο δολάρια. Η διαρκής επίδειξη ανώτερων και διευρυμένων δυνατοτήτων AI υπογραμμίζει την αξία της εταιρείας στα μάτια των επενδυτών.
Η εταιρεία ανακοίνωσε επίσης την Τρίτη ότι οι περίπου 150 οργανισμοί που είχαν ήδη πρόσβαση στο Mythos, θα έχουν πλέον πρόσβαση στο αναβαθμισμένο Claude Mythos 5. Η συγκεκριμένη έκδοση δεν διαθέτει περιορισμούς στον τομέα της κυβερνοασφάλειας ή της βιολογίας, ανάλογα με τις ειδικές χρήσεις του κάθε οργανισμού.
Μέχρι σήμερα, οι εταιρείες που χρησιμοποιούν το Mythos έχουν αναφέρει στην Anthropic τον εντοπισμό περισσότερων από 10.000 κρίσιμων ελαττωμάτων ασφαλείας στα συστήματά τους. Η Anthropic διευκρίνισε ότι η διευρυμένη πρόσβαση περιορίζεται προς το παρόν σε μια «μικρή ομάδα αμυνόμενων του κυβερνοχώρου και παρόχων υποδομών», αλλά αναμένεται να επεκταθεί σύντομα.
Μοντέλα AI χωρίς «πεντάλ φρένου»
Τόσο το Fable όσο και το Mythos, τα οποία ουσιαστικά αποτελούν το ίδιο μοντέλο αλλά με διαφορετικούς περιορισμούς ασφαλείας, μπορούν να λειτουργούν αυτόνομα εκτελώντας ανθρώπινες εντολές για πολύ μεγαλύτερα χρονικά διαστήματα «από οποιοδήποτε προηγούμενο μοντέλο Claude», σύμφωνα με την Anthropic.
Ο συνιδρυτής της εταιρείας, Τζακ Κλαρκ, μιλώντας την περασμένη εβδομάδα στην εκπομπή Newsnight του BBC, δήλωσε ότι οι δυνατότητες των εργαλείων AI εξελίσσονται τόσο ραγδαία, που η εταιρεία θεωρεί ότι θα έπρεπε να υπάρχει ένας τρόπος ώστε η κοινωνία να μπορεί να επιβραδύνει την πρόοδο της τεχνολογίας.
«Θέλεις να έχεις την επιλογή να βγάλεις το πόδι σου από το γκάζι και να πατήσεις το φρένο», δήλωσε ο Κλαρκ. «Αυτή τη στιγμή, είναι σαν η βιομηχανία της τεχνητής νοημοσύνης να έχει πεντάλ γκαζιού, αλλά να μην διαθέτει πεντάλ φρένου».
(Με πληροφορίες BBC News)
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Mετά από 16 χρόνια παρατηρήσεων
Έρευνα δίνει απάντηση στο φαινόμενο που ταλανίζει εκατομμύρια ανθρώπους
Τι ανησυχεί τους επιστήμονες
Μπήκαμε στο πιο «καθαρό» δωμάτιο της ελληνικής διαστημικής προσπάθειας
Εκατοντάδες αναφορές για προβλήματα
Οι αθέατες πρωτοπόροι της επιστήμης, των ιδεών, των τεχνών και των γραμμάτων: Αυτές είναι οι ιστορίες τους.
Η Mozilla αποκαλύπτει ότι εφαρμογές περιόδου συλλέγουν ευαίσθητα δεδομένα και τα μοιράζονται με άλλες εταιρείες
Τι αναφέρουν σε αγωγή τους εργαζόμενοι
«Be Squared, not Square σημαίνει να κάνεις το πρώτο βήμα σήμερα»
Αποδίδουν το ίδιο υπό πίεση, αλλά οι άνδρες δυσκολεύονται όταν πρέπει να μιλούν ενώ εκτελούν πολλαπλές εργασίες
Αποκαλυπτική έρευνα για περιεχόμενο που προωθεί ακραίες δίαιτες και επικίνδυνες πρακτικές και εξακολουθεί να εμφανίζεται
Το AI δεν αλλάζει μόνο τον τρόπο που εργαζόμαστε, αλλά και τον τρόπο που λειτουργούν οι πιο κρίσιμες υποδομές μιας πόλης
Η τεχνητή νοημοσύνη περνά από τη θεωρία στην πράξη
Η «τριλογία του Αριστοτέλη»: Ο Βαγγέλης Καρκαλέτσης μάς ξεναγεί στο σχέδιο του Δημόκριτου που ενώνει την AI, τη φιλοσοφία και τον αρχαιολογικό χώρο του Λυκείου
Η διαδρομή μιας λαμπρής επιστήμονος που αποκάλυψε τα μυστικά του DNA, αλλά έμεινε για χρόνια στη σκιά της ίδιας της ανακάλυψής της
Με μια απλή ρύθμιση μπορείτε να αποτρέψετε οποιονδήποτε από το να περιηγηθεί στο περιεχόμενο της συσκευής σας
Η αξιοποίηση της τεχνητής νοημοσύνης δεν κρίνεται μόνο από τα εργαλεία, αλλά από την ικανότητα ενός οργανισμού να αλλάξει κουλτούρα, διαδικασίες, ρόλους και τρόπο σκέψης
Νέα ψηφιακά εργαλεία υπό την ανθρώπινη εποπτεία
Όταν η τεχνολογία δουλεύει στο παρασκήνιο, οι άνθρωποι κερδίζουν χρόνο και ευκολία
Νέα έρευνα αποκαλύπτει πώς επηρεάζεται
Έχετε δει 20 από 200 άρθρα.