- CITY GUIDE
- PODCAST
-
17°
Στην κυκλοφορία το εργαλείο AI που θεωρούνταν «πολύ ισχυρό για το κοινό»
Η Anthropic διαθέτει το Claude Fable 5 παρά τις ανησυχίες για την κυβερνοασφάλεια
Η Anthropic κυκλοφόρησε το πανίσχυρο μοντέλο τεχνητής νοημοσύνης Claude Fable 5, προκαλώντας έντονες ανησυχίες σε κυβερνήσεις και αγορές
Μια έκδοση ενός εργαλείου τεχνητής νοημοσύνης (AI), το οποίο η δημιουργός εταιρεία είχε χαρακτηρίσει στο παρελθόν ως «υπερβολικά ισχυρό» για να διατεθεί στο ευρύ κοινό, μόλις κυκλοφόρησε επίσημα στην αγορά.
Το Claude Fable 5 αποτελεί μια έκδοση του εργαλείου τεχνητής νοημοσύνης Claude Mythos της εταιρείας Anthropic. Πρόκειται για ένα πρόγραμμα ΑΙ που προκάλεσε σοβαρές ανησυχίες σε ηγέτες της τεχνολογίας, των χρηματοοικονομικών και των κυβερνήσεων, όταν διατέθηκε για πρώτη φορά σε ιδιωτικό επίπεδο τον Απρίλιο για προεπισκόπηση και δοκιμές.
Ορισμένοι εκφράζουν φόβους ότι το εργαλείο είναι τόσο ισχυρό που θα μπορούσε να απειλήσει τη χρηματοοικονομική ασφάλεια, αν και άλλοι αναρωτιούνται μήπως ο θόρυβος αυτός αποτελεί απλώς επικοινωνιακό τέχνασμα.
Η Anthropic ανακοίνωσε την Τρίτη ότι το Fable θα κυκλοφορήσει με ενσωματωμένες δικλείδες ασφαλείας και περιορισμούς χρήσης, αν και παραδέχτηκε ότι «η διάθεση ενός μοντέλου με τέτοιες δυνατότητες εγκλείει κινδύνους». Η εταιρεία πρόσθεσε: «Οι δυνατότητες του Fable ξεπερνούν κάθε άλλο μοντέλο που έχουμε διαθέσει ποτέ στο κοινό».
Οι κίνδυνοι για την κυβερνοασφάλεια και οι αντιδράσεις
Όταν το Mythos δόθηκε αρχικά σε μια μικρή ομάδα οργανισμών για δοκιμή, η Anthropic είχε δηλώσει ότι περιόρισε την πρόσβαση επειδή το εργαλείο ήταν τόσο ευφυές που θα μπορούσε να γίνει επικίνδυνο, έχοντας την ικανότητα να εκμεταλλεύεται κενά ασφαλείας ή να χακάρει υπολογιστικά συστήματα.
Ο Καναδός υπουργός Οικονομικών, Φρανσουά-Φιλίπ Σαμπάν, δήλωσε στο BBC τον Απρίλιο ότι η προσοχή γύρω από το Mythos είναι απόλυτα δικαιολογημένη, εν μέρει επειδή «πρόκειται για το απόλυτο άγνωστο».
Στο μεταξύ, παρά τη δικαστική διαμάχη της Anthropic με το υπουργείο Άμυνας των ΗΠΑ, το οποίο αρνείται να δεχτεί τη χρήση των εργαλείων της από την κυβέρνηση, οι αμερικανικές κυβερνητικές υπηρεσίες δοκιμάζουν ήδη το Mythos.
Στόχος οι επενδυτές και η Wall Street
Η Anthropic αναμένεται να εισέλθει σύντομα στο χρηματιστήριο, καθώς η αποτίμησή της στον ιδιωτικό τομέα έχει πλησιάσει το 1 τρισεκατομμύριο δολάρια. Η διαρκής επίδειξη ανώτερων και διευρυμένων δυνατοτήτων AI υπογραμμίζει την αξία της εταιρείας στα μάτια των επενδυτών.
Η εταιρεία ανακοίνωσε επίσης την Τρίτη ότι οι περίπου 150 οργανισμοί που είχαν ήδη πρόσβαση στο Mythos, θα έχουν πλέον πρόσβαση στο αναβαθμισμένο Claude Mythos 5. Η συγκεκριμένη έκδοση δεν διαθέτει περιορισμούς στον τομέα της κυβερνοασφάλειας ή της βιολογίας, ανάλογα με τις ειδικές χρήσεις του κάθε οργανισμού.
Μέχρι σήμερα, οι εταιρείες που χρησιμοποιούν το Mythos έχουν αναφέρει στην Anthropic τον εντοπισμό περισσότερων από 10.000 κρίσιμων ελαττωμάτων ασφαλείας στα συστήματά τους. Η Anthropic διευκρίνισε ότι η διευρυμένη πρόσβαση περιορίζεται προς το παρόν σε μια «μικρή ομάδα αμυνόμενων του κυβερνοχώρου και παρόχων υποδομών», αλλά αναμένεται να επεκταθεί σύντομα.
Μοντέλα AI χωρίς «πεντάλ φρένου»
Τόσο το Fable όσο και το Mythos, τα οποία ουσιαστικά αποτελούν το ίδιο μοντέλο αλλά με διαφορετικούς περιορισμούς ασφαλείας, μπορούν να λειτουργούν αυτόνομα εκτελώντας ανθρώπινες εντολές για πολύ μεγαλύτερα χρονικά διαστήματα «από οποιοδήποτε προηγούμενο μοντέλο Claude», σύμφωνα με την Anthropic.
Ο συνιδρυτής της εταιρείας, Τζακ Κλαρκ, μιλώντας την περασμένη εβδομάδα στην εκπομπή Newsnight του BBC, δήλωσε ότι οι δυνατότητες των εργαλείων AI εξελίσσονται τόσο ραγδαία, που η εταιρεία θεωρεί ότι θα έπρεπε να υπάρχει ένας τρόπος ώστε η κοινωνία να μπορεί να επιβραδύνει την πρόοδο της τεχνολογίας.
«Θέλεις να έχεις την επιλογή να βγάλεις το πόδι σου από το γκάζι και να πατήσεις το φρένο», δήλωσε ο Κλαρκ. «Αυτή τη στιγμή, είναι σαν η βιομηχανία της τεχνητής νοημοσύνης να έχει πεντάλ γκαζιού, αλλά να μην διαθέτει πεντάλ φρένου».
(Με πληροφορίες BBC News)
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Το AI δεν αλλάζει μόνο τον τρόπο που εργαζόμαστε, αλλά και τον τρόπο που λειτουργούν οι πιο κρίσιμες υποδομές μιας πόλης
Η τεχνητή νοημοσύνη περνά από τη θεωρία στην πράξη
Η «τριλογία του Αριστοτέλη»: Ο Βαγγέλης Καρκαλέτσης μάς ξεναγεί στο σχέδιο του Δημόκριτου που ενώνει την AI, τη φιλοσοφία και τον αρχαιολογικό χώρο του Λυκείου
Η διαδρομή μιας λαμπρής επιστήμονος που αποκάλυψε τα μυστικά του DNA, αλλά έμεινε για χρόνια στη σκιά της ίδιας της ανακάλυψής της
Με μια απλή ρύθμιση μπορείτε να αποτρέψετε οποιονδήποτε από το να περιηγηθεί στο περιεχόμενο της συσκευής σας
Η αξιοποίηση της τεχνητής νοημοσύνης δεν κρίνεται μόνο από τα εργαλεία, αλλά από την ικανότητα ενός οργανισμού να αλλάξει κουλτούρα, διαδικασίες, ρόλους και τρόπο σκέψης
Νέα ψηφιακά εργαλεία υπό την ανθρώπινη εποπτεία
Όταν η τεχνολογία δουλεύει στο παρασκήνιο, οι άνθρωποι κερδίζουν χρόνο και ευκολία
Νέα έρευνα αποκαλύπτει πώς επηρεάζεται
Ο πρώτος ελληνικός οπτικός μικροδορυφόρος εκτοξεύθηκε με πύραυλο της SpaceX και θα παρέχει εικόνες υψηλής ανάλυσης για πυρκαγιές, πλημμύρες, θαλάσσια επιτήρηση και προστασία κρίσιμων υποδομών
Η Α.Ι. είναι χρήσιμη για όλους, αλλά η αξία της αυξάνεται όσο αυξάνονται η γνώση, η κριτική σκέψη και η διεισδυτικότητα του χρήστη
Πώς η Τεχνητή Νοημοσύνη γίνεται μέρος της καθημερινής λειτουργίας των επιχειρήσεων
Πώς πριν από 70 χρόνια συγκροτήθηκε η θεωρία της μάθησης που εφαρμόζεται στην ΤΝ
Οι αθέατες πρωτοπόροι της επιστήμης, των ιδεών, των τεχνών και των γραμμάτων: Αυτές είναι οι ιστορίες τους
Η εξέλιξη προκάλεσε αντιδράσεις στην κοινότητα των παικτών
Η τεχνολογία είναι πιο εξελιγμένη απ’ ό,τι περίμεναν, δηλώνουν οι θεατές
Η Γεωργία Ασκητοπούλου (Netcompany) και η Αμαλία Κωνσταντακοπούλου (The Tipping Point) συνεργάζονται ώστε να ανοίξουν νέους ορίζοντες για τους νέους, ανεξάρτητα από το πού μεγαλώνουν
Τι θα συμβεί στους πλανήτες όταν ο Ήλιος περάσει στο τελικό στάδιο της ζωής του
Οφείλεται σε μια διαδικασία γνωστή ως «κύματα του μανδύα»
Η Αγγελική Τριανταφύλλου ανέπτυξε ενζυμική μέθοδο που βελτιώνει τη σταθερότητα, τη γεύση και τη λειτουργικότητα των ροφημάτων βρώμης
Έχετε δει 20 από 200 άρθρα.