- CITY GUIDE
- PODCAST
-
15°
Στην κυκλοφορία το εργαλείο AI που θεωρούνταν «πολύ ισχυρό για το κοινό»
Η Anthropic διαθέτει το Claude Fable 5 παρά τις ανησυχίες για την κυβερνοασφάλεια
Η Anthropic κυκλοφόρησε το πανίσχυρο μοντέλο τεχνητής νοημοσύνης Claude Fable 5, προκαλώντας έντονες ανησυχίες σε κυβερνήσεις και αγορές
Μια έκδοση ενός εργαλείου τεχνητής νοημοσύνης (AI), το οποίο η δημιουργός εταιρεία είχε χαρακτηρίσει στο παρελθόν ως «υπερβολικά ισχυρό» για να διατεθεί στο ευρύ κοινό, μόλις κυκλοφόρησε επίσημα στην αγορά.
Το Claude Fable 5 αποτελεί μια έκδοση του εργαλείου τεχνητής νοημοσύνης Claude Mythos της εταιρείας Anthropic. Πρόκειται για ένα πρόγραμμα ΑΙ που προκάλεσε σοβαρές ανησυχίες σε ηγέτες της τεχνολογίας, των χρηματοοικονομικών και των κυβερνήσεων, όταν διατέθηκε για πρώτη φορά σε ιδιωτικό επίπεδο τον Απρίλιο για προεπισκόπηση και δοκιμές.
Ορισμένοι εκφράζουν φόβους ότι το εργαλείο είναι τόσο ισχυρό που θα μπορούσε να απειλήσει τη χρηματοοικονομική ασφάλεια, αν και άλλοι αναρωτιούνται μήπως ο θόρυβος αυτός αποτελεί απλώς επικοινωνιακό τέχνασμα.
Η Anthropic ανακοίνωσε την Τρίτη ότι το Fable θα κυκλοφορήσει με ενσωματωμένες δικλείδες ασφαλείας και περιορισμούς χρήσης, αν και παραδέχτηκε ότι «η διάθεση ενός μοντέλου με τέτοιες δυνατότητες εγκλείει κινδύνους». Η εταιρεία πρόσθεσε: «Οι δυνατότητες του Fable ξεπερνούν κάθε άλλο μοντέλο που έχουμε διαθέσει ποτέ στο κοινό».
Οι κίνδυνοι για την κυβερνοασφάλεια και οι αντιδράσεις
Όταν το Mythos δόθηκε αρχικά σε μια μικρή ομάδα οργανισμών για δοκιμή, η Anthropic είχε δηλώσει ότι περιόρισε την πρόσβαση επειδή το εργαλείο ήταν τόσο ευφυές που θα μπορούσε να γίνει επικίνδυνο, έχοντας την ικανότητα να εκμεταλλεύεται κενά ασφαλείας ή να χακάρει υπολογιστικά συστήματα.
Ο Καναδός υπουργός Οικονομικών, Φρανσουά-Φιλίπ Σαμπάν, δήλωσε στο BBC τον Απρίλιο ότι η προσοχή γύρω από το Mythos είναι απόλυτα δικαιολογημένη, εν μέρει επειδή «πρόκειται για το απόλυτο άγνωστο».
Στο μεταξύ, παρά τη δικαστική διαμάχη της Anthropic με το υπουργείο Άμυνας των ΗΠΑ, το οποίο αρνείται να δεχτεί τη χρήση των εργαλείων της από την κυβέρνηση, οι αμερικανικές κυβερνητικές υπηρεσίες δοκιμάζουν ήδη το Mythos.
Στόχος οι επενδυτές και η Wall Street
Η Anthropic αναμένεται να εισέλθει σύντομα στο χρηματιστήριο, καθώς η αποτίμησή της στον ιδιωτικό τομέα έχει πλησιάσει το 1 τρισεκατομμύριο δολάρια. Η διαρκής επίδειξη ανώτερων και διευρυμένων δυνατοτήτων AI υπογραμμίζει την αξία της εταιρείας στα μάτια των επενδυτών.
Η εταιρεία ανακοίνωσε επίσης την Τρίτη ότι οι περίπου 150 οργανισμοί που είχαν ήδη πρόσβαση στο Mythos, θα έχουν πλέον πρόσβαση στο αναβαθμισμένο Claude Mythos 5. Η συγκεκριμένη έκδοση δεν διαθέτει περιορισμούς στον τομέα της κυβερνοασφάλειας ή της βιολογίας, ανάλογα με τις ειδικές χρήσεις του κάθε οργανισμού.
Μέχρι σήμερα, οι εταιρείες που χρησιμοποιούν το Mythos έχουν αναφέρει στην Anthropic τον εντοπισμό περισσότερων από 10.000 κρίσιμων ελαττωμάτων ασφαλείας στα συστήματά τους. Η Anthropic διευκρίνισε ότι η διευρυμένη πρόσβαση περιορίζεται προς το παρόν σε μια «μικρή ομάδα αμυνόμενων του κυβερνοχώρου και παρόχων υποδομών», αλλά αναμένεται να επεκταθεί σύντομα.
Μοντέλα AI χωρίς «πεντάλ φρένου»
Τόσο το Fable όσο και το Mythos, τα οποία ουσιαστικά αποτελούν το ίδιο μοντέλο αλλά με διαφορετικούς περιορισμούς ασφαλείας, μπορούν να λειτουργούν αυτόνομα εκτελώντας ανθρώπινες εντολές για πολύ μεγαλύτερα χρονικά διαστήματα «από οποιοδήποτε προηγούμενο μοντέλο Claude», σύμφωνα με την Anthropic.
Ο συνιδρυτής της εταιρείας, Τζακ Κλαρκ, μιλώντας την περασμένη εβδομάδα στην εκπομπή Newsnight του BBC, δήλωσε ότι οι δυνατότητες των εργαλείων AI εξελίσσονται τόσο ραγδαία, που η εταιρεία θεωρεί ότι θα έπρεπε να υπάρχει ένας τρόπος ώστε η κοινωνία να μπορεί να επιβραδύνει την πρόοδο της τεχνολογίας.
«Θέλεις να έχεις την επιλογή να βγάλεις το πόδι σου από το γκάζι και να πατήσεις το φρένο», δήλωσε ο Κλαρκ. «Αυτή τη στιγμή, είναι σαν η βιομηχανία της τεχνητής νοημοσύνης να έχει πεντάλ γκαζιού, αλλά να μην διαθέτει πεντάλ φρένου».
(Με πληροφορίες BBC News)
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Κατηγορίες για τον αλγόριθμο που εγκλωβίζει τους νέους σε επικίνδυνο περιεχόμενο
Το μυστικό βρίσκεται εν μέρει στην ανατομία τους
Πλέον δεν αγοράζουμε, αλλά νοικιάζουμε καθημερινές υπηρεσίες και αγαθά από εταιρείες και διοικητικούς οργανισμούς από την καλή θέληση των οποίων και εξαρτιόμαστε
Ερευνητές του Τμήματος Βιολογίας απομονώνουν γενετικό υλικό και εντοπίζουν λύκους και αρκούδες
«Ζάκερμπεργκ, Μασκ και Άλτμαν κατανοούν τους κινδύνους και δεν δίνουν δεκάρα»
Πώς αξιοποίησαν την Τεχνητή Νοημοσύνη
Οι χρήστες κατηγορούν τις εταιρείες τεχνητής νοημοσύνης ότι δημιουργούν ελλείψεις και αυξάνουν το κόστος της τεχνολογίας
Η ψηφιακή αποθήκευση της ανθρώπινης γνώσης θέτει ερωτήματα για τη δημοκρατία, τη λήθη, την αλήθεια
Όταν ο άνθρωπος θέλει να ξεπεράσει τον εαυτό του
Σχεδόν δύο αιώνες μετά την ίδρυσή του, το Πανεπιστήμιο εξακολουθεί να συγκεντρώνει διαφορετικές γενιές, επιστημονικά πεδία και προσδοκίες.
Τι αλλάζει σε τράπεζες και συναλλαγές
Μέσα στο νέο data center και στα εργαστήρια του «Δημόκριτου», η ATHENS VOICE βλέπει πώς η έρευνα στην τεχνητή νοημοσύνη περνά από τους υπολογιστές στα αυτόνομα θαλάσσια σκάφη
Αυτό που χτες φαινόταν ριζοσπαστικό σήμερα είναι συντηρητικό. Κι αυτό που χτες φαινόταν απολύτως αποδεκτό και ανάξιο σημασίας σήμερα είναι το χειρότερο ταμπού.
Ποιο μοντέλο ξεχωρίζει για τον αθλητισμό, ποιο δίνει έμφαση στην υγεία και ποιο συνδυάζει πρακτικές λειτουργίες με premium σχεδιασμό;
Τι αποκαλύπτει η παγκόσμια μελέτη Wellcome Global Monitor για 140 χώρες
Πολλοί χρήστες διαπίστωσαν ρωγμές λίγο μετά την αγορά του
Οι απρόσμενες συλλογικές συμπεριφορές και τα ερωτήματα για τα όρια της υπολογιστικής νοημοσύνης
Νέο κύμα αναδιάρθρωσης του εργατικού δυναμικού σε ΗΠΑ, Καναδά, Ινδία και Βρετανία
Δεν είναι το σκάκι ή οι γρίφοι: Η συνήθεια που ενισχύει τη γνωστική ανάπτυξη
Η αύξηση του εισοδήματος συνδέεται με μεγαλύτερη υπευθυνότητα αλλά και με μικρότερη κοινωνικότητα
Έχετε δει 20 από 200 άρθρα.