- CITY GUIDE
- PODCAST
-
15°
Γιατί η Anthropic δεν τολμά να κυκλοφορήσει το πιο προηγμένο της μοντέλο τεχνητής νοημοσύνης
Η ικανότητά του να αποκαλύπτει κρυφές αδυναμίες λογισμικού οδηγεί σε πρωτοφανή μέτρα ασφαλείας
Anthropic: Το ΑΙ μοντέλο Claude Mythos εντοπίζει κενά ασφαλείας δεκαετιών - Η εταιρεία περιορίζει την πρόσβαση μόνο σε ειδικούς αμυντικής θωράκισης.
Η Anthropic ανακοίνωσε ότι το νέο, ακόμη μη διαθέσιμο στο κοινό μοντέλο τεχνητής νοημοσύνης με την ονομασία Claude Mythos έχει αποδειχθεί εξαιρετικά ικανό στο να αποκαλύπτει αδυναμίες λογισμικού.
Το μοντέλο τεχνητής νοημοσύνης Mythos έχει εντοπίσει χιλιάδες ευπάθειες σε ευρέως χρησιμοποιούμενες εφαρμογές, για τις οποίες δεν υπάρχει ακόμη ενημέρωση ή διόρθωση. Αυτό οδήγησε τη νεοφυή εταιρεία AI με έδρα το Σαν Φρανσίσκο να δημιουργήσει μια συμμαχία με ειδικούς κυβερνοασφάλειας, ώστε να ενισχύσει την άμυνα απέναντι σε επιθέσεις και να αποφύγει τη μαζική διάθεση του εργαλείου.
«Έχουμε ένα νέο μοντέλο που δεν πρόκειται να κυκλοφορήσουμε δημόσια», δήλωσε ο Μάικ Κρίγκερ της Anthropic Labs στο συνέδριο HumanX AI στο Σαν Φρανσίσκο.
Αντί γι’ αυτό, η Anthropic επιτρέπει σε ειδικούς κυβερνοασφάλειας και μηχανικούς της κοινότητας ανοιχτού κώδικα να δουλέψουν με το Mythos, χρησιμοποιώντας το μοντέλο ως αμυντικό εργαλείο, «εξοπλίζοντάς τους εκ των προτέρων», όπως εξήγησε ο Κρίγκερ.
Οι ραγδαίες εξελίξεις στις δυνατότητες των AI μοντέλων συνοδεύονται από ανησυχίες ότι χάκερς μπορούν να τα αξιοποιήσουν για να σπάνε κωδικούς ή να παρακάμπτουν κρυπτογράφηση που προστατεύει δεδομένα.
Η παλαιότερη από τις ευπάθειες που εντόπισε το Mythos χρονολογείται πριν από 27 χρόνια, και καμία δεν είχε εντοπιστεί από τους δημιουργούς των εφαρμογών, σύμφωνα με την Anthropic.
Το Mythos αποτελεί τη νεότερη γενιά της οικογένειας AI Claude της Anthropic. Μια πρόσφατη διαρροή μέρους του κώδικα του μοντέλου οδήγησε την εταιρεία στη δημοσίευση προειδοποιητικού blog post, στο οποίο αναφέρει ότι το εργαλείο ενέχει πρωτοφανείς κινδύνους για την κυβερνοασφάλεια.
«Τα AI μοντέλα έχουν φτάσει σε επίπεδο ικανότητας προγραμματισμού που τους επιτρέπει να ξεπερνούν όλους εκτός από τους πιο έμπειρους ανθρώπους στον εντοπισμό και την εκμετάλλευση ευπαθειών λογισμικού», σημείωσε η Anthropic. «Οι συνέπειες – για τις οικονομίες, τη δημόσια ασφάλεια και την εθνική ασφάλεια – μπορεί να είναι σοβαρές».
Οι ευπάθειες που αποκάλυψε το Mythos ήταν συχνά λεπτές και δύσκολα ανιχνεύσιμες χωρίς AI. Για παράδειγμα, το Mythos εντόπισε ένα άγνωστο μέχρι σήμερα σφάλμα σε λογισμικό βίντεο, το οποίο είχε δοκιμαστεί πάνω από 5 εκατομμύρια φορές από τους δημιουργούς του.
Ως προληπτικό μέτρο, η Anthropic έχει μοιραστεί μια έκδοση του Mythos με τις εταιρείες κυβερνοασφάλειας CrowdStrike και Palo Alto Networks, καθώς και με τις Amazon, Apple και Microsoft, στο πλαίσιο ενός project με την ονομασία Glasswing.
Στο πρόγραμμα συμμετέχουν επίσης οι κολοσσοί δικτύωσης Cisco και Broadcom, καθώς και το Linux Foundation, που προωθεί το ελεύθερο λειτουργικό σύστημα ανοιχτού κώδικα Linux.
(Με πληροφορίες Guardian)
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Ποια είναι τα τυπικά προσόντα
H dashcam, μία ακόμα κάμερα που βάλαμε οικειοθελώς στη ζωή μας, έκανε το ντεμπούτο της το 1907
Στόχος είναι η μακροχρόνια παρουσία αστροναυτών στον δορυφόρο της Γης
Ο ρόλος των ατμοσφαιρικών κυματισμών εν μέσω κλιματικής αλλαγής
Η σημασία της ευελιξίας των ηλεκτρικών δικτύων και του συνδυασμού διαφορετικών ανανεώσιμων πηγών ενέργειας
Κατηγορίες για τον αλγόριθμο που εγκλωβίζει τους νέους σε επικίνδυνο περιεχόμενο
Το μυστικό βρίσκεται εν μέρει στην ανατομία τους
Πλέον δεν αγοράζουμε, αλλά νοικιάζουμε καθημερινές υπηρεσίες και αγαθά από εταιρείες και διοικητικούς οργανισμούς από την καλή θέληση των οποίων και εξαρτιόμαστε
Ερευνητές του Τμήματος Βιολογίας απομονώνουν γενετικό υλικό και εντοπίζουν λύκους και αρκούδες
«Ζάκερμπεργκ, Μασκ και Άλτμαν κατανοούν τους κινδύνους και δεν δίνουν δεκάρα»
Πώς αξιοποίησαν την Τεχνητή Νοημοσύνη
Οι χρήστες κατηγορούν τις εταιρείες τεχνητής νοημοσύνης ότι δημιουργούν ελλείψεις και αυξάνουν το κόστος της τεχνολογίας
Η ψηφιακή αποθήκευση της ανθρώπινης γνώσης θέτει ερωτήματα για τη δημοκρατία, τη λήθη, την αλήθεια
Όταν ο άνθρωπος θέλει να ξεπεράσει τον εαυτό του
Σχεδόν δύο αιώνες μετά την ίδρυσή του, το Πανεπιστήμιο εξακολουθεί να συγκεντρώνει διαφορετικές γενιές, επιστημονικά πεδία και προσδοκίες.
Τι αλλάζει σε τράπεζες και συναλλαγές
Μέσα στο νέο data center και στα εργαστήρια του «Δημόκριτου», η ATHENS VOICE βλέπει πώς η έρευνα στην τεχνητή νοημοσύνη περνά από τους υπολογιστές στα αυτόνομα θαλάσσια σκάφη
Αυτό που χτες φαινόταν ριζοσπαστικό σήμερα είναι συντηρητικό. Κι αυτό που χτες φαινόταν απολύτως αποδεκτό και ανάξιο σημασίας σήμερα είναι το χειρότερο ταμπού.
Ποιο μοντέλο ξεχωρίζει για τον αθλητισμό, ποιο δίνει έμφαση στην υγεία και ποιο συνδυάζει πρακτικές λειτουργίες με premium σχεδιασμό;
Τι αποκαλύπτει η παγκόσμια μελέτη Wellcome Global Monitor για 140 χώρες
Έχετε δει 20 από 200 άρθρα.