- CITY GUIDE
- PODCAST
-
17°
Συναγερμός στην τεχνητή νοημοσύνη: «Χάκερς» μπήκαν στο επικίνδυνο μοντέλο Mythos
Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης
Anthropic: Έρευνα για διαρροή του ισχυρού AI μοντέλου Mythos
Σε συναγερμό βρίσκεται η Anthropic, μετά από πληροφορίες για πιθανή μη εξουσιοδοτημένη πρόσβαση στο προηγμένο μοντέλο τεχνητής νοημοσύνης Claude Mythos.
Σύμφωνα με την εταιρεία, εξετάζεται το ενδεχόμενο ομάδα χρηστών να απέκτησε πρόσβαση στο σύστημα μέσω περιβάλλοντος τρίτου συνεργάτη, το οποίο χρησιμοποιείται για την ανάπτυξη και δοκιμή των μοντέλων. Η εταιρεία τεχνητής νοημοσύνης Anthropic διευκρίνισε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι η δραστηριότητα επεκτάθηκε πέρα από αυτό το «vendor environment».
Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης, όπως οι Amazon, Microsoft και Apple, λόγω των ιδιαίτερα προηγμένων δυνατοτήτων του στην κυβερνοασφάλεια. Η ανησυχία των ειδικών εστιάζει στο ότι, αν πέσει σε λάθος χέρια, θα μπορούσε να χρησιμοποιηθεί για την εκτέλεση κυβερνοεπιθέσεων με ταχύτητα και κλίμακα που ξεπερνά τις ανθρώπινες δυνατότητες.
Η υπόθεση έρχεται να προστεθεί σε μια σειρά περιστατικών που έχουν θέσει υπό πίεση τα συστήματα ασφαλείας της εταιρείας. Τον Μάρτιο, στοιχεία για το ίδιο μοντέλο είχαν εντοπιστεί σε δημόσια διαθέσιμα δεδομένα, γεγονός που αποδόθηκε σε ανθρώπινο λάθος, ενώ νωρίτερα μέσα στον μήνα διέρρευσε και εσωτερικός κώδικας άλλου εργαλείου της εταιρείας.
Το περιστατικό εντείνει τις ανησυχίες για το κατά πόσο ακόμη και οι πιο προηγμένες εταιρείες τεχνητής νοημοσύνης μπορούν να προστατεύσουν πλήρως τα εργαλεία που αναπτύσσουν, ειδικά όταν αυτά έχουν τη δυνατότητα να εντοπίζουν —ή να εκμεταλλεύονται— ευπάθειες σε ψηφιακά συστήματα.
Το θέμα αναμένεται να απασχολήσει όχι μόνο την τεχνολογική κοινότητα αλλά και τις ρυθμιστικές αρχές, καθώς η ασφάλεια των AI μοντέλων εξελίσσεται σε κρίσιμο ζήτημα διεθνώς.
Πηγή: Financial Times
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Σοβαρά προβλήματα λειτουργίας - Οι χρήστες αδυνατούν να συνδεθούν
Αναφορές από χρήστες ότι δε μπορούν να μπουν στις πλατφόρμες
Η εξαπάτηση δεν είναι ανθρώπινη εφεύρεση, αλλά εξελικτική στρατηγική που διαμόρφωσε τον ανθρώπινο εγκέφαλο
Εντοπίστηκαν απολιθώματα σε βάθος άνω των 7 χλμ., με ευρήματα που χρονολογούνται πριν από 5,3 εκατομμύρια χρόνια
Ποιοι αντιμετωπίζουν ολοένα και πιο περιορισμένη πρόσβαση στην αγορά εργασίας
Βασίζεται σε αρχαία νευροβιολογικά συστήματα - Πώς εξελίχθηκε ως στρατηγική επιβίωσης
Η Anthropic διαθέτει το Claude Fable 5 παρά τις ανησυχίες για την κυβερνοασφάλεια
Πρώτη φορά που αστροναύτης της Ευρωπαϊκής Διαστημικής Υπηρεσίας εντάσσεται σε αποστολή του προγράμματος Artemis
Από το gov.gr στην εποχή της προσωποποιημένης εξυπηρέτησης
Η Sega επιβεβαίωσε την ψηφιακή αναβίωση του θρυλικού ράπερ στο «Stranger Than Heaven»
Η νεαρή φιλόσοφος είναι η ψυχή του Claude της Anthropic και οι προβληματισμοί έχουν σημασία
Ο Γιάννης Ασσαέλ μιλά για τον οδηγό «Τεχνητή Νοημοσύνη για Όλους», τον οποίο χαρακτηρίζει «παγκόσμια πρωτοπορία»
Οι ερευνητές εκτιμούν ότι ο άνεμος είναι ενεργός για τουλάχιστον 20.000 χρόνια
Η νέα συνεργασία-μεγαθήριο φέρνει τον Πίκατσου στη ζωή, χρησιμοποιώντας ειδικούς αισθητήρες κίνησης, ήχους και φώτα
Ερευνητές του Πανεπιστημίου του Κέιμπριτζ δημιούργησαν ένα «υπερ-αντιγόνο» ικανό να προστατεύσει από μελλοντικές πανδημίες
Η στροφή των χρηστών από τα κινητά στις τηλεοράσεις αλλάζει τις ισορροπίες στην παγκόσμια αγορά της ψυχαγωγίας
Οι εκτιμήσεις σοκ έκθεσης του ΟΗΕ
Το ΑΙ γράφει πια τα πάντα και τα γράφει με τη δική του, χαρακτηριστική φωνή – μόνο εμένα μου φαίνεται κάπως εκνευριστική;
Η Sydney Morning Herald απέσυρε το κείμενο της καθηγήτριας Κάθριν Έλις ως «απαράδεκτο»
H εταιρεία στοχεύει να διαθέτει έως το 2029 μια κβαντική μηχανή ικανή να επιλύει πραγματικά προβλήματα για επιχειρήσεις και βιομηχανίες
Έχετε δει 20 από 200 άρθρα.