- CITY GUIDE
- PODCAST
-
17°
Συναγερμός στην τεχνητή νοημοσύνη: «Χάκερς» μπήκαν στο επικίνδυνο μοντέλο Mythos
Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης
Anthropic: Έρευνα για διαρροή του ισχυρού AI μοντέλου Mythos
Σε συναγερμό βρίσκεται η Anthropic, μετά από πληροφορίες για πιθανή μη εξουσιοδοτημένη πρόσβαση στο προηγμένο μοντέλο τεχνητής νοημοσύνης Claude Mythos.
Σύμφωνα με την εταιρεία, εξετάζεται το ενδεχόμενο ομάδα χρηστών να απέκτησε πρόσβαση στο σύστημα μέσω περιβάλλοντος τρίτου συνεργάτη, το οποίο χρησιμοποιείται για την ανάπτυξη και δοκιμή των μοντέλων. Η εταιρεία τεχνητής νοημοσύνης Anthropic διευκρίνισε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι η δραστηριότητα επεκτάθηκε πέρα από αυτό το «vendor environment».
Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης, όπως οι Amazon, Microsoft και Apple, λόγω των ιδιαίτερα προηγμένων δυνατοτήτων του στην κυβερνοασφάλεια. Η ανησυχία των ειδικών εστιάζει στο ότι, αν πέσει σε λάθος χέρια, θα μπορούσε να χρησιμοποιηθεί για την εκτέλεση κυβερνοεπιθέσεων με ταχύτητα και κλίμακα που ξεπερνά τις ανθρώπινες δυνατότητες.
Η υπόθεση έρχεται να προστεθεί σε μια σειρά περιστατικών που έχουν θέσει υπό πίεση τα συστήματα ασφαλείας της εταιρείας. Τον Μάρτιο, στοιχεία για το ίδιο μοντέλο είχαν εντοπιστεί σε δημόσια διαθέσιμα δεδομένα, γεγονός που αποδόθηκε σε ανθρώπινο λάθος, ενώ νωρίτερα μέσα στον μήνα διέρρευσε και εσωτερικός κώδικας άλλου εργαλείου της εταιρείας.
Το περιστατικό εντείνει τις ανησυχίες για το κατά πόσο ακόμη και οι πιο προηγμένες εταιρείες τεχνητής νοημοσύνης μπορούν να προστατεύσουν πλήρως τα εργαλεία που αναπτύσσουν, ειδικά όταν αυτά έχουν τη δυνατότητα να εντοπίζουν —ή να εκμεταλλεύονται— ευπάθειες σε ψηφιακά συστήματα.
Το θέμα αναμένεται να απασχολήσει όχι μόνο την τεχνολογική κοινότητα αλλά και τις ρυθμιστικές αρχές, καθώς η ασφάλεια των AI μοντέλων εξελίσσεται σε κρίσιμο ζήτημα διεθνώς.
Πηγή: Financial Times
ΠΡΟΣΦΑΤΑ
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Επιστήμονες εξηγούν γιατί τα πράσινα μάτια είναι τόσο σπάνια και πώς συνδέονται με την εξέλιξη και τη γενετική
Η νέα έκδοση συγκεντρώνει χιλιάδες σύνολα δεδομένων από εκατοντάδες φορείς
Η Meta επενδύει σε νέες μορφές επικοινωνίας που δίνουν έμφαση στη στιγμιαία εμπειρία
Δεν «φορτώνει» η εφαρμογή
Κατηγορεί τον γίγαντα του streaming ότι κατέγραφε τη συμπεριφορά χρηστών και αξιοποιούσε δεδομένα ακόμη και παιδιών
Από το πρωινό τρέξιμο μέχρι τις απαιτήσεις της ημέρας, το HUAWEI WATCH GT Runner 2 γίνεται ο απόλυτος σύμμαχος ευεξίας
Η επικεφαλής του Center for Frontier AI Security μιλάει στην ATHENS VOICE για τα drones, το AGI, τα frontier models, την κυβερνοασφάλεια και τη στρατηγική ετοιμότητα των κρατών
Το Γεωδυναμικό Ινστιτούτο καταγράφει πιθανές μικροδονήσεις από τη μαζική κίνηση των θεατών
Συμμετείχε σε παγκόσμια παρατήρηση απόκρυψης αστέρα από τον νάνο πλανήτη Haumea
Τι ανακοίνωσαν οι υγειονομικές Αρχές της Αργεντινής
Η τεχνολογία που αποσύρεται μετά από αντιδράσεις
Τι αναφέρει έκθεση της Microsoft
«Φτιάξαμε ένα μοντέλο AI που σε βοηθάει να φτιάξεις το δικό σου AI», λέει ο Μάνος Κουκουμίδης
Πώς η βιολογία και η εξέλιξη μας «προγραμματίζουν» να τρέμουμε το κενό
Ο άνθρωπος που έφτιαξε τους Google Maps θέλει να μετατρέψει την Αθήνα στο επίκεντρο της παγκόσμιας καινοτομίας
Ο διάσημος βιολόγος εντυπωσιάστηκε από τον «ανθρώπινο» χαρακτήρα των chatbots
Ωστόσο, η επιστροφή τους δεν αφορά μόνο τη λειτουργικότητα
Η NASA δημοσιοποίησε όλες τις φωτογραφίες από την αποστολή Artemis ΙΙ - Δείτε το άλμπουμ
Έρευνα της Gallup για το πώς αντιμετωπίζουμε τα bots
Έχετε δει 20 από 200 άρθρα.