Τεχνολογια - Επιστημη

Συναγερμός στην τεχνητή νοημοσύνη: «Χάκερς» μπήκαν στο επικίνδυνο μοντέλο Mythos

Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης

Athens Voice News
Newsroom
1’ ΔΙΑΒΑΣΜΑ
Tεχνητή νοημοσύνη
Τεχνητή νοημοσύνη © Unsplash
  • Athens Voice News
    Newsroom
  • 1’ ΔΙΑΒΑΣΜΑ

Eπιλογές

Anthropic: Έρευνα για διαρροή του ισχυρού AI μοντέλου Mythos

Σε συναγερμό βρίσκεται η Anthropic, μετά από πληροφορίες για πιθανή μη εξουσιοδοτημένη πρόσβαση στο προηγμένο μοντέλο τεχνητής νοημοσύνης Claude Mythos.

Σύμφωνα με την εταιρεία, εξετάζεται το ενδεχόμενο ομάδα χρηστών να απέκτησε πρόσβαση στο σύστημα μέσω περιβάλλοντος τρίτου συνεργάτη, το οποίο χρησιμοποιείται για την ανάπτυξη και δοκιμή των μοντέλων. Η εταιρεία τεχνητής νοημοσύνης Anthropic διευκρίνισε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι η δραστηριότητα επεκτάθηκε πέρα από αυτό το «vendor environment».

Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης, όπως οι Amazon, Microsoft και Apple, λόγω των ιδιαίτερα προηγμένων δυνατοτήτων του στην κυβερνοασφάλεια. Η ανησυχία των ειδικών εστιάζει στο ότι, αν πέσει σε λάθος χέρια, θα μπορούσε να χρησιμοποιηθεί για την εκτέλεση κυβερνοεπιθέσεων με ταχύτητα και κλίμακα που ξεπερνά τις ανθρώπινες δυνατότητες.

Η υπόθεση έρχεται να προστεθεί σε μια σειρά περιστατικών που έχουν θέσει υπό πίεση τα συστήματα ασφαλείας της εταιρείας. Τον Μάρτιο, στοιχεία για το ίδιο μοντέλο είχαν εντοπιστεί σε δημόσια διαθέσιμα δεδομένα, γεγονός που αποδόθηκε σε ανθρώπινο λάθος, ενώ νωρίτερα μέσα στον μήνα διέρρευσε και εσωτερικός κώδικας άλλου εργαλείου της εταιρείας.

Το περιστατικό εντείνει τις ανησυχίες για το κατά πόσο ακόμη και οι πιο προηγμένες εταιρείες τεχνητής νοημοσύνης μπορούν να προστατεύσουν πλήρως τα εργαλεία που αναπτύσσουν, ειδικά όταν αυτά έχουν τη δυνατότητα να εντοπίζουν —ή να εκμεταλλεύονται— ευπάθειες σε ψηφιακά συστήματα.

Το θέμα αναμένεται να απασχολήσει όχι μόνο την τεχνολογική κοινότητα αλλά και τις ρυθμιστικές αρχές, καθώς η ασφάλεια των AI μοντέλων εξελίσσεται σε κρίσιμο ζήτημα διεθνώς.

Σχετικό Άρθρο

Πηγή: Financial Times

Ακολουθήστε την Athens Voice στο Google News κι ενημερωθείτε πρώτοι για όλες τις ειδήσεις

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΕΙΔΗΣΕΙΣ
ΑΠΟΨΕΙΣ
ΘΕΜΑΤΑ
ΣΤΗΛΕΣ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Από το Fintech στην ορκωμοσία των βιολόγων: Δύο εικόνες του μέλλοντος στο ιστορικό Καποδιστριακό Πανεπιστήμιο Αθηνών
Τεχνολογια - Επιστημη Από το Fintech στην ορκωμοσία των βιολόγων: Δύο εικόνες του μέλλοντος στο ιστορικό Καποδιστριακό Πανεπιστήμιο Αθηνών

Σχεδόν δύο αιώνες μετά την ίδρυσή του, το Πανεπιστήμιο εξακολουθεί να συγκεντρώνει διαφορετικές γενιές, επιστημονικά πεδία και προσδοκίες.

Αλέκος Λιδωρίκης
«Δημόκριτος»: Μπήκαμε στο νέο data center και στο εργαστήριο που τυπώνει σκάφη
Τεχνολογια - Επιστημη «Δημόκριτος»: Μπήκαμε στο νέο data center και στο εργαστήριο που τυπώνει θαλάσσια drones

Μέσα στο νέο data center και στα εργαστήρια του «Δημόκριτου», η ATHENS VOICE βλέπει πώς η έρευνα στην τεχνητή νοημοσύνη περνά από τους υπολογιστές στα αυτόνομα θαλάσσια σκάφη

Λουκάς Βελιδάκης

Έχετε δει 20 από 200 άρθρα.

// EMPTY