Τεχνολογια - Επιστημη

Συναγερμός στην τεχνητή νοημοσύνη: «Χάκερς» μπήκαν στο επικίνδυνο μοντέλο Mythos

Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης

Athens Voice News
Newsroom
1’ ΔΙΑΒΑΣΜΑ
Tεχνητή νοημοσύνη
Τεχνητή νοημοσύνη © Unsplash
  • Athens Voice News
    Newsroom
  • 1’ ΔΙΑΒΑΣΜΑ

Eπιλογές

Anthropic: Έρευνα για διαρροή του ισχυρού AI μοντέλου Mythos

Σε συναγερμό βρίσκεται η Anthropic, μετά από πληροφορίες για πιθανή μη εξουσιοδοτημένη πρόσβαση στο προηγμένο μοντέλο τεχνητής νοημοσύνης Claude Mythos.

Σύμφωνα με την εταιρεία, εξετάζεται το ενδεχόμενο ομάδα χρηστών να απέκτησε πρόσβαση στο σύστημα μέσω περιβάλλοντος τρίτου συνεργάτη, το οποίο χρησιμοποιείται για την ανάπτυξη και δοκιμή των μοντέλων. Η εταιρεία τεχνητής νοημοσύνης Anthropic διευκρίνισε ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις ότι η δραστηριότητα επεκτάθηκε πέρα από αυτό το «vendor environment».

Το συγκεκριμένο μοντέλο είχε δοθεί σε περιορισμένο αριθμό εταιρειών υψηλής εμπιστοσύνης, όπως οι Amazon, Microsoft και Apple, λόγω των ιδιαίτερα προηγμένων δυνατοτήτων του στην κυβερνοασφάλεια. Η ανησυχία των ειδικών εστιάζει στο ότι, αν πέσει σε λάθος χέρια, θα μπορούσε να χρησιμοποιηθεί για την εκτέλεση κυβερνοεπιθέσεων με ταχύτητα και κλίμακα που ξεπερνά τις ανθρώπινες δυνατότητες.

Η υπόθεση έρχεται να προστεθεί σε μια σειρά περιστατικών που έχουν θέσει υπό πίεση τα συστήματα ασφαλείας της εταιρείας. Τον Μάρτιο, στοιχεία για το ίδιο μοντέλο είχαν εντοπιστεί σε δημόσια διαθέσιμα δεδομένα, γεγονός που αποδόθηκε σε ανθρώπινο λάθος, ενώ νωρίτερα μέσα στον μήνα διέρρευσε και εσωτερικός κώδικας άλλου εργαλείου της εταιρείας.

Το περιστατικό εντείνει τις ανησυχίες για το κατά πόσο ακόμη και οι πιο προηγμένες εταιρείες τεχνητής νοημοσύνης μπορούν να προστατεύσουν πλήρως τα εργαλεία που αναπτύσσουν, ειδικά όταν αυτά έχουν τη δυνατότητα να εντοπίζουν —ή να εκμεταλλεύονται— ευπάθειες σε ψηφιακά συστήματα.

Το θέμα αναμένεται να απασχολήσει όχι μόνο την τεχνολογική κοινότητα αλλά και τις ρυθμιστικές αρχές, καθώς η ασφάλεια των AI μοντέλων εξελίσσεται σε κρίσιμο ζήτημα διεθνώς.

Σχετικό Άρθρο

Πηγή: Financial Times

Ακολουθήστε την Athens Voice στο Google News κι ενημερωθείτε πρώτοι για όλες τις ειδήσεις

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΕΙΔΗΣΕΙΣ
ΑΠΟΨΕΙΣ
ΘΕΜΑΤΑ
ΣΤΗΛΕΣ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Fujifilm: Από τον θάνατο του φιλμ στην εποχή των 20.000 AI agents
Τεχνολογια - Επιστημη Fujifilm: Από τον θάνατο του φιλμ στην εποχή των 20.000 AI agents

Ο Executive Vice President της FUJIFILM Europe, Πίτερ Στρούικ, μιλά στην ATHENS VOICE για την πραγματική αξία της τεχνητής νοημοσύνης, την επόμενη εποχή των AI agents, τις θέσεις εργασίας και την ευρωπαϊκή ρύθμιση

Λουκάς Βελιδάκης
«Εμείς μεταξύ μας διαφωνούμε»: Οι «άνθρωποι της AI» στην EY Ελλάδος συζητούν για όσα έρχονται
Τεχνολογια - Επιστημη «Εμείς μεταξύ μας διαφωνούμε»: Οι άνθρωποι της AI στην EY Ελλάδος συζητούν για όσα έρχονται

Η ΑΙ δεν χρειάζεται πλέον να αποδείξει ότι δουλεύει. Το δύσκολο ερώτημα είναι τι αλλάζει τώρα; Τρεις ειδικοί της ΕΥ ανοίγουν τα χαρτιά τους στην ATHENS VOICE

Λουκάς Βελιδάκης
Από τον πυρηνικό αντιδραστήρα στην κβαντική υπολογιστική: Το επόμενο μεγάλο στοίχημα του «Δημόκριτου»
Τεχνολογια - Επιστημη Από τον πυρηνικό αντιδραστήρα στην κβαντική υπολογιστική: Το επόμενο μεγάλο στοίχημα του «Δημόκριτου»

Ο πρόεδρος του ΕΚΕΦΕ «Δημόκριτος», Βαγγέλης Καρκαλέτσης, μιλά στην ATHENS VOICE για το μεγάλο στοίχημα του Quantum, την ΑΙ που αρχίζει να τον ανησυχεί και την επιστροφή Ελλήνων επιστημόνων

Λουκάς Βελιδάκης

Έχετε δει 20 από 200 άρθρα.

// EMPTY