- CITY GUIDE
- PODCAST
-
15°
Μπλέτσας: Ο μεγαλύτερος κίνδυνος δεν είναι η τεχνητή νοημοσύνη, αλλά η ανθρώπινη βλακεία
Ο Μιχάλης Μπλέτσας εξηγεί τους κινδύνους της AI - Και γιατί η ανθρώπινη χρήση της είναι κρίσιμη
Ο Μιχάλης Μπλέτσας αναλύει τους κινδύνους του AI, το Mythos, την κυβερνοασφάλεια και τον καθοριστικό ρόλο των ανθρώπινων αποφάσεων
Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης επαναφέρει στο προσκήνιο τις ανησυχίες γύρω από την κυβερνοασφάλεια, τόσο σε επίπεδο κρατών όσο και επιχειρήσεων. Στο πλαίσιο αυτό, ιδιαίτερη συζήτηση έχει προκαλέσει η δραστηριότητα της εταιρείας Anthropic και το μοντέλο τεχνητής νοημοσύνης Mythos.
Ο διοικητής της Εθνικής Αρχής Κυβερνοασφάλειας και ερευνητής στο MIT Media Lab, Μιχάλης Μπλέτσας, μιλώντας στο ΕΡΤNews, επιχείρησε να αποδομήσει την εικόνα επικινδυνότητας που συνοδεύει τα νέα αυτά μοντέλα, τονίζοντας ότι η πραγματική απειλή δεν βρίσκεται στην τεχνολογία, αλλά στον τρόπο χρήσης της.
Μπλέτσας για το Mythos και την κυβερνοασφάλεια: Περισσότερο μάρκετινγκ παρά επανάσταση
Αναφερόμενος στο μοντέλο Mythos της Anthropic, ο κ. Μπλέτσας εξήγησε ότι πρόκειται για ένα σύστημα παρόμοιο με το ChatGPT, το οποίο έχει ρυθμιστεί ώστε να εντοπίζει ευπάθειες σε λογισμικό.
Όπως σημείωσε, η προβολή του ως «επικίνδυνου» αποτελεί σε μεγάλο βαθμό επικοινωνιακή στρατηγική. Οι δοκιμές του πραγματοποιήθηκαν σε εφαρμογές ανοιχτού κώδικα, όπου πράγματι εντοπίστηκαν ευπάθειες, ωστόσο –όπως διευκρίνισε– οι περισσότερες από αυτές είχαν ήδη ανακαλυφθεί από άλλα μοντέλα.
«Δεν πρόκειται για κάποιο επαναστατικό μοντέλο», υπογράμμισε.
Για τον λόγο αυτό, το Mythos δεν διατίθεται ευρέως, αλλά περιορίζεται σε συγκεκριμένους δοκιμαστές, με στόχο τη χρήση του για την ενίσχυση της ασφάλειας, μέσω του εντοπισμού και της διόρθωσης αδυναμιών πριν αξιοποιηθούν κακόβουλα.
Παράλληλα, επεσήμανε ότι η τεχνητή νοημοσύνη ενισχύει σημαντικά τις δυνατότητες κυβερνοεπιθέσεων, κυρίως αυξάνοντας την ταχύτητα και την κλίμακά τους. Άτομα χωρίς προηγμένες τεχνικές δεξιότητες μπορούν πλέον να εκτελέσουν επιθέσεις πιο εύκολα, καθώς πολλά στάδια αυτοματοποιούνται.
Η Ανθρώπινη ευθύνη και ο πραγματικός κίνδυνος στη χρήση της τεχνητής νοημοσύνης
Ιδιαίτερη έμφαση έδωσε ο κ. Μπλέτσας στη χρήση της τεχνητής νοημοσύνης σε κρίσιμες αποφάσεις, όπως στρατιωτικές εφαρμογές ή συστήματα επιτήρησης.
Σχολιάζοντας το αίτημα της Anthropic προς το Υπουργείο Άμυνας των ΗΠΑ να μην επιτρέπεται σε συστήματα AI να λαμβάνουν αποφάσεις ζωής ή θανάτου, προειδοποίησε για τον αυξημένο κίνδυνο λαθών.
Όπως ανέφερε, όταν ένας χειριστής καλείται να αξιολογήσει μαζικά δεδομένα –π.χ. εκατοντάδες ή χιλιάδες στόχους αντί για λίγους– ο χρόνος κρίσης μειώνεται δραματικά, αυξάνοντας την πιθανότητα σφαλμάτων.
«Εκείνο που θα πρέπει να φοβόμαστε πολύ περισσότερο είναι η ανθρώπινη βλακεία, όχι η τεχνητή νοημοσύνη», σημείωσε χαρακτηριστικά, επισημαίνοντας ότι το πρόβλημα προκύπτει όταν ανατίθενται στην AI αποφάσεις που δεν είναι ακόμη σε θέση να λάβει αξιόπιστα.
Σε ό,τι αφορά την Ελλάδα, ο κ. Μπλέτσας τόνισε ότι η τεχνητή νοημοσύνη αρχίζει ήδη να αξιοποιείται στον τομέα της κυβερνοασφάλειας, κυρίως μέσω της λεγόμενης «σύντηξης πληροφοριών» (data fusion).
Πρόκειται για τη διαδικασία συνδυασμού μεγάλου όγκου δεδομένων από πολλαπλές πηγές, με στόχο την κατανόηση και την ταυτοποίηση γεγονότων. Δεδομένου ότι ο όγκος των πληροφοριών αυξάνεται διαρκώς, η ανθρώπινη ανάλυση δεν επαρκεί, καθιστώντας την AI κρίσιμο εργαλείο υποστήριξης.
Όπως κατέληξε, η τεχνητή νοημοσύνη μπορεί να αποτελέσει ισχυρό σύμμαχο, υπό την προϋπόθεση ότι χρησιμοποιείται με ορθολογισμό και επίγνωση των περιορισμών της.
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Το νέο AI της Meta αναδεικνύει νικητές και χαμένους
Έρευνα αποκαλύπτει τη ραγδαία αύξηση της ψηφιακής εξάρτησης των νέων
Περισσότεροι από 180 ομιλητές από 60 χώρες θα βρεθούν στις σκηνές του συνεδρίου στο Άμπου Ντάμπι, στις 6-7 Οκτωβρίου
Έρευνα-ανατροπή στην ιατρική - Ελπίδα για θεραπείες θανατηφόρων παθήσεων που σχετίζονται με τον εγκέφαλο
Μιλήσαμε με την Μαίρη Πατρικίου για την πλατφόρμα που καλεί τους αγνώστους της διπλανής πόρτας να γίνουν γείτονες
100 χρόνια από το έτος που αναδιαμόρφωσε την επιστημονική σκέψη
Ο καβγάς για τις «πειραγμένες» οικογενειακές φωτογραφίες με τα εγγόνια
Γιατί η απόδοση ενός λογοτεχνικού έργου απαιτεί ερμηνεία, δημιουργικότητα και βαθιά σχέση με τη γλώσσα
Τα εργαλεία γεννούν καινούργιες ερωτήσεις
Το ψηφιακό άβαταρ μπέρδεψε τα λόγια του κατά τη διάρκεια τηλεοπτικής συνέντευξης
Ο επικεφαλής της Nvidia απορρίπτει τα σενάρια αφανισμού - «Δεν βασίζονται στην επιστήμη»
Τι σημαίνει ο αριθμός που βλέπετε στο ρολόι σας
Οι κίνδυνοι που εγκυμονούν από το «πριν από εμάς για εμάς»
Τι πετυχαίνει ένα viral σενάριο για την τεχνητή νοημοσύνη, τι αδυνατεί να ρωτήσει και γιατί έχει σημασία
Έρευνα αποκαλύπτει τους μηχανισμούς παρακολούθησης που κρύβονται πίσω από το νέο «super-app»
Η Rockstar Games ανακοίνωσε 34 πρωτότυπα τραγούδια που θα συνοδεύσουν το παιχνίδι
Οι προειδοποιήσεις ερευνητών, τα αιτήματα των τεχνολογικών κολοσσών για φρένο και η στάση των ΗΠΑ
Ο αστροφυσικός και πρώην πρόεδρος του Εθνικού Αστεροσκοπείου Αθηνών μιλά στην ATHENS VOICE για έναν πλανήτη που «τρέχει πίσω από τα γεγονότα», τη μάχη για τη Σελήνη και το μέλλον του ανθρώπου πέρα από τη Γη
Έχετε δει 20 από 200 άρθρα.