- CITY GUIDE
- PODCAST
-
17°
Μπλέτσας: Ο μεγαλύτερος κίνδυνος δεν είναι η τεχνητή νοημοσύνη, αλλά η ανθρώπινη βλακεία
Ο Μιχάλης Μπλέτσας εξηγεί τους κινδύνους της AI - Και γιατί η ανθρώπινη χρήση της είναι κρίσιμη
Ο Μιχάλης Μπλέτσας αναλύει τους κινδύνους του AI, το Mythos, την κυβερνοασφάλεια και τον καθοριστικό ρόλο των ανθρώπινων αποφάσεων
Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης επαναφέρει στο προσκήνιο τις ανησυχίες γύρω από την κυβερνοασφάλεια, τόσο σε επίπεδο κρατών όσο και επιχειρήσεων. Στο πλαίσιο αυτό, ιδιαίτερη συζήτηση έχει προκαλέσει η δραστηριότητα της εταιρείας Anthropic και το μοντέλο τεχνητής νοημοσύνης Mythos.
Ο διοικητής της Εθνικής Αρχής Κυβερνοασφάλειας και ερευνητής στο MIT Media Lab, Μιχάλης Μπλέτσας, μιλώντας στο ΕΡΤNews, επιχείρησε να αποδομήσει την εικόνα επικινδυνότητας που συνοδεύει τα νέα αυτά μοντέλα, τονίζοντας ότι η πραγματική απειλή δεν βρίσκεται στην τεχνολογία, αλλά στον τρόπο χρήσης της.
Μπλέτσας για το Mythos και την κυβερνοασφάλεια: Περισσότερο μάρκετινγκ παρά επανάσταση
Αναφερόμενος στο μοντέλο Mythos της Anthropic, ο κ. Μπλέτσας εξήγησε ότι πρόκειται για ένα σύστημα παρόμοιο με το ChatGPT, το οποίο έχει ρυθμιστεί ώστε να εντοπίζει ευπάθειες σε λογισμικό.
Όπως σημείωσε, η προβολή του ως «επικίνδυνου» αποτελεί σε μεγάλο βαθμό επικοινωνιακή στρατηγική. Οι δοκιμές του πραγματοποιήθηκαν σε εφαρμογές ανοιχτού κώδικα, όπου πράγματι εντοπίστηκαν ευπάθειες, ωστόσο –όπως διευκρίνισε– οι περισσότερες από αυτές είχαν ήδη ανακαλυφθεί από άλλα μοντέλα.
«Δεν πρόκειται για κάποιο επαναστατικό μοντέλο», υπογράμμισε.
Για τον λόγο αυτό, το Mythos δεν διατίθεται ευρέως, αλλά περιορίζεται σε συγκεκριμένους δοκιμαστές, με στόχο τη χρήση του για την ενίσχυση της ασφάλειας, μέσω του εντοπισμού και της διόρθωσης αδυναμιών πριν αξιοποιηθούν κακόβουλα.
Παράλληλα, επεσήμανε ότι η τεχνητή νοημοσύνη ενισχύει σημαντικά τις δυνατότητες κυβερνοεπιθέσεων, κυρίως αυξάνοντας την ταχύτητα και την κλίμακά τους. Άτομα χωρίς προηγμένες τεχνικές δεξιότητες μπορούν πλέον να εκτελέσουν επιθέσεις πιο εύκολα, καθώς πολλά στάδια αυτοματοποιούνται.
Η Ανθρώπινη ευθύνη και ο πραγματικός κίνδυνος στη χρήση της τεχνητής νοημοσύνης
Ιδιαίτερη έμφαση έδωσε ο κ. Μπλέτσας στη χρήση της τεχνητής νοημοσύνης σε κρίσιμες αποφάσεις, όπως στρατιωτικές εφαρμογές ή συστήματα επιτήρησης.
Σχολιάζοντας το αίτημα της Anthropic προς το Υπουργείο Άμυνας των ΗΠΑ να μην επιτρέπεται σε συστήματα AI να λαμβάνουν αποφάσεις ζωής ή θανάτου, προειδοποίησε για τον αυξημένο κίνδυνο λαθών.
Όπως ανέφερε, όταν ένας χειριστής καλείται να αξιολογήσει μαζικά δεδομένα –π.χ. εκατοντάδες ή χιλιάδες στόχους αντί για λίγους– ο χρόνος κρίσης μειώνεται δραματικά, αυξάνοντας την πιθανότητα σφαλμάτων.
«Εκείνο που θα πρέπει να φοβόμαστε πολύ περισσότερο είναι η ανθρώπινη βλακεία, όχι η τεχνητή νοημοσύνη», σημείωσε χαρακτηριστικά, επισημαίνοντας ότι το πρόβλημα προκύπτει όταν ανατίθενται στην AI αποφάσεις που δεν είναι ακόμη σε θέση να λάβει αξιόπιστα.
Σε ό,τι αφορά την Ελλάδα, ο κ. Μπλέτσας τόνισε ότι η τεχνητή νοημοσύνη αρχίζει ήδη να αξιοποιείται στον τομέα της κυβερνοασφάλειας, κυρίως μέσω της λεγόμενης «σύντηξης πληροφοριών» (data fusion).
Πρόκειται για τη διαδικασία συνδυασμού μεγάλου όγκου δεδομένων από πολλαπλές πηγές, με στόχο την κατανόηση και την ταυτοποίηση γεγονότων. Δεδομένου ότι ο όγκος των πληροφοριών αυξάνεται διαρκώς, η ανθρώπινη ανάλυση δεν επαρκεί, καθιστώντας την AI κρίσιμο εργαλείο υποστήριξης.
Όπως κατέληξε, η τεχνητή νοημοσύνη μπορεί να αποτελέσει ισχυρό σύμμαχο, υπό την προϋπόθεση ότι χρησιμοποιείται με ορθολογισμό και επίγνωση των περιορισμών της.
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Οι ανησυχίες εντείνονται καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία
Τα σημαντικά οφέλη της γραφής με το χέρι έναντι των πληκτρολογίων στον εγκέφαλο
Η νέα συνήθεια που γεννήθηκε στα κινητά σαρώνει τις οθόνες και φέρνει δισεκατομμύρια
Ο Ελληνοαμερικανός οικονομολόγος εξηγεί τι χρειάζεται να κάνει η Ελλάδα για να προσαρμοστεί στην εποχή της τεχνητής νοημοσύνης
Νέα αγωγή κατά της Sony αμφισβητεί αν οι παίκτες αγοράζουν ή απλώς νοικιάζουν τα ψηφιακά παιχνίδια τους
Τα μοντέλα Claude απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν συστήματα οργανισμών
Μικρές αλλαγές, μεγάλη διαφορά
Sony και Warner ζητούν δισεκατομμύρια ευρώ για παράνομη χρήση στίχων στην εκπαίδευση του Claude
Τι εξήγησε ο Ομότιμος Καθηγητής Φαρμακολογίας του Πανεπιστημίου Κρήτης
Η συμφωνία που ανοίγει μια νέα συζήτηση για την ευθύνη των τεχνολογικών εταιρειών
Όταν τα συστήματα Τεχνητής Νοημοσύνης ξεφεύγουν από τον έλεγχο – και οι ίδιοι οι δημιουργοί τους ζητούν από την πολιτική να τους βάλει φρένο.
Οι νέοι περιορισμοί για τους εφήβους - Αυξάνονται οι πιέσεις από Ευρώπη και Ασία
Η αναγκαιότητα της διά βίου μάθησης σε ένα μεταβαλλόμενο τοπίο
«Η AI είναι πιο επικίνδυνη απ’ όσο παραδέχονται οι τεχνολογικοί κολοσσοί»
Το Audorama 2.0 εντοπίζει κινήσεις και γεγονότα, προτείνει ήχους και τα μετατρέπει σε επεξεργάσιμο υλικό, αφήνοντας τον τελικό λόγο στον δημιουργό
Οι αγώνες περιλαμβάνουν 51 αθλήματα, από ταχύτητες και άλματα μέχρι αυτόνομο ποδόσφαιρο, πινγκ πονγκ και χορό
Έχετε δει 20 από 200 άρθρα.