Το ζοφερό μέλλον των fake news στην εποχή της ΑΙ

Θυμάστε τα superspreading parties στην εποχή της έξαρσης του κορωνοϊού; Ήταν ο φόβος κι τρόμος για την υπερμετάδοση της νόσου. Κάπως έτσι λειτουργεί και η κακόβουλη αξιοποίηση της τεχνητής νοημοσύνης όσον αφορά στα fake news: Με τη χρήση της ΑΙ εμφανίζεται ένας «υπερμεταδότης παραπληροφόρησης», που σε αυτή τη φάση δύσκολα αντιμετωπίζεται. Στην Ελλάδα, το πρόβλημα δεν είναι -προς το παρόν- οξυμένο, αλλά αν λάβουμε υπόψη τις εξελίξεις στην άλλη πλευρά του Ατλαντικού, το μέλλον φαντάζει δυσοίωνο.

Η τεχνητή νοημοσύνη διευκολύνει οποιονδήποτε να δημιουργήσει προπαγανδιστικά μέσα, παράγοντας περιεχόμενο που είναι δύσκολα διακριτό από τις πραγματικές ειδήσεις. Μέσω ΑΙ, οδηγούμαστε στη... βιομηχανικής κλίμακας παραγωγή fake news (για εκλογές, πολέμους, φυσικές καταστροφές κ.λπ.), με μια έκρηξη περιεχομένου που μιμείται πραγματικά άρθρα.

Προσφάτως, η Washington Post δημοσίευσε ρεπορτάζ στο οποίο ανέφερε ότι μέσα σε 7-8 μήνες, οι ιστοσελίδες που φιλοξενούσαν fake news, που δημιουργήθηκαν μέσω ΑΙ, αυξήθηκαν εκθετικά: πάνω από 1.000%. Ο οργανισμός NewsGuard, που παρακολουθεί τις εξελίξεις γύρω από την παραπληροφόρηση, τις άθροισε σε άνω των 600, μολονότι πριν από μερικούς μήνες ανέρχονταν σε 49. Το ζοφερό μέλλον στην ενημέρωση δείχνει τα δόντια του.

Μιλήσαμε με δύο ειδικούς σε μία προσπάθεια να χαρτογραφήσουμε το τοπίο, κάνοντας μία απόπειρα να ρίξουμε μία κλεφτή ματιά στο αύριο.

Η Λίλιαν Μπαλατσού και ο Ανδρόνικος Κουτρουμπέλης μιλούν για τα fake news και την τεχνητή νοημοσύνη

Λίλιαν Μπαλατσού: Να μην δημιουργηθεί ψηφιακός κόσμος δύο ταχυτήτων

Η Δρ. Λίλιαν Μπαλατσού είναι ειδικός ΑΙ και γλώσσας και κάτοχος διδακτορικού στη Γνωσιακή Νευροεπιστήμη από το Πανεπιστήμιο Μπάνγκορ του Ηνωμένου Βασιλείου.

Με πόσο ραγδαίους ρυθμούς αλλάζει η ΑΙ;
Υπάρχει γεωμετρική αύξηση. Έπαιξε ρόλο και η εισαγωγή της GenAΙ στο παιχνίδι, ήρθαν πιο γρήγορα κάποιες αλλαγές. Πρόσφατα βγήκε από την Gartner η πρόβλεψη για το μέλλον αυτών των τεχνολογιών και στην ουσία πάρα πολλά πράγματα αναμένεται να έρθουν με πιο πολύπλοκες μορφές και πιο γρήγορα. Η έρευνα θέτει και νέα πράγματα που μπορούμε να δούμε μετά την GenAΙ, που ίσως έχουν να κάνουν με πιο έξυπνα συστήματα, σε μεγαλύτερο βάθος, αλλά και προνόηση για κάποια συστήματα - σε λίγο καιρό θα μιλάμε και για αναπαράσταση γνώσης, για εξελίξεις στα αυτόματα οχήματα, στην όραση, στο computer vision. Μετά τα language models έχουμε και τα visual models, που έρχονται στο παιχνίδι. Αρα, περιμένουμε να δούμε τι θα γίνει τα επόμενα χρόνια...

Τι αλλάζει με την ανάπτυξη των visual models;
Με τα visual models μπορούμε να επεξεργαστούμε καλύτερα όλες τις πληροφορίες που έχουν να κάνουν με την όραση, την επεξεργασία αντικειμένων και πραγμάτων, την ταξινόμηση εικόνων και όλα τα προϊόντα που μπορεί να προκύψουν. 

Αυτό ενισχύει την παραγωγή και διάδοση των deep fakes;
Οσο μιλάμε για ανάπτυξη της τεχνολογίας ομιλίας, avatar, vision και επεξεργασίας των εικόνων αυτών, αναμένεται να έχουμε μεγαλύτερη ακρίβεια σε μη θεμιτές εφαρμογές, όπως είναι τα deep fakes. Το να εξελιχθεί τεχνικά κάτι, σημαίνει ότι μπορεί να χρησιμοποιηθεί κακόβουλα, το ζητούμενο είναι εμείς κατά πόσο θα θέσουμε το ρυθμιστικό πλαίσιο και κατά πόσο θα μπορέσουμε να προνοήσουμε ώστε να μην έχουν πρόσβαση όλοι και όλες για να δημιουργήσουν deep fakes ή να επεξεργαστούν, να αγοράσουν ή να πουλήσουν. 

Πόσο μεγάλο είναι το πρόβλημα με τα deep fakes σήμερα; 
Το κακό είναι ότι για τα deep fakes και την παραπληροφόρηση δεν έχουμε ακριβείς μετρήσεις για το πόσο μεγάλο είναι το πρόβλημα. Γνωρίζουμε ότι χρειάζονται πολλές χιλιάδες δεδομένων για να δημιουργηθούν σωστά deep fakes βίντεο - εικόνες και φωνή. Δεν έχουμε ακριβή αξιολόγηση, αλλά ξέρουμε ότι υπάρχει κι ότι θα μείνει.

Πώς φτιάχνεται ένα deep fake και πώς το αντιμετωπίσουμε;
Τα δημόσια πρόσωπα έχουν άπειρα δεδομένα άρα το κάνει πιο εύκολο στη δημιουργία deep fakes. Παίζει ρόλο το πόσο εύκολα και προσβάσιμα είναι τα δεδομένα που παράγει και επεξεργάζεται ο καθένας. 

Αν θες να βάλεις τον πρωθυπουργό ή την πρόεδρο της Δημοκρατίας να πουν ό,τι επιθυμείς εσύ, μπορείς;
Έχω δει ότι υπάρχουν, ότι έχουν δημιουργηθεί κι αυτό είναι από τις μεγαλύτερες προκλήσεις και απειλές προς τη Δημοκρατία - τα deep fakes, η παραπληροφόρηση και το micro-targeting που μπορεί να γίνει μέσω των τεχνολογιών ΑΙ, μπορεί να καθορίσει ή να προσδιορίσει εκλογικά αποτελέσματα, να επηρεάσει ψηφοφόρους, να σπείρει ψευδείς ειδήσεις προς τους πολίτες. Εκεί εντοπίζω το μεγαλύτερο πρόβλημα.

Πώς το αντιμετωπίζουμε; 
Αυτή τη στιγμή δεν υπάρχουν σαφείς διαδικασίες, είδαμε και τι έγινε με την Cambridge Analytica στις εκλογές των ΗΠΑ το 2016. Έχουν αρχίσει να γίνονται προσπάθειες για ρυθμιστικό πλαίσιο, όπως το EU AI Act, το πρώτο ρυθμιστικό πλαίσιο της ΕΕ για την τεχνητή νοημοσύνη. Από εκεί και πέρα πρέπει όλα αυτά να μπουν και να ενταχθούν ξεχωριστά στο δίκαιο κάθε χώρας και σε όλα τα ρυθμιστικά πλαίσια και τους οργανισμούς - πώς έχουμε το ΕΣΡ για την τηλεόραση, κάτι τέτοιο θα ήταν σώφρων να γίνεται τοπικά και να χαράσσονται οι γραμμές έτσι ώστε όλες τις αποφάσεις που παίρνουμε για την ΑΙ να αντιμετωπίζονται τοπικά και να μπορεί να ελεγχθούν πιο άμεσα, σε σχέση με το αν αυτό γίνει σε παγκόσμια κλίμακα. 

Ως δημοσιογράφος πώς θα μπορούσα να αντιμετωπίσω μία πληροφορία που είναι ψευδής;
Οι δημοσιογράφοι οφείλουν να κάνουν το λεγόμενο fact checking και με την εισαγωγή της GenAI και στο χώρο αυτό, μπορεί να βοηθήσει και να αυτοματοποιήσει τη δημιουργία περιεχομένου και την καταγραφή πληροφορίας στο χώρο της δημοσιογραφίας - θεωρώ ότι πρέπει να υπάρχει προσέγγιση ανθρώπου κι ανθρώπινης επεξεργασίας και καταγραφής όλων αυτών που έρχονται ως πληροφορία από τους αλγόριθμους - να γίνεται κι ένα fact checking ώστε να επιβεβαιώνεται η αρχική πηγή της είδησης και το κατά πόσο αυτή είναι αληθινή.

Ποια είναι τα θετικά που κομίζει η ΑΙ και ποιοι είναι οι μεγαλύτεροι κίνδυνοι;
Σε γενικές γραμμές, η τεχνητή νοημοσύνη έχει το περιθώριο και τη δυναμική να μας βοηθήσει πολύ ως προς την ανάπτυξη της χώρας αλλά και γενικά της κοινωνίας, να εντοπίσει ανισότητες που μπορεί να υπάρχουν αυτή τη στιγμή, να μας βοηθήσει σε πολλούς τομείς της επιστήμης και της επιχειρηματικότητας - να γίνουμε πιο συμπεριληπτικοί προς μειονότητες, εξανθρωπίζοντας και εκδημοκρατίζοντας πολλές ροές. Στα αρνητικά, όλα αυτά πρέπει να γίνουν με σωστό ρυθμιστικό πλαίσιο και σωστούς στρατηγικούς σχεδιασμούς, έτσι ώστε να βεβαιώσουμε ότι δεν θα μεταφέρουμε τις προκαταλήψεις και τις ανισότητες της αναλογικής πραγματικότητας στον ψηφιακό και τεχνητό κόσμο, ότι όλες οι τεχνολογίες θα είναι προσβάσιμες και θα αντιμετωπίζουν τους χρήστες με τον ίδιο τρόπο και ότι δεν θα δημιουργούνται κόσμοι δύο ταχυτήτων.

Ανδρόνικος Κουτρουμπέλης: Θα αντιμετωπίσουμε τα fake news με τα όπλα της ΑΙ

Ο Ανδρόνικος Κουτρουμπέλης είναι ο ιδρυτής του Fact Review και ο senior editor αυτής της ιστοσελίδας που ειδικεύεται στη διασταύρωση των ειδήσεων, κατά πόσο είναι αληθείς και δεν βασίζονται σε ψευδείς πληροφορίες. Μιλώντας στην Athens Voice σημειώνει ότι στη χώρα μας ο μεγαλύτερος όγκος παραπληροφόρησης εντοπίζεται σε αναρτήσεις στα social media ή σε κάποιο blog.

Πώς είναι η κατάσταση στη χώρα μας όσον αφορά στη χρήση της ΑΙ για την παραγωγή ψευδών ειδήσεων;
Για την ΑΙ είναι μεγάλη η κουβέντα γιατί μόλις ξεκινάει η παραπληροφόρηση σε αυτό τον χώρο. Το πιο άμεσο που βλέπουμε προς το παρόν είναι εικόνες, που υποτίθεται μπορεί να έγιναν στο πεδίο του πολέμου, ή ακόμα στον Βόλο που είχαν γίνει οι καταστροφές με τις πλημμύρες. Ενας ψηφιακός δημιουργός είπε, ας φτιάξω εικόνες ότι υπάρχουν ουρές κόσμου που περιμένουν να πιουν νερό. Αυτό έγινε με εργαλείο ΑΙ – φαινόταν ακόμα και με γυμνό μάτι ότι πολλαπλασίασε τον κόσμο.

Πώς το αντιμετωπίζουμε αυτό;
Υπάρχουν τεχνικές που είναι τόσο αληθοφανείς που δεν μπορείς να τις διακρίνεις με γυμνό μάτι. Αν κάποιος είναι αποφασισμένος να διασπείρει προπαγάνδα, είναι ξένος παράγοντας, από Ρωσία πχ, δυσκολεύει η υπόθεση.

Πώς γίνεται η αποδόμηση ενός deep fake;
Πάει τόσο γρήγορα η τεχνολογία, που ενώ κάτι ισχύει σήμερα, σε λίγους μήνες δεν θα ισχύει. Υπάρχουν πολλές εταιρείες τεχνολογίας, ομάδες, που προσπαθούν να σκανάρουν ένα βίντεο και κυρίως να δουν πώς κινούνται τα χείλη, τα μάτια, αν γίνεται με αφύσικο τρόπο. Είναι ακόμα σε πειραματικό επίπεδο, δεν έχει κυκλοφορήσει πολύ υλικό στη χώρα μας, άρα δεν έχουμε ακόμα κληθεί να ψάξουμε αυτές τις τεχνολογικές τακτικές. Το πιο συνηθισμένο που κάνουμε, είναι να βλέπουμε από πού προέρχεται αυτό το βίντεο. Το πιο σύνηθες είναι να πιάσουν έναν πολιτικό που φαίνεται να έκανε μια δημόσια δήλωση - αν δεν μπορείς να βρεις σε έγκυρο ΜΜΕ αυτή τη δήλωση, έχεις μια καλή ένδειξη. Αν το κάνει κάποιος πολύ καλά, μπορεί να σε μπερδέψει. Αν είναι από προσωπική συνομιλία και το βγάλει κάποιος ως exposé –ότι το έστειλε κάποιος πληροφοριοδότης-, εκεί τρέχα γύρευε. Δεν είχαμε ακόμα κάτι τέτοιο στην Ελλάδα, αλλά με την ταχύτητα που πάει, θεωρώ ότι θα έχουμε. Ένα από τα πιο άμεσα προβλήματα είναι οι απάτες, είναι ένας κίνδυνος που ήδη βλέπουμε, όπως έγινε με μια παρουσιάστρια του BBC που μιλούσε για κρυπτονομίσματα.

Πώς δημιουργείται κάτι τέτοιο;
Υπάρχουν εφαρμογές που τις κατεβάζεις ελεύθερα, αλλά σύμφωνα με το νέο ευρωπαϊκό πλαίσιο, μπορεί να περιοριστούν κάπως. Η τεχνολογία έχει ευελιξία, δύσκολα την περιορίζεις. Πρέπει να ορίζουμε επίπεδα ρίσκου, θα πρέπει να είμαστε προσεκτικοί με μία εταιρεία που μπορεί να σκανάρει, τι δεδομένα υπάρχουν δημόσια και να μας κάνει ατομικά προφίλ που θα πουλάει μετά σε εταιρείες.

Ποιος είναι ο βασικός κίνδυνος που εντοπίζεις στην εξάπλωση της ΑΙ στον χώρο της ενημέρωσης;
Η καθημερινότητα μου είναι η παραπληροφόρηση και μπορώ να πω ότι σε λίγα βήματα μπορούμε να χάσουμε την μπάλα. Όχι μόνο μία μεγάλη χώρα, που αργά ή γρήγορα θα φτιάξει τη δική της ΑΙ, ακόμα και το κάθε blog που είναι της κακιάς ώρας μπορεί να φτιάχνει τέτοιο όγκο υλικού, το οποίο μπορεί να στοχεύσει πολύ καλά στο κοινό. Όταν έχεις φτιάξει ένα ανοιχτό μοντέλο, που έχει μάθει πώς γράφεις και σε τι ζητήματα θες να αναφέρεσαι, και στον τρόπο που θες να αναφέρεσαι και να τα κάνει αληθοφανή, έχουμε πρόβλημα. Για παράδειγμα, είχαμε το αντι-εμβολιαστικό κίνημα, εκεί μπορείς εύκολα να εφεύρεις περιστατικά, ειδικούς και έρευνες – κι έχουμε μάθει ότι το κοινό όταν βλέπει 2-3 στοιχεία που φαίνονται πειστικά, δηλαδή ο τάδε καθηγητής είπε εκείνο, η τάδε μάνα έχασε το παιδί της, αμέσως το καταπίνει αμάσητο.

Υπάρχει τρόπος να το αντιμετωπίσετε;
Μας διέπει ο νόμος του Μπραντολίνι, δηλαδή θέλουμε δεκαπλάσια προσπάθεια για να καταρρίψουμε μια ανοησία που κυκλοφορεί, από να τη φτιάξουμε. Με την ΑΙ θα χρειαστεί χιλιαπλάσια. Θα φτιάχνεται τόσο γρήγορα μια αληθοφανής πληροφορία, που εμείς ως ελεγκτές αν δεν έχουμε αντίστοιχα εργαλεία με ΑΙ δεν θα τους προλαβαίνουμε με τίποτα.

Μπορούμε να κάνουμε πρόβλεψη για το μέλλον;
Το τι θα γίνει στο μέλλον είναι αρκετά απρόβλεπτο. Βλέπουμε ότι στο Χ (πρώην Twitter) ο Μασκ έχει δώσει ελεύθερο πεδίο σε τέτοιες απάτες, μπορεί κανείς να φτιάξει 100 bots και να διασπείρει ό,τι του κατέβει με αληθοφανή τρόπο. Το Facebook είναι προς στιγμή ο ηγέτης στον έλεγχο, το X είναι ξέφραγο αμπέλι.

Ποια είναι τα όπλα σας στην εποχή της ΑΙ;
Το πιο απλό είναι η αναζήτηση της Google - ένα πανίσχυρο ΑΙ, που παραμένει παλιάς λογικής αλλά το ότι σκανάρει 1 τρις αρχεία και σου δίνει στην κορυφή αυτά που δεν ενδιαφέρουν είναι τρομερό. Έχεις πιο εκσυγχρονισμένα εργαλεία, όπως το Lens, που παίρνει μια εικόνα, την κοιτάει νοηματικά και σου λέει από πού προήλθε. Υπάρχουν εργαλεία πειραματικά, μας έχει δώσει η Google ένα αντίστοιχο για να βλέπουμε όλο το ιστορικό μιας φωτογραφίας. Στην GenAI, το ChatGPT στην Plus μορφή του, ξέροντας τους περιορισμούς του, μπορεί να σε βοηθήσει πολύ, να σε κατευθύνει σε διάφορα βήματα, είναι σαν να έχεις έναν ειδικό δίπλα σου και σε βοηθά να ψάξεις.