Ιταλία: Καταγγελίες κατά Σαλβίνι για δημιουργία ψεύτικων εικόνων μέσω AI

Τα κόμματα της αντιπολίτευσης στην Ιταλία προχώργησαν σε καταγγελία στην υπηρεσία παρακολούθησης επικοινωνιών για μια σειρά από εικόνες που δημιουργήθηκαν με τεχνητή νοημοσύνη και δημοσιεύθηκαν στα μέσα κοινωνικής δικτύωσης από το ακροδεξιό κόμμα του αντιπροέδρου της κυβέρνησης Ματέο Σαλβίνι, χαρακτηρίζοντάς τες ως «ρατσιστικές, ισλαμοφοβικές και ξενοφοβικές».

Όπως αναφέρει ο Guardian, το κεντροαριστερό Δημοκρατικό Κόμμα (PD), μαζί με τους Πράσινους και την Αριστερή Συμμαχία της Ιταλίας κατέθεσε καταγγελία την Πέμπτη στην Agcom, την ιταλική ρυθμιστική αρχή επικοινωνιών, υποστηρίζοντας ότι οι ψεύτικες εικόνες που χρησιμοποίησε το ακροδεξιό κόμμα περιείχαν «σχεδόν όλες τις κατηγορίες ρητορικής μίσους».

Τον τελευταίο μήνα, δεκάδες φωτογραφίες που προφανώς δημιουργήθηκαν από τεχνητή νοημοσύνη εμφανίστηκαν στα κοινωνικά δίκτυα της Λέγκας, μεταξύ άλλων στο Facebook, το Instagram και το X. Οι εικόνες απεικονίζουν μαύρους άνδρες, συχνά οπλισμένους με μαχαίρια, να επιτίθενται σε γυναίκες ή αστυνομικούς.

Ο Antonio Nicita, γερουσιαστής του PD, δήλωσε: «Η Λέγκα είναι μια από τις μεγαλύτερες και πιο σημαντικές οργανώσεις που έχουν σχέση με την πολιτική της: «Στις εικόνες που δημοσιεύονται από το κόμμα του Σαλβίνι και παράγονται από την AI υπάρχουν σχεδόν όλες οι κατηγορίες ρητορικής μίσους, από τον ρατσισμό και την ξενοφοβία έως την ισλαμοφοβία.

«Χρησιμοποιούν την τεχνητή νοημοσύνη για να στοχεύσουν συγκεκριμένες κατηγορίες ανθρώπων -μετανάστες, Άραβες- οι οποίοι παρουσιάζονται ως εν δυνάμει εγκληματίες, κλέφτες και βιαστές.

«Αυτές οι εικόνες δεν είναι μόνο βίαιες αλλά και παραπλανητικές: με το να θολώνουν τα πρόσωπα των θυμάτων είναι σαν να θέλουν να προστατεύσουν την ταυτότητα του ατόμου στο οποίο επιτέθηκαν, παραπλανώντας τους χρήστες που πιστεύουν ότι η φωτογραφία είναι πραγματική. Πρόκειται για εικόνες που υποκινούν το μίσος».

«Αυτό είναι σοβαρό», δήλωσε ο Francesco Emilio Borrelli, βουλευτής των Πρασίνων και της Αριστερής Συμμαχίας. «Η τεχνητή νοημοσύνη παράγει περιεχόμενο με βάση τις οδηγίες μας, και σε αυτή την περίπτωση είχε σαφείς οδηγίες να δημιουργήσει εικόνες με μαύρους να ληστεύουν μια ηλικιωμένη γυναίκα ή μια φοβισμένη γυναίκα. Είναι μέρος της στρατηγικής τους να δημιουργήσουν φόβο στους πολίτες».

Η απάντηση της Λέγκας για τη ρητορική μίσους που ασκεί: Το θέμα δεν είναι η εικόνα. Το θέμα είναι το γεγονός

Εκπρόσωπος του κόμματος του Σαλβίνι επιβεβαίωσε ότι «ορισμένες από τις εικόνες» που εμφανίζονται στα κανάλια τους στα μέσα κοινωνικής δικτύωσης είχαν «παραχθεί ψηφιακά».

Σε ανακοίνωσή του ανέφερε: «Το κόμμα του Σαλβαδόρ, το οποίο είναι μέλος του κόμματος του Σαλβαδόρ, δεν έχει καμία σχέση με την πολιτική του, αλλά με την πολιτική του: «Το θέμα δεν είναι η εικόνα. Το θέμα είναι το γεγονός. Κάθε ανάρτηση βασίζεται σε αληθινά ρεπορτάζ από ιταλικές εφημερίδες, με ονόματα, ημερομηνίες και τόπους.

«Αν η πραγματικότητα φαίνεται πολύ σκληρή, μην κατηγορείτε αυτούς που την αναφέρουν, αλλά αυτούς που την κάνουν έτσι. Αν πρόκειται για ένα έγκλημα, είναι δύσκολο να συνοδεύσεις την είδηση με χαρούμενες ή καθησυχαστικές εικόνες».

Ο Salvatore Romano, επικεφαλής της έρευνας στη μη κερδοσκοπική οργάνωση AI Forensics, δήλωσε ότι οι εικόνες της Λέγκας έφεραν «όλα τα χαρακτηριστικά της τεχνητής νοημοσύνης».

«Πρόκειται για φωτογραφίες εκτός πλαισίου στις οποίες το θέμα βρίσκεται σε πρώτο πλάνο και τα υπόλοιπα είναι εντελώς θολά. Αυτό που με ανησυχεί είναι ότι αυτές οι εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη γίνονται όλο και πιο ρεαλιστικές».

Η καταγγελία προς την Agcom παραθέτει αρκετά παραδείγματα εικόνων που θεωρείται ότι έχουν παραχθεί ψηφιακά, λέγοντας ότι έχουν εμφανιστεί μαζί με την επωνυμία έγκριτων mainstream μέσων ενημέρωσης, τα οποία έχουν αναφερθεί στα εγκλήματα που αναφέρονται, αλλά δεν έχουν χρησιμοποιήσει εικόνες των φερόμενων ως δραστών.

Σε μία περίπτωση, η ανάρτηση του Συνδέσμου αναφέρει: «Ένας αλλοδαπός επιτίθεται στον ελεγκτή του τρένου» και συνδυάζει το κείμενο με την εικόνα ενός μαύρου άνδρα με υψωμένη γροθιά.

Ο αρχικός τίτλος της εφημερίδας Il Resto del Carlino έχει ως εξής: «Επιτίθεται στη [γυναίκα] εισπράκτορα του τρένου και προκαλεί πανικό στο τρένο». Το άρθρο δεν κάνει καμία αναφορά στην εθνικότητα του υπόπτου πέρα από το να τον αποκαλεί «αλλοδαπό». Δεν υπήρχε φωτογραφία της υποτιθέμενης επίθεσης.

Μια άλλη εικόνα που παρουσιάζεται στην καταγγελία δείχνει μια μητέρα και έναν πατέρα με ισλαμική ενδυμασία να εμφανίζονται να φωνάζουν θυμωμένοι σε ένα κορίτσι, «τροφοδοτώντας έτσι τις φυλετικές και ισλαμοφοβικές προκαταλήψεις».

Η Il Giorno, η εφημερίδα που επικαλείται, δεν κάνει καμία αναφορά στο ρεπορτάζ της στη θρησκεία ούτε της οικογένειας ούτε του κοριτσιού που φέρεται να κακοποιήθηκε από τους γονείς του, πέρα από το να αναφέρει ότι το παιδί είχε φοιτήσει σε σχολείο αραβικής γλώσσας. Δεν υπήρχε φωτογραφία της οικογένειας.

ΑI: Τι συμβαίνει όταν χρησιμοποιείται για προπαγάνδα;

Η χρήση εικόνων που δημιουργούνται με τεχνητή νοημοσύνη για προπαγάνδα από ακροδεξιά κόμματα είναι ένα αυξανόμενο φαινόμενο που μπήκε στην επικρατούσα τάση γύρω από τις περσινές ευρωεκλογές, όταν άρχισαν να κυκλοφορούν στα μέσα κοινωνικής δικτύωσης εικόνες σχεδιασμένες να υποδαυλίζουν τους φόβους για τη μετανάστευση ή να δαιμονοποιούν ηγέτες όπως ο Εμανουέλ Μακρόν.

«Στη συνέχεια ήρθαν οι αμερικανικές εκλογές με τον Ντόναλντ Τραμπ και τον Έλον Μασκ, οι οποίοι ουσιαστικά εξομάλυναν αυτή την τάση», δήλωσε ο Ρομάνο.

«Σήμερα βλέπουμε ότι τα ακροδεξιά κόμματα όχι μόνο συνέχισαν να δημιουργούν ψεύτικες εικόνες για προπαγάνδα, αλλά και αύξησαν τη χρήση τους σε μια εποχή που τα εργαλεία τεχνητής νοημοσύνης έχουν βελτιώσει την ποιότητα του περιεχομένου, καθιστώντας το φαινόμενο ακόμη πιο ανησυχητικό».

Παρά το γεγονός ότι οι κοινωνικές πλατφόρμες είναι υποχρεωμένες να λαμβάνουν μέτρα για την πρόβλεψη αυτών των κινδύνων - για παράδειγμα προσθέτοντας μια ετικέτα που διευκρινίζει ότι μια εικόνα έχει παραχθεί από τεχνητή νοημοσύνη - ο Romano λέει ότι, στην πράξη, αυτός ο μηχανισμός είναι σχεδόν πάντα αναποτελεσματικός.

Ερωτηθείς αν η Λέγκα γνώριζε ότι οι εικόνες θα μπορούσαν να δημιουργήσουν ρητορική μίσους, εκπρόσωπος του κόμματος του Σαλβίνι δήλωσε: «Λυπούμαστε, αλλά η αλληλεγγύη μας είναι προς τα θύματα, όχι προς τους δράστες.

«Αν η καταγγελία εγκλημάτων που διαπράττονται από αλλοδαπούς σημαίνει «ξενοφοβία», ίσως το πρόβλημα δεν είναι η λέξη αλλά εκείνοι που τη χρησιμοποιούν για να λογοκρίνουν τη συζήτηση. Εμείς θα συνεχίσουμε να καταγγέλλουμε, με ισχυρές λέξεις και εικόνες, αυτό που άλλοι προτιμούν να αγνοούν».

Εάν η Agcom κρίνει ότι το περιεχόμενο που επισημαίνεται είναι προσβλητικό, μπορεί, σύμφωνα με τον νόμο της ΕΕ για τις ψηφιακές υπηρεσίες, να διατάξει την αφαίρεση αναρτήσεων, τη διαγραφή λογαριασμών και την επιβολή προστίμου στις πλατφόρμες κοινωνικής δικτύωσης για την αποτυχία της αστυνόμευσης της συμπεριφοράς των χρηστών.

Το 2023, η Agcom επέβαλε πρόστιμο 5,85 εκατ. ευρώ (5 εκατ. λίρες) στη Meta και διέταξε την αφαίρεση δεκάδων λογαριασμών για παραβίαση της απαγόρευσης της διαφήμισης τυχερών παιχνιδιών.

Ένας εκπρόσωπος της X δήλωσε: «Η Meta δεν έχει καμία σχέση με την εταιρεία, αλλά με την εταιρεία, η οποία είναι η μόνη που έχει σχέση με την Meta: «Δεν έχουμε καμία νομική υποχρέωση να επισημάνουμε κάθε εικόνα που δημιουργείται με τεχνητή νοημοσύνη. Είναι αρκετά ξεκάθαρο ότι αυτές οι αναρτήσεις είναι απλές πολιτικολογίες.

«Να είστε σίγουροι, πιστεύουμε ότι είναι κρίσιμο να διατηρηθεί η αυθεντικότητα της συζήτησης στο X και φροντίζουμε να είμαστε καλά εξοπλισμένοι για να καταπολεμήσουμε κάθε χειραγωγημένο μέσο - συμπεριλαμβανομένης της αυξανόμενης τάσης των «deepfakes» - και να βάζουμε ορατές ετικέτες σε κάθε τέτοιο περιεχόμενο που έχει διαψευστεί από αξιόπιστη πηγή».

Διακυβεύονται πολλά

Ο ισχυρότερος άνθρωπος στον κόσμο χρησιμοποιεί το αξίωμά του για να τιμωρήσει δημοσιογραφικούς οργανισμούς που δεν θα ακολουθήσουν τις εντολές του ή που αναφέρονται κριτικά στις πολιτικές του. Οι ενέργειες του Ντόναλντ Τραμπ κατά του Τύπου περιλαμβάνουν απαγορεύσεις, αγωγές και χειροκίνητη επιλογή της δικής του ομάδας δημοσιογράφων.

Αλλά η παγκόσμια απειλή κατά του Τύπου είναι μεγαλύτερη από τον Τραμπ.

Αυταρχικές δυνάμεις σε όλο τον κόσμο αμφισβητούν την ικανότητα των δημοσιογράφων να κάνουν ρεπορτάζ. Ένας ανεξάρτητος Τύπος, τον οποίο οι εξουσιαστές δεν μπορούν απλώς να παρακάμψουν, είναι ζωτικής σημασίας για τη δημοκρατία.

Φιγούρες όπως ο Τραμπ και ο Βίκτορ Όρμπαν της Ουγγαρίας θέλουν να τον συντρίψουν μέσω του αποκλεισμού και της επιρροής.

 Πηγή: Guardian