Ισπανία κατά Big Tech για deepfake κακοποίησης ανηλίκων — στο στόχαστρο X, Meta και TikTok

Η ισπανική κυβέρνηση θα ζητήσει από την εισαγγελία να διερευνήσει τις εταιρείες κοινωνικών δικτύων X, Meta και TikTok για πιθανή τέλεση ποινικών αδικημάτων, λόγω της φερόμενης δυνατότητας των συστημάτων τεχνητής νοημοσύνης τους να παράγουν και να διαδίδουν υλικό σεξουαλικής κακοποίησης ανηλίκων. Ο πρωθυπουργός Πέδρο Σάντσεθ δήλωσε ότι η απόφαση ελήφθη για την προστασία «της ψυχικής υγείας, της αξιοπρέπειας και των δικαιωμάτων των παιδιών μας» και για να τερματιστεί η «ατιμωρησία» των μεγάλων πλατφορμών.

Η ενέργεια βασίζεται σε έκθεση ειδικών που εξέτασε την πιθανή ποινική ευθύνη στην Ισπανία για ολοένα διαδεδομένες ψηφιακές πρακτικές, όπως δημιουργία και διακίνηση σεξουαλικού περιεχομένου μέσω deepfakes ή χειραγώγησης πραγματικών εικόνων ώστε να εμφανίζονται με ρητό σεξουαλικό χαρακτήρα. Η έκθεση επισημαίνει ότι οι πλατφόρμες ενδέχεται να εμπλέκονται επειδή επιτρέπουν «μαζική διάδοση με ταχύτητα και αδιαφάνεια που δυσχεραίνει τον εντοπισμό και τη δίωξη», ενώ διευκολύνουν τη δημιουργία δικτύων παραγωγής, διαμοιρασμού και εμπορικής εκμετάλλευσης του υλικού.

Νέα μέτρα στην Ισπανία: απαγόρευση κάτω των 16 και ευθύνη πλατφορμών

Η απόφαση του υπουργικού συμβουλίου ανακοινώθηκε ενόψει πακέτου μέτρων που περιλαμβάνει απαγόρευση χρήσης κοινωνικών δικτύων για ανηλίκους κάτω των 16 ετών και νομοθεσία που θα καθιστά τις εταιρείες υπεύθυνες για επιβλαβές και μισαλλόδοξο περιεχόμενο. Παράλληλα, η Ευρωπαϊκή Επιτροπή ξεκίνησε πρόσφατα έρευνα για την πλατφόρμα X σχετικά με τη δημιουργία σεξουαλικών εικόνων και πιθανή διάδοση υλικού παιδικής κακοποίησης από το chatbot Grok.

Η ιρλανδική Αρχή Προστασίας Δεδομένων ανακοίνωσε ότι η «ευρείας κλίμακας» έρευνα επικεντρώνεται στη λειτουργία γενετικής τεχνητής νοημοσύνης του μοντέλου Grok και στο κατά πόσο χρήστες μπορούσαν να παράγουν σεξουαλικοποιημένες εικόνες πραγματικών προσώπων — ακόμη και παιδιών. Στόχος είναι να διαπιστωθεί αν η εταιρεία συμμορφώθηκε με τις υποχρεώσεις του GDPR ως προς την επεξεργασία προσωπικών δεδομένων Ευρωπαίων πολιτών.

Σκληρή σύγκρουση με τεχνολογικούς κολοσσούς

Η εκπρόσωπος της κυβέρνησης Έλμα Σάιθ δήλωσε ότι η Μαδρίτη δεν θα επιτρέψει η ψηφιακή σεξουαλική βία κατά παιδιών να «ενισχύεται ή να προστατεύεται από αλγορίθμους» και ότι θα ζητηθεί από τον γενικό εισαγγελέα να ασκήσει διώξεις όπου υπάρχουν παραβάσεις. Η Meta ανέφερε ότι δεν μπορεί να σχολιάσει χωρίς λεπτομέρειες αλλά ότι αφαιρεί κάθε τέτοιο περιεχόμενο όταν εντοπίζεται. Η X και το TikTok δεν απάντησαν άμεσα.

Οι πρωτοβουλίες Σάντσεθ προκάλεσαν έντονες αντιδράσεις από ιδιοκτήτες μεγάλων τεχνολογικών εταιρειών. Ο ίδιος έχει χαρακτηρίσει τα κοινωνικά δίκτυα «ψηφιακή Άγρια Δύση» και «αποτυχημένο κράτος όπου αγνοούνται οι νόμοι». Ο Έλον Μασκ τον αποκάλεσε «τύραννο» και «φασίστα», ενώ ο συνιδρυτής του Telegram Πάβελ Ντούροφ έστειλε μήνυμα σε όλους τους χρήστες στην Ισπανία κατηγορώντας την κυβέρνηση ότι προωθεί επικίνδυνους κανονισμούς που απειλούν την ελευθερία στο διαδίκτυο.

Κυβερνητικές πηγές απάντησαν ότι τέτοιες ενέργειες αποδεικνύουν την ανάγκη ρύθμισης των πλατφορμών και προστασίας των ανηλίκων. Η ανησυχία για τις επιπτώσεις των κοινωνικών δικτύων οδηγεί όλο και περισσότερες χώρες — μεταξύ τους Βρετανία, Ελλάδα και Γαλλία — σε αυστηρότερη νομοθεσία, ενώ η Αυστραλία ήδη απαγόρευσε τη χρήση τους σε παιδιά κάτω των 16 ετών.