Ποιες είναι οι εφαρμογές «nudify» που τροφοδοτούν ένα θανατηφόρο κύμα ψηφιακής εκβίασης
Αφού ένας έφηβος από το Κεντάκι αυτοκτόνησε φέτος, οι γονείς του ανακάλυψαν ότι είχε λάβει απειλητικά μηνύματα που απαιτούσαν 3.000 δολάρια για να καταργηθεί μια γυμνή φωτογραφία του που είχε δημιουργηθεί με τεχνητή νοημοσύνη.
Η τραγωδία υπογραμμίζει την αύξηση των λεγόμενων «σεξουαλικών εκβιασμών» που στοχεύουν παιδιά σε όλο τον κόσμο, ιδίως με την ταχεία εξάπλωση των εφαρμογών «nudify» — εργαλείων τεχνητής νοημοσύνης που απογυμνώνουν ψηφιακά ή δημιουργούν σεξουαλικές εικόνες.
Ο 16χρονος Elijah Heacock ήταν μόνο ένας από τους χιλιάδες Αμερικανούς ανηλίκους που έπεσαν θύματα τέτοιου είδους ψηφιακής εκβίασης, η οποία έχει προκαλέσει εκκλήσεις για περισσότερη δράση από τις τεχνολογικές πλατφόρμες και τις ρυθμιστικές αρχές.
Οι γονείς του δήλωσαν στα αμερικανικά μέσα ενημέρωσης ότι τα μηνύματα κειμένου του διέταζαν να πληρώσει, αλλιώς μια γυμνή φωτογραφία του, που προφανώς είχε δημιουργηθεί με τεχνητή νοημοσύνη, θα σταλεί στην οικογένεια και τους φίλους του.
«Οι άνθρωποι που κυνηγούν τα παιδιά μας είναι καλά οργανωμένοι», δήλωσε ο John Burnett, ο πατέρας του αγοριού, σε συνέντευξη στο CBS News. «Έχουν καλή χρηματοδότηση και είναι αδυσώπητοι. Δεν χρειάζονται οι φωτογραφίες να είναι αληθινές, μπορούν να δημιουργήσουν ό,τι θέλουν και μετά να το χρησιμοποιήσουν για να εκβιάσουν το παιδί».
Οι αμερικανικές αρχές ερευνούν την υπόθεση, η οποία έρχεται σε μια περίοδο που οι εφαρμογές που δημιουργούν γυμνές φωτογραφίες – οι οποίες έγιναν δημοφιλείς στοχεύοντας διασημότητες – χρησιμοποιούνται όλο και περισσότερο ως όπλο κατά των παιδιών.
Το FBI έχει αναφερθεί σε «τρομακτική αύξηση» των περιπτώσεων σεξουαλικής εκβίασης που στοχεύουν ανηλίκους στις ΗΠΑ, με τα θύματα να είναι συνήθως αγόρια ηλικίας 14 έως 17 ετών. Η απειλή έχει οδηγήσει σε «ανησυχητικό αριθμό αυτοκτονιών», προειδοποίησε η υπηρεσία.
Σε μια πρόσφατη έρευνα, η Thorn, μια μη κερδοσκοπική οργάνωση που ασχολείται με την πρόληψη της εκμετάλλευσης παιδιών στο διαδίκτυο, διαπίστωσε ότι το 6% των Αμερικανών εφήβων έχουν πέσει θύματα deepfake γυμνών φωτογραφιών.
«Οι αναφορές για πλαστά και deepfake πορνογραφικά υλικά —πολλά από τα οποία δημιουργούνται χρησιμοποιώντας αυτές τις υπηρεσίες «απογύμνωσης»— φαίνεται να συνδέονται στενά με αναφορές για οικονομική σεξουαλική εκβίαση ή εκβιασμό με σεξουαλικά άσεμνες εικόνες», ανέφερε η βρετανική οργάνωση Internet Watch Foundation (IWF) σε έκθεση που δημοσίευσε πέρυσι.
Η IWF εντόπισε έναν «οδηγό για παιδεραστές» που αναπτύχθηκε από δράστες και ενθάρρυνε ρητά τους δράστες να χρησιμοποιούν εργαλεία απογύμνοσης για να δημιουργήσουν υλικό με σκοπό τον εκβιασμό παιδιών. Ο συγγραφέας του οδηγού ισχυρίστηκε ότι είχε εκβιάσει με επιτυχία περίπου 13 κορίτσια.
Μια νέα ανάλυση 85 ιστότοπων που πωλούν υπηρεσίες γυμνοποίησης διαπίστωσε ότι η συνολική αξία τους μπορεί να φτάσει τα 36 εκατομμύρια δολάρια ετησίως.
Η ανάλυση της Indicator, μιας αμερικανικής έκδοσης που ερευνά την ψηφιακή εξαπάτηση, εκτιμά ότι 18 από τους ιστότοπους κέρδισαν μεταξύ 2,6 και 18,4 εκατομμύρια δολάρια κατά τη διάρκεια των έξι μηνών έως τον Μάιο.
Οι περισσότεροι από τους ιστότοπους βασίζονται σε τεχνολογική υποδομή της Google, της Amazon και της Cloudflare για να λειτουργούν και παραμένουν κερδοφόροι παρά τις αυστηρές μέτρα που έχουν λάβει οι πλατφόρμες και οι ρυθμιστικές αρχές, σύμφωνα με την Indicator.
Η εξάπλωση των εργαλείων τεχνητής νοημοσύνης έχει οδηγήσει σε νέες μορφές κακοποίησης που επηρεάζουν τα παιδιά, συμπεριλαμβανομένων σκανδάλων πορνογραφίας σε πανεπιστήμια και σχολεία σε όλο τον κόσμο, όπου έφηβοι δημιούργησαν σεξουαλικές εικόνες των συμμαθητών τους.
Μια πρόσφατη έρευνα της Save the Children διαπίστωσε ότι ένας στους πέντε νέους στην Ισπανία έχει πέσει θύμα deepfake γυμνών εικόνων, οι οποίες μοιράστηκαν στο διαδίκτυο χωρίς τη συγκατάθεσή τους.
9°
