«Γιατροί-μαϊμού» τεχνητής νοημοσύνης προωθούν ψεύτικες θεραπείες στα social media
Το TikTok και άλλες πλατφόρμες κοινωνικής δικτύωσης φιλοξενούν βίντεο deepfake που έχουν δημιουργηθεί με τεχνητή νοημοσύνη, τα οποία δείχνουν γιατρούς των οποίων τα λόγια έχουν παραποιηθεί για να προωθήσουν συμπληρώματα και να διαδώσουν παραπληροφόρηση σχετικά με την υγεία.
Η οργάνωση ελέγχου γεγονότων Full Fact εντόπισε εκατοντάδες τέτοια βίντεο με παραποιημένες εκδοχές γιατρών και influencers, που κατευθύνουν τους θεατές στην εταιρεία συμπληρωμάτων με έδρα τις ΗΠΑ, Wellness Nest.
Όλα τα deepfake χρησιμοποιούν πραγματικό υλικό από έναν ειδικό υγείας που έχει ληφθεί από το διαδίκτυο. Ωστόσο, οι εικόνες και ο ήχος έχουν επεξεργαστεί ώστε οι ομιλητές να ενθαρρύνουν γυναίκες που βρίσκονται στην εμμηνόπαυση να αγοράσουν προϊόντα όπως προβιοτικά και Himalayan shilajit από τον ιστότοπο της εταιρείας.
«Αυτή είναι σίγουρα μια σκοτεινή και ανησυχητική νέα τακτική», δήλωσε ο Leo Benedictus, ο factchecker που πραγματοποίησε την έρευνα, την οποία η Full Fact δημοσίευσε την Παρασκευή.
Ο καθηγητής David Taylor-Robinson, ειδικός στις ανισότητες υγείας στο Πανεπιστήμιο του Λίβερπουλ, είναι ένας από εκείνους των οποίων η εικόνα έχει παραποιηθεί. Τον Αύγουστο σοκαρισμένος ανακάλυψε ότι το TikTok φιλοξενούσε 14 επεξεργασμένα βίντεο που φαινομενικά τον έδειχναν να συνιστά προϊόντα με αμφισβητήσιμα οφέλη.
Αν και ο Taylor-Robinson είναι ειδικός στην υγεία των παιδιών, σε ένα βίντεο η κλωνοποιημένη εκδοχή του μιλούσε για ένα υποτιθέμενο παρενέργεια της εμμηνόπαυσης που ονομάζεται «thermometer leg».
Ο ψεύτικος Taylor-Robinson συνέστησε στις γυναίκες στην εμμηνόπαυση να επισκεφθούν τον ιστότοπο Wellness Nest και να αγοράσουν ένα «φυσικό προβιοτικό» με «10 φυτικά εκχυλίσματα τεκμηριωμένα επιστημονικά, όπως κουρκουμά, black cohosh, DIM [διινδολυλμεθάνιο] και moringa, ειδικά επιλεγμένα για την αντιμετώπιση των συμπτωμάτων της εμμηνόπαυσης».
«Οι γυναίκες συνάδελφοί μου συχνά αναφέρουν πιο βαθύ ύπνο, λιγότερες εξάψεις και πιο φωτεινά πρωινά μέσα σε λίγες εβδομάδες», πρόσθεσε ο deepfake γιατρός.
Ο πραγματικός Taylor-Robinson ανακάλυψε ότι η εικόνα του χρησιμοποιούνταν μόνο όταν τον ενημέρωσε ένας συνάδελφος. «Στην αρχή ήταν πολύ συγκεχυμένο – όλα αρκετά σουρεαλιστικά», είπε. «Τα παιδιά μου το βρήκαν απίστευτα αστείο.
«Δεν ένιωσα ότι παραβιάστηκα σοβαρά, αλλά ενοχλήθηκα όλο και περισσότερο στην ιδέα ότι άνθρωποι πωλούσαν προϊόντα βασισμένοι στη δουλειά μου και στην παραπληροφόρηση για την υγεία που εμπλέκεται».
Το υλικό του Taylor-Robinson που χρησιμοποιήθηκε για τα βίντεο deepfake προέρχεται από ομιλία του για τον εμβολιασμό σε συνέδριο της Public Health England (PHE) το 2017 και από κοινοβουλευτική ακρόαση για τη φτώχεια των παιδιών στην οποία κατέθεσε τον Μάιο φέτος. Σε ένα παραπλανητικό βίντεο, εμφανιζόταν να βρίζει και να κάνει μισογυνιστικά σχόλια ενώ συζητούσε για την εμμηνόπαυση.
Το TikTok κατέβασε τα βίντεο έξι εβδομάδες μετά την καταγγελία του Taylor-Robinson. «Αρχικά, είπαν ότι μερικά από τα βίντεο παραβίαζαν τις οδηγίες τους αλλά κάποια ήταν εντάξει. Αυτό ήταν παράλογο – και περίεργο – γιατί ήμουν σε όλα και ήταν όλα deepfakes. Ήταν μπελάς να τα κατεβάσουν», είπε.
Η Full Fact βρήκε επίσης ότι το TikTok φιλοξενούσε οκτώ ακόμη deepfakes με παραποιημένες δηλώσεις του Duncan Selbie, πρώην διευθύνοντος συμβούλου της PHE. Όπως και ο Taylor-Robinson, εμφανιζόταν ψευδώς να μιλά για την εμμηνόπαυση, χρησιμοποιώντας βίντεο από την ίδια εκδήλωση του 2017 όπου μίλησε ο Taylor-Robinson.
Ένα, επίσης για το «thermometer leg», ήταν «μια εκπληκτική μίμηση», είπε ο Selbie. «Είναι εντελώς ψεύτικο από την αρχή ως το τέλος. Δεν ήταν αστείο με την έννοια ότι οι άνθρωποι το προσέχουν».
Η Full Fact εντόπισε παρόμοια deepfakes στο X, Facebook και YouTube, όλα συνδεδεμένα με την Wellness Nest ή με ένα συνδεδεμένο βρετανικό υποκατάστημα, Wellness Nest UK. Έχουν αναρτηθεί φερόμενα deepfakes κορυφαίων γιατρών όπως ο Prof Tim Spector και άλλων ειδικών διατροφής, όπως ο αείμνηστος Dr Michael Mosley.
Η εταιρεία Wellness Nest δήλωσε στην Full Fact ότι τα βίντεο deepfake που ενθαρρύνουν τους ανθρώπους να επισκεφθούν τον ιστότοπό της είναι «100% ανεξάρτητα» από την επιχείρησή της. Είπε ότι «ποτέ δεν χρησιμοποίησε περιεχόμενο που δημιουργήθηκε με AI», αλλά «δεν μπορεί να ελέγχει ή να παρακολουθεί τους συνεργάτες της σε όλο τον κόσμο».
Η Helen Morgan, εκπρόσωπος υγείας των Liberal Democrats, δήλωσε: «Από ψεύτικους γιατρούς μέχρι bots που ενθαρρύνουν την αυτοκτονία, η AI χρησιμοποιείται για να εκμεταλλεύεται αθώους ανθρώπους και τα κενά στο σύστημα υγείας μας.
«Οι Liberal Democrats ζητούν τα AI deepfakes που εμφανίζονται ως ιατρικοί επαγγελματίες να εξαλειφθούν, με τη χρήση κλινικά εγκεκριμένων εργαλείων ώστε να καλυφθεί το κενό.
«Αν αυτοί ήταν άνθρωποι που ψευδώς προσποιούνται ότι είναι γιατροί, θα αντιμετώπιζαν ποινική δίωξη. Γιατί το ψηφιακό ισοδύναμο να γίνεται ανεκτό;
«Όταν κάποιος αναζητά συμβουλές υγείας από AI bot, θα πρέπει αυτόματα να παραπέμπεται σε υποστήριξη του NHS ώστε να λάβει τη διάγνωση και τη θεραπεία που χρειάζεται πραγματικά, με ποινική ευθύνη για όσους κερδίζουν από την ιατρική παραπληροφόρηση».
Ένας εκπρόσωπος του TikTok δήλωσε: «Έχουμε αφαιρέσει αυτό το περιεχόμενο [σχετικά με τους Taylor-Robinson και Selbie] για παραβίαση των κανόνων μας κατά της επιβλαβούς παραπληροφόρησης και συμπεριφορών που προσπαθούν να παραπλανήσουν την κοινότητά μας, όπως η μίμηση.
«Το επιβλαβώς παραπλανητικό περιεχόμενο που δημιουργείται με AI είναι πρόκληση για ολόκληρο τον κλάδο, και συνεχίζουμε να επενδύουμε σε νέους τρόπους για να εντοπίζουμε και να αφαιρούμε περιεχόμενο που παραβιάζει τις οδηγίες της κοινότητάς μας».
Το Υπουργείο Υγείας και Κοινωνικής Μέριμνας προσεγγίστηκε για σχόλιο.
17°
