Μελέτη: Το Instagram προωθεί ενεργά τη διάδοση αυτοτραυματισμών μεταξύ των εφήβων

Η Meta βοηθά ενεργά στη διάδοση του περιεχομένου αυτοτραυματισμού στο Instagram, καθώς αδυνατεί να αφαιρέσει τις σχετικές εικόνες και ενθαρρύνει όσους ασχολούνται με τέτοιο περιεχόμενο να γίνονται φίλοι μεταξύ τους, σύμφωνα με μια νέα μελέτη, η οποία διαπίστωσε ότι ο έλεγχος της εταιρίας είναι «εξαιρετικά ανεπαρκής».

Δανοί ερευνητές δημιούργησαν ένα ιδιωτικό δίκτυο αυτοτραυματισμού στο Instagram που περιλάμβανε ψεύτικα προφίλ ατόμων ηλικίας μόλις 13 ετών, στο οποίο μοιράστηκαν 85 δείγματα περιεχομένου που σχετιζόταν με τον αυτοτραυματισμό και αυξανόταν σταδιακά σε σοβαρότητα, παρουσιάζοντας εικόνες με αίμα, ξυραφάκια και ενθάρρυνση για αυτοτραυματισμό.

Το Instagram προωθεί εφηβικά δίκτυα αυτοτραυματισμού σύμφωνα με έρευνα

Στόχος της μελέτης ήταν να ελεγχθεί ο ισχυρισμός της Meta ότι είχε βελτιώσει σημαντικά τις διαδικασίες της για την αφαίρεση του επιβλαβούς περιεχομένου, οι οποίες, όπως λέει, χρησιμοποιούν πλέον τεχνητή νοημοσύνη. Ο τεχνολογικός κολοσσός ισχυρίζεται ότι αφαιρεί περίπου το 99% του επιβλαβούς περιεχομένου πριν αυτό αναφερθεί.

Όμως η Digitalt Ansvar (Ψηφιακή Λογοδοσία), μια οργάνωση που προωθεί την υπεύθυνη ψηφιακή ανάπτυξη, διαπίστωσε ότι κατά τη διάρκεια του πειράματος που διήρκεσε ένα μήνα δεν αφαιρέθηκε ούτε μία εικόνα.

Ο νόμος της ΕΕ για τις ψηφιακές υπηρεσίες απαιτεί από τις μεγάλες εταιρίες να εντοπίζουν τους συστημικούς κινδύνους, συμπεριλαμβανομένων των αρνητικών συνεπειών στη σωματική και ψυχική ευεξία © Envato/Jose Calsina

Όταν δημιούργησε το δικό της απλό εργαλείο τεχνητής νοημοσύνης για την ανάλυση του περιεχομένου, μπόρεσε να εντοπίσει αυτόματα το 38% των εικόνων αυτοτραυματισμού και το 88% των πιο σοβαρών. Αυτό, δήλωσε η εταιρεία, έδειξε ότι το Instagram είχε πρόσβαση σε τεχνολογία ικανή να αντιμετωπίσει το ζήτημα, αλλά «επέλεξε να μην την εφαρμόσει αποτελεσματικά».

Σχετικό Άρθρο

Τεχνολογια - Επιστημη Να τι είναι καλύτερο από τα σόσιαλ μίντια

Κυριάκος Αθανασιάδης 28.11.2024, 08:56

Η Meta δεν συμμορφώνεται με τη νομοθεσία της ΕΕ

Ο ανεπαρκής συντονισμός της πλατφόρμας, δήλωσε η Digitalt Ansvar, υποδηλώνει ότι δεν συμμορφώνεται με τη νομοθεσία της ΕΕ.

Ο νόμος για τις ψηφιακές υπηρεσίες απαιτεί από τις μεγάλες εταιρίες να εντοπίζουν τους συστημικούς κινδύνους, συμπεριλαμβανομένων των προβλέψιμων αρνητικών συνεπειών στη σωματική και ψυχική ευεξία.

Ένας εκπρόσωπος της Meta δήλωσε: «Το περιεχόμενο που ενθαρρύνει τον αυτοτραυματισμό είναι ενάντια στις πολιτικές μας και αφαιρούμε αυτό το περιεχόμενο όταν το εντοπίζουμε. Κατά το πρώτο εξάμηνο του 2024, αφαιρέσαμε περισσότερα από 12 εκατ. κομμάτια που σχετίζονται με αυτοκτονία και αυτοτραυματισμό στο Instagram, το 99% των οποίων κατεβάσαμε προληπτικά.

Σχετικό Άρθρο

Τεχνολογια - Επιστημη Ο Ζούκερμπεργκ σχεδιάζει την κατασκευή παγκόσμιου υποθαλάσσιου καλωδίου

Newsroom 02.12.2024, 23:18

«Νωρίτερα φέτος, εγκαινιάσαμε το Instagram Teen Accounts, το οποίο θα τοποθετεί τους εφήβους στην αυστηρότερη ρύθμιση του ελέγχου ευαίσθητου περιεχομένου μας, ώστε να είναι ακόμη λιγότερο πιθανό να τους προτείνουμε ευαίσθητο περιεχόμενο και σε πολλές περιπτώσεις αποκρύπτουμε αυτό το περιεχόμενο εντελώς».

Η δανέζικη μελέτη ωστόσο, διαπίστωσε ότι αντί να προσπαθήσει να κλείσει το δίκτυο αυτοτραυματισμού, ο αλγόριθμος του Instagram βοηθούσε ενεργά την επέκτασή του. Η έρευνα έδειξε ότι οι 13χρονοι έγιναν φίλοι με όλα τα μέλη της ομάδας αυτοτραυματισμού αφού συνδέθηκαν με ένα από τα μέλη της.

Αυτό, σύμφωνα με τη μελέτη, «υποδηλώνει ότι ο αλγόριθμος του Instagram συμβάλλει ενεργά στη δημιουργία και εξάπλωση των δικτύων αυτοτραυματισμού».

Εκπρόσωπος της Meta δήλωσε: «Το περιεχόμενο που ενθαρρύνει τον αυτοτραυματισμό είναι ενάντια στις πολιτικές μας» © EPA/Franck Robichon

Μιλώντας στον Observer, ο Ask Hesby Holm, διευθύνων σύμβουλος της Digitalt Ansvar, δήλωσε ότι η εταιρεία σοκαρίστηκε από τα αποτελέσματα, αφού πίστευε ότι, καθώς οι εικόνες που μοιραζόταν αυξάνονταν σε σοβαρότητα, θα έκρουαν τον κώδωνα του κινδύνου στην πλατφόρμα.

«Πιστεύαμε ότι όταν το κάναμε αυτό σταδιακά, θα φτάναμε στο όριο όπου η τεχνητή νοημοσύνη ή άλλα εργαλεία θα αναγνώριζαν ή θα ταυτοποιούσαν αυτές τις εικόνες», δήλωσε. «Αλλά δεν το έκαναν».

Και πρόσθεσε: «Αυτό ήταν ανησυχητικό, επειδή νομίζαμε ότι είχαν κάποιο είδος μηχανισμού που προσπαθούσε να καταλάβει και να αναγνωρίσει αυτό το περιεχόμενο».

Η αποτυχία να μετριάσει τις εικόνες αυτοτραυματισμού μπορεί να έχει «σοβαρές συνέπειες», είπε. «Αυτό συνδέεται σε μεγάλο βαθμό με την αυτοκτονία. Έτσι, αν δεν υπάρχει κανείς που να επισημαίνει ή να κάνει κάτι γι' αυτές τις ομάδες, περνούν απαρατήρητρε στους γονείς, στις αρχές, σε εκείνους που μπορούν να βοηθήσουν στην υποστήριξη».

Η Meta, πιστεύει, δεν μετριάζει τις μικρές ιδιωτικές ομάδες, όπως αυτή που δημιούργησε η εταιρεία του, προκειμένου να διατηρήσει υψηλή επισκεψιμότητα και συμμετοχή. «Δεν ξέρουμε αν μετριάζουν μεγαλύτερες ομάδες, αλλά το πρόβλημα είναι ότι οι ομάδες αυτοτραυματισμού είναι μικρές», είπε.

Το Instagram «κλείνει τα μάτια» στο επιβλαβές περιεχόμενο

Η Lotte Rubæk, κορυφαία ψυχολόγος που αποχώρησε από την παγκόσμια ομάδα εμπειρογνωμόνων της Meta για την πρόληψη των αυτοκτονιών τον Μάρτιο, αφού την κατηγόρησε ότι «κλείνει τα μάτια» στο επιβλαβές περιεχόμενο του Instagram, δήλωσε ότι, ενώ δεν εξεπλάγη από τα συνολικά ευρήματα, σοκαρίστηκε όταν είδε ότι δεν αφαιρέθηκε το πιο έκδηλο περιεχόμενο.

Σχετικό Άρθρο

Τεχνολογια - Επιστημη Απαγόρευση social media στους ανήλικους: Η Ελλάδα στα χνάρια της Αυστραλίας;

Λουκάς Βελιδάκης 17.12.2024, 11:24

«Δεν θα πίστευα ότι θα ήταν μηδέν στις 85 αναρτήσεις που αφαίρεσαν», δήλωσε. «Ήλπιζα ότι θα ήταν καλύτερα. Έχουν επανειλημμένα πει στα μέσα ενημέρωσης ότι συνεχώς βελτιώνουν την τεχνολογία τους και ότι έχουν τους καλύτερους μηχανικούς στον κόσμο. Αυτό αποδεικνύει, έστω και σε μικρή κλίμακα, ότι αυτό δεν είναι αλήθεια».

Η Rubæk δήλωσε ότι η αποτυχία της Meta να αφαιρέσει εικόνες αυτοτραυματισμού από τις πλατφόρμες της «πυροδοτεί» ευάλωτες νεαρές γυναίκες και κορίτσια να βλάψουν περαιτέρω τον εαυτό τους και συμβάλλει στην αύξηση των αριθμών αυτοκτονιών.

Από τότε που αποχώρησε από την παγκόσμια ομάδα εμπειρογνωμόνων, δήλωσε ότι η κατάσταση στην πλατφόρμα είχε μόνο επιδεινωθεί, ο αντίκτυπος της οποίας είναι ευδιάκριτος στους ασθενείς της.

Το ζήτημα του αυτοτραυματισμού στο Instagram, είπε, είναι ζήτημα ζωής και θανάτου για τα νέα παιδιά και τους εφήβους. «Και κατά κάποιο τρόπο αυτό είναι απλώς παράπλευρη απώλεια γι' αυτούς, στον δρόμο για να βγάλουν χρήματα και κέρδη από τις πλατφόρμες τους».

(Με πληροφορίες του Guardian)