Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
Κοσμος

Φάκελος «Κίνα»: Ψηφιακοί Δούρειοι Ίπποι

Μια Παγκόσμια Υποδομή Παρακολούθησης, Παραπληροφόρησης και Εθισμού
romanos-gerodimos.jpg
Ρωμανός Γεροδήμος
17’ ΔΙΑΒΑΣΜΑ

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι

Μία σπονδυλωτή έρευνα για την αναδυόμενη υπερδύναμη του 21ου αιώνα.
Η εγχώρια και η παγκόσμια εξάπλωση ενός ολοκληρωτικού καθεστώτος.
Προκλήσεις ασφαλείας – για τη Δύση, για τη δημοκρατία, για την έννομη τάξη και τα ανθρώπινα δικαίωματα, για την παγκόσμια ειρήνη.

Διαβάστε το πρώτο μέρος «Ο ολοκληρωτισμός του μέλλοντος» ΕΔΩ
Διαβάστε το δεύτερο μέρος «Γενοκτονία σε αργή κίνηση» ΕΔΩ
Διαβάστε το τρίτο μέρος «Μυστικά και ψέματα για τον κορωνοϊό» ΕΔΩ

Μερικές από τις κορυφαίες εταιρείες τεχνολογίας κινεζικών συμφερόντων έχουν εμπλακεί σε σκάνδαλα κατασκοπείας και παραβίασης προσωπικών δεδομένων, και ενδέχεται να λειτουργούν υπό την επιρροή ή τον έλεγχο του Κομμουνιστικού Κόμματος της Κίνας (ΚΚΚ).

Οι εταιρείες αυτές διεισδύουν σε κυβερνήσεις, οικονομίες και κοινωνίες σε όλο τον κόσμο:

  • έχοντας καταστεί οι βασικοί πάροχοι τεχνολογίας 5G και του Διαδικτύου των Πραγμάτων (IoT)
  • χτίζοντας μια παγκόσμια υποδομή που μπορεί να χρησιμοποιηθεί για κατασκοπεία τόσο εναντίον μεμονωμένων πολιτών όσο και οργανισμών ή κρατών
  • παρέχοντας σε αυταρχικά καθεστώτα του Παγκόσμιου Νότου τεχνολογία και τεχνογνωσία παρακολούθησης πολιτών και λογοκρισίας περιεχομένου
  • ελέγχοντας τις ροές ψηφιακών δεδομένων και προωθώντας την παραπληροφόρηση σε δισεκατομμύρια χρήστες, με μερικές από τις πιο διαδεδομένες εφαρμογές που χρησιμοποιούμε στην καθημερινή ζωή και την εργασία μας.

Αυτές οι εταιρείες και εφαρμογές – συμπεριλαμβανομένων, ενδεικτικά, της Huawei, του TikTok και ακόμη και του Zoom – ενδέχεται να ενεργούν, σκόπιμα ή ακούσια, ως Δούρειοι Ίπποι του ΚΚΚ, δημιουργώντας σημαντικές προκλήσεις ασφαλείας για τη Δύση και για τη φιλελεύθερη δημοκρατία παγκοσμίως. Πολλοί βουλευτές, ακαδημαϊκοί και εμπειρογνώμονες εθνικής ασφάλειας της Δύσης υποστηρίζουν ότι χρειαζόμαστε αυστηρά μέτρα ρύθμισης των εταιρειών κινεζικών συμφερόντων και μια εκστρατεία ευαισθητοποίησης του κοινού [Times, Newsweek].

Huawei

Η Huawei, μια κινεζική εταιρεία τηλεπικοινωνιών, είναι ο κορυφαίος πάροχος τεχνολογίας 5G και κινητών τηλεφώνων στον κόσμο. Ιδρύθηκε το 1987 από τον πρώην αξιωματούχο του κινεζικού στρατού Ρεν Ζενγκφέι.

Τα τελευταία χρόνια, η Huawei βρίσκεται αντιμέτωπη με κατηγορίες για κατασκοπεία και παραβίαση του νόμου (κατηγορίες τις οποίες αρνείται σθεναρά), με ορισμένες χώρες να έχουν πλέον αποκλείσει την εταιρεία από την πρόσβαση στα δίκτυα 5G τους.

Ο έλεγχος της τεχνολογίας στην καρδιά των δικτύων 5G θα μπορούσε να δώσει στην Huawei την ικανότητα να κατασκοπεύει ή να διακόπτει τις επικοινωνίες. Καθώς τα πάντα, από τα αυτόνομα αυτοκίνητα μέχρι τα ψυγεία, τις βρεφικές οθόνες και τους συναγερμούς πυρκαγιάς συνδέονται στο διαδίκτυο, οι χάκερ του κινεζικού κράτους θα μπορούσαν να χρησιμοποιήσουν αυτές τις συσκευές ως «πίσω πόρτες» για ζωτικής σημασίας στρατηγικά δίκτυα, καθιστώντας δυνατή την καταστροφή της κρίσιμης υποδομής ενός αντιπάλου, όπως π.χ. σταθμών παραγωγής ενέργειας [BBC].

Αξίζει να σημειωθεί ότι η Huawei συμμετείχε στην αναβάθμιση του συστήματος κλήσεων έκτακτης ανάγκης της Ευρωπαϊκής Ένωσης, το γνωστό μας 112, το 2013 [Intellinews].

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
Τα κεντρικά γραφεία της Huawei στην Σεντσέν, Κίνα © Xiaolu Chu

Τα κεντρικά γραφεία της Huawei στην Σεντσέν, Κίνα © Xiaolu Chu

Σχέσεις με τις κινεζικές αρχές

Ο Νόμος Εθνικών Πληροφοριών της Κίνας του 2017 ορίζει ότι όλες οι εταιρείες πρέπει να «υποστηρίζουν και να συνεργάζονται με το έργο της εθνικής [υπηρεσίας] πληροφοριών». Ως εκ τούτου, η Huawei είναι υποχρεωμένη να παραδίδει δεδομένα εάν ζητηθεί από την κινεζική κυβέρνηση [CCDCOE].

Η Επιτροπή Πληροφοριών της Βουλής των Αντιπροσώπων των ΗΠΑ σε έρευνα της το 2012 διαπίστωσε ότι η Huawei «δεν ήταν πρόθυμη να εξηγήσει τη σχέση της με την κινεζική κυβέρνηση ή το Κομμουνιστικό Κόμμα Κίνας» και «πιθανότατα παραμένει εξαρτημένη από την κινεζική κυβέρνηση για υποστήριξη», ενώ οι ισχυρισμοί ότι δεν λαμβάνουν υποστήριξη «δεν είναι αξιόπιστοι». Η Huawei παραδέχτηκε ότι το ΚΚΚ διατηρεί μια Κομματική Επιτροπή εντός της εταιρείας χωρίς να εξηγεί τη σύνθεση ή τη λειτουργία της. Η εταιρική ιστορία της Huawei υποδηλώνει δεσμούς με τον στρατό [HoR].

Καταγγελίες για κατασκοπεία και προκλήσεις ασφαλείας

Η έρευνα της Επιτροπής Πληροφοριών του Κογκρέσου καταλήγει στο συμπέρασμα ότι, λόγω αδυναμιών στην εφοδιαστική αλυσίδα των τηλεπικοινωνιών, την αύξηση της κατασκοπείας στον κυβερνοχώρο (ειδικά αυτή που προέρχεται από την Κίνα) και την αυξανόμενη εξάρτηση των καταναλωτών από μια μικρή ομάδα παρόχων εξοπλισμού, καθώς και την αδυναμία της εταιρείας να παρέχει απαντήσεις σε μια σειρά ζητημάτων που σχετίζονται με ενδεχομένως παράνομες πρακτικές, η Huawei αποτελεί απειλή για την εθνική ασφάλεια των ΗΠΑ [HoR].

Το 2012, αξιωματούχοι των υπηρεσιών πληροφοριών της Αυστραλίας εντόπισαν ίχνη εισβολής στα συστήματα τηλεπικοινωνιών των ΗΠΑ, η οποία φαίνεται να ξεκίνησε «με μια ενημέρωση λογισμικού από τη Huawei που ήταν φορτωμένη με κακόβουλο κώδικα» [Bloomberg].

Το 2018, Γάλλοι ερευνητές που εργάζονταν για την εφημερίδα Le Monde κατέληξαν στο συμπέρασμα ότι τα συστήματα υπολογιστών στα κεντρικά γραφεία της Αφρικανικής Ένωσης είχαν παραβιαστεί, ότι μικρόφωνα και συσκευές ακρόασης είχαν τοποθετηθεί στο κτίριο, και ότι για πέντε χρόνια, τα δεδομένα της ΑΕ μεταφέρονταν κρυφά σε διακομιστές (servers) με έδρα τη Σαγκάη. Ο κύριος προμηθευτής συστημάτων τεχνολογίας πληροφοριών και επικοινωνιών στα κεντρικά γραφεία της ΑΕ ήταν η Huawei. Η Danielle Cave του Ινστιτούτου Στρατηγικής Πολιτικής της Αυστραλίας είπε ότι είναι δύσκολο να καταλάβει κανείς πώς «η εταιρεία θα μπορούσε να αγνοεί εντελώς την προφανή κλοπή μεγάλων ποσοτήτων δεδομένων, κάθε μέρα, για πέντε χρόνια» [BBC].

Τον Δεκέμβριο του 2018, η Οικονομική Διευθύντρια της Huawei, Meng Wanzhou, συλλαμβάνεται στον Καναδά, κατόπιν αιτήματος των αμερικανικών αρχών, για φερόμενες παραβιάσεις των κυρώσεων στο Ιράν [CNET]. Η Huawei είχε προηγουμένως συνδεθεί με μια προσφορά να παρέχει στο Ιράν περιορισμένο εξοπλισμό [CNET].

Το 2019, η Huawei έρχεται αντιμέτωπη με πολλαπλές κατηγορίες, όπως τραπεζική απάτη, παρακώλυση της δικαιοσύνης, συνωμοσία για την κλοπή εμπορικών μυστικών, και παραβιάσεις του Νόμου για τις Διεθνείς Οικονομικές Εξουσίες Έκτακτης Ανάγκης, γνωστό και ως IEEPA. Ο αμερικανός εισαγγελέας Richard Donoghue, δήλωσε ότι «για πάνω από μια δεκαετία, η Huawei έχει εφαρμόσει μια στρατηγική ψεμάτων για να αναπτύξει τις δραστηριότητές της» [DoJ, Reuters].

Το 2019, η Vodafone αποκάλυψε ότι, το 2011 και το 2012, είχε βρει τρωτά σημεία και ελαττώματα ασφαλείας στον εξοπλισμό που προμήθευε η Huawei στην ιταλική επιχείρηση της Vodafone [Reuters].

Το 2018, η Ιαπωνία απέκλεισε την Huawei από κρατικές συμβάσεις, ενώ η Αυστραλία, η Νέα Ζηλανδία και η Σουηδία απέκλεισαν επίσης τη Huawei από τα δίκτυα 5G τους για λόγους ασφαλείας [WP, Euronews].

Το 2020, η Βρετανική κυβέρνηση ανακοινώνει μια σειρά μέτρων για την αφαίρεση της Huawei από τα δίκτυα κινητής τηλεφωνίας 5G του Ηνωμένου Βασιλείου, απαγορεύοντας στους βρετανικούς παρόχους κινητής τηλεφωνίας να αγοράζουν νέο εξοπλισμό Huawei 5G μετά το τέλος του 2020. Οι πάροχοι κινητής τηλεφωνίας θα πρέπει να αφαιρέσουν κάθε υπηρεσία και λογισμικό της Huawei από τα δίκτυά τους έως το 2027 [BBC]. Το 2019, το Κέντρο Αξιολόγησης Κυβερνοασφάλειας της Huawei, το οποίο υπάγεται στο Εθνικό Κέντρο Κυβερνοασφάλειας της Βρετανίας (NCSC) είχε εντοπίσει «σοβαρά ελαττώματα» στο λογισμικό της εταιρείας, αλλά και στις πρακτικές κυβερνοασφάλειάς της [BBC]. Μια περαιτέρω έκθεση διαπίστωσε ότι «δεν υπήρξε συνολική βελτίωση κατά τη διάρκεια του 2020 για να ανταποκριθεί στην ποιότητα του λογισμικού και της κυβερνοασφάλειας που απαιτείται από το NCSC» [HCSEC].

Στα τέλη του 2020, η Επιτροπή Άμυνας του Βρετανικού κοινοβουλίου δημοσιεύει μια έκθεση στην οποία καταλήγει ότι «η παρουσία της Huawei στα δίκτυα 5G του Ηνωμένου Βασιλείου αποτελούσε σημαντικό κίνδυνο ασφάλειας για τα άτομα και για την κυβέρνησή μας», ενώ «η ανησυχία για την Huawei βασίζεται σε σαφή στοιχεία συνεννόησης μεταξύ της εταιρείας και των μηχανισμών του Κομμουνιστικού Κόμματος της Κίνας», προτρέποντας τους Βρετανούς νομοθέτες να επισπεύσουν την απομάκρυνση του εξοπλισμού της Huawei έως το 2025 αντί για το 2027 [HoC].

Το 2021, το Συνταγματικό Συμβούλιο της Γαλλίας επικύρωσε μια απόφαση της Εθνικής Υπηρεσίας για την Ασφάλεια των Πληροφοριακών Συστημάτων (ANSSI) που αναγκάζει τις εταιρείες κινητής τηλεφωνίας να αφαιρέσουν τον εξοπλισμό Huawei σε πυκνοκατοικημένες περιοχές όπου τα δίκτυα αναβαθμίζονται σε 5G. Αμέσως μετά, οι τηλεφωνικές εταιρείες της Γαλλίας άρχισαν να αφαιρούν τα ασύρματα συστήματα της Huawei από μεγάλες γαλλικές πόλεις [Euractiv, Bloomberg].

Το 2022, η Νότια Αφρική πάει την τοπική μονάδα της Huawei στο δικαστήριο, κατηγορώντας την εταιρεία ότι παραβίασε τους κανόνες προσλήψεων [Reuters]. Αποδείχθηκε ότι το 90% των εργαζομένων της Huawei ήταν αλλοδαποί υπήκοοι, κάτι που υπερβαίνει κατά πολύ το νόμιμο όριο του 40% που ορίζεται από τους κανονισμούς για την απασχόληση.

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
© Billy H.C. Kwok/Getty Images

© Billy H.C. Kwok/Getty Images

Εγχώρια παρακολούθηση και παραβιάσεις των ανθρωπίνων δικαιωμάτων στην Κίνα

Είδαμε σε προηγούμενα άρθρα ότι το κινεζικό καθεστώς εφαρμόζει ένα πρωτόγνωρο μοντέλο ολοκληρωτικής παρακολούθησης και ελέγχου των πολιτών, ενώ ασκεί διεθνή εγκλήματα κατά της μειονότητας των Ουιγούρων στην επαρχία Σιντζιάνγκ.

Τον Ιούνιο του 2020, ο υπουργός Εξωτερικών των ΗΠΑ Μάικ Πομπέο κατηγόρησε τη Huawei ότι διευκολύνει τις παραβιάσεις των ανθρωπίνων δικαιωμάτων, ισχυριζόμενος ότι η εταιρεία είναι «ένας βραχίονας του κράτους παρακολούθησης του Κομμουνιστικού Κόμματος της Κίνας που λογοκρίνει τους πολιτικούς αντιφρονούντες και επιτρέπει μαζικά στρατόπεδα εγκλεισμού στην Σιντζιάνγκ» και τη μετατροπή του πληθυσμού της σε σκλάβους που μεταφέρονται σε όλη τη χώρα [Reuters].

Η Washington Post έκανε μια ανάλυση σε περισσότερες από 100 εμπιστευτικές παρουσιάσεις PowerPoint της Huawei. Το συμπέρασμα της έρευνας ήταν ότι η εταιρεία έχει διαδραματίσει ενεργό ρόλο στην παρακολούθηση και τον έλεγχο του πληθυσμού της Κίνας. Η Huwaei έκανε παρουσιάσεις για το πώς βοήθησε (ή μπορεί να βοηθήσει στο μέλλον) η τεχνολογία της τις κυβερνητικές αρχές: εντοπίζοντας άτομα μέσω της αναγνώρισης της φωνής τους∙ παρακολουθώντας μαζικά πρόσωπα ενδιαφέροντος∙ και αναλαμβάνοντας τη διαχείριση της «ιδεολογικής επανεκπαίδευσης» και των προγραμμάτων εργασίας για κρατούμενους [WP].

«Οι διαφάνειες της Huawei ρίχνουν φως στον ρόλο της εταιρείας σε πέντε δραστηριότητες παρακολούθησης στην Κίνα: ανάλυση ηχογράφησης φωνής, παρακολούθηση κέντρων κράτησης, εντοπισμός τοποθεσίας πολιτικών προσώπων ενδιαφέροντος, αστυνομική επιτήρηση στην περιοχή Σιντζιάνγκ και εταιρική παρακολούθηση εργαζομένων και πελατών» [WP].

Το «Huawei and Hewei Smart Prison Unified Platform» είναι ένα ολοκληρωμένο σύστημα επιτήρησης φυλακών που αναπτύχθηκε από κοινού με μια άλλη κινεζική εταιρεία, τη Shanghai Hewei Technology. Εκτός από τις πτυχές φυσικής ασφάλειας, όπως βιντεοκάμερες και έξυπνες πύλες, το προϊόν περιλαμβάνει λογισμικό για τη διαχείριση των προγραμμάτων των κρατουμένων, συμπεριλαμβανομένης της παρακολούθησης ιδεολογικών μαθημάτων επανεκπαίδευσης και των βάρδιων εργασίας [WP].

Το 2018, η Huawei υπέγραψε συμφωνία με τις αστυνομικές αρχές της επαρχίας Σιντζιάνγκ – εκεί όπου εκτυλίσσεται η γενοκτονία των Ουιγούρων – για να βοηθήσει τους αξιωματικούς να αναλύσουν δεδομένα [NYT].

Έγγραφο της εταιρείας που διέρρευσε στην Washington Post δείχνει ότι, το 2018, η Huawei συνεργάστηκε με τη νεοσύστατη εταιρεία αναγνώρισης προσώπου Megvii για να δοκιμάσει ένα σύστημα κάμερας τεχνητής νοημοσύνης που μπορεί να σαρώσει πρόσωπα σε ένα πλήθος και να εκτιμήσει την ηλικία, το φύλο και την εθνικότητα ενός ατόμου. Εάν ανιχνεύσει το πρόσωπο ενός μέλους της μουσουλμανικής κοινότητας, τότε το σύστημα θα μπορούσε να στείλει έναν «συναγερμό για Ουιγούρους» στην αστυνομία [WP].

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
© Perry Hui/SOPA Images/LightRocket via Getty Images

© Perry Hui/SOPA Images/LightRocket via Getty Images

Υποστήριξη για (και από) αυταρχικά καθεστώτα

Η Huawei έχει συχνά κατηγορηθεί ότι προμηθεύει κινεζική τεχνολογία παρακολούθησης και λογοκρισίας σε αυταρχικά καθεστώτα στην Αφρική. Ωστόσο, μια εκτεταμένη έρευνα της Wall Street Journal αποκάλυψε επίσης ότι οι τεχνικοί της Huawei ενεπλάκησαν άμεσα στις ενέργειες αυτές, βοηθώντας αφρικανικές κυβερνήσεις να κατασκοπεύσουν τους πολιτικούς τους αντιπάλους. Πιο συγκεκριμένα, οι υπάλληλοι της Huawei που είναι ενσωματωμένοι σε δυνάμεις κυβερνοασφάλειας στην Ουγκάντα και τη Ζάμπια φαίνεται να έχουν υποκλέψει κρυπτογραφημένες επικοινωνίες και να έχουν χρησιμοποιήσει δεδομένα κινητής τηλεφωνίας για να παρακολουθούν τους αντιπάλους [WSJ, CNBC].

Η Huwaei έχει εγκαταστήσει συστήματα επιτήρησης (τις λεγόμενες «Ασφαλείς Πόλεις») σε 700 πόλεις σε περισσότερες από 100 χώρες και περιοχές σε όλο τον κόσμο, με πώληση προηγμένων συστημάτων βιντεοπαρακολούθησης και αναγνώρισης προσώπου σε περισσότερες από 25 αναπτυσσόμενες χώρες [WSJ].

Μια απόρρητη έκθεση που συντάχθηκε από κοινού από τις δυνάμεις της Ουγκάντα και της Αλγερίας, αποκαλεί το σύστημα της Αλγερίας «το έξυπνο σύστημα βιντεοπαρακολούθησης της Huawei», ενώ οι αλγερινές αρχές παραδέχτηκαν ότι είναι «ένα προηγμένο σύστημα και παρέχει μια από τις καλύτερες εφαρμογές επιτήρησης» [WSJ]. Ο Steven Feldstein, ειδικός στην ψηφιακή επιτήρηση στο Πανεπιστήμιο Boise State πιστεύει ότι η Huawei δεν το κάνει μόνο για τα χρήματα, αλλά ότι «προωθεί μια συγκεκριμένη ατζέντα παρακολούθησης» [WSJ].

Μια ευρωπαϊκή χώρα που δεν συμμερίζεται τις ανησυχίες άλλων δυτικών χωρών για την ασφάλεια είναι η Ουγγαρία, η οποία φιλοξενεί το μεγαλύτερο κέντρο εφοδιασμού της Huawei εκτός Κίνας. Το ένα έβδομο των ευρωπαϊκών δαπανών της Huawei πραγματοποιήθηκε στην Ουγγαρία το 2019 [Intellinews].

Επιπλέον, τον Μάρτιο του 2022, η Türk Telekom και η Huawei υπέγραψαν Μνημόνιο Συνεργασίας για την ανάπτυξη των δικτύων 5G της Τουρκίας. Η Huawei έχει τοποθετήσει ένα από τα 19 κέντρα έρευνας και ανάπτυξης στην Τουρκία [Hurriyet].

Η Huawei έχει υποστεί κριτική και για τη στάση της μετά τη ρωσική εισβολή στην Ουκρανία. Η εταιρεία βοήθησε τη Ρωσία να διασφαλίσει το διαδίκτυό της από επιθέσεις φιλουκρανών χάκερ [Mail], ενώ τον Μάρτιο του 2022, δύο μη εκτελεστικοί διευθυντές της Huawei UK παραιτήθηκαν σε ένδειξη διαμαρτυρίας για τη στάση της εταιρείας στην Ουκρανία [BBC].

Ο έλεγχος, η κριτική, οι απαγορεύσεις και οι νομικές ενέργειες που δρομολογήθηκαν από τις κοινοβουλευτικές και δικαστικές αρχές και από δημοσιογράφους και ερευνητές στη Δύση μπορεί να έχουν δημιουργήσει ένα de facto «Ψηφιακό Σιδηρούν Παραπέτασμα» ως μέρος ενός Νέου Ψυχρού Πολέμου μεταξύ Κίνας και Δύσης [FP]. Ωστόσο, η Huawei συνεχίζει ανενόχλητη τις δραστηριότητες της σε άλλες περιοχές του κόσμου.

 

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
© Sean Gallup/Getty Images

© Sean Gallup/Getty Images

Η Huawei πέρα από τη Δύση

Για πολλές χώρες στον Παγκόσμιο Νότο, η διάκριση μεταξύ των μοντέλων διακυβέρνησης και των αξιών της Δύσης και της Κίνας μπορεί να μην είναι τόσο ξεκάθαρη. «Η εκρηκτική διασπορά του διαδικτύου στην Αφρική οφείλεται σε σημαντικό βαθμό στα κινεζικά ανταλλακτικά και χρηματοδότηση. Καθώς η Huawei αρχίζει να αποκλείεται από τις αγορές του ανεπτυγμένου κόσμου, βρίσκει θερμή υποδοχή στην Αφρική. Αυτό δεν συμβαίνει απαραίτητα επειδή οι Αφρικανοί δεν ενδιαφέρονται για την κατασκοπία και την παρακολούθηση των πολιτών, αλλά επειδή για μια νεότερη γενιά, η ανάπτυξη υπερτερεί άλλων ανησυχιών» [FP].

Σύμφωνα με ορισμένες εκτιμήσεις, η Huawei έχει κατασκευάσει το 70% των δικτύων 4G της Αφρικής και έχει υπογράψει συμφωνία για την κατασκευή του δικτύου 5G της Νότιας Αφρικής [WP]. Πολλές αφρικανικές χώρες έχουν λάβει δάνεια πολλών εκατομμυρίων δολαρίων που τα καλύπτει η Huawei: Αιθιοπία (834 εκ. δολάρια), Καμερούν (337 εκ. δολάρια), Αγκόλα (336 εκ. δολάρια), Γουινέα (273 εκ. δολάρια) και Ζιμπάμπουε (219 εκ. δολάρια) [WP]. Η εξάρτηση από τα δάνεια της Huawei μπορεί να κάνει τις χώρες αυτές λιγότερο πρόθυμες να αφαιρέσουν την εταιρεία από τα δίκτυα κινητής τηλεφωνίας τους.

Τον Μάρτιο του 2022, μια επίσημη έκθεση της Huawei ανέφερε ότι ενώ οι εμπορικές κυρώσεις που επιβλήθηκαν από τις Ηνωμένες Πολιτείες και τις χώρες της Δυτικής Ευρώπης προκάλεσαν ρεκόρ χαμηλών εσόδων το 2021, η ανάκαμψη της εταιρείας είναι σε πλήρη ισχύ καθώς τα καθαρά της κέρδη αυξήθηκαν κατά 75,9%. Η εταιρεία το πιστώνει αυτό σε βελτιωμένα χαρτοφυλάκια προϊόντων και πιο αποτελεσματικές εσωτερικές λειτουργίες, επενδύσεις στην έρευνα και ανάπτυξη και σε συνεργασία με κορυφαία πανεπιστήμια σε όλο τον κόσμο [Guardian].

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
© Budrul Chukrut/SOPA Images/LightRocket via Getty Images

© Budrul Chukrut/SOPA Images/LightRocket via Getty Images

Zoom

Κατά τη διάρκεια της πανδημίας, το Zoom έγινε η πιο δημοφιλής διαδικτυακή πλατφόρμα τηλεδιάσκεψης στον κόσμο, και ο βασικός τρόπος μέσω του οποίου εκατοντάδες εκατομμύρια πολίτες εργάζονται εξ αποστάσεως, παραδίδουν ή παρακολουθούν μαθήματα, σεμινάρια και ομιλίες ή επικοινωνούν με επιχειρηματικές τους επαφές και με την οικογένειά τους. Ο αριθμός των συμμετεχόντων σε τηλεδιασκέψεις κάθε μέρα αυξήθηκε από 10 εκατομμύρια τον Δεκέμβριο του 2019 σε 300 εκατομμύρια τον Απρίλιο του 2020 [CNET] και έκτοτε η παρουσία του Zoom αυξήθηκε κι άλλο. Ο ιδρυτής και διευθύνων σύμβουλος του Zoom είναι ο Έρικ Γιουάν, ένας Κινέζος δισεκατομμυριούχος επιχειρηματίας.

Σύμφωνα με μια έρευνα αμερικανικών υπηρεσιών πληροφοριών την οποία απέκτησε το ABC News τον Απρίλιο του 2020, το Zoom ενδέχεται να είναι ανοιχτό σε παρεμβολές από ξένες κυβερνητικές υπηρεσίες πληροφοριών, και ιδιαιτέρως της Κίνας [ABC]. Παρά τους αρχικούς ισχυρισμούς της εταιρείας, οι επικοινωνίες στο Zoom δεν είναι κρυπτογραφημένες, πράγμα που σημαίνει ότι το Zoom μπορεί να έχει πρόσβαση στο περιεχόμενο των κλήσεων των πελατών του [TheIntercept]. Επιπλέον, το 2020, το Zoom παραδέχτηκε ότι ορισμένες κλήσεις από μη Κινέζους χρήστες δρομολογήθηκαν μέσω της Κίνας [TC].

Δεδομένων των νόμων εθνικής ασφάλειας της χώρας, που υποχρεώνουν τις εταιρείες πληροφορικής να διαβιβάζουν δεδομένα στις αρχές, η κινεζική κυβέρνηση «θα μπορούσε να απαιτήσει από το Zoom να αποκρυπτογραφήσει το περιεχόμενο των κρυπτογραφημένων κλήσεων» [BusinessInsider]. Για την ακρίβεια, τον Μάιο και τον Ιούνιο του 2020, ένα στέλεχος ασφαλείας του Zoom συνεργάστηκε με την κινεζική κυβέρνηση για να διακόψει τις τηλεδιασκέψεις και να τερματίσει τους λογαριασμούς τριών ακτιβιστών με έδρα τις ΗΠΑ και το Χονγκ Κονγκ, αφού προσπάθησαν να πραγματοποιήσουν διαδηλώσεις σχετικά με τη σφαγή στην πλατεία Τιενανμέν [Reuters, WP].

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
© Jonathan Raa/NurPhoto via Getty Images

© Jonathan Raa/NurPhoto via Getty Images

TikTok: μια ωρολογιακή βόμβα

Το TikTok είναι μια εφαρμογή για σύντομα βίντεο που δημιουργήθηκε το 2018 από την κινεζική εταιρεία ByteDance. Έχει πάνω από ένα δισεκατομμύριο χρήστες (διπλάσιο από αυτό του Snapchat και του Twitter μαζί) και έχει γίνει μια από τις εφαρμογές με τις περισσότερες λήψεις (downloads) στον κόσμο. Σχεδόν οι μισοί από τους χρήστες του TikTok είναι νέοι ηλικίας 16 έως 24 ετών, ενώ πολλοί είναι ακόμη νεότεροι [Wired].

Η αυξανόμενη επιρροή κινεζικών μέσων κοινωνικής δικτύωσης όπως το TikTok εκτός της Κίνας εγκυμονεί σημαντικούς γεωπολιτικούς κινδύνους για την ασφάλεια στη Δύση – τόσο για τις κυβερνήσεις, όσο και για τους πολίτες [PIIE, NYT]. Το 2020 η Ινδία απαγόρευσε το TikTok μετά από μια στρατιωτική διαμάχη με την Κίνα, ενώ ορισμένες χώρες έχουν συζητήσει την απαγόρευση του TikTok λόγω των δεσμών του με την κινεζική κυβέρνηση, όπως το Πακιστάν, η Ιαπωνία, η Ινδονησία, η Αυστραλία και οι Ηνωμένες Πολιτείες [NYT, NPR, Guardian]. Τον Ιούνιο του 2022, ο Επίτροπος της Ομοσπονδιακής Επιτροπής Επικοινωνιών (FCC), Brendan Carr, έστειλε μια ανοιχτή επιστολή στην Google και την Apple ζητώντας τους να αφαιρέσουν το TikTok από τα καταστήματα εφαρμογών τους, υποστηρίζοντας ότι η εταιρεία έχει αποδείξει ότι δεν είναι αξιόπιστη [Gizmodo].

Έχει ήδη αποδειχθεί ότι το TikTok χρησιμοποιεί την τεχνολογία για να λογοκρίνει περιεχόμενο και να προωθεί την προπαγάνδα του Κομμουνιστικού Κόμματος Κίνας [ST]. Το 2019 έγγραφα που διέρρευσαν έδειξαν ότι το TikTok έδωσε εντολή στους συντονιστές του να λογοκρίνουν βίντεο που ανέφεραν την πλατεία Τιενανμέν, την ανεξαρτησία του Θιβέτ και την απαγορευμένη θρησκευτική ομάδα Φάλουν Γκονγκ [The Guardian]. Τον Ιούλιο του 2022 το Bloomberg αποκάλυψε ότι η κινεζική κυβέρνηση ζήτησε από το TikTok να ανοίξει έναν μυστικό λογαριασμό ώστε να στοχεύσει μέσω αυτού το κοινό της Δύσης με προπαγάνδα [Bloomberg]. Μια άλλη έρευνα εγγράφων που διέρρευσαν έδειξε ότι το TikTok δίνει οδηγίες στο προσωπικό του για το πώς να υποβαθμίζουν τη σχέση της εταιρείας με την κινεζική κυβέρνηση στις δημόσιες επικοινωνίες τους [Gizmodo]. Μια μελέτη από την ομάδα ελέγχου δεδομένων NewsGuard τον Μάρτιο του 2022 ανακάλυψε ότι το TikTok προωθούσε παραπληροφόρηση και ψευδείς ειδήσεις σχετικά με τον πόλεμο στην Ουκρανία μέσα σε λίγα λεπτά από την εγγραφή ενός χρήστη [Euronews].

Το TikTok συλλέγει τεράστιο όγκο δεδομένων για τους χρήστες του, συμπεριλαμβανομένης της «συσκευής που χρησιμοποιείτε, της τοποθεσίας σας, της διεύθυνσης IP, του ιστορικού αναζήτησης, του περιεχομένου των μηνυμάτων σας, του τι βλέπετε και για πόσο χρονικό διάστημα. Συλλέγει επίσης αναγνωριστικά συσκευών για να παρακολουθεί τις αλληλεπιδράσεις σας με τους διαφημιστές. Το TikTok «συμπεραίνει» παράγοντες όπως την ηλικιακή ομάδα, το φύλο και τα ενδιαφέροντά σας με βάση τις πληροφορίες που έχει για εσάς. Στις ΗΠΑ, το TikTok μπορεί να συλλέγει βιομετρικές πληροφορίες, συμπεριλαμβανομένων των προσώπων και των φωνητικών αποτυπωμάτων». Επίσης, «συλλέγει κείμενο, εικόνες και βίντεο από το πρόχειρο [σημειωματάριο] της συσκευής σας εάν αντιγράψετε και επικολλήσετε περιεχόμενο προς ή από την εφαρμογή ή το μοιραστείτε με μια πλατφόρμα τρίτου μέρους» [Wired].

Λόγω της ασάφειας σχετικά με τον τύπο των ιδιωτικών δεδομένων που συλλέγει το TikTok από τα τηλέφωνα των χρηστών και τι κάνει με αυτά τα δεδομένα, υπάρχουν φόβοι ότι η εφαρμογή καταγράφει μοτίβα πληκτρολόγησης και πολυμέσα που ο χρήστης δημιουργεί ή μοιράζεται έξω απ’την ίδια την εφαρμογή, αφού ο κάθε εγγεγραμμένος χρήστης δίνει στο TikTok πρόσβαση στην κάμερα και το μικρόφωνο του τηλεφώνου του. Με λίγα λόγια, το TikTok ενδεχομένως μπορεί να παρακολουθεί κλήσεις, βίντεο, φωτογραφίες και το κείμενο που γράφει ένας χρήστης σε άλλες εφαρμογές του κινητού.

Μια έρευνα του BuzzFeed που βασίστηκε σε 80 εσωτερικά έγγραφα της εταιρείας που διέρρευσαν έδειξε ότι τα δεδομένα των χρηστών του TikTok στις ΗΠΑ επιθεωρήθηκαν «επανειλημμένως» από την Κίνα [BF, Gizmodo]. Μια έκθεση του Ιουλίου 2020 από την ProtonMail είχε καταλήξει στο συμπέρασμα ότι το TikTok είναι «μια σοβαρή απειλή για την ιδιωτική ζωή», που πιθανώς μοιράζεται δεδομένα με την κυβέρνηση και ότι συνεργάζεται με το Κινεζικό Κομμουνιστικό Κόμμα, «επεκτείνοντας την επιτήρηση και τη λογοκρισία της Κίνας πέρα από τα σύνορά της» [Forbes]. Το ΚΚΚ έχει χαρακτηρίσει τον αλγόριθμο του TikTok, ο οποίος καθορίζει το περιεχόμενο που τροφοδοτείται στους χρήστες, ως «κρατικό μυστικό». Ο αλγόριθμος ελέγχεται από «μυστικές ομάδες με έδρα την Κίνα», οι οποίες πειραματίζονται με την αναγνώριση προσώπου και φωνής και την ανάλυση συναισθημάτων [ST].

Τον Οκτώβριο του 2022, το Forbes αποκάλυψε ότι η μητρική εταιρεία του TikTok, ByteDance, σχεδίαζε να αποκτήσει πρόσβαση σε δεδομένα τοποθεσίας συγκεκριμένων χρηστών των ΗΠΑ χωρίς τη γνώση ή τη συγκατάθεσή τους [Forbes]. Τον Δεκέμβριο του 2022 τέσσερα στελέχη της TikTok παραιτήθηκαν ή απολύθηκαν αφού αποκαλύφθηκε ότι η εταιρεία χρησιμοποιούσε τη δική της εφαρμογή για να κατασκοπεύει δυτικούς δημοσιογράφους, μεταξύ άλλων από το BuzzFeed και τους Financial Times, παρακολουθώντας τις φυσικές τους κινήσεις ώστε να εντοπίσει τις πηγές διαρροών που σχετίζονται με την εταιρεία [Guardian].

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
© Emmanuel Wong/Getty Images

© Emmanuel Wong/Getty Images

Η εξέλιξη αυτή οδήγησε πολλούς θεσμούς της Δύσης, συμπεριλαμβανομένων του Κογκρέσου των ΗΠΑ, πολλών πολιτειών των ΗΠΑ, της κυβέρνησης του Ηνωμένου Βασιλείου και – μόλις την περασμένη εβδομάδα– του βρετανικού κοινοβουλίου να διατάξουν τα μέλη και το προσωπικό τους να διαγράψουν το TikTok από τα τηλέφωνά τους και να απαγορεύσουν την εφαρμογή από όλα τα κτίρια, τις εγκαταστάσεις, τις συσκευές και τα δίκτυα τους [Times, Guardian]. Στις ΗΠΑ, ένα απ’τα ελάχιστα πράγματα στα οποία Δημοκρατικοί και Ρεπουμπλικάνοι έχουν συμφωνήσει τα τελευταία 15 χρόνια είναι η απαγόρευση του Tiktok. Ένα νομοσχέδιο που θα έδινε στην κυβέρνηση τη δυνατότητα να το κάνει έχει διακομματική υποστήριξη [NBC].

Πολλοί ειδικοί έχουν εκφράσει βαθιά ανησυχία σχετικά με τις βλαβερές συνέπειες του TikTok για τους χρήστες και ειδικά για τα παιδιά, θεωρώντας το ως «την κοκαΐνη των αλγορίθμων», «το πιο εθιστικό», «το πιο επικίνδυνο», «αυτό που πρέπει να αντιμετωπιστεί πιο επειγόντως». The UK Adiction Treatment Group - ένα δίκτυο κέντρων αποκατάστασης σε ολόκληρο το Ηνωμένο Βασίλειο – λαμβάνει ολοένα και περισσότερες ερωτήσεις από γονείς που ανησυχούν για την εξάρτηση των παιδιών τους από την εφαρμογή [Times].

Η αλήθεια είναι ότι εχει ενδιαφέρον το ότι, ενώ εκατομμύρια χρήστες – κυρίως παιδιών και εφήβων - σε όλη τη Δύση είναι εθισμένοι σε μια κινεζική εφαρμογή, ξοδεύοντας αρκετές ώρες κάθε ημέρα για να βλέπουν βίντεο που συνήθως έχουν πολύ μικρή εκπαιδευτική ή ενημερωτική αξία, η ίδια η κυβέρνηση της Κίνας έχει επιβάλει πολύ αυστηρούς κανόνες στην εγχώρια εκδοχή του TikTok. Καταρχάς, η ByteDance - η μητρική εταιρεία του TikTok - απαγορεύεται να κάνει την εφαρμογή διαθέσιμη στην Κίνα: ο νόμος απαγορεύει τους εθιστικούς αλγόριθμους.

Η εκδοχή του TikTok στην ίδια την Κίνα ονομάζεται Douyin. Το Douyin δίνει στους χρήστες την επιλογή να απενεργοποιήσουν το εξατομικευμένο περιεχόμενο και έχει μέτρα «κατά του εθισμού», όπως παύσεις πέντε δευτερολέπτων μεταξύ των βίντεο, και ειδοποιήσεις που υπενθυμίζουν στον χρήστη να αφήσει κάτω το τηλέφωνο και να πάει για ύπνο. Η χρήση του Douyin περιορίζεται σε 40 λεπτά το πολύ την ημέρα, ενώ η εφαρμογή δεν είναι διαθέσιμη μεταξύ 10 μ.μ.-6 π.μ. Το περιεχόμενό του είναι προσαρμοσμένο για διαφορετικές ηλικιακές ομάδες και στάδια μάθησης και συνδέεται με διαλέξεις και εκδηλώσεις σε μουσεία. Όπως σημειώνεται σε έρευνα των Times, ενώ τα περισσότερα παιδιά μεταξύ 5 και 8 ετών στο Ηνωμένο Βασίλειο τώρα ονειρεύονται να γίνουν «σταρ των βίντεο των κοινωνικών μέσων ενημέρωσης», τα παιδιά αντίστοιχης ηλικίας στην Κίνα λένε ότι θέλουν να γίνουν αστροναύτες [Times].

Ο Ρωμανός Γεροδήμος με μια σειρά αναλύσεων για την Κίνα - 4ο μέρος: Ψηφιακοί Δούρειοι Ίπποι
© Mohamed Hassan

© Mohamed Hassan

Το Διαδίκτυο των Πραγμάτων (Internet of Things)

Σύμφωνα με μια εμπεριστατωμένη έκθεση των Charles Parton και Samantha Hoffman, κινέζοι κατασκευαστές ασκούν σημαντικό έλεγχο στις τεχνολογίες αιχμής που δημιουργούν το Διαδίκτυο των Πραγμάτων (Internet of Things - ΙοΤ), το οποίο, μεταξύ άλλων, συνδέει ψηφιακές εφαρμογές και εξοπλισμό με τους χώρους εργασίας και τα σπίτια μας. Τρεις κινεζικές εταιρείες – η Quectel, η Fibocom και η China Mobile - κατέχουν περισσότερο από το 50% της παγκόσμιας αγοράς. Η έκθεση καταλήγει στο συμπέρασμα ότι «η διάχυτη παρουσία κινεζικών μονάδων IoT στα συστήματα και τις διαδικασίες μας συνιστά [ακόμη] μεγαλύτερη απειλή [ασφάλειας] από ό,τι το να βασιζόμαστε σε κινεζικές εταιρείες για το 5G» [OODA].

Η έκθεση της OODA ολοκληρώνεται με ένα κάλεσμα για δράση «Είναι ώρα να ξυπνήσουμε. Οι ελεύθερες και ανοιχτές χώρες θα πρέπει να απαγορεύσουν από τις αλυσίδες εφοδιασμού τους εξαρτήματα του Διαδικτύου των Πραγμάτων που έχουν κατασκευαστεί στην Κίνα το συντομότερο δυνατό». Η Αλίσια Κερνς, πρόεδρος της Επιτροπής Εξωτερικών Υποθέσεων του Βρετανικού Κοινοβουλίου, έχει επανειλημμένα τονίσει τους σοβαρούς κινδύνους ασφάλειας που εγκυμονεί η εξάρτηση από την κινεζική τεχνολογία για την εθνική ασφάλεια, ακόμη και για τη φυσική ασφάλεια του πρωθυπουργού του Ηνωμένου Βασιλείου [Times].

Στις αρχές του 2008, μήνες πριν από τη ρωσική εισβολή στη Γεωργία, έξι χρόνια πριν από την πρώτη εισβολή της Ρωσίας στην Ουκρανία, και δέκα χρόνια πριν από τη χρήση χημικών όπλων από στελέχη των ρωσικών μυστικών υπηρεσιών στο Σώλσμπερι της Βρετανίας, ο Έντουαρντ Λούκας έγινε ο πρώτος δημοσιογράφος στη Δύση που μίλησε τεκμηριωμένα περί ενός Νέου Ψυχρού Πολέμου μεταξύ της Ρωσίας του Πούτιν και της Δύσης. Σε ένα πρόσφατο άρθρο του, ο Έντουαρντ Λούκας υπογραμμίζει την απειλή που θέτει η κινεζική κυριαρχία στο Διαδίκτυο των Πραγμάτων για τον τρόπο ζωής μας, και που κάνει τον Ψυχρό Πόλεμο με τη Ρωσία του Πούτιν να μοιάζει με επιτραπέζιο παιχνίδι:

«[Ένα Διαδίκτυο των Πραγμάτων υπό τον έλεγο της Κίνας] θα έβλαπτε την εθνική ασφάλεια, την ευημερία, την ιδιωτική ζωή και τα ανθρώπινα δικαιώματα. Στην πιο δραματική του περίπτωση, αυτό θα μπορούσε να σημαίνει ότι οι Κινέζοι αξιωματούχοι έχουν τη δύναμη να υποβαθμίζουν ή να σαμποτάρουν κρίσιμες υποδομές στη Δύση. Θα μπορούσε να δώσει στους λήπτες αποφάσεων στο Πεκίνο πρόσβαση σε πνευματική ιδιοκτησία και σε σωρεία προσωπικών πληροφοριών. Η πρόσβαση σε ψηφιακές συσκευές όπως έξυπνα ηχεία, έξυπνοι μετρητές, η εσωτερική λειτουργία των αυτοκινήτων ή ακόμα και των ψυγείων θα μπορούσε να χρησιμοποιηθεί για τη δημιουργία μιας λεπτομερούς εικόνας της ζωής και της συμπεριφοράς ενός ατόμου. Χρησιμοποιώντας την τεχνητή νοημοσύνη και τη μηχανική μάθηση - δύο ακόμη τομείς στους οποίους η Κίνα προχωρά - αυτά τα δεδομένα μπορούν να τεμαχιστούν, να κοσκινιστούν και να συγκριθούν, δημιουργώντας σημαντικές πληροφορίες όχι μόνο για τα άτομα αλλά και για τα κοινωνικά και επαγγελματικά δίκτυα στα οποία αυτά ζουν. Αυτό το γιγάντιο πρόγραμμα διείσδυσης στηρίζει τις μακροχρόνιες προσπάθειες του Κομμουνιστικού Κόμματος της Κίνας να παρακολουθεί οποιονδήποτε εντός των δυτικών κυβερνήσεων μπορεί να αποτελέσει απειλή» [Times].

Όπως θα δούμε σε επόμενο κείμενο, η εκστρατεία διείσδυσης και επιρροής της Κίνας στη Δύση δεν εξαντλείται στις ψηφιακές εφαρμογές. Κατάσκοποι, διπλωμάτες, επενδυτές, ακαδημαϊκοί και φοιτητές λειτουργούν κι αυτοί ως Δούρειοι Ίπποι ενός ολοκληρωτικού καθεστώτος.

ΣΥΝΕΧΙΖΕΤΑΙ

* * *

Η έρευνα που παρουσιάζουμε είναι δευτερογενής∙ βασίζεται δηλαδή σε αποδελτίωση Τύπου και συλλογή, διασταύρωση, αξιολόγηση και σύνθεση στοιχείων που έχουν ήδη δημοσιευτεί σε διεθνή μέσα, ερευνητικά ινστιτούτα, δεξαμένες σκέψεις, διεθνείς, κυβερνητικούς και μη κυβερνητικούς οργανισμούς κλπ.

Αν και έχουμε καταβάλλει κάθε προσπάθεια για την διασταύρωση των πληροφοριών που συμπεριλάβαμε, η ερευνητική και συντακτική ομάδα και η Athens Voice δεν φέρουν καμία ευθύνη για την ακρίβεια των στοιχείων που παρουσιάζονται. Κάθε στοιχείο συνοδεύεται ενδεικτικά από αντίστοιχες πηγές ώστε οι αναγνώστες να μπορούν, αν θέλουν, να μελετήσουν τις πληροφορίες και να κάνουν τη δική τους αξιολόγηση.

* * *

Μια έρευνα σε συνεργασία με φοιτητές δημοσιογραφίας, πολιτικής, και επικοινωνίας & ΜΜΕ στο Πανεπιστήμιο του Bournemouth.

Συντονισμός έρευνας και αρχισυνταξία: Ρωμανός Γεροδήμος

Συντακτική και ερευνητική ομάδα: Oliver Ferris, Martyna Ivanauskaite, Saga Oskarson Kindstrand, Freya Griffiths, Sophie Harris, Hannah Knight

Με την υποστήριξη του Τμήματος Επικοινωνίας και Δημοσιογραφίας και του Centre for the Study of Conflict, Emotion & Social Justice στο Πανεπιστήμιο του Bournemouth.

 

Δειτε περισσοτερα