Εσύ εμπιστεύεσαι την ψηφιακή σου βοηθό;

Μία μέρα του 2017, η ψηφιακή βοηθός Alexa έγινε άτακτη. Όταν ο Martin Josephson, που ζει στο Λονδίνο, γύρισε σπίτι του από τη δουλειά, άκουσε την Amazon Echo Dot ψηφιακή βοηθό του να αραδιάζει αποσπασματικές εντολές, βασισμένη όπως φαίνεται σε προηγούμενες αλληλεπιδράσεις του με τη συσκευή. Έμοιαζε να επαναλαμβάνει αιτήματα για κλείσιμο εισιτηρίων για ταξίδια που ήδη είχε κάνει και για να γραφτούν τηλεοπτικές εκπομπές που ήδη είχε παρακολουθήσει. Ο Josephson δεν είπε την λέξη αφύπνισης – «Alexa» - για να την ενεργοποιήσει και ό,τι κι αν έλεγε δεν σταματούσε. Ήταν, περιγράφει, «Καφκικό».

Αυτό ήταν ιδιαίτερα ενδιαφέρον καθώς ο Josephson (δεν είναι το πραγματικό του όνομα) είναι πρώην υπάλληλος της Amazon. Τρία χρόνια νωρίτερα, είχε καθίσει εθελοντικά σε ένα δωμάτιο λέγοντας μία σειρά φαινομενικά ακατανόητων φράσεων σε ένα μικρόφωνο για απόρρητους σκοπούς. Μόνο όταν η Amazon κυκλοφόρησε την Echo στις ΗΠΑ το 2014 συνειδητοποίησε πάνω σε τι είχε δουλέψει. Αγόρασε μία Dot, το φτηνότερο και μικρότερο μοντέλο της Echo, αφότου βγήκε το 2016 και την θεωρούσε αρκετά χρήσιμη μέχρι τη μέρα που τρελάθηκε. Όταν το ξέσπασμα της Dot υποχώρησε, την έβγαλε από την πρίζα και την πέταξε στα σκουπίδια. «Ένιωσα λίγο ανόητος», λέει. «Έχοντας δουλέψει στην Amazon και έχοντας δει πώς χρησιμοποιούσαν τα δεδομένα των ανθρώπων, ήξερα ότι δεν έπρεπε να τους εμπιστευτώ».

Η Dot δεν θα έπρεπε να λειτουργεί σαν ένας λοχίας εκμαίευσης δεδομένων. Βέβαια, οι ψηφιακοί βοηθοί συχνά κάνουν πράγματα που δεν θα έπρεπε. Πέρσι, ένα πελάτης της Amazon στη Γερμανία έλαβε κατά λάθος 1.700 αρχεία ήχου από την Echo κάποιου άλλου, τα οποία παρείχαν αρκετές πληροφορίες ώστε να μπορεί να ονομάσει και να τοποθετήσει τον άτυχο χρήστη και την κοπέλα του. (Η Amazon απέδωσε αυτό το «ατυχές παραστράτημα» σε ανθρώπινο λάθος.)

Στο Σαν Φρανσίσκο, ο Shawn Kinnear υποστήριξε πως η Echo του ενεργοποιήθηκε μόνη της και είπε εύθυμα: «Κάθε φορά που κλείνω τα μάτια μου, το μόνο που βλέπω είναι άνθρωποι που πεθαίνουν». Στο Πόρτλαντ του Όρεγκον, μία γυναίκα ανακάλυψε ότι η Echo της πήρε την πρωτοβουλία να στείλει ηχογραφήσεις ιδιωτικών της συζητήσεων σε έναν υπάλληλο του άντρα της. Σε ανακοίνωση, η Amazon ανέφερε ότι η Echo πρέπει λανθασμένα να άκουσε την λέξη αφύπνισης, το αίτημα να στείλει μήνυμα, ένα όνομα στη λίστα επαφών της και τελικά μία επιβεβαίωση να στείλει το μήνυμα, όλα αυτά στη διάρκεια μία συζήτησης για πατώματα από μασίφ. Δεν τα έχεις πάει πολύ καλά, Alexa.

Η τεχνολογία συχνά γεννάει την αμφιβολία: ξέρουμε ότι το Facebook και η Google γνωρίζουν υπερβολικά πολλά για εμάς, ωστόσο συνεχίζουμε να χρησιμοποιούμε τις υπηρεσίες τους, γιατί είναι υπερβολικά βολικές. Οι ψηφιακοί βοηθοί, όμως, προκαλούν ασυνήθιστη πόλωση. Οι άνθρωποι, που τις θεωρούν αμαρτωλές και παρεμβατικές, αντιμετωπίζουν τους πιο ενθουσιώδεις ως αυτάρεσκους, ενώ εκείνοι που τις θεωρούν χρήσιμες και αγαθές βλέπουν τους σκεπτικιστές ως παρανοϊκούς τεχνοφοβικούς. Υπάρχει ένα ερώτημα φορτωμένο με μεγαλύτερα ζητήματα όσον αφορά τη σχέση μας με την τεχνολογική βιομηχανία: πρέπει να βάλεις την Alexa μέσα στο σπίτι σου;

Τον Ιανουάριο, ο αντιπρόεδρος του τμήματος συσκευών της Amazon, David Limp, αποκάλυψε ότι η εταιρεία είχε πουλήσει περισσότερες από 100 εκατομμύρια συσκευές με την δυνατότητα της Alexa. Πέρσι στις ΗΠΑ, όπου ένας στους πέντε ενήλικες έχει μία οικιακή ψηφιακή βοηθό, η Alexa κατείχε το 70% της αγοράς της χώρας, σε σύγκριση με το 24% της Google Assistant. Είναι λοιπόν η πιο πιθανή να μετατραπεί σε αυτό που η Shoshana Zuboff αποκαλεί στο bestseller της, «The Age of Surveillance Capitalism», «Μία Φωνή»: το κυρίαρχο οικοσύστημα που θα δίνει στον χειριστή του «τη δυνατότητα να προβλέπει και να υποθέτει όλες τις στιγμές όλων των ανθρώπων στη διάρκεια όλων των ημερών». Η Zuboff ονομάζει την γέννηση της Alexa «ένα γενετήσιο γεγονός».

Η Alexa, ωστόσο, έχει αναπτυχθεί σε μία εποχή αυξανόμενου σκεπτικισμού όσον αφορά τη δύναμη και την ηθική των «μεγάλων πέντε» τεχνολογικών εταιρειών: Amazon, Apple, Facebook, Google/Alphabet και Microsoft. Γεγονότα όπως οι διαρροές του Edward Snowden και το σκάνδαλο της Cambridge Analytica έχουν αμαυρώσει τις ουτοπικές υποσχέσεις της Silicon Valley. Οι διευθύνοντες σύμβουλοι είναι λιγότερο πιθανό να υποβαθμίσουν ανησυχίες για την ιδιωτικότητα. Οι δημοσιογράφοι του τεχνολογικού ρεπορτάζ είναι περισσότερο πιθανό να κατακρίνουν παρά να επευφημήσουν. Οι πολιτικοί είναι περισσότερο πρόθυμοι να κρίνουν τις εταιρείες ως υπαίτιες.

Αυτή η χρονιά ήταν ιδιαίτερα περίπλοκη. Τους τελευταίους έξι μήνες, η Bloomberg, η The Guardian, οι Vice News και το βελγικό ειδησεογραφικό κανάλι VRT έχουν σταδιακά αποκαλύψει ότι όλες οι «μεγάλες πέντε» έχουν χρησιμοποιήσει άτομα για να αναλύσουν ένα μικρό ποσοστό ηχογραφήσεων ψηφιακών βοηθών. Αν και οι ηχογραφήσεις είναι ανώνυμες, συχνά περιλαμβάνουν αρκετές πληροφορίες ώστε να ταυτοποιήσουν ή να ντροπιάσουν τον χρήστη – ειδικά αν αυτό που κρυφάκουσαν είναι κάποια απόρρητη ιατρική πληροφορία ή μία ακούσια σεξουαλική κασέτα. Οι αποκαλύψεις ήταν η σταγόνα που ξεχείλισε το ποτήρι για πολλούς σκεπτικιστές απέναντι στην Alexa. «Ζούμε σε μία τεχνολογική δυστοπία που δημιουργήσαμε μόνοι μας. Εάν έχεις ακόμα μία Alexa ή οποιαδήποτε άλλη ψηφιακή βοηθό στο σπίτι σου, έχεις προειδοποιηθεί», γράφει ο αρθρογράφος της Gizmodo, Matt Novak.

Έχοντας εργαστεί στην Amazon και σε ακόμα μία εταιρεία των «μεγάλων πέντε», ο Josephson πιστεύει ότι η αντίσταση σε αυτές τις εταιρείες είναι δικαιολογημένη. «Έχουν μηδενικό ενδιαφέρον, κατά τη γνώμη μου, όσον αφορά το αντίκτυπο που θα έχουν αυτά τα προϊόντα. Το να τους αντιμετωπίζουμε ως τους κατάλληλους ανθρώπους για να διαχειριστούν αυτή τη δύναμη είναι μία γελοία κατάσταση, την οποία δεν θα επιτρέπαμε σε καμία άλλη βιομηχανία. Ειλικρινά, δεν πρόκειται για ακίνδυνους φύλακες των δεδομένων που συλλέγουν καθημερινά εν αγνοία μας».

Ο φωνητικός έλεγχος κυριάρχησε στην φαντασία του κόσμου την δεκαετία του ’60, με τον HAL 9000, τον υπολογιστή της ταινίας «2001: Η Οδύσσεια του Διαστήματος» και τον ατέλειωτα βοηθητικό υπολογιστή του USS Enterprise στο «Star Trek». Ο τελευταίος υπήρξε βασικό σημείο αναφοράς για τις ομάδες που ανέπτυξαν την Echo της Amazon και την Google Assistant. «Το υπέρτατο κατόρθωμα, που ακόμα βρίσκεται πολλά χρόνια μακριά, πολλές δεκαετίες μακριά, είναι η δημιουργία του υπολογιστή του Star Trek», ανέφερε ο Limb σε ένα συνέδριο το 2017.

Στον πραγματικό κόσμο, η αναγνώριση φωνής δεν ήταν κοινό έδαφος μέχρι τη στιγμή που η Apple κυκλοφόρησε τη δική της ψηφιακή βοηθό κινητού, τη Siri, το 2011. Η Alexa πηγαίνει ακόμα πιο πέρα αποικώντας στα σπίτια των χρηστών. Πριν τρεις δεκαετίες, ο επιστήμονας υπολογιστών στον τομέα της πρόγνωσης, Mark Weiser, αποκάλεσε το επίπεδο αυτό οικοσύστημα «πανταχού παρούσα υπολογιστική». Το 2015, ο Eric Schmidt της Google πρόβλεψε μία εποχή που το διαδίκτυο θα αποτελεί «κομμάτι της παρουσίας μας κάθε στιγμή», μετατρέποντας την καθημερινή μας συμπεριφορά τόσο χαρτογραφημένη, όσο το τι κάνουμε στον υπολογιστή ή το κινητό μας. Δεν θα είμαστε ποτέ αποσυνδεδεμένοι.

Ο συντάκτης του Gizmodo, Adam Clarke Estes, ήταν αρχικά ενθουσιασμένος με την πρώτη τεράστια καινοτομία από την κυκλοφορία του iPad της Apple τέσσερα χρόνια νωρίτερα. Όσα περισσότερα μάθαινε για την τεχνολογία, ωστόσο, τόσο λιγότερο του άρεσε. Η δική του Echo ενεργοποιούταν αυτοβούλως. Ηχογραφήσεις άρχισαν να εμφανίζονται ως αποδεικτικά στοιχεία σε δικαστικές αίθουσες. Το FBI αρνήθηκε να επιβεβαιώσει ή να διαψεύσει ότι χρησιμοποιούσε την Alexa ως μέσο παρακολούθησης. «Μου γινόταν όλο και πιο ξεκάθαρο ότι οι φύλακες της ιδιωτικότητας είχαν δίκιο», λέει. «Είναι, στη βάση της, μία συσκευή υποκλοπών».

Οι ψηφιακοί βοηθοί αποτελούν την επιτομή της έντασης μεταξύ αποδοτικότητας και ιδιωτικότητας. Η τεχνολογία είναι ακόμα τρομερά ατελής: σε περισσότερες από μία στις 10 μεταγραφές που ανέλυσε μία πηγή της Bloomberg, η Alexa ενεργοποιήθηκε κατά λάθος. Η ακριβής ερμηνεία φωνητικών εντολών, που θα συνυπολογίζει διαφορετικές γλώσσες, προφορές, τόνους, περιβάλλοντα και βαθμούς περιβάλλοντα θορύβου, απαιτεί πολύ μεγαλύτερη υπολογιστική δύναμη από αυτήν που μία συσκευή μπορεί να χωρέσει. Επομένως, η περισσότερη δουλειά γίνεται στο Cloud, από όπου οι άνθρωποι που παρακολουθούν μπορούν να συλλέξουν και να αναλύσουν φωνητικές ηχογραφήσεις. «Χτίζετε μία υποδομή που αργότερα μπορεί να συν-χρησιμοποιηθεί με ανεπιθύμητους τρόπους από συσκευές παρακολούθησης μεγάλων πολυεθνικών και κρατών και να εκτεθεί σε κακοήθεις χάκερ», λέει ο Δρ. Michael Veale, λέκτορας των διαδικτυακών δικαιωμάτων και κανονισμών στη Νομική Σχολή του University College London.

Δεν είναι όλες οι ψηφιακές βοηθοί το ίδιο. Η Apple, της οποίας τα κέρδη δεν βασίζονται πρωτευόντως στη συλλογή δεδομένων, χρησιμοποιεί περισσότερη κρυπτογράφηση και υπολογιστική διπλής οδού εντός των συσκευών. «Η Apple είναι η καλύτερη στον τομέα της ιδιωτικότητας», λέει ο Estes. «Την ίδια στιγμή, νομίζω πως όλοι συμφωνούν ότι η Siri είναι χάλια». Η Echo της Amazon και η Google Assistant είναι περισσότερο λειτουργικά αξιόπιστες γιατί τα εταιρικά μοντέλα αυτών των εταιρειών βασίζονται στο να γνωρίζουν όσα περισσότερα γίνεται για εσένα, ώστε να σε κάνουν στόχο της εξατομικευμένης διαφήμισης. Τους αρέσει να παρουσιάζουν της συλλογή δεδομένων ως το μέσο για τη βελτίωση των υπηρεσιών τους, ενώ παίζονται τεράστια διαφημιστικά οφέλη.       

Η Google και η Amazon θα μπορούσαν, φυσικά, να επιλέξουν να βελτιώσουν την τεχνολογία πληρώνοντας ανθρώπους να την τεστάρουν – το είδος της δουλειάς που ο Josephson έκανε το 2012 – αντί να αντιμετωπίζουν του πελάτες τους ως μία δωρεάν βάση έρευνας και ανάπτυξης δεδομένων. Ή θα μπορούσαν να προωθήσουν το γεγονός ότι κάποιοι μελετάνε τις ηχογραφήσεις τους. «Θα έπρεπε να αναγράφεται στο κουτί», λέει ο Δρ. Jeremy Gillula, ο διευθυντής προγράμματος της Electronic Frontier Foundation, μίας ομάδας που κάνει εκστρατείες ενάντια στην κατάχρηση της τεχνολογίας. Η ερμηνεία των κινήτρων των τεχνολογικών εταιρειών ως γενναιόδωρα είναι ένας απρόσεκτος ουτοπισμός, αλλά ο Gillula αναφέρει ότι εάν ήταν πράγματι αφελείς όσον αφορά τις επιπτώσεις της τεχνολογίας τους, τότε δεν θα έκαναν τόσες προσπάθειες να τις αποκρύψουν. «Αμφιβάλω ότι πίστευαν πως κανένας δεν θα νοιαζόταν. Νομίζω ότι προσπάθησαν να το κρατήσουν κρυφό, διότι αν οι χρήστες γνώριζαν τι συμβαίνει ίσως σταματούσαν να αγοράζουν τις συσκευές τους. Ήταν μία υπολογισμένη επιχειρηματική απόφαση».

Ως απάντηση, ένας εκπρόσωπος τύπου της Amazon αναφέρει: «Η εμπιστοσύνη των πελατών βρίσκεται στο κέντρο όσων κάνουμε και αντιμετωπίζουμε την ιδιωτικότητα των πελατών μας με μεγάλη σοβαρότητα. Αξιολογούμε συνεχώς τις πρακτικές και τις διαδικασίες μας, ώστε να βεβαιωθούμε ότι παρέχουμε στους πελάτες μας τις καλύτερες εμπειρίες και επιλογές ιδιωτικότητας. Παρέχουμε στους πελάτες πολλούς τρόπους ελέγχου της ιδιωτικότητας, συμπεριλαμβανομένης της δυνατότητας αξιολόγησης και διαγραφής των φωνητικών τους ηχογραφήσεων. Για να βοηθήσουμε στη βελτίωση της Alexa, αξιολογούμε χειροκίνητα ένα εξαιρετικά μικρό δείγμα των αιτημάτων στην Alexa, ώστε να επιβεβαιώσουμε ότι κατανόησε και ανταποκρίθηκε σωστά. Οι πελάτες μπορούν να επιλέξουν να μην συμπεριλαμβάνονται οι φωνητικές τους ηχογραφήσεις στην διαδικασία αξιολόγησης».

Ωστόσο, κατά καιρούς έχει επαναλαμβανόμενα φανεί, μέσα από τις διαφημίσεις τους και την έξυπνη χρήση των λέξεων στην πολιτική απορρήτου τους, ότι οι τεχνολογικές εταιρείες έχουν τη συνήθεια να κρατάνε κρυφά το μέγεθος και την φύση της συλλογής δεδομένων τους. «Το Google και η Amazon μας έχουν δείξει ότι τείνουν να παίρνουν όσα περισσότερα γίνεται μέχρι κάποιος να τους πιάσει επ’ αυτοφώρω», λέει ο Estes. «Σιχαίνομαι να γίνομαι δραματικός, αλλά δεν νομίζω ότι θα νιώσουμε ποτέ ασφαλείς από τις πρακτικές συλλογής δεδομένων τους. Οι κυβερνητικοί κανονισμοί είναι το μόνο πράγμα που θα παύσει την ζημιά».

Η αμερικανική κυβέρνηση έχει φανεί απρόθυμη να δράσει. Τον Ιούλιο του 2015, το Electronic Privacy Information Center (EPIC), μία ΜΚΟ με δράση χρόνων, που έχει αφιερωθεί στις «δημοκρατικές αξίες στην εποχή των πληροφοριών», ζήτησε μία έρευνα για τις πάντα ανοιχτές συσκευές, συμπεριλαμβανομένων και των ψηφιακών βοηθών. Ακόμα δεν έχει λάβει απάντηση. «Λύσεις βασισμένες στην αγορά δεν λειτουργούν στην εποχή μας, καθώς έχει επιτραπεί στις εταιρείες να αποκρύπτουν τα ελαττώματα των προϊόντων τους», λέει ο Marc Rotenberg, υποδιευθυντής της EPIC. Προσθέτει: «Εάν εσύ ή εγώ τοποθετούσαμε στο σπίτι κάποιου άλλου μία συσκευή με την δυνατότητα καταγραφής των ιδιωτικών του συζητήσεων, θα παραβαίναμε το Ομοσπονδιακό Νομοθέτημα Υποκλοπής».

Τον Ιούλιο, ένα Δημοκρατικό μέλος του κογκρέσου, ο Seth Moulton, έφερε το Αυτόματο Νομοθέτημα Ακουστικής Εκμετάλλευσης, που θα τιμωρούσε εταιρείες των οποίων οι ψηφιακοί βοηθοί και τα έξυπνα κουδούνια (όπως το Ring της Amazon) καταγράφουν συζητήσεις χωρίς άδεια, αλλά ο Gillula το θεωρεί «αρκετά αδύναμη νομοθεσία». Στην Ευρώπη, η οποία έχει μία από πρώτο χέρι πικρή εμπειρία μαζικής παρακολούθησης από ολοκληρωτικά καθεστώτα, οι νομοθέτες έχουν βγάλει περισσότερο ακονισμένα τα νύχια τους. Πρόσφατα, ο Johannes Caspar, ο δεινός επίτροπος του Αμβούργου για την προστασία δεδομένων, ανάγκασε το Google να διακόψει την μεταγραφή των φωνητικών ηχογραφήσεων σε όλη την Ευρωπαϊκή Ένωση, ενώ η Apple και το Facebook έπαυσαν αμέσως την μεταγραφή σε όλο τον κόσμο. (η Amazon απλά επέτρεψε στους χρήστες να απενεργοποιούν την παρακολούθησή τους.) Το Information Commissioner’s Office του Ηνωμένου Βασιλείου ερευνά εάν η ανθρώπινη επίβλεψη παραβιάζει τον GDPR. «Έχουμε σημαντική νομοθεσία σε αυτή την περιοχή ήδη, αλλά το κλειδί είναι η ενδυνάμωση», λέει ο Veale. «Όπως όλες οι σχετικές με την προστασία δεδομένων ευρωπαϊκές αρχές, το Information Commissioner’s Office είναι υπο-χρηματοδοτούμενο και με πολλές αρμοδιότητες και χρειάζονται σημαντικές επενδύσεις και υποστήριξη ώστε να προστατεύσουν τα βασικά δικαιώματα των πολιτών τους».

Χωρίς αποτελεσματικές νομοθεσίες, δεν υπάρχει καμία άμυνα ενάντια στην ακόμα παρεμβατικότερη εκμετάλλευση των ψηφιακών βοηθών. Εξ ορισμού πάντα ανοιχτές, ακόμα και όταν είναι απενεργοποιημένες, οι συσκευές συνεχώς ακούνε, αν και δεν αναμεταδίδουν πάντα. O Gillula λέει ότι δεν υπάρχουν τεχνικά εμπόδια στην δυνατότητα των απενεργοποιημένων συσκευών, για παράδειγμα, να εντοπίζουν τι παρακολουθούν στην τηλεόραση οι χρήστες, ανταποκρινόμενες σε σήματα υψηλής συχνότητας που είναι ενσωματωμένα στις εκπομπές και τις διαφημίσεις, ή να ταυτοποιούν ποιος βρίσκεται στο σπίτι οποιαδήποτε στιγμή. «Αυτό ουσιαστικά αποτελεί μία συνεχόμενη παρακολούθηση», λέει ο Gillula. «Ελπίζω ότι οι εταιρείες δεν θα ακολουθήσουν ποτέ αυτό το δυστοπικό μονοπάτι, αλλά μπορώ να τις φανταστώ να λένε: “Α, μία λειτουργία: να ξέρεις πότε είναι τα παιδιά σου σπίτι!”. Μία ελκυστική λειτουργία είναι ο τρόπος με τον οποίο ξεκινάνε τα περισσότερα από αυτά τα πράγματα».    

Το πού καταλήγουν έχει κινητοποιήσει όχι μόνο τους φύλακες της ιδιωτικότητας, αλλά και συγγραφείς. Οι δυστοπικές επιπτώσεις των ψηφιακών οδηγών εμφανίζονται στην επιστημονική φαντασία, συμπεριλαμβανομένης της ταινίας του Spike Jonze «Her», του «Black Mirror» και του «Years and Years». Από πίσω τους διαφαίνεται το «άυπνο αυτί» της τηλεοθόνης του George Orwell στο «1984»: «Έπρεπε να ζεις – πραγματικά ζούσες, από συνήθεια που είχε καταλήξει να γίνει ένστικτο – με την προϋπόθεση ότι κάθε ήχος που έβγαζες ακουγόταν». Η Echo Show, μία έξυπνη βοηθός με οθόνη και κάμερα είχε συγκριθεί σε μεγάλο βαθμό με την τηλεοθόνη όταν παρουσιάστηκε πριν δύο χρόνια. «Alexa, δείξε μου τη δυστοπία», αστειεύτηκε η Vice. Στο σατιρικό μυθιστόρημα της Joanna Kavenna, «Zed», η συγγραφέας εξερευνά την «περίεργη δυσλειτουργική πλευρά του υπηρέτη» των ψηφιακών βοηθών (που όλες έχουν θηλυκές φωνές ως προκαθορισμένη ρύθμιση) και τις κοινωνικοπολιτικές συνέπειες της Μίας Φωνής: στο «Zed», το τεχνολογικό μονοπώλιο, η Beetle, είναι πανταχού παρόν και ανεξήγητο. «Η δημοκρατική ιδέα είναι ότι θα πρέπει να έχουμε διαφανείς εταιρείες και κυβερνήσεις, τη στιγμή που οι άνθρωποι διατηρούν την ιδιωτικότητά τους», λέει. «Έχουμε το ανάποδο. Οι άνθρωποι αισθάνονται άβολα γιατί δεν συζητιέται σε ένα ώριμο, δημοκρατικό επίπεδο».

Η Kavenna ανησυχεί ότι, αντί της θέσπισης νομοθεσίας για την προστασία της ιδιωτικότητας του χρήστη, οι ΗΠΑ θα επιδιώξουν την πρόσβαση στις ηχογραφήσεις των ψηφιακών βοηθών με την πρόφαση της αποτροπής εγκλημάτων και της εθνικής ασφάλειας. Πέρσι, ένας δικαστής στο Νέο Χαμσάιρ μπήκε στα εξώφυλλα των εφημερίδων όταν διέταξε την Amazon να καταθέσει τις ηχογραφήσεις της Echo για έναν διπλό φόνο στους ερευνητές. «Τους τοποθετεί σε μία πολύ περίπλοκη θέση ανάμεσα στους πελάτες τους και την κυβέρνηση», λέει η Kavenna. «Εξαρτόμαστε αρκετά από το πολιτικό κράτος».

Ο Rotenberg συμφωνεί: «Αν είσαι μία απολυταρχική χώρα, γιατί να μην παραδόσεις τα ηχητικά αρχεία απευθείας στην κυβερνητική υπηρεσία παρακολούθησης, υποστηρίζοντας ότι το κάνεις για την μείωση της εγκληματικότητας στην πατρίδα; Είναι τρομαχτικό να το σκέφτεσαι, αλλά δυνατό».

Σήμερα, οι ψηφιακοί βοηθοί δεν αποτελούν την μεγαλύτερη απειλή της ιδιωτικότητας, μόνο και μόνο γιατί είναι προαιρετικές. Ένα σκάνερ αναγνώρισης προσώπου μπορεί να σε κατασκοπεύσει σε δημόσιους χώρους, αλλά η Alexa, σαν ένα βαμπίρ, πρέπει να προσκληθεί μέσα στο σπίτι σου. Η μόνη πραγματική δύναμη που έχεις για να περιορίσεις αυτή την τεχνολογία είναι το να μην τη χρησιμοποιήσεις. Ωστόσο, το να κάνεις αυτή την επιλογή βάσει των πληροφοριών διακυβεύεται από το παραπλανητικό μάρκετινγκ και υποβαθμίζεται από τις προσπάθειες της Amazon να ενσωματώσει την Alexa σε αμέτρητα προϊόντα, όπως αυτοκίνητα, τηλεοράσεις, ακουστικά, φούρνους μικροκυμάτων, θερμοστάτες και ρολόγια, τη στιγμή που υπογράφει συμφωνίες με οικοδομητικές εταιρείες και αλυσίδες ξενοδοχείων, έχοντας ως τελικό στόχο να γίνει η Μία Φωνή. «Ο φωνητικός έλεγχος επιβάλλεται στους πελάτες είτε το θέλουν είτε όχι», λέει ο Estes.

Δεν έχουμε φτάσει ακόμα σε αυτό το σημείο. Οι τεχνολογικές εταιρείες βασίζονται στην αφήγηση του τεχνολογικού αναπόφευκτου για να καλύψουν τις επιχειρηματικές τους αποφάσεις και την πιθανότητα άλλων μοντέλων. Το να τους προκαλέσεις είναι σαν να πολεμάς το μέλλον. Ανοησίες, λέει η Kavenna. «Είναι μία αναπόφευκτη συνέπεια της τεχνολογίας; Όχι, είναι μία ιδεολογική εφαρμογή της τεχνολογίας. Εάν χτίσεις ένα σπίτι, δεν χρειάζεται να χτίσεις και ένα πανοπτικό. Δεν χρειάζεται να είναι αυτό που έχουμε τώρα. Συχνά ισχυρίζονται ότι εάν του εναντιωθείς, είσαι νέο-λουδιστής. Αυτή η αφήγηση έχει επιτρέψει σε πολλούς ανθρώπους να γίνουν εκπληκτικά πλούσιοι».

Κανένας από αυτούς τους ανθρώπους δεν έχει μία οικιακή ψηφιακή βοηθό, ούτε θα συμβούλευαν κάποιον να αποκτήσει, αλλά όλοι συμφωνούν ότι θα ήταν πιθανό να δημιουργηθεί μία συσκευή που προσφέρει όλες τις δημοφιλείς τους υπηρεσίες, σεβόμενη παράλληλα την ιδιωτικότητα του χρήστη. Εάν ολόκληρη η βιομηχανία ακολουθούσε το παράδειγμα της Apple, κάνοντας την παρακολούθηση εσωτερική και όχι εξωτερική επιλογή, θα ήταν μία καλή αρχή. Στη συνέχεια, καθώς η δύναμη επεξεργασίας αυξάνεται, περισσότερες λειτουργίες θα μπορούσαν να πραγματοποιηθούν εντός της συσκευής. Αλλά, φυσικά, θα σήμαινε την στέρηση αυτών πικάντικών, προσοδοφόρων δεδομένων. «Πολλά πράγματα που πραγματικά θέλεις να κάνεις δεν απαιτούν διαδίκτυο και μόλις αποκόψεις την πρόσβαση του Cloud, αμέσως οι ανησυχίες για την ιδιωτικότητα εξατμίζονται», λέει ο Estes. «Υπάρχει πάντα η πιθανότητα τα πράγματα να βελτιωθούν – και θα υπάρχει πάντα ένας αγώνας για να φτάσουμε σε αυτό το σημείο».

Ο Jeremh Gillula είναι τόσο πεπεισμένος ότι μία ασφαλής και πλήρως διαχειρίσιμη από τον χρήστη ψηφιακή βοηθός είναι δυνατή, ώστε να σχεδιάζει το δικό του, ανοιχτό λογισμικό.

«Πλησιάζω», λέει εύθυμα. «Δεν είμαι 100% ικανοποιημένος ακόμα, αλλά θα αναβοσβήνει τα φώτα».       

Το άρθρο αρχικά δημοσιεύτηκε στη The Guardian.
Επιμέλεια: Νικολέττα Σταμάτη