Eλάχιστοι άνθρωποι καταλαβαίνουν σήμερα πώς λειτουργούν οι αλγόριθμοι και ένα τεράστιο ψηφιακό χάσμα δημιουργείται
Με τον καιρό κάθε πτυχή της ζωής μας επηρεάζεται από αλγόριθμους τεχνητής νοημοσύνης. Από την επιλογή ποιας διαδρομής θα ακολουθήσουμε για να πάμε στη δουλειά μας, για να αποφασίσουμε με ποιον θα βγούμε ραντεβού, για να αντιμετωπίσουμε σύνθετα νομικά και ιατρικά θέματα. Μεγάλες εταιρείες τεχνολογίας όπως η Google και το Facebook χρησιμοποιούν την τεχνητή νοημοσύνη για να βγάλουν συμπεράσματα από την τεράστια συλλογή προσωπικών δεδομένων που έχουν για όλους μας. Αυτό τους επιτρέπει να έχουν κέρδη από τις συλλογικές καταναλωτικές προτιμήσεις των χρηστών μέσω πρακτικών όπως η μικρο-στόχευση, μια στρατηγική που χρησιμοποιούν οι διαφημιζόμενοι για να στοχεύουν συγκεκριμένα σύνολα χρηστών. Παράλληλα, πολλοί άνθρωποι εμπιστεύονται πλέον πλατφόρμες και αλγόριθμους περισσότερο από τις κυβερνήσεις τους και την κοινωνία των πολιτών. Όλο και πιο πολλές μελέτες δείχνουν ότι οι άνθρωποι επιδεικνύουν με τα χρόνια «αλγοριθμική προτίμηση», δίνουν μεγαλύτερη βάση σε συμβουλές και οδηγίες όταν είναι από αλγόριθμο παρά από άνθρωπο.
Στο παρελθόν, οι ειδικοί ανησυχούσαν για το «ψηφιακό χάσμα» μεταξύ εκείνων που μπορούσαν να έχουν πρόσβαση στους υπολογιστές και το διαδίκτυο και σε αυτούς που δεν μπορούσαν. Τα νοικοκυριά με λιγότερη πρόσβαση στις ψηφιακές τεχνολογίες βρίσκονται σε μειονεκτική θέση όσον αφορά την ικανότητά τους να κερδίζουν χρήματα και να συσσωρεύουν δεξιότητες. Όμως, καθώς οι ψηφιακές συσκευές πολλαπλασιάζονται, το χάσμα δεν θα αφορά πλέον μόνο την πρόσβαση. Θα αφορά το πως αντιμετωπίζουμε την υπερπροσφορά πληροφοριών και την πληθώρα των αλγοριθμικών αποφάσεων που αφορούν κάθε πτυχή της ζωής μας. Ισχύει το εξής οξύμωρο: οι καταναλωτές που θα έχουν τις λιγότερες γνώσεις θα βασίζονται όλο και περισσότερο σε αλγόριθμους που καθοδηγούν τις αποφάσεις τους γιατί δεν θα μπορούν να κάνουν αλλιώς.
Ο κύριος λόγος για το νέο ψηφιακό χάσμα είναι ότι ελάχιστοι άνθρωποι καταλαβαίνουν πώς λειτουργούν οι αλγόριθμοι. Για την πλειοψηφία των χρηστών, οι αλγόριθμοι θεωρούνται ένα μαύρο κουτί. Οι αλγόριθμοι παίρνουν τα δεδομένα, τα ταιριάζουν σε ένα μαθηματικό μοντέλο και κάνουν προβλέψεις. Από τα τραγούδια που μας αρέσουν, μέχρι πόσα χρόνια πρέπει κάποιος να περάσει στη φυλακή. Τα μαθηματικά μοντέλα αναπτύσσονται και τροποποιούνται με βάση προηγούμενα δεδομένα και την επιτυχία προηγούμενων μοντέλων. Οι περισσότεροι άνθρωποι - ακόμη και οι ίδιοι οι σχεδιαστές των αλγορίθμων πολλές φορές - δεν ξέρουν τι συμβαίνει πραγματικά μέσα στο μοντέλο. Οι ερευνητές ανησυχούν εδώ και καιρό για την αλγοριθμική δικαιοσύνη. Για παράδειγμα, ένα αυτόματο εργαλείο προσλήψεων της Amazon κατέληξε να απορρίπτει τις υποψήφιες γυναίκες δείχνοντας σιωπηρά προτίμηση σε λέξεις που οι άντρες είναι πιο πιθανό να χρησιμοποιήσουν στην καθημερινή τους ομιλία. Άλλες μελέτες έχουν δείξει ότι οι δικαστικοί αλγόριθμοι είναι φυλετικά προκατειλημμένοι, καταδικάζοντας τους φτωχούς μαύρους κατηγορούμενους περισσότερο από άλλους.
Στο πλαίσιο του πρόσφατα εγκεκριμένου Κανονισμού Γενικής Προστασίας Δεδομένων (GDPR) στην Ευρωπαϊκή Ένωση, οι πολίτες έχουν το «δικαίωμα στην εξήγηση» των κριτηρίων που χρησιμοποιούν οι αλγόριθμοι στις αποφάσεις τους. Αυτή η νομοθεσία αντιμετωπίζει τη διαδικασία της αλγοριθμικής λήψης αποφάσεων όπως ένα βιβλίο συνταγών. Η σκέψη είναι ότι εάν κατανοήσουμε τη συνταγή, μπορούμε να καταλάβουμε πώς ο αλγόριθμος επηρεάζει τη ζωή μας. Αρκετοί ερευνητές της τεχνητής νοημοσύνης επίσης παλεύουν για αλγορίθμους που να είναι δίκαιοι, κοινωνικά υπεύθυνοι, διαφανείς και να δίνουν εξηγήσεις. Πράγμα που σημαίνει ότι πρέπει να φτάνουν στις αποφάσεις τους μέσω διαδικασιών που ο άνθρωπος μπορεί να καταλάβει και να εμπιστευτεί.
Αλλά η διαφάνεια δεν είναι πανάκεια. Ακόμη και όταν η συνολική διαδικασία ενός αλγορίθμου έχει σκιαγραφηθεί, οι λεπτομέρειες μπορεί να είναι ακόμα πολύ περίπλοκες για να κατανοηθούν από τους χρήστες. Η διαφάνεια θα βοηθήσει μόνο τους χρήστες που είναι αρκετά εκπαιδευμένοι. Ο Μπεν Μπερνάνκε, ο πρώην πρόεδρος της Ομοσπονδιακής Τράπεζας της Αμερικής, ήταν θύμα των αλγορίθμων. Το 2014 ένα αυτοματοποιημένο σύστημα αρνήθηκε να του δώσει αναχρηματοδότηση της υποθήκης του. Τα περισσότερα άτομα που υποβάλλουν παρόμοια αίτηση δεν θα καταλάβουν πώς οι αλγόριθμοι καθορίζουν την πιστοληπτική τους ικανότητα. Το νέο άγχος της εποχής μας είναι το αλγοριθμικό. Θα οφείλεται στη μεγάλη ανισορροπία ισχύος μεταξύ των πλατφορμών που αναπτύσσουν και χρησιμοποιούν αλγόριθμους και των χρηστών που τις χρησιμοποιούν και εξαρτώνται από αυτές. Η μεγάλη πλειοψηφία των πλατφορμών δεν παρέχει στους τελικούς χρήστες το δικαίωμα να επιλέξουν τον τρόπο με τον οποίο χρησιμοποιούν τις προτιμήσεις τους για να τους δείξουν ειδήσεις και διαφημίσεις.
Η απαλλαγή από την αλγοριθμική επίβλεψη θα είναι μια νέα πολυτέλεια, ένα σύμβολο ευημερίας μόνο για τους λίγους. Το ερώτημα είναι πως θα βοηθήσουμε αυτούς που βρίσκονται στη λάθος πλευρά του νέου ψηφιακού χάσματος.
8°
