Τι είναι η agentic AI, οι απειλές για την ιδιωτικότητα, την κυβερνοασφάλεια και τον ανταγωνισμό και η προειδοποίηση της πρόεδρου του Signal, Μέριντιθ Γουίτεϊκερ.
Στα εργαστήρια της Silicon Valley εξελίσσεται μια μάχη χωρίς προηγούμενο. Οι πάντες βιάζονται ποιος θα παρουσιάσει –και θα ρίξει στην αγορά– πρώτος το νέο κύμα «agentic AI». Τι είναι αυτό; Ψηφιακοί πράκτορες που υπόσχονται να κάνουν για εμάς από κρατήσεις σε εστιατόρια μέχρι πληρωμές. Το πλάνο βασίζεται σε μια επικίνδυνη υπόθεση: την πλήρη πρόσβαση σε κάθε πτυχή της ψηφιακής μας ζωής.
Η Μέριντιθ Γουίτεϊκερ μπορεί να μη σου γεμίσει το μάτι την πρώτη φορά που θα τη δεις, αλλά αρκεί να μιλήσει: βραχύσωμη, αεικίνητη, καθηλωτική. Είναι πρόεδρος του Signal Foundation, υπέρμαχος της ιδιωτικότητας και ευφυής σε βαθμό πρόκλησης – σε δημοσιογράφους που διεκδικούν συνέντευξη μαζί της λέει: Αν καταφέρετε να με εντοπίσετε, δέχομαι...
Ο Economist την κάλεσε να γράψει ένα άρθρο και η Γουίτεϊκερ έκρουσε τον κώδωνα του κινδύνου για την agentic AI: μια κατεύθυνση που παρουσιάζεται σαν «ψηφιακός μπάτλερ» του μέλλοντος, αλλά στην πραγματικότητα εγκυμονεί απειλές για την ιδιωτικότητα, την κυβερνοασφάλεια και τον ανταγωνισμό.
Η ίδια δεν είναι μια τυχαία φωνή στην τεχνολογία. Ως πρόεδρος του Signal –του οργανισμού πίσω από την εφαρμογή μηνυμάτων που έχει ταυτιστεί με την έννοια της απόλυτης ιδιωτικότητας και της end-to-end κρυπτογράφησης– έχει διανύσει μια πορεία δεκαετιών στον χώρο, ξεσκεπάζοντας επανειλημμένα την υπερσυγκέντρωση ισχύος και δεδομένων από τις μεγάλες εταιρείες τεχνολογίας. Γι’ αυτό ο λόγος της έχει μία επιπλέον βαρύτητα – συν το ότι είναι γνωστό πως δεν χαρίζεται σε κανέναν.
Στον Economist, η Γουίτεϊκερ εξηγεί ότι τα συστήματα αυτά δεν είναι απλώς εφαρμογές που ζητούν μία ακόμα άδεια. Για να λειτουργήσουν –είτε πρόκειται να συνοψίσουν τα emails σου είτε να κάνουν πληρωμές για λογαριασμό σου– χρειάζονται πρόσβαση σε εύρος. Αυτό σημαίνει browser history, αριθμούς καρτών, ιδιωτικά μηνύματα, τοποθεσία: όλα μετατρέπονται σε «τροφή» για τα μοντέλα AI, συγκεντρωμένα σε μια ενιαία, ευάλωτη δεξαμενή δεδομένων. Είναι, όπως περιγράφει, «σαν να δίνεις τον πλήρη έλεγχο της συσκευής σου».
Η προειδοποίηση της Μέριντιθ Γουίτεϊκερ για την agentic AI είναι σαφής
Οι εταιρείες-κολοσσοί που προωθούν agents μπορούν να αντλήσουν δεδομένα από ολόκληρο το οικοσύστημα, αποκτώντας στρατηγικό πλεονέκτημα απέναντι σε κάθε άλλον παίκτη
Δεν είναι όμως μόνο η ιδιωτικότητα στο στόχαστρο. Η Γουίτεϊκερ επισημαίνει και τον ανταγωνισμό. Οι εταιρείες-κολοσσοί που προωθούν agents –Apple, Google, Microsoft– δεν αρκούνται στα επίσημα APIs (σύνολο κανόνων και εργαλείων που επιτρέπει σε δύο προγράμματα ή υπηρεσίες να «μιλούν» μεταξύ τους) των εφαρμογών τρίτων. Τα παρακάμπτουν, «διαβάζοντας» απευθείας ό,τι εμφανίζεται στις οθόνες των χρηστών. Έτσι, μπορούν να αντλήσουν δεδομένα από ολόκληρο το οικοσύστημα, αποκτώντας στρατηγικό πλεονέκτημα απέναντι σε κάθε άλλον παίκτη. Η συγκέντρωση δύναμης στα χέρια λίγων τεχνολογικών κολοσσών γίνεται πιο έντονη.
Η ανησυχία εντείνεται γιατί αυτά τα συστήματα δεν παρουσιάζονται ως προαιρετικά apps. Ενσωματώνονται στον πυρήνα των λειτουργικών συστημάτων, καθιστώντας την «επιλογή» σχεδόν αδύνατη. Όπως το θέτει η Γουίτεϊκερ, ακολουθούμε έναν δρόμο που «οδηγεί στην κατάργηση της ιδιωτικότητας και της ασφάλειας στο επίπεδο των εφαρμογών».
Και καλεί σε θεμελιώδη αλλαγή: Η ιδιωτικότητα να είναι προεπιλογή, οι εφαρμογές να μπορούν να χαρακτηρίζονται ως «ευαίσθητες» και να εξαιρούνται από την πρόσβαση, ενώ η διαφάνεια να γίνει υποχρέωση, όχι υπόσχεση marketing.
Η Γουίτεϊκερ καταλήγει σε ένα σκληρό συμπέρασμα: αν δεν αλλάξει η κατεύθυνση, «λίγες πανίσχυρες εταιρείες θα αποφασίσουν ότι η ευκολία τού να αφήνεις σε ένα AI να κλείνει τραπέζι σε εστιατόριο ή να ιεραρχεί τις δουλειές σου αξίζει περισσότερο από την κυβερνοασφάλεια, τον υγιή ανταγωνισμό και το δικαίωμα στην ιδιωτική επικοινωνία».
17°
