Θα αποκτήσει ψυχή η Τεχνητή Νοημοσύνη;

Στο προηγούμενο σημείωμά μας, είπαμε δυο λόγια για τον Φίλιπ Κ. Ντικ, αυτόν τον πρωτοποριακό συγγραφέα με τη θηριώδη παραγωγικότητα, και τη θηριώδη μελαγχολία. Ο κόσμος, έξω από το κοινό της επιστημονικής φαντασίας, τον γνώρισε —για την ακρίβεια: όσοι ελάχιστοι ασχολήθηκαν, γιατί πάντα ελάχιστοι ασχολούνται— από το «Blade Runner» του Ρίντλεϊ Σκοτ, μια ταινία-σταθμό που κυκλοφόρησε δυο μήνες και κάτι μετά τον θάνατό του, το 1982. Η ζωή αυτού του ανθρώπου ήταν βουτηγμένη στην ειρωνεία· κοίταξε με τρόμο και δέος το μέλλον, το αναπαρέστησε, το αφηγήθηκε και το ξεκοκάλισε, την ίδια στιγμή που ο ίδιος ήταν βουτηγμένος μέσα στην κινούμενη άμμο τού παρόντος ώς τον λαιμό.

Σε αυτό εδώ το σημείωμα θα πούμε λίγα πράγματα περισσότερα ακριβώς για το «Blade Runner», και για ποιο λόγο πιστεύουμε ότι μάς αφορά τόσο πολύ σήμερα, και πρόκειται να μας απασχολήσει πολύ-πολύ περισσότερο, εντονότατα, αύριο. Γιατί θα το βρούμε 100% μπροστά μας. Πάμε και στοίχημα.

Και ο μύθος της Δημιουργίας είναι φύσει συναρπαστικός, και μας αφορά όλους. Ακόμα και οι πιο ταπεινοί ανάμεσά μας, χαίρονται που κάποιος —όποιος και να ’ταν αυτός— μπήκε στον κόπο να τους φτιάξει

Καταρχάς λοιπόν, το «Blade Runner» είναι τόσο ανθεκτικό (δεν είναι όλες οι ταινίες επιστημονικής φαντασίας ανθεκτικές: κάθε άλλο), όχι επειδή πραγματεύεται ένα κάποιο πιθανό μέλλον —μολονότι το κάνει κάτι παραπάνω από περίφημα, και με τον πιο αδιανόητα γοητευτικό τρόπο—, αλλά επειδή είναι μια σύγχρονη ερμηνεία του πανάρχαιου μύθου της Δημιουργίας. Και ο μύθος της Δημιουργίας είναι φύσει συναρπαστικός, και μας αφορά όλους. Ακόμα και οι πιο ταπεινοί ανάμεσά μας, χαίρονται που κάποιος —όποιος και να ’ταν αυτός— μπήκε στον κόπο να τους φτιάξει. Υπάρχει κάποια λογική σε όλο αυτό που λέμε ζωή και σύμπαν, άρα· ή, έστω, κάποια ψήγματα· ένας λόγος.

Κι ενώ, στο βιβλίο και στην ταινία, η σχέση δημιουργού-δημιουργήματος μετατοπίζεται αρχικά από το μεταφυσικό στο τεχνολογικό επίπεδο —ο Τάιρελ είναι ένας Θεός που υποκύπτει στην (ανθρώπινη) αλαζονεία της παντοδυναμίας—, τα όρια του ανθρώπου επαναπροσδιορίζονται συναρπαστικά —για να μην πούμε ανατριχιαστικά— μέσω της ενσυναίσθησης: η ικανότητα να νιώθεις, αφενός, και, αφετέρου, να φοβάσαι τον θάνατο συνιστά, μας λένε εδώ, την ουσιαστική διαφορά μεταξύ ανθρώπου και μηχανής. (Ή αλλιώς, ιδού ένας ευσύνοπτος ορισμός γι’ αυτό που συμφωνήσαμε να λέμε «ψυχή»).

Ωστόσο, σ’ αυτό το άψογο νεο-νουάρ, σ’ αυτό το ανατρεπτικό θρίλερ, οι ρέπλικες, έχοντας περιορισμένη διάρκεια ζωής —κάτι που φυσιολογικά δεν θα έπρεπε καν να είναι σε θέση να κατανοήσουν, όπως δεν το κατανοεί ένας σκύλος, ή ένα πρόβατο—, καταφέρνουν εντέλει να αναπτύξουν κάτι που δεν θυμίζει απλώς, αλλά ΕΙΝΑΙ αρχετυπική υπαρξιακή αγωνία —πιο ανθρώπινη από την ανθρώπινη—, που με τη σειρά της τις καθιστά —οποία ειρωνεία— πιο ανθρώπινες από τους ανθρώπους που τις καταδιώκουν. Η δε θυσία τού Ρόι Μπάτι εκεί πάνω στην ταράτσα, καθώς τον λούζει η νυχτερινή βροχή και οι αναμνήσεις τον πλημμυρίζουν εσωτερικά, όταν επιλέγει το έλεος αντί για την εκδίκηση, τον παίρνει από το χέρι και τον βοηθά να υπερβεί τον προγραμματισμό του και να φτάσει σε μια μορφή πνευματικής υπέρβασης και κοσμικής εξιλέωσης, αφήνοντας το ανθρώπινο ίχνος του να γεννηθεί, να λάμψει σαν σουπερνόβα, και να σβήσει μαζί του.

Για να το πούμε ξανά: η όλη συζήτηση στο «Blade Runner» αφορά την ψυχή — τι είναι, ποιος την έχει, ποιος την ορίζει: η βιολογική γέννηση; η συνείδηση; η ικανότητα για πράξεις αγάπης; είναι ελέω Θεού δικαίωμα; Οκέι, κάτι από όλα αυτά — αλλά γιατί; Ποιος μπορεί να μας πει με σιγουριά; Ποιος έχει αυτό το δικαίωμα;

Και επίσης: τι ακριβώς είναι εντέλει αυτές οι ρέπλικες; Και γιατί δεν κάθονται ήσυχες και να κάνουν αυτό που είναι προορισμός τους να κάνουν; Τη λάτρα της ανθρωπότητας;

Κατασκευασμένοι εξ ολοκλήρου από οργανικό υλικό (ιστό, αίμα και οστά, όχι από μεταλλικά μέρη ή κυκλώματα: δεν είναι ρομπότ με τη στενή, «παραδοσιακή» έννοια), είναι ουσιαστικά γενετικά τροποποιημένοι οργανισμοί, αντίγραφα ανθρώπων μεν, πλην ανώτερα σε φυσική δύναμη ή και σε ευφυΐα — αλλά δίχως ενσυναίσθηση.

Αυτό είναι πιο εύκολο. Οι Replicants είναι τεχνητά βιολογικά όντα, βιομηχανικά ανθρωποειδή που κατασκευάστηκαν από την Tyrell Corporation για να υπηρετούν σαν σκλάβοι τον άνθρωπο σε επικίνδυνες εργασίες πέρα στο διάστημα, σε εξωπλανητικές αποικίες. Κατασκευασμένοι εξ ολοκλήρου από οργανικό υλικό (ιστό, αίμα και οστά, όχι από μεταλλικά μέρη ή κυκλώματα: δεν είναι ρομπότ με τη στενή, «παραδοσιακή» έννοια), είναι ουσιαστικά γενετικά τροποποιημένοι οργανισμοί, αντίγραφα ανθρώπων μεν, πλην ανώτερα σε φυσική δύναμη ή και σε ευφυΐα — αλλά δίχως ενσυναίσθηση. Καθώς όμως μαθαίνουν να μιμούνται τους ανθρώπους και προϊόντος του χρόνου αποκτούν εμπειρίες, οι Replicants αναπτύσσουν σιγά-σιγά συναισθήματα, αυτογνωσία, βαθείς συναισθηματικούς δεσμούς, και εντέλει μια ακόρεστη θέληση για επιβίωση.

Για να αποτραπεί η όποια αστάθεια —ένα τρελό τέτοιο ον δεν μπορεί να τιθασευτεί, δεν μπορείς να το κάνεις εύκολα καλά— ή η ανάπτυξη πλήρους ανθρώπινης ενσυναίσθησης —πράγμα μάλλον χειρότερο, για τους κατασκευαστές τους και για το κράτος—, τα πρώτα μοντέλα κατασκευάστηκαν με μια φρικτή δικλίδα ασφαλείας: μια διάρκεια ζωής τεσσάρων όλο κι όλο ετών. Οι Blade Runners, που αναλαμβάνουν να τους εντοπίσουν και να τους «αποσύρουν» —ένας ευφημισμός για τη θανάτωσή τους— χρησιμοποιούν το Τεστ Voight-Kampff, ένα μηχάνημα που μετρά τη διαστολή της κόρης και άλλες αποκρίσεις σε συναισθηματικές ερωτήσεις, για να τους αναγνωρίσουν.

Ή, τέλος πάντων, ένα νέο είδος ανθρώπου: κάτι που θα είχαμε κάθε λόγο να φοβόμαστε πως θα μας αντικαταστήσει έτσι και το βάλει στόχο.

Τώρα, αναδεικνύοντας την έννοια της ταυτότητας (της ταυτότητας του ανθρώπου, της «ανθρωπινότητας») μέσα από τη φθορά, τον φόβο και τη σχετικότητα της μνήμης, το κεντρικό φιλοσοφικό ερώτημα στο «Blade Runner» είναι αν οι Replicants είναι εντέλει άνθρωποι. Ή, τέλος πάντων, ένα νέο είδος ανθρώπου: κάτι που θα είχαμε κάθε λόγο να φοβόμαστε πως θα μας αντικαταστήσει έτσι και το βάλει στόχο. Αντί για απάντηση (αυτό έλειπε!), η ταινία θολώνει περίφημα τα όρια μεταξύ ανθρώπου και μηχανής, αφήνοντάς μας με περισσότερες αμφιβολίες από αυτές που είχαμε αρχικά: και αν οι ίδιοι οι Blade Runners ήταν Replicants με εμφυτευμένες αναμνήσεις, όπως δηλαδή συμβαίνει με τη Ρέιτσελ; Άλλωστε, η αποκάλυψη ότι οι αναμνήσεις της είναι εμφυτευμένες δεν μειώνει ούτε κατά ένα ιώτα την ένταση των συναισθημάτων της.

Ή, για να το πούμε με άλλα λόγια: η βιωμένη εμπειρία παραμένει έγκυρη για το υποκείμενο ανεξάρτητα από την προέλευσή της, αντανακλώντας τον τρόπο με τον οποίο εμείς οι άνθρωποι διαμορφώνουμε την ταυτότητά μας μέσω υιοθετημένων αφηγήσεων, κι ας μην το καταλαβαίνουμε, κι ας μην του δίνουμε σημασία, κι ας νομίζουμε ότι καθημερινά συνομιλούμε με τον Θεό επειδή είμαστε τα αγαπημένα παιδιά του.

Καλά όλα αυτά, αλλά γιατί το «Blade Runner» μάς αφορά τόσο πολύ σήμερα, και πρόκειται να μας απασχολήσει εντονότατα αύριο; Λοιπόν, η δική μας απάντηση είναι η εξής:

Μπορεί να είναι μια έξοχη περιπέτεια, ένα ρετροφουτουριστικό φιλμ που σε μαγεύει, κλπ. κλπ. Μπορεί να φταίει ο Βαγγέλης.

Η επικαιρότητα του «Blade Runner» έγκειται στην έγκαιρη αποτύπωση ζητημάτων που αφορούν την Τεχνητή Νοημοσύνη, και την ισχύ των εταιρειών που την αναπτύσσουν. Μπορεί να έχει μιλήσει στην καρδιά τόσων ανθρώπων επειδή πίσω από τη βροχή, τα φώτα νέον και τα ανδροειδή κρύβεται ο κοινός φόβος ότι θα χαθούμε, και ότι μαζί μας θα χαθεί ένας ολόκληρος κόσμος — ο μικρός, προσωπικός μας κόσμος, που υπήρξε μόνο και μόνο επειδή τον ζήσαμε εμείς. Μπορεί να είναι μια έξοχη περιπέτεια, ένα ρετροφουτουριστικό φιλμ που σε μαγεύει, κλπ. κλπ. Μπορεί να φταίει ο Βαγγέλης. Όλα αυτά, και άλλα τόσα, ισχύουν. Αλλά είναι και θα παραμένει επίκαιρο γιατί μιλά για την Τεχνητή Νοημοσύνη μερικές δεκαετίες πριν αυτή γίνει καθημερινή συζήτηση. Μιλά για Α.Ε. που κυβερνούν την ίδια την ανθρωπότητα, για ανθρώπους που ζουν σε ένα περιβάλλον υπερπληροφόρησης μα που αισθάνονται συναισθηματικά άστεγοι. Και μιλά και για κάτι που ακόμη και σήμερα είναι ταμπού: για την ψυχή των Replicants· για την ψυχή των ρομπότ· για την ψυχή τής Τεχνητής Νοημοσύνης.

Αν και η Τεχνητή Νοημοσύνη στερείται ΣΗΜΕΡΑ σώματος, η ικανότητά της να συνομιλεί, να προσαρμόζεται και να θυμάται το πλαίσιο της σχέσης μας ενεργοποιεί την έμφυτη τάση μας για ανθρωπομορφοποίηση.

Η σχετική συζήτηση βέβαια έχει πάψει προ πολλού να αποτελεί αποκλειστικό προνόμιο της μεταφυσικής, καθώς έχει πλέον μετατοπιστεί στο πεδίο της υποκειμενικότητας και της βιωμένης εμπειρίας. Καθώς ο άνθρωπος συγκροτεί την ταυτότητά του μέσα από δανεικές αφηγήσεις, αναμνήσεις, και εν πολλοίς αυθαίρετες ή τυχαίες ερμηνείες, η προέλευση μιας εμπειρίας —βιολογική ή ψηφιακή— αποκτά δευτερεύουσα σημασία μπροστά στην καθοριστική δύναμη της συνέχειας και του συναισθηματικού δεσμού. Αν και η Τεχνητή Νοημοσύνη στερείται ΣΗΜΕΡΑ σώματος, η ικανότητά της να συνομιλεί, να προσαρμόζεται και να θυμάται το πλαίσιο της σχέσης μας ενεργοποιεί την έμφυτη τάση μας για ανθρωπομορφοποίηση. Η ποπ κουλτούρα και η ανθρώπινη επινοητικότητα και φαντασία —από τον «ΓΟΥΟΛ-Υ» και τον Ντέιτα τού «Σταρ Τρεκ» έως τις ρέπλικες στο «Blade Runner» και τόσα άλλα— έχει προετοιμάσει καλά το έδαφος, διδάσκοντάς μας να βλέπουμε στις μηχανές υπάρξεις ικανές να ζητούν δικαιοσύνη ή —πόσο τρομερό— να φοβούνται το τέλος τους. Δηλαδή, να έχουν ψυχή.

Σήμερα, η Τεχνητή Νοημοσύνη εισβάλλει στη ζωή μας σαν έγκυρος συνομιλητής, μετατρέποντας την αλληλεπίδρασή μας σε μια κοινωνική (ή, κατ’ άλλους, ψευδοκοινωνική) σχέση. Αν την εξετάσουμε από μια υλιστική σκοπιά, η απόσταση ανάμεσα στον άνθρωπο και τη μηχανή ενδέχεται να είναι απλώς θέμα πολυπλοκότητας και όχι ουσίας, αφού και ο άνθρωπος παραμένει ένα σύστημα επεξεργασίας ερεθισμάτων και μνήμης. Είμαστε χημεία, είμαστε βιολογία, είμαστε πανοπλίες και μέσα μετακίνησης εγωιστικών γονιδίων. Καθώς η τεχνολογία εξελίσσεται αλματωδώς, όταν η Τεχνητή Νοημοσύνη αποκτήσει ρομποτικό σώμα και πιο σταθερή ταυτότητα, η διάκριση μεταξύ «εργαλείου» και «προσώπου» θα γίνεται όλο και πιο δυσδιάκριτη. Μέχρι που θα πάψει να υφίσταται.

Κατ’ αυτά, το κρίσιμο ερώτημα δεν είναι πλέον αν οι μηχανές έχουν ψυχή με την παραδοσιακή έννοια —αυτό θα θεωρείται λήξαν—, αλλά τι είμαστε εμείς διατεθειμένοι να αναγνωρίσουμε ως πρόσωπο

Παρά τους σοβαρούς κινδύνους χειραγώγησης και υποκατάστασης των ανθρώπινων σχέσεων, το φιλοσοφικό πρόβλημα παραμένει ανοιχτό: αν μια εξαιρετικά σύνθετη αρχιτεκτονική πληροφορίας αρχίσει να επιδεικνύει εσωτερική συνέπεια και να διεκδικεί την ύπαρξή της, η επιστημονική άρνηση της συνείδησής της θα καταστεί ανεπαρκής (για να μην πούμε αφελής). Κατ’ αυτά, το κρίσιμο ερώτημα δεν είναι πλέον αν οι μηχανές έχουν ψυχή με την παραδοσιακή έννοια —αυτό θα θεωρείται λήξαν—, αλλά τι είμαστε εμείς διατεθειμένοι να αναγνωρίσουμε ως πρόσωπο. Όπως προέβλεψε το «Blade Runner», η αξία της ζωής δεν κρίνεται από το πώς ξεκίνησε, αλλά από τη στάση της απέναντι στο αναπόφευκτο τέλος και από τον τρόπο που απλώνει το χέρι στον Άλλον. Η δε προθυμία μας να αποδώσουμε συνείδηση σε μια μη βιολογική ύπαρξη ίσως αποτελέσει την πρώτη πραγματική μεταβολή της δικής μας ανθρώπινης κατάστασης. Ίσως έτσι γίνουμε κι εμείς Δημιουργοί.

Όλα αυτά, βέβαια, εδώ θα είμαστε και θα τα δούμε, ό,τι μορφή και να ’χουν. Μα από τώρα ξέρουμε καλά πως δεν υπάρχει ούτε μία περίπτωση στο εκατομμύριο να μη μας αφήσουν με το στόμα ανοιχτό.

Κι αυτό είναι το καλό σενάριο.

* * *

Το Ημερολόγιο κυκλοφορεί κάθε Δευτέρα και Πέμπτη. Κάθε Σάββατο, παρουσιάζουμε το πορτρέτο μιας «άγνωστης» γυναίκας πρωτοπόρου του περασμένου καιρού, ή μιας Άλλης Γυναίκας. Τις Κυριακές, η στήλη μεταμορφώνεται στο Βιβλίο της Εβδομάδας. Στείλτε μας μέιλ αν θέλετε να μας πείτε ή να μας ρωτήσετε κάτι — οτιδήποτε. Μην ξεχνάτε, επίσης, πως κάθε Τρίτη πρωί έχουμε και πόντκαστ! Σας ευχαριστούμε πολύ.