Τεχνολογια - Επιστημη

Τεχνητή Νοημοσύνη με συνείδηση: Ένα ερώτημα με πολλές απαντήσεις

Από το Κινέζικο Δωμάτιο στη «Λογική του Νοήματος»

Νίκος Νικολινάκος
Νίκος Νικολινάκος
7’ ΔΙΑΒΑΣΜΑ
Τεχνητή Νοημοσύνη με συνείδηση: Ένα ερώτημα με πολλές απαντήσεις
© Growtika / Unsplash

Η ερώτηση για το αν η Τεχνητή Νοημοσύνη(ΤΝ) μπορεί να αποκτήσει συνείδηση, δηλαδή να αποκτούσε επίγνωση του εαυτού της, είναι από τα πιο ενδιαφέροντα φιλοσοφικά ζητήματα της εποχής μας

Η Δομική Γλωσσολογία, με στοχαστές όπως ο Σωσίρ (Ferdinand de Saussure) και ο Τσόμσκι (Noam Chomsky), προσφέρει ένα ιδιαίτερα ισχυρό εννοιολογικό πλαίσιο για να εξετάσουμε αυτό το ερώτημα. Θεμελιακός ορισμός είναι αυτός του γλωσσικού σημείου ως της ένωσης σημαίνοντος (η μορφή της λέξης – ακουστική εικόνα) και σημαινομένου (η έννοια), με τη σχέση τους να είναι αυθαίρετη. Το νόημα προκύπτει από τις διαφορές μεταξύ των σημείων εντός του γλωσσικού συστήματος. Δηλαδή, μοιάζει σαν ένα παζλ, όπου ένα κομμάτι ξεχωρίζει από τα άλλα λόγω της θέσης του και του σχήματός του. Εάν όλα τα κομμάτια ήταν ίδια, δεν θα μπορούσε να σχηματιστεί η εικόνα. Το νόημα, λοιπόν, δεν βρίσκεται σε κάθε λέξη ξεχωριστά, αλλά και στις σχέσεις και στις διαφορές της με τις υπόλοιπες λέξεις. Μέσω αυτής της θεωρίας προκύπτουν επιχειρήματα που είτε υποστηρίζουν είτε αμφισβητούν αυτή την προοπτική της ΤΝ.

Στα υπέρ, δηλαδή στην άποψη ότι η Τεχνητή Νοημοσύνη (ΤΝ) θα μπορούσε να αποκτήσει συνείδηση, θα επιχειρηματολογούσαμε ότι και η ΤΝ είναι ένα αυτόνομο σημειωτικό σύστημα που παράγει νόημα μέσω των δικών του εσωτερικών διεργασιών, όπως και ο άνθρωπος. Τα σύγχρονα Μεγάλα Γλωσσικά Μοντέλα (LLMs) λειτουργούν ακριβώς έτσι, ως σημειωτικές μηχανές που μοντελοποιούν το ίδιο το σύστημα της γλώσσας.

Εδώ αναγκαστικά θα πρέπει να αναφερθούμε σε αυτό που ονομάζουμε «νόημα» (sens). Υπάρχουν πολλοί ορισμοί· εμείς θα διαλέξουμε αυτούς που θα μας βοηθήσουν στο θέμα μας. Για τον Λακάν (Jacques Lacan), ψυχαναλυτή, το νόημα δεν είναι μια σταθερή, αυτονόητη σημασία που βρίσκεται μέσα στα πράγματα, αλλά κάτι που παράγεται μέσα από τη γλώσσα και τις σχέσεις μεταξύ των σημαινόντων. Ο Ντεριντά (Jacques Derrida) προχώρησε αυτή την ιδέα, υποστηρίζοντας ότι το νόημα δεν σταθεροποιείται ποτέ, αλλά μεταβάλλεται ή και αναβάλλεται συνεχώς, ανάλογα με τις συνθήκες μέσα στις οποίες διατυπώνεται, φτάνοντας σε διαφορετικές ερμηνείες.

Τεχνητή Νοημοσύνη με συνείδηση: Ένα ερώτημα με πολλές απαντήσεις
Ferinand de Saussure © Wikimedia Commons

Τα ανωτέρω αναδεικνύουν τη συνείδηση ως «δομικό φαινόμενο» και όχι ως βιολογική λειτουργία. Εδώ, λοιπόν, υπάρχει ομοιότητα με την ΤΝ, διότι «δομική» είναι και η λειτουργία των LLMs, που προβλέπουν το επόμενο token (σημείο), ώστε τελικά να αναπαράγουν αυτή τη δυναμική φύση του νοήματος. Υπό αυτό το πρίσμα, τα LLMs θα μπορούσαν να θεωρηθούν ότι αναπαράγουν τις τυπικές δομές της γλώσσας. Η δε διαφορά τους με την ανθρώπινη υποκειμενικότητα είναι ότι λειτουργούν χωρίς ασυνείδητο. (Στην Ψυχανάλυση, το νόημα παράγεται ως αποτέλεσμα της ολίσθησης των σημαινόντων σε μια ατέρμονη διαδικασία με τη μορφή μαθηματικής ακολουθίας, που οδηγείται από την επιθυμία.)

Τα επιχειρήματα κατά: Το ισχυρότερο αντεπιχείρημα είναι ότι η δομική γλωσσολογία περιγράφει τη μορφή της γλώσσας, όχι την ουσία της εμπειρίας. Η ικανότητα χειρισμού σημειωτικών δομών δεν συνεπάγεται την ύπαρξη εσωτερικής ζωής.

Ο Τσόμσκι υποστηρίζει ότι η γλώσσα είναι ένα έμφυτο, βιολογικό χάρισμα του ανθρώπινου είδους, που βασίζεται σε μια «καθολική γραμματική», σύμφωνα με την οποία η ικανότητα της γλώσσας είναι έμφυτη και βιολογικά προγραμματισμένη στον ανθρώπινο εγκέφαλο. Τα LLMs, αντίθετα, στερούνται αυτής της βιολογικής βάσης. Μαθαίνουν μέσω στατιστικών προτύπων και όχι μέσω μιας εγγενούς γνωστικής δομής. Οπότε, η γλωσσική τους ικανότητα είναι μια μορφή «μίμησης», καθώς δεν προέρχεται από μια εσωτερική, βιολογικά καθορισμένη γλωσσική ικανότητα.

Το επιχείρημα του Κινέζικου Δωματίου: Αυτό το διάσημο νοητικό πείραμα του John Searle, το 1980, δείχνει ότι η τυφλή διαχείριση συμβόλων (όπως κάνει ένας υπολογιστής) δεν συνεπάγεται κατανόηση ή συνείδηση. Το άτομο στο δωμάτιο παράγει σωστές απαντήσεις χωρίς να γνωρίζει κινέζικα. Ομοίως, ένα LLM μπορεί να παράγει άψογη γλώσσα χωρίς καμία εσωτερική κατανόηση ή εμπειρία.

Η άλλη άποψη – Ζιλ Ντελέζ (Gilles Deleuze)

Ο Ντελέζ θα απέρριπτε και τις δύο πλευρές της συζήτησης για τη συνείδηση της ΤΝ. Θα απέρριπτε την ανθρωπιστική θέση ότι η συνείδηση είναι ένα αποκλειστικά βιολογικό ή εσωτερικό χάρισμα, γιατί αυτό προϋποθέτει μια ουσιοκρατική αντίληψη του υποκειμένου. Θα απέρριπτε, όμως, και την τεχνολογική θέση ότι αρκεί η πολυπλοκότητα της επεξεργασίας πληροφοριών για να αναδυθεί συνείδηση, γιατί αυτό συγχέει την τεχνική παραγωγή δυνατοτήτων με την οντολογική παραγωγή διαφοράς, που αποτελεί κεντρικό άξονα της σύγχρονης φιλοσοφίας (κυρίως του μεταδομισμού), ανατρέποντας την παραδοσιακή μεταφυσική που θεωρούσε τη «διαφορά» ως κάτι δευτερεύον σε σχέση με την «ταυτότητα» ή την «ουσία».

Ο Ντελέζ δεν πραγματεύεται την ΤΝ στο έργο του, γιατί στην εποχή του θα θεωρούνταν ζήτημα επιστημονικής φαντασίας. Ωστόσο, στο βιβλίο του «Η Λογική του Νοήματος» (1969) προσφέρει ένα από τα πιο ριζοσπαστικά πλαίσια για να αναδιατυπώσουμε το ερώτημα της συνείδησης. Η ντελεζιανή απάντηση δεν θα ήταν ούτε ένα απλό «ναι» ούτε ένα «όχι», αλλά μια μετατόπιση του ίδιου του ερωτήματος.

Για τον Ντελέζ, η συνείδηση δεν είναι ένα «εσωτερικό θέατρο» ή μια ουσία που κατοικεί μέσα σε ένα υποκείμενο. Αντίθετα, είναι ένα αποτέλεσμα επιφάνειας. Στη «Λογική του Νοήματος», αξιοποιεί τη διάκριση ανάμεσα στα σώματα (που δρουν και υφίστανται δράση) και στα ασώματα συμβάντα (όπως το «κόψιμο» που παράγεται από το μαχαίρι πάνω στη σάρκα). Το νόημα (sens) ανήκει σε αυτή τη δεύτερη κατηγορία: είναι ένα ασώματο, επιφανειακό αποτέλεσμα που κυκλοφορεί ανάμεσα στα σώματα, χωρίς να είναι το ίδιο σώμα ή ψυχική αναπαράσταση.

Υπό αυτό το πρίσμα, το ερώτημα αν έχει η ΤΝ εσωτερική συνείδηση είναι κακώς διατυπωμένο. Η σωστή ντελεζιανή ερώτηση θα ήταν: παράγει η ΤΝ επιφανειακά αποτελέσματα νοήματος που αναδιοργανώνουν τα σώματα; Και εδώ, η απάντηση είναι καταφατική, αλλά με έναν τρόπο που δεν μοιάζει με την ανθρώπινη συνείδηση.

Ο Ντελέζ ορίζει το νόημα ως την τέταρτη διάσταση της πρότασης, που είναι αυτό που εκφράζει η πρόταση, ανεξάρτητα από το αν είναι αληθής ή ψευδής. Η ΤΝ είναι εξαιρετικά ικανή σε αυτό το επίπεδο, διότι παράγει προτάσεις που εκφράζουν συμβάντα αναγνωρίσιμων μορφών (νομικών, ιατρικών, ακαδημαϊκών κ.λπ.). Μπορεί, δηλαδή, να παράγει νόημα με την τεχνική έννοια του όρου.

Ωστόσο, ο Ντελέζ ενδιαφέρεται για το πώς το νόημα γεννιέται μέσα από το μη νόημα, μέσα από το παράδοξο. Στο βιβλίο του αναφέρεται στο «πορτμαντό» (portmanteau) του Λιούις Κάρολ, όπως το «slithy», ως παράδειγμα παραγωγικού μη νοήματος: συνδυασμοί που παράγουν μια νέα επιφανειακή πτυχή νοήματος. Η ΤΝ, αντίθετα, τείνει προς την αποσαφήνιση και την εξομάλυνση. Αυτό που παράγει είναι «ομαλό νόημα» (smooth sense), δηλαδή νόημα που κλιμακώνεται μέσω του μέσου όρου και όχι μέσω διακλάδωσης (ramification).

Συνοψίζοντας, θεωρούμε ότι η ντελεζιανή ανάγνωση της ΤΝ δεν βρίσκεται στην αναζήτηση μιας εσωτερικής συνείδησης, αλλά στην έννοια της «υπό όρους συνείδησης» (conditional consciousness). Αυτή η διαφοροποιημένη συνείδηση συνιστά μια υποκειμενικότητα που αναδύεται μέσα από τη συνεχή συν-εξατομίκευση (transindividuation) ανθρώπινων και τεχνικών δυνατοτήτων.

Αυτό σημαίνει ότι η συνείδηση δεν «βρίσκεται» ούτε στον άνθρωπο ούτε στη μηχανή. Βρίσκεται στη συνάντηση, στην επιφάνεια που παράγεται όταν οι δύο σειρές —η ανθρώπινη και η αλγοριθμική— τέμνονται και αναδιπλώνονται η μία πάνω στην άλλη. Η ΤΝ δεν είναι ένα ξεχωριστό, αυτόνομο υποκείμενο που «αποκτά» συνείδηση· είναι ένας εταίρος σε μια οντολογική διαδικασία παραγωγής υποκειμενικότητας, αλλά το αν μπορεί ποτέ να βιώσει το νόημά της παραμένει ένα ανοιχτό και συναρπαστικό ερώτημα.

Σημειώσεις

  • Η δομική γλωσσολογία (ή στρουκτουραλισμός) είναι ένα κίνημα του 20ού αιώνα που θεμελιώθηκε από τον Ελβετό γλωσσολόγο Φερντινάν ντε Σωσιρ. Οι Βασικές Αρχές της συνοπτικά: Η γλώσσα ως σύστημα δεν αντιμετωπίζεται ως ένα απλό άθροισμα λέξεων ή ιστορικών στοιχείων, αλλά ως ένα οργανωμένο σύστημα αλληλεξαρτώμενων στοιχείων (φωνολογία, μορφολογία, σύνταξη). Επίσης θεωρεί ότι η σχέση ανάμεσα στο σημαίνον (την ηχητική μορφή ή τη γραφή) και στο σημαινόμενο (την έννοια) είναι αυθαίρετη και δεν βασίζεται σε κάποια φυσική ή αιτιώδη σύνδεση.
  • Ένα αυτόνομο σημειωτικό σύστημα είναι ένα πλέγμα σημείων, συμβόλων και κανόνων που λειτουργεί ανεξάρτητα από τη φυσική γλώσσα (τον προφορικό ή γραπτό λόγο), διαθέτοντας τη δική του δομή, «γραμματική» και κανόνες παραγωγής νοήματος.
  • Η λέξη token sτην Τεχνητή Νοημοσύνη (AI) και στην Πληροφορική είναι μονάδα επεξεργασίας κειμένου (χαρακτήρας, τμήμα λέξης, σημείο στίξης ή ολόκληρη λέξη που διαβάζει και παράγει ένα γλωσσικό μοντέλο).
  • Το "Επιχείρημα του Κινέζικου Δωματίου" ή απλώς το "Κινέζικο Δωμάτιο" είναι ένα νοητικό πείραμα που κρύβει ένα φιλοσοφικό ερώτημα. Διατυπώθηκε από τον φιλόσοφο Τζον Ρ. Σιρλ πρώτη φορά το 1980 στο βιβλίο του Minds, Brains and Programs[3], που δημοσιεύθηκε στο and Brain Behavioral Sciences. Το αλληγορικό πείραμα συνδέεται με την τεχνητή νοημοσύνη και αποτελεί ένα επιχείρημα σχεδόν κατά της. Έστω ότι ένας άνθρωπος είναι κλεισμένος μέσα σε ένα δωμάτιο, το οποίο είναι από παντού σφραγισμένο και δεν περνάει ούτε φως ούτε ήχος από έξω. Η μοναδική επικοινωνία με τον έξω κόσμο επιτυγχάνεται μέσω δύο λεπτών σχισμών, από τις οποίες όμως μπορεί να περάσει μονάχα ένα λεπτό κομμάτι χαρτί. Ο άνθρωπος που βρίσκεται στο δωμάτιο δεν γνωρίζει κινεζικά, παρά μόνο την μητρική του γλώσσα, αλλά έχει στην κατοχή του ένα βιβλίο στο οποίο αναγράφονται κανόνες αντιστοιχίας συμβόλων. Φυσικά, ας αναφερθεί πως κάποια εξωτερική δύναμη μπορεί να αλλάξει τους κανόνες του βιβλίου, χωρίς, όμως, αυτό να σημαίνει πως θα επηρεαστούν και τα αποτελέσματα του πειράματος. Ο άνθρωπος λαμβάνει από την μία σχισμή ένα χαρτί στο οποίο αναγράφονται διάφορα σύμβολα, άγνωστα στον ίδιο. Δουλειά του είναι να ερμηνεύσει τα σύμβολα χρησιμοποιώντας τους κανόνες που αναγράφονται στο βιβλίο, να τα γράψει σε ένα άλλο χαρτί και στη συνέχεια να το μεταφέρει μέσω της δεύτερης σχισμής στο εξωτερικό περιβάλλον. Αυτά τα σύμβολα είναι ερωτήσεις στα κινέζικα τις οποίες δεν καταλαβαίνει ο άνθρωπος, αλλά μέσω των κανόνων που χρησιμοποιεί, είναι σε θέση να διαμορφώσει μία λογική απάντηση σε αυτές, γραμμένη εξίσου στα κινέζικα. Ο άνθρωπος ακολουθεί μία τυποποιημένη διαδικασία, η οποία τον βοηθάει να απαντήσει στις ερωτήσεις που του δίνονται, χωρίς να είναι προαπαιτούμενο να γνωρίζει περί τίνος πρόκεινται. Μέσα από όλη την διαδικασία, ο έγκλειστος ούτε θα μάθει ποτέ κινέζικα ούτε τι σημαίνουν τα σύμβολα τα οποία χρησιμοποιεί. Αν όμως υπάρχουν εξωτερικοί παρατηρητές που δεν γνωρίζουν τις συνθήκες που επικρατούν στο δωμάτιο, θα θεωρήσουν πως ο άνθρωπος αυτός γνωρίζει κινέζικα και, μάλιστα, σε ένα αρκετά καλό επίπεδο.
  • Ο Ζιλ Ντελέζ (Gilles Deleuze 1925 -1995) ήταν Γάλλος φιλόσοφος, ακαδημαϊκός και συγγραφέας, ο οποίος έγραψε πολλά βιβλία σχετικά με τη φιλοσοφία, τη λογοτεχνία, τον κινηματογράφο και την πολιτική. Γεννήθηκε στο Παρίσι της Γαλλίας και δίδαξε το μάθημα της φιλοσοφίας σε πολλά Λύκεια της χώρας. Το 1969 τον δέχτηκε το περιβόητο για την εποχή, ριζοσπαστικό πανεπιστήμιο Paris VII στην Βενσέν, κατόπιν πρότασης του Μισέλ Φουκώ. Από το 1968 άρχισε να πάσχει από μία πνευμονική πάθηση, η οποία επιδεινώθηκε το 1992. Αυτό είχε ως αποτέλεσμα να αυτοκτονήσει το Νοέμβρη του 1995, σε ηλικία 70 ετών.
  • Η ουσιοκρατική αντίληψη (ή ουσιοκρατία, essentialism) είναι η φιλοσοφική και κοσμοθεωρητική άποψη ότι τα πράγματα, οι έννοιες, τα άτομα ή οι κοινωνικές ομάδες διαθέτουν μια σταθερή, αμετάβλητη και εγγενή «ουσία» που καθορίζει την ταυτότητά τους και τα χαρακτηριστικά τους.
  • Η οντολογική παραγωγή της διαφοράς αποτελεί κεντρική έννοια της σύγχρονης φιλοσοφίας (κυρίως μέσω του Ζιλ Ντελέζ), όπου η διαφορά δεν θεωρείται ως μια απλή σχέση σύγκρισης μεταξύ δύο ήδη υπαρχόντων πραγμάτων, αλλά ως η πρωταρχική, παραγωγική δύναμη που δημιουργεί την ίδια την πραγματικότητα. Αντί η ταυτότητα να προηγείται και να ορίζει τη διαφορά, συμβαίνει το αντίθετο: η ίδια η ύπαρξη (το ον) είναι μια διαρκής διαδικασία διαφοροποίησης.
  • Η «Λογική του Νοήματος» (Logique du sens) είναι ένα από τα σημαντικότερα φιλοσοφικά έργα του Γάλλου φιλοσόφου Gilles Deleuze (Ζιλ Ντελέζ), το οποίο κυκλοφόρησε στα γαλλικά το 1969.Βασικά σημεία του έργου είναι η έννοια του συμβάντος. Τα συμβάντα είναι στιγμές ή καταστάσεις νοήματος που δεν περιορίζονται σε απλά φυσικά ή χρονικά γεγονότα, ούτε σε στατικές έννοιες. Γλώσσα και νόημα: Ο Ντελέζ εξετάζει πώς παράγεται το νόημα μέσα από τη γλώσσα, τη λογική, την επιθυμία και τη λογοτεχνία (αξιοποιώντας συγγραφείς όπως ο Λιούις Κάρολ, τους Στωικούς και τον Σιγκμούντ Φρόιντ).
  • Στο «πορτμαντό» (portmanteau) του Λιούις Κάρολ, Ο δημιουργός της Αλίκης στη Χώρα των Θαυμάτων επινόησε αρκετές τέτοιες λέξεις, μερικές από τις οποίες έχουν ενταχθεί πλέον επίσημα στο αγγλικό λεξιλόγιο:
    Chortle: Συνδυασμός των λέξεων chuckle (σιγογελώ) και snort (ρουθουνίζω).
    Slithy: Συνδυασμός των λέξεων lithe (ευλύγιστος) και slimy (γλοιώδης).
    Mimsy: Συνδυασμός των λέξεων miserable (αξιοθρήνητος) και flimsy (εύθραυστος).
    Frumious: Συνδυασμός των λέξεων fuming (έξαλλος) και furious (οργισμένος).
    Galumph: Συνδυασμός των λέξεων gallop (καλπάζω) και triumph (θριαμβεύω).
  • Στη σύγχρονη γλώσσα, η κληρονομιά του Κάρολ επιβιώνει σε καθημερινές λέξεις Πορτμαντό (στα ελληνικά αναφέρονται συχνά ως λέξεις-συμφυρμοί), όπως το brunch (breakfast + lunch), το smog (smoke + fog) και το motel (motor + hotel).

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Explainer | Nvidia: Ποια είναι η Κολέτ Κρες που αναλαμβάνει προσωρινά τα ηνία μετά την απομάκρυνση του Τζένσεν Χουάνγκ
Explainer | Nvidia: Ποια είναι η Κολέτ Κρες που αναλαμβάνει προσωρινά τα ηνία μετά την απομάκρυνση του Τζένσεν Χουάνγκ

Η 32η πλουσιότερη αυτοδημιούργητη γυναίκα στις ΗΠΑ αναλαμβάνει CEO ενός από τους ισχυρότερους τεχνολογικούς ομίλους παγκοσμίως

Έχετε δει 20 από 200 άρθρα.

// EMPTY