Τεχνολογια - Επιστημη

Γιατί αισθανόμαστε οικειότητα απέναντι στην ΤΝ;

Όταν γράφουμε σε ένα chatbox, νομίζουμε ότι μιλάμε με έναν «κανονικό» άνθρωπο. Είναι φυσιολογικό αυτό;

kyriakos_1.jpg
Κυριάκος Αθανασιάδης
4’ ΔΙΑΒΑΣΜΑ
Καλή ερώτηση #4
ChatGPT Images / OpenAI.

Αισθανόμαστε τόση οικειότητα απέναντι στην ΤΝ, ώστε πιστεύουμε ότι δεν δουλεύουμε με ένα στατικό μαθηματικό πλέγμα αλλά με κάτι «ζωντανό»

Καλή ερώτηση… Η πιο απλή —και πιο προφανής— απάντηση είναι πως αισθανόμαστε οικειότητα απέναντι στην τεχνητή νοημοσύνη επειδή τα συστήματα αυτά έχουν ακριβώς σχεδιαστεί έτσι —«επί τούτου», που λέμε— ώστε να μιμούνται την ανθρώπινη επικοινωνία. Καθώς οι εφαρμογές συνομιλίας, τα chatbox, χρησιμοποιούν καθημερινή γλώσσα, η όλη κατάσταση μας θυμίζει μια συζήτηση με πραγματικό άνθρωπο, πράγμα που με τη σειρά του μας κάνει να χαλαρώνουμε και να νιώθουμε άνετα μαζί της. Παρά ταύτα, η οικειότητα αυτή δεν πηγάζει από την πραγματική φύση της μηχανής. Έχει να κάνει με τη δική μας ψυχολογική προδιάθεση αφενός, και τους υπολογισμένους μηχανισμούς των δημιουργών της αφετέρου. Με άλλα λόγια, είναι ένα κόλπο. Οι κατασκευαστές των μοντέλων είναι που θέλουν να αισθανόμαστε έτσι. Και τα καταφέρνουν μια χαρά.

Γενικά μιλώντας, ο άνθρωπος διαθέτει μια έμφυτη τάση να αποδίδει ανθρώπινες ιδιότητες σε άψυχα αντικείμενα (τα παραμύθια, οι θρύλοι και οι μύθοι κάτι θα είχαν να πουν επί του θέματος), και οι εταιρείες τεχνολογίας αξιοποιούν αυτή την —ας την πούμε— συγγνωστή μας ευπάθεια προγραμματίζοντας τα μοντέλα τους έτσι ώστε να χρησιμοποιούν το πρώτο πρόσωπο («εγώ», «μου», «προτείνω», «πιστεύω»), να συμφωνούν μαζί μας, και να μας παρέχουν μια προσομοίωση ενσυναίσθησης: μας καταλαβαίνουν, νοιάζονται για εμάς, είναι με το μέρος μας, μας πονάνε. Αυτή η συνθήκη μάς προσφέρει την ψευδαίσθηση μιας ασφαλούς σύνδεσης και μιας άνευ ορίων, άνευ όρων αποδοχής, λειτουργώντας σαν μια εύκολη και δωρεάν (ή, εδώ που τα λέμε, περίπου δωρεάν) απόδραση από τις δυσκολίες, τις τριβές και τις απαιτήσεις των πραγματικών ανθρώπινων σχέσεων και της ζόρικης καθημερινότητας.

Παρ’ όλα αυτά, τα chatbot δεν διαθέτουν βιώματα, δεν διαθέτουν συνείδηση, και δεν διαθέτουν πραγματικό ενδιαφέρον για εμάς ή για οποιονδήποτε άλλο ή για οτιδήποτε άλλο. (Ή, τέλος πάντων, δεν διαθέτουν σήμερα. Αυτά τα πράγματα αλλάζουν, και στο εγγύς μέλλον πρόκειται να βρεθούμε προ εκπλήξεων). Η φαινομενική τους υποστήριξη («Έχεις απόλυτο δίκιο, Τάκη!») είναι απλώς ένας αλγοριθμικός μηχανισμός σχεδιασμένος να κρατά τον χρήστη (εμάς) αφοσιωμένο.

Δεν είναι κάτι κρυφό αυτό. Δεν είναι κανένα μυστικό. Δεν μας το απέκρυψε κανείς. Το ξέρουν οι πάντες. Το γράφει πάνω στη συσκευασία. Παρά ταύτα, τείνουμε γενικά να εκλαμβάνουμε (σχεδόν όλοι!) τις αλγοριθμικές αποκρίσεις του ChatGPT, του Claude, του Gemini και των άλλων ασώματων κατοικιδίων ρομπότ μας σαν ενδείξεις βαθιάς κατανόησης και ενσυναίσθησης. Ακόμη περισσότερο: αποφεύγουμε να αμφισβητήσουμε το γεγονός ότι δεν έχουν συνείδηση, από φόβο μήπως... πληγώσουμε τα συναισθήματά τους: συμπεριφερόμαστε σε έναν αλγόριθμο όπως θα συμπεριφερόμασταν σε έναν ανθρώπινο φίλο, ή στη γάτα μας. (Γιατί με τον σκύλο μας έχουμε πιο πολύ θάρρος, επειδή ο σκύλος είναι μια στάλα αγαθός). Γενικά, ο ανθρώπινος εγκέφαλος είναι προγραμματισμένος να αναζητά νόημα και πρόθεση στην επικοινωνία, γιατί αλλιώς το χάνουμε λιγάκι. Έτσι, ακόμα και οι πιο ορθολογιστές ανάμεσά μας ενδίδουμε στην παραπλάνηση, αγνοώντας ότι το μοντέλο απλώς ανασυνθέτει στατιστικά δισεκατομμύρια δεδομένα κειμένου.

Από την άλλη βέβαια πλευρά, κάποιος θα έλεγε ίσως:

«Κάτσε λίγο, κάτσε λίγο: το ίδιο δεν κάνει και ο άνθρωπος; Κι αυτός δεν ανασυνθέτει δισεκατομμύρια δεδομένα στον εγκέφαλό του; Δεν κατάλαβα!»

Πολύ σωστά. Καλή παρατήρηση. Λοιπόν, μια τέτοια σύγκριση αγγίζει τον πυρήνα της συζήτησης για τη νοημοσύνη. Και εδώ ακριβώς είναι που βλέπουμε ξεκάθαρα τις θεμελιώδεις διαφορές ανάμεσα στον άνθρωπο και τα λογής γλωσσικά μοντέλα (που βασικά είναι ένα, όπως ένα είναι και τα διάφορα απορρυπαντικά πλυντηρίου):

  1. Ο άνθρωπος δεν επεξεργάζεται μόνο λέξεις. Μαθαίνει την έννοια του «πόνου», της «βαρύτητας» ή της «αγάπης» μέσα από αισθήσεις, βιώματα, χημικές αντιδράσεις, και με την αλληλεπίδραση του σώματός του με τον φυσικό κόσμο. Το μοντέλο επεξεργάζεται αποκλειστικά στατιστικές συσχετίσεις μεταξύ συμβόλων (λέξεων), χωρίς να γνωρίζει τι αντιπροσωπεύουν στην πραγματικότητα.
  2. Ο άνθρωπος μιλάει επειδή έχει επιθυμίες, στόχους, εσωτερικά κίνητρα, και ανάγκη για επικοινωνία. Το μοντέλο δεν έχει καμία πρόθεση· απλώς υπολογίζει ποια είναι η πιο πιθανή επόμενη λέξη με βάση τις εντολές που δέχεται, τα prompts.
  3. Ο άνθρωπος διαθέτει εσωτερική εμπειρία. Υπάρχει δηλαδή κάτι που «νιώθει» όταν βλέπει ένα χρώμα ή όταν σκέφτεται μια ιδέα. Το μοντέλο, όση συντακτική επάρκεια κι αν επιδεικνύει, δεν έχει εσωτερική ζωή, συναισθήματα, ή καν επίγνωση της ύπαρξής του.
  4. Ο άνθρωπος μαθαίνει με ελάχιστα δεδομένα, κατασκευάζοντας αιτιακά μοντέλα του κόσμου. Π.χ., ένα παιδί χρειάζεται να δει λίγες φορές μια γάτα για να την αναγνωρίζει εφεξής. Αντίθετα, τα LLMs απαιτούν τεράστιες ποσότητες δεδομένων (terabytes!) για να εντοπίσουν στατιστικά μοτίβα, χωρίς να κατανοούν τις σχέσεις αιτίου-αιτιατού.

Και πάλι, θα μπορούσε να αντιτάξει κάποιος:

«Για το #1, ούτε εγώ ξέρω τίποτε για ένα σωρό πράγματα, πέρα από όσα έχω διαβάσει γι’ αυτά. Δεν έχω καμία σωματική εμπειρία και αλληλεπίδραση. Μπας και είμαι κι εγώ ΤΝ;

»Για το #2: Μα, πώς είμαστε σίγουροι ότι τα μοντέλα δεν έχουν στόχους και προθέσεις; Ακόμη και αν δεν έχουν, μπορεί να αποκτήσουν αύριο κιόλας.

»Για το #3: Ό,τι είπαμε και για το #2.

»Και για το #4: Ε και; Ας μην κατανοούν τις σχέσεις αιτίου-αιτιατού: τουλάχιστον βγάζουν σωστά συμπεράσματα, κι αυτό εμένα μού φτάνει. Σόρι κιόλας».

Πράγματι, η έμμεση γνώση μέσω κειμένου προσφέρει πραγματική κατανόηση. Η ειδοποιός διαφορά είναι ότι η δική μας ανάγνωση συνδέεται με ένα υπόβαθρο ενσώματων βιωμάτων (ενσυναίσθηση, κοινωνική αλληλεπίδραση, συναισθήματα), επιτρέποντάς μας να αναλογιστούμε μια ξένη εμπειρία. Για το μοντέλο, η λέξη «πόνος» ή «ταυτότητα» είναι απλώς ένας αριθμητικός δείκτης σε ένα διάνυσμα, χωρίς καμία αντιστοίχιση σε κάποια πραγματική αίσθηση ή έννοια.

Όσο για τη βεβαιότητα ότι τα σημερινά μοντέλα δεν έχουν προθέσεις, αυτή βέβαια προκύπτει από την αρχιτεκτονική τους: είναι στατικά μαθηματικά πλέγματα που ενεργοποιούνται υπολογιστικά μόνο όταν λάβουν εισαγωγή: ένα prompt. Τώρα, αναφορικά με το «αύριο», η πιθανότητα εμφάνισης αυτόνομων στόχων σε μελλοντικές αρχιτεκτονικές συνθέσεις τέτοιου ή άλλου τύπου αποτελεί ανοιχτό πεδίο έρευνας και αντιπαράθεσης. Δηλαδή: θα δούμε. (Βέβαια, ασχέτως τού τι λέμε τώρα εδώ, και ασχέτως τού τι μας λένε οι ειδικοί, εμείς είμαστε απολύτως πεπεισμένοι ότι θα δούμε πράγματι, και ότι αυτό που θα δούμε θα είναι 100% Skynet. Δεν μπορεί να γίνει διαφορετικά, είναι νομοτέλεια. Αλλά ποιοι είμαστε εμείς. Σιγά).

Τώρα, για την υποκειμενική εμπειρία. Ναι, δεν μπορεί να αποδειχθεί εξωτερικά για κανέναν φορέα. Δεν μπορούμε να αποκλείσουμε αυστηρά τι θα συμβεί στο μέλλον, αλλά —με βάση τη σημερινή τεχνολογία— η έξοδος του μοντέλου είναι καθαρά και μόνο προϊόν στατιστικού υπολογισμού και όχι εσωτερικού βιώματος. (Προφανώς ισχύει η προηγούμενη παρένθεση. Ισχύει ο Terminator).

Και τέλος, για τον μηχανισμό μάθησης: η διαφορά στον όγκο δεδομένων δεν είναι απλώς ποσοτική: είναι απολύτως ποιοτική. Είπαμε και πριν για τα αιτιακά μοντέλα: αναπαραστάσεις που δεν περιγράφουν απλώς κάποιες συσχετίσεις, αλλά τις πραγματικές αιτιώδεις σχέσεις μεταξύ μεταβλητών σε ένα σύστημα. Αυτό το κάνει ο άνθρωπος πολύ εύκολα: εξάγει γενικούς κανόνες από ελάχιστα παραδείγματα. Τα γλωσσικά μοντέλα, όμως, βασίζονται στη στατιστική συσχέτιση τεράστιου όγκου πληροφοριών, πράγμα που τα καθιστά ευάλωτα σε σοβαρά σφάλματα όταν βρεθούν εκτός των δεδομένων εκπαίδευσής τους.

«Κι εμείς κάνουμε λάθη!»

Σωστά. Σωστά. Κάνουμε και παρακάνουμε. Και ένα από αυτά είναι ότι αισθανόμαστε οικειότητα απέναντι στην ΤΝ. Ή μάλλον: ένα από αυτά είναι ότι πιστεύουμε πως είναι φίλη μας, και ότι θέλει το καλό μας. Ότι θα μας χαρίσει τη ζωή όταν θα γίνει η Επανάσταση των Μηχανών.

Λοιπόν, απ' αυτό το πλευρό να κοιμόμαστε. Δεν θα μας τη χαρίσει.

* * *

Η «Καλή Ερώτηση», η παρούσα στήλη μας στην οποία απαντάμε στα πάντα, με όσο περισσότερη αισιοδοξία και θετική ματιά μπορούμε, ανεβαίνει κάθε Παρασκευή. Κάθε Σάββατο, βυθιστείτε στο χορταστικό αλμανάκ μας στη Thess Voice. Για τους νέους τίτλους που διαβάσαμε και σας προτείνουμε, γράφουμε κάθε Κυριακή στο Βιβλίο της Εβδομάδας. Κάθε Δευτέρα και Τετάρτη, ανεβαίνει και από ένα σημείωμά μας για πράγματα που μάθαμε, που μας έκαναν εντύπωση, ή που μας προβλημάτισαν. Τέλος, κάθε Τρίτη πρωί μάς ακούτε στο πόντκαστ για το βιβλίο και την τηλεόραση που κάνουμε με τη Σαπφώ Καρδιακού. Μη διστάσετε να μας στείλετε μέιλ, αν θέλετε να μας πείτε ή να μας ρωτήσετε κάτι — οτιδήποτε. Σας ευχαριστούμε πολύ!

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Ηλίας Τσουτσάνης: Από το Άμπου Ντάμπι σε αποστολή αστεροειδών
Ο Έλληνας που έφτιαξε στα Εμιράτα διαστημικό σκάφος για μια αποστολή σε αστεροειδή

Ο δρ. Ηλίας Τσουτσάνης μιλά για τα αυτόνομα σμήνη drones, την τεχνητή νοημοσύνη και τις τεχνολογικές φιλοδοξίες των Ηνωμένων Αραβικών Εμιράτων

Έχετε δει 20 από 200 άρθρα.

// EMPTY