Ιωσήφ Σηφάκης: Η Τεχνητή Νοημοσύνη και ο ρόλος των φιλοσόφων

Ο Ιωσήφ Σηφάκης, ένας από τους πλέον διακεκριμένους επιστήμονες της πληροφορικής διεθνώς, είναι ο μοναδικός Έλληνας που έχει τιμηθεί με το Βραβείο Τούρινγκ, μια διάκριση αντίστοιχη με το Βραβείο Νόμπελ στον χώρο της Πληροφορικής, για τη συμβολή του στη θεωρία και εφαρμογή της μεθόδου επαλήθευσης και ελέγχου πληροφοριακών και υπολογιστικών συστημάτων, η οποία έχει καθιερωθεί πλέον ευρέως στη βιομηχανία. Μεταξύ άλλων, έχει τιμηθεί με τον τίτλο του Μεγάλου Αξιωματούχου του Εθνικού Τάγματος Αξίας της Γαλλίας και του Διοικητή της Λεγεώνας της Τιμής. Το Ίδρυμα της Βουλής των Ελλήνων τού έχει απονείμει το Βραβείο Κοινοβουλευτισμού και Δημοκρατίας, ενώ το 2013 τιμήθηκε από τον Πρόεδρο της Ελληνικής Δημοκρατίας με το μετάλλιο του Ταξιάρχη του Τάγματος του Φοίνικα.

Γεννήθηκε στο Ηράκλειο της Κρήτης, σπούδασε ηλεκτρολόγος μηχανικός στο Εθνικό Μετσόβιο Πολυτεχνείο και σε ηλικία 23 ετών, εγκαταστάθηκε στη Γαλλία, όπου συνέχισε τις σπουδές του στην Πληροφορική και ολοκλήρωσε το διδακτορικό του στο Πανεπιστήμιο της Γκρενόμπλ.

Στο βιβλίο του «Κατανοώντας και αλλάζοντας τον κόσμο», που κυκλοφορεί στα ελληνικά από τις Εκδόσεις Αρμός, επιχειρεί μια ευρύτερη φιλοσοφική θεώρηση της επιστήμης, της τεχνολογίας και του ανθρώπου, διακρίνοντας αυτά για τα οποία μπορεί να μιλά κανείς, με κάποιο βαθμό βεβαιότητας, από εκείνα που δεν δύναται να γνωρίζει. Αφετηρία του για αυτήν την διερεύνηση υπό το πρίσμα της γνωσιολογίας και της φιλοσοφίας της επιστήμης αποτελεί το δικό του επιστημονικό πεδίο, όπου κυριαρχεί η εφαρμοσμένη λογική.

Ο καθηγητής Ιωσήφ Σηφάκης μιλάει στην ATHENS VOICE

Κύριε καθηγητά, βλέπουμε τους φιλοσόφους να πιάνουν ξανά δουλειά στο δικό σας πεδίο. Πιστεύετε ότι η φιλοσοφία έχει πράγματι κάτι να προσφέρει στην εξέλιξη της Τεχνητής Νοημοσύνης;

Είναι αλήθεια ότι οι μεγάλες τεχνολογικές εταιρείες προσλαμβάνουν μαζικά φιλοσόφους. Το πραγματικό ανταγωνιστικό πλεονέκτημα των συστημάτων Τεχνητής Νοημοσύνης, δεν είναι πλέον μόνο η υπολογιστική ισχύς, αλλά ο χαρακτήρας, η φροντίδα και η κρίση που επιδεικνύουν αυτά τα συστήματα. Πρέπει να λαμβάνουν ταυτόχρονα υπόψη τους τις άμεσες ανάγκες του χρήστη, τα μακροπρόθεσμα συμφέροντά του, τα δικαιώματα των άλλων και τους κανόνες της κοινωνίας στο σύνολό της. Για παράδειγμα, μια Τεχνητή Νοημοσύνη που διαχειρίζεται τα ηλεκτρονικά μηνύματα και εντοπίζει απαγορευμένο περιεχόμενο στο μήνυμα ενός χρήστη, θα πρέπει να το αναφέρει. Επίσης, όταν η Τεχνητή Νοημοσύνη αρχίζει να ενεργεί αυτόνομα, το ερώτημα που θα μας απασχολεί δεν είναι μόνο τι μπορεί να κάνει η μηχανή, αλλά και αν θα πρέπει να το κάνει. Η Τεχνητή Νοημοσύνη υφίσταται μια θεμελιώδη μεταμόρφωση. Πρέπει μεταξύ άλλων, να σχεδιάζει αυτόνομα και να σταθμίζει τα πλεονεκτήματα και τα μειονεκτήματα, όπως ένας άνθρωπος.

Είχατε πει κάπου ότι είστε πλατωνιστής και ότι στα συστατικά του κόσμου, εκτός από την ύλη και την ενέργεια, περιλαμβάνεται και η πληροφορία. Αναρωτιέμαι αν οι μηχανές βλέπουν και αναπαράγουν τις σκιές στο πλατωνικό σπήλαιο ή αν βλέπουν τον κόσμο των μορφών, δηλαδή των πλατωνικών Ιδεών;

Πιστεύω ακράδαντα ότι η πληροφορία είναι μια θεμελιώδης οντότητα, ανεξάρτητη από τις φυσικές οντότητες που είναι η ύλη και η ενέργεια. Αυτό ίσως απηχεί τις πλατωνικές μου πεποιθήσεις, αλλά πρόκειται για μια οντολογική υπόθεση απαραίτητη για την κατανόηση του κόσμου. Αν απορρίψουμε αυτή την  υπόθεση, καταλήγουμε στο συμπέρασμα ότι η ανθρώπινη νοημοσύνη θα μπορούσε να είναι απλώς ένα επιφαινόμενο της ηλεκτρικής δραστηριότητας των νευρωνικών συστημάτων του εγκεφάλου μας. Αλλά αυτό δεν μπορεί να εξηγήσει την ικανότητά μας να κατανοούμε τον κόσμο, να συλλογιζόμαστε και να λαμβάνουμε αποφάσεις για την ικανοποίηση των αναγκών μας. Σχετικά με τη «Σπηλιά του Πλάτωνα», θα έλεγα ότι η Τεχνητή Νοημοσύνη, προς το παρόν, μπορεί μόνο να αναλύει δεδομένα και να παράγει εμπειρικές γνώσεις. Δεν διαθέτει αυτό που ονομάζω μεταγνώση, δηλαδή την ικανότητα να συνδυάζει διαφορετικά είδη γνώσης. Μένει να γίνει  ένα τεράστιο βήμα προτού αυτό το ερώτημα αποκτήσει νόημα, καθώς θα πρέπει, η Τεχνητή Νοημοσύνη, να καταστεί ικανή να κατασκευάσει ένα εννοιολογικό μοντέλο του κόσμου. Κάτι που κάνει από τη στιγμή που γεννιέται ένα παιδί, αλλά όχι μια μηχανή. Είμαστε ακόμα πολύ μακριά από αυτό.

Θυμάμαι ότι είχατε πει πως η ανθρώπινη νοημοσύνη υπερβαίνει το άθροισμα επιμέρους ικανοτήτων ή ένα σύνολο υπολογισμών και μπορεί να συνδυάζει διαφορετικά είδη γνώσης. Ωστόσο, αν δύο συστήματα, ένας άνθρωπος και μια μηχανή καταφέρνουν να λύνουν το ίδιο πρόβλημα, τι σημασία έχει αν η ανθρώπινη νοημοσύνη φτάνει στη λύση διαφορετικά;

Είναι αλήθεια ότι, σε αντίθεση με ό,τι υποστηρίζουν οι οπαδοί της Γενικής Τεχνητής Νοημοσύνης (AGI), η νοημοσύνη μας δεν είναι απλώς ένα σύνολο δεξιοτήτων. Ίσως γνωρίζετε ότι ορισμένοι προσπαθούν να αποδείξουν ότι έχουν φτάσει στην «υπερνοημοσύνη», επειδή μπορούν να ξεπεράσουν τους ανθρώπους σε μεγάλο αριθμό εργασιών. Αλλά φανταστείτε ότι έχετε μια μηχανή που είναι πρωταθλήτρια στο σκάκι, μπορεί να οδηγεί αυτοκίνητα, μπορεί να μαγειρεύει, κλπ. Τι λείπει; Απλώς ο συντονισμός μεταξύ όλων αυτών των δεξιοτήτων ανάλογα με τις καταστάσεις που αντιμετωπίζει και η επίτευξη στόχων. Αυτά είναι ικανότητες που η τεχνητή νοημοσύνη δεν διαθέτει και προς το παρόν είναι δύσκολο να επιτευχθούν.

Ωστόσο, σε ένα υποθετικό σενάριο που μια μηχανή παίρνει πάντοτε όλες τις σωστές αποφάσεις γιατί να μας ενδιαφέρει αν ο άνθρωπος σκέφτεται, κατανοεί, κρίνει, αλλά τελικά κάνει λάθη;

Η κατανόηση και η κριτική σκέψη είναι θεμελιώδη χαρακτηριστικά του ανθρώπου. Αφού προβάλετε την τολμηρή υπόθεση για μια  μηχανή που «παίρνει πάντοτε τις σωστές αποφάσεις», ας φανταστούμε επί πλέον ότι έχετε έναν σκλάβο ικανό να κάνει τα πάντα σωστά για εσάς μόλις το ζητήσετε. Θα μπορούσε έτσι να ικανοποιήσει όλες σας τις ανάγκες, όλες σας τις επιθυμίες. Το ερώτημα είναι «θα είχε νόημα μια τέτοια ζωή;», μια ζωή χωρίς προσπάθεια, χωρίς προκλήσεις, χωρίς δημιουργικότητα, χωρίς αίσθηση ευθύνης;  Θα ήταν μια ευτυχισμένη ζωή ή μια μονότονη άχαρη ζωή, όπως για παράδειγμα η ζωή ενός φυτού;  Πιστεύω ότι ο μύθος της «υπερνοήμονος» μηχανής που μας αντικαθιστά πλήρως είναι ένας αντι-ανθρωπιστικός, ένας υλιστικός μύθος, που υποβαθμίζει τον άνθρωπο. Ένας μύθος που προσπαθεί να μας πείσει ότι η ευτυχία περιορίζεται στην ικανοποίηση των υλικών αναγκών και σε τίποτα άλλο.

Έχετε προτείνει ότι αν ένα ευφυές σύστημα μπορεί να αντικαταστήσει επιτυχώς ένα άλλο σύστημα σε μια συγκεκριμένη εργασία και σε συγκεκριμένο περιβάλλον, τότε «περνάει» το λεγόμενο τεστ αντικατάστασης (replacement test). Πιστεύετε ότι η επιτυχία σε ένα τέτοιο τεστ θα πρέπει να έχει κανονιστικό χαρακτήρα; Αν δηλαδή ένα σύστημα περνάει το τεστ θα πρέπει να αντικαταστήσει το άλλο σύστημα;

Είχα προτείνει το τεστ αντικατάστασης προκειμένου να γενικεύσω το τεστ του Τούρινγκ σχετικά με τη νοημοσύνη. Το τεστ του Τούρινγκ βασίζεται στην αρχή ότι μια μηχανή θα ήταν εξίσου έξυπνη με έναν άνθρωπο αν κατάφερνε να απαντήσει με την ίδια επιτυχία σε ένα σύνολο ερωτήσεων που ορίζει ένας κριτής. Είχα επικρίνει αυτό το τεστ επειδή βασιζόταν αποκλειστικά σε ένα παιχνίδι ερωταπαντήσεων. Επίσης και το γεγονός ότι είχε χρησιμοποιηθεί από ορισμένους ως κριτήριο για να «αποδείξουν» ότι τα μοντέλα τους πλησιάζουν την  ανθρώπινη νοημοσύνη. Πρόκειται για ένα τεστ που περιορίζει την νοημοσύνη σε πολύ στενό πλαίσιο. Ο σκύλος μου είναι πολύ έξυπνος, αλλά δεν θα μπορέσει ποτέ να περάσει το τεστ Τούρινγκ. Προτείνοντας το τεστ αντικατάστασης, έλαβα υπόψη γενικότερα κριτήρια σύγκρισης, σχετικά με τις ικανότητες να εκτελούμε διάφορες εργασίες. Έτσι, μπορούμε να πούμε ότι μια μηχανή είναι εξίσου έξυπνη με έναν άνθρωπο αν είναι ικανή να οδηγεί εξίσου καλά με αυτόν. Ωστόσο πρέπει να τονίσω πως όλα τα τεστ που βασίζονται σε συγκρίσεις συμπεριφορών δεν αρκούν για την αξιολόγηση της νοημοσύνης. Να σας δώσω ένα παράδειγμα. Αν αύριο το ChatGPT περάσει τις εξετάσεις της ιατρικής σχολής, με επιδόσεις ίδιες ή και καλύτερες των φοιτητών αυτού του κλάδου, θα του επιτρέπατε να ασκήσει το επάγγελμα του γιατρού; Σας αφήνω να σκεφτείτε αυτό το ερώτημα, το οποίο αναδεικνύει μια μεγάλη διαφορά μεταξύ της ανθρώπινης νοημοσύνης και της Τεχνητής Νοημοσύνης. Σκεφτείτε απλώς ότι ένας άνθρωπος γιατρός υπόκειται σε νομικούς και ηθικούς κανόνες και ότι, αν διαπράξει επαγγελματικό σφάλμα, θα τιμωρηθεί. Αλλά δεν θα βάζαμε ποτέ το ChatGPT στη φυλακή.

Ωστόσο σήμερα γίνεται λόγος όχι μόνο για συστήματα που θα λαμβάνουν αποφάσεις για ιατρικά θέματα αλλά και για μηχανές που θα λαμβάνουν ηθικές αποφάσεις; Θα μπορούσε μια «ηθική» μηχανή να λειτουργήσει κάποτε ως δικαστής;

Θεωρώ ότι όλη αυτή η συζήτηση για την ηθική συμπεριφορά των μηχανών είναι εντελώς χωρίς νόημα. Για να μιλήσουμε για ηθική συμπεριφορά, πρέπει να κατανοούμε καλά τι είναι η κανονιστική  συμπεριφορά των ανθρώπων. Σας έδωσα το  παράδειγμα του ChatGPT ως γιατρού και σας άφησα να σκεφτείτε τις διαφορές με έναν άνθρωπο γιατρό. Ο άνθρωπος έχει υπεύθυνη συμπεριφορά, επειδή πρέπει να ακολουθεί ένα σύνολο κοινών κανόνων που επιβάλλει η κοινωνία. Μη συμμόρφωση προς αυτούς τους κανόνες θέτει σε κίνδυνο τη φήμη του, την κοινωνική του θέση, το επαγγελματικό του κύρος, το μισθό του, την ελευθερία του. Μια μηχανή μπορεί να μιμηθεί μια ηθική συμπεριφορά, αλλά υπάρχει μεγάλη οντολογική διαφορά μεταξύ μηχανής και ανθρώπου. Είμαστε μηχανές με σάρκα και οστά. Υπάρχουν πολλά πράγματα που είναι ζωτικής σημασίας για τον άνθρωπο και για τα οποία τις  μηχανές είναι απλώς μαθηματικές σχέσεις.

Πόσο πιστεύετε ότι είναι εφικτή μια υβριδική σχέση ανθρώπου και μηχανής στο άμεσο μέλλον; Είμαστε οι άνθρωποι έτοιμοι να συνεργαστούμε με τις μηχανές;

Το ζήτημα της συνεργατικής τεχνητής νοημοσύνης είναι πολύ σημαντικό. Οι υποστηρικτές της Γενικής Τεχνητής Νοημοσύνης (AGI) έχουν μια οπτική που αντιπαραθέτει τις μηχανές στους ανθρώπους. Στόχος τους είναι να αποδείξουν ότι οι μηχανές είναι πιο έξυπνες και να ελαχιστοποιήσουν τον ρόλο του ανθρώπου. Μια άλλη προσέγγιση, πολύ πιο δύσκολη να εφαρμοστεί από τεχνική άποψη, είναι αυτή που επιτρέπει μια αρμονική συνεργασία μεταξύ ανθρώπου και μηχανής. Για να συνεργάζονται και να συνδημιουργούν με τους ανθρώπους, οι μηχανές πρέπει να είναι ικανές να εξηγούν τα αποτελέσματά τους με κατανοητούς όρους. Συχνά, τα αποτελέσματα που παράγουν οι μηχανές είναι κείμενα υπερβολικά μακρά για να αναλυθούν και να κατανοηθούν. Το αποτέλεσμα είναι μια σχέση τύπου «αφέντης-σκλάβος», όπου η μηχανή εκτελεί μια συγκεκριμένη εργασία αντί για εμάς, ενώ θα μπορούσε να την εκτελέσει μαζί μας. Ένα παράδειγμα συνεργατικής τεχνητής νοημοσύνης θα μπορούσαμε να έχουμε στην εκπαίδευση. Εκεί, μια συνεργατική τεχνητή νοημοσύνη θα μπορούσε να λειτουργεί ως κηδεμόνας παρά ως σκλάβος. Δεν θα προορίζονταν για την εκτέλεση των εργασιών, αλλά θα βοηθούσε τον νεαρό μαθητή να μάθει να σκέφτεται και να καταλήγει στα αποτελέσματα, όπως η μητέρα μου, όταν ήμουν εγώ μαθητής, δεν έκανε τις εργασίες μου, αλλά με καθοδηγούσε για να τις κάνω σωστά.

Με το έργο σας δείξατε ότι μπορεί να ελεγχθεί η ορθότητα ενός συστήματος ΤΝ. Τα σημερινά Μεγάλα Γλωσσικά Μοντέλα (LLMs) ωστόσο είναι σαν «μαύρα κουτιά» και δεν επιδέχονται τέτοιες αποδείξεις. Μπορούμε να μιλάμε για δύο ασύμβατα είδη ΤΝ, την αποδεδειγμένα αξιόπιστη και την ισχυρή αλλά αδιαφανή;

Η έρευνά μου έχει αποδείξει ότι είναι δυνατό να ελεγχθεί η ορθότητα ενός παραδοσιακού συστήματος που έχει προγραμματιστεί από τον άνθρωπο. Οι μέθοδοί μου επιτρέπουν την αναλυτική, βήμα προς βήμα, εξέταση της λειτουργίας του με τη βοήθεια λογικών και αδιάψευστων συλλογισμών. Το πρόβλημα είναι ότι η σημερινή Τεχνητή Νοημοσύνη βασίζεται στη μηχανική μάθηση που ακολουθεί ένα υπολογιστικό μοντέλο πολύ διαφορετικό από αυτό των προγραμματιζόμενων μηχανών. Αυτή η διαφορά γίνεται πιο κατανοητή αν τη συγκρίνουμε με τα δύο συστήματα της ανθρώπινης σκέψης: τη γρήγορη σκέψη και τη αργή σκέψη. Η γρήγορη σκέψη είναι αποτέλεσμα  μάθησης. Μας  είναι αδύνατο να κατανοήσουμε ορισμένες δεξιότητες που αποκτήσαμε μαθαίνοντας κατά τρόπο εμπειρικό, όπως να  περπατάμε, να μιλούμε ή να κολυμπούμε. Η αργή σκέψη είναι αυτή που προκύπτει από συνειδητούς  συλλογισμούς. Είναι διαδικαστική και κατανοήσιμη. Ελπίζω να έχω εξηγήσει γιατί τα νευρωνικά δίκτυα δεν είναι παρά «μαύρα κουτιά» και γιατί είναι δύσκολο να κατανοήσουμε τον τρόπο λειτουργίας τους.

Η συμπεριφορά των Γλωσσικών Μοντέλων που γνωρίζουμε σήμερα μπορούμε να πούμε ότι βρίσκεται πιο κοντά στον Σωκράτη ή στους σοφιστές;

Τα Γλωσσικά Μοντέλα (LLM) έχουν εκπαιδευτεί σε ένα τεράστιο σώμα κειμένων προκειμένου να παράγουν απαντήσεις σε ερωτήσεις με καθαρά μηχανικό τρόπο, χωρίς όμως ποτέ να κατανοούν τη σημασία των κειμένων που παράγουν. Πιστεύω ότι η τάση να ανθρωπομορφίζουμε την Τεχνητή Νοημοσύνη μπορεί να οδηγήσει σε επιφανειακές αναλογίες, που ίσως διασκεδάζουν ή διεγείρουν τη φαντασία του κοινού, όμως οδηγούν σε εσφαλμένες αντιλήψεις. Είναι καθήκον μας, ως επιστήμονες, να λέμε τα πράγματα όπως είναι.

Είναι αλήθεια ότι στο δημόσιο λόγο παρατηρούμε συχνά, υπερβολικές τεχνοφοβικές στάσεις αλλά και αλόγιστα τεχνοφιλικές. Πολλοί λένε ότι η στάση απέναντι στην τεχνολογία είναι ταξική, ηλικιακή ή γεωγραφική. Εσείς τι λέτε;

Σίγουρα υπάρχουν διαφορές ανάλογα με την κοινωνική τάξη, την ηλικία ή τη γεωγραφική θέση. Ωστόσο, το ουσιώδες είναι ότι οι ακραίες αυτές θέσεις αποκαλύπτουν μια αδυναμία να αναλυθούν με ψυχραιμία και ορθολογισμό οι συνέπειες. Η Τεχνητή Νοημοσύνη, όπως κάθε τεχνολογία, μπορεί να είναι χρήσιμη ή να ενέχει κινδύνους. Δυστυχώς, η κοινή γνώμη, είναι πολωμένη μεταξύ δύο ακραίων θέσεων που στην πραγματικότητα εξυπηρετούν τον ίδιο στόχο. Από τη μία πλευρά, υπάρχουν μύθοι σχετικά με την υπερ-νοημοσύνη των μηχανών, στις οποίες ορισμένοι αποδίδουν προθέσεις κυριαρχίας επί των ανθρώπων. Από την άλλη, υπάρχει η άποψη ότι οι κίνδυνοι δεν πρέπει να ελέγχονται, καθώς αυτό θα αποτελούσε εμπόδιο στην καινοτομία και την πρόοδο – σαν η πρόοδος να ήταν αυτοσκοπός. Όσο παράδοξο και αν φαίνεται, αυτές οι δύο θέσεις αλληλοσυμπληρώνονται. Καλλιεργούνται και διαδίδονται από τις μεγάλες τεχνολογικές εταιρείες και τα μέσα ενημέρωσης που ελέγχουν, για τους ίδιους ακριβώς λόγους. Την άκριτη αποδοχή της τεχνολογίας. Αυτή η σύγχυση μας εμποδίζει να αξιολογήσουμε και να προσπαθήσουμε να ελέγξουμε τους πραγματικούς κινδύνους, οι οποίοι είναι τεχνολογικής φύσης, όπως η απουσία εγγυήσεων σχετικά με την ασφάλεια αυτών των συστημάτων, είναι ανθρωπογενείς, για παράδειγμα κακή χρήση των προϊόντων τεχνητής νοημοσύνης, αλλά μπορεί να είναι και συστημικοί, που πιθανόν οδηγούν σε αποδιοργάνωση των επαγγελματικών και κοινωνικών σχέσεων, αποδυνάμωση των θεσμών, και γνωστική εξωτερίκευση.

Εμείς εδώ στην Ευρώπη έχουμε εξελιχθεί σε πρωταγωνιστή υπερρύθμισης της ΤΝ. Μάλιστα πολλοί ερμηνεύουν την υπερκανονιστικότητα ως αδυναμία καινοτομίας. Μήπως όμως προσπαθούμε να γράψουμε κανόνες σε ένα παιχνίδι που η Ευρώπη είναι ήδη χαμένη;

Είναι αλήθεια ότι η Ευρώπη έχει γνωστές και αναγνωρισμένες αδυναμίες όσον αφορά την παρακολούθηση της εξέλιξης της Τεχνητής Νοημοσύνης. Πρόκειται για ένα θέμα που έχει συζητηθεί επανειλημμένα και δεν θέλω να επεκταθώ σε μια ανάλυση των αιτίων. Τα κείμενα που ψηφίστηκαν από την Ευρωπαϊκή Ένωση, κινούνται, κατά τη γνώμη μου, προς τη σωστή κατεύθυνση. Τι αναφέρουν αυτά τα κείμενα; Επιδιώκουν να εφαρμόσουν την αρχή της προφύλαξης που ισχύει για κάθε προϊόν, σύμφωνα με τους διεθνείς κανόνες. Όταν ένα σύστημα εκτελεί μια εργασία, η αξιοπιστία του πρέπει να είναι ανάλογη με τον βαθμό κρισιμότητάς της εργασίας. Έτσι για τους ανελκυστήρες, τα αεροπλάνα, τις ιατρικές συσκευές απαιτούμε η πιθανότητα σφάλματος να είναι αποδεδειγμένα πάρα πολύ μικρή. Το πρόβλημα είναι ότι, προς το παρόν, τα συστήματα τεχνητής νοημοσύνης δεν είναι αρκούντως  αξιόπιστα για την εκτέλεση κρίσιμων εργασιών. Για να παρακάμψουν αυτό το εμπόδιο, οι ΗΠΑ αντιτίθενται ανοιχτά στην αρχή της προφύλαξης και επιτρέπουν την αυτό-πιστοποίηση. Αυτό σημαίνει ότι, σε αντίθεση με τα παραδοσιακά συστήματα, των οποίων η αξιοπιστία διασφαλίζεται από ανεξάρτητους φορείς, ο ίδιος ο κατασκευαστής αναλαμβάνει την ευθύνη. Για παράδειγμα, η Tesla εγγυάται την αξιοπιστία των συστημάτων αυτόνομης οδήγησης που διαθέτει, κάτι που θα μπορούσε να εξηγήσει τα γνωστά προβλήματά της. Συνεπώς, για να απαντήσω στην ερώτησή σας, συμφωνώ με το πνεύμα του ευρωπαϊκού κανονιστικού πλαισίου στον τομέα της τεχνητής νοημοσύνης. Ωστόσο, η αδυναμία της Ευρώπης να ανταγωνιστεί τις Ηνωμένες Πολιτείες και την Κίνα έχει πολύ βαθύτερες αιτίες και δεν πρέπει να αποδίδεται απλώς στη νομοθεσία.

Εσείς πιστεύετε ότι δίλημμα ασφάλεια ή καινοτομία είναι αληθές ή ψευδές; Θα μπορούσε η απαίτηση για αξιοπιστία, διαφάνεια και επαλήθευση να αποτελέσει ανταγωνιστικό πλεονέκτημα της ευρωπαϊκής τεχνολογίας και όχι ένα γραφειοκρατικό χειρόφρενο; Και πώς;

Πιστεύω ότι πρόκειται για ψευδές δίλημμα. Έχοντας εργαστεί στον τομέα της ασφάλειας των συστημάτων, μπορώ να σας διαβεβαιώσω ότι ισχύει ακριβώς το αντίθετο. Οι απαιτήσεις σε θέματα ασφάλειας συστημάτων ήταν συχνά το κίνητρο για την ανάπτυξη καινοτομίας. Έκανα έρευνες  για την  επαλήθευση κρίσιμων συστημάτων, επειδή αυτό ήταν  απαίτηση των φορέων πιστοποίησης για την χρήση τους. Πολλές καινοτομίες συνδέονται με την ανάγκη σχεδιασμού συστημάτων που να ανταποκρίνονται σε τεχνικές απαιτήσεις, ιδίως όσον αφορά την ασφάλεια και την προστασία. Δεν είναι η θέσπιση και η εφαρμογή των κανόνων που εμποδίζει την Ευρώπη να παραμείνει στον αγώνα της Τεχνητής Νοημοσύνης, αλλά οι ανυπέρβλητες αδυναμίες της.

Όπως;

Δεν μου αρέσει να αναλύω το προφανές. Έχοντας περάσει μεγάλο μέρος της ζωής μου ως ερευνητής, αλλά και ως διευθυντής ερευνητικών οργανισμών που χρηματοδοτούνται εν μέρει από ευρωπαϊκά κονδύλια, γνωρίζω καλά τα προβλήματα. Με απλά λόγια, η Ευρώπη είναι ένας γίγαντας με πήλινα πόδια. Παρότι διαθέτει οικονομικό και επιστημονικό δυναμικό, καθώς και πόρους που την κατατάσσουν στην πρώτη θέση παγκοσμίως, δεν είναι σε θέση να ανταγωνιστεί τις Ηνωμένες Πολιτείες και την Κίνα στον τομέα της καινοτομίας. Και αυτό επειδή δεν υπάρχει ενιαία πολιτική βούληση μεταξύ των κρατών μελών για την επίτευξη κοινών στρατηγικών στόχων, όπως κάνουν οι ανταγωνιστές μας. Ένα πρόβλημα που κλιμακώνεται στην περίπτωση της Τεχνητής Νοημοσύνης. Μπορούμε να αναζητήσουμε εξηγήσεις για αυτό, όμως το πιο ανησυχητικό είναι ότι αυτή η κατάσταση θεωρείται πλέον δεδομένη. Οι πρόσφατες γεωπολιτικές εξελίξεις επιβεβαιώνουν την πολιτική, οικονομική και τεχνολογική μας παρακμή, και αυτό δεν φαίνεται να συγκινεί κανέναν.

Κύριε Σηφάκη, στην Ελλάδα υπερηφανευόμαστε για τις διακρίσεις των επιστημόνων μας, που όμως συχνά δεν εργάζονται στην Ελλάδα. Εσείς είστε μια τέτοια περίπτωση. Τι θα κάνατε αν ήταν στο χέρι σας  για να αλλάξει κάτι στην ελληνική εκπαίδευση, στην έρευνα, και στην επιχειρηματικότητα για να κερδίζει η Ελλάδα από τα «μυαλά» των νέων επιστημόνων;

Με έχει απασχολήσει πολύ αυτό το ζήτημα, ιδίως στο παρελθόν ως πρόεδρο του Εθνικού Συμβουλίου Έρευνας και Τεχνολογίας. Το πρόβλημα είναι απλό και δεν πρέπει να χανόμαστε σε περίπλοκες αναλύσεις.  Εδώ και δεκαετίες, η Ελλάδα δεν κάνει καμιά σοβαρή προσπάθεια  για την ανάπτυξη της εκπαίδευσης, της έρευνας και της καινοτομίας. Οι πολιτικές ηγεσίες στο σύνολο τους δεν τις θεωρούν προτεραιότητες.

Στο βιβλίο σας επισημαίνετε γνωστικές διαφορές ανθρώπων και μηχανών. Ποιο πιστεύετε ότι είναι το χαρακτηριστικό εκείνο που θα παραμένει αμιγώς ανθρώπινο ανεξάρτητα από τον βαθμό εξέλιξης της νοημοσύνης των μηχανών;

Πιστεύω ότι αυτές οι γνωστικές διαφορές αντανακλούν στην πραγματικότητα οντολογικές διαφορές. Ακριβώς όπως ένα πουλί δεν είναι αεροπλάνο, ένα υποβρύχιο δεν είναι ψάρι, έτσι και ο άνθρωπος δεν είναι μια μηχανή κατασκευασμένη από πυρίτιο. Ο άνθρωπος κάνει την μηχανή ενώ η μηχανή δεν κάνει τον άνθρωπο. Ο άνθρωπος γεννιέται και πεθαίνει, έχει υλικές και άυλες ανάγκες, βιώνει φόβο, χαρά και ευτυχία. Όπως έχω ήδη εξηγήσει, μια μηχανή δεν μπορεί να θεωρηθεί υπεύθυνη, καθώς δεν μπορεί να υποστεί τις συνέπειες των πράξεών της όπως μπορούν οι άνθρωποι. Δεν μπορεί να τιμωρηθεί με την κυριολεκτική έννοια του όρου. Δεν μπορεί να νιώσει τύψεις. Δεν μπορεί να κάνει θυσίες. Φυσικά, μια τεχνητή νοημοσύνη μπορεί να προγραμματιστεί ώστε να τηρεί ηθικούς κανόνες, προκειμένου να αποφεύγει ορισμένες συμπεριφορές. Μπορεί μάλιστα να βελτιστοποιηθεί ώστε να μεγιστοποιεί τα αποτελέσματα που θεωρούμε «καλά». Όμως αυτό δεν αποτελεί ηθική πράξη. Πρόκειται απλώς για συμμόρφωση. Μια ηθική πράξη συνεπάγεται διλήμματα που θέτουν σε κίνδυνο την άνεση και τις συνθήκες διαβίωσης και ύπαρξης του ανθρώπου.

Επιπλέον, ο άνθρωπος και η νοημοσύνη του είναι προϊόν της εξέλιξής, σε έναν φυσικό και κοινωνικό περιβάλλον με το οποίο ο άνθρωπος είναι στενά συνδεδεμένος. Αντίθετα, οι μηχανές έχουν κατασκευαστεί και εκπαιδευτεί από τον άνθρωπο. Η νοημοσύνη του ChatGPT είναι στην πραγματικότητα αυτή των ανθρώπων που συνέταξαν τα κείμενα που χρησιμοποιήθηκαν για την εκμάθησή του. Απλώς ξέρει να αντλεί γνώσεις που έχουν ήδη αποθηκευτεί σε εκατοντάδες δισεκατομμύρια παραμέτρους.

Τέλος, ο άνθρωπος, όπως όλοι οι ζωντανοί οργανισμοί, έχει αναπτύξει κατά τη διάρκεια της εξέλιξής του ένα μοντέλο του κόσμου που ερμηνεύει τις αισθητηριακές πληροφορίες και το οποίο αντιστοιχεί σε αυτό που ονομάζουμε κοινή λογική (common sense logic). Αυτό το μοντέλο, το οποίο αναπτύσσεται από τη γέννησή μας και ενισχύεται μέσω της εμπειρίας και της λογικής, μας επιτρέπει να κατανοούμε και να προβλέπουμε καταστάσεις. H τεχνητή νοημοσύνη, μπορεί να αναλύει αισθητηριακά σήματα αλλά δεν διαθέτει ένα τέτοιο μοντέλο. Η κοινή λογική είναι η κύρια συνιστώσα της ανθρώπινης νοημοσύνης. Γνωρίζετε ότι οι γονείς είναι μεγαλύτεροι σε ηλικία από τα παιδιά τους, ότι ο ήλιος ανατέλλει και δύει, ότι τα ζώα που πετούν έχουν φτερά κ.λπ. Όλες αυτές οι σιωπηρές γνώσεις που αποκτώνται μέσω αυτόματης επαγωγής δεν μπορούν να συντεθούν από ένα LLM.

Κλείνοντας, θα έλεγα ότι είναι λυπηρό το γεγονός ότι όλες αυτές οι κραυγαλέες και προφανείς αλήθειες  επισκιάζονται εντελώς από την τρέχουσα αντίληψη για τη Γενική Τεχνητή Νοημοσύνη (AGI). Και κατανοώ πλήρως τη στάση των «Big Tech» που την καλλιεργούν και την εκμεταλλεύονται. Ωστόσο, δεν παύει να με εκπλήττει  η απουσία αντίδρασης, η εκκωφαντική σιωπή των διανοουμένων και των θεσμών. Πρέπει να αντιδράσουμε πριν να είναι αργά.

Ευχαριστώ πολύ και ελπίζω να σας δούμε σύντομα στην Ελλάδα.

Εγώ ευχαριστώ.