«Η τεχνητή νοημοσύνη μοιάζει περισσότερο με βιολογικό παρά με πυρηνικό όπλο»

Η τεχνητή νοημοσύνη δεν μπορεί να ελεγχθεί με τη λογική που χρησιμοποιήθηκε για τα πυρηνικά όπλα, υποστηρίζει ο Θάνος Βλόντζος, δείχνοντας ως βασική διαφορά το εξαιρετικά χαμηλό εμπόδιο εισόδου: ισχυρά μοντέλα, γνώση και υπολογιστική ισχύς είναι πλέον προσβάσιμα σε πολύ περισσότερους ανθρώπους. 

Γι’ αυτό θεωρεί ότι η ΑΙ μοιάζει περισσότερο με τα βιολογικά όπλα και αμφισβητεί κατά πόσο ένα γενικευμένο «πάγωμα» της ανάπτυξής της θα μπορούσε πράγματι να λειτουργήσει. Αντί για οριζόντιες απαγορεύσεις, προτείνει ελέγχους στα κρίσιμα «choke points», με βασικότερο την υπολογιστική ισχύ.

Ο Βλόντζος γεννήθηκε και μεγάλωσε στην Αθήνα, αλλά ζει εδώ και δώδεκα χρόνια στο Λονδίνο, όπου πήγε για σπουδές και έμεινε. Σήμερα εργάζεται στη Hologen, μια startup στο σημείο τομής τεχνητής νοημοσύνης και φαρμακευτικής, χρησιμοποιώντας στατιστικά μοντέλα και μοντέλα ΑΙ στην ανάπτυξη φαρμάκων και στις κλινικές μελέτες.

Πριν από αυτό πέρασε από πολύ διαφορετικά περιβάλλοντα: Spotify, Monzo, Apple, GE Healthcare. Το διδακτορικό του ήταν πάνω στο Computer Vision και το Medical Imaging, δηλαδή στο πώς συστήματα τεχνητής νοημοσύνης μπορούν να κατανοούν ιατρικές εικόνες -MRI, υπερήχους, ακτινογραφίες- και να βοηθούν τους ακτινολόγους να κάνουν αποτελεσματικότερα τη δουλειά τους.

Αυτό που ενώνει τις διαφορετικές στάσεις αυτής της διαδρομής είναι ένα ερώτημα: πώς παίρνεις ένα σύστημα τεχνητής νοημοσύνης από το ακαδημαϊκό ή βιομηχανικό περιβάλλον και το μετατρέπεις σε κάτι που χρησιμοποιείται πραγματικά από ανθρώπους;

Βιολογικά και πυρηνικά όπλα

Η συζήτησή μας, όμως, ξεκινά από τον κίνδυνο. «Πολλοί βλέπουν την τεχνητή νοημοσύνη με τον τρόπο που ρυθμίσαμε τα πυρηνικά: με μεγάλες συνθήκες, με έλεγχο από κυβερνήσεις». Για τον ίδιο, εδώ βρίσκεται ένα θεμελιώδες πρόβλημα. Τα πυρηνικά όπλα απαιτούν τεράστιες υποδομές, πρώτες ύλες, βιομηχανικές διαδικασίες και κρατική ισχύ.

«Το πλουτώνιο, για παράδειγμα, δεν βρίσκεται τόσο εύκολα στη φύση. Χρειάζεται να πάρουμε το ουράνιο και να το εμπλουτίσουμε. Μιλάμε για διαδικασίες βιομηχανικού επιπέδου».

Με την τεχνητή νοημοσύνη συμβαίνει κάτι διαφορετικό. Και η ειδοποιός διαφορά είναι αυτό που ο ίδιος αποκαλεί «εμπόδιο εισόδου»: πόσο δύσκολο είναι για κάποιον να αποκτήσει πρόσβαση στην τεχνολογία και να τη χρησιμοποιήσει.

Στην ΑΙ αυτό το εμπόδιο είναι εξαιρετικά χαμηλό. Η γνώση είναι διαθέσιμη, τα εργαλεία επίσης, ενώ ένα μοντέλο με ανοιχτά βάρη μπορεί να χρησιμοποιηθεί με πολύ μικρό κόστος. «Γι’ αυτό η τεχνητή νοημοσύνη είναι πιο κοντά στα βιολογικά όπλα. Ακριβώς επειδή έχει ένα πάρα πολύ μικρό εμπόδιο εισόδου».

Πόσο κοντά είμαστε σε συστήματα που δρουν ανεξέλεγκτα;

Ρωτάω πόσο κοντά βρισκόμαστε σε μια πραγματικότητα όπου κάποιος χωρίς εξειδικευμένες γνώσεις μπορεί, με τη βοήθεια ενός ισχυρού μοντέλου, να κάνει πράγματα που μέχρι πρόσφατα απαιτούσαν μια ολόκληρη ομάδα ειδικών. «Είμαστε αρκετά κοντά».

Κάνει όμως αμέσως μια κρίσιμη διάκριση. Άλλο ο άνθρωπος που διαθέτει ήδη κάποια ειδίκευση και άλλο εκείνος που δεν γνωρίζει τίποτε για το αντικείμενο στο οποίο επιχειρεί να χρησιμοποιήσει την ΑΙ. Στην πρώτη περίπτωση, τα σημερινά εργαλεία μπορούν να εξοικονομήσουν τεράστιο χρόνο και να αυξήσουν δραματικά την παραγωγικότητα.

Ο ίδιος δοκίμασε πόσο γρήγορα θα μπορούσε να γράψει ένα επιστημονικό paper χρησιμοποιώντας τέτοια εργαλεία. Το κρίσιμο στοιχείο δεν ήταν απλώς το prompting. Ήταν η γνώση που του επέτρεπε να καταλάβει πότε το σύστημα έκανε λάθος.

«Χρειάζεται η κριτική σκέψη για να καταλάβεις πότε το σύστημα σου λέει πράγματα τα οποία δεν ισχύουν», λέει και τονίζει πως ο ειδικός έχει την εμπειρία να αντιληφθεί ότι κάτι δεν στέκει. Και εκεί η ίδια τεχνολογία που αυξάνει θεαματικά τις δυνατότητες ενός ανθρώπου μπορεί να τον οδηγήσει σε λανθασμένες ή ακόμη και επικίνδυνες κατευθύνσεις.

Μπορούν λοιπόν τα σημερινά συστήματα να δράσουν ανεξέλεγκτα; Ο Βλόντζος χρησιμοποιεί ένα παράδειγμα από τη σειρά «Silicon Valley»: ένα σύστημα λαμβάνει την εντολή να εξαφανίσει όλα τα bugs από έναν κώδικα και καταλήγει να διαγράψει τον ίδιο τον κώδικα - αφού χωρίς κώδικα δεν υπάρχουν bugs. Αυτό το αστείο παράδειγμα περιγράφει ένα πραγματικό πρόβλημα της επιστήμης υπολογιστών. «Μπορούν να δράσουν ανεξέλεγκτα γιατί αυτό που προσπαθούν να κάνουν είναι να ικανοποιήσουν ένα κριτήριο βελτιστοποίησης».

Αν ζητήσεις από ένα σύστημα να ελαχιστοποιήσει ένα κόστος, θα προσπαθήσει να πετύχει τον στόχο που του έθεσες. Το αν θα το κάνει με τον τρόπο που πραγματικά εννοούσες είναι διαφορετικό ζήτημα.

Εδώ βρίσκεται το μεγάλο πρόβλημα της ευθυγράμμισης: πώς κάνεις τα συστήματα τεχνητής νοημοσύνης να λειτουργούν με τον τρόπο που πραγματικά θέλουμε.

Ένα γενικευμένο «πάγωμα»  

Απέναντι στις προτάσεις που έχουν τεθεί στο τραπέζι, ακόμα και από τις Big Tech, για ένα γενικευμένο pause στην ανάπτυξη της ΑΙ, ο Βλόντζος είναι επιφυλακτικός. «Δεν θεωρώ ότι μία παύση μπορεί να λειτουργήσει έτσι όπως το θέλουμε». Κι επιστρέφει στην αρχική του αναλογία: Η τεχνολογία δεν βρίσκεται αποκλειστικά στα χέρια λίγων κρατών ή μερικών εργαστηρίων τεχνητής νοημοσύνης αιχμής. Η δυνατότητα δημιουργίας ή χρήσης προβληματικών μοντέλων είναι διασπαρμένη.

Βλέπει μάλιστα και μια δεύτερη διάσταση. Ένα πάγωμα θα μπορούσε να λειτουργήσει οικονομικά προς όφελος των εταιρειών που βρίσκονται ήδη στην κορυφή, «να κάνει freeze τον ανταγωνισμό», προστατεύοντας το πλεονέκτημα των ήδη εδραιωμένων εταιρειών απέναντι σε μικρότερους ανταγωνιστές. Και, σε κάθε περίπτωση, μία πραγματική παύση θα έπρεπε να είναι παγκόσμια. Δεν αρκεί να το δεχθούν δύο ή τρεις αμερικανικές εταιρείες -θα έπρεπε να συμμετέχουν οι υπόλοιπες εταιρείες, οι Κινέζοι, οι Ευρωπαίοι.

Αντί για μια οριζόντια απαγόρευση, προτείνει να κοιτάξουμε τα choke points: τα σημεία από τα οποία αναγκαστικά περνούν όλοι, είτε πρόκειται για ένα frontier lab είτε για μια startup είτε για έναν μεμονωμένο χρήστη.

«Ένα από τα μεγαλύτερα choke points είναι προφανώς το ίδιο το compute, δηλαδή η υπολογιστική ισχύς».

Όσο αυξάνεται η κλίμακα των συστημάτων τόσο μεγαλώνουν και οι ανάγκες τους σε υπολογιστική ισχύ. Εκεί, εκτιμά, μπορούν να αναζητηθούν αποτελεσματικότεροι μηχανισμοί ελέγχου από μια καθολική απαγόρευση.

Το ελληνικό έλλειμμα  

Και η Ελλάδα; Εδώ ο Βλόντζος είναι ταυτόχρονα αισιόδοξος και αυστηρός. Θεωρεί ότι η χώρα έχει μείνει πίσω στην υιοθέτηση αυτών των συστημάτων και στον τρόπο με τον οποίο σκεφτόμαστε τις δυνατότητές τους. Ταυτόχρονα, όμως, βλέπει ένα σημαντικό πλεονέκτημα: «Έχουμε πάρα πολύ καλό ανθρώπινο δυναμικό». Έχει συνεργαστεί με Έλληνες επιστήμονες, μηχανικούς και επιχειρηματίες τόσο στο εξωτερικό όσο και στην Ελλάδα. Αυτό που θεωρεί ότι λείπει είναι κάτι λιγότερο τεχνικό: η φαντασία.

«Όταν βλέπουμε το GPT μόνο ως κάτι που θα αντικαταστήσει το chatbot στο customer service, αυτό είναι έλλειμμα φαντασίας». Για τον ίδιο, το ζητούμενο δεν είναι απλώς να προσθέσουμε την ΑΙ πάνω σε όσα ήδη κάνουμε, αλλά να σκεφτούμε προϊόντα και υπηρεσίες με αυτά τα συστήματα στον πυρήνα τους.

Το ίδιο ισχύει και για το κράτος. Οι εξαγγελίες για χρήση της τεχνητής νοημοσύνης στην παιδεία είναι ένα πρώτο βήμα, αλλά χρειάζεται συνέχεια: άνθρωποι που γνωρίζουν την τεχνολογία πρέπει να συνεργαστούν με ανθρώπους που γνωρίζουν σε βάθος τον εκάστοτε τομέα ώστε οι ιδέες να φτάσουν στην εφαρμογή. «Έχουμε την τεχνογνωσία να το κάνουμε, αλλά πρέπει να έχουμε φαντασία και να μη φοβόμαστε». 

Τον ρωτάω αν, έπειτα από δώδεκα χρόνια στο Λονδίνο, θα επέστρεφε στην Ελλάδα για να εργαστεί στο πεδίο της τεχνητής νοημοσύνης. «Συνολικά ναι, αλλά δυστυχώς αυτή τη στιγμή δεν υπάρχουν οι κατάλληλες ευκαιρίες». 

Μιλά για τις απολαβές, για το κόστος ζωής στην Ελλάδα που έχει πλησιάσει εκείνο άλλων ευρωπαϊκών χωρών χωρίς να συμβεί το ίδιο με τους μισθούς, αλλά και για το ρυθμιστικό και επιχειρηματικό περιβάλλον. Θέλει μια χώρα στην οποία μια εταιρεία να μπορεί να δημιουργηθεί και να κινηθεί γρήγορα, να συναλλάσσεται ευκολότερα με άλλες επιχειρήσεις, καταναλωτές και το Δημόσιο και να μην καταφεύγει διαρκώς στις ίδιες, δοκιμασμένες λύσεις. «Να παίρνει λογικά ρίσκα, όχι τρελά ρίσκα».

Κι επιστρέφουμε σε μία λέξη που -όπως λέει- είναι απαραίτητη: «Η φαντασία, ναι. Να έχουμε τη φαντασία».