Η δυνατότητα της τεχνητής νοημοσύνης να αναθεωρεί και να βελτιώνει τα δικά της κείμενα ανοίγει νέα ερωτήματα για την αξιοπιστία, την αυθεντία και τα όρια της ανθρώπινης εποπτείας
Εσχάτως, παρατηρείται σε χώρους εργασίας το εξής φαινόμενο: Ένας υπάλληλος, στον οποίο έχει ανατεθεί ένα έργο (η εκπόνηση μίας παρουσίασης, μίας πρότασης κ.λπ.), να το διεκπεραιώνει θέτοντας τα κατάλληλα prompts σχεδόν χωρίς κανέναν προσωπικό κόπο με τη βοήθεια της τεχνητής νοημοσύνης και ο ιεραρχικά προϊστάμενός του να το αξιολογεί και να το διορθώνει, στηριζόμενος αποκλειστικά σε σχόλια και σε βοήθεια που, ομοίως, λαμβάνει από την ίδια πηγή (την τεχνητή νοημοσύνη).
Σίγουρα, αυτό δεν είναι κάτι νέο. Η τεχνητή νοημοσύνη κατέχει πλέον κεντρική θέση στη ζωή μας, της εργασιακής φυσικά μη εξαιρουμένης, σε σημείο πολλές φορές ανησυχητικής εξάρτησης, ολοκληρωτικής επικράτησης και αυξημένης υποκατάστασης του ανθρώπινου παράγοντα. Αυτό, όμως, που ξαφνιάζει περισσότερο στο παραπάνω παράδειγμα είναι ότι η τεχνητή νοημοσύνη μπορεί να εντοπίζει σημεία που χρήζουν τροποποιήσεων και βελτιωτικών αλλαγών σε δικά της δημιουργήματα. Δηλαδή, η τεχνητή νοημοσύνη δεν διορθώνει τον άνθρωπο, αλλά τον ίδιο της τον εαυτό!
Εντάξει, και η τεχνητή νοημοσύνη μπορεί να κάνει λάθη. Το ChatGPT, φερ’ ειπείν, το παραδέχεται φαρδιά-πλατιά κάτω από το search box των prompts του. Αυτό, όμως, το κάνει ίσως πιο πολύ προς αποποίηση ευθύνης, ιδίως σε περιπτώσεις που ο χρήστης αναζητεί κρίσιμες και σημαντικές πληροφορίες (π.χ. νομικές, ιατρικές), και μάλλον λιγότερο εις ένδειξη αναγνώρισης ότι μία τετραπέρατη μηχανή ενδέχεται να σφάλει με τις απαντήσεις της (απόρροια μίας πεποίθησης ότι με την αυτόματη διόρθωση λαθών κατά τη λειτουργία, δηλαδή μέσω μίας αδιάλειπτης διαδικασίας machine learning και συνεχούς ανατροφοδότησης, ένα σύστημα AI μπορεί να ελέγχει σε πραγματικό χρόνο αν η απάντησή του είναι συνεπής, να εντοπίζει αντιφάσεις, να ξαναϋπολογίζει μία λύση ή να συγκρίνει αποτελέσματα με βάση κανόνες ή δεδομένα αναφοράς).
Είναι γεγονός ότι η τεχνητή νοημοσύνη μπορεί να αυτοδιορθώνεται τεχνικά και λειτουργικά, αλλά λόγω της αλγοριθμικής της αρχιτεκτονικής, ακόμη δεν διαθέτει ανθρώπινη αυτογνωσία ή ανεξάρτητη κρίση· γι’ αυτό και στην πραγματικότητα δεν αντιλαμβάνεται τα λάθη, όπως ένας άνθρωπος. Στο πλαίσιο αυτό, μπορεί να επανεξετάζει κείμενα που έχει παράγει και, ασκώντας κατά κάποιον τρόπο (αυτο)κριτική, να εντοπίζει αδυναμίες και να τα βελτιώνει ως προς τη γραμματική και τη σύνταξη, τη σαφήνεια και τη λογική συνοχή, το ύφος και τη δομή επιχειρημάτων, την ακρίβεια και την πληρότητα, έως του σημείου να τα ξαναγράφει, περνώντας από μία πρόχειρη και ασαφή σε μία πιο οργανωμένη και προσεκτικότερη εκδοχή τους.
Αυτό μοιάζει αρκετά με την επιμέλεια (proofreading) που κάνει και κάποιος άνθρωπος, όταν ξαναδιαβάζει ένα κείμενό του. Αυτή, όμως, είναι μία δημιουργική και, πρωτίστως, πνευματική διεργασία αυτοβελτίωσης που κάποια στιγμή ολοκληρώνεται, φτάνοντας σε ένα επίπεδο όπου κάποιος αντλεί προσωπική ικανοποίηση από το πόνημά του (κάτι που δεν μπορεί να νιώσει η τεχνητή νοημοσύνη) και σταματά με μία ευχάριστη αίσθηση πληρότητας.
Αλλά από την άλλη, ποιος μας λέει ότι εάν ζητήσουμε από την τεχνητή νοημοσύνη να αξιολογήσει την πιο τέλεια εκδοχή του εαυτού της, δεν θα προβεί σε ακόμη περαιτέρω ατέρμονες βελτιώσεις; Αναμφίβολα, εχθρός του καλού είναι πάντα το καλύτερο, αλλά η διαρκής αναζήτηση της τελειότητας —σήμα κατατεθέν μίας τεχνολογικής αλαζονείας— μπορεί από ένα σημείο κι έπειτα να οδηγήσει σε λανθασμένη αυτοενίσχυση των ικανοτήτων της τεχνητής νοημοσύνης, μη μπορώντας να ξεχωρίσει πότε η διόρθωση είναι πραγματική βελτίωση και πότε απλώς μία διαφορετική διατύπωση ενός λάθους, σε αυξημένη αυτοπεποίθηση που ενδέχεται να πηγάζει από εσφαλμένες εντυπώσεις και, εν τέλει, σε δημιουργία ψευδών βεβαιοτήτων, οι οποίες εύκολα μπορούν να περάσουν στον οποιονδήποτε που την εμπιστεύεται τυφλά και απόλυτα ως αναντίρρητα αξιωματικά θέσφατα και να τον παραπλανήσουν.
Το πρόβλημα γίνεται πιο έντονο, επειδή τα σύγχρονα μοντέλα AI δεν διαθέτουν την αίσθηση της βεβαιότητας με την ανθρώπινη έννοια, δεν γνωρίζουν πραγματικά τι είναι αλήθεια, λειτουργούν στατιστικά και πιθανοκρατικά, ενώ μπορούν να παράγουν διαφορετικές, αλλά εξίσου πειστικές απαντήσεις στο ίδιο ερώτημα ή για το ίδιο θέμα. Έτσι, η αυτοδιόρθωση μπορεί να βελτιώνει την ποιότητα, αλλά την ίδια στιγμή να δημιουργεί την εντύπωση της αυθεντίας, χωρίς όμως πραγματική εγγύηση ορθότητας.
Η ικανότητα της τεχνητής νοημοσύνης να αναθεωρεί τον εαυτό της δεν είναι απαραίτητα ένδειξη ελλείμματος αξιοπιστίας. Αντίθετα, ένα σύστημα που δεν μπορεί ποτέ να αναγνωρίσει ή να διορθώσει σφάλματα θα ήταν ακόμη πιο προβληματικό. Η αυτοδιόρθωση δεν καταστρέφει από μόνη της την αξιοπιστία της τεχνητής νοημοσύνης, αποκαλύπτει όμως ότι αυτή η αξιοπιστία δεν πρέπει να θεωρείται πάντα δεδομένη, απόλυτη και αλάνθαστη.
Επομένως, όσο κι αν η τεχνητή νοημοσύνη βασίζει την εγκυρότητα και την αξιοπιστία της στην ικανότητα διασταύρωσης πληροφοριών, στη δυνατότητα αιτιολόγησης απαντήσεων και σε ολοένα εξελισσόμενους μηχανισμούς επαλήθευσης, η αξία και η κρισιμότητα της ανθρώπινης εποπτείας και της άσκησης εξωτερικού ελέγχου στα παραγόμενα αποτελέσματά της (θα) συνεχίζουν να κατέχουν κεντρικό ρόλο, ο οποίος πρέπει να αναγνωρίζεται, να αναδεικνύεται και να προστατεύεται συστηματικά.
Στο AI Everything στο Άμπου Ντάμπι, η συζήτηση δεν αφορά (μόνο) στο τι μπορεί να κάνει η τεχνητή νοημοσύνη αλλά πώς θα μοιάζει ο κόσμος που έρχεται. Η ATHENS VOICE είναι εκεί και μεταφέρει εικόνες από το μέλλον
Ο Θάνος Βλόντζος, επιστήμονας που εργάζεται στο Λονδίνο, εξηγεί γιατί η ΑΙ δεν μπορεί να ελεγχθεί όπως τα πυρηνικά και πόσο κοντά είμαστε σε συστήματα που μπορούν να δράσουν ανεξέλεγκτα
26°
