Τεχνολογια - Επιστημη

Η Άρτεμις Σίφορντ μας ξεναγεί στους δαιδαλώδεις διαδρόμους της ΑΙ

«Δεν είναι μακριά η μέρα που η ΑΙ θα παράγει μυθιστόρημα αντίστοιχο του Τολστόι»

loukas-velidakis.jpg
Λουκάς Βελιδάκης
ΤΕΥΧΟΣ 889
5’ ΔΙΑΒΑΣΜΑ
Άρτεμις Σίφορντ
Άρτεμις Σίφορντ

Τεχνητή νοημοσύνη: Η Άρτεμις Σίφορντ μιλάει για το ChatGPT και τα μοντέλα AI

Στην άλλη πλευρά της γραμμής βρίσκεται η Άρτεμις Σίφορντ. Παρά το επώνυμό της, που μπερδεύει αρκετούς, η ίδια είναι (και δηλώνει) Ελληνίδα. Εδώ και μερικούς μήνες βρίσκεται στο Σαν Φρανσίσκο καθώς εργάζεται για την Policy Team του OpenAI, την εταιρεία που βρίσκεται στην πρώτη γραμμή των εξελίξεων γύρω από την τεχνητή νοημοσύνη, όπου δημιούργησαν το ChatGPT και προχώρησαν σε συνεργασία με τη Microsoft.

Γεννημένη στην Αθήνα από πατέρα Βρετανό και μητέρα Ελληνίδα μεγάλωσε στην Αθήνα, στα Γιάννενα, στην Καλαμάτα και στο Ρέθυμνο, καθώς η μητέρα της εργάζεται στο πανεπιστήμιο της πόλης. Ακολούθησε μια εντυπωσιακή διαδρομή σπουδών: στο πανεπιστήμιο της Οξφόρδης σπούδασε Φιλοσοφία, Πολιτικές Επιστήμες και Οικονομικά, επόμενος σταθμός το Χάρβαρντ και το Κennedy School για Δημόσια Διοίκηση και στη συνέχεια στο Στάνφορντ για μάστερ στη Νομική και διδακτορικό στις Πολιτικές Επιστήμες.

Μπαίνοντας στον επαγγελματικό στίβο αρχικά ασχολήθηκε με τον χώρο της φιλανθρωπίας σε ΗΠΑ και Ελλάδα, αλλά γρήγορα την τράβηξε η ραγδαία εξέλιξη στα social media και δη στο κομμάτι της παραπληροφόρησης. Ξεκίνησε με τη Facebook, ως επικεφαλής της ομάδας που ασχολείται με τους κινδύνους που απειλούν τους χρήστες της πλατφόρμας που έχουν να κάνουν με έννοιες όπως μίσος, παραπληροφόρηση, στοχοποίηση. Και μετά από ένα σύντομο διάστημα στην Ελλάδα πριν από περίπου έξι μήνες επέστρεψε  στις ΗΠΑ για να στελεχώσει την Policy Team του OpenΑΙ, την ομάδα που εκπονεί το πλαίσιο των κανόνων που διέπουν τη λειτουργία των μοντέλων και των προϊόντων. Μερικά από τα ερωτήματα που καλούνται να απαντήσουν είναι: Ποιος είναι ο ρόλος της ΑΙ στις εκλογές και στον πολιτικό χώρο; Ποιοι είναι οι κίνδυνοι; Τι κάνουμε για να θωρακίσουμε την κοινωνία;

Στην ερώτηση τι την τράβηξε στην τεχνητή νοημοσύνη, η απάντηση είναι τα σημεία των καιρών: «Θα αλλάξει ριζικά τη ζωή μας, είναι η τεχνολογία της γενιάς μας από τεχνολογική και κοινωνική διάσταση. Τα social media έχουν πολύ ενδιαφέρον, αλλά η ΑΙ έχει το μεγάλο potential, για το καλό και για το κακό. Τα πάντα αλλάζουν εξαιρετικά γρήγορα».

Ζητήσαμε από την Άρτεμις Σίφορντ να μας ξεναγήσει στους δαιδαλώδεις διαδρόμους της ΑΙ. 

Η Άρτεμις Σίφορντ μιλάει για το ChatGPT και τα μοντέλα AI

Πώς θα εξηγούσατε την τεχνητή νοημοσύνη σε κάποιον χωρίς τεχνικό υπόβαθρο;
Η τεχνητή νοημοσύνη είναι μια σειρά από πολύπλοκα μαθηματικά μοντέλα τα οποία επιτρέπουν την ενσωμάτωση πληροφοριών από το περιβάλλον, με αποτέλεσμα το μοντέλο να αυτο-βελτιώνεται στην παραγωγή απαντήσεων ή πράξεων σε συνάρτηση με αυτό που του έχει ζητηθεί. Η διαφορά μεταξύ «έξυπνων» και παραδοσιακών μοντέλων που βασίζονται σε κανόνες είναι ότι τα πρώτα «μαθαίνουν» από τα λάθη τους.

Όταν τους γίνει μια ερώτηση, π.χ. «Αυτή η εικόνα περιέχει μια γάτα;», ξεκινούν με μία τυχαία απάντηση. Εάν η απάντηση είναι λάθος, επαναπροσδιορίζουν τα «βάρη» στις εξισώσεις τους και ξαναπροσπαθούν. Επαναλαμβάνοντας την ίδια διαδικασία πολλές φορές, φτάνουν κοντά στο να μπορούν να απαντήσουν σχεδόν πάντα σωστά.

Τα μοντέλα πίσω από εφαρμογές, όπως το ChatGPT, λέγονται «μεγάλα γλωσσικά μοντέλα» γιατί ειδικεύονται στο να προβλέπουν ποια λέξη ακολουθεί κάθε προηγούμενη και έχουν εκπαιδευτεί σε τεράστιες βάσεις δεδομένων. Με λίγα λόγια, πίσω από πολλά από τα νέα προϊόντα που βλέπουμε να αλλάζουν την καθημερινότητά μας δεν είναι παρά ένα τεράστιο στατιστικό μοντέλο που προβλέπει λέξη λέξη τι θα έρθει μετά.

Μπορείτε να δώσετε ένα παράδειγμα για το πώς το ChatGPT είχε σημαντικό αντίκτυπο;
Το ChatGPT και οι εφαρμογές που έχουν χτιστεί πάνω στα GPT μοντέλα της OpenAI έχουν ήδη αρχίσει να αλλάζουν τον κόσμο. Καταρχάς, αυτές οι εφαρμογές αλλάζουν ριζικά την εκμάθηση. Μπορούμε να τις σκεφτούμε σαν ένα συνδυασμό βιβλίου και δασκάλου. Όπως ένα βιβλίο, η ΑΙ κατέχει τη γνώση ενός αντικειμένου. Όπως ένας δάσκαλος μπορεί να επικοινωνήσει διαδραστικά με έναν μαθητή δίνοντάς του προβλήματα στο επίπεδό του, προσφέροντας λύσεις, κάνοντας διάλογο. Τα επιτυχημένα συστήματα εκπαίδευσης στο άμεσο μέλλον θα είναι αυτά που θα καταφέρνουν να ενσωματώσουν επιτυχώς την τεχνητή νοημοσύνη. Αυτό παρουσιάζει μια τεράστια ευκαιρία. Παραδοσιακά, σε λιγότερο ανεπτυγμένα συστήματα, το βασικό πρόβλημα είναι η ποιότητα της διδασκαλίας. Τώρα με την τεχνητή νοημοσύνη δίνεται η ευκαιρία να ανεξαρτητοποιηθεί ο μαθητής σε έναν βαθμό από τον δάσκαλο, καθώς και να εκπαιδευτεί καλύτερα ο ίδιος ο δάσκαλος.

Επίσης, η ΑΙ αυξάνει την παραγωγικότητα. Από εφαρμογές που είναι εκπαιδευμένες στα δεδομένα κάθε εταιρείας και μπορούν να απαντήσουν τις απαντήσεις καινούργιων εργαζομένων, μέχρι την ικανότητα να αυτοματοποιούν τη γραφή κώδικα και κειμένου, οι εταιρείες ήδη μπορούν να παράγουν περισσότερα με τον ίδιο αριθμό εργαζομένων. Τέλος, οι πιο συναρπαστικές εφαρμογές της τεχνητής νοημοσύνης θα έρθουν όταν μπορέσει να παράγει νέα γνώση – ένα νέο μυθιστόρημα αντίστοιχο του Τολστόι ή μια καινούργια επιστημονική ανακάλυψη. Αυτή η μέρα πλέον δεν είναι μακριά. 

Ποιοι ηθικοί παράγοντες πρέπει να λαμβάνονται υπόψη κατά την ανάπτυξη συστημάτων AI;
Τα ηθικά ερωτήματα είναι πολλά. Για παράδειγμα, η αποφυγή στερεοτύπων. Η τεχνητή νοημοσύνη είναι σαν ένας καθρέφτης της κοινωνίας – όταν η κοινωνία είναι προκατειλημμένη, θα είναι και τα μοντέλα. Για παράδειγμα, μοντέλα προηγούμενης γενιάς που είχαν εκπαιδευτεί με δεδομένα από το διαδίκτυο συνέδεαν τη λέξη άνδρας και επάγγελμα με τις λέξεις διευθυντής και γιατρός, ενώ τη λέξη γυναίκα με νοσοκόμα και δασκάλα.

Επίσης πρόβλημα δημιουργείται κι όταν υπάρχουν λιγότερα δεδομένα από μια συγκεκριμένη μειοψηφική ομάδα. Π.χ. στο παρελθόν, μοντέλα τεχνητής νοημοσύνης για την αναγνώριση και ταυτοποίηση υπόπτων σε αστυνομικές έρευνες στις ΗΠΑ έκαναν περισσότερα λάθη όταν είχαν να κάνουν με Αφροαμερικανίδες, γιατί οι εικόνες τους ήταν πιο σπάνιες στα δεδομένα εκπαίδευσής τους, με αποτέλεσμα να έχουν «δει» λιγότερα παραδείγματα. Το αποτέλεσμα ήταν ότι έκαναν πολλές λάθος ταυτοποιήσεις Αφροαμερικανίδων, αλλά επειδή ο συνολικός αριθμός ήταν μικρός δεν φαινόταν εύκολα στα δεδομένα. Αρκετές γυναίκες κατέληξαν στοχοποιημένες από την αστυνομία χωρίς λόγο, πριν κατανοηθεί το πρόβλημα.

Τα τελευταία μοντέλα ενσωματώνουν λύσεις σε τέτοια προβλήματα. Στο OpenAI, πριν βγάλουμε ένα καινούργιο μοντέλο, τεστάρουμε εκτενώς τις επιδόσεις του στην αποφυγή στερεοτύπων και προκαταλήψεων, και εάν χρειαστεί το τροποποιούμε αναλόγως. Πέρα από τα στερεότυπα και τις προκαταλήψεις, κάνουμε μια σειρά από τεστ στα μοντέλα για να βεβαιωθούμε ότι είναι ασφαλή: από το να μην παράγουν επικίνδυνες «παραισθήσεις» –π.χ. να μην επινοούν ένα εγκληματικό παρελθόν που δεν υπάρχει για υπαρκτά πρόσωπα– μέχρι να μη δίνουν οδηγίες όταν τους ζητηθεί για την παραγωγή ηρωίνης ή βόμβας.

Ποιοι είναι οι κύριοι κίνδυνοι σχετικά με την ανάπτυξη της AI; Και ποιες είναι οι τρέχουσες προκλήσεις και περιορισμοί;
Όσο τα μοντέλα γίνονται όλο και πιο ικανά, η επικινδυνότητά τους αυξάνεται αντιστοίχως. Όταν δημιουργήσουμε μοντέλα που μπορούν να δρουν αυτόνομα το στοίχημα είναι να μπορέσουμε να βεβαιωθούμε ότι παραμένουν ευθυγραμμισμένα με αυτό που θέλουμε να κάνουν. Ένα διάσημο υποθετικό παράδειγμα είναι αυτό του μοντέλου που του ζητείται να φτιάξει συνδετήρες και καταστρέφει την ανθρωπότητα με σκοπό να φτιάξει τους περισσότερους δυνατούς συνδετήρες. Πώς μπορούμε να βεβαιωθούμε πως όταν τα μοντέλα που δημιουργούμε γίνουν πιο έξυπνα και πιο ικανά από εμάς, δεν θα δράσουν για να μας υποδουλώσουν ή να μας καταστρέψουν; Ευτυχώς υπάρχουν πάρα πολλοί ερευνητές που προσπαθούν να δώσουν απαντήσεις σε αυτά τα ερωτήματα – πολλοί από αυτούς στο OpenAI.

Πέρα από ρίσκα επιβίωσης, όμως, υπάρχουν και τα πιο καθημερινά ερωτήματα που δημιουργούνται από τους τρόπους που η τεχνητή νοημοσύνη θα αλλάξει αναπόφευκτα τη ζωή μας. Τι σημαίνει για τις ανθρώπινες σχέσεις το ότι ο ψηφιακός σου φίλος μπορεί να σε ξέρει καλύτερα και να σου κάνει καλύτερη παρέα από οποιονδήποτε πραγματικό; Τι σημαίνει για την οικονομία και τη δημιουργικότητα το ότι ιδιότητες που θεωρούσαμε αποκλειστικά ανθρώπινες, όπως η εξυπνάδα και η δημιουργία, μπορούν να αναπαραχθούν από μηχανές; Οι κοινωνικές και διαπροσωπικές αλλαγές που θα φέρει η τεχνητή νοημοσύνη θα μας αναγκάσουν να αναθεωρήσουμε τις αξίες μας και πολλά από όσα θεωρούμε δεδομένα για την ιδιαιτερότητα και τη μοναδικότητα του ατόμου.

Είστε υπέρ της αυστηροποίησης της νομοθεσίας σχετικά με τη διάδοση της τεχνητής νοημοσύνης;
H τεχνητή νοημοσύνη πρέπει να ελέγχεται από τη δημόσια βούληση. Αυτό θα γίνει όλο και πιο σημαντικό όσο κυκλοφορούν όλο και περισσότερα και πιο ικανά μοντέλα. Πρώτον, πρέπει να υπάρχουν δημόσια στάνταρντ ασφαλείας για την κυκλοφορία νέων μοντέλων ΑΙ. Δεύτερον, πρέπει να ρυθμίζονται χρήσεις με μεγάλο ρίσκο, όπως στην ασφάλεια και στη δικαιοσύνη. Τρίτον, χρειαζόμαστε διεθνείς κανόνες συνεργασίας, αλλά εκεί δυστυχώς τα πράγματα είναι πιο δύσκολα λόγω του ανταγωνισμού μεταξύ κρατών.

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Έχετε δει 20 από 200 άρθρα.