Γιατί ανησυχούν κορυφαίοι επιστήμονες της ΑΙ για τη δυνατότητα ή μη ελέγχου μιας Τεχνητής Υπερνοημοσύνης;
Πριν λίγες μέρες η εταιρεία OpenAI (ChatGPT) υπέγραψε οικονομικές συμφωνίες που φτάνουν το 1 τρισεκατομμύριο δολάρια με εταιρείες τσιπ όπως την NVIDIA, την AMD κ.α., για να πολλαπλασιάσει την επεξεργαστική δύναμη της Τεχνητής Νοημοσύνης (ΤΝ) που αναπτύσσει. Ένα τρισεκατομμύριο δολάρια είναι ένα ποσό τόσο κολοσσιαίο που δύσκολα μπορεί κανείς να το μεταβολίσει.
Ένα τρισεκατομμύριο δολάρια είναι το Ακαθάριστο Εγχώριο Προϊόν χωρών όπως περίπου της Σαουδικής Αραβίας.
1 τρισεκατομμύριο δολάρια είναι το κόστος από τουλάχιστον έξι Διεθνείς Διαστημικούς Σταθμούς (ISS). H κατασκευή του ενός και μόνου Διεθνούς Διαστημικού Σταθμού που διαθέτουμε, και έχουμε σε τροχιά γύρω από τον πλανήτη, είναι το πιο ακριβό επιστημονικό έργο που έχουμε φτιάξει στην ιστορία της ανθρωπότητας: Και κόστισε «μόλις» 150 δισεκατομμύρια δολάρια.
Λιγότερο από ένα τρισεκατομμύριο ανακοίνωσε πρόσφατα ότι θα επενδύσει όλη η Ευρωπαϊκή Ένωση στην Άμυνα της. Θα δώσει 800 δισεκατομμύρια ευρώ για τον στρατιωτικό εξοπλισμό της έως το 2030, εξαιτίας της ρωσικής απειλής. Πρόκειται για το πλέον ογκώδες έργο Άμυνας της Ένωσης, και ονομάζεται “ReArm Europe Plan”. Ακόμη και έτσι είναι μικρότερο από την επένδυση της OpenAI.
Το ΑΕΠ όλης της Γης είναι 100 τρισεκατομμύρια. Η νέα επένδυση της OpenAI αντιστοιχεί στο 1% του παγκόσμιου πλούτου. Και πρόκειται μόνο για μια επένδυση, μόνο μιας εταιρείας.
Τα κεφάλαια που μπαίνουν στην ΑΙ και η ανεπανάληπτη δύναμη της που αναπτύσσεται οδηγούν με μαθηματική (κυριολεκτικά) ακρίβεια σε ένα εξαιρετικά κρίσιμο ιστορικό σημείο καμπής:
Βρισκόμαστε πιο κοντά στο να δημιουργήσουμε πανίσχυρες μορφές ΤΝ, όπως η AGI και η Superintelligence, όπου στοχεύουν οι επενδύσεις αυτές, παρά στο να ξέρουμε εάν και πώς μπορούμε αυτές να τις ελέγξουμε.
Μπροστά στη φρενήρη αναβάθμιση της ΑΙ όπου βρισκόμαστε εδώ και 3 χρόνια, από τότε που εμφανίστηκε το ChatGPT 3.5, μια σειρά από σημαίνοντες τεχνολόγους και στοχαστές της ΤΝ υπέγραψαν πριν ελάχιστες ημέρες μια νέα επιστολή με την οποία απαιτούν απ’ τις κυβερνήσεις να απαγορεύσουν την ανάπτυξη της Superintelligence (δηλ. Τεχνητής Υπερ-νοημοσύνης), μέχρι να αποδειχθεί ότι μπορεί πράγματι αυτή να ελεγχθεί και ότι οι πολίτες πράγματι την επιθυμούν.
Η επιστολή συνοψίζει κορυφαίες υπαρξιακές και ηθικές ανησυχίες που γεννά η AGI κι η Superintelligence όπως «η οικονομική απαξίωση του ανθρώπου», «οι απώλειες της ελευθερίας, των ατομικών ελευθεριών, της αξιοπρέπειας και του ελέγχου» αλλά και η «πιθανή εξαφάνιση του ανθρώπου» (τις οποίες αναπτύσσω αναλυτικά και στο βιβλίο μου Φιλοσοφία της Τεχνητής Νοημοσύνης – Ένα ταξίδι στο μέλλον, Διόπτρα).
Η επιστολή υπογράφεται από κορυφαίες προσωπικότητες του χώρου όπως οι αποκαλούμενοι «Νονοί» της ΑΙ, Γιόσουα Μπέντζιο και Τζέφρι Χίντον (που τιμήθηκε με Νόμπελ για το έργο του στην ΑΙ), αλλά και ο συνιδρυτής της Apple Στιβ Βόζνιακ.
Τα αμέσως επόμενα χρόνια και οι επόμενες δεκαετίες θα αποτελέσουν την αρχή ενός ριζοσπαστικά καινούργιου κεφαλαίου στην ιστορία της ανθρωπότητας, προς το οποίο καλπάζουμε χωρίς ουσιώδεις δικλείδες ασφαλείας. Σχεδόν χωρίς κανένα φρένο. Και δεν γνωρίζουμε κανέναν που να διένυσε με ασφάλεια μια σημαντική απόσταση με το όχημα του πατώντας μόνο γκάζι – χωρίς καθόλου φρένα ανάμεσα από στροφές και οχήματα της διαδρομής του.
Τίποτα ευοίωνο δεν προμηνύει ένας τέτοιος αγώνας ταχύτητας. Πόσο μάλλον όταν η διεθνής οικονομία, η ασφάλεια και η ίδια η ύπαρξη του ανθρώπου ίσως εξαρτάται από αυτόν τον αγώνα.
Το κρίσιμο ερώτημα από εδώ και πέρα είναι αν η πολεμική επιχείρηση μετατρέπεται σε ένα καθεστώς όπου η ταχύτητα υπολογισμού λειτουργεί αντιστρόφως ανάλογα με την ανθρώπινη ευθύνη και φρόνηση.
17°
