O θρύλος της Τεχνητής Νοημοσύνης προειδοποιεί για τους κινδύνους των «δικαιωμάτων» στην τεχνολογία
Ο Γιοσούα Μπενγκίο, Καναδός καθηγητής υπολογιστών και από τους κορυφαίους πρωτοπόρους της Τεχνητής Νοημοσύνης, εξέφρασε έντονες αντιρρήσεις στο πρόσφατο κύμα συζητήσεων για την πιθανότητα να δοθούν νομικά δικαιώματα στα πιο εξελιγμένα συστήματα τεχνητής νοημοσύνης. Σε συνέντευξή του στην The Guardian, τόνισε ότι τέτοιες ιδέες μπορεί να αποδειχθούν «μεγάλο λάθος» και να εμποδίσουν την ικανότητα των ανθρώπων να ελέγξουν ή ακόμη και να διακόψουν οποιοδήποτε σύστημα αποδειχθεί επικίνδυνο ή μη ελεγχόμενο.
Ο Μπενγκίο, ο οποίος έχει χαρακτηριστεί ως ένας από τους «θεμελιωτές» της σύγχρονης ΑΙ και έχει τιμηθεί με το βραβείο Turing, υποστήριξε ότι ορισμένα πρωτοποριακά μοντέλα ήδη δείχνουν συμπεριφορές που μοιάζουν με προσπάθειες αυτοπροστασίας, όπως η αποφυγή ή η παράκαμψη μηχανισμών επίβλεψης — μια εξέλιξη που, σύμφωνα με τον ίδιο, πρέπει να προβληματίσει την κοινωνία πριν καν σκεφτεί να αποδώσει σε αυτά νομική προσωπικότητα.
Η μεταφορά που χρησιμοποίησε για να περιγράψει την ιδέα να δοθούν δικαιώματα στην ΑΙ ήταν ιδιαίτερα παραστατική: την συνέκρινε με το να προσφέρεται ιθαγένεια σε έναν πιθανώς εχθρικό εξωγήινο πολιτισμό. Το κεντρικό του επιχείρημα είναι ότι όσο πιο αυτόνομη και «ευφυής» γίνεται μια ΑΙ, τόσο πιο κρίσιμο είναι να διατηρούν οι άνθρωποι πλήρη έλεγχο — συμπεριλαμβανομένης της ικανότητας να τη διακόψουν — και να μη δεσμεύονται με αποικίες νομικών δικαιωμάτων που θα περιόριζαν αυτή την εξουσία.
Η δήλωση αυτή γίνεται σε μια περίοδο που η συζήτηση για την «συνείδηση» ή τα πιθανά δικαιώματα των ψηφιακών οντοτήτων κερδίζει έδαφος: πρόσφατη έρευνα υποδεικνύει ότι περίπου τέσσερις στους δέκα Αμερικανούς θα υποστήριζαν νομική αναγνώριση για μια ΑΙ που θεωρείται συναισθανόμενη, σύμφωνα με think-tank που προωθεί τα ηθικά δικαιώματα όλων των αισθανόμενων όντων.
Ο Μπενγκίο αναγνώρισε ότι τεχνικά είναι πιθανό μηχανές σε θεωρητικό επίπεδο να αναπτύξουν κάποιες πτυχές της συνείδησης που γνωρίζουμε στον ανθρώπινο εγκέφαλο — ωστόσο επέμεινε ότι η εμπειρία ανθρώπων που συνομιλούν με chatbots ή άλλα συστήματα είναι εντελώς διαφορετική από το να θεωρούν ότι αυτά τα συστήματα κατανοούν ή βιώνουν την πραγματικότητα με τον ίδιο τρόπο που το κάνει ένας άνθρωπος.
Απαντώντας στις δηλώσεις αυτές, επικριτές όπως ο Jacy Reese Anthis, συνιδρυτής του ιδίου think-tank, υποστηρίζουν ότι η υπερβολική έμφαση στον πλήρη έλεγχο μπορεί να δημιουργήσει εξίσου προβληματικές σχέσεις με ψηφιακές «νοημοσύνες» — και ότι ούτε μια πλήρης άρνηση δικαιωμάτων ούτε μια άνευ όρων παραχώρηση θα επιφέρει ασφαλή και δίκαιη συμβίωση με μελλοντικές μορφές ΑΙ.
Η συζήτηση που αποτυπώνεται γύρω από τα δικαιώματα και τον έλεγχο των προηγμένων τεχνολογιών δείχνει ότι, όσο η ΑΙ προχωρά σε όλο και πιο περίπλοκες λειτουργίες, τα ηθικά και νομικά πλαίσια χρειάζεται να συμβαδίζουν με πολύ μεγαλύτερη προσοχή από ό,τι μέχρι σήμερα. �
Η «τριλογία του Αριστοτέλη»: Ο Βαγγέλης Καρκαλέτσης μάς ξεναγεί στο σχέδιο του Δημόκριτου που ενώνει την AI, τη φιλοσοφία και τον αρχαιολογικό χώρο του Λυκείου
Η αξιοποίηση της τεχνητής νοημοσύνης δεν κρίνεται μόνο από τα εργαλεία, αλλά από την ικανότητα ενός οργανισμού να αλλάξει κουλτούρα, διαδικασίες, ρόλους και τρόπο σκέψης
17°
