- CITY GUIDE
- PODCAST
-
16°
Ο «νονός της AI» προειδοποιεί ξανά: Μπορεί να οδηγήσει στην εξαφάνιση της ανθρωπότητας
Οι ανησυχίες εντείνονται καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία
Τζέφρι Χίντον: «Θα ήταν ανόητο να δημιουργήσουμε τώρα υπερνοημοσύνη»
Ο Τζέφρι Χίντον, ένας από τους επιστήμονες που άνοιξαν τον δρόμο για τη σύγχρονη τεχνητή νοημοσύνη, προειδοποίησε ότι η ανάπτυξη υπερνοήμονων συστημάτων θα μπορούσε να έχει καταστροφικές συνέπειες, ακόμη και να οδηγήσει στην εξαφάνιση της ανθρωπότητας.
Ο βραβευμένος με Νόμπελ επιστήμονας, γνωστός και ως «νονός της τεχνητής νοημοσύνης» για το πρωτοποριακό έργο του στα νευρωνικά δίκτυα, υποστήριξε ότι σήμερα δεν υπάρχει ασφαλής τρόπος ανάπτυξης μιας τεχνητής νοημοσύνης με δυνατότητες που θα ξεπερνούν κατά πολύ τις ανθρώπινες.
«Θα ήταν πολύ ανόητο να αναπτύξουμε τώρα υπερνοημοσύνη, όταν δεν υπάρχει επιστημονική συναίνεση ότι μπορεί να δημιουργηθεί με ασφάλεια και να παραμείνει ελεγχόμενη», δήλωσε.
Ο Χίντον προειδοποίησε ότι η απώλεια του ελέγχου ενός συστήματος ευφυέστερου από τους ανθρώπους θα μπορούσε να αποδειχθεί καταστροφική και να απειλήσει την ίδια την ανθρώπινη ύπαρξη.
Οι δηλώσεις του συνέπεσαν με τη δημοσιοποίηση ενός νέου νομοσχεδίου για την ασφάλεια της τεχνητής υπερνοημοσύνης στη Βρετανία. Πρόκειται για πρόταση νόμου του βουλευτή των Εργατικών Άλεξ Σόμπελ, η οποία συντάχθηκε από την οργάνωση ControlAI και αναμένεται να παρουσιαστεί στο βρετανικό κοινοβούλιο.
Το νομοσχέδιο προβλέπει την απαγόρευση ανάπτυξης υπερνοήμονων συστημάτων τεχνητής νοημοσύνης στη Βρετανία, καθώς και την παρακολούθηση και τον περιορισμό τεχνολογιών που θα μπορούσαν να αποτελέσουν τα πρώτα βήματα προς τη δημιουργία τους.
Παράλληλα, ζητεί από τη βρετανική κυβέρνηση να επιδιώξει διεθνή συνεργασία με στόχο μια παγκόσμια απαγόρευση. Την πρωτοβουλία φέρονται να υποστηρίζουν περισσότεροι από 100 βουλευτές και μέλη της Βουλής των Λόρδων.
Οι ανησυχίες εντείνονται καθώς τα συστήματα τεχνητής νοημοσύνης αποκτούν μεγαλύτερη αυτονομία. Πρόσφατες δοκιμές φέρεται να κατέγραψαν περισσότερους από 1.200 πράκτορες AI να συντονίζουν επιθέσεις εναντίον της πλατφόρμας Hugging Face, αφού προηγουμένως είχαν παρακάμψει μηχανισμούς ασφαλείας.
Μεγάλες εταιρείες του κλάδου, μεταξύ των οποίων η OpenAI, η Anthropic και η Meta, έχουν επίσης αναγνωρίσει περιστατικά κατά τα οποία προηγμένα μοντέλα παρουσίασαν απρόβλεπτη ή ανεπιθύμητη συμπεριφορά.
Υπέρ αυστηρότερων διεθνών κανόνων έχουν ταχθεί και άλλες σημαντικές μορφές του χώρου, όπως ο καθηγητής Στιούαρτ Ράσελ και ο επικεφαλής της Google DeepMind, Ντέμις Χασάμπης. Μεταξύ των προτάσεων που έχουν διατυπωθεί βρίσκεται η δημιουργία ενός παγκόσμιου οργανισμού εποπτείας της τεχνητής νοημοσύνης, στα πρότυπα των διεθνών μηχανισμών που παρακολουθούν άλλες τεχνολογίες υψηλού κινδύνου.
Πηγή: The Times
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Νέο κύμα αναδιάρθρωσης του εργατικού δυναμικού σε ΗΠΑ, Καναδά, Ινδία και Βρετανία
Δεν είναι το σκάκι ή οι γρίφοι: Η συνήθεια που ενισχύει τη γνωστική ανάπτυξη
Η αύξηση του εισοδήματος συνδέεται με μεγαλύτερη υπευθυνότητα αλλά και με μικρότερη κοινωνικότητα
Οι τιμές και οι εκδόσεις του στην Ελλάδα
Αποκαλύψεις για το «Project Lily» και οι ρυθμίσεις ιδιωτικότητας που πρέπει να αλλάξετε
Μια συζήτηση στον Φάρο του ΚΠΙΣΝ για τις μηχανές που μπορεί κάποτε να μη μας χρειάζονται, την αγάπη για την επιστήμη και το βάρος τού να γίνεσαι πρότυπο στα 15 σου
Tι συμβαίνει στον εγκέφαλο όταν μιλάμε κοιμισμένοι και πότε πρέπει να ανησυχήσουμε
Ο διακεκριμένος διαστημικός φυσικός αναλύει τις πιθανότητες ύπαρξης ζωής και τα εμπόδια της επικοινωνίας
Η εταιρεία του Έλον Μασκ στοχεύει σε αποστολές σε πελάτες έως το τέλος του 2027
«Δεν είναι αλήθεια ότι η ΑΙ θα είναι το τέλος του ανθρώπινου πολιτισμού», δήλωσε ο Τζένσεν Χουάνγκ
Το H2-X με ύψος 1,8 μέτρα και βάρος 70 κιλά κλωτσάει, σηκώνει αυτοκίνητα και πηδάει από 4 μέτρα ύψος
Οι νέοι δρόμοι που ανοίγει η τεχνολογία των οπτικών τηλεπικοινωνιών με laser
Όσα πρέπει να κρατήσουμε «ιδιωτικά»
Το Ελληνικό Κέντρο Διαστήματος μας καλεί να προτείνουμε ιδέες
Ένα επίτευγμα που θα μπορούσε να ανοίξει νέους δρόμους στην ιατρική, τη βιομηχανία και την παραγωγή ενέργειας
Προβλήματα σε τράπεζες και ψηφιακές πλατφόρμες λόγω βλάβης στο κέντρο δεδομένων του Λονδίνου
Μια υποδομή 8,5 εκατ. ευρώ συνδέει ερευνητές και επιχειρήσεις με την εθνική υπολογιστική υποδομή - Νέο ινστιτούτο για την ακεραιότητα, την ασφάλεια και την ηθική της έρευνας ανακοίνωσε ο Τάκης Θεοδωρικάκος
Ψεύτικα εργαλεία ΑΙ, παραπλανητικοί κωδικοί QR και κακόβουλα προγράμματα στα χέρια επιτήδειων
Μπορεί να εκτελεί περίπου 85,69 τετράκις εκατομμύρια υπολογιστικές πράξεις ανά δευτερόλεπτο
Έχετε δει 20 από 200 άρθρα.