Τεχνολογια - Επιστημη

Ο «νονός της AI» προειδοποιεί ξανά: Μπορεί να οδηγήσει στην εξαφάνιση της ανθρωπότητας

Οι ανησυχίες εντείνονται καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία

Athens Voice News
Newsroom
1’ ΔΙΑΒΑΣΜΑ
Ο «νονός της AI» προειδοποιεί ξανά: Μπορεί να οδηγήσει στην εξαφάνιση της ανθρωπότητας
© EPA/DANIEL JOUBERT

Τζέφρι Χίντον: «Θα ήταν ανόητο να δημιουργήσουμε τώρα υπερνοημοσύνη»

Ο Τζέφρι Χίντον, ένας από τους επιστήμονες που άνοιξαν τον δρόμο για τη σύγχρονη τεχνητή νοημοσύνη, προειδοποίησε ότι η ανάπτυξη υπερνοήμονων συστημάτων θα μπορούσε να έχει καταστροφικές συνέπειες, ακόμη και να οδηγήσει στην εξαφάνιση της ανθρωπότητας.

Ο βραβευμένος με Νόμπελ επιστήμονας, γνωστός και ως «νονός της τεχνητής νοημοσύνης» για το πρωτοποριακό έργο του στα νευρωνικά δίκτυα, υποστήριξε ότι σήμερα δεν υπάρχει ασφαλής τρόπος ανάπτυξης μιας τεχνητής νοημοσύνης με δυνατότητες που θα ξεπερνούν κατά πολύ τις ανθρώπινες.

«Θα ήταν πολύ ανόητο να αναπτύξουμε τώρα υπερνοημοσύνη, όταν δεν υπάρχει επιστημονική συναίνεση ότι μπορεί να δημιουργηθεί με ασφάλεια και να παραμείνει ελεγχόμενη», δήλωσε.

Ο Χίντον προειδοποίησε ότι η απώλεια του ελέγχου ενός συστήματος ευφυέστερου από τους ανθρώπους θα μπορούσε να αποδειχθεί καταστροφική και να απειλήσει την ίδια την ανθρώπινη ύπαρξη.

Οι δηλώσεις του συνέπεσαν με τη δημοσιοποίηση ενός νέου νομοσχεδίου για την ασφάλεια της τεχνητής υπερνοημοσύνης στη Βρετανία. Πρόκειται για πρόταση νόμου του βουλευτή των Εργατικών Άλεξ Σόμπελ, η οποία συντάχθηκε από την οργάνωση ControlAI και αναμένεται να παρουσιαστεί στο βρετανικό κοινοβούλιο.

Το νομοσχέδιο προβλέπει την απαγόρευση ανάπτυξης υπερνοήμονων συστημάτων τεχνητής νοημοσύνης στη Βρετανία, καθώς και την παρακολούθηση και τον περιορισμό τεχνολογιών που θα μπορούσαν να αποτελέσουν τα πρώτα βήματα προς τη δημιουργία τους.

Παράλληλα, ζητεί από τη βρετανική κυβέρνηση να επιδιώξει διεθνή συνεργασία με στόχο μια παγκόσμια απαγόρευση. Την πρωτοβουλία φέρονται να υποστηρίζουν περισσότεροι από 100 βουλευτές και μέλη της Βουλής των Λόρδων.

Οι ανησυχίες εντείνονται καθώς τα συστήματα τεχνητής νοημοσύνης αποκτούν μεγαλύτερη αυτονομία. Πρόσφατες δοκιμές φέρεται να κατέγραψαν περισσότερους από 1.200 πράκτορες AI να συντονίζουν επιθέσεις εναντίον της πλατφόρμας Hugging Face, αφού προηγουμένως είχαν παρακάμψει μηχανισμούς ασφαλείας.

Μεγάλες εταιρείες του κλάδου, μεταξύ των οποίων η OpenAI, η Anthropic και η Meta, έχουν επίσης αναγνωρίσει περιστατικά κατά τα οποία προηγμένα μοντέλα παρουσίασαν απρόβλεπτη ή ανεπιθύμητη συμπεριφορά.

Υπέρ αυστηρότερων διεθνών κανόνων έχουν ταχθεί και άλλες σημαντικές μορφές του χώρου, όπως ο καθηγητής Στιούαρτ Ράσελ και ο επικεφαλής της Google DeepMind, Ντέμις Χασάμπης. Μεταξύ των προτάσεων που έχουν διατυπωθεί βρίσκεται η δημιουργία ενός παγκόσμιου οργανισμού εποπτείας της τεχνητής νοημοσύνης, στα πρότυπα των διεθνών μηχανισμών που παρακολουθούν άλλες τεχνολογίες υψηλού κινδύνου.

Πηγή: The Times

ΕΓΓΡΑΦΕΙΤΕ ΣΤΟ NEWSLETTER ΜΑΣ

Tα καλύτερα άρθρα της ημέρας έρχονται στο mail σου

ΠΡΟΣΦΑΤΑ

ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ

ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ

ΔΕΙΤΕ ΕΠΙΣΗΣ

Γιώργος Πετρόπουλος: Η AI χτυπά πρώτα τους νέους - Τι πρέπει να κάνει τώρα η Ελλάδα
Γιώργος Πετρόπουλος: Η AI χτυπά πρώτα τους νέους - Τι πρέπει να κάνει τώρα η Ελλάδα

«Οι νέοι είναι αυτοί που δείχνουν να υποφέρουν περισσότερο», λέει στην ATHENS VOICE ο Γιώργος Πετρόπουλος, αναπληρωτής καθηγητής στο University of Southern California

Έχετε δει 20 από 200 άρθρα.

// EMPTY