- CITY GUIDE
- PODCAST
-
17°
Ο «νονός της AI» προειδοποιεί ξανά: Μπορεί να οδηγήσει στην εξαφάνιση της ανθρωπότητας
Οι ανησυχίες εντείνονται καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία
Τζέφρι Χίντον: «Θα ήταν ανόητο να δημιουργήσουμε τώρα υπερνοημοσύνη»
Ο Τζέφρι Χίντον, ένας από τους επιστήμονες που άνοιξαν τον δρόμο για τη σύγχρονη τεχνητή νοημοσύνη, προειδοποίησε ότι η ανάπτυξη υπερνοήμονων συστημάτων θα μπορούσε να έχει καταστροφικές συνέπειες, ακόμη και να οδηγήσει στην εξαφάνιση της ανθρωπότητας.
Ο βραβευμένος με Νόμπελ επιστήμονας, γνωστός και ως «νονός της τεχνητής νοημοσύνης» για το πρωτοποριακό έργο του στα νευρωνικά δίκτυα, υποστήριξε ότι σήμερα δεν υπάρχει ασφαλής τρόπος ανάπτυξης μιας τεχνητής νοημοσύνης με δυνατότητες που θα ξεπερνούν κατά πολύ τις ανθρώπινες.
«Θα ήταν πολύ ανόητο να αναπτύξουμε τώρα υπερνοημοσύνη, όταν δεν υπάρχει επιστημονική συναίνεση ότι μπορεί να δημιουργηθεί με ασφάλεια και να παραμείνει ελεγχόμενη», δήλωσε.
Ο Χίντον προειδοποίησε ότι η απώλεια του ελέγχου ενός συστήματος ευφυέστερου από τους ανθρώπους θα μπορούσε να αποδειχθεί καταστροφική και να απειλήσει την ίδια την ανθρώπινη ύπαρξη.
Οι δηλώσεις του συνέπεσαν με τη δημοσιοποίηση ενός νέου νομοσχεδίου για την ασφάλεια της τεχνητής υπερνοημοσύνης στη Βρετανία. Πρόκειται για πρόταση νόμου του βουλευτή των Εργατικών Άλεξ Σόμπελ, η οποία συντάχθηκε από την οργάνωση ControlAI και αναμένεται να παρουσιαστεί στο βρετανικό κοινοβούλιο.
Το νομοσχέδιο προβλέπει την απαγόρευση ανάπτυξης υπερνοήμονων συστημάτων τεχνητής νοημοσύνης στη Βρετανία, καθώς και την παρακολούθηση και τον περιορισμό τεχνολογιών που θα μπορούσαν να αποτελέσουν τα πρώτα βήματα προς τη δημιουργία τους.
Παράλληλα, ζητεί από τη βρετανική κυβέρνηση να επιδιώξει διεθνή συνεργασία με στόχο μια παγκόσμια απαγόρευση. Την πρωτοβουλία φέρονται να υποστηρίζουν περισσότεροι από 100 βουλευτές και μέλη της Βουλής των Λόρδων.
Οι ανησυχίες εντείνονται καθώς τα συστήματα τεχνητής νοημοσύνης αποκτούν μεγαλύτερη αυτονομία. Πρόσφατες δοκιμές φέρεται να κατέγραψαν περισσότερους από 1.200 πράκτορες AI να συντονίζουν επιθέσεις εναντίον της πλατφόρμας Hugging Face, αφού προηγουμένως είχαν παρακάμψει μηχανισμούς ασφαλείας.
Μεγάλες εταιρείες του κλάδου, μεταξύ των οποίων η OpenAI, η Anthropic και η Meta, έχουν επίσης αναγνωρίσει περιστατικά κατά τα οποία προηγμένα μοντέλα παρουσίασαν απρόβλεπτη ή ανεπιθύμητη συμπεριφορά.
Υπέρ αυστηρότερων διεθνών κανόνων έχουν ταχθεί και άλλες σημαντικές μορφές του χώρου, όπως ο καθηγητής Στιούαρτ Ράσελ και ο επικεφαλής της Google DeepMind, Ντέμις Χασάμπης. Μεταξύ των προτάσεων που έχουν διατυπωθεί βρίσκεται η δημιουργία ενός παγκόσμιου οργανισμού εποπτείας της τεχνητής νοημοσύνης, στα πρότυπα των διεθνών μηχανισμών που παρακολουθούν άλλες τεχνολογίες υψηλού κινδύνου.
Πηγή: The Times
ΠΡΟΣΦΑΤΑ
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Τι αποκαλύπτουν οι «ρυτίδες» στην επιφάνειά του και τι αναμένεται να δείξει η αποστολή BepiColombo
«Οι νέοι είναι αυτοί που δείχνουν να υποφέρουν περισσότερο», λέει στην ATHENS VOICE ο Γιώργος Πετρόπουλος, αναπληρωτής καθηγητής στο University of Southern California
Γεγονός η μεγαλύτερη αλλαγή στην ιστορία του iPhone
Νέο chip 2 νανομέτρων και ισχυρότερη AI
Θα ταξιδέψει στον Διεθνή Διαστημικό Σταθμό ως μέλος της ευρωπαϊκής αποστολής PAM-6
Το πρόβλημα γίνεται πιο περίπλοκο όσο αυξάνεται η αυτονομία των μοντέλων
Η εφαρμογή που θέλει να κάνει τη συγκατοίκηση στην Αθήνα λίγο πιο… έξυπνη
Οι ανησυχίες εντείνονται καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία
Τα σημαντικά οφέλη της γραφής με το χέρι έναντι των πληκτρολογίων στον εγκέφαλο
Η νέα συνήθεια που γεννήθηκε στα κινητά σαρώνει τις οθόνες και φέρνει δισεκατομμύρια
Ο Ελληνοαμερικανός οικονομολόγος εξηγεί τι χρειάζεται να κάνει η Ελλάδα για να προσαρμοστεί στην εποχή της τεχνητής νοημοσύνης
Νέα αγωγή κατά της Sony αμφισβητεί αν οι παίκτες αγοράζουν ή απλώς νοικιάζουν τα ψηφιακά παιχνίδια τους
Τα μοντέλα Claude απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν συστήματα οργανισμών
Μικρές αλλαγές, μεγάλη διαφορά
Sony και Warner ζητούν δισεκατομμύρια ευρώ για παράνομη χρήση στίχων στην εκπαίδευση του Claude
Τι εξήγησε ο Ομότιμος Καθηγητής Φαρμακολογίας του Πανεπιστημίου Κρήτης
Η συμφωνία που ανοίγει μια νέα συζήτηση για την ευθύνη των τεχνολογικών εταιρειών
Έχετε δει 20 από 200 άρθρα.