- CITY GUIDE
- PODCAST
-
14°
Ο «νονός της AI» προειδοποιεί ξανά: Μπορεί να οδηγήσει στην εξαφάνιση της ανθρωπότητας
Οι ανησυχίες εντείνονται καθώς τα συστήματα αποκτούν μεγαλύτερη αυτονομία
Τζέφρι Χίντον: «Θα ήταν ανόητο να δημιουργήσουμε τώρα υπερνοημοσύνη»
Ο Τζέφρι Χίντον, ένας από τους επιστήμονες που άνοιξαν τον δρόμο για τη σύγχρονη τεχνητή νοημοσύνη, προειδοποίησε ότι η ανάπτυξη υπερνοήμονων συστημάτων θα μπορούσε να έχει καταστροφικές συνέπειες, ακόμη και να οδηγήσει στην εξαφάνιση της ανθρωπότητας.
Ο βραβευμένος με Νόμπελ επιστήμονας, γνωστός και ως «νονός της τεχνητής νοημοσύνης» για το πρωτοποριακό έργο του στα νευρωνικά δίκτυα, υποστήριξε ότι σήμερα δεν υπάρχει ασφαλής τρόπος ανάπτυξης μιας τεχνητής νοημοσύνης με δυνατότητες που θα ξεπερνούν κατά πολύ τις ανθρώπινες.
«Θα ήταν πολύ ανόητο να αναπτύξουμε τώρα υπερνοημοσύνη, όταν δεν υπάρχει επιστημονική συναίνεση ότι μπορεί να δημιουργηθεί με ασφάλεια και να παραμείνει ελεγχόμενη», δήλωσε.
Ο Χίντον προειδοποίησε ότι η απώλεια του ελέγχου ενός συστήματος ευφυέστερου από τους ανθρώπους θα μπορούσε να αποδειχθεί καταστροφική και να απειλήσει την ίδια την ανθρώπινη ύπαρξη.
Οι δηλώσεις του συνέπεσαν με τη δημοσιοποίηση ενός νέου νομοσχεδίου για την ασφάλεια της τεχνητής υπερνοημοσύνης στη Βρετανία. Πρόκειται για πρόταση νόμου του βουλευτή των Εργατικών Άλεξ Σόμπελ, η οποία συντάχθηκε από την οργάνωση ControlAI και αναμένεται να παρουσιαστεί στο βρετανικό κοινοβούλιο.
Το νομοσχέδιο προβλέπει την απαγόρευση ανάπτυξης υπερνοήμονων συστημάτων τεχνητής νοημοσύνης στη Βρετανία, καθώς και την παρακολούθηση και τον περιορισμό τεχνολογιών που θα μπορούσαν να αποτελέσουν τα πρώτα βήματα προς τη δημιουργία τους.
Παράλληλα, ζητεί από τη βρετανική κυβέρνηση να επιδιώξει διεθνή συνεργασία με στόχο μια παγκόσμια απαγόρευση. Την πρωτοβουλία φέρονται να υποστηρίζουν περισσότεροι από 100 βουλευτές και μέλη της Βουλής των Λόρδων.
Οι ανησυχίες εντείνονται καθώς τα συστήματα τεχνητής νοημοσύνης αποκτούν μεγαλύτερη αυτονομία. Πρόσφατες δοκιμές φέρεται να κατέγραψαν περισσότερους από 1.200 πράκτορες AI να συντονίζουν επιθέσεις εναντίον της πλατφόρμας Hugging Face, αφού προηγουμένως είχαν παρακάμψει μηχανισμούς ασφαλείας.
Μεγάλες εταιρείες του κλάδου, μεταξύ των οποίων η OpenAI, η Anthropic και η Meta, έχουν επίσης αναγνωρίσει περιστατικά κατά τα οποία προηγμένα μοντέλα παρουσίασαν απρόβλεπτη ή ανεπιθύμητη συμπεριφορά.
Υπέρ αυστηρότερων διεθνών κανόνων έχουν ταχθεί και άλλες σημαντικές μορφές του χώρου, όπως ο καθηγητής Στιούαρτ Ράσελ και ο επικεφαλής της Google DeepMind, Ντέμις Χασάμπης. Μεταξύ των προτάσεων που έχουν διατυπωθεί βρίσκεται η δημιουργία ενός παγκόσμιου οργανισμού εποπτείας της τεχνητής νοημοσύνης, στα πρότυπα των διεθνών μηχανισμών που παρακολουθούν άλλες τεχνολογίες υψηλού κινδύνου.
Πηγή: The Times
ΤΑ ΠΙΟ ΔΗΜΟΦΙΛΗ
ΔΙΑΒΑΖΟΝΤΑΙ ΠΑΝΤΑ
ΔΕΙΤΕ ΕΠΙΣΗΣ
Πλέον δεν αγοράζουμε, αλλά νοικιάζουμε καθημερινές υπηρεσίες και αγαθά από εταιρείες και διοικητικούς οργανισμούς από την καλή θέληση των οποίων και εξαρτιόμαστε
Ερευνητές του Τμήματος Βιολογίας απομονώνουν γενετικό υλικό και εντοπίζουν λύκους και αρκούδες
«Ζάκερμπεργκ, Μασκ και Άλτμαν κατανοούν τους κινδύνους και δεν δίνουν δεκάρα»
Πώς αξιοποίησαν την Τεχνητή Νοημοσύνη
Οι χρήστες κατηγορούν τις εταιρείες τεχνητής νοημοσύνης ότι δημιουργούν ελλείψεις και αυξάνουν το κόστος της τεχνολογίας
Η ψηφιακή αποθήκευση της ανθρώπινης γνώσης θέτει ερωτήματα για τη δημοκρατία, τη λήθη, την αλήθεια
Όταν ο άνθρωπος θέλει να ξεπεράσει τον εαυτό του
Σχεδόν δύο αιώνες μετά την ίδρυσή του, το Πανεπιστήμιο εξακολουθεί να συγκεντρώνει διαφορετικές γενιές, επιστημονικά πεδία και προσδοκίες.
Τι αλλάζει σε τράπεζες και συναλλαγές
Μέσα στο νέο data center και στα εργαστήρια του «Δημόκριτου», η ATHENS VOICE βλέπει πώς η έρευνα στην τεχνητή νοημοσύνη περνά από τους υπολογιστές στα αυτόνομα θαλάσσια σκάφη
Αυτό που χτες φαινόταν ριζοσπαστικό σήμερα είναι συντηρητικό. Κι αυτό που χτες φαινόταν απολύτως αποδεκτό και ανάξιο σημασίας σήμερα είναι το χειρότερο ταμπού.
Ποιο μοντέλο ξεχωρίζει για τον αθλητισμό, ποιο δίνει έμφαση στην υγεία και ποιο συνδυάζει πρακτικές λειτουργίες με premium σχεδιασμό;
Τι αποκαλύπτει η παγκόσμια μελέτη Wellcome Global Monitor για 140 χώρες
Πολλοί χρήστες διαπίστωσαν ρωγμές λίγο μετά την αγορά του
Οι απρόσμενες συλλογικές συμπεριφορές και τα ερωτήματα για τα όρια της υπολογιστικής νοημοσύνης
Νέο κύμα αναδιάρθρωσης του εργατικού δυναμικού σε ΗΠΑ, Καναδά, Ινδία και Βρετανία
Δεν είναι το σκάκι ή οι γρίφοι: Η συνήθεια που ενισχύει τη γνωστική ανάπτυξη
Η αύξηση του εισοδήματος συνδέεται με μεγαλύτερη υπευθυνότητα αλλά και με μικρότερη κοινωνικότητα
Οι τιμές και οι εκδόσεις του στην Ελλάδα
Αποκαλύψεις για το «Project Lily» και οι ρυθμίσεις ιδιωτικότητας που πρέπει να αλλάξετε
Έχετε δει 20 από 200 άρθρα.