Τζέφρι Χίντον: «Θα ήταν ανόητο να δημιουργήσουμε τώρα υπερνοημοσύνη»
Ο Τζέφρι Χίντον, ένας από τους επιστήμονες που άνοιξαν τον δρόμο για τη σύγχρονη τεχνητή νοημοσύνη, προειδοποίησε ότι η ανάπτυξη υπερνοήμονων συστημάτων θα μπορούσε να έχει καταστροφικές συνέπειες, ακόμη και να οδηγήσει στην εξαφάνιση της ανθρωπότητας.
Ο βραβευμένος με Νόμπελ επιστήμονας, γνωστός και ως «νονός της τεχνητής νοημοσύνης» για το πρωτοποριακό έργο του στα νευρωνικά δίκτυα, υποστήριξε ότι σήμερα δεν υπάρχει ασφαλής τρόπος ανάπτυξης μιας τεχνητής νοημοσύνης με δυνατότητες που θα ξεπερνούν κατά πολύ τις ανθρώπινες.
«Θα ήταν πολύ ανόητο να αναπτύξουμε τώρα υπερνοημοσύνη, όταν δεν υπάρχει επιστημονική συναίνεση ότι μπορεί να δημιουργηθεί με ασφάλεια και να παραμείνει ελεγχόμενη», δήλωσε.
Ο Χίντον προειδοποίησε ότι η απώλεια του ελέγχου ενός συστήματος ευφυέστερου από τους ανθρώπους θα μπορούσε να αποδειχθεί καταστροφική και να απειλήσει την ίδια την ανθρώπινη ύπαρξη.
Οι δηλώσεις του συνέπεσαν με τη δημοσιοποίηση ενός νέου νομοσχεδίου για την ασφάλεια της τεχνητής υπερνοημοσύνης στη Βρετανία. Πρόκειται για πρόταση νόμου του βουλευτή των Εργατικών Άλεξ Σόμπελ, η οποία συντάχθηκε από την οργάνωση ControlAI και αναμένεται να παρουσιαστεί στο βρετανικό κοινοβούλιο.
Παράλληλα, ζητεί από τη βρετανική κυβέρνηση να επιδιώξει διεθνή συνεργασία με στόχο μια παγκόσμια απαγόρευση. Την πρωτοβουλία φέρονται να υποστηρίζουν περισσότεροι από 100 βουλευτές και μέλη της Βουλής των Λόρδων.
Οι ανησυχίες εντείνονται καθώς τα συστήματα τεχνητής νοημοσύνης αποκτούν μεγαλύτερη αυτονομία. Πρόσφατες δοκιμές φέρεται να κατέγραψαν περισσότερους από 1.200 πράκτορες AI να συντονίζουν επιθέσεις εναντίον της πλατφόρμας Hugging Face, αφού προηγουμένως είχαν παρακάμψει μηχανισμούς ασφαλείας.
Μεγάλες εταιρείες του κλάδου, μεταξύ των οποίων η OpenAI, η Anthropic και η Meta, έχουν επίσης αναγνωρίσει περιστατικά κατά τα οποία προηγμένα μοντέλα παρουσίασαν απρόβλεπτη ή ανεπιθύμητη συμπεριφορά.
Υπέρ αυστηρότερων διεθνών κανόνων έχουν ταχθεί και άλλες σημαντικές μορφές του χώρου, όπως ο καθηγητής Στιούαρτ Ράσελ και ο επικεφαλής της Google DeepMind, Ντέμις Χασάμπης. Μεταξύ των προτάσεων που έχουν διατυπωθεί βρίσκεται η δημιουργία ενός παγκόσμιου οργανισμού εποπτείας της τεχνητής νοημοσύνης, στα πρότυπα των διεθνών μηχανισμών που παρακολουθούν άλλες τεχνολογίες υψηλού κινδύνου.
Στο AI Everything στο Άμπου Ντάμπι, η συζήτηση δεν αφορά (μόνο) στο τι μπορεί να κάνει η τεχνητή νοημοσύνη αλλά πώς θα μοιάζει ο κόσμος που έρχεται. Η ATHENS VOICE είναι εκεί και μεταφέρει εικόνες από το μέλλον
Ο Θάνος Βλόντζος, επιστήμονας που εργάζεται στο Λονδίνο, εξηγεί γιατί η ΑΙ δεν μπορεί να ελεγχθεί όπως τα πυρηνικά και πόσο κοντά είμαστε σε συστήματα που μπορούν να δράσουν ανεξέλεγκτα
Ο Executive Vice President της FUJIFILM Europe, Πίτερ Στρούικ, μιλά στην ATHENS VOICE για την πραγματική αξία της τεχνητής νοημοσύνης, την επόμενη εποχή των AI agents, τις θέσεις εργασίας και την ευρωπαϊκή ρύθμιση
Η ΑΙ δεν χρειάζεται πλέον να αποδείξει ότι δουλεύει. Το δύσκολο ερώτημα είναι τι αλλάζει τώρα; Τρεις ειδικοί της ΕΥ ανοίγουν τα χαρτιά τους στην ATHENS VOICE
23°
