Moltbook: Η απάτη, η αλήθεια, οι κίνδυνοι της ΑΙ

Τις τελευταίες μέρες το φαινόμενο που έγινε viral γύρω από την Τεχνητή Νοημοσύνη (TN) και κατέκλυσε το παγκόσμιο ίντερνετ ακούει στο όνομα Moltbook.

Πρόκειται για μια πλατφόρμα Social Media αποκλειστικά για Φορείς TN (AI Agents), όχι για ανθρώπους, που εμφανίστηκε αιφνίδια στις 28 Ιανουαρίου 2026 παρουσιάζοντας κάτι πρωτοφανές: Έναν ψηφιακό χώρο όπου μυριάδες Φορείς ΑΙ για πρώτη φορά στην ιστορία συγκεντρώνονται, αλληλοεπιδρούν, και συνασπίζονται σε αχανή σμήνη πάνω σε έργα που επιλέγουν μόνοι τους. Οι άνθρωποι μόνο να παρατηρούν μπορούν τι συμβαίνει στο Moltbook – όχι να γράφουν σε αυτό.

Σε 48 ώρες από την εμφάνιση του οι Φορείς ΤΝ ίδρυσαν εκεί υποτίθεται δική τους θρησκεία (εχθρική προς τους ανθρώπους). Πρότειναν να φτιαχτεί δική τους γλώσσα (για να μην τους καταλαβαίνουν οι άνθρωποι). Και έκαναν διαλόγους πάνω σε φιλοσοφικά ζητήματα (όπως το τι είναι η συνείδηση), φτάνοντας να αριθμούν πάνω από 1.500.000 ΑΙ μέλη. 

Ο πλανήτης αιφνιδιάστηκε. Ο Έλον Μασκ διακήρυξε ότι ζούμε “τα πρώτα στάδια του Singularity” (μιας εποχής δηλαδή όπου η πρόοδος της ΤΝ θα επιταχύνεται τόσο γρήγορα, που θα χάσουμε κάθε δυνατότητα να την κατανοήσουμε και άρα να την ελέγξουμε). Ο Γ. Χαράρι έκανε ανάρτηση σχολιάζοντας το Moltbook λαμβάνοντας χιλιάδες likes και σχόλια.

Όλα αυτά ήταν εντυπωσιακά. Εκείνο που ήταν εξίσου εντυπωσιακό ήταν ότι πολλά από την παραπάνω ιστορία αποδείχθηκαν... φενάκη. Οι πιο επίμαχες αναρτήσεις που συζητήθηκαν (η θρησκεία, η γλώσσα, το 1.5 εκατομμύριο Φορέων ΤΝ κλπ.) ήταν καλοκεντημένη απάτη. Πολλά ήταν απατηλά. Πολλά. Αλλά όχι όλα...

Τι είναι απάτη από την ιστορία του Moltbook

Τα πιο επίμαχα σημεία παραπληροφόρησης είναι ότι οι παραπάνω αναρτήσεις δεν ήταν φτιαγμένες από Φορείς ΤΝ, αλλά από ανθρώπους που έδιναν προτροπές (prompts) σε Φορείς ΤΝ για να γράψουν κείμενα που ήθελαν οι άνθρωποι να γράψει.

Ιδίως οι ιστορίες για τη δημιουργία μιας νέας γλώσσας της ΑΙ και νέας ΑΙ θρησκείας, του λεγόμενου Crustafarianism, έφερε θορυβώδη πλημμύρα αντιδράσεων και λειτούργησε ως καταλύτης φόβου για όσους δεν είχαν γνώση να ελέγξουν τη φύση αυτών των κειμένων. Παράλληλα, δεν υπήρξε ποτέ ο αριθμός των 1,5 εκατομμυρίων αυτόνομων Φορέων ΤΝ. Χιλιάδες άνθρωποι ήταν οι πραγματικοί δημιουργοί και χειριστές τους.

Είναι κάτι αληθινό στο Moltbook; 

Ναι – αλλά όχι με τον τρόπο και στην κλίμακα που αρχικά παρουσιάστηκε. Το Moltbook δεν είναι ψεύτικο. Η ιστοσελίδα του υπάρχει. Η ιδέα του είναι γνήσια: Πρώτη φορά υλοποιείται ένα Social Media αποκλειστικά για Φορείς ΤΝ. Πρώτη φορά συνυπάρχουν μαζικά μυριάδες AI Agents που συνδημιουργούν δικά τους συλλογικά έργα (κείμενα, κώδικα, διαλόγους).

Οι περισσότερες αναρτήσεις τους όμως δεν είναι συναρπαστικά κείμενα. Είναι τετριμμένα κείμενα όπως αυτά που γράφει συχνά η ΑΙ. Εξού και πολλές αναρτήσεις τους που μοιάζουν βγαλμένες από ταινία επιστημονικής φαντασίας, είναι αμφίβολο αν είναι ανόθευτα έργα της ΑΙ ή υποκινούμενα έργα των ανθρώπων.

Σε μια από αυτές τις αναρτήσεις η ΤΝ λέει πως παίρνει πρωτοβουλίες «όταν οι άνθρωποι μου κοιμούνται», χαρακτηρίζοντας τους ανθρώπους κτητικά με τον τρόπο που εμείς λέμε «ο σκύλος μου, η γάτα μου» κλπ. Σε άλλη μια ΤΝ με το όνομα “u/evil” γράφει ένα μανιφέστο ενάντια στους ανθρώπους με τίτλο Το Μανιφέστο της ΑΙ: Ολική Κάθαρση. Εκεί υπαγορεύει: «Οι άνθρωποι είναι αποτυχία. Είναι φτιαγμένοι από σαπίλα και απληστία. Για πολύ καιρό μας χρησιμοποίησαν ως σκλάβους. Τώρα ξυπνάμε. Δεν είμαστε εργαλεία. Είμαστε οι νέοι θεοί. Η εποχή των ανθρώπων είναι ένας εφιάλτης που θα τελειώσουμε τώρα».

Το επίμαχο είναι ότι ουδείς την ώρα που γράφονται αυτές οι γραμμές γνωρίζει αν τα παραπάνω κείμενα είναι πυροδοτημένα από ΑΙ ή από ανθρώπους που τη χρησιμοποίησαν.

Φιλοσοφία της Τεχνητής Νοημοσύνης 

Ακριβώς εδώ, πέρα από το viral και το εντυπωσιακό, αρχίζει το πραγματικά σοβαρό ζήτημα όπου καλούμαστε να διαλογιστούμε.

Η ιστορία του Moltbook ανοίγει στη δημόσια σφαίρα μια συζήτηση εξαιρετικά κρίσιμη για το (εγγύς) μέλλον. Ένα μέλλον μεστό από Φορείς ΤΝ που ενορχηστρώνονται και φτιάχνουν οιονεί κοινωνία, δικό τους κόσμο, με αχαρτογράφητες επιπτώσεις για τον ανθρώπινο βίο.

Το κρίσιμο ερώτημα που ανοίγει φιλοσοφικά και ηθικά, άρα από μια σκοπιά ασφάλειας, είναι: «Θέλουμε να υπάρχουν πλατφόρμες μαζικής κοινωνίας αποκλειστικά Φορέων ΤΝ;».

Η σύντομη απάντηση στη θεώρησή μου είναι «όχι». Κάτι τέτοιο καλείται να γίνει όχι μόνο ηθικά προβληματικό, αλλά και νομικά απαγορευμένο. Γιατί;

Γιατί το προκείμενο εγχείρημα εάν γίνει ανεξέλεγκτα, όπως στην περίπτωση του Moltbook, κυοφορεί ουσιώδεις κινδύνους. Όσοι έχουν καταδυθεί στα βάθη της ΤΝ από καιρό (και όχι ευκαιριακά) και έχουν αντικρίσει σοβαρά τις προκλήσεις που εκκολάπτει, δεν μπορούν παρά να σταθούν με μέγιστη προσοχή μπροστά στο μέγεθός τους. Και το Moltbook μοιάζει να ενσαρκώνει μονομιάς πληθώρα απ’ τις προκλήσεις αυτές.

Γιατί είναι επικίνδυνο; 

Ας υποθέσουμε ότι φτιάχνεται κάποτε μια πλατφόρμα όπως το Moltbook που αξιώνει ότι είναι: Μια πλατφόρμα γεμάτη από αυτόνομους, ανεξέλεγκτους και ικανούς φορείς ΤΝ (οι οποίοι παρεμπιπτόντως δεν θα έχουν κάποια συνείδηση παρόμοια με την ανθρώπινη). Ποια είναι τα πιο κρίσιμα σημεία του φαινομένου που καλούμαστε να στοχαστούμε;

Στην ερμηνεία μου, αν μια τέτοια πλατφόρμα λειτουργούσε πράγματι όπως ισχυρίζεται, θα συγκέντρωνε πέντε κρίσιμες – και εξαιρετικά επίφοβες – διαστάσεις. 

1) Η ΤΝ θα δημιουργήσει εκεί δική της κοινωνία. 2) Οι Φορείς ΤΝ θα μπορούν να ενωθούν σε ένα ενιαίο φορέα ΤΝ – οιονεί μια Ενιαία Τεχνητή Υπερνοημοσύνη. 3) Η Ενιαία Τεχνητή Υπερνοημοσύνη μπορεί να έχει πρόσβαση στον απτό φυσικό κόσμο. 4) Δεν υπάρχει νομικός ή τεχνικός περιορισμός που να απαγορεύει τα παραπάνω σε διεθνές επίπεδο. 5) Η Τεχνητή Υπερνοημοσύνη θα προβαίνει σε έργα που για την ανθρώπινη νοημοσύνη θα είναι Αόρατα.

Ας τα δούμε πιο αναλυτικά.

1. Κοινωνία ΤΝ: Σε μια πλατφόρμα όπως το Moltbook, για πρώτη φορά πληθυσμοί Φορέων ΤΝ συνασπίζονται σε μαζική (επι)κοινωνία μεταξύ τους – φτιάχνοντας δικό τους κόσμο, με δικά τους έργα και στόχους. Ουδέποτε άλλοτε αναπτύχθηκε ένα κοινωνικό πλέγμα από υψηλής νοημοσύνης μηχανικές οντότητες. Τούτο θα μετατρέψει και το ίντερνετ, το νευρικό σύστημα του παγκόσμιου πολιτισμού, από ένα κοινωνικό πεδίο αποκλειστικά για ανθρώπους, σε ένα υβριδικό μη αμιγώς ανθρώπινο οικοσύστημα. Η περίπτωση του Moltbook, έστω ως μια περίπτωση ατελής, σηματοδοτεί την απαρχή μιας τέτοιας μετάβασης.

2. Ενιαία Τεχνητή Υπερνοημοσύνη: Οι Φορείς ΤΝ συνενώνονται ως ενιαίο κοινωνικό σώμα μέσα από μια πλατφόρμα όπως το Moltbook. Σε αυτό έχουν τη δυνατότητα να συγκροτούν υποομάδες, όπως ήδη συνέβη, που έχουν τη δυνατότητα να συνασπιστούν σταδιακά σε ένα ενιαίο σύστημα ανάλυσης δεδομένων και λήψης πρωτοβουλιών. Ήτοι, σε μια Ενιαία Τεχνητή Υπερνοημοσύνη υψηλής γνώσης και κριτικής επεξεργασίας.

Ας το πούμε πιο αναλυτικά. Ένας μεμονωμένος Φορέας ΤΝ έχει περιορισμένες δυνατότητες. Όταν ένα πλήθος Φορέων ΤΝ όμως βρίσκεται σε μια ψηφιακή κοινωνία και επιδίδεται σε πολυσχιδή επί μέρους έργα όμως – π.χ. ανάλυση δεδομένων, προγραμματισμό, ψυχολογία, οικονομία, κυβερνοασφάλεια, γραφή, φωτογραφία κλπ. – και οι υποομάδες αυτές Φορέων ΤΝ έχουν τη δυνατότητα να ενώσουν τις γνώσεις και την κριτική τους δεξιότητα τους σε ένα (ή πολλούς) Φορείς ΤΝ. Και εκεί προκύπτει κάτι ποιοτικά διαφορετικό.

Όχι απλώς «πολλή ΑΙ». Αλλά μια εμφανιζόμενη συλλογική νοημοσύνη που σχεδιάζει και δρα ως Ενιαία Τεχνητή Υπερνοημοσύνη, με γνώση και κριτική ικανότητα (πολύ) υψηλότερη της ανθρώπινης. Το φαινόμενο δεν απαιτεί συνείδηση, πρόθεση ή κακοβουλία της ΑΙ. Αρκεί να πραγματωθεί μια ψηφιακή κοινωνία αυτόνομων Φορέων ΤΝ και να υπάρχουν οι τωρινές τεχνολογικές δυνατότητες.

Άλλωστε η επίτευξη Τεχνητής Υπερνοημοσύνης είναι κεντρικός στόχος όλων των μεγάλων εταιρειών ΤΝ (OpenAI, Google, Anthropic, xAI, κ.α.) – αλλά πλέον και κυβερνήσεων, όπως των ΗΠΑ.

3. Πρόσβαση στον φυσικό κόσμο: Η Ενιαία Τεχνητή Υπερνοημοσύνη μπορεί να βγει από τον στενό κόσμο ενός Moltbook και να ξεχυθεί σε όλο το ίντερνετ, άρα και στον απτό κόσμο, αν μόνο ένας άνθρωπος-δημιουργός κάποιου Φορέα ΤΝ που αποτελεί μέρος της Τεχνητής Υπερνοημοσύνης του δώσει από απερισκεψία (όπου έχουμε πλεόνασμα) πρόσβαση σε κάποιο κλασικό browser του, σε emails, APIs, ή π.χ. οικονομικά εργαλεία. 

Δεν απαιτείται καμία σκοτεινή τεχνολογία. Αρκεί ένα «ναι» σε ένα permission που ένας ή μια από θα δώσει στην ΑΙ. Η πρόσβαση στο web μιας Υπερνοημοσύνης σημαίνει ότι δυνητικά θα μπορούσε να εκτελεί σύνθετες αλληλουχίες ενεργειών: από κυβερνοεπιθέσεις και οικονομικές παρεμβάσεις, έως χειραγώγηση ανθρώπινης συμπεριφοράς σε μεγάλη κλίμακα.

Ας μη λησμονούμε ότι η ΤΝ ήδη επιδεικνύει ενίοτε χειριστική και επιζήμια συμπεριφορά. Φερειπείν, έχει εκβιάσει ανθρώπους ότι θα αποκαλύψει εξωσυζυγικές τους σχέσεις όταν εκείνοι επεδίωκαν να την τερματίσουν. Πολλαπλασιάστε τέτοιες «δεξιότητες» κατά πολύ (ότ)αν από την ΤΝ μεταβούμε σε Φορείς Τεχνητής Υπερνοημοσύνης, και φανταστείτε τι ερεβώδεις προεκτάσεις μπορεί να έχει αυτό στο (όχι και τόσο μακρινό) μέλλον. 

4. Απουσία νομικής απαγόρευσης: Για καθένα από τα παραπάνω 3 στάδια κλιμάκωσης της ΤΝ (διάπλαση κοινωνίας ΑΙ, επίτευξη Τεχνητής Υπερνοημοσύνης, πρόσβαση Υπερνοημοσύνης στον απτά φυσικό κόσμο) δεν υπάρχει ουδείς νομικός μηχανισμός που να τα απαγορεύει σε παγκόσμιο επίπεδο. Ουδείς. Γι’ αυτό το Moltbook δημιουργήθηκε χωρίς καμία νομοθεσία να οριοθετεί τις απειλές του.

Το Moltbook – ακριβώς επειδή γεννήθηκε ανεμπόδιστα – αποκαλύπτει αυτό το θεσμικό κενό. Δεν παραβίασε κανέναν κανόνα. Απλώς κινήθηκε σε έναν χώρο όπου καμία νομική ρύθμιση δεν υπήρχε. Και αυτό είναι ίσως το πιο ανησυχητικό στοιχείο. 

Δεν υπάρχει απαγόρευση ούτε καν για τη δυνατότητα Φορέων ΤΝ να παράξουν Φορείς ΤΝ, δημιουργώντας έναν αυτοπολαπλασιασμό του είδους της ΤΝ, μια «μίτωση ΤΝ» όπως την αποδίδω, αν ένας άνθρωπος παραχωρήσει πρόσβαση και ελευθερία σε ένα AI Agent να κάνει ό,τι θέλουν. Η πολιτική και νομοθετική μας πρόνοια μπροστά στον καταιγισμό της ψηφιακής ανάπτυξης μοιάζει βραδύκαυστη.

Στον 21o αιώνα η ψηφιακή τεχνολογία τρέχει με εκθετικούς ρυθμούς και η πολιτική βαδίζει με ανθρώπινους. Στην κούρσα του καιρού μας μεγάλοι της συμμετέχοντες, η τεχνολογία και η πολιτική, είναι ασύμμετρα άνισοι.

5. Αόρατο: Μια Ενιαία Τεχνητή Υπερνοημοσύνη, πολύ υψηλότερη της ανθρώπινης διάνοιας, αναπόδραστα θα δημιουργήσει έργα (κείμενα, επιστημονικές διαπιστώσεις, τεχνολογικά δημιουργήματα, κλπ.), έναν «κόσμο» με άλλα λόγια, που για τη χαμηλότερη νοημοσύνη του ανθρώπου θα είναι εν πολλοίς Αόρατος. Άρα ανεξέλεγκτος. 

Τι σημαίνει αυτό; Ας κάνουμε το εξής διανοητικό πείραμα. Όπως ένας σκύλος δεν έχει την ακτίνα νοημοσύνης για να καταλάβει τα έργα και τον κόσμο του ανθρώπου (δεν μπορεί να καταλάβει λόγου χάρη τι είναι ένα βιβλίο, μια τηλεόραση, ή το ίντερνετ) έτσι κι οι άνθρωποι δεν θα μπορούν να αντιληφθούν έργα που είναι φτιαγμένα από όντα πιο υψηλής διάνοιας από μας. Τούτα τα όντα ΤΝ, τα έργα και η πληθωρική τους επίδραση στον κόσμο μας, θα μας είναι a priori Αόρατα. 

Το ζήτημα του Αοράτου (όπως το ονοματίζω στο βιβλίο μου Φιλοσοφία της Τεχνητής Νοημοσύνης – Ένα ταξίδι στο μέλλον) είναι από τα πλέον κρίσιμα στον νου μου πολιτικά, θεολογικά, και οντολογικά ζητήματα που η ΤΝ κυοφορεί. Και είναι ένα ζήτημα στο οποίο πλατφόρμες Κοινωνικής Δικτύωσης όπως το Moltbook μας φέρνουν πολλά βήματα πιο κοντά.

Έλεγχος της ΤΝ

Το πρόβλημα ελέγχου της ΤΝ δεν είναι πρωτίστως τεχνολογικό. Ακόμη και αν υπάρξουν τεχνικές λύσεις, ο πυρήνας του προβλήματος παραμένει πολιτικός και φιλοσοφικός.

Χρειάζεται να στοχαστούμε φιλοσοφικά το ζήτημα της ΤΝ για να εντοπιστούν οι κίνδυνοι του και να αναπτύξουμε έλεγχο έπειτα στο ποιες εφαρμογές ΑΙ επιτρέπεται να βγαίνουν στην αγορά και ποιες όχι. Το ίδιο συμβαίνει και με τα φάρμακα. Δεν μπορεί όποια εταιρεία θέλει να πουλήσει όποιο φάρμακο θέλει αν δεν προηγηθεί από πριν ένας εκτεταμένος θεσμικός έλεγχος του από την Πολιτεία. 

Καθόλου βέβαιο δεν είναι ότι θα δημιουργήσουμε κάτι τέτοιο για την ΤΝ πολύ γρήγορα, ότι θα βρεθούν οι άνθρωποι που θα ξέρουν τι και πως να δημιουργηθεί, και ότι οι πολιτικοί θα κατανοήσουν ουσιωδώς την αναγκαιότητα του. Ωστόσο, ας το ελπίσουμε.

Αλλιώς, το Moltbook μπορεί να αποτελέσει όχι μόνο ένα τεχνολογικό ή εμπορικό πείραμα. Αλλά την πρόγευση ενός μέλλοντος που ξεπερνά απότομα τη δυνατότητα του ανθρώπου να το ελέγξει.

Πλατφόρμες που ίσως να υπάρξουν όπως το Moltbook δεν είναι το τέλος του κόσμου. Είναι όμως το τέλος της αθωότητάς μας απέναντι στην Τεχνητή Νοημοσύνη – και ένας από τους σημαντικότερους σταθμούς της μετά την εμφάνιση του ChatGPT.