Μια σύντομη συζήτηση για την Τεχνητή Νοημοσύνη

Σ.Τ. Η Τεχνητή Νοημοσύνη είναι buzzword για περισσότερα από 30 χρόνια και η σχετική τεχνολογία χρονολογείται από το 1950 ή από ακόμη παλιότερα. Ποια ήταν τα βήματα που κάναμε στον 21ο αιώνα; Πώς κρίνετε τον όρο «Τέταρτη Βιομηχανική Επανάσταση»; Έχει κάποια έννοια; Και αν ναι, ποια;

Δ.Α. Στην πραγµατικότητα, ο όρος Τεχνητή Νοηµοσύνη δεν έχει τεχνικό περιεχόµενο. Είναι απλώς µια επιθυµία: ανθρώπινες κατασκευές να εµφανίζουν «νοηµοσύνη». Όµως, το πρόβληµα είναι ότι δεν ξέρουµε τι είναι η νοηµοσύνη, όπως δεν ξέραµε µέχρι πρόσφατα —δηλαδή πριν από λίγες εκατοντάδες χρόνια— τι είναι οι λοιµώξεις, παρότι µπορούσαµε να περιγράψουµε τα συµπτώµατά τους και να τις θεραπεύσουµε σε κάποιον βαθµό.

Όσον αφορά στα βήµατα προς την Τεχνητή Νοηµοσύνη, χοντρικά, υπήρξαν δύο προσεγγίσεις. Η πρώτη, η οποία κυριάρχησε στις δεκαετία του 1980 και του 1990, επιχείρησε να φτιάξει συστήµατα τα οποία ενσωµάτωναν ρητούς, άκαµπτους, λογικούς κανόνες, η εφαρµογή των οποίων σε ένα σύνολο από δεδοµένα, όπως για παράδειγµα τα συµπτώµατα που παρουσιάζει ένας ασθενής, θα µπορούσε να παράσχει συµπεράσµατα, όπως για παράδειγµα µια ιατρική διάγνωση. Η προσέγγιση αυτή απέτυχε παταγωδώς παρά τη µεγάλη προσπάθεια που καταβλήθηκε, τόσο στον ακαδηµαϊκό χώρο όσο και από µεγάλες εταιρείες, όπως η IBM.

Από το 2005, περίπου, ζούµε µια άνοιξη της Τεχνητής Νοηµοσύνης, η οποία οφείλεται στο ότι έχει εγκαταλειφθεί τόσο το αίτηµα οι κανόνες να είναι ρητοί, όσο και το αίτηµα να είναι άκαµπτοι.

Αντ’ αυτού, σήµερα ξεκινάµε από µια γενική, εύπλαστη υπολογιστική αρχιτεκτονική στην οποία παραθέτουµε εκατοµµύρια παραδείγµατα ερωταπαντήσεων µε το αίτηµα να αυτοδιαµορφωθεί (να «µάθει»), ώστε να συµφωνεί όσο το δυνατόν περισσότερο µε τα παραδείγµατα που παραθέσαµε, χωρίς να τα αποµνηµονεύει. Μακράν η µεγαλύτερη πηγή τέτοιου µαθησιακού υλικού είναι τα κείµενα στο Web. Mε άλλα λόγια, αν δεν υπήρχε το Web ως αποθετήριο της ανθρώπινης γνώσης η τρέχουσα προσέγγιση δεν θα είχε καµία τύχη.

∆εν µου πολυαρέσει ο όρος «Τέταρτη Βιοµηχανική Επανάσταση» γιατί προδικάζει πως η επανάσταση θα είναι «χρηστική», όπως οι προηγούµενες. Πιστεύω πως αν όντως πρόκειται για πραγµατική επανάσταση, κάτι καθόλου δεδοµένο, θα είναι τόσο σηµαντική όσο η απόκτηση της γλώσσας από το ανθρώπινο είδος. ∆ηλαδή θα µας επαναπροσδιορίσει πλήρως.

Σ.Τ. Τι είδους προβλήματα επιλύουν προς το παρόν οι «νοήμονες μηχανές»;

Δ.Α. Χοντρικά θα έλεγα πως λύνουν δύο ειδών προβλήµατα, δύο όψεις του ίδιου νοµίσµατος. Το ένα πρόβληµα είναι να µαθαίνουν να εκτιµούν. Για παράδειγµα, φανταστείτε ότι υπαγορεύουµε στον υπολογιστή τους κανόνες ενός παιχνιδιού, π.χ. του σκακιού, και στη συνέχεια του αναθέτουµε να «καθίσει να σκεφτεί» προκειµένου να γίνει καλός στο εξής: αν του δείξουµε τη σκακιέρα στη µέση µιας παρτίδας, να µπορεί να αποφασίσει αν τα άσπρα ή τα µαύρα πιόνια είναι σε καλύτερη θέση και πόσο (αν δηλαδή βάζαµε δύο ισάξιους παίχτες να συνεχίσουν το παιχνίδι, ποιος θα κέρδιζε). Προφανώς, το να είναι κανείς καλός σε αυτήν την εκτίµηση είναι ισοδύναµο µε το να «ξέρει να παίζει σκάκι», µια και για να διαλέξει την επόµενη κίνηση κάθε φορά αρκεί να εκτιµήσει τις σκακιέρες που προκύπτουν από τις διαφορετικές επιτρεπόµενες κινήσεις. Ένας πρωτόλειος τέτοιος εκτιµητής είναι «τα πιόνια αξίζουν 1, τα άλογα και οι αξιωµατικοί από 3, οι πύργοι 5 κ.ο.κ.» Αυτό, δηλαδή, που λέω στον επτάχρονο γιο µου τώρα που αρχίζουµε να παίζουµε σκάκι. Ο υπολογιστής που νίκησε τον Κασπάροφ εµπεριείχε έναν πολύ πιο περίπλοκο «χειροποίητο» εκτιµητή, δηλαδή έναν εκτιµητή τον οποίο προγραµµάτισαν άνθρωποι. Σήµερα, µε τη νέα προσέγγιση, ο υπολογιστής µαθαίνει µόνος του τον εκτιµητή παίζοντας δισεκατοµµύρια παρτίδες εναντίον του εαυτού του (στην αρχή χάλια, αλλά βελτιούµενος συν τω χρόνω).

Ο τελικός εκτιµητής είναι φοβερά πολύπλοκος και δεν µπορούµε να τον περιγράψουµε µε τρόπο που «να µας βγάζει νόηµα». Επίσης, κάποιες λίγες φορές, για λόγους που δεν καταλαβαίνουµε, κάνει πολύ χοντροκοµµένα λάθη εκτίµησης. Αυτές οι αδυναµίες του εκτιµητή απορρέουν από την έλλειψη κανονικότητας, που είναι ταυτόχρονα και η δύναµη της νέας προσέγγισης, η οποία έχει επιφέρει τεράστια πρόοδο σε δύσκολα προβλήµατα, από το πώς να παίζουµε το παιχνίδι Go, µέχρι το να υπολογίζουµε πώς διπλώνουν οι πρωτεΐνες.

Το άλλο πρόβληµα είναι το εξής. Φανταστείτε ότι σας δίνονται εκατοµµύρια βιβλία σε µια γλώσσα της οποίας δεν γνωρίζετε καν το αλφάβητο, π.χ. διότι αποτελείται από ιδεογράµµατα. Επίσης, φανταστείτε πως βάζουµε και 1.000 βιβλία σε αυτή τη γλώσσα στην άκρη, τα οποία δεν σας τα δίνουµε. Μετά, στο καθένα από τα 1.000 βιβλία, σε κάθε πρόταση σβήνουµε µία λέξη στην τύχη. Το ερώτηµα είναι: διαβάζοντας τα εκατοµµύρια βιβλία τα οποία σας δόθηκαν θα µπορούσατε να συµπληρώσετε τις σβησµένες λέξεις στα 1.000 βιβλία; Η απάντηση όσον αφορά τις ανθρώπινες γλώσσες φαίνεται πως είναι «ναι». Mάλιστα ο τρόπος µε τον οποίο προγράµµατα όπως το ChatGTP παράγουν κείµενο δεν είναι άλλος από το να µαντεύουν ξανά και ξανά την επόµενη λέξη σε ένα υποθετικό κείµενο, το ξεκίνηµα του οποίου είναι απλώς η αρχική ερώτηση την οποία υποβάλατε.

Σ.Τ. Σε τι κάνει, ή θα κάνει, η ΑΙ τη ζωή μας καλύτερη; Σε διάφορες καθημερινές λειτουργίες —μάρκετινγκ, πωλήσεις, εξυπηρέτηση πελατών— πολλοί άνθρωποι παραπονιούνται ότι δεν έχουν ανθρώπινο συνομιλητή κι ότι τα chatbots τους φέρνουν σε απόγνωση. Μερικοί βρίσκουν τα έξυπνα σπίτια ανώφελα, τους voice και virtual assistants ηλίθιους... Θέλω να πω ότι, συχνά, η ΑΙ που φτάνει στον απλό πολίτη δεν τον διευκολύνει και τόσο, αν και πράγματι ο θερμοστάτης είναι χρήσιμος.

Δ.Α. Συµφωνώ και για τα chatbots και για τα έξυπνα σπίτια. Όµως, τα αυτοοδηγούµενα αυτοκίνητα, η σχεδίαση νέων φαρµάκων και γενικότερα νέων υλικών, καθώς και η προσωποποιηµένη εκπαίδευση πιστεύω πως είναι «σιγουράκια», και τα θεωρώ πολύ σηµαντικά. Γενικότερα, πιστεύω ότι πολλές από τις εφαρµογές της Τεχνητής Νοηµοσύνης δεν θα είναι άµεσα ορατές ως τέτοιες και ότι η διάκριση ανάµεσα σε τεχνητή και φυσική νοηµοσύνη θα αµβλυνθεί. Για παράδειγµα, αν ένα επιτραπέζιο παιχνίδι είναι φοβερά διασκεδαστικό, αλλά έχει σχεδιαστεί από Τεχνητή Νοηµοσύνη, έχει κάποια σηµασία;

Σ.Τ. Ο φόβος ότι τα ρομπότ θα μας αντικαταστήσουν στον χώρο της εργασίας είναι παλιός όσο και η επιστημονική φαντασία. Τώρα, σιγά σιγά στην αρχή, και ύστερα απότομα, φαίνεται ότι θα υλοποιηθεί. Ποια είναι τα υπέρ και τα κατά της ΑΙ με τα δεδομένα που έχουμε σήμερα; Είμαι σίγουρη ότι δεν συμφωνούν όλοι οι επιστήμονες της πληροφορικής ως προς τα υπέρ και τα κατά.

Δ.Α. ∆εν συµφωνούµε µεταξύ µας γιατί δεν έχουµε ιδέα. Από τη µία, υπάρχει η σκέψη πως ίσως οι υπολογιστές καταλήξουν να είναι καλύτεροι από εµάς στα πάντα. Αυτό µπορεί να το δει κανείς ως τροµακτικό, αλλά και ως λυτρωτικό — είναι θέµα επιλογής. Από την άλλη, ίσως θέλουµε να πιστεύουµε πως πάντοτε θα είµαστε «χρήσιµοι», µε τον ίδιο τρόπο που ένας αγρότης µε τρακτέρ είναι καλύτερος από έναν αγρότη χωρίς τρακτέρ, αλλά πως ένα τρακτέρ µόνο του είναι άχρηστο. ∆εν ξέρω. Πιστεύω, πάντως, ότι θα αλλάξουν πολλά και βασικά πράγµατα, όπως η έννοια της ιδιοκτησίας και της ατοµικής ευθύνης, εφόσον όλο και περισσότερα αγαθά θα είναι άυλα και θα παράγονται χωρίς ανθρώπινη συµµετοχή.

Πιστεύω ότι θα αλλάξουν πολλά, όπως η έννοια της ιδιοκτησίας και της ατοµικής ευθύνης, εφόσον όλο και περισσότερα αγαθά θα είναι άυλα και θα παράγονται χωρίς ανθρώπινη συµµετοχή

Σ.Τ. Η έρευνα στην ΑΙ υπόσχεται θεαματικές λύσεις στην υγεία, στην παιδεία, στη διοίκηση, στη γεωπολιτική. Όμως, οι μάζες φαίνονται στο έλεος μιας ελίτ από nerds που κάτι σκαρώνει, και που ίσως αυτό που σκαρώνει πλήξει εντέλει την ανθρώπινη αξιοπρέπεια.

Δ.Α. Όταν ήµουν περίπου δέκα χρονών θυµάµαι να τσακώνοµαι έντονα µε τη νονά µου, η οποία ισχυριζόταν πως ένα χειροποίητο πουλόβερ ήταν αυτόµατα, ipso facto, καλύτερο από ένα της µηχανής, ενώ εγώ δεν συµµεριζόµουν καθόλου αυτήν την άποψη. Οπότε, µάλλον ρωτάτε τον λάθος άνθρωπο. Επίσης, όταν κάθε µέρα πεθαίνουν χιλιάδες άνθρωποι στον κόσµο από έλλειψη φαγητού και καθαρού νερού, µου φαίνεται υποκριτικό οι πολίτες του πρώτου κόσµου να λένε πως τους ενδιαφέρει η ανθρώπινη αξιοπρέπεια και όχι απλά η νοηµατοδότηση της ύπαρξής τους.

Σ.Τ. Μπορούμε να κατασκευάσουμε μηχανές με κριτική σκέψη; Μπορεί η εξέλιξή τους να φτάσει στη δημιουργία αισθημάτων;

Δ.Α. Όταν οι µηχανές ξέρουν να αποφασίζουν καλύτερα από τους ανθρώπους αν «τα µαύρα πιόνια έχουν πλεονέκτηµα», ή αν µια σκιά σε µια ακτινογραφία ίσως είναι ανησυχητική, αυτό δεν είναι κριτική σκέψη; Σίγουρα, τα πεδία εντός των οποίων οι µηχανές ασκούν κριτική σκέψη είναι στενά για την ώρα, αλλά αυτό µπορεί να αλλάξει στο µέλλον. Πιστεύω πως η εφαρµογή της Τεχνητής Νοηµοσύνης στη νοµική επιστήµη θα είναι πολύ ενδεικτική. Όσο για τα συναισθήµατα, η απάντηση στην ερώτησή σας νοµίζω πως εξαρτάται από το αν θεωρεί κανείς τα συναισθήµατα ανώτερη ή κατώτερη σκέψη. Πιστεύω πως ζούµε για τα συναισθήµατα καθώς συνιστούν το πιο απτό, το πιο άµεσο µυστήριο, ριζωµένα στο απώτερο παρελθόν της βιολογικής εξέλιξης. Αν είναι όντως έτσι, και δεν αποτελούν κάποια αναφαινόµενη ιδιότητα της νόησης, δεν βλέπω γιατί οι υπολογιστές θα «φτάσουν» να έχουν συναισθήµατα.

Σ.Τ. Έτσι κι αλλιώς, η ανθρώπινη «εξυπνάδα» δεν είναι κοινή: οι άνθρωποι μπορούν να είναι αυτόχρημα ηλίθιοι. Η έννοια του intelligent agent είναι αρκετά σχετική: πράγματι, οι άνθρωποι ως «ευφυείς παράγοντες» μεγιστοποιούν την προσδοκώμενη αξία του μέτρου απόδοσης, βάσει της παλαιότερης εμπειρίας και γνώσης τους; Πολύ αμφιβάλλω… Αλλά αυτό είναι μακρά φιλοσοφική συζήτηση. Θέλω να επιμείνω λίγο στο ερώτημα: έχει μια μηχανή αυθεντικότητα —μακάρι να ήξερα να την ορίσω!— και δημιουργικότητα; Μπορεί «να μας εκπλήξει»; Αν μπορεί να συμπεριφερθεί με αστρονομικά διαφορετικούς τρόπους, μάλλον μπορεί.

Δ.Α. Αυτό έχει ήδη συµβεί από την άνοιξη του 2016, αν όχι νωρίτερα, και συµβαίνει συνέχεια από τότε. Συγκεκριµένα, τον Μάρτιο του 2016, το πρόγραµµα AlphaGo κατατρόπωσε τον Lee Sedol, παγκόσµιο πρωταθλητή του Go, ενός παιχνιδιού στρατηγικής, για το οποίο µόλις δύο χρόνια νωρίτερα τα καλύτερα προγράµµατα, βασισµένα σε πιο παραδοσιακές τεχνικές, έπαιζαν σε επίπεδο προχωρηµένου αρχαρίου. Εξίσου σηµαντικό µε την ίδια τη νίκη όµως είναι το ότι κατά τη διάρκεια του δεύτερου παιχνιδιού το AlphaGo έκανε µία κίνηση την οποία δεν µπορούσε να ερµηνεύσει κάνεις και για την οποία ο Sedol ξόδεψε 16 ολόκληρα λεπτά για να απαντήσει. Πολλοί από τους σχολιαστές του παιχνιδιού θεώρησαν ότι το AlphaGo έκανε κάποιο σηµαντικό λάθος. Αρκετές κινήσεις αργότερα, όµως, έγινε σαφές ότι αυτή του η κίνηση ήταν εξαιρετικά δηµιουργική και έκρινε το παιχνίδι, κατ’ αναλογία ίσως µε κάποιες κινήσεις του Μπόµπι Φίσερ στο σκάκι δεκαετίες νωρίτερα, κινήσεις τις οποίες κανένας δεν θα είχε πρόβληµα να χαρακτηρίσει ως εξαιρετικά δηµιουργικές.

∆ύο µήνες αργότερα, η Google δηµοσίευσε τα αποτελέσµατα της χρήσης Τεχνητής Νοηµοσύνης για να ελέγξει τα κλιµατιστικά συστήµατα σε κάποια από τα data center της. Το κόστος της ψύξης στα data centers αποτελεί πολύ µεγάλο ποσοστό του συνολικού κόστους και η ελαχιστοποίησή του ήταν ένα πρόβληµα στο οποίο είχαν ήδη επενδυθεί πολλοί πόροι και χρόνος µηχανικών και επιστηµόνων από διάφορες επιστήµες. Παρόλα αυτά το πρόγραµµα Τεχνητής Νοηµοσύνης, αφότου µελέτησε τα ιστορικά δεδοµένα για προηγούµενα χρόνια από διάφορα data centers και χιλιάδες αισθητήρες, κατάφερε να δηµιουργήσει ένα µηχανισµό ελέγχου των κλιµατιστικών, ο οποίος κάνοντας συχνά πολύ απροσδόκητες ενέργειες µείωνε την κατανάλωση ηλεκτρικού ρεύµατος κατά 40%, µια ασύλληπτη βελτίωση, η αξία της οποίας αποτιµάται σε εκατοντάδες εκατοµµύρια δολάρια τον χρόνο.

Σ.Τ. Πολλοί ειδήμονες ανησυχούν: ο Yoshua Bengio, ο Steve Wozniak, ακόμα και ο Elon Musk. Αλλά ο Sundar Pichai και ο Satya Nadella, από την Google και τη Microsoft αντιστοίχως, συνεχίζουν γεμάτοι αισιοδοξία. Τον περασμένο Απρίλιο, ο Geoffrey Hinton έφυγε από την Google γιατί πιστεύει ότι η ΑΙ θα μας οδηγήσει σε μια έρημη χώρα. Ποια ήταν εκείνη η εξέλιξη που τον έπεισε για την επικινδυνότητα της ΑΙ;

Δ.Α. Ήµουν στο Πανεπιστήµιο του Τορόντο τη δεκαετία του ’90 όταν ο Geoff αντιµετωπιζόταν από όλους ως ένας πανέξυπνος και καλός άνθρωπος που είχε όµως παγιδευτεί σε ένα δονκιχωτικό αγώνα ο οποίος δεν θα οδηγούσε πουθενά, ήτοι την τρέχουσα εξαιρετικά πετυχηµένη προσέγγιση για Τεχνητή Νοηµοσύνη. Συµπέσαµε επίσης το 2019 στην Google, όπου ήταν ο πνευµατικός ηγέτης εκατοντάδων ανθρώπων και είχε πρόσβαση στην απόλυτη αιχµή της έρευνας. Κατά τη γνώµη µου οι εταιρείες έχουν κάθε λόγο να υποτιµούν τους κινδύνους και να υπερτιµούν τα οφέλη κάθε νέας τεχνολογίας, µια και τα πρώτα είναι συλλογικά, ενώ τα δεύτερα είναι ιδιωτικά. Χωρίς να ξέρω κάτι συγκεκριµένο, πιστεύω ότι ο Geoff, ως ένας πολύ ακέραιος άνθρωπος, έφυγε από την Google για να µπορεί να εκφράσει τη γνώµη του ελεύθερα γι’ αυτό το αντιστάθµισµα.

Κατά τη γνώµη µου οι εταιρείες έχουν κάθε λόγο να υποτιµούν τους κινδύνους και να υπερτιµούν τα οφέλη κάθε νέας τεχνολογίας, µια και τα πρώτα είναι συλλογικά, ενώ τα δεύτερα είναι ιδιωτικά.

Σ.Τ. Στον σημερινό κόσμο φοβόμαστε τη Συντέλεια περισσότερο από ό,τι οι προηγούμενοι κάτοικοι της Γης; Ποια είναι, κατά τη γνώμη σας, η πιθανότερη απειλή; Κάποτε φοβόμασταν τους εξωγήινους, ύστερα την πυρηνική καταστροφή… Τώρα φοβόμαστε την κλιματική απορρύθμιση και την ΑΙ.

Δ.Α. ∆υστυχώς, υπάρχουν πάρα πολλά παραδείγµατα πολιτισµών που κατέρρευσαν τρέχοντας µε σταθερή ταχύτητα προς έναν γκρεµό που ήταν ορατός από µακριά. Σήµερα, για παράδειγµα, οι κυβερνήσεις πολλών χωρών του Πρώτου Κόσµου λένε «τι νόηµα έχει να περιορίσουµε εµείς δραµατικά τους ρύπους, όταν η Ινδία και η Κίνα θα συνεχίσουν να ρυπαίνουν µαζικά καίγοντας εξαιρετικά ρυπογόνα καύσιµα;»

Ταυτόχρονα, όµως, δεν βλέπω οι κυβερνήσεις του Πρώτου Κόσµου να είναι διατεθειµένες να χαρίσουν στην Ινδία και στην Κίνα δωρεάν πυρηνικά καύσιµα (εδώ δεν τα υιοθετούν οι ίδιες!) για τις λίγες δεκαετίες που χρειαζόµαστε µέχρι η ηλιακή ενέργεια να καλύψει το µεγαλύτερο µέρος των ανθρώπινων αναγκών. Τι να πω; Ο ρυθµός µε τον οποίο τα προβλήµατα γίνονται παγκόσµια είναι πολύ ταχύτερος από τον ρυθµό µε τον οποίο συγκεράζονται οι κουλτούρες και οι κοινωνίες. Μακάρι οι µηχανές, ως µια υπερβατική κοινότητα, να προλάβουν να απορροφήσουν τα καλά µας και να πάνε παρακάτω.

Σ.Τ. Υπάρχουν πολλά πράγματα που δεν μπορεί να κάνει μόνο του ένα ανθρώπινο ον, αλλά που μπορούν να τα κάνουν πολλοί άνθρωποι μαζί. Τι συμβαίνει όταν μεταφέρουμε αυτή την πρόταση στον χώρο της ΑΙ;

Δ.Α. ∆εν βλέπω κάποια ευθεία αναλογία, αλλά νοµίζω πως αξίζει να επισηµάνει κανείς το εξής. Ένα σηµαντικό µέρος του µαθησιακού υλικού για τα σύγχρονα συστήµατα Τεχνητής Νοηµοσύνης είναι η Wikipedia, µια παγκόσµια, πανανθρώπινη εγκυκλοπαίδεια µε περισσότερα από 60 εκατοµµύρια λήµµατα, που γράφτηκε συλλογικά σε βάθος δύο δεκαετιών από εκατοµµύρια ανθρώπους. Νοµίζω πως µπορούµε να πούµε µε βεβαιότητα πως κανένας άνθρωπος δεν µπορεί να απορροφήσει µόνος του όλο της το περιεχόµενο, ακόµα και αν το κάνει στόχο της ζωής του.

Κατά συνέπεια, όπως η γλώσσα δηµιούργησε τη δυνατότητα ανταλλαγής εµπειριών ανάµεσα στα άτοµα και τα βιβλία, τη δυνατότητα µεταφοράς της γνώσης στον χώρο και στον χρόνο, ίσως τώρα έχουµε µια νέα τεράστια ενοποίηση των ανθρώπινων εµπειριών και γνώσεων σε ένα υπερβατικό «παιδί της ανθρωπότητας», το οποίο ίσως µια µέρα µας ξεπεράσει. Προσωπικά, αντιµετωπίζω ένα τέτοιο ενδεχόµενο ως λυτρωτικό για την ανθρωπότητα και ελπίζω να γίνει πριν καταστρέψουµε τελείως τον πλανήτη.

* Το άρθρο δημοσιεύθηκε στην ειδική έκδοση για τα 20 χρόνια Athens Voice «Επιβιώνοντας στον 21ο αιώνα - Οι πολιτικές, οι τάσεις, τα ρεύµατα της εποχής µας», σε επιµέλεια Σώτης Τριανταφύλλου