Του Vernor Vinge,
της Μαθηματικής Σχολής του Πολιτειακού Πανεπιστημίου του San
Diego
Από το On-line Περιοδικό
«Μετα-θέσεις»
Μετάφραση Σπύρος Μάνδρος
Αρχικά, αυτό το άρθρο παρουσιάστηκε στο Συμπόσιο VISION-21, που έγινε με χορηγία του Ερευνητικού Κέντρου Lewis της NASA και του Ινστιτούτου Αεροδιαστημικής του Οχάιο στις 30-31 Μαρτίου 1993. Μια ελαφρώς διαφορετική παραλλαγή του παρουσιάστηκε στο περιοδικό Whole Earth Review τον χειμώνα του 1993. Εκτοτε, η ιδέα της τεχνολογικής μοναδικότητας (technological sigularity) του Vinge, ένα είδος τεχνολογικής Δευτέρας Παρουσίας, αποτελεί ένα από τα πιο καυτά θέματα συζήτησης στους κύκλους των τρανσουμανιστών.
Αυτό που απασχολεί τον Vinge στο παρόν άρθρο του είναι η βεβαιότητα ότι εντός τριάντα ετών θα έχουμε τα τεχνολογικά μέσα για να δημιουργήσουμε υπερανθρώπινη νοημοσύνη. Πολύ σύντομα μετά απ' αυτό, υποστηρίζει, η ανθρώπινη περίοδος θα τελειώσει. Μπορεί να αποφευχθεί αυτή η εξέλιξη; Και αν δεν μπορεί να γίνει αυτό, είναι δυνατόν να καθοδηγηθούν τα γεγονότα ώστε να μπορέσουμε να επιβιώσουμε; Ο Vinge παρουσιάζει μερικές ενδεχόμενες απαντήσεις (και παραπέρα κινδύνους).
Η επιτάχυνση της τεχνολογικής προόδου ήταν το κεντρικό χαρακτηριστικό αυτού του αιώνα. Υποστηρίζω σ' αυτό το κείμενο ότι βρισκόμαστε μπροστά σε μια αλλαγή που συγκρίνεται μόνο με την εμφάνιση της ανθρώπινης ζωής στη Γη. Τα επακριβή αίτια αυτής της αλλαγής είναι η επικείμενη δημιουργία, μέσω τεχνολογίας, οντοτήτων με μεγαλύτερη νοημοσύνη από τον άνθρωπο. Υπάρχουν αρκετά μέσα με τα οποία η επιστήμη μπορεί να εξασφαλίσει αυτό το επίτευγμα (και τούτο είναι ένας ακόμα λόγος σιγουριάς ότι το γεγονός αυτό θα συμβεί):
- Μπορεί να υπάρξουν "ξύπνιοι" και υπεράνθρωπα ευφυείς κομπιούτερ. (Σήμερα, υπάρχει μεγάλη διχογνωμία ως προς το εάν μπορούμε να δημιουργήσουμε το αντίστοιχο του ανθρώπου σε μια μηχανή. Αλλά εάν η απάντηση είναι "ναι, μπορούμε", τότε ελάχιστα αμφιβολία υπάρχει ότι πολύ σύντομα μετά απ' αυτό θα μπορούμε να κατασκευάσουμε όντα πιο ευφυή).
- Μεγάλα δίκτυα κομπιούτερ (και οι συνδεδεμένοι χρήστες τους) μπορεί να "ξυπνήσουν" σαν υπεράνθρωπα ευφυείς οντότητες.
- Η συνεπαφή (interface) κομπιούτερ και ανθρώπου μπορεί να γίνει τόσο στενή που οι χρήστες τους να θεωρούνται δικαιολογημένα πως έχουν υπερανθρώπινη ευφυία.
- Οι βιολογικές επιστήμες μπορεί να προσφέρουν τα μέσα για τη βελτίωση της ανθρώπινης ευφυίας.
Οι πρώτες τρεις πιθανότητες εξαρτώνται σε μεγάλο βαθμό από τις βελτιώσεις στο hardware των κομπιούτερ. Οι εξελίξεις στον τομέα αυτό έχουν ακολουθήσει μια εκπληκτικά σταθερή καμπύλη τις τελευταίες λίγες δεκαετίες[17]. Βασιζόμενος κυρίως σ' αυτή την τάση, πιστεύω ότι η δημιουργία νοημοσύνης μεγαλύτερης του ανθρώπου θα επισυμβεί μέσα στα επόμενα τριάντα χρόνια. (Ο Charles Platt[20]έχει παρατηρήσει ότι οι υπέρμαχοι της Τεχνητής Νοημοσύνης το υποστηρίζουν αυτό τα τελευταία τριάντα χρόνια. Ετσι λοιπόν, εάν είμαι ένοχος ασάφειας ως προς τον χρόνο, ας γίνω πιο συγκεκριμένος: Θα εκπλαγώ εάν αυτό το γεγονός συμβεί πριν από το 2005 ή μετά το 2030).
Ποιές θα είναι οι συνέπειες αυτού του γεγονότος; Οταν μια νοημοσύνη μεγαλύτερη από την ανθρώπινη θα καθοδηγεί την πρόοδο, τότε αυτή η πρόοδος θα είναι ταχύτερη. Πράγματι, δεν υπάρχει λόγος που η ίδια αυτή πρόοδος δεν θα περιλαμβάνει τη δημιουργία και άλλων νοημόνων οντοτήτων -- σε όλο και βραχύτερη χρονική κλίμακα. Η καλύτερη αναλογία που βλέπω βρίσκεται στο βιολογικό παρελθόν: Τα ζώα μπορούν να προσαρμόζονται σε προβλήματα και να κάνουν εφευρέσεις, αλλά συνήθως όχι ταχύτερα απ' όσο χρειάζεται η φυσική επιλογή για να κάνει τη δουλειά της -- ο κόσμος λειτουργεί σαν προσομοιωτής του εαυτού του στην περίπτωση της φυσικής επιλογής. Αντίθετα, οι άνθρωποι έχουμε την ικανότητα να εσωτερικεύουμε τον κόσμο και να παίζουμε σενάρια του τύπου "τι θα συμβεί εάν" στο κεφάλι μας. Μπορούμε να λύνουμε πολλά προβλήματα χιλιάδες φορές ταχύτερα από τη φυσική επιλογή. Τώρα, δημιουργώντας τα μέσα να εκτελούμε αυτές τις προσομοιώσεις σε πολύ μεγαλύτερες ταχύτητες, μπαίνουμε σε μια περιοχή που απέχει τόσο ριζικά από το ανθρώπινο παρελθόν μας όσο απέχουμε οι άνθρωποι από τα κατώτερα ζώα.
Από την ανθρώπινη πλευρά, η αλλαγή αυτή θα συνιστά εγκατάλειψη όλων των προηγούμενων κανόνων, ίσως σε χρόνο ανοιγοκλεισίματος των ματιών, μια αχαλίνωτη εκθετική συνάρτηση πέρα από κάθε ελπίδα ελέγχου. Εξελίξεις που προηγουμένως θεωρούνταν ότι θα συμβούν σε "ένα εκατομμύριο χρόνια" (ή ποτέ) κατά πάσα πιθανότητα θα συμβούν τον επόμενο αιώνα. (Στο[5],ο Greg Bear δίνει μια εικόνα των μεγάλων αλλαγών που συμβαίνουν σε λίγες ώρες).
Νομίζω πως είναι δίκαιο να αποκαλέσουμε αυτό το γεγονός μοναδικότητα (η "Μοναδικότητα" στα πλαίσια αυτού του κειμένου). Είναι ένα σημείο όπου τα παλιά μοντέλα μας πρέπει να πεταχτούν στον κάλαθο των αχρήστων και μια νέα πραγματικότητα να κυβερνά. Οσο πλησιάζουμε πιο κοντά σ' αυτό το σημείο, η παρουσία του θα δεσπόζει όλο και πιο θεώρατη πάνω από τις ανθρώπινες υποθέσεις έως ότου η ιδέα γίνει κοινός τόπος. Εντούτοις, όταν τελικά συμβεί, μάλλον θα είναι μια μεγάλη έκπληξη και ένα ακόμα μεγαλύτερο άγνωστο. Ηδη από τη δεκαετία του '50 υπήρχαν ορισμένοι που το είδαν. Ο Stan Ulam[28]αναφέρει παραφράζοντας τον John von Neumann να λέει:
Η συζήτησή μας επικεντρώθηκε στη συνεχώς επιταχυνόμενη πρόοδο στην τεχνολογία και στις αλλαγές στον τρόπο ζωής του ανθρώπου, που δίνουν την εντύπωση ότι πλησιάζουμε κάποια βασική μοναδικότητα στην ιστορία του είδους μας, πέρα από την οποία οι ανθρώπινες υποθέσεις, όπως τις ξέρουμε, δεν μπορούν να συνεχιστούν.
Ο von Neumann φτάνει να χρησιμοποιεί τον όρο μοναδικότητα, αν και φαίνεται να έχει κατά νου φυσικές διαδικασίες και όχι τη δημιουργία υπερανθρώπινης νοημοσύνης. (Για μένα, το υπερανθρώπινο είναι η ουσία της Μοναδικότητας. Χωρίς αυτό το στοιχείο, θα χορταίναμε τεχνικά πλούτη, χωρίς ποτέ να τα αφομοιώνουμε σωστά. Βλ.[25]).
Τη δεκαετία του '60 υπήρξε αναγνώριση μερικών από τις επιπτώσεις της υπερανθρώπινης νοημοσύνης. Ο I. J. Good έγραφε[11]:
Ας ορίσουμε μια υπερνοήμονα μηχανή ως τη μηχανή που μπορεί να ξεπεράσει όλες τις διανοητικές λειτουργίες οποιουδήποτε ανθρώπου όσο ευφυής και αν είναι. Εφ' όσον ο σχεδιασμός μηχανών είναι μια από τις διανοητικές αυτές λειτουργίες, μια υπερνοήμων μηχανή θα μπορεί να σχεδιάσει ακόμα καλύτερες μηχανές. Και θα μπορούσε τότε αναμφίβολα να συμβεί μια "έκρηξη νοημοσύνης" και η νοημοσύνη του ανθρώπου θα έμενε πολύ πίσω. Ετσι, η πρώτη υπερνοήμων μηχανή θα είναι ητελευταίαεφεύρεση που θα κάνει ποτέ ο άνθρωπος, υπό τον όρο ότι η μηχανή θα είναι αρκετά υπάκουη για να μας πει πώς να την κρατήσουμε υπό έλεγχο[...] Το πιθανότερο είναι ότι, μέσα στον εικοστό αιώνα, θα κατασκευαστεί μια υπερνοήμων μηχανή και αυτή θα είναι η τελευταία εφεύρεση που θα χρειαστεί να κάνει ο άνθρωπος.
Ο Good έχει συλλάβει την ουσία της αχαλίνωτης νοημοσύνης, αλλά δεν εξετάζει τις πιο ανησυχητικές συνέπειές της. Καμιά νοήμων μηχανή του είδους που περιγράφει δεν θα μπορούσε να είναι "εργαλείο" της ανθρωπότητας -- όπως οι άνθρωποι δεν είναι εργαλεία των κουνελιών ή των σπουργιτιών ή των χιπατζήδων.
Από τη δεκαετία του '60 έως τη δεκαετία του '80, η αναγνώριση αυτού του κατακλυσμού εξαπλώθηκε[29], [1], [31], [5]. Ισως ήταν οι συγγραφείς επιστημονικής φαντασίας αυτοί που ένιωσαν τον πρώτο συμπαγή αντίκτυπο. Στο κάτω κάτω της γραφής, οι συγγραφείς "σκληρής" επιστημονικής φαντασίας είναι εκείνοι που προσπαθούν να γράψουν συγκεκριμένες ιστορίες για όλα όσα μπορεί να κάνει για μας η τεχνολογία. Ολο και περισσότερο, οι συγγραφείς αυτοί ένιωθαν να κρύβει το μέλλον ένας αδιαπέραστος τοίχος. Κάποτε, μπορούσαν να τοποθετούν τέτοιες φαντασίες εκατομμύρια χρόνια στο μέλλον[24].Τώρα βλέπουν ότι ακόμα και οι πιο φιλότιμες προβολές τους καταλήγουν στο άγνωστο... σύντομα. Κάποτε, οι γαλαξιακές αυτοκρατορίες μπορούσαν να μοιάζουν με μετανθρώπινα βασίλεια. Τώρα, δυστυχώς, ακόμα και οι διαπλανητικές είναι μετανθρώπινες.
Και τί να πούμε για τις δεκαετίες του '90, του '00 και του '10, καθώς γλιστράμε προς την άκρη του γκρεμού; Πώς θα διεισδύσει στην ανθρώπινη θεώρηση του κόσμου η επέλευση της Μοναδικότητας; Για λίγα χρόνια ακόμα, οι γενικοί επικριτές της μηχανικής νοημοσύνης θα έχουν καλή δημοσιότητα. Στο κάτω κάτω, μέχρι να έχουμε hardware εξίσου ισχυρό με τον ανθρώπινο εγκέφαλο, είναι μάλλον ανόητο να σκεφτόμαστε ότι μπορούμε να δημιουργήσουμε νοημοσύνη αντίστοιχη (ή μεγαλύτερη) του ανθρώπου. (Υπάρχει η απόμακρη πιθανότητα ότι θα μπορούσαμε να κατασκευάσουμε κάτι ανάλογο του ανθρώπου με λιγότερο ισχυρό hardware, εάν θα είμαστε πρόθυμοι να εγκαταλείψουμε την ταχύτητα, εάν δηλαδή θα θέλαμε να συμβιβαστούμε με ένα τεχνητό ον που θα ήταν κυριολεκτικά αργό[30].Αλλά είναι πολύ πιθανότερο ότι η κατάστρωση του λογισμικού θα είναι περίπλοκη διαδικασία, με λάθος ξεκινήματα και πολλούς πειραματισμούς. Εάν όντως έτσι έχουν τα πράγματα, τότε η έλευση των συνειδητών μηχανών δεν θα συμβεί παρά μόνο μετά την ανάπτυξη hardware που θα είναι αξιόλογα πιο ισχυρό από τον φυσικό εξοπλισμό του ανθρώπου).
Αλλά όσο περνάει ο καιρός, θα βλέπουμε περισσότερα συμπτώματα. Το δίλημμα που ένιωσαν οι συγγραφείς επιστημονικής φαντασίας θα γίνει αντιληπτό και σε άλλες δημιουργικές ενασχολήσεις. (Εχω ακούσει σοβαρούς συγγραφείς βιβλίων κόμικ να ανησυχούν για το πώς να έχουν εντυπωσιακά εφέ όταν οτιδήποτε ορατό μπορεί να παραχθεί από καθημερινές πια τεχνολογίες). Θα δούμε τον αυτοματισμό να υποκαθιστά δουλειές όλο και πιο υψηλού επιπέδου. Εχουμε ήδη στα χέρια μας εργαλεία (προγράμματα συμβολικών μαθηματικών και προγράμματα σχεδιασμού και μοντελοποίησης) που μας απελευθερώνουν από τις πιο ταπεινές χαμαλοδουλειές.΄Η, για να το θέσω με άλλο τρόπο, η δουλειά που είναι πραγματικά παραγωγική είναι ο χώρος μιας σταθερά όλο και μικρότερης ελίτ της ανθρωπότητας. Στην έλευση της Μοναδικότητας, βλέπουμε να γίνεται τελικά πραγματικότητα η πρόβλεψη μιαςαληθινήςτεχνολογικής ανεργίας
Ενα άλλο σύμπτωμα του ότι προχωράμε προς τη Μοναδικότητα: Οι ιδέες οι ίδιες εξαπλώνονται πολύ ταχύτερα, αλλά ακόμα και οι πιο ριζοσπαστικές σύντομα γίνονται κοινοτοπίες. Οταν άρχισα να γράφω επιστημονική φαντασία στα μέσα της δεκαετίας του '60, φαινόταν πολύ εύκολο να βρεις ιδέες που χρειάζονταν δεκαετίες για να διεισδύσουν στη συνείδηση της κοινωνίας. Τώρα ο χρόνος προπόρευσης φαίνεται να είναι μάλλον δεκαοκτώ μήνες. (Βεβαίως, αυτό θα μπορούσε απλώς να οφείλεται στο γεγονός ότι χάνω τη φαντασία μου όσο γερνάω, αλλά βλέπω να γίνεται το ίδιο και με άλλους). Οπως το σοκ σε ένα συμπιεστό ρευστό, η Μοναδικότητα έρχεται πιο κοντά μας καθώς η επιτάχυνσή μας υπερβαίνει την κρίσιμη ταχύτητα.
Και τί γίνεται με την έλευση της ίδιας της Μοναδικότητας; Τί μπορούμε να πούμε για την ίδια της την εμφάνιση; Εφ' όσον περιλαμβάνει μια αχαλίνωτη νοημοσύνη, κατά πάσα πιθανότητα θα συμβεί ταχύτερα από οποιαδήποτε τεχνική επανάσταση μέχρι σήμερα. Το αιφνίδιο γεγονός μάλλον θα συμβεί αναπάντεχα -- ίσως ακόμα και για τους ίδιους τους ερευνητές του. ("Μα όλα τα προηγούμενα μοντέλα μας ήταν κατατονικά. Τώρα, απλώς πειράξαμε κάποιες παραμέτρους..."). Εάν η δικτύωση είναι αρκετά εκτεταμένη (σε πανταχού παρόντα ενσωματωμένα συστήματα), θα φανεί σα να ξύπνησαν ξαφνικά όλα μας τα επινοήματα.
Και τί θα συμβεί ένα ή δύο μήνες (ή μια ή δύο μέρες) μετά απ' αυτό; Το μόνο που μπορώ να δείξω είναι μια αναλογία: Την εμφάνιση της ανθρωπότητας. Θα βρεθούμε στην μετανθρώπινη περίοδο. Και παρά την έξαλλη τεχνολογική μου αισιοδοξία, καμιά φορά σκέφτομαι ότι θα ήταν πολύ καλύτερο να έβλεπα τα υπερβατικά αυτά γεγονότα απ' την απόσταση χιλίων χρόνων και όχι τριάντα.
Ε, λοιπόν, μπορεί και να μη συμβεί καθόλου... Καμιά φορά προσπαθώ να φανταστώ τα συμπτώματα που θα 'πρεπε να αναμένουμε εάν δεν εμφανιστεί η Μοναδικότητα. Υπάρχουν τα ευρέως αποδεκτά επιχειρήματα του Penrose[19]και του Searle[22]εναντίον της πιθανότητας της μηχανικής νοημοσύνης. Τον Αύγουστο του 1992, η Thinking Machines Corporation διοργάνωσε ένα συνέδριο για να εξεταστεί το ερώτημα "Πώς θα κατασκευάσουμε μια μηχανή που σκέφτεται"[27].Οπως θα υποθέσατε από τον τίτλο του συνεδρίου, οι συμμετέχοντες δεν ήταν υποστηρικτές των επιχειρημάτων εναντίον της μηχανικής νοημοσύνης. Μάλιστα, υπήρχε η γενική συμφωνία ότι νους μπορεί να υπάρχει και σε μη-βιολογικά υποστρώματα και ότι οι αλγόριθμοι είναι αυτοί που έχουν κεντρική σημασία για την ύπαρξή του. Υπήρξαν εντούτοις πολλές διαφωνίες ως προς το πόση καθαρή υπολογιστική δύναμη υπάρχει στους βιολογικούς εγκεφάλους. Μια μειοψηφία πίστευε ότι οι μεγαλύτεροι κομπιούτερ του 1992 βρίσκονταν σε απόσταση τριών τάξεων μεγέθους από τη δύναμη του ανθρώπινου εγκεφάλου. Η πλειοψηφία όμως των παρόντων συμφωνούσε με την εκτίμηση του Moravec[17]ότι απέχουμε δέκα έως σαράντα χρόνια από μια υπολογιστική ισοτιμία. Αλλά υπήρχε και μια ακόμα μειοψηφία που ανέφερε τους Conrad[7]και Rasmussen[21]και πιθανολογούσε ότι η υπολογιστική ικανότητα των μεμονωμένων νευρώνων μπορεί να είναι κατά πολύ μεγαλύτερη απ' ό,τι γενικά πιστεύεται. Αν συμβαίνει αυτό, η υπολογιστική δύναμη των σημερινών κομπιούτερ μπορεί να απέχει μέχρι καιδέκατάξεις μεγέθους από τον εξοπλισμό που κουβαλάμε στο κεφάλι μας. Αν αυτό αληθεύει (ή, πράγμα που οδηγεί στο ίδιο σημείο, αν η κριτική του Penrose ή του Searle είναι βάσιμη), μπορεί να μην δούμε ποτέ τη Μοναδικότητα. Αντίθετα στις αρχές της δεκαετίας του '00 θα διαπιστώσουμε ότι η καμπύλη απόδοσης των κομπιούτερ μας αρχίζει να γίνεται επίπεδη -- κι αυτό λόγω της αδυναμίας μας να αυτοματοποιήσουμε τη σχεδιαστική εργασία που χρειάζεται για την υποστήριξη περαιτέρω βελτιώσεων στα μηχανήματα. Θα καταλήξουμε με κάποιοπολύδυνατό hardware, αλλά χωρίς την ικανότητα να πάμε παραπέρα. Η εμπορική ψηφιακή επεξεργασία σημάτων μπορεί να είναι τρομερή και να φτάνει να δίνει ακόμα και την εντύπωση αναλογικών λειτουργιών στις ψηφιακές, αλλά τίποτα δεν θα "ξυπνήσει" ποτέ και δεν θα υπάρξει ποτέ η αχαλίνωτη νοημοσύνη που είναι η ουσία της Μοναδικότητας. Μπορεί να φαίνεται σαν ένας Χρυσός Αιώνας, αλλά θα είναι και το τέλος της προόδου. Αυτό μοιάζει πολύ με το μέλλον που έχει προβλέψει ο Gunther Stent. Μάλιστα, στη σελίδα 137 του[25], ο Stent ρητά αναφέρει την ανάπτυξη της μετανθρώπινης νοημοσύνης σαν αναγκαία συνθήκη για την ακύρωση των προβλέψεών του.
Αλλά εάν η τεχνολογική Μοναδικότητα μπορεί να συμβεί, τότε θα συμβεί. Ακόμα και αν όλες οι κυβερνήσεις του κόσμου μπορούσαν να καταλάβουν την "απειλή", ακόμα και αν είχαν θανάσιμο φόβο γι' αυτή, η πρόοδος προς αυτό το σκοπό θα συνεχιζόταν. Στη λογοτεχνία, έχουν υπάρξει ιστορίες νόμων που απαγορεύουν την κατασκευή "μηχανών που μοιάζουν με τον ανθρώπινο νου"[13]. Στην πραγματικότητα, τα ανταγωνιστικά οφέλη -- οικονομικά, στρατιωτικά, ακόμα και καλλιτεχνικά -- κάθε προόδου στον αυτοματισμό είναι τόσο πειθαναγκαστικά που η ψήφιση νόμων ή η ύπαρξη εθίμων που απαγορεύουν τέτοια πράγματα απλώς κάνει βέβαιο ότι κάποιος άλλος θα τα αποκτήσει πρώτος.
Ο Eric Drexler[8]μας έχει προσφέρει μια εντυπωσιακή ενόραση για το πόσο μακριά μπορούν να φτάσουν οι τεχνικές εξελίξεις. Υποστηρίζει ότι όντα με υπερανθρώπινη νοημοσύνη θα υπάρξουν στο κοντινό μέλλον και ότι τέτοια όντα αποτελούν απειλή για το ανθρώπινο status quo. Αλλά ο Drexler ισχυρίζεται ότι μπορούμε να περιορίσουμε τέτοια όντα ούτως ώστε οι συνέπειές τους να μπορούν να εξεταστούν και να χρησιμοποιηθούν με ασφάλεια. Πρόκειται για την υπερνοήμονα μηχανή του I. J. Good, με μια δόση επιφυλακτικότητας. Εγώ υποστηρίζω ότι ο περιορισμός αυτός είναι πρακτικά ανέφικτος. Ας πάρουμε την περίπτωση του φυσικού περιορισμού: Φαντασθείτε τον εαυτό σας κλειδωμένο στο σπίτι με περιορισμένη μόνο πρόσβαση στα δεδομένα του εξωτερικού κόσμου, τους αφέντες σας. Αν οι αφέντες αυτοί σκέφτονται, ας πούμε, ένα εκατομμύριο φορές βραδύτερα από εσάς, πολύ μικρή αμφιβολία υπάρχει ότι με την πάροδο μερικών ετών (δικών σας) θα καταλήγατε σε μερικές "χρήσιμες συμβουλές" που θα σας απελευθέρωναν. (Ονομάζω αυτή την "ταχείας σκέψης" μορφή υπερνοημοσύνης "ασθενή υπερανθρωπότητα". Ενα τέτοιο "ασθενές" υπερανθρώπινο ον πιθανότατα θα καεί σε λίγες εβδομάδες εξωτερικού χρόνου. Η "ισχυρή υπερανθρωπότητα" θα ήταν κάτι περισσότερο από το να επιταχύνει κανείς την ταχύτητα του ρολογιού σε ένα νου ισότιμο με τον ανθρώπινο. Είναι δύσκολο να δει κανείς ακριβώς πώς θα ήταν η "ισχυρή υπερανθρωπότητα", αλλά οι διαφορές φαίνονται βαθιές. Φαντασθείτε ότι τρέχετε ένα σκυλίσιο νου σε πολύ μεγάλες ταχύτητες. Θα μπορούσαν χίλια χρόνια σκυλίσιας ζωής να προσφέρουν μια ανθρώπινη ενόραση; Βέβαια, αν ο σκυλίσιος νους καλωδιωνόταν έξυπνα καιμετάέτρεχε σε μεγάλες ταχύτητες, τότε μπορεί να βλέπαμε κάτι διαφορετικό... Πολλές υποθέσεις για την υπερνοημοσύνη φαίνεται να βασίζονται στο μοντέλο της ασθενούς υπερανθρωπότητας. Πιστεύω όμως ότι πολύ καλύτερες υποθέσεις για τον μετά τη Μοναδικότητα κόσμο μπορούν να εξασφαλιστούν αν σκεφτούμε τη φύση της ισχυρής υπερανθρωπότητας. Θα επανέλθω σ' αυτό το ζήτημα παρακάτω).
Μια άλλη προσέγγιση στον περιορισμό είναι να χτίσειςκανόνεςστον νου της δημιουργημένης υπερανθρώπινης οντότητας (παραδείγματος χάρη, οι νόμοι τουAsimov[3]). Πιστεύω όμως ότι οποιοιδήποτε κανόνες, αρκετά αυστηροί για είναι αποτελεσματικοί, θα οδηγήσουν σε ένα επινόημα που η ικανότητά του θα είναι φανερά κατώτερη από την αδέσμευτη έκδοσή του (και γι' αυτό ο ανθρώπινος ανταγωνισμός θα προτιμήσει την ανάπτυξη των πιο επικίνδυνων μοντέλων). Παρ' όλα αυτά, το όνειρο του Asimov είναι υπέροχο: Φαντασθείτε έναν εθελοντή σκλάβο που θα μπορούσε να ικανοποιεί κάθε ασφαλή επιθυμία σας (οτιδήποτε και αν σημαίνει αυτό) και παρ' όλα αυτά να έχει το 99,9% του χρόνου του ελεύθερο για άλλες δραστηριότητες. Θα επρόκειτο για ένα νέο σύμπαν, το οποίο στην πραγματικότητα δεν θα το καταλαβαίναμε, αλλά θα ήταν γεμάτο καλοκάγαθους θεούς (αν και μια από τιςδικές μουεπιθυμίες θα ήταν να γίνω ένας από αυτούς).
Αν η Μοναδικότητα δεν μπορεί να προληφθεί ή να περιοριστεί, τότε πόσο άσχημη θα μπορούσε να είναι η μετανθρώπινη περίοδος; Μάλλον πολύ άσχημη. Η φυσική εξαφάνιση του ανθρώπινου είδους είναι μια πιθανότητα. (΄Η όπως το θέτει για τη νανοτεχνολογία ο Eric Drexler: Με δεδομένο το τι μπορεί να κάνει μια τέτοια τεχνολογία, ίσως οι κυβερνήσεις να αποφασίσουν απλώς ότι δεν χρειάζονται πια πολίτες!) Εντούτοις, η φυσική εξάλειψη μπορεί να μην είναι η πιο τρομαχτική πιθανότητα. Ας κάνουμε αναλογίες πάλι: Σκεφθείτε τις ποικίλες μορφές της σχέσης μας με τα ζώα. Μερικές από τις πιο σκληρές μορφές κακομεταχείρισης φαίνονται απίθανες, αλλά παρ' όλα αυτά... Σε ένα μετανθρώπινο κόσμο, θα υπάρχουν ακόμα πολλές γωνιές όπου ο ανάλογος του ανθρώπου αυτοματισμός θα είναι επιθυμητός: Ενσωματωμένα συστήματα σε αυτόματα επινοήματα, δαίμονες με αυτοσυνείδηση στις κατώτερες λειτουργίες ευρύτερων νοημόνων όντων. (Μια ισχυρά υπερανθρώπινη νοημοσύνη θα ήταν κατά πάσα πιθανότητα μια Κοινωνία του Νου[16]με μερικά πολύ ικανά συστατικά). Μερικά από αυτά τα ανάλογα του ανθρώπου στοιχεία δεν θα μπορούσαν να χρησιμοποιούνται για τίποτα περισσότερο από ψηφιακή επεξεργασία σημάτων. Θα ήταν περισσότερο σαν φάλαινες παρά σαν άνθρωποι. ΄Αλλα θα μπορούσαν να μοιάζουν πολύ με τον άνθρωπο, αλλά θα ήταν μονόπλευρα, με μιααφοσίωσηπου σήμερα θα τα έστελνε στο ψυχιατρείο της περιοχής σας. Αν και κανένα από αυτά τα πλάσματα μάλλον δεν θα ήταν άνθρωποι από σάρκα και οστά, στο νέο αυτό περιβάλλον θα ήταν το πλησιέστερο σ' αυτό που αποκαλούμε άνθρωπο σήμερα. (Ο I. J. Good έχει κάτι να πει γι' αυτό, αν και τώρα πια η συμβουλή του ακούγεται ακαδημαϊκή. Ο Good έχει προτείνει τον "Μετα-Χρυσό Κανόνα"[12],που θα μπορούσαμε να τον παραφράσουμε ως εξής: "Μεταχειρίσου τους κατωτέρους σου όπως θα ήθελες να σε μεταχειρίζονται οι ανώτεροί σου". Πρόκειται για μια υπέροχη παραδοξολογία, που οι περισσότεροι φίλοι μου δεν την πιστεύουν, ακριβώς επειδή τα αποτελέσματα της θεωρίας των παιγνίων είναι τόσο δύσκολο να διατυπωθούν. Αν μπορούσαμε όμως να ακολουθήσουμε αυτό τον κανόνα, κατά κάποιο τρόπο αυτό θα έλεγε κάτι για την αληθοφάνεια μιας τέτοιας καλωσύνης σ' αυτό το σύμπαν).
Υποστήριξα παραπάνω ότι δεν μπορούμε να αποτρέψουμε τη Μοναδικότητα, ότι η έλευσή της είναι μια αναπόφευκτη συνέπεια της φυσικής ανταγωνιστικότητας του ανθρώπου και των δυνατοτήτων που είναι εγγενείς στην τεχνολογία. Παρ' όλα αυτά, εμείς είμαστε οι υποκινητές της. Ακόμα και η μεγαλύτερη χιονοστιβάδα πυροδοτείται από μικρά πράγματα. Εχουμε την ελευθερία να επιβάλουμε τις αρχικές συνθήκες, να κάνουμε τα πράγματα να συμβούν με τρόπους λιγότερο επικίνδυνους από άλλους. Βεβαίως, όπως συμβαίνει με το ξεκίνημα της χιονοστιβάδας, μπορεί να μην είναι σαφές το ποιό είναι το σωστό εναρκτήριο λάκτισμα.
Οταν οι άνθρωποι μιλάνε για τη δημιουργία υπερανθρώπινα νοημόνων όντων, φαντάζονται συνήθως ένα πρόγραμμα Τεχνητής Νοημοσύνης. Αλλά όπως σημείωσα στην αρχή αυτού του κειμένου, υπάρχουν και άλλοι δρόμοι για την υπερανθρωπότητα. Τα δίκτυα κομπιούτερ και οι συνεπαφές ανθρώπου-κομπιούτερ φαίνονται πιο γήινα πράγματα από την Τεχνητή Νοημοσύνη, αλλά παρ' όλα αυτά θα μπορούσαν να οδηγήσουν στη Μοναδικότητα. Αποκαλώ την αντιθετική αυτή προσέγγιση Ενισχυμένη Νοημοσύνη. Πρόκειται για κάτι που αναπτύσσεται πολύ φυσιολογικά και στις περισσότερες περιπτώσεις ούτε καν αυτοί που το αναπτύσσουν δεν καταλαβαίνουν τι είναι. Αλλά κάθε φορά που η ικανότητά μας να βρίσκουμε πληροφορίες και να τις επικοινωνούμε με τους άλλους βελτιώνεται, κατά κάποιο τρόπο έχουμε εξασφαλίσει μια αύξηση της φυσικής μας νοημοσύνης. Ακόμα και σήμερα, ένα team από έναν άνθρωπο με διδακτορικό και έναν καλό κομπιούτερ (έστω και εκτός δικτύου!) θα μπορούσε πιθανότατα να περάσει εξ ολοκλήρου οποιοδήποτε από τα τεστ νοημοσύνης που έχουν καταστρωθεί μέχρι τώρα.
Και είναι πολύ πιθανό ότι η Ενισχυμένη Νοημοσύνη είναι ένας πολύ ευκολότερος δρόμος από την Τεχνητή Νοημοσύνη για την επίτευξη της υπερανθρωπότητας. Στους ανθρώπους, τα δυσκολότερα προβλήματα ανάπτυξης είναι ήδη λυμένα. Η οικοδόμηση μέσα από τον εαυτό μας μάλλον είναι ευκολότερη από το να βρούμε πρώτα το τι πραγματικά είμαστε και ύστερα να κατασκευάσουμε μηχανές που θα το φέρουν. Υπάρχει τουλάχιστον και ένα πιθανολογικό προηγούμενο σ' αυτή την προσέγγιση. Ο Cairns-Smith[6]εικάζει ότι η βιολογική ζωή ίσως ξεκίνησε σαν παρελκόμενο σε μια ακόμα πιο πρωτόγονη μορφή ζωής που βασιζόταν σε κρυσταλλικές συνθέσεις. Η Lynn Margulis (στο[15]και αλλού) έχει υποστηρίξει με ισχυρά επιχειρήματα ότι η αμοιβαιότητα είναι μια μεγάλη κινητήρια δύναμη στη βιολογία.
Ας σημειωθεί ότι δεν προτείνω να αγνοηθεί η έρευνα για την Τεχνητή Νοημοσύνη ή να περιοριστεί η χρηματοδότησή της. Ο,τι ανακαλύπτεται για την Τεχνητή Νοημοσύνη, πολλές φορές θα έχει εφαρμογή και στην Ενισχυμένη Νοημοσύνη και το αντίστροφο. Αυτό που συνιστώ είναι να αναγνωρίσουμε ότι στην έρευνα για δίκτυα και συνεπαφές υπάρχει κάτι εξίσου σημαντικό (και δυνητικά ανεξέλεγκτο) με την Τεχνητή Νοημοσύνη. Με τη σκέψη αυτή, πρέπει να δώσουμε προσοχή σε προγράμματα που δεν έχουν άμεση εφαρμογή στο συμβατικό έργο σχεδιασμού δικτύων και συνεπαφών, αλλά που μας βοηθούν να προχωρήσουμε προς τη Μοναδικότητα ακολουθώντας τον δρόμο της Ενισχυμένης Νοημοσύνης.
Ιδού μερικά πιθανά προγράμματα που αποκτούν ιδιαίτερη σημασία αν τα δούμε υπό το φως της Ενισχυμένης Νοημοσύνης:
- Αυτοματισμός ομάδων ανθρώπων-κομπιούτερ: Ας πάρουμε προβλήματα που κανονικά αντιμετωπίζονται μόνο με μηχανές κι ας σχεδιάσουμε προγράμματα και συνεπαφές που εκμεταλλεύονται την ανθρώπινη έμπνευση και το υπάρχον hardware κομπιούτερ. Κατ' αυτό τον τρόπο θα δημιουργηθούν αρκετά πολύ ενδιαφέροντα εργαλεία παρουσίασης και ελέγχου για τα ανθρώπινα μέλη των ομάδων.
- Ανάπτυξη της συμβίωσης ανθρώπου και κομπιούτερ στην τέχνη: Μπορούμε να συνδυάσουμε τις γραφικές ικανότητες των μοντέρνων μηχανών με την ανθρώπινη αισθητική και ευαισθησία. Βεβαίως, ήδη έχει πραγματοποιηθεί ένας τεράστιος όγκος έρευνας για τον σχεδιασμό βοηθημάτων κομπιούτερ για καλλιτέχνες, προς εξοικονόμηση χρόνου. Αυτό που συνιστώ είναι να επιδιώξουμε ρητά τον μεγαλύτερο συνδυασμό των εκατέρωθεν ικανοτήτων, να αναγνωρίσουμε ρητά ότι είναι δυνατή αυτή η προσέγγιση συνεργασίας. Ο Karl Sims[23]έχει ήδη κάνει έξοχη δουλειά προς αυτή την κατεύθυνση.
- Να επιτρέψουμε team ανθρώπου-κομπιούτερ σε αγώνες σκακιού: Εχουμε ήδη προγράμματα που μπορούν να παίζουν καλύτερα από οποιονδήποτε σχεδόν άνθρωπο. Αλλά πόση δουλειά έχει γίνει για το πώς αυτή η δύναμη θα μπορούσε να χρησιμοποιηθεί από τον άνθρωπο, για να βγει κάτι ακόμα καλύτερο; Αν επιτραπούν τέτοια team σε μερικούς τουλάχιστον αγώνες σκακιού, θα έχουν για την έρευνα της Ενισχυμένης Νοημοσύνης τον ίδιο θετικό αντίκτυπο που είχε για την Τεχνητή Νοημοσύνη η συμμετοχή κομπιούτερ σε τέτοιους αγώνες.
- Ανάπτυξη συνεπαφών που επιτρέπουν πρόσβαση σε κομπιούτερ και δίκτυα χωρίς να απαιτείται να καθηλώνεται ο άνθρωπος σε ένα σημείο, καθισμένος μπροστά από ένα κομπιούτερ. (Πρόκειται για μια πλευρά της Ενισχυμένης Νοημοσύνης που συνδυάζεται τόσο καλά με γνωστά οικονομικά πλεονεκτήματα ώστε ήδη έχουν γίνει μεγάλες προσπάθειας προς αυτή την κατεύθυνση).
- Ανάπτυξη πιο συμμετρικών συστημάτων υποστήριξης αποφάσεων: Μια πολύ δημοφιλής περιοχή έρευνας / προϊόντων τα τελευταία χρόνια είναι τα συστήματα υποστήριξης αποφάσεων. Πρόκειται για μια μορφή Ενισχυμένης Νοημοσύνης, αλλά μάλλον επικεντρώνεται σε συστήματα που είναι χρησμοδοτικά. Στον ίδιο βαθμό που το πρόγραμμα δίνει στον χρήστη πληροφορίες, θα πρέπει να προωθηθεί και η ιδέα να δίνει και ο χρήστης καθοδήγηση στο πρόγραμμα.
- Χρήση τοπικών δικτύων για τη δημιουργία ανθρώπινων ομάδων που πραγματικά αποδίδουν (δηλαδή, είναι πιο αποτελεσματικές από το άθροισμα των μεμονωμένων μελών τους). Πρόκειται βέβαια για την περιοχή που αποκαλούμε "groupware", ένα τομέα ήδη πολύ δημοφιλή από εμπορικής πλευράς. Η νέα αντίληψη εδώ θα πρέπει να βλέπει την ομαδική δραστηριότητα σαν ένα συνδυασμένο οργανισμό. Κατά μια έννοια, η υπόδειξη αυτή θα πρέπει να θεωρηθεί πως συνιστά τη διατύπωση μιας "Ημερήσιας Διάταξης" για τέτοιες συνδυασμένες δραστηριότητες. Παραδείγματος χάρη, η εστίαση της ομάδας θα μπορεί να διατηρείται ευκολότερα απ' ό,τι στις κλασικές συσκέψεις. Η ειδικευμένη ικανότητα των επιμέρους μελών της ομάδας θα είναι δυνατόν να αποδεσμεύεται από ζητήματα εγωισμού ούτως ώστε η συνεισφορά των διάφορων μελών να εστιάζεται στο αντικείμενο της ομάδας. Και βεβαίως οι κοινές βάσεις δεδομένων θα μπορούν να χρησιμοποιούνται πιο εύκολα απ' ό,τι στη λειτουργία συμβατικών επιτροπών. (Αξίζει να σημειωθεί ότι η υπόδειξη αυτή αφορά ομαδικές δραστηριότητες μάλλον παρά πολιτικές συναντήσεις. Σε ένα πολιτικό περιβάλλον, ο παραπάνω αυτοματισμός θα ενίσχυε απλώς την εξουσία των ατόμων που θέτουν τους κανόνες!)
- Εκμετάλλευση του παγκόσμιου Διαδικτύου σαν εργαλείο συνδυασμού ανθρώπου και μηχανής. Σε σχέση με τα υπόλοιπα θέματα αυτού του καταλόγου, η πρόοδος στο Internet είναι ταχύτατη και μπορεί να μας οδηγήσει στη Μοναδικότητα πριν από οτιδήποτε άλλο. Η δύναμη και η επιρροή ακόμα και του σημερινού Internet υποτιμάται πολύ. Παραδείγματος χάρη, πιστεύω ότι τα σημερινά συστήματά μας κομπιούτερ θα είχαν καταρρεύσει υπό το βάρος της ίδιας τους της πολυπλοκότητας αν δεν υπήρχε το πλεονέκτημα που προσφέρει ο "ομαδικός νους" του USENET στους διαχειριστές συστημάτων και στους τεχνικούς της υποστήριξης. Η ίδια η αναρχία της ανάπτυξης του παγκόσμιου δικτύου είναι απόδειξη των δυνατοτήτων του. Οσο η δυνατότητα διασύνδεσης, το μέγεθος των αρχείων και η ταχύτητα των κομπιούτερ αυξάνονται, βλέπουμα κάτι σαν την αντίληψη της Lynn Margulis[15]για τη βιόσφαιρα ως επεξεργαστή δεδομένων, αλλά ένα εκατομμύριο φορές ταχύτερο και με εκατομμύρια νοήμονες φορείς (εμάς τους ίδιους).
Τα παραπάνω παραδείγματα εικονογραφούν μια έρευνα που μπορεί να γίνει μέσα στα πλαίσια των σημερινών σχολών της επιστήμης των κομπιούτερ. Υπάρχουν όμως και άλλα παραδείγματα. Λόγου χάρη, ένα μεγάλο μέρος της έρευνας για την Τεχνητή Νοημοσύνη και τα νευρικά δίκτυα θα μπορούσε να ωφεληθεί από τη στενότερη σχέση με τις βιολογικές επιστήμες. Αντί να προσπαθεί απλά να μοντελοποιήσει και να καταλάβει τη βιολογική ζωή μέσω των κομπιούτερ, η έρευνα θα μπορούσε να στραφεί στη δημιουργία σύνθετων συστημάτων που βασίζονται στη βιολογική ζωή για καθοδήγηση ή εξασφάλιση χαρακτηριστικών που δεν τα κατανοούμε καλά ακόμα, για εφαρμογή στο hardware. Ενα παλιό όνειρο της επιστημονικής φαντασίας ήταν η άμεση συνεπαφή του ανθρώπινου εγκεφάλου με τον κομπιούτερ[2],[29]. Ηδη υπάρχει χειροπιαστή δουλειά που μπορεί να γίνει (και γίνεται) στον τομέα αυτό:
- Τα τεχνητά μέλη είναι ένα θέμα με άμεση εμπορική εφαρμογή. Ηδη μπορούν να κατασκευαστούν διατάξεις μετατροπής νεύρων προς πυρίτιο[14]. Πρόκειται για ένα εντυπωσιακό και άμεσο βήμα προς την άμεση επικοινωνία.
- Οι κατευθείαν σύνδεσμοι στον εγκέφαλο φαίνονται εφικτοί, εάν η ροή δεδομένων είναι χαμηλή. Με δεδομένη την ανθρώπινη προσαρμοστικότητα στη μάθηση, ίσως δεν θα χρειάζεται να εντοπίζονται επακριβώς οι κατάλληλοι νευρώνες. Ακόμα και 100 bits το δευτερόλεπτο θα είναι πολύ χρήσιμα στα θύματα των εγκεφαλικών, τα οποία διαφορετικά θα παρέμεναν καθηλωμένα σε συνεπαφές βασισμένες σε μενού.
- Η διασύνδεση με το οπτικό νεύρο έχει τη δυνατότητα για εύρος φάσματος 1 Mbit / δευτερόλεπτο περίπου. Αλλά για να γίνει αυτό, θα χρειαστεί να ξέρουμε τη λεπτεπίλεπτη αρχιτεκτονική της όρασης και να τοποθετούμε ένα πελώριο δίκτυο ηλεκτροδίων με απόλυτη ακρίβεια. Εάν θέλουμε η ευρέος φάσματος σύνδεσή μας να είναιεπιπρόσθετηστους διαύλους που υπάρχουν ήδη στον εγκέφαλο, το πρόβλημα γίνεται πολύ πιο δυσεπίλυτο. Η απλή προσαρμογή ενός πλέγματος δεκτών ευρέος φάσματος στον εγκέφαλο σίγουρα δεν έχει αποτέλεσμα. Τί θα γινόταν όμως εάν αυτό το ευρέος φάσματος πλέγμα ήταν παρόν την ώρα που η δομή του εγκεφάλου διαμορφωνόταν κατά τη διάρκεια της ανάπτυξης του εμβρύου; Κι αυτό οδηγεί σε:
- Πειράματα σε έμβρυα ζώων. Δεν περιμένω οποιαδήποτε επιτυχία τα πρώτα χρόνια της έρευνας για την Ενισχυμένη Νοημοσύνη, αλλά το να δώσουμε σε αναπτυσσόμενους εγκεφάλους πρόσβαση σε πολύπλοκες προσομοιωμένες νευρικές δομές μάλλον θα είναι πολύ ενδιαφέρον για όσους μελετούν το πώς αναπτύσσεται ο εμβρυικός εγκέφαλος. Μακροπρόθεσμα, τέτοια πειράματα μπορεί να δώσουν ζώα με επιπλέον αισθήσεις και ενδιαφέρουσες διανοητικές ικανότητες.
Αρχικά, ήλπιζα ότι αυτή η συζήτηση για την Ενισχυμένη Νοημοσύνη θα μπορούσε να προσφέρει κάποιες φανερά ασφαλέστερες προσεγγίσεις στη Μοναδικότητα. (Στο κάτω κάτω της γραφής, η Ενισχυμένη Νοημοσύνη επιτρέπει τη συμμετοχή μας σε ένα είδος υπερβατικότητας). Δυστυχώς, ξαναβλέποντας όλες αυτές τις προτάσεις για Ενισχυμένη Νοημοσύνη, το μόνο για το οποίο είμαι βέβαιος είναι πως πρέπει να τις σκεφτούμε, πως ενδεχομένως μας δίνουν κάποιες ευκαιρίες. Αλλά από πλευράς ασφάλειας... Δεν ξέρω, αλλά μερικές από τις υποδείξεις μου είναι λίγο τρομαχτικές από τη φύση τους. Ενας από τους φίλους που τις διάβασαν παρατήρησε ότι η Ενισχυμένη Νοημοσύνη σε άτομα δημιουργεί μια μάλλον απειλητική ελίτ. Εμείς, οι άνθρωποι, διαθέτουμε εξελικτικές αποσκευές εκατομμυρίων χρόνων κι αυτό μας κάνει να αντιμετωπίζουμε τον ανταγωνισμό υπό ένα φονικό φως. Το μεγαλύτερο μέρος αυτής της φονικότητας ίσως δεν είναι αναγκαίο στον σημερινό κόσμο, όπου ακόμα και οι ηττημένοι μαθαίνουν τα τρυκ των νικητών και εντάσσονται στο σύστημά τους. Ενα πλάσμα που θα κατασκευαζότανde novoμάλλον θα μπορούσε να είναι πιο καλοκάγαθο από κάποιο άλλο που ο πυρήνας του βασίζεται στα νύχια και στα δόντια. Ακόμα και η "δημοκρατική" εικόνα ενός Internet που ξυπνάει μαζί με όλη την ανθρωπότητα μπορεί να ειδωθεί σαν εφιάλτης[26].
Το πρόβλημα δεν είναι απλά ότι η Μοναδικότητα σηματοδοτεί την αποχώρηση της ανθρωπότητας από το κέντρο της σκηνής, αλλά ότι αντικρούει τις πιο βαθιά θεμελιωμένες αντιλήψεις μας για την ύπαρξη. Νομίζω ότι μια αναλυτικότερη ματιά στην έννοια της ισχυρής υπερανθρωπότητας μπορεί να μας δείξει το γιατί.
Υποθέστε ότι μπορούμε να καθοδηγήσουμε τη Μοναδικότητα. Υποθέστε ότι μπορούμε να κάνουμε πραγματικότητα ακόμα και τις πιο τρελές μας ελπίδες. Τί θα θέλαμε τότε για μας; Θα θέλαμε εμείς οι ίδιοι οι άνθρωποι να γίνουμε οι διάδοχοί μας και όποια αδικία προκύψει να μπορεί να αντισταθμιστεί από τη γνώση για τις κοινές μας ρίζες. Για όσους θα παραμείνουν αναλλοίωτοι, ο στόχος θα ήταν μια ήπια και ευγενική μεταχείριση (ίσως και να δοθεί σ' αυτούς που θα 'μεναν πίσω η εντύπωση πως είναι οι αφέντες ισοδύναμων με θεούς σκλάβων). Θα ήταν ένας Χρυσός Αιώνας που θα περιλάμβανε και πρόοδο (ας παραβλέψουμε προς στιγμή το φράγμα του Stent). Η αθανασία (ή τουλάχιστον μια διάρκεια ζωής ίση με τον χρόνο που θα κάναμε το σύμπαν να επιβιώνει[10], [4]) θα μπορούσε να εξασφαλιστεί.
Αλλά σ' αυτό τον λαμπρό και υπέροχο κόσμο, τα ίδια τα φιλοσοφικά προβλήματα γίνονται τρομακτικά. Ενας νους που διατηρεί ίδια την ικανότητά του δεν μπορεί να ζει για πάντα. Υστερα από λίγες χιλιάδες χρόνια θα έμοιαζε μάλλον με κασέτα που παίζει συνεχώς τα ίδια και τα ίδια παρά με πρόσωπο. (Η πιο ανατριχιαστική εικόνα που έχω δει γι' αυτό βρίσκεται στο[18]). Για να ζήσει επάπειρον, ο νους πρέπει να αναπτύσσεται. Και όταν γίνει αρκετά μεγάλος και ρίξει πίσω μια ματιά, τί συντροφικά αισθήματα μπορεί να έχει γι' αυτό που ήταν κάποτε; Φυσικά, το μεταγενέστερο ον θα περιέχει εξ ολοκλήρου το αρχικό, αλλά θα είναι και κάτι πολύ πολύ περισσότερο. Ετσι, ακόμα και για το άτομο, συνεχίζουν να ισχύουν οι έννοιες του Cairns-Smith ή της Lynn Margulis για τη νέα ζωή που μεγαλώνει βαθμιαία από την παλιά.
Αυτό το "πρόβλημα" για την αθανασία προκύπτει και με πολύ πιο άμεσους τρόπους. Η έννοια του εγώ και της αυτοσυνείδησης ήταν το θεμέλιο του σκληρού ορθολογισμού των τελευταίων λίγων αιώνων. Τώρα όμως η έννοια της αυτοσυνείδησης δέχεται την επίθεση των ερευνητών της Τεχνητής Νοημοσύνης ("αυτοσυνείδηση και άλλες φρεναπάτες"). Η Ενισχυμένη Νοημοσύνη υπονομεύει την αντίληψή μας για το εγώ από μια άλλη κατεύθυνση. Ο μετά τη Μοναδικότητα κόσμος θα περιλαμβάνει διαδικτύωση εξαιρετικά ευρέος φάσματος. Το κεντρικό χαρακτηριστικό των ισχυρά υπερανθρώπινων όντων θα είναι μάλλον η ικανότητά τους να επικοινωνούν σε μια ποικιλία εύρους φάσματος, ακόμα και πέρα από τον λόγο και τη γραφή. Τί θα συμβεί όταν κομμάτια του εγώ θα μπορούν να αντιγράφονται και να συνδέονται, όταν το μέγεθος μιας αυτοσυνείδησης θα μπορεί να διευρύνεται ή να συρρικνώνεται για να ανταποκριθεί στη φύση των προβλημάτων που εξετάζονται; Οταν τα σκέφτεται αυτά κανείς, αρχίζει να νιώθει πόσο θεμελιακά αλλόκοτη και διαφορετική θα είναι η μετανθρώπινη περίοδος --άσχετα πόσο έξυπνα και ήπια θα επέλθει.
Από τη μια πλευρά, αυτό το όραμα ανταποκρίνεται στα πιο ευτυχισμένα μας όνειρα: Χρόνος χωρίς τέλος, όπου θα μπορούμε να γνωρίσουμε αληθινά ο ένας τον άλλο και να κατανοήσουμε τα πιο μεγάλα μυστήρια. Από την άλλη, μοιάζει πολύ με το σενάριο της χειρότερης έκβασης που φαντάστηκα νωρίτερα σ' αυτό το κείμενο.
Τί μπορούμε να πούμε ότι ισχύει για όλα αυτά; Πραγματικά, πιστεύω ότι η νέα περίοδος θα είναι απλώς τόσο διαφορετική για να ταιριάζει στο κλασικό πλαίσιο του καλού και του κακού. Το πλαίσιο αυτό βασίζεται στην ιδέα απομονωμένων, αναλλοίωτων μυαλών που συνδέονται με ισχνούς συνδέσμους μικρού εύρους φάσματος. Αλλά ο μετά τη Μοναδικότητα κόσμος εντάσσεται στη μεγάλη παράδοση αλλαγής και συνεργασίας που ξεκίνησε πολύ παλιά (ίσως πριν από την έλευση της βιολογικής ζωής). Πιστεύω πως υπάρχουν ηθικές έννοιες που θα είχαν εφαρμογή σε μια τέτοια περίοδο. Η έρευνα της Ενισχυμένης Νοημοσύνης και της επικοινωνίας ευρέος φάσματος θα βοηθούσε στην κατανόησή τους. Σήμερα βλέπουμε απλώς να αχνοφέγγουν[32].Υπάρχει ο Μετα-Χρυσός Κανόνας του Gold. Ισως να υπάρχουν και κανόνες για τη διάκριση του εαυτού από του άλλους βάσει του εύρους φάσματος της σύνδεσης. Και ενώ ο νους και ο εαυτός θα είναι πολύ πιο ευμετάβλητοι απ' ό,τι στο παρελθόν, πολλά από αυτά που σεβόμαστε (γνώση, μνήμη, σκέψη) δεν θα χαθούν ποτέ. Νομίζω ότι ο Freeman Dyson έχει δίκιο όταν λέει[9]: "Ο Θεός είναι αυτό που γίνεται ο νους όταν διαβεί πέρα από την κλίμακα της κατανόησής μας".
(Θα ήθελα να ευχαριστήσω τον John Carroll του Πολιτειακού Πανεπιστημίου του San Diego και τον Howard Davidson της Sun Microsystems που συζήτησαν μαζί μου την αρχική μορφή αυτού του κειμένου).
1. Alfve'n, Hannes, με το ψευδώνυμο Olof Johanneson, The End of Man?, Award Books, 1969 (προηγούμενη έκδοση ως "The Tale of the Big Computer", Coward-McCann).
2. Anderson, Poul, "Kings Who Die", If, March 1962, σσ. 8-36. Ανατυπώθηκε στο Seven Conquests, Poul Anderson, MacMillan Co., 1969.
3. Asimov, Isaac, "Runaround", Astounding Science
Fiction, March 1942, σ. 94. (Ελληνική Έκδοση: «Φαύλος Κύκλος», Εκδόσεις:
Έψιλον,Συλλογή: Εγώ το Ρομπότ, Μετάφραση: Νίκος Παντελέων, και,
«Φαύλος Κύκλος», Εκδόσεις: Κάκτος,Συλλογή: Εγώ το Ρομπότ, Μετάφραση:
Δ. Αποστόλου, 1976).
Ανατυπώθηκε στο Robot Visions, Isaac Asimov, ROC, 1990. Σ' αυτό το βιβλίο ο
Asimov περιγράφει την ανάπτυξη των ιστοριών του με ρομπότ.
4. Barrow, John D. και Frank J. Tipler, The Anthropic Cosmological Principle, Oxford University Press, 1986.
5. Bear, Greg, "Blood Music", Analog Science
Fiction - Science Fact, June, 1983(Ελληνική 'Εκδοση: «Η Μουσική του Αίματος»,
Εκδόσεις: OMMA, '80 Tα Θεμελιακά Πράγματα και Αλλες Ιστορίες, Μετάφραση: Μαρίνα
Λώμη, 1993). Αναπτύχθηκε στο μυθιστόρημα Blood Music, Morrow, 1985 (Ελληνική
Έκδοση: «Η Μουσική του Αίματος», Εκδόσεις: ΟΞΥ / Proxima, Μετάφραση: Βάκυ
Τόμπρου, Επιμέλεια: Ράνια Κατσαρέα, Διεύθυνση Σειράς: Γιάννης Ανδρέου, 1999, ISBN:
960-7614-98-4)
6. Cairns-Smith, A. G., Seven Clues to the Origin of Life, Cambridge
University Press, 1985.
7. Conrad, Michael et al., "Towards an Artificial Brain", BioSystems, τόμος 23, σσ. 175-218, 1989.
8. Drexler, K. Eric, Engines of Creation, Anchor Press/Doubleday, 1986.
9. Dyson, Freeman, Infinite in All Directions, Harper & Row, 1988.
10. Dyson, Freeman, "Physics and Biology in an Open Universe", Review of Modern Physics, τόμος 51, σσ. 447-460, 1979.
11. Good, I. J., "Speculations Concerning the First Ultraintelligent Machine", στο Advances in Computers, τόμος 6, Franz L. Alt και Morris Rubinoff, επιμ., σσ. 31-88, 1965, Academic Press.
12. Good, I. J. (Βοήθεια! Δεν μπορώ να βρώ την πηγή του Μετα - Χρυσού Κανόνα του Good, αν και θυμάμαι καλά ότι τον άκουσα κάποια στιγμή τη δεκαετία του '60. Με τη βοήθεια του Internet, έχω βρει συνδέσμους σε αρκετά σχετικά ζητήματα. Οι G. Harry Stine και Andrew Haley έχουν γράψει για τον μετανόμο όπως θα μπορούσε να σχετίζεται με εξωγήινους: "How to Get along with Extraterrestrials... or Your Neighbor", Analog Science Fact - Science Fiction, Φεβρουάριος, 1980, σσ. 39-47).
13. Herbert, Frank, Dune, Berkley Books, 1985. Το μυθιστόρημα αυτό παρουσιάστηκε σε συνέχειες στο Analog Science Fiction - Science Fact τη δεκαετία του '60.(Ελληνική Έκδοση: «Dune», Εκδόσεις Space, (δύο τόμοι για την ελληνική γλώσσα), Μετάφραση: Γ. Κουσουνέλος, 1991)
14. Kovacs, G. T. A. et al., "Regeneration Microelectrode Array for Peripheral Nerve Recording and Stimulation", IEEE Transactions on Biomedical Engineering, τόμος 39, Νο 9, σσ. 893-902.
15. Margulis, Lynn και Dorion Sagan, Microcosmos, Four Billion Years of Evolution from Our Microbial Ancestors, Summit Books, 1986.
16. Minsky, Marvin, Society of Mind, Simon and Schuster, 1985.
17. Moravec, Hans, Mind Children, Harvard University Press, 1988.
18. Niven, Larry, "The Ethics of Madness", If, Απρίλιος 1967, σσ. 82-108. Ανατυπώθηκε στο Neutron Star, Larry Niven, Ballantine Books, 1968.
19. Penrose, Roger, The Emperor's New Mind, Oxford University Press, 1989.
20. Platt, Charles, Προσωπική επικοινωνία.
21. Rasmussen, S. et al., "Computational Connectionism within Neurons: a Model of Cytoskeletal Automata Subserving Neural Networks", στο Emergent Computation, Stephanie Forrest, επιμ., σσ. 428-449, MIT Press, 1991.
22. Searle, John R., "Minds, Brains, and Programs", στο The Behavioral and Brain Sciences, vol 3, Cambridge University Press, 1980. Το δοκίμιο αυτό ανατυπώθηκε στο The Mind's I, επιμέλεια Douglas R. Hofstadter και Daniel C. Dennett, Basic Books, 1981 (όπου γίνεται η αναφορά μου). Στην ανατύπωση αυτή περιλαμβάνεται μια εξαιρετική κριτική του δοκιμίου του Searle.
23. Sims, Karl, "Interactive Evolution of Dynamical Systems", Thinking Machines Corporation, Technical Report Series (εκδόθηκε στο Toward a Practice of Autonomous Systems: Proceedings of the First European Conference on Artificial Life, Paris, MIT Press, December 1991.
24. Stapledon, Olaf, The Starmaker, Berkley Books, 1937.(Ελληνική Εκδοση: «Ο Κατασκευαστής των Αστρων», Εκδόσεις: Αίολος, Μετάφραση: Βασίλης Καλλιπολίτης, 1991)
25. Stent, Gunther S., The Coming of the Golden Age: A View of the End of Progress, The Natural History Press, 1969.
26. Swanwick Michael, Vacuum Flowers, παρουσιάστηκε σε συνέχειες στο Isaac Asimov's Science Fiction Magazine, Δεκέμβριος(;) 1986 - Φεβρουάριος 1987. Επανεκδόθηκε από τα Ace Books, 1988.
27. Thearling, Kurt, "How We Will Build a Machine that Thinks", συνέδριο στη Thinking Machines Corporation, Αύγουστος 24-26, 1992. Προσωπική επικοινωνία.
28. Ulam, S., Tribute to John von Neumann, Bulletin of the American Mathematical Society, τόμος 64, Νο 3, μέρος 2, Μάιος 1958, σσ. 1-49.
29. Vinge, Vernor, "Bookworm, Run!", Analog, Μάρτιος 1966, σσ. 8-40. Ανατυπώθηκε στο True Names and Other Dangers, Vernor Vinge, Baen Books, 1987.
30. Vinge, Vernor, "True Names", Binary Star Number 5, Dell, 1981. Ανατυπώθηκε στο True Names and Other Dangers, Vernor Vinge, Baen Books, 1987.
31. Vinge, Vernor, "First Word", Omni, Ιανουάριος 1983, σ. 10.
32. Vinge, Vernor, Θα κυκλοφορήσει [ :-) ].