Πριν λίγες ημέρες ανακοινώθηκε από μια σχετικά μικρή κινέζικη εταιρεία ένα νέο “μεγάλο γλωσσικό μοντέλο” (large language model: ο επίσημος τεχνικός ορισμός αυτού που στην καθομιλουμένη λέγεται “τεχνητή νοημοσύνη”), το οποίο ανέτρεψε την μέχρι τώρα πρωτοκαθεδρία των η.π.α στον συγκεκριμένο τομέα. Το deepseek, όπως ονομάζεται, υπερτερεί του chatgpt (και άλλων δυτικών μοντέλων) σε δυνατότητες, σχετικά με την ταχύτητα και την ακρίβεια των απαντήσεων που δίνει, αλλά και σε κόστος, αφού η “εκπαίδευσή” του και η χρήση του κοστίζει το ένα δέκατο των χρημάτων/πόρων που έχουν χρησιμοποιηθεί για τα αντίστοιχα δυτικά μοντέλα. Και το κυριότερο: οι κατασκευαστές του έδωσαν δημόσια τον πηγαίο κώδικα για ελεύθερη χρήση, που σημαίνει ότι όποιος θέλει – και μπορεί – έχει την δυνατότητα να τον πάρει, να του κάνει τις αλλαγές που θέλει και να τον βάλει να “δουλέψει” για λογαριασμό του.
Όπως ήταν αναμενόμενο, αυτό προκάλεσε αναστάτωση στις δυτικές εταιρείες και αγορές και ο λόγος δεν ήταν μόνο η όποια αμφισβήτηση της δυτικής υπεροχής στο τομέα της “τεχνητής νοημοσύνης” σε παγκόσμιο επίπεδο – δεν ήταν δηλαδή απλά μια “στιγμή Sputnik” όπως την χαρακτηρίζουν. Και αυτό γιατί, πέρα από τους απλούς χρήστες και ερευνητές που έχουν πρόσβαση σε μια σχεδόν-δωρεάν και προς το παρόν καλύτερη “τεχνολογία αυτοματοποιημένης γνώσης” είναι και οι εταιρείες που θέλουν να ενσωματώσουν τέτοιες τεχνολογίες στα προϊόντα και τις υπηρεσίες που προσφέρουν και πλέον μπορούν να το κάνουν με εξαιρετικά μικρότερο κόστος. Αυτό κι αν είναι καταστροφή! Όχι μόνο τα data των δυτικών υπηκόων θα πηγαίνουν – και θα τροφοδοτούν – τον κινέζο ανταγωνιστή, αλλά και ένα σημαντικό μέρος του δυτικού κεφαλαίου θα χτιστεί πάνω σε κινέζικη τεχνολογία· και μάλιστα σε έναν από τους τελευταίους τομείς που μέχρι χθες η δύση μπορούσε να περηφανευτεί ότι κρατάει τα σκήπτρα.
Η άμεση επίδραση αυτής της εξέλιξης ήταν η πτώση των δεικτών στις χρηματιστηριακές φούσκες αρκετών δυτικών εταιρειών, με μεγαλύτερη εκείνη της nvidia (της εταιρείας που φτιάχνει τα ειδικά τσιπ που χρησιμοποιούνται για αυτά τα μοντέλα) και η έναρξη μιας επικοινωνιακής αντεπίθεσης για την συγκράτηση αυτής της πτώσης. Τα βασικά επιχειρήματα σε δηλώσεις και διαδικτυακές συζητήσεις επώνυμων και ανώνυμων ήταν μεταξύ άλλων η αμφισβήτηση του κόστους παραγωγής που δηλώνει η κινέζικη εταιρεία, η κατηγορία για αντιγραφή των δυτικών μοντέλων, η θέση ότι ο πραγματικός κερδισμένος είναι η κουλτούρα του “ανοιχτού κώδικα” (και όχι ο κινέζικος καπιταλισμός) και η κριτική περί της λογοκρισίας που έχει υποστεί το εν λόγω μοντέλο σε ευαίσθητα ζητήματα σχετικά με τον αυταρχικό χαρακτήρα του κινέζικου κράτους.
Αυτό το τελευταίο έχει ιδιαίτερη σημασία και ενδιαφέρον, όχι τόσο με την στενή έννοια της λογοκρισίας· τί θα απαντήσει δηλαδή ένα κινέζικο μοντέλο αν το ρωτήσουμε για την Τιενανμέν και ένα δυτικό αν το ρωτήσουμε για το αφγανιστάν. Αυτά, μπορεί να πει κανείς ότι είναι και αυτονόητα… Αλλά περισσότερο με την ευρύτερη έννοια των “αξιών” που δίνουν οι κατασκευαστές στα μοντέλα τους. Μπορεί να ακούγεται κάπως τραβηγμένο, αλλά από την στιγμή που ο στόχος τους είναι η κατασκευή “έξυπνων αλγορίθμων” που θα έχουν μια γενική κατανόηση των πάντων, θα “μαθαίνουν” με αυτόνομο τρόπο και θα ανταποκρίνονται σε μια ευρεία γκάμα προβλημάτων, εκεί ακριβώς εισάγεται και ο προβληματισμός των “αξιών”· πέρα δηλαδή από τα data που θα έχουν ως πληροφορίες και τα μαθηματικά μοντέλα στα οποία θα βασιστεί η “νοημοσύνη” τους, πάνω σε ποιές αξιακές βάσεις θα χτιστεί ο “χαρακτήρας” αυτών των “έξυπνων αλγόριθμων”; Θα είναι οι “δημοκρατικές αξίες της δύσης” ή οι “αυταρχικές αξίες της κίνας” για παράδειγμα; Σχετικές δηλώσεις από επώνυμους “μέντορες” και επιχειρηματίες για το πόσο σημαντικό είναι να καθιερωθεί μια “τεχνητή νοημοσύνη” με τις “δικές μας” αξίες, υπάρχουν άφθονες στο διαδίκτυο.
Θα μπορούσαμε να ξεμπερδέψουμε εύκολα με αυτόν τον προβληματισμό, αναγνωρίζοντάς τον απλά ως ένα μέρος του επικοινωνιακού πολέμου του ενδοκαπιταλιστικού ανταγωνισμού – που είναι και τέτοιος – αν δεν αναδείκνυε και κάτι ακόμα που θεωρούμε ότι αξίζει αναφοράς: την αλληλεπίδραση μεταξύ του “δημιουργού” και του “δημιουργήματος”. Μπορούμε να υποστηρίξουμε ότι κάθε τεχνοεπιστημονική εξέλιξη είναι αποτέλεσμα μιας συγκεκριμένης διαδικασίας που εμπεριέχει τις αξίες του “συστήματος γνώσης” που την δημιούργησε και η οποία στην συνέχεια τροφοδοτεί τις επόμενες, δημιουργώντας μια διαλεκτική σχέση μεταξύ παραγωγών και παραγώμενων. Έτσι, με έναν τρόπο η ιδεολογία του κατασκευαστή ενσωματώνεται στο δημιούργημά του, αλλά και το ίδιο το δημιούργημα (τα προηγούμενα και τα επόμενα με την σειρά τους) αποτελούν σταθερές που διαμορφώνουν την ιδεολογία του κατασκευαστή – και των καταναλωτών του. Για παράδειγμα, η επιθυμία (ιδεολογία) της εκάστοτε εξουσίας για έλεγχο και επιτήρηση είναι η βασική κινητήρια δύναμη που δημιούργησε σχετικές τεχνολογίες (κάμερες, κινητά τηλέφωνα, κοινωνικά δίκτυα κλπ), οι οποίες με την σειρά τους έχουν διαμορφώσει τις συνειδήσεις των επιτηρητών (“σας παρακολουθούμε, σας μετράμε και γνωρίζουμε περισσότερα από εσάς για εσάς”) και των επιτηρούμενων (“μας παρακολουθούν και μας μετράνε, αλλά εντάξει, δεν έχουμε και κάτι να κρύψουμε”).
Στο συγκεκριμένο παράδειγμα δεν μας απασχολεί τόσο το τί συνείδηση θα έχουν οι “έξυπνοι αλγόριθμοι”1, αλλά το τί συνείδηση έχουν όσοι επιθυμούν να δημιουργήσουν τέτοιους. Για την ακρίβεια όσοι επιθυμούν να δημιουργήσουν την λεγόμενη “τεχνητή γενική νοημοσύνη”2, η οποία είναι ο απώτερος στόχος των μοντέλων τύπου chatgpt, deepseek κλπ. Χρειάζεται μια σημείωση εδώ. Η “τεχνητή νοημοσύνη” χωρίζεται σε δύο βασικές κατηγορίες, την λεγόμενη “στενή” η οποία στοχεύει στην κατασκευή “έξυπνων” αλγόριθμων που είναι προορισμένοι να ανταποκρίνονται σε συγκεκριμένα προβλήματα με οριοθετημένο πλαίσιο (πχ. αυτόματη οδήγηση, μηχανική όραση, αναγνώριση ήχου, βιομηχανικές εφαρμογές κα) και την “γενική” η οποία στοχεύει… παντού! Στην ουσία δεν υπάρχει σαφής ορισμός για το πού στοχεύει η τεχνητή γενική νοημοσύνη γιατί δεν είναι δυνατόν να υπάρξει. Το μόνο που υπάρχει είναι η γενική αντίληψη ότι θα φτιάξουμε κάτι πιο έξυπνο, πιο γρήγορο, πιο σοφό, πιο …, πιο …, πιο “απ’ όλα” από τον άνθρωπο. Και ότι αυτό το κάτι είναι αναπόφευκτο ότι θα προκύψει με την πρόοδο της τεχνολογίας, οπότε θα πρέπει να το προλάβουμε και να το “δαμάσουμε” πρώτοι. Το σχέδιο stargate για παράδειγμα, που ανακοινώθηκε από τις ηπα στα μέσα του Γενάρη, έχει σκοπό να χρηματοδοτήσει τις έρευνες για “τεχνητή γενική νοημοσύνη” με 500 δις δολάρια. Τις ίδιες ημέρες ανακοινώθηκε και το deekseek.
Στην βάση αυτού του διαχωρισμού μεταξύ στενής και γενικής τ.ν. έχει προκύψει και ο αντίστοιχος διαχωρισμός μέσα στην τεχνοεπιστημονική κοινότητα, όπου στην μια μεριά θα λέγαμε ότι είναι οι “παραδοσιακοί” επιστήμονες, πιστοί σε έναν φιλελεύθερο διαφωτισμό με “ιερά-και-όσια”, ενώ στην άλλη οι μετα-μεταμοντέρνοι μετανθρωπιστές, ορκισμένοι στην επερχόμενη ουτοπία ή/και καταστροφολογία την τεχνολογικής εξέλιξης. Μπορεί οι ορισμοί μας να μην είναι και πολύ ακριβείς, αλλά θα χρειάζονταν πολύ περισσότερος χώρος για να περιγραφτεί η κατάσταση ως έχει. Όμως ένα παράδειγμα που μπορεί να βοηθήσει είναι ο διαχωρισμός της επιστημονικής κοινότητας την περίοδο του κόβιντ (ο οποίος συνεχίζεται μέχρι σήμερα). Εκεί έχουμε μια σημαντική μερίδα επιστημόνων που είναι ενάντια στην κυρίαρχη αφήγηση για την πανδημία, ενάντια στην διαχείρισή της και ενάντια στην επιβολή των πλατφορμών σε υγιείς πληθυσμούς. Αυτός ο διαχωρισμός δεν έγινε μόνο στην βάση της ιδεολογίας, αλλά έγινε και εκεί. Θα μπορούσαμε να πούμε ότι όσοι ήταν ενάντια ήταν οι “πιστοί” στον όρκο του Ιπποκράτη, οι επιστήμονες της λεγόμενης “επιστήμης βασισμένη σε στοιχεία” ενώ όσοι ήταν “ζήτω η γενετική μηχανική” είχαν μια “προδιάθεση” για ουτοπικά οράματα μέσω βιοτεχνολογίας – πέρα από τα υλικά συμφέροντα και τις άμεσες απολαβές… Ενώ οι λεγόμενοι “αιρετικοί” επιστήμονες δεν είναι λιγότερο “επιστήμονες” – με την έννοια του ότι είναι “παράγωγα” του συγκεκριμένου συστήματος γνώσης – και σίγουρα δεν μπορούμε να τους αναγνωρίσουμε αντικαπιταλιστικές τάσεις, μέσα από αυτή την ενδο-επιστημονική διαμάχη προέκυψαν θέσεις και γνώσεις που βοήθησαν την όποια αντικαθεστωτική κριτική. Όπως άλλωστε συμβαίνει και με όλους τους “ενδο-” ανταγωνισμούς.
Στην περίπτωση της “τεχνητής νοημοσύνης”, οι “αιρετικοί” είναι υπέρ της κατασκευής “έξυπνων αλγόριθμων” για συγκεκριμένες εφαρμογές και επικρίνουν την προσπάθεια κατασκευής μιας “τεχνητής γενικής υπερ-νοημοσύνης” ως έναν παράλογο και αντι-επιστημονικό στόχο που έχει ήδη επιβλαβείς επιπτώσεις στην κοινωνία. Οι συγγραφείς του παρακάτω άρθρου (του οποίου έχουμε μεταφράσει κάποια μέρη), ανήκουν σε αυτή την κατηγορία των “αιρετικών” και είναι αντίθετοι στην κατασκευή μιας “τεχνητής υπερ-νοημοσύνης” και ενάντια στην όποια προσπάθεια να προσομοιωθεί ο “άνθρωπος” συνολικά μέσω της τεχνολογίας. Ως ακαδημαϊκοί και επιστήμονες που είναι, δεν απορρίπτουν συνολικά την ιδέα κατασκευής “έξυπνων αλγόριθμων”, αρκεί να υπάρχουν “σαφείς προδιαγραφές και όρια”. Ο Phil Torres ειναι αμερικάνος φιλόσοφος – ο οποίος υπήρξε υποστηρικτής κάποιων από τις ιδεολογίες που τώρα ασκεί κριτική – ασχολείται με την “εσχατολογία”, τους “υπαρξιακούς κινδύνους” και την “εξαφάνιση της ανθρωπότητας” και η ακαδημαϊκή του πορεία περιλαμβάνει όσα θα περίμενε κανείς. Η Timnit Gebru είναι επιστήμονας πληροφορικής στον τομέα της “τεχνητής νοημοσύνης”, η οποία γεννήθηκε στην αιθιοπία και έχει δουλέψει στην apple, την microsoft και την google μέχρι που την έδιωξαν το 2020 εξαιτίας ενός άρθρου που συν-υπέγραψε σχετικά με τους κινδύνους των “μεγάλων γλωσσικών μοντέλων”. Είναι συνιδρυτής των “Black in AI” και “DAIR Institute”, οργανισμοί που προωθούν μια εναλλακτική προσέγγιση στην τεχνολογία και την “τεχνητή νοημοσύνη”, ενάντια στις Big Tech και τις προκαταλήψεις, τις περιβαλλοντικές επιπτώσεις και τις ανισότητες που δημιουργούν.
Οι δυό τους, στην προσπάθειά τους να μελετήσουν και να υποδείξουν τις επικίνδυνες βάσεις (και σχέσεις) πάνω στις οποίες έχει στραφεί η έρευνα (οι χρηματοδοτήσεις και ό,τι άλλο συνεπάγεται) για την “τεχνητή νοημοσύνη”, δημιούργησαν τον όρο “TESCREAL”, ο οποίος αποτελείται από τα αρχικά των βασικών ιδεολογιών που υποστηρίζουν ότι καθοδηγούν τον “αγώνα” προς μια “τεχνητή γενική νοημοσύνη”. Όπως αναφέρουν, αυτές οι ιδεολογίες έχουν παράλληλη πορεία, παρόμοια στοιχεία και μια ιστορική σχέση με την ευγονική. Ενώ στις βιοτεχνολογίες είναι πιο εύκολο να διακρίνουμε τις αντιστοιχίες με την ευγονική, στον τομέα της “τεχνητής νοημοσύνης” δεν είναι τόσο ευδιάκριτες. Όμως δεν το θεωρούμε υπερβολικό, οι βασικοί “μέτοχοι” αυτής της πορείας να διακατέχονται από αυτές τις ιδεολογίες και, εκφράζοντας ένα μεγάλο, το “ακραίο” θα μπορούσαμε να πούμε, κομμάτι του κεφαλαίου, να προωθούν αντίστοιχες πολιτικές – το αντίθετο μάλιστα.
Wintermute
το ιδεολογικό φάσμα “TESCREAL”: ευγονική
και η υπόσχεση της ουτοπίας μέσω της τεχνητής γενικής νοημοσύνης3
Τα τελευταία χρόνια υπάρχει μια αναβίωση του στόχου για την κατασκευή “τεχνητής γενικής νοημοσύνης” (ΤΓΝ), ένα σύστημα που ορίζεται διαφορετικά από τους διάφορους ανθρώπους και οργανισμούς που επιδιώκουν να το δημιουργήσουν. Για παράδειγμα, η OpenAI ορίζει την ΤΓΝ ως «υψηλά αυτόνομα συστήματα που ξεπερνούν τους ανθρώπους στις περισσότερες χρήσιμες εργασίες». Οι Pennachin και Goertzel, οι οποίοι διέδωσαν τον όρο το 2007, την ορίζουν ως «ένα πρόγραμμα λογισμικού που μπορεί να λύσει μια ποικιλία σύνθετων προβλημάτων σε μια ποικιλία διαφορετικών τομέων και που ελέγχει τον εαυτό της αυτόνομα, με τις δικές της σκέψεις, ανησυχίες, συναισθήματα, δυνάμεις, αδυναμίες και προδιαθέσεις». Ο Peter Voss, ο οποίος ισχυρίζεται ότι βοήθησε στη δημιουργία του όρου, την ορίζει ως «ένα σύστημα υπολογιστή που ισοφαρίζει ή υπερβαίνει τις γνωστικές (όχι τις φυσικές) ικανότητες ενός έξυπνου, καλά μορφωμένου ανθρώπου». Και οι εξέχοντες ερευνητές της τεχνητής νοημοσύνης Stuart Russell και Peter Norvig την ορίζουν ως «ένα καθολικό αλγόριθμο για μάθηση και δράση σε οποιοδήποτε περιβάλλον». Ενώ αρκετοί από τους ερευνητές που επινόησαν τον όρο “τεχνητή νοημοσύνη” (ΤΝ) το 1955 είχαν στόχο να δημιουργήσουν «μηχανές που εκτελούν τις πιο προηγμένες δραστηριότητες της ανθρώπινης σκέψης», αυτός ο στόχος εγκαταλείφθηκε από πολλούς μελετητές του κλάδου μέχρι τη δεκαετία του 1990, εν μέρει επειδή δεν ήθελαν να συσχετιστούν με μεγαλεπήβολους ισχυρισμούς που δεν θα μπορούσαν να υλοποιηθούν. Τέτοιοι ισχυρισμοί οδήγησαν στους «χειμώνες της τεχνητής νοημοσύνης» τις δεκαετίες του ‘70 και ‘90, όπου οι έρευνες για την ΤΓΝ έχαναν τις χρηματοδοτήσεις. Μετά από αυτό, το πεδίο επικεντρώθηκε κυρίως στην κατασκευή εξειδικευμένων συστημάτων που ορισμένοι αποκαλούν «στενή τεχνητή νοημοσύνη».
Πρόσφατα, ωστόσο, υπήρξε ένας πολλαπλασιασμός οργανισμών που στοχεύουν να δημιουργήσουν ΤΓΝ και ισχυρίζονται ότι τα προϊόντα τους είναι κοντά στο να το επιτύχουν. Ενώ αρκετοί ερευνητές έχουν συζητήσει εάν διάφορες μεθοδολογίες μπορούν να επιτύχουν στην κατασκευή ΤΓΝ, υπάρχει ελάχιστη συζήτηση στο γιατί η ΤΓΝ θεωρείται επιθυμητός στόχος από πολλούς στον τομέα της τεχνητής νοημοσύνης και εάν είναι ένας στόχος που όντως πρέπει να επιδιωχθεί ή ακόμα και αν είναι εφικτός. Η διαδικασία κατασκευής ενός συστήματος που θα είναι “παντογνώστης”, ικανό να εκτελέσει οποιαδήποτε εργασία υπό οποιεσδήποτε συνθήκες, έχει ήδη επιφέρει πολλές τεκμηριωμένες επιπτώσεις σε περιθωριοποιημένες ομάδες, στην εκμετάλλευση των εργαζομένων, στην κλοπή δεδομένων, στον περιβαλλοντικό ρατσισμό, στην διάδοση παραπληροφόρησης και στη λογοκλοπή.
Σε αυτό το άρθρο, ρωτάμε: Ποιές ιδεολογίες οδηγούν τις προσπάθειες κατασκευής ΤΓΝ; Για να απαντήσουμε σε αυτό το ερώτημα, αναλύουμε τις πρωτογενείς πηγές από κορυφαίες προσωπικότητες που επενδύουν, υποστηρίζουν και προσπαθούν να κατασκευάσουν ΤΓΝ. Ανησυχητικά, εντοπίζουμε αυτόν τον στόχο πίσω στο αγγλοαμερικανικό κίνημα ευγονικής, μέσω του διανθρωπισμού. Κάνοντας αυτό, οριοθετούμε μια γενεαλογία αλληλένδετων και επικαλυπτόμενων ιδεολογιών που ονομάζουμε “TESCREAL”, ένα ακρωνύμιο που αποτελείται από τις εξής ιδεολογίες: τον διανθρωπισμό (transhumanism), τον εξωπιανισμό (extropianism), τον σινγκιουλαριτισμό (singularitarianism), τον μοντέρνο κοσμισμό (modern cosmism), τον ορθολογισμό (rationalism), τον αποτελεσματικό αλτρουισμό (effective altruism) και τον μακροπροθεσμισμό (longtermism).
Αυτές οι ιδεολογίες, που είναι άμεσοι απόγονοι της ευγονικής του πρώτου κύματος, προέκυψαν περίπου με αυτή τη σειρά, και πολλές διαμορφώθηκαν ή ιδρύθηκαν από τα ίδια άτομα. Δείχνουμε πώς το ιδελογικό φάσμα TESCREAL έφτασε να προωθεί τις προσπάθειες για κατασκευή ΤΓΝ εξετάζοντας τους υποστηρικτές αυτών των ιδεολογιών που τις χρηματοδότησαν. Για παράδειγμα, το πρώτο βιβλίο για την ΤΓΝ (Pennachin και Goertzel, 2007b) συντάχθηκε από έναν διανθρωπιστή, κοσμιστή και συμμετέχοντα στο εξωπιανιστικό κίνημα, του οποίου ρητός στόχος ήταν να δημιουργήσει «διανθρώπινη ΤΓΝ», ενώ μεγάλο μέρος της δισεκατομμυριών χρηματοδότησης για έρευνες σχετικά με την ΤΓΝ προέρχεται από πλούσια άτομα ευθυγραμμισμένα ή ρητά συνδεδεμένα με μία ή περισσότερες από αυτές τις ιδεολογίες. Κατά συνέπεια, οι υπεύθυνοι για την τρέχουσα επιτάχυνση της σχετικής έρευνας εμπνέονται από ουτοπικά ιδανικά παρόμοια με τα οράματα των ευγονιστών του πρώτου κύματος και βλέπουν την ΤΓΝ ως αναπόσπαστο μέρος της υλοποίησης αυτών των οραμάτων. Εν τω μεταξύ, αυτή η διαδικασία κατασκευής ΤΓΝ βλάπτει τις ίδιες κοινωνικές ομάδες με εκείνες που βλάπτονταν από τους ευγονιστές του πρώτου κύματος.
Οι οργανισμοί που ασχολούνται για την κατασκευή της ΤΓΝ συζητούν την ανάγκη για «ασφάλεια» και σημειώνουν ότι μια «κακώς ευθυγραμμισμένη» ΤΓΝ – δηλαδή, ένα «έξυπνο» σύστημα με «αξίες» που δεν ευθυγραμμίζονται με τις αξίες «μας» – μπορεί να θέσει έναν «υπαρξιακό κίνδυνο» στην ανθρωπότητα. Εμείς υποστηρίζουμε ότι αυτή η έννοια της ασφάλειας έχει τις ρίζες της στα ουτοπικά-αποκαλυπτικά οράματα του ιδεολογικού φάσματος TESCREAL και έχει κληρονομηθεί από τους ευγονιστές του πρώτου κύματος.
Μεθοδολογία
Ενώ η ιστορική σημασία της φυλετικής επιστήμης, της αποικιοκρατίας και της ευγονικής στο πεδίο της τεχνητής νοημοσύνης έχει μελετηθεί από αρκετούς μελετητές, η εργασία μας αναφέρεται συγκεκριμένα στις πρόσφατες προσπάθειες για κατασκευή ΤΓΝ, οι οποίες υποστηρίζουμε ότι έχουν κυριαρχήσει στον τομέα της ΤΝ. Οι συν-συγγραφείς έχουν δει αυτές τις προσπάθειες να αναπτύσσονται από διαφορετικές οπτικές γωνίες. Ένας από εμάς είναι ηλεκτρολόγος μηχανικός που έχει εργαστεί στον κλάδο της τεχνολογίας για σχεδόν δύο δεκαετίες (με πάνω από μια δεκαετία στον τομέα της τεχνητής νοημοσύνης). Ένας άλλος είναι φιλόσοφος και ιστορικός που ήταν σημαντικός συνεργάτης και υποστηρικτής του κινήματος TESCREAL για σχεδόν μια δεκαετία πριν αποχωρήσει.
Κατά τη διάρκεια αυτής της περιόδου, αλληλεπιδρούσαμε με πολλούς ανθρώπους που συμμετείχαν στον «αγώνα» για ΤΓΝ, συμπεριλαμβανομένων φοιτητών, καθηγητών, μηχανικών, επενδυτών και δημοσιογράφων, και ήμασταν οι ίδιοι σε ομάδες και ιδρύματα που αποτελούν πλέον μέρος αυτού του «αγώνα». Αυτή η εμπειρία μας έδωσε πληροφορίες για τις κύριες ιδεολογίες που καθοδηγούν αυτές τις προσπάθειες, τις οποίες διερευνήσαμε περαιτέρω με: (1) ανάλυση πρωτογενών πηγών από κορυφαίες προσωπικότητες που εργάζονται, χρηματοδοτούν και συζητούν για την ΤΓΝ, συμπεριλαμβανομένων των ομιλιών σε συνέδρια, επιστημονικών άρθρων, κυβερνητικών μαρτυριών, αναρτήσεων σε ιστολόγια και μέσα κοινωνικής δικτύωσης, email, καταχωρήσεις σε φόρουμ, podcast και συνεντεύξεις· (2) συλλογή πληροφοριών από τις δικές μας και άλλες ερευνητικές αναφορές σχετικά με τις πεποιθήσεις, το υπόβαθρο, τα έργα και τις οικονομικές σχέσεις αυτών των προσώπων μεταξύ διαφόρων οργανώσεων που συμμετέχουν στον «αγώνα» για ΤΓΝ και των πλούσιων δωρητών· (3) ανάλυση της δευτερογενούς βιβλιογραφίας για την ιστορία της ευγονικής, του διανθρωπισμού και άλλων σχετικών κοινωνικών φαινομένων.
Δημιουργήσαμε το ακρωνύμιο TESCREAL ενώ γράφαμε ένα αρχικό προσχέδιο αυτής της εργασίας. Ανιχνεύοντας την προέλευση του αγώνα για ΤΓΝ μέσω αναλύσεων πρωτογενών πηγών, βρήκαμε ότι τα ευγονικά ιδανικά είναι κεντρικά σε αυτό το έργο: τέτοια ιδανικά συχνά δηλώνονται ρητά και σε ορισμένες περιπτώσεις αναφέρονται ειδικά οι ευγονιστές του πρώτου κύματος. Περιγράφοντας αυτή την επιρροή σε ηγετικές προσωπικότητες και οργανώσεις του αγώνα για ΤΓΝ, βρεθήκαμε να αναφερόμαστε συνεχώς σε επτά ιδεολογίες, (στμ: αναφέρονται τα ονόματα των ιδεολογιών που αναφέρθηκαν και παραπάνω), και επειδή η αναφορά σε κάθε ιδεολογία μεμονωμένα έγινε δυσκίνητη, αλλά και επειδή αρκετοί κεντρικοί συνεισφέροντες στη συζήτηση γύρω από την ΤΓΝ συνδέονται με πολλαπλές ιδεολογίες, επιλέξαμε να βελτιστοποιήσουμε τη συζήτησή μας ομαδοποιώντας τις εν λόγω ιδεολογίες σε ένα ενιαίο αρκτικόλεξο. Μόλις το κάναμε αυτό, έγινε σαφές ότι η εννοιολόγηση αυτών των ιδεολογιών ως συνιστώσας ενός ενιαίου, συνεκτικού κινήματος που εκτείνεται στις τελευταίες τρεις δεκαετίες δικαιολογείται από ιστορικές, κοινωνιολογικές και φιλοσοφικές εκτιμήσεις. Το ακρωνύμιο έχει ήδη αρχίσει να χρησιμοποιείται από ερευνητές και δημοσιογράφους που ερευνούν την ΤΓΝ και άλλα φαινόμενα, και οι κοινότητες που συγχωνεύτηκαν γύρω από κάθε ιδεολογία στο φάσμα TESCREAL έχουν αλληλεπικαλυφθεί σημαντικά, ενώ οι όποιες διαφορές στα εκάστοτε οραματά τους για το μέλλον, στις αξίες και τις γνωσιακές τους τάσεις είναι πλέον δυσδιάκριτες”.
Ιστορική αναδρομή: Σύγχρονη ευγονική
Η ιδέα της ευγονικής μπορεί να αναχθεί στις απαρχές της δυτικής πνευματικής παράδοσης. Στη Δημοκρατία του, ο Πλάτωνας πρότεινε ένα σύστημα επιλεκτικής αναπαραγωγής στο οποίο τα μέλη της άρχουσας τάξης ή οι φύλακες, που θεωρούνταν ανώτεροι, θα είχαν περισσότερες ευκαιρίες να παράγουν απογόνους. Τους απόγονους κατώτερων ατόμων «θα τους έπαιρναν κρυφά οι αξιωματούχοι και σχεδόν σίγουρα θα τους άφηναν να πεθάνουν, μαζί με τους εμφανώς ελαττωματικούς απογόνους των ανώτερων κηδεμόνων» . Ο Αριστοτέλης ενέκρινε τη βρεφοκτονία για «όσα παιδιά γεννιούνται με παραμορφώσεις». Αργότερα, κατά τη διάρκεια του Διαφωτισμού του δέκατου όγδοου αιώνα, κάποιοι προέτρεψαν κατά της «παραμόρφωσης» ή της σεξουαλικής αναπαραγωγής μεταξύ μελών διαφορετικών εθνοτικών ομάδων, με το σκεπτικό ότι θα διέφθειρε τις γραμμές αίματος και θα «δημιουργούσε παραμορφωμένα παιδιά».
Αυτές είναι περιπτώσεις αυτού που θα μπορούσε να ονομαστεί «πρωτο-ευγονική». Το κίνημα της σύγχρονης ευγονικής, αντίθετα, ξεκίνησε στο μεταδαρβινικό έργο του Francis Galton (1869), ο οποίος υπερασπίστηκε την «κληρονομική» θέση ότι «οι φυσικές ικανότητες ενός ανθρώπου προέρχονται από την κληρονομικότητα». Ως εκ τούτου, ο Galton υποστήριξε ότι ακριβώς όπως μπορούμε «με προσεκτική επιλογή να αποκτήσουμε μια ράτσα σκύλων ή αλόγων προικισμένων με ιδιαίτερες δυνάμεις στο τρέξιμο… έτσι θα ήταν πολύ πρακτικό να δημιουργήσουμε μια φυλή ανδρών με συνετούς γάμους κατά τη διάρκεια πολλών συνεχόμενων γενιών». Αυτό έθεσε τις «επιστημονικές» βάσεις για την ευγονική, μια λέξη που επινόησε ο Galton το 1883.
Η ιστορία της σύγχρονης ευγονικής μπορεί να χωριστεί σε δύο κύματα, το δεύτερο από τα οποία εμφανίστηκε πιο αξιοσημείωτα τη δεκαετία του 1990. Οι ευγονιστές του πρώτου κύματος αναγνώρισαν δύο στρατηγικές για τη βελτίωση του “ανθρώπινου αποθέματος”, γνωστές ως “θετική” και “αρνητική” ευγονική. Η θετική ευγονική στοχεύει να αυξήσει τη συχνότητα των “επιθυμητών” χαρακτηριστικών στον ανθρώπινο πληθυσμό, όπως η υψηλή “νοημοσύνη”, ενθαρρύνοντας όσους έχουν τέτοια χαρακτηριστικά να αναπαραχθούν περισσότερο. Οι διαγωνισμοί τύπου “το καλύτερο μωρό” και “η καλύτερη οικογένεια”, δημοφιλείς στις αρχές του εικοστού αιώνα, είναι παραδείγματα θετικής ευγονικής, καθώς ενθάρρυναν άτομα με “επιθυμητά” χαρακτηριστικά και “καλή κληρονομικότητα” να αναπαραχθούν περισσότερο. Η αρνητική ευγονική προσπαθεί να αποτρέψει τα “ακατάλληλα” άτομα από το να περάσουν το κληρονομικό τους υλικό στην επόμενη γενιά. Η αρνητική ευγονική είναι αυτό που δικαιολόγησε τους περιοριστικούς νόμους κατά της μετανάστευσης και των μικτών γάμων καθ’ όλη τη διάρκεια του εικοστού αιώνα, καθώς και τα προγράμματα αναγκαστικής στείρωσης που εφαρμόστηκαν σε πολιτείες όπως η Καλιφόρνια. Το πρόγραμμα ευγονικής της Καλιφόρνια, το οποίο ξεκίνησε το 1909, υιοθετήθηκε στη συνέχεια από τους ναζί ως πρότυπο για τις πολιτικές “φυλετικής υγιεινής” που τελικά οδήγησαν στο Ολοκαύτωμα.
Είναι αξιοσημείωτο ότι η αρνητική ευγονική αγκαλιάστηκε όχι μόνο από Γερμανούς φασίστες αλλά και από προοδευτικούς και φιλελεύθερους στην Ευρώπη και τη Βόρεια Αμερική. Όπως παρατηρούν οι Bashford και Levine (2010) «η αισιοδοξία της ευγονικής και η φιλοδοξία της να εφαρμόσει ενεργά τις επιστημονικές ιδέες ήταν μεταξύ των λόγων που προσέλκυε τόσο συχνά προοδευτικούς και φιλελεύθερους». Ούτε επίσης το κίνημα της ευγονικής εξαφανίστηκε μετά τις φρικαλεότητες του Β’ Παγκοσμίου Πολέμου, όπως πολλοί πιστεύουν. Αντίθετα, το πρόγραμμα στείρωσης της Καλιφόρνια συνεχίστηκε μέχρι το 1979, και η Βρετανική Εταιρεία Ευγονικής εξακολουθεί να υπάρχει σήμερα, αν και με διαφορετικό όνομα. Ο οργανισμός άλλαξε το όνομά του σε Ινστιτούτο Galton το 1989 και στη συνέχεια, το 2021, σε Adelphi Genetics Forum. Την δεκαετία του 1970 υπήρξε αυξανόμενη κριτική στην ευγονική, η οποία την φρέναρε προσωρινά, αν και ήταν μόλις μια δεκαετία περίπου αργότερα που εμφανίστηκε ένα δεύτερο κύμα ευγονικής.
Το κίνημα της ευγονικής του πρώτου κύματος ήταν αποκρουστικό για πολλούς λόγους. Ένας από αυτούς είναι οι υποκείμενες ρατσιστικές, ξενοφοβικές, ιμπελιστικές, ταξικές και σεξιστικές συμπεριφορές που ενέπνευσαν τόσο την αρνητική όσο και τη θετική ευγονική. Όσοι θεωρούνταν “ακατάλληλοι” ονομάζονταν ποικιλοτρόπως “ελαττωματικοί”, “ανόητοι”, “εκ γενετής ανάπηροι”, “ηλίθιοι”, “αδύναμοι” και συχνά εντοπίζονταν με την χρήση τεστ IQ. Τα άτομα με “υψηλές επιδόσεις” ενθαρρύνθηκαν να δημιουργήσουν μεγαλύτερες οικογένειες. Πολλοί ευγονιστές αποδέχθηκαν επίσης την ανωτερότητα της λευκής φυλής, η οποία “δικαιολόγησε” τους προαναφερθέντες νόμους κατά της επιμιξίας. Σύμφωνα με τον Galton, η φτώχεια ήταν σε μεγάλο βαθμό το αποτέλεσμα της κατώτερης φύσης κάποιου. Αυτή η ιδέα υποστηρίχθηκε πιο πρόσφατα από τους Herrnstein και Murray (1994), υποστηρίζοντας ότι οι πολιτικές κοινωνικής πρόνοιας ήταν απίθανο να έχουν σημαντικά θετικά αποτελέσματα, δεδομένων των γενετικά προκαθορισμένων διαφορών στο IQ.
Αυτό μας φέρνει στο δεύτερο κύμα της σύγχρονης ευγονικής, το οποίο διαφέρει από το πρώτο κύμα, κυρίως ως προς τη μεθοδολογία του. Ενώ οι ευγονιστές του πρώτου κύματος προσπάθησαν να βελτιώσουν το “ανθρώπινο απόθεμα” αλλάζοντας τα πρότυπα αναπαραγωγής σε ολόκληρη την κοινωνία, μια διαδικασία που θα απαιτούσε πολλές γενιές για να λειτουργήσει, η ευγονική του δεύτερου κύματος προέκυψε ως απάντηση στις νέες τεχνολογικές δυνατότητες που σχετίζονται με τη γενετική μηχανική και τη βιοτεχνολογία. Τέτοιες τεχνολογίες άνοιξαν την πόρτα σε ανθρώπινες “βελτιώσεις” που δεν απαιτούν πολιτικές σε επίπεδο πληθυσμού, ούτε απαιτούν διαγενεακά χρονοδιαγράμματα για να λειτουργήσουν: σε μία μόνο γενιά, οι γονείς θα μπορούσαν ενδεχομένως να “σχεδιάσουν” τα παιδιά τους επιλέγοντας γονίδια που, με βάση κληρονομικές υποθέσεις , προσδιορίζουν υποτιθέμενα φαινοτυπικά χαρακτηριστικά όπως η εξαιρετική “νοημοσύνη” .
Κατά συνέπεια, η νέα ευγονική ισχυρίζεται ότι είναι “φιλελεύθερη”, δίνοντας έμφαση στην ελευθερία των γονέων να αποφασίζουν εάν και πώς θα παράγουν “βελτιωμένους” απογόνους. Ωστόσο, ορισμένοι φιλόσοφοι έχουν υποστηρίξει ότι στην πράξη αυτή η νέα, “φιλελεύθερη” ευγονική – που μερικές φορές αποκαλείται “νεο-ευγονική” – θα είχε τις ίδιες υπονομευτικές συνέπειες για την ελευθερία με τα προγράμματα ευγονικής του εικοστού αιώνα. Και ενώ πολλοί ευγονιστές του δεύτερου κύματος ισχυρίζονται ότι η εκδοχή της ευγονικής τους έχει ξεφύγει από τις μεροληπτικές στάσεις που εμψύχωσαν τους ευγονιστές του πρώτου κύματος, θα δούμε στην επόμενη ενότητα ότι αυτό είναι αμφίβολο.
Το ιδεολογικό φάσμα TESCREAL
Αυτή η ενότητα επικεντρώνεται στις ιδεολογίες που συνθέτουν το “φασμα TESCREAL”, το οποίο αποτελεί παράδειγμα του δεύτερου κύματος της σύγχρονης ευγονικής. Αυτές οι ιδεολογίες εμφανίστηκαν περίπου με αυτή τη σειρά και έχουν αλληλεπικαλυφθεί σε σημαντικό βαθμό τόσο στο παρόν όσο και ιστορικά.
Ξεκινάμε τη συζήτησή μας με τον διανθρωπισμό, μια εκδοχή της ευγονικής του δεύτερου κύματος που επιβεβαιώνει τη σκοπιμότητα και την επιθυμία της ριζικής “ανθρώπινης βελτίωσης”. Η λέξη “transhumanism” μπορεί να επινοήθηκε το 1940 από τον WD Lighthall, αν και η ιδέα αναπτύχθηκε ακόμη νωρίτερα από αρκετούς ευγονιστές του εικοστού αιώνα, συμπεριλαμβανομένου του Julian Huxley, προέδρου της British Eugenics Society από το 1959 έως το 1962. «Ελέγχοντας τους μηχανισμούς της κληρονομικότητας» έγραψε, «το ανθρώπινο είδος μπορεί, αν το επιθυμεί, να υπερβεί τον εαυτό του – όχι μόνο σποραδικά… αλλά στο σύνολό του, ως ανθρωπότητα. Αν αρκετοί άνθρωποι μπορούσαν να πουν αληθινά… “Πιστεύω στον διανθρωπισμό”, τότε το ανθρώπινο είδος θα βρισκόνταν στο κατώφλι ενός νέου είδους ύπαρξης, τόσο διαφορετικό από το δικό μας όσο και το δικό μας από εκείνο του Pekin [sic] . Επιτέλους θα εκπληρώσει συνειδητά το πραγματικό του πεπρωμένο».
Αυτό που κάνει την ιδέα του Huxley για τον διανθρωπισμό – που μπορούμε να τον ονομάσουμε “πρώιμο διανθρωπισμό” – διαφορετική από άλλες αντιλήψεις της ευγονικής εκείνης της εποχής ήταν το όραμά του: ο στόχος δεν ήταν απλώς να δημιουργήσουμε την καλύτερη δυνατή εκδοχή του είδους μας, αλλά να “υπερβούμε” την ανθρωπότητα εντελώς. Ο πρώιμος διανθρωπισμός συνδύασε έτσι αυτό το νέο όραμα με την παλιά μεθοδολογία της ευγονικής του πρώτου κύματος. Αντίθετα, ο “σύγχρονος διανθρωπισμός”, όπως μπορούμε να τον χαρακτηρίσουμε, διαμορφώθηκε στα τέλη της δεκαετίας του 1980 και στις αρχές της δεκαετίας του 1990 και συνδύασε το όραμα του Huxley για την υπέρβαση με τη νέα μεθοδολογία της ευγονικής του δεύτερου κύματος. Ως εκ τούτου, οι υποστηρικτές φαντάστηκαν ότι δίνοντας τη δυνατότητα στα άτομα να επιλέξουν ελεύθερα εάν και πώς θα υποστούν μια ριζική “βελτίωση”, θα μπορούσε να δημιουργήσει ένα ανώτερο νέο είδος “μετανθρώπου”. Σύμφωνα με τον Nick Bostrom, “μετάνθρωπος” είναι κάθε ον που διαθέτει μία ή περισσότερες μετα-ανθρώπινες ικανότητες, όπως απεριόριστα μεγάλη «διάρκεια ζωής», αυξημένες γνωστικές ικανότητες, ενισχυμένη ορθολογικότητα κλπ.
Η πρώτη οργανωμένη ομάδα σύγχρονων διανθρωπιστών ήταν το κίνημα των εξωπιανιστών. Μπορεί να αναχθεί στα τέλη της δεκαετίας του 1980, αφού οι Max More και Tom Morrow ίδρυσαν το Extropy Institute το 1988. Ο νεολογισμός “extropy” ορίστηκε από τον More ως «η έκταση της νοημοσύνης, των πληροφοριών, της τάξης, της ζωτικότητας και της ικανότητας ενός συστήματος για βελτίωση» , και προοριζόταν για αντίθεση με την “εντροπία”. Ο More (1998) προσδιόρισε πέντε θεμελιώδεις δεσμεύσεις αυτής της ιδεολογίας: απεριόριστη επέκταση, αυτο-μετασχηματισμός, δυναμική αισιοδοξία, ευφυής τεχνολογία και αυθόρμητη τάξη. Αρκετά χρόνια αργότερα, ο Bostrom και ο David Pearce ίδρυσαν την World Transhumanist Association (WTA), η οποία είχε ως στόχο να είναι «μια πιο ώριμη και ακαδημαϊκά αξιοσέβαστη μορφή διανθρωπισμού».
Περίπου την ίδια εποχή που ιδρύθηκε η WTA, εμφανίστηκε μια άλλη παραλλαγή του διανθρωπισμού: ο σινγκιουλαριτισμός, του οποίου οι κορυφαίοι υποστηρικτές ήταν ο Ray Kurzweil και ο Eliezer Yudkowsky. Αυτός έδωσε έμφαση στην επερχόμενη “τεχνολογική Μοναδικότητα” (technological Singularity), η οποία μπορεί να οριστεί με πολλούς διακριτούς τρόπους: πρώτον, θα μπορούσε να αναφέρεται στο σημείο το οποίο ο ρυθμός της τεχνολογικής “προόδου” γίνεται τόσο γρήγορος που προκαλεί μια θεμελιώδη ρήξη στην ανθρώπινη ιστορία. Κατά τον Kurzweil, οι άνθρωποι θα συγχωνευθούν με τις μηχανές, εγκαινιάζοντας μια νέα εποχή στην κοσμική ιστορία. Στη συνέχεια, οι απόγονοί μας θα εξαπλωθούν πέρα από τη Γη και θα πλημμυρίσουν το σύμπαν με συνείδηση, επιτρέποντας έτσι στο σύμπαν να “ξυπνήσει”. Προβλέπει ότι η “Μοναδικότητα” θα συμβεί το 2045, ενώ ο Yudkowsky, ο οποίος έχει περιγράψει τον εαυτό του ως “ιδιοφυΐα”, προέβλεψε κάποτε ότι θα συμβεί το 2025 – λιγότερο από ένα χρόνο από τώρα που γράφουμε αυτό το άρθρο. Ο δεύτερος ορισμός της “Μοναδικότητας” αφορά την ιδέα μιας “έκρηξης νοημοσύνης”, σύμφωνα με την οποία οι αλγόριθμοι υφίστανται “αναδρομική αυτοβελτίωση” μέχρι να γίνουν “υπερευφυείς”. Αυτό, επίσης, υποτίθεται ότι θα αποτελούσε μια μεταμορφωτική στιγμή στην ανθρώπινη ιστορία, με την προκύπτουσα υπερευφυΐα(ες) που θα μας επέτρεπε να γίνουμε μεταάνθρωποι και να αποικίσουμε το διάστημα. Οι “Singularitarians”, από μία άποψη, είναι εκείνοι που πιστεύουν ότι “είναι επιθυμητή η τεχνολογική δημιουργία μιας νοημοσύνης μεγαλύτερης από την ανθρώπινη” και εργάζονται για αυτόν τον σκοπό. Ο όρος “singularitarian” επινοήθηκε από έναν εξωπιανό ονόματι Mark Plus το 1991.
Η τρίτη τεχνο-φουτουριστική ιδεολογία στο φάσμα TESCREAL είναι ο κοσμισμός, ο οποίος υποστηρίχθηκε κυρίως από τον Ben Goertzel, έναν διανθρωπιστή που συμμετείχε στο κίνημα των Extropian και αργότερα ίδρυσε το SingularityNET.io, το οποίο στοχεύει στη δημιουργία «μιας αποκεντρωμένης, δημοκρατικής, χωρίς αποκλεισμούς, και ευεργετικής Τεχνητή Γενική Νοημοσύνη». Ο Goertzel (2010) έγραψε ότι ο κοσμισμός συμπεριλαμβάνει τον διανθρωπιστικό στόχο της ριζικής ανθρώπινης βελτίωσης, αλλά επίσης τον υπερβαίνει από διάφορες απόψεις. Για παράδειγμα, αναφέρει ότι «οι άνθρωποι θα συγχωνευτούν με την τεχνολογία», η οποία θα εγκαινιάσει «μια νέα φάση της εξέλιξης του είδους μας» και ότι «θα αναπτύξουμε τεχνολογία τεχνητής νοημοσύνης και μεταφόρτωσης μυαλού (mind uploading)» που θα επιτρέπει «απροσδιόριστη διάρκεια ζωής σε αυτούς που επιλέγουν να αφήσουν πίσω τη βιολογία και μεταφορτωθούν». Αλλά ο κοσμισμός προβλέπει επίσης ότι «θα εξαπλωθούμε στα αστέρια και θα περιπλανηθούμε στο σύμπαν», θα δημιουργήσουμε «συνθετικές πραγματικότητες» (πχ. εικονικούς κόσμους) και «θα αναπτύξουμε χωροχρονική μηχανική και επιστημονική “μελλοντική μαγεία” πολύ πέρα από την τρέχουσα κατανόηση και φαντασία μας». Οι κοσμιστές μπορούν επομένως να κατανοηθούν ως διανθρωπιστές των οποίων η εστίαση είναι λιγότερο στο τι θα μπορούσε να γίνει η ανθρωπότητα και περισσότερο στο πώς οι μετάνθρωποι απόγονοί μας θα μπορούσαν να μεταμορφώσουν ριζικά το ίδιο το σύμπαν.
Στα τέλη της δεκαετίας του 2000, μια άλλη κοινότητα εμφανίστηκε: οι ορθολογιστές. Αυτή επικεντρώθηκε γύρω από τον ιστότοπο-φόρουμ LessWrong, που ιδρύθηκε το 2009 από τον Yudkowsky, ο οποίος το περιγράφει ως «ένα διαδικτυακό φόρουμ και μια κοινότητα αφιερωμένη στη βελτίωση της ανθρώπινης λογικής και της λήψης αποφάσεων». Ένας από τους πρωταρχικούς στόχους του είναι η «εκπαίδευση» στον ορθολογισμό και ο ιστότοπός του σημειώνει ότι «πολλά μέλη … έχουν μεγάλο κίνητρο προσπαθώντας να βελτιώσουν τον κόσμο όσο το δυνατόν περισσότερο». Αυτός, εξηγεί, είναι ένας λόγος που πολλοί ορθολογιστές «πείστηκαν πριν από πολλά χρόνια ότι η τεχνητή νοημοσύνη ήταν μια πολύ μεγάλη υπόθεση για το μέλλον της ανθρωπότητας» και κατά συνέπεια «η ομάδα LessWrong … έχει ως βασικό κίνητρο την προσπάθεια να βελτιώσουν τα ισχυρά αποτελέσματα της ΤΝ». Ενώ ο εξωπιανισμός και ο σινγκιουλαριτισμός είναι παραλλαγές του διανθρωπισμού, δεν υπάρχει απαραίτητη σύνδεση μεταξύ του ορθολογισμού και του διανθρωπισμού. Ωστόσο, πολλοί ορθολογιστές είναι διανθρωπιστές ή βλέπουν με καλό μάτι την διανθρωπιστική κοσμοθεωρία και ένα από τα πιο δημοφιλή θέματα που συζητήθηκαν στον ιστότοπο LessWrong ήταν η Singularity με τη δεύτερη έννοια παραπάνω: την πιθανότητα μιας “έκρηξης νοημοσύνης”.
Τα δύο τελευταία συστατικά της δέσμης TESCREAL είναι ο αποτελεσματικός αλτρουισμός (Effective Altruism – EA) και τον μακροπροθεσμισμός (longtermism). Ο πρώτος εμφανίστηκε περίπου την ίδια εποχή με τον ορθολογισμό και μπορεί να θεωρηθεί ως αδερφός του: ενώ οι ορθολογιστές ασχολούνται κυρίως με τον ορθολογισμό, οι “αποτελεσματικοί αλτρουιστές” ασχολούνται κυρίως με την ηθική. Υπάρχει σημαντική επικάλυψη μεταξύ αυτών των κοινοτήτων και μπορεί κανείς να κατανοήσει τον EA ως αυτό που συμβαίνει όταν οι αρχές του ορθολογισμού εφαρμόζονται στον ηθικό τομέα. Ο κεντρικός στόχος του EA είναι να κάνει το «καλύτερο» δυνατό με πεπερασμένους πόρους και η αρχική του εστίαση ήταν στην αντιμετώπιση της παγκόσμιας φτώχειας. Ωστόσο, ηγετικές προσωπικότητες εντός της κοινότητας του EA έχουν, τα τελευταία χρόνια, στραφεί προς ζητήματα που σχετίζονται με το πολύ μακροπρόθεσμο μέλλον της ανθρωπότητας – «εκατομμύρια, δισεκατομμύρια και τρισεκατομμύρια χρόνια» από τώρα, όπως έγραψε κάποιος – που οφείλεται εν μέρει στο έργο του Bostrom και άλλων. Ειδικότερα, ο Bostrom (2003) όχι μόνο φαντάστηκε ένα ουτοπικό μέλλον που θα επέτρεπε τη ριζική ανθρώπινη ανάπτυξη, αλλά σημείωσε ότι εάν η ανθρωπότητα αποικίσει το σύμπαν και δημιουργήσει υπολογιστές στο μέγεθος ενός πλανήτη ώστε να μπορεί να “τρέξει” κόσμους εικονικής πραγματικότητας που θα κατοικούνται από ψηφιακούς ανθρώπους, ο μελλοντικός μετανθρώπινος πληθυσμός θα μπορούσε να είναι τεράστιος. Μόνο στο “Υπερσμήνος της Παρθένου” (Virgo Supercluster – στμ: σύμπλεγμα γαλαξίων στο οποίο είναι και ο δικός μας…) ο Bostrom εκτιμά ότι θα μπορούσαν να υπάρχουν 1038 ψηφιακοί άνθρωποι και τουλάχιστον 1058 τέτοιοι άνθρωποι σε όλο το προσβάσιμο σύμπαν. Γιατί έχει σημασία αυτό; Επειδή, από την ηθική προοπτική του “ολοκληρωτικού ωφελιμισμού”, που έχει μεγάλη επιρροή μεταξύ των ΕΑ και των μακροπροθεσμιστών, η μόνη ηθική μας υποχρέωση είναι να μεγιστοποιήσουμε τη συνολική ποσότητα «αξίας» στο σύμπαν. Ως εκ τούτου, αν αυτοί οι 1058 άνθρωποι που θα ζουν σε προσομοιώσεις υπολογιστή είχαν “net-positive”4 ζωές κατά μέσο όρο, το αποτέλεσμα θα ήταν κυριολεκτικά «αστρονομικά» ποσά «αξίας» – κάτι που θα ήταν πολύ «καλό». Εφόσον ο “ολοκληρωτικός ωφελιμισμός” στηρίζει το ηθικά σωστό σε κάτι που είναι καλό, αυτό συνεπάγεται ότι η αποτυχία μας να δημιουργήσουμε αυτούς τους μελλοντικούς ψηφιακούς ανθρώπους θα ήταν μεγάλο λάθος.
Ο μακροπροθεσμισμός γεννήθηκε όταν οι EA σκέφτηκαν: «Εάν ο στόχος μας είναι να κάνουμε το καλύτερο δυνατό και εάν το μέλλον θα μπορούσε να περιέχει αστρονομικά ποσά “αξίας”, τότε θα πρέπει να επικεντρωθούμε στο απώτερο μέλλον και όχι στο παρόν. Ομοίως, εάν ο στόχος μας είναι να επηρεάσουμε θετικά τον μεγαλύτερο δυνατό αριθμό ανθρώπων και εάν οι περισσότεροι άνθρωποι που θα μπορούσαν να υπάρχουν θα υπάρχουν στο μακρινό μέλλον, τότε θα πρέπει να επικεντρωθούμε σε αυτούς αντί για τους τρέχοντες ανθρώπους και τα σύγχρονα προβλήματα, εκτός μόνο εάν κάνοντας το τελευταίο θα επηρεαστεί το απώτερο μέλλον». Οι μακροπροθεσμιστές Hilary Greaves και William MacAskill (2019) έγραψαν ότι μπορούμε απλώς να αγνοήσουμε «τις επιπτώσεις που περιέχονται στα πρώτα 100 (ή ακόμα και 1.000) χρόνια». Σύμφωνα με τους πιο σημαντικούς μακροπροθεσμιστές, το να γίνεις μετάνθρωπος είναι ένα κεντρικό συστατικό της «εκπλήρωσης των μακροπρόθεσμων δυνατοτήτων μας» (λέξεις που απηχούν τον ορισμό του Huxley για τον διανθρωπισμό), όπως είναι επίσης και ο αποικισμός του χώρου και η μεγιστοποίηση της “αξίας”. Ο στόχος, λοιπόν, είναι να αναλάβουμε ενέργειες που αυξάνουν την πιθανότητα να εκπληρώσουμε τις «δυνατότητες» μας. Όπως παρατήρησε ο Bostrom, ακόμη και οι ελάχιστες αυξήσεις πιθανοτήτων που επηρεάζουν αυτόν τον τελικό στόχο ισοδυναμούν, σε αναμενόμενη αξία, με τη διάσωση κυριολεκτικά δισεκατομμυρίων ανθρώπινων ζωών σήμερα. Ο μακροπροθεσμισμός στοχεύει έτσι να παράσχει μια συστηματική ηθική βάση για τον μετριασμό του «υπαρξιακού κινδύνου», διασφαλίζοντας παράλληλα την ανάπτυξη της τεχνητής υπερνοημοσύνης (artificial superintelligence), ενός τύπου ΤΓΝ που πολλοί οπαδοί της ιδεολογίας θεωρούν αναπόσπαστο στοιχείο για την πραγματοποίηση αυτού που ένας από τους μακροπροθεσμιστές περιγράφει ως «το τεράστιο και ένδοξο μέλλον μας στο σύμπαν».
Οι ιδιότητες του ιδεολογικού φάσματος TESCREAL
Το ιδεολογικό φάσμα TESCREAL μοιράζεται μια σειρά από σημαντικές ιδιότητες, τέσσερις από τις οποίες συζητάμε εδώ.
Ιστορικές ρίζες και σύγχρονες κοινότητες: Οι συστατικές ιδεολογίες του φάσματος έχουν μια κοινή γενεαλογία που πηγαίνει πίσω στην ευγονική του πρώτου κύματος. Όλες συνδέονται στενά με τον διανθρωπισμό και – όπως σημειώθηκε – ο διανθρωπισμός αναπτύχθηκε αρχικά από ευγονιστές του εικοστού αιώνα. Πράγματι, ο διανθρωπισμός, ο εξωπιανισμός, ο σινγκιουλαριτισμός και ο κοσμισμός είναι παραδείγματα ευγονικής του δεύτερου κύματος, αφού όλοι υποστηρίζουν τη χρήση αναδυόμενων τεχνολογιών για να «ενισχύσουν» ριζικά την ανθρωπότητα και να δημιουργήσουν ένα νέο «μεταθανάτιο» είδος.
Υπάρχει επίσης σημαντική αλληλοσυμπλήρωση των κοινοτήτων τους, με αρκετά μέλη να εμπίπτουν σε πολλές κατηγορίες του TESCREAL φάσματος. Ο Bostrom, για παράδειγμα, είναι ένας ηγετικός διανθρωπιστής που συμμετείχε στο κίνημα των εξωπιανιστών, προσδοκά τη Singularity με ενθουσιασμό και τρόμο, υποστηρίζει ένα όραμα για το μέλλον σχεδόν ταυτόσημο με αυτό του κοσμισμού, έχει τεράστια επιρροή στις κοινότητες των oρθολογιστών και των ΕΑ και συνίδρυσε την μακροπρoθεμική ιδεολογία. Ομοίως, ο Sam Altman (ο CEO της OpenAI που έχει κατασκευάσει το ChatGPT) έχει επηρεαστεί από τις κοινότητες των ορθολογιστών και της EA, είναι ένας διανθρωπιστής που πιστεύει ότι ο εγκέφαλός μας θα ψηφιοποιηθεί κατά τη διάρκεια της ζωής του και προωθεί ιδέες στενά ευθυγραμμισμένες με κοσμιστικούς και μακροπροθεσμικούς στόχους, όπως ο αποικισμός του γαλαξία. Υποστηρίζει ότι «οι γαλαξίες είναι πράγματι σε κίνδυνο» εάν αποτύχουμε να ελέγξουμε την ΤΓΝ. Τέλος, ο Elon Musk είναι ένας διανθρωπιστής του οποίου η εταιρεία Neuralink στοχεύει να συγχωνεύσει το μυαλό μας με την τεχνητή νοημοσύνη, έχει τεράστια επιρροή στην κοινότητα των ορθολογιστών, ίδρυσε και συνίδρυσε πολλές εταιρείες που στοχεύουν στην οικοδόμηση ΤΓΝ και περιγράφει τον μακροπροθεσμισμό ως «πολύ κοντά στη φιλοσοφία» του, το οποίο συμπληρώνεται με τους ισχυρισμούς του ότι «έχουμε καθήκον να διατηρήσουμε το φως της συνείδησης, να βεβαιωθούμε ότι συνεχίζει στο μέλλον» και «αυτό που έχει σημασία… είναι η μεγιστοποίηση της σωρευτικής πολιτισμικής “καθαρής”5 ευτυχίας με την πάροδο του χρόνου» . Η κοινωνιολογική διασταύρωση μεταξύ των κοινοτήτων που σχετίζονται με κάθε γράμμα στο ακρωνύμιο είναι σημαντική.
Εσχατολογία: Οι ιδεολογίες στο φάσμα TESCREAL μοιράζονται ορισμένες «εσχατολογικές» (σχετικές με τα «τελευταία πράγματα»6) πεποιθήσεις. Όπως και στις θρησκείες, όπως ο Χριστιανισμός, αυτές οι πεποιθήσεις έχουν δύο μορφές: ουτοπικές και αποκαλυπτικές, που είναι άρρηκτα συνδεδεμένες μεταξύ τους. Για παράδειγμα, ο προαναφερθείς συνιδρυτής του WTA, David Pearce, περιγράφει το διανθρωπιστικό έργο ως μια «μηχανική του παραδείσου», με αποτέλεσμα «την πλήρη κατάργηση του πόνου στον Χόμο Σάπιενς». Τελικά, «η επιλογή του… επανασχεδιασμού του παγκόσμιου οικοσυστήματος, επεκτείνει την προοπτική της μηχανικής του παραδείσου στον υπόλοιπο ζωντανό κόσμο», συμπεριλαμβανομένου και πέρα από τη Γη, την οποία περιγράφει ως «αποστολή κοσμικής διάσωσης για την προώθηση της μηχανικής του παραδείσου σε όλο το σύμπαν». Ο Bostrom (2005) χρησιμοποίησε επίσης τον όρο «μηχανική του παραδείσου» για να προσφέρει μια ιδέα για το πώς θα μπορούσε να μοιάζει το τεχνοουτοπικό μας μέλλον, από τη σκοπιά ενός αθάνατου , γνωστικά ενισχυμένου μετάνθρωπου που αναφέρει ότι η «Utopia» έχει τόση ευχαρίστηση που «θα πασπαλίζουμε το τσάι μας με αυτή». Ο Kurzweil (2006), ο οποίος προσλήφθηκε στη Google από τον συνιδρυτή της Larry Page, έγραψε ότι η συγχώνευση «ανθρώπου και μηχανής», σε συνδυασμό με την ξαφνική έκρηξη στη νοημοσύνη των μηχανών και την ταχεία καινοτομία στα πεδία της γονιδιακής έρευνας και τη νανοτεχνολογία, «θα μας επιτρέψει να ξεπεράσουμε τα εύθραυστα σώματά μας με όλους τους περιορισμούς τους. Η ασθένεια, όπως την ξέρουμε, θα εξαλειφθεί». Τέτοιες ουτοπικές διακηρύξεις δεν προκαλούν έκπληξη, δεδομένου ότι πολλοί ευγονιστές του πρώτου κύματος κατανόησαν επίσης το έργο τους με περισσότερο ή λιγότερο ουτοπικούς όρους. Ο Galton, ο ιδρυτής του κινήματος της σύγχρονης ευγονικής, παραδέχτηκε ότι είχε «εντρυφήσει σε πολλές» ουτοπικές ιδέες και λίγο πριν από το θάνατό του έγραψε ένα «ουτοπικό» μυθιστόρημα με τίτλο The Eugenic College of Kantsaywhere . Περιέγραψε μια κοινωνία όπου «οι υποψήφιοι γονείς απαιτείται να υποβληθούν σε σωματικές και ψυχομετρικές εξετάσεις πριν κριθούν ικανοί για αναπαραγωγή – και όσοι βρεθούν ακατάλληλοι εκδιώκονται από το κράτος».
Η αποκαλυπτική μορφή της εσχατολογικής πεποίθησης του φάσματος TESCREAL προκύπτει από δύο θεωρήσεις μοναδικές στη μεθοδολογία της ευγονικής του δεύτερου κύματος: πρώτον, οι διανθρωπιστές στα τέλη της δεκαετίας του 1990 συνειδητοποίησαν ότι οι ίδιες τεχνολογίες που απαιτούνται για τη δημιουργία μιας μετανθρώπινης ουτοπίας θα εισήγαγαν επίσης πρωτοφανείς απειλές για την ανθρωπότητα. Ο Kurzweil (1999) αναφέρθηκε σε μερικούς από αυτούς τους υποθετικούς κινδύνους ως «ένα ξεκάθαρο και μελλοντικό κίνδυνο». Ο λόγος ανησυχίας είναι ότι οι αναδυόμενες τεχνολογίες αναμένεται να είναι (α) εξαιρετικά ισχυρές, (β) όλο και πιο προσιτές τόσο σε κρατικούς όσο και σε μη κρατικούς φορείς και (γ) διπλής χρήσης, όπως φαίνεται από το CRISPR-Cas9, που θα μπορούσε να μας επιτρέψει να θεραπεύσουμε ασθένειες αλλά και να σχεδιάσουμε παθογόνα που θα μπορούν να διαδώσουν μια «μηχανοποιημένη πανδημία» (engineered pandemic). Ως εκ τούτου, ενώ η ανάπτυξη αυτών των τεχνολογιών κρίθηκε απαραίτητη, δυνητικά θα μπορούσαν να καταστρέψουν την ανθρωπότητα. Η δεύτερη θεώρηση παραλληλίζεται με την πρώτη, αν και αφορά συγκεκριμένα την ΤΓΝ. Από τη μία πλευρά, εάν δημιουργήσουμε μια ΤΓΝ «ευθυγραμμισμένη με τις αξίες μας», αυτή θα μπορούσε να λύσει όλα τα προβλήματα του κόσμου και να επιτρέψει στους ανθρώπους να ζήσουν για πάντα. Από την άλλη πλευρά, αρκετοί υποστηρικτές του TESCREAL πιστεύουν ότι εάν η ΤΓΝ δεν είναι σωστά «ευθυγραμμισμένη με τις αξίες μας», το «αποτέλεσμα θα είναι η καταστροφή» (δηλαδή, μια υπαρξιακή καταστροφή), όπως αναφέρει ο Bostrom (2014). Ωστόσο, πολλά από αυτά τα ίδια κεντρικά πρόσωπα υποστηρίζουν ότι τα πιθανά οφέλη της προηγμένης τεχνολογίας αξίζουν τους ακραίους κινδύνους και ότι η οικοδόμηση αυτών των τεχνολογιών για τη δημιουργία της ουτοπίας θα πρέπει να είναι ο πρωταρχικός μας στόχος.
Διακρίσεις: Οι ίδιες συμπεριφορές που κάνουν διακρίσεις με βάση την ευγονική του πρώτου κύματος είναι διάχυτες στη βιβλιογραφία και την κοινότητα του TESCREAL. Για παράδειγμα, συζητήσεις σε email lists των εξωπιανιστών περιέχουν πολλά παραδείγματα ανησυχητικών παρατηρήσεων από κεντρικές προσωπικότητες του TESCREAL. Το 1996, ο Bostrom υποστήριξε ότι «οι μαύροι είναι πιο ανόητοι από τους λευκούς», “γκρινιάζοντας” παράλληλα που δεν μπορούσε να το πει αυτό δημόσια χωρίς να κατηγορηθεί ως ρατσιστής και στη συνέχεια ανέφερε τη λέξη “N” (στμ: νέγρος). Σε μια μεταγενέστερη «συγγνώμη» για το email, κατήγγειλε τη χρήση της λέξης “N”, αλλά δεν ανακάλεσε τον ισχυρισμό του ότι οι λευκοί είναι πιο «έξυπνοι». Επίσης το 1996, ο Yudkowsky εξέφρασε ανησυχίες για την υπερνοημοσύνη, γράφοντας: «Υπερέξυπνα ρομπότ = Άριοι, άνθρωποι = Εβραίοι. Το μόνο πράγμα που μπορεί να το εμποδίσει αυτό είναι τα αρκετά έξυπνα ρομπότ». Άλλοι ανησυχούσαν ότι «καθώς εμείς ως διάνθρωποι επιδιώκουμε να φτάσουμε στο επόμενο επίπεδο της ανθρώπινης εξέλιξης, διατρέχουμε σοβαρούς κινδύνους όταν με βάση τις ιδέες και τα προγράμματά μας χαρακτηριζόμαστε από τα δημοφιλή ΜΜΕ ως νεο-ευγονιστές, ρατσιστές, νεοναζί κλπ». Στην πραγματικότητα, ηγετικές προσωπικότητες της κοινότητας TESCREAL έχουν επιδοκιμάσει ή έχουν εκφράσει την υποστήριξή τους για το έργο του Charles Murray, γνωστού για τον επιστημονικό ρατσισμό του και την ανησυχία του για τις «δυσγονικές» πιέσεις (το αντίθετο του «ευγονικού»). Ο ίδιος ο Bostrom προσδιορίζει τις «δυσγονικές» πιέσεις ως έναν πιθανό υπαρξιακό κίνδυνο, παρόμοιο με τον πυρηνικό πόλεμο και την κυριαρχία μιας υπερ-νοημοσύνης. Έγραψε: «Αυτή τη στιγμή φαίνεται ότι υπάρχει αρνητική συσχέτιση σε ορισμένα σημεία μεταξύ της πνευματικής επιτυχίας και της γονιμότητας. Εάν μια τέτοια επιλογή επρόκειτο να λειτουργήσει για μεγάλο χρονικό διάστημα, θα μπορούσαμε να εξελιχθούμε σε ένα λιγότερο έξυπνο αλλά πιο γόνιμο είδος, τον homo philoprogenitus («εραστής πολλών απογόνων»)». Πιο πρόσφατα, ο Yudkowsky έκανε tweet σχετικά με το IQ που «φαίνεται να μειώνεται στη Νορβηγία» και πρόσθεσε ότι «η επίδραση εμφανίζεται στις οικογένειες, επομένως δεν οφείλεται στη μετανάστευση ή τη δυσγονιδιακή αναπαραγωγή», δηλαδή τους λιγότερο έξυπνους αλλοδαπούς που μεταναστεύουν στη Νορβηγία ή τα άτομα με χαμηλότερη «νοημοσύνη» που κάνουν περισσότερα παιδιά.
Η εμμονή με την «ευφυΐα» και το «IQ» είναι ευρέως διαδεδομένη μεταξύ των υποστηρικτών του TESCREAL. Η «ευφυΐα», που συνήθως κατανοείται ως η ιδιότητα που μετράται με τεστ IQ, έχει μεγάλη σημασία λόγω της οργανικής της αξίας για την επίτευξη των στόχων των έργων TESCREAL, όπως το να γίνεις μετάνθρωπος, ο αποικισμός του διαστήματος και η κατασκευή «ασφαλούς» ΤΓΝ. Ως εκ τούτου, αρκετοί κορυφαίοι TESCREALists βλέπουν τη γνωστική ενίσχυση ως έναν σημαντικό ενδιάμεσο στόχο και, κατά συνέπεια, έχουν γράψει εκτενώς για τη δυνατότητα γνωστικών βελτιώσεων όπως τα νοοτροπικά φάρμακα («έξυπνα φάρμακα»), οι διεπαφές εγκεφάλου-υπολογιστή (BCIs) και ακόμη και η μεταφόρτωση μυαλού (που θα μπορούσε να κάνει την «ενίσχυση» του νου πολύ πιο εύκολη). Πιο πρόσφατα, η Carla Cremer, πρώην EA, αναφέρει ότι το “Κέντρο για τον Αποτελεσματικό Αλτρουισμό” δοκίμασε «μια νέα μονάδα μέτρησης» για να εφαρμοστεί στους ανθρώπους: μια μέτρηση που ονομάζεται PELTIV, η οποία σήμαινε “Πιθανή Αναμενόμενη Μακροπρόθεσμη Ενεργειακή Αξία”. Ο στόχος ήταν να εντοπιστούν τα μέλη της κοινότητας «που ήταν πιθανό να αναπτύξουν υψηλή «αφοσίωση» στην EA, και η βαθμολογία βασίστηκε εν μέρει στο IQ των μελών. Η ίδια έγραψε (2003): «Ένας υποψήφιος με κανονικό IQ 100 θα έχανε βαθμούς PELTIV, επειδή οι βαθμοί μπορούσαν να κερδηθούν μόνο με ένα IQ πάνω από 120. Χαμηλoί βαθμοί PELTIV δίνονταν σε όσους εργάζονταν για τη μείωση της παγκόσμιας φτώχειας ή τον μετριασμό της κλιματικής αλλαγής, ενώ υψηλοί βαθμοί σε αυτούς που εργάστηκαν άμεσα για οργανισμούς EA ή για την τεχνητή νοημοσύνη.
Η εμμονή με το IQ μπορεί να εντοπιστεί στους ευγονιστές του πρώτου κύματος, οι οποίοι χρησιμοποίησαν τεστ IQ για να εντοπίσουν τους «ελαττωματικούς» και «αδύναμους». Όπως παρατήρησε η Daphne Martschenko (2017), «στις πιο σκοτεινές στιγμές τους, τα τεστ IQ έγιναν ένας ισχυρός τρόπος αποκλεισμού και ελέγχου περιθωριοποιημένων κοινοτήτων χρησιμοποιώντας μια εξειδικευμένη και επιστημονική γλώσσα».
Επιρροές και παραλλαγές: Το ιδεολογικό φάσμα TESCREAL έχει αποκτήσει τεράστια επιρροή, ειδικά σε ορισμένες ισχυρές γωνιές της βιομηχανίας της τεχνολογίας. Οι σημερινοί και πρώην δισεκατομμυριούχοι που προσυπογράφουν ή συνδέονται με μία ή περισσότερες ιδεολογίες TESCREAL και το τεχνοουτοπικό της όραμα για το μέλλον περιλαμβάνουν τους εξής: Elon Musk, Peter Thiel, Jaan Tallinn, Sam Altman, Dustin Moskovitz, Vitalik Buterin, Sam Bankman- Fried και Marc Andreessen, ο τελευταίος από τους οποίους συμπεριέλαβε το “TESCREAList” στο προφίλ του στο Twitter για αρκετές εβδομάδες το 2023. Αυτοί οι δισεκατομμυριούχοι συνίδρυσαν ινστιτούτα TESCREAList, προώθησαν ερευνητές και φιλοσόφους TESCREAL όπως ο Bostrom, ο MacAskill και ο Kurzweil, και TESCREAL προσωπικότητες του διαδικτύου όπως ο Yudkowsky που έχει υποστηρίξει ότι μπορεί να είναι απαραίτητα και στρατιωτικά πλήγματα σε datacenter, αν χρειαστεί να σταματήσει μια υποθετική Αποκάλυψη της ΤΓΝ. Συλλογικά, οι δισεκατομμυριούχοι της TESCREAL έχουν υποστηρίξει το κίνημα με δεκάδες δισεκατομμύρια δολάρια σε δωρεές και χρηματοδότηση. Όπως θα δείξουμε στο υπόλοιπο της εργασίας, το ιδεολογικό φάσμα TESCREAL ήταν μια κρίσιμη κινητήρια δύναμη πίσω από μεγάλο μέρος της καλά χρηματοδοτούμενης έρευνας και ανάπτυξης που επικεντρώθηκε στη δημιουργία ΤΓΝ. Αυτός είναι, πράγματι, ένας από τους κεντρικούς ισχυρισμούς αυτής της εργασίας: το φάσμα των ιδεολογιών που συζητήθηκαν παραπάνω, το οποίο είναι εξέλιξη του ευγονικού κινήματος του πρώτου κύματος του εικοστού αιώνα, οδηγεί τώρα έναν σημαντικό όγκο έρευνας στον τομέα της τεχνητής νοημοσύνης.
[στμ: Στο πρωτότυπο ακολουθούν δυο κεφάλαια με αρκετές αναφορές σε πρόσωπα και γεγονότα που τεκμηριώνουν επιπλέον τα πιο πάνω].Ο “αγώνας” προς μια ΤΓΝ δεν είναι μια αναπόφευκτη, ασταμάτητη πορεία προς την τεχνολογική πρόοδο, βασισμένη σε προσεκτικές επιστημονικές και μηχανικές αρχές. Είναι ένα κίνημα που δημιουργήθηκε από υποστηρικτές της φάσματος TESCREAL, οι οποίοι επιδιώκουν να «προστατέψουν την ανθρωπότητα» δημιουργώντας, σύμφωνα με τα λόγια του Altman, μια «μαγική νοημοσύνη στον ουρανό», όπως ακριβώς οι ευγονιστές του πρώτου κύματος που πίστευαν ότι μπορούσαν να «τελειοποιήσουν» το «ανθρώπινο απόθεμα» μέσω της επιλεκτικής αναπαραγωγής. Μέσω συντονισμένων εκστρατειών για την επιρροή της έρευνας και των πρακτικών χάραξης πολιτικής της τεχνητής νοημοσύνης, που χρηματοδοτούνται με δισεκατομμύρια δολάρια, οι TESCREALists έχουν κατευθύνει το πεδίο για να δώσουν προτεραιότητα στις προσπάθειες κατασκευής συστημάτων χωρίς πεδίο εφαρμογής που είναι εγγενώς μη ασφαλή και έχουν καταλήξει σε τεκμηριωμένες βλάβες σε περιθωριοποιημένες ομάδες. Όπως αναφέρθηκε από τη Nitasha Tiku (2023), η Open Philanthropy μόνο έχει ξοδέψει περισσότερα από μισό δισεκατομμύριο δολάρια σε πρωτοβουλίες που σχετίζονται με την ΤΓΝ, όπως «την προώθηση ταλέντων για την καταπολέμηση της “ψεύτικης” τεχνητής νοημοσύνης, την κατασκευή think tanks, καναλιών YouTube, διαγωνισμών, χρηματοδοτήσεων σε έρευνες και υποτροφίες».
Αυτές οι επενδύσεις πέτυχαν την νομιμοποίηση του “αγώνα” για ΤΓΝ, έτσι ώστε πολλοί φοιτητές και επαγγελματίες που μπορεί να μην ευθυγραμμίζονται με τα ουτοπικά ιδανικά του TESCREAL, εργάζονται για την προώθηση της ατζέντας ΤΓΝ επειδή παρουσιάζεται ως μια φυσική εξέλιξη στον τομέα της ΤΝ. Με τον ίδιο τρόπο που οι ευγονιστές και οι επιστήμονες της φυλής του πρώτου κύματος αναζήτησαν και πέτυχαν ακαδημαϊκή νομιμότητα για την έρευνά τους, οι TESCREALists δημιούργησαν ένα κάλυμμα επιστημονικής αυθεντίας που κάνει τις ιδέες τους πιο εύγευστες σε άκριτα ακροατήρια, και έτσι κατάφεραν να επηρεάσουν τις κατευθύνσεις των ερευνών και της πολιτικής στον τομέα της τεχνητής νοημοσύνης. Η ευγονική του πρώτου κύματος αποδείχθηκε αναποτελεσματική και καταστροφική. Αλλά όπως υποδηλώνουν οι Jean Gayon και Daniel Jacobi με τον όρο «αιώνια επιστροφή της ευγονικής», τα ευγονικά ιδανικά συνεχίζουν να επανασυσκευάζονται με διαφορετικές μορφές. Ο “αγώνας” προς μια ΤΓΝ είναι μια ακόμη προσπάθεια, που εκτρέπει τους πόρους και την προσοχή μακριά από πιθανές χρήσιμες ερευνητικές κατευθύνσεις και προκαλεί ζημιά προωθώντας μια διαδικασία επίτευξης ενός τεχνοουτοπικού ιδεώδους που δημιουργήθηκε από αυτοδιοριζόμενους «πρωτοπόρους» της ανθρωπότητας.
μετάφραση – απόδοση
Wintermute
- Αυτό το ξέρουμε: την συνείδηση των αφεντικών τους! Περισσότερα στο τεχνητή νοημοσύνη (και τεχνητή συνείδηση;), Cyborg #23 ↩︎
- Για μερικά σχόλια σχετικά με την πολιτκή οικονομία της “τεχνητής γενικής νοημοσύνης” δείτε το Mηχανικό, πολύ μηχανικό: σχόλια πάνω στην τεχνητή γενική νοημοσύνη, Cyborg #28 ↩︎
- The TESCREAL bundle: Eugenics and the promise of utopia through artificial general intelligence – First Monday, April 2024 ↩︎
- Στμ: όρος που περιγράφει τις νέες εταιρικές πολιτικές με τις οποίες οι εταιρείες ισοφαρίζουν την ζημιά που προκαλούν στον πλανήτη, κάνοντας “πράσινες ενέργειες”, βγάζοντας έτσι μηδενικό ή και θετικό πρόσημο στο αποτέλεσμα της αριθμητικής πράξης που με κάποιο τρόπο έχει καταφέρει να τα προσθαφαιρέσει όλα αυτά. ↩︎
- Στμ: Στο πρωτότυπο “net”, όπως ο οικονομικός όρος που δηλώνει τον “καθαρό μισθό” πχ – net salary. ↩︎
- Στμ: “Four Last Things”: θάνατος, κρίση, παράδεισος, κόλαση. ↩︎