Ένα μικροσκοπικό quadcopter με διάμετρο μόλις τρία εκατοστά μπορεί να μεταφέρει ένα έως δύο γραμμάρια εκρηκτικής ύλης. Μπορείς εύκολα να παραγγείλεις όσα θες από διάφορους κατασκευαστές drones στην Κίνα. Μπορείς να προγραμματίσεις τον κώδικά του ως εξής: «να χίλιες φωτογραφίες με το είδος των αντικειμένων που θέλω να στοχεύσεις». Ένα γραμμάριο εκρηκτικής ύλης μπορεί να ανοίξει τρύπα σε ατσάλι εννιά χιλιοστών, μπορείς επομένως πιθανά να ανοίξεις μια τρύπα στο κεφάλι κάποιου. Μπορείς να χωρέσεις περίπου τρία εκατομμύρια από αυτά στην καρότσα μιας νταλίκας. Μπορείς να στείλεις τρεις τέτοιες νταλίκες στον Ι-95 [ο βασικός οδικός άξονας της ανατολικής ακτής των ΗΠΑ] και θα έχεις δέκα εκατομμύρια όπλα να επιτίθενται στην Νέα Υόρκη. Δεν χρειάζεται να είναι ιδιαίτερα αποτελεσματικά, αρκεί ένα 5 ως 10% να βρει το στόχο του.
Stuart Russell,
Σύντομα θα έχουμε κατασκευαστές που θα παράγουν εκατομμύρια τέτοια όπλα και οι άνθρωποι θα μπορούν να τα αγοράζουν με τον ίδιο τρόπο που αγοράζουν τώρα συμβατικά όπλα, μόνο που εκατομμύρια συμβατικών όπλων δεν μετράνε εκτός κι αν έχεις εκατομμύρια στρατιώτες. Το μόνο που χρειάζεσαι είναι δυο-τρεις ειδικούς να γράψουν τον κώδικα και να τα ενεργοποιήσουν. Μπορείτε να φανταστείτε επομένως ότι στο εγγύς μέλλον, σε διάφορα μέρη του πλανήτη, οι άνθρωποι θα είναι κυνηγημένοι. Θα κρύβονται σε καταφύγια και θα σκαρφίζονται τεχνικές ώστε να μην αναγνωρίζονται. Αυτό είναι λοιπόν το σκοτάδι που φέρνουν τα αυτόνομα οπλικά συστήματα· και το σκοτάδι αυτό ήδη απλώνεται.
καθηγητής πληροφορικής του πανεπιστημίου Berkeley της Καλιφόρνια
Το εφιαλτικό σενάριο του Russell αφορά τα θανατηφόρα αυτόνομα οπλικά συστήματα (LAWS: lethal autonomous weapons systems). Δηλαδή όπλα που έχουν την ικανότητα να επιλέγουν και να χτυπούν στόχους από μόνα τους· δηλαδή μηχανές που μπορούν να πάρουν την απόφαση να σκοτώσουν ανθρώπους· δηλαδή ρομπότ δολοφόνοι. Ο κόσμος πιάστηκε στον ύπνο όταν ξεκίνησε η χρήση των πολεμικών drones. Τι θα συμβεί τώρα με τα LAWS;
Αν και το υποθετικό παράδειγμα του προλόγου αναφέρεται σε drones, ο κίνδυνος που επισημαίνεται δεν έχει να κάνει μόνο με αυτά. Σήμερα, η πολεμική χρήση των drones είναι πλέον κανονικότητα – τουλάχιστον δέκα κράτη τα χρησιμοποιούν επίσημα σε στρατιωτικές επιχειρήσεις. Τα αυτοδιευθυνόμενα αυτοκίνητα είναι επίσης πραγματικότητα. Πριν είκοσι χρόνια ένας υπολογιστής νίκησε τον Κασπάροφ στο σκάκι και πιο πρόσφατα ένας άλλος δίδαξε τον εαυτό του πώς να κερδίζει τους ανθρώπους στο Go, ένα κινέζικο παιχνίδι στρατηγικής που δεν περιορίζεται από μοτίβα και πιθανότητες. Τον Ιούλιο του 2016, η αστυνομία του Ντάλας έστειλε ένα ρομπότ φορτωμένο με εκρηκτικά να εξοντώσει έναν ένοπλο που είχε πυροβολήσει εναντίον αστυνομικών. 1
Αλλά με τα LAWS, σε αντίθεση με το ρομπότ του Ντάλας, ο άνθρωπος θέτει τις παραμέτρους της επίθεσης χωρίς στην πραγματικότητα να γνωρίζει τον συγκεκριμένο στόχο. Το οπλικό σύστημα ενεργοποιείται, αναζητά οτιδήποτε εμπίπτει εντός των παραμέτρων του, επιτίθεται και χτυπάει. Παραδείγματα υπαρκτά που μπορεί ακόμη να μην προκαλούν ρίγη τρόμου λόγω αδιαφορίας, είναι ολόκληροι στόλοι πολεμικών πλοίων στην θάλασσα της νότιας Κίνας, τα σύγχρονα στρατιωτικά ραντάρ των περισσότερων κρατών κι ένας μεγάλος αριθμός αρμάτων στο πεδίο της Ευρώπης· υπάρχουν, απλά δεν καταλαβαίνουμε τι σημαίνουν. Πολλαπλασιάστε τώρα όλα αυτά, προσθέστε τις ενεργές πολεμικές συρράξεις, προσθέστε τα δισεκατομμύρια που επενδύονται κατά προτεραιότητα στα σχετικά ερευνητικά προγράμματα, προσθέστε τις φιλοδοξίες και τις φοβίες των ανταγωνιζόμενων κρατών, προσθέστε την υπόγεια δράση κρατικών και παρακρατικών δομών και μπορείτε να φανταστείτε ανησυχητικές καταλήξεις: να γίνονται στόχοι όλοι οι σταθμοί ενέργειας, όλα τα σχολεία, όλα τα νοσοκομεία, όλοι οι άντρες σε ηλικία στράτευσης, όλοι οι άντρες που κουβαλάνε όπλο, όλοι οι άνθρωποι που ακολουθούν ένα συγκεκριμένο ενδυματολογικό κώδικα… Βάλτε την φαντασία σας να δουλέψει.
Ενώ αυτά ακούγονται σαν σενάρια τρόμου που πληρώνεις για να δεις στο σινεμά, τα ρομπότ δολοφόνοι θα είναι σύντομα στο κατώφλι μας χάρη στις ΗΠΑ, τη Ρωσία και την Κίνα που καθοδηγούν την κούρσα ανάπτυξής τους. «Στην πραγματικότητα δεν υπάρχει κάποια τεχνολογία που να λείπει» αναφέρει ο Russell. «Όλα τα απαραίτητα τεχνολογικά στοιχεία είναι ήδη διαθέσιμα στο εμπόριο. Είναι απλά θέμα του μεγέθους της χρηματοδότησης που θα επενδυθεί».
Τα LAWS διακρίνονται γενικά σε τρεις κατηγορίες. Με βάση μια κατηγοριοποίηση που είχε προτείνει η Human Right Watch και σήμερα είναι γενικά αποδεκτή, στην πρώτη κατηγορία ο άνθρωπος είναι εντός της διαδικασίας (human in the loop) – η μηχανή εκτελεί την αποστολή της υπό ανθρώπινο έλεγχο, φτάνει στον στόχο και περιμένει εντολή για να χτυπήσει. Στην δεύτερη, ο άνθρωπος είναι επί της διαδικασίας (human on the loop) – η μηχανή εκτελεί την αποστολή και χτυπάει τον στόχο, αλλά ο άνθρωπος μπορεί να παρέμβει, να αναιρέσει τον προγραμματισμό της και να την σταματήσει. Και τέλος στην τρίτη, ο άνθρωπος είναι εκτός διαδικασίας (out of the loop) – η μηχανή εκτελεί την αποστολή της κι αυτό είναι όλο· ούτε έλεγχος, ούτε ανάκληση, ούτε διακοπή λειτουργίας.
Η συζήτηση γύρω από τα αυτόνομα ρομποτικά όπλα δεν έχει τίποτε το μελλοντολογικό· τα LAWS είναι κατά πολλούς τρόπους ήδη εδώ. Πολλά κράτη έχουν αμυντικά συστήματα με αυτόνομες λειτουργίες που μπορούν να επιλέξουν και να χτυπήσουν στόχους χωρίς ανθρώπινη παρέμβαση – θεωρητικά αναγνωρίζουν επιθετικές ενέργειες κι ενεργοποιούνται για να τις εξουδετερώσουν. Στις περισσότερες περιπτώσεις, υπάρχει τυπικά η δυνατότητα ανθρώπινης παρέμβασης, αλλά αυτά τα οπλικά συστήματα είναι σχεδιασμένα για καταστάσεις που τα πράγματα εξελίσσονται ραγδαία, επομένως είναι πρακτικά αδύνατο να μπλοκαριστούν με ανθρώπινη πρωτοβουλία. Οι ΗΠΑ, για παράδειγμα, έχουν το σύστημα αεράμυνας Patriot για προστασία εναντίον πυραύλων, αεροπλάνων και drones, ενώ το αμερικανικό πολεμικό ναυτικό διαθέτει το ανάλογο Aegis.
Μέχρι τώρα, όσα κράτη έχουν ανοιχτά προχωρήσει στη χρήση LAWS υποστηρίζουν – εννοείται! – ότι το κάνουν για αμυντικούς λόγους· ότι η τελική απόφαση για χρήση φονικής δύναμης δεν έχει εκχωρηθεί στους αλγόριθμους της μηχανής· ότι συντελούν στον εξορθολογισμό της χρήσης βίας σε περιπτώσεις «αυτοάμυνας»· ότι επιτρέπουν στην οριστική απόσυρση απαγορευμένων όπλων, όπως οι νάρκες· ότι βελτιώνουν την ανταπόκριση σε περιπτώσεις ασύμμετρων απειλών, εκεί που ο ανθρώπινος παράγοντας υστερεί στο να αντιληφθεί έγκαιρα τον κίνδυνο. Η επιχειρηματολογία περί «αμυντικών όπλων» είναι φυσικά ατελείωτη· εξάλλου και τα πυρηνικά την «άμυνα» υπηρετούσαν. Πέρα από την προπαγανδιστική φιλολογία, η διάκριση μεταξύ «αμυντικών» κι «επιθετικών» συστημάτων που κινούνται είτε εντελώς αυτόνομα ή μετά από έγκριση κι έλεγχο, είναι ολοφάνερα θολή. Χαρακτηριστικό παράδειγμα είναι το νοτιοκορεατικό SGR-A1 (της Samsung – εκτός από state of the art έξυπνα κινητά, βγάζει κι έξυπνες κιμαδομηχανές), ένα αυτόνομο σταθερό ρομπότ, που έχει εγκατασταθεί κατά μήκος της αποστρατικοποιημένης ζώνης μεταξύ βορείου και νοτίου Κορέας και μπορεί να εξοντώσει οποιονδήποτε επιχειρήσει να κινηθεί εντός της. Το μαύρο μεταλλικό περιστρεφόμενο κουτί είναι οπλισμένο με πολυβόλο κι εκτοξευτή χειροβομβίδων. Η Νότια Κορέα υποστηρίζει ότι το ρομπότ στέλνει σήμα σε έναν χειριστή προκειμένου να ενεργοποιηθεί, επομένως υπάρχει ο ανθρώπινος παράγοντας πριν από κάθε απόφαση για χρήση πυρών, αλλά υπάρχουν πολλές μαρτυρίες ότι τα ρομπότ έχουν κι αυτόνομη λειτουργία. Ποια λειτουργία είναι κάθε φορά ενεργή; Κανείς δεν ξέρει…
Εντωμεταξύ, καθαρά επιθετικά συστήματα σε default φονική λειτουργία υπάρχουν ήδη. Πάρτε για παράδειγμα το ισραηλινό Harpy και το δεύτερης γενιάς Harop, που εισέρχεται στο πεδίο, περιπλανιέται πετώντας μέχρι να εντοπίσει κάποιο στόχο κι επιτίθεται σαν καμικάζι, μετατρεπόμενο σε βόμβα. Το Harpy είναι πλήρως αυτόνομο· το Harop είναι της κατηγορίας «human on the loop». Τον Απρίλιο του 2016 έγινε γνωστό ότι ένα ισραηλινό Harop χτύπησε ένα λεωφορείο γεμάτο αρμένιους στην περιοχή του Ναγκόρνο-Καραμπάχ, όπου Αρμενία και Αζερμπαϊτζάν συγκρούονται στρατιωτικά από την εποχή της ανεξαρτησίας των δύο κρατών. Σύμφωνα με τα ρεπορτάζ, το Ισραήλ έχει πουλήσει το καμικάζι drone σε πέντε κράτη τουλάχιστον. 2
Οι στρατοί θέλουν τα LAWS για σειρά λόγων. Καταρχήν στοιχίζουν λιγότερο από την εκπαίδευση των στρατιωτών. Επιπλέον, αυξάνουν εκθετικά τις δυνατότητες προσβολής και προβολής δύναμης. Χωρίς ανθρώπους στη μέση, τα αυτόνομα ρομπότ μπορούν να σταλθούν σε επικίνδυνες αποστολές χωρίς καν να υπολογίζεται το κόστος σε απώλειες των χειριστών τους. Επίσης, η επιλογή στόχων μέσω αλγοριθμικών επεξεργασιών θα επιτρέψει την ταχύτερη εμπλοκή ακόμη και σε μέρη όπου τα δίκτυα επικοινωνιών είναι κατεστραμμένα και δεν υπάρχει η δυνατότητα λήψης εντολών από το διοικητικό κέντρο.
Το Ισραήλ έχει ανοιχτά διακηρύξει την πρόθεση του να κινηθεί προς την πλήρη ρομποτική αυτονομία το ταχύτερο δυνατό. Η Κίνα συστηματικά αποκαλύπτει ελάχιστα σε σχέση με τις προθέσεις, τα σχέδια και τα επιτεύγματά της. Η Ρωσία το 2013 δημιούργησε την δική της εκδοχή ενός συνδυασμού της DAPRA και του εργαστηρίου ερευνών για αυτόνομα συστήματα του αμερικανικού ναυτικού, ενώ ο αναπληρωτής πρωθυπουργός Ρογκόζιν κάλεσε την ρωσική βιομηχανία να κατασκευάσει όπλα που «θα χτυπούν από μόνα τους». Η Βρετανία, η Ινδία και η Νότια Κορέα συγκαταλέγονται επίσης μεταξύ των κρατών που έχουν αυτοτελή προγράμματα σχεδίασης κι ανάπτυξης αυτόνομων ρομποτικών όπλων.
Οι ΗΠΑ είναι οπωσδήποτε μεταξύ των κρατών, αν δεν ήταν το πρώτο, που ξεκίνησαν την κούρσα απόκτησης αυτενεργούμενων ρομπότ δολοφόνων· παρόλα αυτά, στα διεθνή φόρουμ παριστάνουν ότι θέτουν όρια και φραγμούς (προκειμένου οι δολοφονικές επιθέσεις να διεξάγονται υπό ανθρώπινο έλεγχο και να μην παραδοθούν στον έλεγχο των μηχανών· αυτή είναι η «ηθική» διακύβευση!) αλλά πρόκειται για μία δόλια στάση που αποσκοπεί ξεκάθαρα στο να ξεπεραστούν προκαταβολικά οι όποιες επικρίσεις και να μπουν εμπόδια σε όσους αντιπάλους ακολουθούν.
Είναι ενδεικτικό ότι από το 2001 το αμερικανικό κογκρέσο είχε νομοθετήσει την υποχρέωση του στρατού να έχει μετατρέψει το 1/3 των οχημάτων σε αυτοδιευθυνόμενα, μη επανδρωμένα ως το 2015· ένας στόχος που δεν επιτεύχθηκε, αλλά δείχνει σαφέστατα την τάση. Το 2012, το υπουργείο άμυνας εξέδωσε την ντιρεκτίβα 3000.09 με τις γενικές προδιαγραφές των αυτόνομων οπλικών συστημάτων που μπορεί να χρησιμοποιήσει ο αμερικανικός στρατός. Σύμφωνα με αυτή, τα αμερικανικά LAWS θα σχεδιαστούν με τρόπο που να επιτρέπει στους διοικητές να ασκούν «την δέουσα ανθρώπινη κρίση πάνω στην χρήση φονικής δύναμης» από τα LAWS. Πολλοί θεώρησαν ότι με την πρόβλεψη αυτή τα αμερικανικά όπλα θα περιοριστούν τουλάχιστον στην κατηγορία «human on the loop» και δεν θα περάσουν στην πλήρη λειτουργική αυτονομία. Αλλά η ντιρεκτίβα δεν αναφέρει πουθενά, με ρητό και συγκεκριμένο τρόπο, το ενδεχόμενο ανθρώπινης απόφασης σε οποιοδήποτε στάδιο δράσης των LAWS· αντίθετα, η εύλογη ερμηνεία με βάση την οποία οργανώνει ο στρατός την τακτική του είναι ότι στα πλαίσια στρατιωτικών επιχειρήσεων, η διοίκηση μπορεί να αποφασίσει την ενεργοποίηση των LAWS και είναι στην ευθύνη της να επιβλέπει ότι δρουν με βάση τις προδιαγραφές. Για παράδειγμα, ο διοικητής των αμερικανικών δυνάμεων στο Ιράκ μπορεί να διατάξει την χρήση ρομπότ δολοφόνων εναντίον της ένοπλης αντίστασης γενικά ή για την φύλαξη στρατηγικών χερσαίων διαδρομών ή για την προστασία των αμερικανικών στρατιωτικών εγκαταστάσεων και εκ των υστέρων να επιβεβαιώσει ότι πράγματι έφεραν σε πέρας την αποστολή τους με επιτυχία και στα πλαίσια της εντολής τους. Πέρα από τις τυπικές προδιαγραφές και τις ηθικολογικές αμφισημίες περί «ανθρώπινου ελέγχου», η πάγια τακτική του αμερικανικού στρατού έτσι κι αλλιώς είναι να χαρακτηρίζει ως «ημι-αυτόνομα» τα νέα οπλικά συστήματα που πρόκειται να τεθούν σύντομα σε επιχειρησιακή ετοιμότητα, προκειμένου να αποφεύγονται οι περιττές κι αδιάκριτες ερωτήσεις. Τέτοιο παράδειγμα είναι ο πύραυλος LRASM (Long Range Anti-Ship Missile) ο οποίος κυνηγά πλοία σε μια μεγάλη ακτίνα, διακρίνει με βάση δικές του διεργασίες ποια είναι εχθρικά και ποια όχι κι αποφασίζει εν τέλει που να χτυπήσει· ο χαρακτηρισμός του είναι «ημι-αυτόνομος», οπότε δεν εμπίπτει στην κατηγορία της «δέουσας ανθρώπινης κρίσης». Το 2014, σε μία δοκιμή, ένας τέτοιος πύραυλος εκτοξεύτηκε από ένα βομβαρδιστικό B-1, μέχρι τα μέσα της αποστολής του ήταν υπό τον έλεγχο του πληρώματος, αλλά στη συνέχεια διέκοψε με δικές του ενέργειες κάθε επικοινωνία με τους χειριστές του και μπήκε σε πλήρως αυτόνομη λειτουργία. Αντίστοιχοι είναι οι βρετανικοί πύραυλοι Brimstone, που εμπίπτουν στην μεθοδολογία «fire and forget» (τους πυροδοτείς και τους ξεχνάς). Οι χειριστές του ορίζουν μόνο μία μεγάλη περιοχή δράσης και στη συνέχεια ο πύραυλος κάνει από μόνος του τη διάκριση μεταξύ στρατιωτικών και πολιτικών οχημάτων και την τελική επιλογή του στόχου του. Επιπλέον, οι πύραυλοι αυτοί μπορούν να επικοινωνούν μεταξύ τους, προκειμένου να μοιράσουν στόχους και να χτυπήσουν αποτελεσματικότερα.
Τον Νοέμβριο του 2014, το αμερικανικό υπουργείο άμυνας ανακοίνωσε την «τρίτη στρατηγική ανατροπής» (offset strategy). Η πρώτη, από το τέλος του Β’ ΠΠ μέχρι τον πόλεμο του Βιετνάμ, ήταν θεμελιωμένη στα πυρηνικά όπλα. Η δεύτερη, χοντρικά από το 1975 ως το 1989, έθετε ως προτεραιότητα την τεχνολογική ανωτερότητα ως απάντηση στην αριθμητική υπεροπλία του Συμφώνου της Βαρσοβίας, κυρίως στην Ευρώπη. Η τρίτη και τελευταία εστιάζει επίσης στην τεχνολογία, θέτοντας όμως σαν στόχο να είναι οι ΗΠΑ οι πρώτες που θα κάνουν το άλμα στο νέο τεχνολογικό παράδειγμα. Τα πεδία προσοχής έτσι όπως προσδιορίστηκαν είναι χαρακτηριστικά: ρομποτική, αυτόνομα συστήματα, big data, τεχνολογίες σμίκρυνσης, εξελιγμένες βιομηχανικές μέθοδοι που να μπορούν να ανταποκριθούν άμεσα στις στρατιωτικές απαιτήσεις και βαθύτερη συνεργασία των ενόπλων δυνάμεων με τις πρωτοπόρες επιχειρήσεις του ιδιωτικού τομέα.
Αν τα ρομποτικά αυτόνομα οπλικά συστήματα είναι το ένα σκέλος της αλλαγής παραδείγματος στις στρατιωτικές υποθέσεις, ο enhanced soldier / υπερ-στρατιώτης είναι το άλλο. Σε μία εκδήλωση του αμερικανικού think tank Atlantic Council τον Μάιο του ’16, ο αμερικανός υφυπουργός άμυνας Robert Work εξήγησε ότι οι ΗΠΑ δεν σκοπεύουν να αναπτύξουν τον Terminator. «Το σκέφτομαι περισσότερο με όρους Iron Man – την ικανότητα μιας μηχανής να υποβοηθά τον άνθρωπο, ενώ ο άνθρωπος εξακολουθεί να έχει τον έλεγχο, αλλά η μηχανή τον κάνει πολύ πιο δυνατό κι ικανό». Το μοντέλο αυτό στην στρατιωτική ορολογία ονομάζεται «centaur fighting» (στα ελληνικά θα μπορούσε να αποδοθεί ως «μάχιμη ικανότητα τύπου κενταύρου») ή συνάρθρωση ανθρώπου-μηχανής. Εδώ τα LAWS παίζουν τον ρόλο της απευκταίας, έσχατης λύσης· προκειμένου να μην υλοποιηθεί θα πρέπει το βάρος να πέσει στην πληροφορική αναβάθμιση και μηχανοποίηση των στρατιωτών. Ο στόχος, σύμφωνα με τον Work, είναι μέσω της τεχνητής νοημοσύνης και της ρομποτικής να αναβαθμιστούν κι όχι να υποκατασταθούν οι στρατιώτες. Παρόλα αυτά, συνέχισε, ανησυχεί ότι οι αντίπαλοι μπορεί να αναπτύξουν πλήρως αυτόνομα οπλικά συστήματα και σε αυτή την περίπτωση οι ΗΠΑ θα υποχρεωθούν «να εκχωρήσουν εξουσία στις μηχανές» επειδή «οι άνθρωποι απλά δεν μπορούν να δράσουν εξίσου γρήγορα». Το πρόβλημα των ΗΠΑ, κατά τον Work, είναι ότι δεν έχουν το μονοπώλιο στον καίριο παράγοντα των εξελίξεων, την τεχνολογία της πληροφορικής, η οποία κατευθύνεται σήμερα περισσότερο από τις επιχειρήσεις της αγοράς παρά τις στρατιωτικές απαιτήσεις. Και συνέχισε συγκρίνοντας την σημερινή εποχή με τον μεσοπόλεμο και καλώντας τις ΗΠΑ να μιμηθούν την γερμανική επινόηση του blitzkrieg· το μόνο που φάνηκε να ξεχνάει ήταν η κατάληξη που είχε ο ναζιστικός «αστραπιαίος πόλεμος». 3
Με τις ευλογίες και τα κεφάλαια του υπουργείου άμυνας, ο αμερικανικός στρατός έχει επιδοθεί σε κανονική κούρσα δοκιμών. Απ’ τα πιο προχωρημένα σχέδια είναι του Χ-47Β της Northrop Grumman, μόνιμου προμηθευτή του αμερικανικού στρατού. Το Χ-47Β είναι το πρώτο αυτόνομο πολεμικό αεροσκάφος που επιχειρεί από αεροπλανοφόρο. Το δοκιμαστικό μοντέλο μοιάζει να έχει βγει απευθείας από ταινία επιστημονικής φαντασίας: το καμπυλωτό, γκρίζο αεροσκάφος απογειώνεται από αεροπλανοφόρα, εκτελεί την προκαθορισμένη αποστολή του κι επιστρέφει. Πέρυσι, το Χ-47Β ανεφοδιάστηκε εν πτήσει χωρίς καμία ανθρώπινη παρέμβαση· θεωρητικά αυτό σημαίνει ότι, εκτός από τις περιπτώσεις συντήρησης, θα μπορεί να εκτελεί διαρκώς αποστολές χωρίς να προσγειώνεται ποτέ. Πράγμα που κατάφερε το Χ37-Β, το πειραματικό μοντέλο της Boeing, το οποίο ξεκίνησε το 1999 ως πρόγραμμα της NASA, αλλά το 2004 μεταφέρθηκε στο υπουργείο άμυνας και χρησιμοποιείται σε δοκιμές από την πολεμική αεροπορία (αν και η μυστικότητα που το περιβάλλει είναι τόση, ώστε είναι πρακτικά άγνωστο αν πρόκειται όντως για δοκιμές ή κανονική επιχειρησιακή δράση). Το μη επανδρωμένο αεροσκάφος μεταφέρεται στην στρατόσφαιρα από άλλο αεροσκάφος και στη συνέχεια πετά μόνο του σε τροχιά. Στην τελευταία ολοκληρωμένη αποστολή του παρέμεινε σε διαρκή πτήση δύο χρόνια, από τον Μάιο του ’15 ως τον Μάιο του ’17. Στις 7 Σεπτεμβρίου ’17 απογειώθηκε ξανά κι εξακολουθεί να πετά πάνω από τα κεφάλια μας.
Μεταξύ των νέων τεχνολογιών, μία που έχει προκαλέσει μεγάλο ενθουσιασμό είναι τα σμήνη – οπλικά συστήματα που κινούνται σε μεγάλους σχηματισμούς με έναν χειριστή κάπου μακριά μπροστά σε έναν υπολογιστή. Φανταστείτε εκατοντάδες μικρά drones να κινούνται όλα μαζί, σαν ένα θανατηφόρο κοπάδι πουλιών που θα έκανε τον εφιάλτη που σκαρφίστηκε ο Χίτσκοκ να μοιάζει παιδική χαρά. Τα όπλα επικοινωνούν μεταξύ τους προκειμένου να εκπληρώσουν μια αποστολή με μία μέθοδο που ονομάζεται συνεργατική αυτονομία. Αυτά συμβαίνουν ήδη. Πριν τρία χρόνια, ένας μικρός στόλος αυτόνομων πολεμικών πλοίων έπλευσε δοκιμαστικά στον ποταμό James. Τον Ιούλιο του ’16, το αμερικανικό γραφείο ναυτικών ερευνών δοκίμασε 30 drones σε σχηματισμό, τα οποία απογειώθηκαν από ένα πλοίο εν πλω, κατάφεραν να διαλύσουν τον σχηματισμό τους, να φέρουν σε πέρας την αποστολή τους και στη συνέχεια να ανασυνταχτούν.
Μέχρι πρόσφατα η DARPA (Defense Advanced Research Projects Agency), η υπηρεσία μητέρα του internet, ήταν στο επίκεντρο της στρατιωτικής τεχνολογίας και καινοτομίας, αλλά σήμερα πλέον οι ιδιωτικές επιχειρήσεις είναι αυτές που καθορίζουν τον ρυθμό. Τον Ιούλιο του ’16, ο τότε αμερικανός υπουργός άμυνας Ash Carter εγκαινίασε στην Βοστόνη την «πειραματική μονάδα αμυντικής τεχνολογίας» (DIUx), σχεδιασμένη να προσελκύσει τις εταιρείες τεχνολογίας στη συνεργασία με το υπουργείο άμυνας. Ήδη έχει εγκατασταθεί παράρτημα της μονάδας στην Silicon Valley. Μόνο για το 2017, ο προϋπολογισμός της DIUx ήταν 72 δις δολάρια. Από τους πρώτους στόχους του προγράμματος ήταν ο πλήρης σχεδιασμός ενός drone που να μπορεί να πετά μέσα σε κτήρια, να επιχειρεί με αυτονομία και να κινείται στο πεδίο χωρίς την βοήθεια GPS. Επίσης, η ανάπτυξη τεχνολογίας εκπαίδευσης των μηχανών ώστε να μπορούν να διατρέχουν τα εκατομμύρια των δημοσιευμάτων στα κοινωνικά δίκτυα, σε αναζήτηση συγκεκριμένων φωτογραφιών και να συγκεντρώνουν ύποπτα posts, προκειμένου να υπάρχει «έγκαιρη προειδοποίηση για εξτρεμιστικές δραστηριότητες στο διαδίκτυο».
Χωρίς να μένει πίσω, η Βρετανία αναπτύσσει το Taranis, ένα υπερηχητικό stealth drone σαν το X-47B, με τη διαφορά ότι αυτό θα επιχειρεί από το έδαφος. Η Κίνα, αν και καλύπτει με ένα πέπλο μυστικότητας τα επιτεύγματά της στην στρατιωτική τεχνολογία, δοκίμασε πρόσφατα το Αιχμηρό Ξίφος, την δική της εκδοχή υπερηχητικού stealth drone για στρατιωτική χρήση κι υπάρχουν φήμες για ένα ανάλογο πολεμικό αεροσκάφος, το Anjian (σκοτεινό ξίφος), αλλά ελάχιστα έχουν γίνει γνωστά για την ανάπτυξή του. Οι κινέζοι δοκιμάζουν επίσης μια τεχνολογία pixel για το καμουφλάζ των τανκς, που μοιάζει λες κι έχει βγει απευθείας από το Minecraft. Η Ρωσία από την μεριά της έχει το άρμα Τ-14 Armata που διαθέτει ένα τηλεχειριζόμενο πολυβολείο που περιστρέφεται 360ο. Προς το παρόν, το τανκ απαιτεί πλήρωμα τριών αντρών, αλλά η εταιρεία κατασκευής έχει ανακοινώσει ότι θα εξαλείψει την αναγκαιότητα ανθρώπινου χειρισμού μέσα στα επόμενα χρόνια. Στους ρώσικους σχεδιασμούς περιλαμβάνεται επίσης και μία πλήρως ρομποτοποιημένη μονάδα με τεχνητή νοημοσύνη που να είναι έτοιμη επιχειρησιακά μέσα στην επόμενη πενταετία. Το Ισραήλ κινείται ήδη σε αυτήν την κατεύθυνση, με την ανάπτυξη του Guardium που περιπολεί στα σύνορα. «Το Guardium στηρίζεται σε ένα μοναδικό αλγοριθμικό εξειδικευμένο σύστημα που λειτουργεί ως εγκέφαλος και παρέχει στο ρομπότ την δυνατότητα της απόφασης» διακηρύσσει η ισραηλινή αεροναυπηγική υπηρεσία στην ιστοσελίδα της.
Ο συνδυασμός όλων αυτών των εξελίξεων και των ανάλογών τους που αγνοούμε, θα οδηγήσουν αναπόφευκτα σε μια νέα κούρσα εξοπλισμών, ανάλογη με αυτή που οδήγησε στην εξάπλωση των πυρηνικών και συμβατικών διηπειρωτικών όπλων, αφού κάθε καινοτομία λειτουργεί σαν μέσο πίεσης στους ανταγωνιστές. Το θέμα δεν είναι μόνο τι πετυχαίνει κάθε κράτος στον τομέα της πολεμικής τεχνολογίας, αλλά και τι νομίζουν οι αντίπαλοί του ότι πέτυχε και τι σχεδιάζουν να κάνουν ως απάντηση.
Η ανάπτυξη των ρομποτικών οπλικών συστημάτων με αυτόνομες λειτουργίες απόφασης και σχεδιασμού είναι δεδομένο ότι δεν θα περιοριστεί αποκλειστικά στο πεδίο των πολεμικών επιχειρήσεων. Υπόσχονται τέτοια αποτελέσματα που αποκλείεται να αγνοηθούν από τις υπηρεσίες της τάξης και του ελέγχου. Εξάλλου ο στρατός ήδη δοκιμάζεται σε πολλά κράτη ως εργαλείο εσωτερικού ελέγχου – κι αν κληθεί σε μια τέτοια αποστολή, δεν θα το κάνει με κλομπς και δακρυγόνα – αλλά και οι αστυνομίες από την άλλη στρατιωτικοποιούνται όλο και συστηματικότερα. Έτσι τον Αύγουστο του 2015, η πολιτεία της Νότιας Ντακότα πέρασε έναν νόμο που επιτρέπει στην αστυνομία να εξοπλίσει τα drones της με tasers κι ελαστικές σφαίρες. Στο Τέξας, μια εταιρεία άρχισε να προωθεί το Cupid (όνομα δανεισμένο από τον φτερωτό θεό του έρωτα με το τόξο), ένα πλήρως αυτόνομο quadcopter που δρα στα πλαίσια των προδιαγραφών του πολιτειακού νόμου Stand Your Ground· εάν κάποιος μπει παράνομα στην ιδιοκτησία σου, το cupid θα του ζητήσει να φύγει κι αν αρνηθεί θα τον χτυπήσει με taser και θα συνεχίσει να τον χτυπάει μέχρι να φτάσει η αστυνομία.
Το γεγονός ότι δεν υπάρχει καμία δύναμη που να θέτει φραγμούς στην πολεμική τεχνολογία – το αντιπυρηνικό κίνημα δεν είναι παρά «αρχαία ιστορία» για να στοιχειώσει τον ύπνο των μιλιταριστών – κάνει ακόμη πιο διαπερατό το έτσι κι αλλιώς σαθρό όριο μεταξύ αστυνομικής και στρατιωτικής χρήσης των νέων οπλικών συστημάτων. Τα δακρυγόνα υποτίθεται απαγορεύονται στον πόλεμο με βάση σειρά διεθνών συμβάσεων· αυτό δεν εμπόδισε καμία αστυνομία να πνίξει στα χημικά μέχρι και ειρηνικές συγκεντρώσεις διαμαρτυρίας, κάθε φορά που το κρίνουν σκόπιμο οι δυνάμεις της δημόσιας τάξης. Πόσο μάλλον τώρα που τα ρομποτικά εργαλεία υπόσχονται τεράστια αποτελεσματικότητα με σχετικά μικρό κόστος. Χαρακτηριστικό είναι το παράδειγμα του νοτιοαφρικανικού Skunk Riot Control Copter. Το drone με τους οχτώ έλικες μπορεί να πυροβολήσει 20 σφαίρες το δευτερόλεπτο από τέσσερις κάννες, «σταματώντας οποιοδήποτε πλήθος στην πορεία του» σύμφωνα με το site της κατασκευάστριας εταιρείας. Το Skunk μπορεί να οπλιστεί με σπρέι πιπεριού, σφαίρες χρώματος ή πλαστικές σφαίρες και μπορεί να μεταφέρει μέχρι 4.000 σφαίρες και λέιζερ που προκαλούν προσωρινή τύφλωση. Διαθέτει επίσης κάμερες και μεγάφωνα. Η ζήτηση είναι τόσο μεγάλη, ώστε η εταιρεία που το φτιάχνει έστησε δύο ακόμη εργοστάσια για να ικανοποιήσει τις παραγγελίες από διάφορες υπηρεσίες ασφαλείας ανά τον κόσμο.
Εάν αυτή είναι η κατάσταση με την πληροφοροποίηση / ρομποτοποίηση του πολέμου (κι επικεντρώσαμε μόνο στα LAWS χωρίς να θίξουμε άλλες καίριες διαστάσεις, όπως για παράδειγμα ο cyberwarfare), ποιες είναι οι απαντήσεις των εχθρών της; Από την μεριά του αντιπολεμικού κινήματος, καμία! Η πρώτη εισβολή στο Ιράκ, ο «πόλεμος κατά της τρομοκρατίας», ο πόλεμος στο Αφγανιστάν, η δεύτερη εισβολή στο Ιράκ, οι εκστρατείες μέσω proxies στην Αφρική, οι ανοιχτές επεμβάσεις στην Μέση Ανατολή, βρήκαν τις πρωτοκοσμικές κοινωνίες συντεταγμένες πίσω από την πολεμική προπαγάνδα των κρατών τους· στον υπόλοιπο πλανήτη η αντίθεση στον πόλεμο πληρώνεται με αίμα… Σήμερα, αυτοί κι αυτές που έχουν χιλιάδες λόγους να εναντιώνονται στην απελευθέρωση των θηριωδών δυνατοτήτων της τεχνολογίας για τις ανάγκες του πολέμου, σιωπούν κι αδρανούν υπό το βάρος της κρίσης, αλλά και την ενσωμάτωση του Θεάματος.
Το κενό μιας αυθεντικής και σύγχρονης αντιπολεμικής απάντησης, όπως συμβαίνει σε τέτοιες περιπτώσεις, έχει προστρέξει να καταλάβει η διεθνής της «κοινωνίας των πολιτών», μέσω μη κυβερνητικών οργανώσεων. Το 2012, με πρωτοβουλία της Human Rights Watch, περίπου 60 μκο συγκρότησαν την Καμπάνια για το Σταμάτημα των Ρομπότ Δολοφόνων (Campaign to Stop Killer Robots). Πέρα από ενέργειες δημοσιοποίησης μέσω των μμε και τεκμηρίωσης με την υποστήριξη ακαδημαϊκών, το βασικό πεδίο δράσης της Καμπάνιας είναι η Convention on Certain Conventional Weapons του ΟΗΕ (στα ελληνικά αποδίδεται ως «σύνοδος για απαγόρευση ή περιορισμό χρήσης ορισμένων συμβατικών όπλων»), ένα σώμα αποτελούμενο από 125 κράτη, που λαμβάνει αποφάσεις με ομοφωνία και η μόνη άξια λόγου απόφαση που έχει να επιδείξει στην σαρανταετή ζωή της, είναι η απαγόρευση χρήσης ναρκών κατά προσωπικού, η οποία φυσικά παραβιάζεται συστηματικά χωρίς συνέπειες. Ο διάλογος που διεξάγεται με πρωτοβουλία της Καμπάνιας (στον οποίο μόλις 12 κράτη έχουν δηλώσει προκαταβολικά ότι συμφωνούν σε μια απαγόρευση των LAWS – μεταξύ αυτών η Κόστα Ρίκα, το Εκουαδόρ, η Παλαιστίνη, η Βολιβία, η Γκάνα και το Βατικανό, κράτη δηλαδή που έτσι κι αλλιώς δύσκολα θα αποκτούσαν ρομποτικά όπλα) μοιάζει χειρότερος από τον διάλογο των θεολόγων του μεσαίωνα για το φύλο των αγγέλων. Πώς διακρίνονται τα επιθετικά από τα αμυντικά LAWS; Η αφετηρία είναι έτσι κι αλλιώς άθλια: η συζήτηση περί απαγόρευσης αφορά μόνο τα «επιθετικά» συστήματα, αφήνοντας στην άκρη τα «αμυντικά»· έτσι τα ισραηλινά Harpy και Guardium έχουν χαρακτηριστεί ως αμυντικά, επομένως επιτρεπτά. Πώς ορίζεται η αυτόνομη λειτουργία ενός ρομπότ δολοφόνου; Ένα drone που πετάει πάνω από έναν αυτοκινητόδρομο του Αφγανιστάν, εντοπίζει μια αυτοκινητοπομπή και χτυπάει έναν ύποπτο που συγκαταλέγεται στη βάση δεδομένων του, δρα αυτόνομα εάν υπάρχει ένας ελεγκτής μερικές χιλιάδες χιλιόμετρα μακριά που αποκλείεται να ενεργήσει σε κλάσμα χρόνου και να το σταματήσει; Τι συνιστά ουσιαστικό ανθρώπινο έλεγχο; Απόφαση σε κάθε στάδιο λειτουργίας του ρομπότ, γενικές εντολές, οδηγίες από άλλους υπολογιστές που αυτοί όμως υπόκεινται σε ανθρώπινο έλεγχο; Μια γραφειοκρατική πελαγοδρομία, έρμαιο της διπλωματίας και των ανταγωνισμών, που είναι αδύνατο να εμποδίσει την οποιαδήποτε εξέλιξη. 4 Η εποχή των ρομπότ δολοφόνων έχει ήδη ανατείλει κι είμαστε καταδικασμένοι να την ζήσουμε στο ακέραιο…
Harry Tuttle
cyborg #11 – 02/2018
“Η επέλαση των ρομπότ δολοφόνων” στηρίχτηκε στα άρθρα:
– Killer Robots Are Coming And These People Are Trying To Stop Them
– Why Should We Ban Autonomous Weapons? To Survive
– AI Could Revolutionize War as Much as Nukes
– Στο video-ντοκιμαντέρ The Dawn of Killer Robots
– Και στην έκθεση Mapping the Development of Autonomy in Weapon Systems του Stockholm International Peace Research Institute
- Στις 8 Ιουλίου 2016 στο Ντάλας, κατά τη διάρκεια μιας ειρηνικής διαδήλωσης διαμαρτυρίας κατά της αστυνομικής βίας, μετά από επαναλαμβανόμενες δολοφονίες αφροαμερικανών από αστυνομικούς, ο 25χρονος βετεράνος του Αφγανιστάν Micah Xavier Johnson οχυρώθηκε στο ψηλότερο σημείο ενός λόφου κι άρχισε να πυροβολεί κατά των αστυνομικών, τραυματίζοντας τρεις και σκοτώνοντας πέντε. Μετά από καταδίωξη ο Johnson αποκλείστηκε στον δεύτερο όροφο ενός γκαράζ. Ύστερα από πολύωρες διαπραγματεύσεις, η αστυνομία έστειλε εναντίον του ένα ρομπότ που χρησιμοποιείται σε απενεργοποιήσεις βομβών, τροποποιημένο ώστε να κουβαλάει έναν εκρηκτικό μηχανισμό. Όταν πλησίασε τον Johnson, ενεργοποίησε τον μηχανισμό σκοτώνοντάς τον. Μολονότι ήταν ένας απλός ρομποτικός μηχανισμός, χειριζόμενος από μακριά, η περίπτωση του Ντάλας θεωρείται ως η «πρώτη επίσημη» χρήση ρομπότ δολοφόνου από αστυνομική δύναμη. ↩︎
- Διαβάστε στο παράρτημα το ρεπορτάζ της Washington Post «Ισραηλινό καμικάζι-drone εντοπίστηκε στις συγκρούσεις στο Ναγκόρνο-Καραμπάχ». ↩︎
- Για μια ενδεικτική καταγραφή των εξελίξεων σχετικά με τον enhanced soldier διαβάστε στο παράρτημα το άρθρο του Wired «Ο στρατιώτης του μέλλοντος θα είναι ενισχυμένος και άτρωτος». ↩︎
- Το 1889 υπογράφτηκε στη Χάγη μια διεθνής συνθήκη που μεταξύ άλλων περιελάμβανε την απαγόρευση χρήσης εναέριων μέσων για επιθετικούς σκοπούς στο πόλεμο. Η ισχύς της συνθήκης έληξε το 1907, τη συνέχεια τη ξέρετε… ↩︎