Προγνωστική επιτήρηση: η πρόληψη είναι η καλύτερη θεραπεία (της καταστολής)

Δεν είναι κάτι καινούριο ότι η επιτήρηση έχει πάντα προγνωστικά / προληπτικά χαρακτηριστικά – και πειθαρχικό χαρακτήρα. Το κράτος πρέπει να επιβλέπει και να γνωρίζει όσο περισσότερα γίνεται για τα άτομα (και τις σχέσεις τους) που έχει υπό την εξουσία του, ώστε να μπορεί να ελέγχει και να παρεμβαίνει όπου και όπως θεωρεί σωστό, ώστε να διατηρεί αυτή την εξουσία του. Θα ήταν αφελές να θεωρήσει κανείς ότι μπορεί να υπάρξει κράτος χωρίς επιτήρηση και εξουσία χωρίς καταστολή.

Καθώς η τεχνολογία εξελίσσεται, οι τεχνικές της επιτήρησης κάνουν τα αντίστοιχα άλματα, όχι τόσο με μια αντικατάσταση των παλιών, αλλά μάλλον με την συμπλήρωσή τους: από τον ασφαλίτη στην γειτονιά, στην πορεία ή και πιο κοντά, την καταγραφή πληροφοριών σε αρχεία και φακέλους και την μαγνητοφώνηση τηλεφωνικών κλήσεων, στις κάμερες στους δρόμους, την καταγραφή της διαδικτυακής συμπεριφοράς, τα (αντι)κοινωνικά δίκτυα, τα κινητά τηλέφωνα και γενικά το ψηφιακό φακέλωμα σε ψηφιακές βάσεις δεδομένων, με την ταξινόμηση / αναζήτηση να γίνεται πλέον επίσης ψηφιακά και αλγοριθμικά. Επιπλέον, με την εμφάνιση των αλγόριθμων μηχανικής “μάθησης” και τεχνητής “νοημοσύνης”, αυτή η ταξινόμηση / αναζήτηση γίνεται ακόμα πιο αυτοματοποιημένη και εμπλουτίζεται – λένε – με την δυνατότητα της αυτόματης “πρόβλεψης”.

Οι αγγλικές αρχές, με ένα πρόγραμμα που ξεκίνησε τον Γενάρη του 2023, έχουν σκοπό να κατασκευάσουν ένα σύστημα πρόβλεψης ανθρωποκτονιών. Το Homicide Prediction Project όπως ονομάζεται, χρησιμοποιεί δεδομένα της αστυνομίας και του κράτους για να σχηματίσει τα προφίλ ανθρώπων με στόχο να προβλέψει ποιός είναι πιθανό να διαπράξει ένα φόνο. Το πρότζεκτ είναι μια συνεργασία μεταξύ του υπουργείου δικαιοσύνης, του υπουργείου εσωτερικών, της αστυνομίας του Μάντσεστερ και της αστυνομίας του Λονδίνου.

Τα δεδομένα που χρησιμοποιούνται περιλαμβάνουν πληροφορίες για εκατοντάδες χιλιάδες υπόπτους, θύματα, μάρτυρες, αγνοούμενους και ανθρώπους για τους οποίους υπάρχουν “ανησυχίες ασφάλειας”. Περιλαμβάνουν επίσης πληροφορίες για άτομα σε “ευάλωτες καταστάσεις”, με το υπουργείο δικαιοσύνης να δηλώνει ότι τα “δεδομένα υγείας” αναμένεται να έχουν σημαντική “προγνωστική ισχύ”. Αυτά τα δεδομένα αφορούν την ψυχική υγεία των ανθρώπων, τον εθισμό, την τάση ή περιστατικά αυτοτραυματισμού / αυτοκτονίας, την “ευαλωτότητα” και την “αναπηρία”.

Ακόμα ένα, το σύστημα αξιολόγησης παραβατών OASys, “τρέχει” από το 2001 και τα τελευταία χρόνια χρησιμοποιεί τεχνητή “νοημοσύνη” για να προσδιορίσει και να ταξινομήσει τις παραβάσεις και να αξιολογήσει τον κίνδυνο επανάληψής τους. Μέχρι τις αρχές του 2025 είχε περισσότερες από επτά εκατομμύρια βαθμολογίες που καθορίζουν τον υποτιθέμενο κίνδυνο επανάληψης του αδικήματος των ατόμων που διατηρούνται στη βάση αυτή, ενώ σε μόλις μία εβδομάδα, από τις 6 Ιανουαρίου έως τις 12 Ιανουαρίου 2025, ολοκληρώθηκαν συνολικά 9.420 αξιολογήσεις. Αυτές τις αξιολογήσεις, θεωρούνται να έχουν την μεγαλύτερη επιρροή στον τρόπο διαχείρισης των υποθέσεων – στις διακαστικές αποφάσεις, τις καταδίκες, τις αναστολές κλπ – και περιλαμβάνουν στοιχεία που συμπληρώνονται από έναν υπάλληλο της υπηρεσίας των φυλακών, τα οποία χωρίζονται σε κατηγορίες: ανάλυση αδικήματος, κατάλυμα, εκπαίδευση, κατάρτιση και απασχόληση, διαχείριση οικονομικών και εισόδημα, σχέσεις, τρόπος ζωής και συνεργάτες, ναρκωτικά, αλκοόλ, συναισθηματική ευεξία, σκέψη και συμπεριφορά, υγεία.

Ο Sobanan Narenthiran, πρώην κρατούμενος και τώρα διευθυντής του Breakthrough Social Enterprise, ενός οργανισμού που βοηθάει πρώην κρατούμενους και άλλες κοινωνικά ευάλωτες ομάδες να εξοικειωθούν με την τεχνολογία και να βρουν εργασία, αναφέρει σχετικά: “Ο δομικός ρατσισμός και άλλες μορφές συστημικής μεροληψίας ενσωματώνονται στις αξιολογήσεις κινδύνου του OASys. Οι πληροφορίες που εισάγονται εκεί επηρεάζονται σε μεγάλο βαθμό από την μεροληπτική αστυνόμευση και την υπερβολική επιτήρηση συγκεκριμένων κοινοτήτων. Αυτή είναι μια κλασική περίπτωση “σκουπίδια βάζεις, σκουπίδια βγάζεις”. Οι συγκρατούμενοί μου με προειδοποιούσαν για την αξιολόγηση του OASys, εξήγησαν πώς η ειλικρίνεια μπορεί να οδηγήσει σε τιμωρία. Εάν μιλάς πολύ ελεύθερα για τους “παράγοντες κινδύνου” στη ζωή σου, την εξέλιξή σου, είναι πολύ πιθανό τα προνόμιά σου και οι πιθανότητες αποφυλάκισης να μειωθούν σημαντικά. Για να αμφισβητήσω μια λανθασμένη αξιολόγηση, χρειάστηκε να τροποποιήσω τις πληροφορίες που καταγράφηκαν στο OASys και αυτή είναι μια απογοητευτική και συχνά αδιαφανής διαδικασία. Σε πολλές περιπτώσεις, τα άτομα είτε δεν γνωρίζουν τι έχει γραφτεί γι’ αυτά είτε δεν τους δίνονται ευκαιρίες να επανεξετάσουν και να απαντήσουν στην αξιολόγηση τους.”

Ένας άλλος κρατούμενος που εκτίει ισόβια, δήλωσε ότι “είναι σαν μια χιονόμπαλα που κατρακυλά σε ένα βουνό. Κάθε στροφή μαζεύει όλο και περισσότερο χιόνι (ανακριβείς καταχωρήσεις) μέχρι που τελικά μένεις με αυτήν την τεράστια χιονόμπαλα που δεν έχει καμία σχέση με την αρχική. Με άλλα λόγια, δεν υπάρχω πια. Έχω γίνει κατασκεύασμα της φαντασίας τους. Είναι η απόλυτη πράξη απανθρωποποίησης.”

Παρά τις αντιδράσεις σχετικά με την ισότητα και τις διακρίσεις, τα δικαιώματα μιας δίκαιης δίκης και την δυνατότητα επανεξέτασης, το υπουργείο δικαιοσύνης συνεχίζει να χρησιμοποιεί τις αξιολογήσεις του OASys σε όλες τις υπηρεσίες φυλακών και παράλληλα αναπτύσσει ένα νέο σύστημα (Assess Risks, Needs and Strengths – ARNS) για να αντικαταστήσει το OASys, το οποίο βρίσκεται σε πιλοτική φάση από τον Δεκέμβριο του 2024, με σκοπό να διατεθεί σε πλήρη λειτουργία το 2026. Το ARNS φτιάχνεται από το υπουργείο δικαιοσύνης σε συνεργασία με την Capita, η οποία επί του παρόντος παρέχει τεχνική υποστήριξη στο OASys και είναι μια από τις μεγαλύτερες εταιρείες-εργολάβους για τον δημόσιο τομέα στην αγγλία, όπου μεταξύ άλλων έχει και τη σύμβαση για τα ηλεκτρονικά βραχολάκια των κρατουμένων που βρίσκονται σε κατ’οίκον περιορισμό, από το 2014. Η εταιρεία επίσης προμηθεύει την αστυνομία της αγγλίας με το COSAIN, ένα εργαλείο επιτήρησης των μέσων κοινωνικής δικτύωσης, για την παρακολούθηση ακτιβιστών.

Η Capita είναι ουσιαστικά η αγγλική Palantir¹. Και φαίνεται να έχει ένα αδυσώπητο τμήμα μάρκετινγκ. Ενώ ουσιαστικά συμβάλει στην διαχείριση των μεταναστών, στην επιτήρηση και καταστολή των κινημάτων αλλά και γενικά στην παρακολούθηση και αστυνόμευση ολόκληρων κοινωνιών, δημοσίευσε το παρακάτω σχήμα, λίγο μετά την δολοφονία του Φλόυντ στην αμερική, για να μας ενημερώσει για τις ρίζες του προβλήματος. Οι οποίες, σύμφωνα με αυτή, είναι όλες οι καθημερινές μικρο-συμπεριφορές που φτάνουν να γίνουν “ρατσιστικό μίσος” και έγκλημα. Άρα, τί θα έπρεπε να γίνει, αναρωτιόμαστε εμείς. Μα βέβαια να επιτηρούνται και να καταγράφονται όλες αυτές οι μικρο-συμπεριφορες, θα έλεγε η εταιρεία! Ή μήπως καλύτερα να “προβλέπονται” κιόλας, όσα βρίσκονται στην κορυφή της πυραμίδας, με βάση όσα βρίσκονται από κάτω; Χμ…

Γαλλία²

Η γαλλική αστυνομία μπορεί δικαίως να ισχυριστεί ότι είναι πρωτοπόρος στον τομέα της λεγόμενης “προγνωστικής” αστυνόμευσης. Ήδη από το 1829, ένας νεαρός νομικός εμπειρογνώμονας από το Υπουργείο Δικαιοσύνης, ο André-Michel Guerry, ξεκίνησε να συλλέγει δεδομένα για την εγκληματικότητα στο Παρίσι. Το έργο του, Compte général de l’administration de la justice criminelle en France (Γενικός απολογισμός της απονομής της ποινικής δικαιοσύνης στη Γαλλία), ήταν μέρος του πρώτου εθνικού συστήματος στον κόσμο για την συγκέντρωση δεδομένων για την εγκληματικότητα. Αυτή η στατιστική βάση δεδομένων βασίστηκε σε δεδομένα που συλλέγονταν τριμηνιαίως σε κάθε γαλλική νομαρχία. Περιείχε λεπτομέρειες για κάθε εγκληματική πράξη που φερόταν ενώπιον των γαλλικών δικαστηρίων, όπως ηλικία, φύλο, επάγγελμα του κατηγορουμένου, φύση του εγκλήματος κλπ. Ο Guerry έστρεψε στη συνέχεια την προσοχή του στα εγκληματολογικά δεδομένα και στις “κοινωνικές συμπεριφορές” που πίστευε ότι καθόριζαν το έγκλημα. Αργότερα θα δημιουργούσε αυτό που είναι γνωστό ως “ηθική στατιστική”, τον κλάδο πίσω από την ανάπτυξη της εγκληματολογίας. Σήμερα, μαζί με τον κοινωνιολόγο Adolphe Quetelet, ο Guerry θεωρείται ο ιδρυτής της εγκληματολογίας. Το 1829, σε συνεργασία με τον Βενετό γεωγράφο Adriano Balbi, ο Guerry δημοσίευσε έναν χάρτη που έδειχνε τη σχέση μεταξύ του επιπέδου εκπαίδευσης του γαλλικού πληθυσμού και του εγκλήματος κατά προσωπικών και περιουσιακών στοιχείων στη Γαλλία.

Το 1830, επαναστατικά γεγονότα ανέτρεψαν την Παλινόρθωση και εγκαθίδρυσαν το πιο φιλελεύθερο καθεστώς της Ιουλιανής Μοναρχίας. Το νέο καθεστώς διόρισε τον Guerry ως Διευθυντή Ποινικών Στατιστικών, ενός νέου τμήματος του Υπουργείου Δικαιοσύνης. Το 1832, σε ηλικία 29 ετών, ο Guerry δημοσίευσε το έργο του “Essai sur la statistique morale de la France”, το οποίο θεωρείται το κύριο έργο του. Αυτό το δοκίμιο περιέχει πολλούς ακόμα εγκληματολογικούς χάρτες που δείχνουν τις σχέσεις μεταξύ εγκλήματος και κοινωνικών και ηθικών παραμέτρων: ποσοστά εγκληματικότητας και πλούτου, ποσοστά αυτοκτονιών, δωρεές στους φτωχούς, παράνομες γεννήσεις, ηλικιακή κατανομή των εγκληματιών και ούτω καθεξής. Αυτό το έργο οδήγησε στην αυξανόμενη αναγνώρισή του σε όλη την Ευρώπη.

Ο Guerry ήταν επίσης ο εφευρέτης του ordonnateur statistique, μιας μηχανής που του επέτρεπε να δημιουργεί σχέσεις μεταξύ στατιστικών παραμέτρων. Ο ordonnateur βασιζόταν στις κλασικές στατιστικές μεθόδους της συσχέτισης και της ανάλυσης παλινδρόμησης. Αυτές αργότερα θα χρησιμοποιούνταν ευρέως στην εγκληματολογία, αλλά ήταν ακόμη υπανάπτυκτες εκείνη την εποχή. Οι στατιστικές συγκρίσεις που έκανε ο Guerry χρησιμοποιώντας αυτή τη μέθοδο τον οδήγησαν να διαπιστώσει σχέσεις μεταξύ τύπων εγκλημάτων και διαφόρων πιθανών αιτιών ή συσχετίσεων. Από την εποχή του Guerry, η εγκληματολογία στη Γαλλία και σε όλο τον κόσμο συνέχισε να κάνει εκτεταμένη χρήση γεωγραφικών προσεγγίσεων στο έγκλημα. Αυτό ισχύει ιδιαίτερα στην προγνωστική εγκληματολογία. Τα συστήματα που καταφέραμε να αναλύσουμε για αυτήν την έκθεση βασίζονται επίσης σε γεωγραφικούς χάρτες εγκληματικότητας, με θερμικούς χάρτες ή “θερμά σημεία” που αντιπροσωπεύουν τα ποσοστά εγκληματικότητας. Τα περισσότερα από αυτά τα συστήματα περιλαμβάνουν επίσης το ισοδύναμο των “κοινωνικών και ηθικών” παραμέτρων του Guerry. Αυτές πλέον αναφέρονται συχνότερα ως κοινωνικο-οικονομικοί ή κοινωνικο-δημογραφικοί στατιστικοί δείκτες, όπως:

• επίπεδα ανεργίας
• εγγραφή σε σχολεία
• επίπεδο εκπαίδευσης
• αριθμός κοντινών καταστημάτων
• μέση ηλικία
• μέσο εισόδημα νοικοκυριού
• φύλο
• δεδομένα εθνικότητας και μετανάστευσης
• σύνθεση νοικοκυριού

Ωστόσο, ενώ η έρευνα του Guerry ανέδειξε συσχετίσεις σε περιφερειακή κλίμακα, τα προγνωστικά συστήματα αστυνόμευσης επικεντρώνονται πλέον σε πολύ μικρότερες γεωγραφικές μονάδες. Όσον αφορά την ποσότητα των επεξεργαζόμενων στατιστικών δεδομένων και την ταχύτητα με την οποία αυτές οι διαδικασίες επηρεάζουν τις αστυνομικές πρακτικές, είναι ασύγκριτες με τις πρακτικές του Guerry του 19ου αιώνα. Αυτή η εξαιρετικά αυξημένη ποσότητα και ταχύτητα μπορεί να δημιουργήσει και να επιδεινώσει φαύλους κύκλους ανατροφοδότησης (αυτοενισχυόμενα φαινόμενα), με την πιθανότητα ενίσχυσης των δομικών διακρίσεων.

Τέλος, τα αποτελέσματα του Guerry έρχονταν σε αντίθεση με τις επικρατούσες πολιτισμικές πεποιθήσεις της εποχής: ότι δηλαδή το έγκλημα διαπράττεται σε μεγάλο βαθμό από αμόρφωτους και χαμηλού εισοδήματος ανθρώπους· άποψη που είχε διαμορφωθεί σε μεγάλο βαθμό από την αστική τάξη. Αντίθετα, τα σύγχρονα “προγνωστικά” συστήματα ενισχύουν τα επικρατούντα εγκληματολογικά αξιώματα στα μοντέλα τους, παρόλο που έχουν σε μεγάλο βαθμό ακυρωθεί από την κοινωνιολογία. […] Εδώ έχουμε συγκεντρώσει πληροφορίες για προγνωστικά συστήματα που χρησιμοποιούνται από την γαλλική αστυνόμια:

Το Risk Terrain Modelling (RTM) είναι ένα σύστημα “πρόληψης του εγκλήματος ανα περιοχή” που χρησιμοποιείται από την αστυνομία του Παρισιού, το οποίο τσεκάρει περιοχές με βάση τα “περιβαλλοντικά” δεδομένα, όπως η παρουσία σχολείων, τα καταστήματα, οι σταθμοί μετρό, οι δημόσιες τουαλέτες, ο φωτισμός, τα δέντρα, τα παγκάκια κ.α. Δεν φαίνεται να περιλαμβάνει κοινωνικο-δημογραφικά δεδομένα για τις επιλεγμένες γεωγραφικές περιοχές ωστόσο, τα δεδομένα που χρησιμοποιεί σε μια περιοχή μπορούν να λειτουργήσουν ως συμπληρωματικό για κοινωνικο-δημογραφικά στοιχεία, όπως η παρουσία και η πυκνότητα στα εστιατόρια ή τις κοινωνικές κατοικίες.

Το 2020, λάβαμε γνώση ενός από τα πρώτα προγνωστικά συστήματα αστυνόμευσης που αναπτύχθηκαν στη Γαλλία: το MapRevelation, το οποίο κυκλοφόρησε στην αγορά από την εταιρεία Sûreté Globale. Η εταιρεία είχε παράσχει το σύστημα στις δημοτικές αστυνομίες των εξής πόλεων: Montpellier, Lyon, Lille, Villeurbanne, Montauban, Angers, Colombes and Melun Val de Seine. Εκείνη την εποχή, καταφέραμε να βρούμε το εγχειρίδιο από την πόλη του Montpellier. Ο ιστότοπος της εταιρείας ανέφερε επίσης άλλες χρήσεις. Η συνοριακή αστυνομία είχε χρησιμοποιήσει το λογισμικό το 2010 για να “παράγει στατιστικούς πίνακες ελέγχου σχετικά με τη ροή παράνομων μεταναστών”. Η αστυνομία του Παρισιού το είχε χρησιμοποιήσει το 2011 για να “προσδιορίσει περιοχές συγκέντρωσης εγκληματικότητας” την παραμονή της Πρωτοχρονιάς. Το 2015, η στρατοαστυνομία ανέπτυξε το σύστημα εντός του δικαστικού της μηχανισμού και προοριζόταν για “ποινική ανάλυση σύνθετων υποθέσεων και υποστήριξη στην λήψη αποφάσεων για το ανώτερο προσωπικό”. Από το 2023, έχει ανανεωθεί το ενδιαφέρον για το MapRevelation. Πηγές μας έχουν αναφέρει ότι το σύστημα σχεδιάστηκε από τον Christophe Courtois, διευθυντή της εταιρείας Sûreté Globale. Λέγεται επίσης ότι το MapRevelation έχει εκπαιδευτεί σε μια βάση δεδομένων “τρομοκρατίας” για την πρόβλεψη επιθέσεων, καθώς και σε δεδομένα που διατηρούνται από τις αρχές που το χρησιμοποιούν.

Όπως και το Risk Terrain Modelling, ο αλγόριθμος του MapRevelation φαίνεται να βασίζεται στην αρχή του περιβαλλοντικού ντετερμινισμού, σύμφωνα με τον οποίο οι περιβαλλοντικοί παράγοντες σε μια περιοχή θεωρούνται ότι συμβάλλουν σημαντικά στο έγκλημα. Βασίζεται επίσης στη θεωρία της πρόληψης του εγκλήματος, η οποία λαμβάνει υπόψη διάφορους παράγοντες, όπως την παρουσία των λεγόμενων “κινητοποιημένων” ατόμων, το “εγκληματογόνο” περιβάλλον, την απουσία αστυνομίας και άλλων πιθανών “αποτρεπτικών μέσων” για το έγκλημα. Η άλλη εγκληματολογική θεωρία που στηρίζει το μοντέλο είναι η συχνότητα του φαινομένου του εγκλήματος. Αυτό συνάγεται χρησιμοποιώντας γεωγραφικά δεδομένα προηγούμενων εγκλημάτων και ένα στατιστικό μοντέλο που τροφοδοτείται από επιπλέον δεδομένα εκπαίδευσης.

Το PredVol είναι ένα σύστημα που αναπτύχθηκε το 2015 κυρίως από τον Florian Gauthier, έναν νεαρό επιστήμονα δεδομένων που προσλήφθηκε προσωρινά από το πρόγραμμα δημόσιων δεδομένων Etalab της γαλλικής κυβέρνησης, για την αξιολόγηση του κινδύνου κλοπής αυτοκινήτων και δοκιμάστηκε στην περιφέρεια Val d’Oise το 2016 αλλά καταργήθηκε έως το 2018. Το PredVol “προσέφερε στους αστυνομικούς μια καθημερινή πρόβλεψη του κινδύνου κλοπής αυτοκινήτων, έναν χάρτη του ιστορικού κλοπής αυτοκινήτων και μια τυπολογία των γειτονιών ανάλογα με τη φύση των αδικημάτων που διαπράττονται εκεί”, σύμφωνα με τον Gauthier. Ο κύριος σκοπός του λογισμικού ήταν να καθοδηγήσει τις αστυνομικές περιπολίες σε προβλεπόμενες περιοχές κινδύνου, καθώς τα δεδομένα του 2014 από την νομαρχία Oise καταδείκνυαν αποκλίσεις μεταξύ των ζωνών περιπολίας και των ζωνών κλοπής αυτοκινήτων.

Το PAVED είναι μια πλατφόρμα ανάλυσης που χρησιμοποιεί τεχνητή νοημοσύνη για να “προβλέψει” δύο είδη εγκλημάτων – κλοπές οχημάτων και διαρρήξεις – με ακρίβεια δρόμου για τις επόμενες ημέρες, με μέγιστο διάστημα έως και μία εβδομάδα. Αναπτύχθηκε από τη στρατοαστυνομία το 2017, δοκιμάστηκε από το 2018 σε διάφορες μητροπόλεις και το 2019, λίγο πριν την διάθεσή του σε εθνικό επίπεδο, το έργο τέθηκε “σε αναμονή”.

Ο συνταγματάρχης Perrot δημοσίευσε το πρώτο ερευνητικό άρθρο για το PAVED το 2014. Στο άρθρο, δικαιολογεί την ανάγκη για εργαλεία πρόβλεψης εγκλημάτων: “Το έγκλημα, εγγενές στην ανθρώπινη ιστορία, εξελίσσεται και μεταλλάσσεται διαρκώς. Στον τομέα της ανάλυσης του εγκλήματος, η επιστημονική προσέγγιση μας επιτρέπει να αναπτύξουμε τεχνικές μοντελοποίησης ικανές να κατανοήσουν και να προετοιμάσουν τις μελλοντικές εξελίξεις. Η έννοια της πρόβλεψης είναι πλέον καθοριστικός παράγοντας στον τομέα του εγκλήματος”. Το ερευνητικό άρθρο είναι η προσπάθεια του Perrot να μοντελοποιήσει μαθηματικά την κοινωνική πραγματικότητα του εγκλήματος. Η προσέγγισή του έχει ως στόχο την ανίχνευση του εγκλήματος περιγράφοντας τα πρόδρομα σημάδια ενός γεγονότος. Αυτά τα ασθενή σήματα (για παράδειγμα, η εισαγωγή ενός νέου τύπου ναρκωτικού ή η αύξηση της τιμής του χαλκού) μοντελοποιούνται χρησιμοποιώντας μια μαθηματική προσέγγιση. Δεύτερον, επιχειρεί να κατανοήσει τις υποτιθέμενες αιτίες του εγκλήματος αναλύοντας πιθανές μεταβλητές και μετρώντας την επιρροή τους στην εξέλιξη του παρατηρούμενου γεγονότος. Τέλος, επιδιώκει να προβλέψει το έγκλημα προβλέποντας τη χρονική εξέλιξη συγκεκριμένων τύπων αδικημάτων μέσω της μαθηματικής μελέτης χρονοσειρών. Αυτό που είναι εντυπωσιακό είναι ότι, παρά τις θεωρητικές σκέψεις, ο Perrot δεν προσφέρει καμία πειστική απόδειξη ή εξήγηση, απλώς στατιστικές συσχετίσεις. Ούτε αναφέρεται σε κάποια προηγούμενη έρευνα προς αυτή την κατεύθυνση. Με αυτόν τον τρόπο διατρέχει τον κίνδυνο να συγχέει τη συσχέτιση με την αιτιώδη συνάφεια. Βασίζεται επίσης σε κοινωνικο-δημογραφικές μεταβλητές που εντείνουν τις δομικές διακρίσεις.

Το Smart Police είναι ένα σύστημα που αναπτύχθηκε από τη γαλλική startup Edicia η οποία, σύμφωνα με την ιστοσελίδα της, το έχει πουλήσει σε 470 δήμους σε όλη τη γαλλία. Αρχικά δεν περιελάμβανε προβλεπτική λειτουργία, αλλά ήταν μια πλατφόρμα για να γράφονται αναφορές στο πεδίο χρησιμοποιώντας τηλέφωνά ή tablet, να εισάγονται φωτογραφίες, να αναφέρονται συμβάντα ή να συντάσσονται επίσημες αναφορές. Η πλατφόρμα επιτρέπει επίσης στους διοικητές να παρακολουθούν τις ομάδες πεδίου από τα γραφεία τους, να χαρτογραφούν τα υμβάντα, να συμβουλεύονται τις αναφορές τους και να λαμβάνουν διάφορους στατιστικούς δείκτες σε πραγματικό χρόνο. Μπορούν επίσης να βλέπουν φωτογραφίες που τραβήχτηκαν κατά τη διάρκεια μιας επέμβασης (π.χ. κατά τη διάρκεια μιας διαδήλωσης).

Από το 2014, η Edicia αναβάθμισε το λογισμικό Smart Police περιλαμβάνοντας την “πρόβλεψη”, με βάση μοντέλα κινδύνου τα οποία αναπτύσσονταν σε συνεργασία με το εργαστήριο πληροφορικής στο πανεπιστήμιο Nantes Atlantique. Ο διευθυντής μάρκετινγκ της Edicia δήλωσε: “Το εργαλείο μας επιτρέπει να συλλέγουμε δεδομένα που προέρχονται από φήμες σε πλατφόρμες κοινωνικής δικτύωσης, να αξιολογούμε αυτά τα δεδομένα και στη συνέχεια να στέλνουμε δυνάμεις, με το εργαλείο να διαχειρίζεται επίσης τη διαθεσιμότητα των δυνάμεων. Επεξεργαζόμαστε αυτά τα δεδομένα με έναν εκτιμητή κινδύνου. Για παράδειγμα, εάν υπάρχει φήμη για ένα μεγάλο πάρτι, θα μπορούσε να συγκεντρώσει 10.000 άτομα εάν ο καιρός είναι καλός, αλλά μόνο 2.000 εάν δεν είναι. Εάν έχουν τις πληροφορίες, οι υπεύθυνοι ασφαλείας θα είναι σε θέση να αναπτύξουν τους κατάλληλους πόρους.”

Το 2018 η εταιρεία υπέβαλε δίπλωμα ευρεσιτεχνίας για αυτό το προγνωστικό στοιχείο του λογισμικού της, με τίτλο “Διαδικασία και σύστημα επιτήρησης και πρόληψης δυσλειτουργιών στην εδαφική ασφάλεια”. Η προγνωστική λειτουργεία της πλατφόρμας αναπτύχθηκε μέσω μιας διδακτορικής διατριβής που χρηματοδοτήθηκε από τη Γενική Διεύθυνση Εξοπλισμών του Γαλλικού Υπουργείου Άμυνας. Το δίπλωμα ευρεσιτεχνίας περιγράφει το σύστημα ως εξής: “Ένα σύστημα για την παρακολούθηση και την πρόληψη δυσλειτουργιών σε μια περιοχή που αποτελείται από πλήθος διασυνδεδεμένων περιοχών, καθεμία από τις οποίες περιλαμβάνει στοιχεία προς παρακολούθηση. Κάθε περιοχή είναι εξοπλισμένη με πλήθος αισθητήρων προσαρμοσμένων ώστε να παρέχουν σήματα μέτρησης αντιπροσωπευτικά της παραβίασης μιας ιδιότητας των στοιχείων που πρόκειται να παρακολουθούνται σύμφωνα με προκαθορισμένους κανόνες.”

Η πατέντα είναι ασαφής ως προς την ακριβή λειτουργία του συστήματος. Το μόνο που αναφέρεται είναι η οπτικοποίηση των υπαρχόντων “φραγμών πρόληψης” (οχήματα, περιπολίες, συναγερμοί κλπ.) και των “μέσων δράσης”, τα οποία, σε περίπτωση κινδύνου σε μια δεδομένη περιοχή, καθιστούν δυνατό τον έλεγχο του κατά πόσον οι πεζές περιπολίες, τα οχήματα και άλλα “φράγματα πρόληψης” είναι σύμφωνα με τη φύση και τον βαθμό των εντοπισμένων κινδύνων. Η πατέντα αναφέρει επίσης δεδομένα πολεοδομικού σχεδιασμού (αντηχώντας για άλλη μια φορά την προσέγγιση RTM), περιβαλλοντικά και μετεωρολογικά δεδομένα, μελλοντικά εθνικά και τοπικά γεγονότα, κοινωνικο-δημογραφικά και εκλογικά δεδομένα και άλλα.

Τον Νοέμβριο του 2017, το δημοτικό συμβούλιο της Μασσαλίας ανακοίνωσε δημόσια τη δημιουργία του Observatoire du Big Data de la Tranquillité publique (Παρατηρητήριο Μεγάλων Δεδομένων για τη Δημόσια Ασφάλεια). Η τεράστια γεωγραφική περιοχή της Μασσαλίας έχει συνολικά περίπου ένα εκατομμύριο κατοίκους. Σύμφωνα με τους όρους της συνεργασίας με την νομαρχία Bouches-du-Rhône, η εταιρεία Engie Inéo (τώρα Engie Solutions) ανέπτυξε μια πλατφόρμα κοινής χρήσης δεδομένων που ονομάζεται M-Pulse. Αυτή διαθέτει μια διαδικτυακή διεπαφή για δημοτικές και εθνικές υπηρεσίες ασφαλείας. Μετά το lockdown λόγω του κορονοϊού τον Μάρτιο του 2020 και τις αλλαγές στην δημοτική ηγεσία τον Ιούνιο του 2020, το έργο συνεχίστηκε με μια νέα πολιτική αφήγηση.

Το M-Pulse διαφημιζόταν ως “μια μεγάλη ολοκληρωμένη τεχνολογική πλατφόρμα βασισμένη σε big data και μεθόδους μηχανικής μάθησης, με σκοπό να μελετήσει το παρελθόν, να ρίξει φως στο παρόν και να προβλέψει μελλοντικά γεγονότα.” Η συνολική φιλοδοξία του έργου ήταν να “σπάσει τους φραγμούς” και να διαμοιράσει πληροφορίες μεταξύ των διαφόρων ενδιαφερόμενων μερών στη δημόσια ασφάλεια προκειμένου να βελτιστοποιήσουν τις παρεμβάσεις τους.

Οι αρχικές πηγές δεδομένων ήταν ποικίλες, με τόσο “ακατέργαστα” όσο και λίγο-πολύ “δομημένα” δεδομένα που παρείχε η Γενική Αντιπροσωπεία Ασφάλειας (DGSEC) της πόλης της Μασσαλίας. Αυτές περιελάμβαναν αναφορές παρέμβασης και τη βάση δεδομένων με τα πρόστιμα που επιβλήθηκαν από την Δημοτική Αστυνομία. Τα δεδομένα υποτίθεται ότι θα προέρχονταν επίσης από άλλους δημόσιους φορείς, όπως νοσοκομεία, το δίκτυο μεταφορών της Μασσαλίας, την πυροσβεστική υπηρεσία της πόλης, την λιμενική αρχή και τις μετεωρολογικές υπηρεσίες. Συμπεριλήφθηκαν επίσης δεδομένα από ιδιωτικούς φορείς, όπως εικόνες επιτήρησης οδικής κυκλοφορίας (συμπεριλαμβανομένων εκείνων από ιδιωτικούς αυτοκινητόδρομους) και δεδομένα που εξήχθησαν από τα μέσα κοινωνικής δικτύωσης.

Ιδιαίτερα ανησυχητική είναι η αναφορά του εγγράφου σε: “…αξιολόγηση του κινδύνου επικίνδυνων συγκεντρώσεων με ανάλυση tweets, με βάση την αναγνώριση των φορέων (Ποιος μιλάει; Ποιος ενεργεί; Ποιος αλληλεπιδρά με ποιον;) και την ανατροφοδότηση από ροή συνομιλιών (Ποιος οργανώνει; Ποιος είναι ο πρώτος που δημοσιεύει;). Οι προδιαγραφές του έργου περιλαμβάνουν μεταξύ των εξωτερικών συνεργατών τις βάσεις δεδομένων του Υπουργείου Εσωτερικών και ιδιωτικές εταιρείες. Ενώ φαίνεται ότι κανένας ιδιώτης εταίρος δεν συνέβαλε τελικά με δεδομένα, οι σχεδιαστές της M-Pulse συμπεριέλαβαν συνεργασίες με τηλεπικοινωνιακούς φορείς στο αρχικό τους “μεγάλο όραμα”. Αυτό, για παράδειγμα, θα παρήγαγε στατιστικά στοιχεία και “χάρτες θερμότητας” που θα έδειχναν τη γεωγραφική κατανομή του πληθυσμού χρησιμοποιώντας δεδομένα τοποθεσίας κινητών τηλεφώνων.

Η αλλαγή στο δημοτικό συμβούλιο τον Ιούνιο του 2020 φάνηκε ότι θα οδηγούσε στην αναβολή του έργου. Η νέα αριστερή πλειοψηφία είχε δεσμευτεί κατά τη διάρκεια της προεκλογικής της εκστρατείας να εισαγάγει μορατόριουμ στις τεχνολογίες αστυνομικής επιτήρησης. Οι νέες δημοτικές αρχές όμως απέρριψαν τα περισσότερα αιτήματά μας για συνεντεύξεις σχετικά με το M-Pulse. Ούτε απάντησαν στα γραπτά αιτήματά μας παρά την ευνοϊκή γνώμη της Επιτροπής Πρόσβασης σε Διοικητικά Έγγραφα.

Μόλις τον Ιούνιο του 2023 έγιναν διαθέσιμες περισσότερες πληροφορίες. Ο δημοτικός σύμβουλος Christophe Hugon από το Κόμμα των Πειρατών παρουσίασε τη νέα έκδοση του M-Pulse στο ετήσιο συνέδριο της κοινότητας Open-StreetMap στη Γαλλία, το οποίο πραγματοποιήθηκε στη Μασσαλία εκείνο το έτος. Η παρουσίαση του Hugon προσέφερε μια αφήγηση που είχε διαμορφώσει εδώ και μήνες. Όταν εισήλθε στο δημοτικό συμβούλιο μετά τις δημοτικές εκλογές του Ιουνίου 2020, ο Hugon ζήτησε να δει την πλατφόρμα που “προκαλούσε αναταραχή στο εξωτερικό”. Ένιωθε ότι η προηγούμενη διοίκηση είχε παρουσιάσει πληροφορίες που “προκαλούσαν άγχος”, όπως η ανάλυση των μέσων κοινωνικής δικτύωσης για να μάθει ποιος κάνει τι, πού κλπ. Ανέφερε ότι “προς μεγάλη του έκπληξη, το M-Pulse δεν ήταν τίποτα περισσότερο από απλώς ένα έργο διαχείρισης δημόσιας υπηρεσίας”.

Στη συνέχεια, η πλατφόρμα του M-Pulse έγινε προσβάσιμη στο κοινό, απαλλαγμένη από κάθε λειτουργία αστυνόμευσης ή προγνωστικών. Γιατί οι τοπικές αρχές επέτρεψαν την πρόσβαση του κοινού σε αυτήν την εφαρμογή; Σύμφωνα με τον Hugon, το M-Pulse θα είχε μια αξία για τους κατοίκους της πόλης: “Πιστεύουμε ότι το να έχουμε έναν χάρτη που επιτρέπει στους κατοίκους της Μασσαλίας να γνωρίζουν πού βρίσκονται οι αγορές, πού γίνονται οι εκδηλώσεις, να γνωρίζουν πού θα υπάρχουν πολλοί άνθρωποι… αν θέλετε να ζήσετε στην πόλη σας και να πάτε όπου υπάρχουν άνθρωποι… όλα αυτά είναι ενδιαφέρουσες πληροφορίες.” Χρησιμοποίησε επίσης το παράδειγμα των τουριστών που θα ήθελαν να “επισκεφθούν τις αγορές” και θα μπορούσαν να δουν τα σχετικά εικονίδια για να ξέρουν πού να πάνε. Όμως είναι δύσκολο να καταλάβει κανείς πώς αυτή η εφαρμογή διαφέρει από τις υπηρεσίες που προσφέρει το Google Maps. Ο Hugon παρέμεινε ασαφής σχετικά με τις άλλες λειτουργίες. Παραδέχτηκε ότι ορισμένες χρήσιμες λειτουργίες έχουν αφαιρεθεί από την δημόσια έκδοση, όπως η εμφάνιση της αστυνομικής παρουσίας σε πραγματικό χρόνο, για “προφανείς λόγους ασφαλείας”.

Αλλά αν η δημοτική αστυνομία της Μασσαλίας εξακολουθεί να χρησιμοποιεί το M-Pulse, τι κερδίζουν πλέον; Τι γίνεται με τις προβλεπτικές λειτουργίες του; Τις πηγές δεδομένων που χρησιμοποιεί; Τη χρήση των μέσων κοινωνικής δικτύωσης, και ούτω καθεξής; Όταν ρωτήθηκε στο τέλος της παρουσίασής του, ο Hugon απλώς απέφυγε το θέμα. Είπε ότι οι λειτουργίες που είχε η πλατφόρμα με την προηγούμενη διοίκηση ήταν, ως επί το πλείστον, παράνομες και μη ρεαλιστικές και έχουν εγκαταλειφθεί.

Το γραφείο του δημάρχου αρνήθηκε να σχολιάσει τον τρόπο με τον οποίο η αστυνομία χρησιμοποιεί στην πραγματικότητα το λογισμικό. Ούτε σκοπεύει να τροποποιήσει την αρχική σύμβαση, που είχε κάνει πριν το άνοιγμα της πρόσβασης στο κοινό, ισχυριζόμενο λανθασμένα ότι είναι αδύνατο να αλλάξει μια σύμβαση που έχει ήδη υπογραφεί. Παρ’ όλα αυτά, από άποψη πολιτικών ελευθεριών, το M-Pulse δεν φαίνεται να περιλαμβάνει τα ίδια επίπεδα επιτήρησης και πρόβλεψης με το PAVED, το Smart Police και το Risk Terrain Modelling.

Γερμανία³

Οι γερμανικές αστυνομικές και ποινικές αρχές στρέφουν ολοένα και περισσότερο την προσοχή τους στις ψηφιακές δυνατότητες για την “πρόβλεψη” και την “πρόληψη” εγκλημάτων που ενδέχεται να συμβούν στο μέλλον. Η γερμανική αστυνομία έχει αυξήσει σημαντικά την επιχειρησιακή χρήση της “προγνωστικής” ανάλυσης δεδομένων και αλγορίθμων τα τελευταία χρόνια, συμπεριλαμβανομένης της πρόβλεψης εγκλημάτων ανά περιοχή αλλά και της προσωποποιημένης ανάλυσης δεδομένων, ενώ οι αρχές ποινικής δικαιοσύνης, όπως η Γερμανική Ομοσπονδιακή Υπηρεσία Ποινικής Αστυνομίας (Bundeskriminalamt ή BKA), χρησιμοποιούν επίσης συστήματα για τη δημιουργία προφίλ ατόμων και την πρόβλεψη επανάληψης των εγκλημάτων. Επιπλέον, οι γερμανικές φυλακές επιδιώκουν τη δημιουργία προφίλ κρατουμένων και τη χρήση προγνωστικών αλγοριθμικών συστημάτων για να επηρεάσουν τη λήψη αποφάσεων.

Οι λεπτομέρειες του τρόπου λειτουργίας των νέων προγνωστικών συστημάτων που λειτουργούν στη Γερμανία γίνονται γνωστές σταδιακά και μερικές φορές μετά από χρόνια. Ο τρόπος που συμβαίνει είναι μόνο μέσω κοινοβουλευτικών ερευνών και ερευνητικής δημοσιογραφίας ή, στην περίπτωση της Palantir, μετά από μια εξεταστική επιτροπή στην Hesse και νομικές καταγγελίες. Αυτό δυσκολεύει την πλήρη κατανόηση και ανάλυση των πηγών των δεδομένων, του σχεδιασμού των συστημάτων, του πεδίου εφαρμογής, του αντίκτυπου και των πιθανών μεροληπτικών επιπτώσεων αυτών των συστημάτων. Σε ορισμένες περιπτώσεις, η δοκιμή και η περαιτέρω ανάπτυξη νέων συστημάτων συνοδεύονται από αξιολογήσεις από συνεργαζόμενα επιστημονικά ιδρύματα. Σε άλλες περιπτώσεις, οι αξιολογήσεις απουσιάζουν εντελώς. Επιπλέον, η λειτουργία των αλγορίθμων δεν δημοσιοποιείται, πράγμα που σημαίνει ότι δεν μπορεί να πραγματοποιηθεί εξωτερική, ανεξάρτητη επιστημονική αξιολόγηση. Τα αιτήματα βάσει του Νόμου περί Ελευθερίας της Πληροφόρησης απορρίπτονται στις περισσότερες περιπτώσεις με αναφορά σε επιχειρήματα όπως ανησυχίες για την ασφάλεια. Για την παρούσα έκθεση, αναλύθηκαν κρατικά έγγραφα από τη Γερμανική Ομοσπονδιακή Βουλή, δημόσια διαθέσιμα αστυνομικά έγγραφα, αναφορές των μέσων ενημέρωσης και ακαδημαϊκές εργασίες, καθώς και δεδομένα και πληροφορίες από αστυνομικές, ασφαλιστικές και δικαστικές αρχές. Συνεντεύξεις με ακαδημαϊκούς, επαγγελματίες στο έργο της “αποριζοσπαστικοποίησης” (deradicalization) και άτομα με εμπειρία στο ποινικό και νομικό σύστημα βοήθησαν στον εντοπισμό των συστημάτων και στην κατανόηση του αντίκτυπού τους, καθώς και των πιθανών αδυναμιών και των μεροληπτικών επιπτώσεων. Η ανάλυση των υποθέσεων διεξήχθη μέχρι τον Φεβρουάριο του 2024.

Συστήματα πρόβλεψης εγκλημάτων ανα περιοχή

Τα συστήματα πρόβλεψης εγκλημάτων ανα περιοχή στοχεύουν στον εντοπισμό και την κατεύθυνση της προσοχής και των πόρων της αστυνομίας στα λεγόμενα “ζεστά σημεία” εγκληματικότητας, όπου υπάρχει υποψία για ιδιαίτερα υψηλή συγκέντρωση εγκληματικότητας. Η αστυνομία του Βερολίνου εφαρμόζει μια στρατηγική ανάλυσης δεδομένων και πρόβλεψης εγκλημάτων που περιγράφεται ως “σημεία που επηρεάζονται από το έγκλημα” (kbO), εστιάζοντας σε συγκεκριμένες τοποθεσίες και περιοχές. Ωστόσο, αυτά τα “ζεστά σημεία” τείνουν να είναι μέρη όπου ζουν και εργάζονται φυλετικά μειονοτικές ομάδες και, ως εκ τούτου, διατρέχουν ιδιαίτερα υψηλό κίνδυνο να στοχοποιηθούν. Όσοι επηρεάζονται ανακρίνονται από την αστυνομία λόγω του χρώματος του δέρματός τους και συχνά αντιμετωπίζονται με ασέβεια ή ακόμη και βία. Με το γεωγραφικό λογισμικό προγνωστικής αστυνόμευσης όπως το PRECOBS, οι αστυνομικές δυνάμεις προσπαθούν να υπολογίσουν όσο το δυνατόν ακριβέστερα τις τοποθεσίες όπου θα λάβουν χώρα εγκλήματα όπως οι διαρρήξεις σε κατοικίες στο εγγύς μέλλον. Αυτές οι τοποθεσίες μπορεί να είναι δυναμικές, δηλαδή, δεν καθορίζουν απαραίτητα μακροπρόθεσμα “ζεστά σημεία”. Παρ’ όλα αυτά, οι έλεγχοι σε προβλεπόμενες τοποθεσίες έχουν παρόμοιο αντίκτυπο, καθώς τα στερεότυπα μεταξύ των αστυνομικών σχετικά με τα πιθανά προφίλ των παραβατών μπορεί να οδηγήσουν στη στοχοποίηση περιθωριοποιημένων ατόμων.

Τον Οκτώβριο του 2014, η Βαυαρία έγινε το πρώτο γερμανικό κρατίδιο που χρησιμοποίησε λογισμικό για να προσπαθήσει να προβλέψει διαρρήξεις κατοικιών στο πλαίσιο ενός πιλοτικού έργου στις μητροπολιτικές περιοχές του Μονάχου και της Νυρεμβέργης. Το λογισμικό του Συστήματος Παρατήρησης Προ-εγκλημάτων (PRECOBS) χρησιμοποιούνταν σε τακτικές λειτουργίες από το 2016. Αναπτύχθηκε από το “Ινστιτούτο Τεχνολογίας Πρόβλεψης Βασισμένης σε Μοτίβα” με έδρα το Όμπερχαουζεν, και αγοράστηκε από την Logobject Deutschland GmbH το 2021. Η εταιρεία ισχυρίστηκε ότι η προγνωστική αστυνόμευση μπορεί να κάνει προβλέψεις για αδικήματα όπως διαρρήξεις, παραβάσεις τροχαίων αδικημάτων, ληστείες και εμπρησμούς. Βασίζεται στη θεωρία του “επαναλαμβανόμενου φαινομένου”, η οποία είναι η παρατήρηση ότι υπάρχει αυξημένη συχνότητα εμφάνισης επόμενων αδικημάτων στην άμεση χωρική και χρονική γειτνίαση ορισμένων εγκλημάτων. Χρησιμοποιώντας δεδομένα αδικημάτων από το πρόσφατο παρελθόν, οι στατιστικές μέθοδοι υπολογίζουν τον βαθμό στον οποίο θα μπορούσαν να λάβουν χώρα επόμενα αδικήματα τις επόμενες επτά ημέρες σε περιοχές ως και 500 τετραγωνικών μέτρων. Στη συνέχεια, η αστυνομία περιπολεί τις περιοχές που υποογίζονται ως μελλοντικού κινδύνου προκειμένου να αποτρέψει αυτά τα “προβλεπόμενα” αδικήματα.

Την 1η Οκτωβρίου 2021, επτά χρόνια μετά την έναρξη του πιλοτικού έργου, η Βαυαρία αποφάσισε να διακόψει τη λειτουργία του λογισμικού. Σύμφωνα με τον Simon Egbert, μεταδιδακτορικό ερευνητή στο Πανεπιστήμιο του Bielefeld, δεν υπάρχουν ακόμη επιστημονικά στοιχεία επιτυχίας για κανένα από τα συστήματα: “Ο αριθμός των περιπτώσεων διαρρήξεων σε κατοικίες έχει μεν μειωθεί απότομα, αλλα το ίδιο έχει γίνει και σε ομοσπονδιακά κρατίδια όπου δεν χρησιμοποιείται προγνωστική αστυνόμευση. Οι αριθμοί των περιστατικών έχουν διακυμάνσεις και το ερώτημα είναι το τί σχέση έχει η αστυνομική δραστηριότητα με αυτό.”

Η άνοδος και η πτώση των συστημάτων πρόβλεψης εγκλημάτων ανα περιοχή στη Γερμανία τα τελευταία χρόνια δείχνει πόσο αποσπασματική λειτουργεί η ψηφιακή καινοτομία: Όταν ο αριθμός των διαρρήξεων συζητήθηκε στα μέσα ενημέρωσης, αλλά και πολιτικά ως πρόβλημα ασφάλειας τη δεκαετία του 2010, πολλά ομοσπονδιακά κρατίδια εισήγαγαν λογισμικό προγνωστικής αστυνόμευσης ανα περιοχή από το 2014 και μετά. Μεταξύ άλλων, τα συστήματα αυτά αποσκοπούν στην υποστήριξη προσεγγίσεων μιας στρατηγικής που περιγράφεται ως “στοχευμένη αστυνόμευση”, η οποία στοχεύει στην εστίαση των αστυνομικών πόρων – το συντομότερο δυνατό – στα μέρη και τα άτομα που θεωρούν ότι αποτελούν τη μεγαλύτερη απειλή. Αυτή η προσέγγιση καθοδηγείται από την υπόθεση ότι το έγκλημα συγκεντρώνεται σε συγκεκριμένα μέρη, άτομα, ώρες και ημέρες.

Το 2017, η Γερουσία του Βερολίνου αποφάσισε ότι τα ονόματα των “ζεστών περιοχών” πρέπει να δημοσιευτούν από την αστυνομία. Επτά περιοχές είχαν χαρακτηριστεί ως kbΟ και οι οποίες χαρακτηρίζονταν από τους ακόλουθους τύπους αδικημάτων:

• Alexanderplatz (βίαια αδικήματα, κλοπές, αδικήματα που σχετίζονται με ναρκωτικά)·
• Görlitzer Park/Wrangelkiez (ανοιχτή εμπορία ναρκωτικών, συναφή εγκλήματα όπως επικίνδυνη και σοβαρή σωματική βλάβη, υλικές ζημιές)·
• Hermannplatz/Donaukiez (παράνομη εμπορία ναρκωτικών, βαρβαρότητα και αδικήματα κατά της περιουσίας, κλοπές)·
• Hermannstraße/Bahnhof Neukölln (αδικήματα που σχετίζονται με ναρκωτικά, επιθέσεις, ληστείες, κλοπές)·
• Kottbusser Tor (αδικήματα που σχετίζονται με ναρκωτικά και κλοπές ή ληστείες ως συνοδευτικά εγκλήματα)·
• Rigaer Straße (πολιτικά υποκινούμενα αδικήματα όπως υλικές ζημιές, εμπρησμοί και επιθέσεις)·
• Warschauer Brücke (εμπορία ναρκωτικών και συναφή εγκλήματα όπως σωματική βλάβη, ληστεία και σεξουαλικά αδικήματα).

Τα αδικήματα περί ναρκωτικών και τα συναφή εγκλήματα κυριαρχούν σε όλες σχεδόν τις περιοχές που ορίζονται ως kbΟ και μόνο η Rigaer Straße αποδίδεται σε πολιτικά υποκινούμενο έγκλημα από την “αριστερή εξτρεμιστική σκηνή”. Τα τελευταία χρόνια έχουν υπάρξει επανειλημμένες συγκρούσεις γύρω από το κίνημα στέγασης στη Rigaer, με αποκορύφωμα την παράνομη εκκένωση του σπιτιού από την αστυνομία χωρίς εντολή έξωσης το 2016. Μέχρι το 2018, έξι ομοσπονδιακά κρατίδια πειραματίζονταν με πέντε διαφορετικά συστήματα. Από τότε η χρήση έχει μειωθεί, με μόνο τρία ομοσπονδιακά κρατίδια να εξακολουθούν να χρησιμοποιούν τέτοια συστήματα και δεν υπάρχουν αξιόπιστα δεδομένα σχετικά με τον αντίκτυπο των συστημάτων πρόβλεψης εγκλημάτων ανά περιοχή στα ποσοστά εγκληματικότητας.

Συστήματα πρόβλεψης εγκλημάτων και δημιουργία προφίλ ανά άτομο

Τα τελευταία χρόνια, η αστυνομία στη Γερμανία έχει μετατοπίσει την εστίασή της από τους αλγόριθμους πρόβλεψης εγκλημάτων ανά περιοχή προς την εισαγωγή και ανάπτυξη συστημάτων πρόβλεψης εγκλημάτων και δημιουργίας προφίλ ανά άτομο. Η Bundeskriminalamt ή BKA (Ομοσπονδιακή Υπηρεσία Εγκληματολογικής Αστυνομίας) στη Γερμανία έχει αναπτύξει δύο εσωτερικά εργαλεία αξιολόγησης ατομικού κινδύνου που ονομάζονται RADAR (Ανάλυση Δυνητικά Καταστροφικών Παραβατών με βάση τους Κανόνες για την Αξιολόγηση Οξείας Επικινδυνότητας) για την αξιολόγηση του πιθανού κινδύνου που θέτουν ορισμένα άτομα και τον εντοπισμό των ατόμων που θεωρούνται ότι αποτελούν ιδιαίτερα υψηλό κίνδυνο. Όταν αναπτύχθηκε για πρώτη φορά, η πρώτη έκδοση με το όνομα RADAR-iTe είχε εστίαση στα λεγόμενα “ισλαμιστικά άτομα”, ενώ η νεότερη έκδοση RADAR-rechts επικεντρώνεται στους “ακροδεξιούς εξτρεμιστές”.

Εν τω μεταξύ, πολλά γερμανικά κρατίδια χρησιμοποιούν αμφιλεγόμενο λογισμικό συγκέντρωσης και ανάλυσης big data από την Palantir. Αυτό το σύστημα προορίζεται, μεταξύ άλλων, για την ανάλυση δεδομένων από διάφορες αστυνομικές βάσεις και άλλες πηγές για τον εντοπισμό φερόμενων ως υπόπτων για τρομοκρατία. Οι γερμανικές εκδόσεις του λογισμικού Gotham της Palantir έχουν περιγραφεί ως το “προκαταρκτικό στάδιο της προγνωστικής αστυνόμευσης”. Συνδυάζοντας δεδομένα και αναλύσεις δικτύων, όχι μόνο μπορούν να ενισχυθούν οι υπάρχουσες υποθέσεις, αλλά μπορούν επίσης να δημιουργηθούν νέες υποψίες, ακόμη και για άτομα που ήταν προηγουμένως άγνωστα στην αστυνομία. Προς το παρόν, οι εκδόσεις της Palantir που χρησιμοποιούνται στη Γερμανία δεν δημιουργούν βαθμολογίες κινδύνου για μεμονωμένους φερόμενους υπόπτους, αλλά σε άλλες χώρες, η προγνωστική τεχνολογία της Palantir χρησιμοποιείται ήδη για την πραγματοποίηση προβλέψεων για άτομα, όπως η πιθανότητα τους να διαπράξουν ορισμένες πράξεις, συμπεριλαμβανομένης της τρομοκρατίας. Στη Γερμανία, οι αναλύσεις της Palantir θα μπορούσαν να συνδυαστούν με περισσότερες αναλύσεις από συστήματα που εκτελούν πρόβλεψη μεμονωμένων εγκλημάτων, όπως τα συστήματα RADAR. Επίσης, όλο και περισσότερο, η Ομοσπονδιακή Υπηρεσία Εγκληματολογικής Αστυνομίας χρησιμοποιεί εμπορικά δεδομένα για ανάλυση από αλγόριθμους πρόβλεψης εγκλημάτων, για σκοπούς καταπολέμησης της τρομοκρατίας. Ένα παράδειγμα τέτοιων δεδομένων είναι τα αρχεία ονομάτων επιβατών. Τα δεδομένα πτήσης που συλλέγονται από το σύστημα πληροφοριών επιβατών μπορούν να ενσωματωθούν στις αναλύσεις της Palantir ή και να αναλυθούν ξεχωριστά. Έτσι, οι αλγόριθμοι επιδιώκουν να εντοπίσουν μοτίβα που θεωρούνται ύποπτα, θέτοντας τον κίνδυνο να θεωρηθούν λανθασμένα κάποιοι επιβάτες ως ύποπτοι από την αστυνομία.

Η Palantir είναι διεθνώς γνωστή για τους δεσμούς της με τις κρατικές μυστικές υπηρεσίες, την αδιαφάνεια και τις αμφιλεγόμενες επιχειρηματικές πρακτικές. Η αρχική χρηματοδότηση προήλθε από την In-Q-Tel, τον βραχίονα επιχειρηματικών κεφαλαίων της Κεντρικής Υπηρεσίας Πληροφοριών (CIA). Η CIA, η Εθνική Υπηρεσία Ασφαλείας (NSA), το Ομοσπονδιακό Γραφείο Ερευνών (FBI) και ο αμερικανικός στρατός αποτελούν μέρος της λίστας πελατών. Η Palantir αρχικά επικεντρώθηκε αποκλειστικά στην ανάπτυξη τεχνολογίας για την επιβολή του νόμου, την εθνική ασφάλεια, τις στρατιωτικές τακτικές ή τον πόλεμο. Ιδρύθηκε το 2003 και αναπτύχθηκε ραγδαία: “Η Palantir έχει γίνει η εταιρεία η οποία ευθύνεται για την εξόρυξη τεράστιων συνόλων δεδομένων για την δημιουργία εφαρμογών των υπηρεσιών πληροφοριών και της επιβολής του νόμου, όπου με μια έξυπνη διεπαφή μετατρέπει ακατάστατους βάλτους πληροφοριών σε οπτικοποιημένους χάρτες και γραφήματα”, ανέφερε το Forbes το 2013.

Κυβερνήσεις σε όλο τον κόσμο χρησιμοποιούν το λογισμικό Palantir για την ανάλυση εξαιρετικά ευαίσθητων δεδομένων, με την εταιρεία να αναπτύσσει πλέον και προϊόντα για κλάδους όπως ο χρηματοοικονομικός και η υγειονομική περίθαλψη. Κατά τη διάρκεια της πανδημίας του κορονοϊού, η Palantir επωφελήθηκε από την επείγουσα ανάγκη για ανάλυση δεδομένων υγείας σε αρκετές ευρωπαϊκές χώρες. Ωστόσο, στην Ελλάδα, η ελληνική αρχή προστασίας δεδομένων ξεκίνησε έρευνα σχετικά με τη χρήση της Palantir, ενώ στο Ηνωμένο Βασίλειο, η συμφωνία της Palantir με την Εθνική Υπηρεσία Υγείας (NHS) υπόκειται επίσης σε νομική αμφισβήτηση. Οι συμφωνίες της Palantir στον κόσμο της αστυνόμευσης συνοδεύονται επίσης από μυστικότητα: Στη Νέα Ορλεάνη, η Palantir και το αστυνομικό τμήμα της Νέας Ορλεάνης χρησιμοποίησαν τεχνολογία προγνωστικής αστυνόμευσης για έξι χρόνια χωρίς τη γνώση του κοινού. Ακόμη και τα μέλη του δημοτικού συμβουλίου δεν γνώριζαν για αυτό. Σύμφωνα με το The Verge “η εταιρεία παρείχε λογισμικό σε ένα μυστικό πρόγραμμα της αστυνομίας της Νέας Ορλεάνης όπου εντόπιζε τους δεσμούς των ανθρώπων με άλλα μέλη συμμοριών, σκιαγραφούσε το ποινικό τους μητρώο, ανέλυε τα μέσα κοινωνικής δικτύωσης και προέβλεπε την πιθανότητα τα άτομα αυτά να διαπράξουν εγκλήματα ή να γίνουν θύματα.”

Η Έσση ήταν το πρώτο γερμανικό κρατίδιο που αγόρασε λογισμικό από την Palantir, αποκαλώντας το ως “πλατφόρμα ανάλυσης για την αποτελεσματική καταπολέμηση της ισλαμιστικής τρομοκρατίας και του οργανωμένου εγκλήματος”. Σύμφωνα με το αρχηγείο τεχνολογίας της αστυνομίας της Έσσης (Hessisches Polizeipräsidium für Technik), το hessenDATA επιτρέπει την ανακάλυψη των σχέσεων μεταξύ αδικημάτων και παραβατών με βάση τις υπάρχουσες βάσεις δεδομένων της αστυνομίας.

Ο Peter Beuth, υπουργός εσωτερικών της Έσσης, διαφημίζει το hessenDATA ως “λογισμικό καταπολέμησης των συμμοριών” . Οι χρήστες της αστυνομίας περιγράφουν το εργαλείο ως οπτικά “όχι πολύ εντυπωσιακό”, αλλά ως φιλικό προς το χρήστη και πώς εξοικονομεί χρόνο: “Μπορείτε να φανταστείτε το HessenDATA ως κάτι παρόμοιο με τα διαγράμματα στα αστυνομικά θρίλερ, στα οποία απεικονίζονται άνθρωποι και δίκτυα σχέσεων. Τα δεδομένα που αναλύει το hessenDATA δεν είναι νέα – αλλά χωρίς το λογισμικό θα έπρεπε να αναζητήσουμε μια μεγάλη σειρά συστημάτων, να αποθηκεύσουμε τα δεδομένα σε αρχεία και να προσπαθήσουμε να δημιουργήσουμε τυχόν σχέσεις. Το hessenDATA κάνει αυτή την δουλειά πολύ πιο εύκολη. Μπορούμε να φιλτράρουμε χιλιάδες δεδομένα αντί να χρειάζεται να κοιτάμε σε χιλιάδες δεδομένα”.

Προς το παρόν, το hessenDATA μπορεί να συμπεριλάβει τις ακόλουθες πληροφορίες ως μέρος των αναλύσεων και της δημιουργίας προφίλ:

• αστυνομικά δεδομένα από τη βάση δεδομένων Polizeiauskunftssystem POLAS (ένα σύστημα πληροφοριών για την αναζήτηση ατόμων ή αντικειμένων),
• δεδομένα επεξεργασίας περιστατικών και υποθέσεων,
• δεδομένα κυκλοφορίας,
• δεδομένα τηλεπικοινωνιών,
• ανταλλαγή αστυνομικών πληροφοριών,
• κρατικά μητρώα,
• δεδομένα που έχουν εισαχθεί χειροκίνητα από κατασχεμένες συσκευές σχετικές με μια έρευνα,
• δεδομένα που έχουν εισαχθεί χειροκίνητα από πηγές του διαδικτύου, όπως τα μέσα κοινωνικής δικτύωσης.

Το hessenDATA διευκολύνει την επιτήρηση και έχει χρησιμοποιηθεί για μη βίαια εγκλήματα που δεν εμπίπτουν στους χαρακτηρισμούς “σοβαρό”, “οργανωμένο” ή “πολιτικά υποκινούμενο” έγκλημα. Στο παρελθόν, το hessenDATA χρησιμοποιούνταν συχνά για τη διερεύνηση διαρρήξεων, σύμφωνα με έναν αστυνομικό. Εάν ένας αρμόδιος υπάλληλος είχε δικαστική εντολή για ανάλυση των δικτύων τηλεφωνίας, οι πάροχοι τηλεφωνίας έπρεπε να παρέχουν όλους τους τηλεφωνικούς αριθμούς που ήταν συνδεδεμένοι κοντά στους τόπους του εγκλήματος σε συγκεκριμένες ώρες. Αυτά τα δεδομένα αναλύονταν στη συνέχεια με το hessenDATA και οι αριθμοί εμφανίζονταν σε έναν χάρτη, ώστε να γίνουν ορατές οι αντιστοιχίες με τις σκηνές και τις ώρες του εγκλήματος. “Μπορείτε να δείτε: Έχουμε X διαρρήξεις και ορισμένοι αριθμοί τηλεφώνου ξεχωρίζουν – από αυτό μπορούμε να συμπεράνουμε ότι το άτομο Υ βρίσκεται από πίσω και είμαστε ήδη ένα βήμα μπροστά”. Σύμφωνα με τον ομοσπονδιακό επίτροπο για την Προστασία Δεδομένων και την Ελευθερία της Πληροφόρησης, μια μέση παράδοση δεδομένων στην αστυνομία, για έρευνες μέσω δικτύων κινιτής τηλεφώνιας, περιέχει περίπου 100.000 στοιχεία. Σύμφωνα με τον υπουργό εσωτερικών της Έσσης, Peter Beuth, το hessenDATA χρησιμοποιήθηκε σε καθημερινή βάση το 2022 για την καταπολέμηση του “σοβαρού”, “οργανωμένου” και “πολιτικά υποκινούμενου” εγκλήματος. Ωστόσο, υπάρχουν μόνο λίγα παραδείγματα επιτυχίας στην πρόληψη σοβαρών πολιτικών εγκλημάτων που να είναι δημόσια γνωστά. Για παράδειγμα, στην προετοιμασία της αστυνομικής επιδρομής εναντίον μελών της ακροδεξιάς, αντικυβερνητικής ομάδας Reichsbürger (Πολίτες του Ράιχ) τον Δεκέμβριο του 2022, το hessenDATA κατέστησε δυνατή την “αναγνώριση του δικτύου σχέσεων μεταξύ των εμπλεκόμενων ατόμων γύρω από έναν από τους κύριους υπόπτους, με την απαραίτητη ταχύτητα και την εμφάνιση των σχετικών συνδέσεων.”

Στη Γερμανία, τα συστήματα πρόγνωσης και δημιουργίας προφίλ που βασίζονται σε δεδομένα αναδύονται σε ένα κατακερματισμένο τοπίο. Οι γερμανικοί θεσμοί αστυνομίας και ασφάλειας χαρακτηρίζονται έντονα από φεντεραλισμό: οι νομοθετικές και διοικητικές αρμοδιότητες στον τομέα των αρχών ασφαλείας ανήκουν στα 16 ξεχωριστά ομόσπονδα κρατίδια, με εξαίρεση ορισμένες μεμονωμένες ομοσπονδιακές αρμοδιότητες. Αυτή η κατακερματισμένη πολιτική δομή έχει περιορίσει σε κάποιο βαθμό την ψηφιοποίηση των 20 ομοσπονδιακών και κρατικών αστυνομικών δυνάμεων. Έχει οδηγήσει στη συγκεχυμένη συνύπαρξη διαφορετικών συστημάτων και σε ποικίλες πρακτικές διαχείρισης πληροφοριών σε ολόκληρη τη χώρα, καθώς και σε προκλήσεις για τη συνεργασία σε εθνικό και διεθνές επίπεδο.

Σύμφωνα με το Ομοσπονδιακό Υπουργείο Εσωτερικών, τα δεδομένα πρέπει συχνά “να υποβάλλονται σε επεξεργασία χειροκίνητα και πολλές φορές, δημιουργώντας περισσότερο φόρτο εργασίας για το αστυνομικό προσωπικό και αυξάνοντας την πιθανότητα σφαλμάτων”. Το 2017, προβλήματα με τη διαπίστευση δημοσιογράφων για τη σύνοδο κορυφής της G20 στο Αμβούργο αποκάλυψαν ελαττώματα στις βάσεις δεδομένων της αστυνομίας και των υπηρεσιών πληροφοριών, όπως λανθασμένες αναθέσεις, παράνομες πρακτικές διαγραφής, συμπερίληψη ατόμων λόγω ασήμαντων ζητημάτων και ψευδείς κατηγορίες ή κατηγορίες που δεν διώχθηκαν ποτέ. Η πλατφόρμα Netzpolitik περιέγραψε τα προβλήματα αυτά ως την κορυφή του παγόβουνου: “Μπορούμε να είμαστε σίγουροι ότι δεκάδες χιλιάδες άλλα άτομα στη Γερμανία είναι καταχωρημένα σε βάσεις δεδομένων της αστυνομίας με παρωχημένες καταχωρίσεις λόγω λαθών, άκυρων λόγων, χωρίς καμία καταδίκη από δικαστήριο ή λόγω έλλειψης πρακτικής διαγραφής. Οι περισσότεροι από αυτούς πιθανότατα δεν το γνωρίζουν καν, καθώς δεν υπάρχει υποχρέωση ενημέρωσης των ενδιαφερομένων εάν κάποιος εισέλθει σε μια τέτοια βάση δεδομένων.”

Το 2016, οι ομοσπονδιακές και οι πολιτειακές κυβερνήσεις συμφώνησαν να εκσυγχρονίσουν την αρχιτεκτονική των συστημάτων της αστυνομίας με το πρόγραμμα “Police 2020”. Μέχρι το 2020, θα έπρεπε να δημιουργηθεί ένα “ομοιόμορφο σύστημα δικτύου με κεντρική αποθήκευση δεδομένων για να βελτιωθεί σημαντικά η ποιότητα των δεδομένων, καθώς στο μέλλον θα καταγράφονται μόνο μία φορά σε ένα ενιαίο σύστημα σύμφωνα με τους ίδιους κανόνες και θα υποβάλλονται σε ομοιόμορφη επεξεργασία μέσω της χρήσης κεντρικών υπηρεσιών.” Σε αυτήν την πλατφόρμα, τα νέα συστήματα που χρησιμοποιούνται σήμερα από ορισμένες αστυνομικές δυνάμεις θα διατεθούν και σε άλλες, εάν χρειαστεί. Ωστόσο, ο εκσυγχρονισμός προχώρησε αργά και έχει ξεπεράσει προ πολλού το αρχικό χρονοδιάγραμμα. Ως εκ τούτου, το έργο μετονομάστηκε σε “Police 20/20” ή “P 20” (από τις 20 αστυνομικές δυνάμεις που εμπλέκονται σε πολιτειακό και ομοσπονδιακό επίπεδο). Τα διαφορετικά αστυνομικά συστήματα, οι εφαρμογές και οι διαδικασίες πρόκειται τώρα να συγχωνευθούν σταδιακά έως το 2030.

Λογισμικό από την αμφιλεγόμενη αμερικανική εταιρεία Palantir πρόκειται επίσης να διατεθεί σε εθνικό επίπεδο μέσω του προγράμματος “Police 20/20”, με στόχο να διευκολυνθούν οι αστυνομικές δυνάμεις στην γρήγορη αναζήτηση και ανάλυση μεγάλων ποσοτήτων δεδομένων, όπως αυτά που υπάρχουν στις βάσεις δεδομένων της αστυνομίας. Τα συστήματα επιτρέπουν την πρόσβαση και τη συγχώνευση δεδομένων από πολλαπλές βάσεις δεδομένων της αστυνομίας, όπως το ιστορικό ελέγχων στον δρόμο, των ανακρίσεων και ερευνών ενός ατόμου από την αστυνομία, μαζί με επιπλέον δεδομένα για αλλοδαπούς, καθώς και δεδομένα από εξωτερικές πηγές, όπως δεδομένα από μέσα κοινωνικής δικτύωσης ή κινητές συσκευές, πύργους κινητής τηλεφωνίας, δεδομένα καταγραφής κλήσεων κ.α. Τα συστήματα επιτρέπουν επίσης τη δημιουργία προφίλ και τη στόχευση ατόμων για τα οποία δεν υπάρχουν στοιχεία εμπλοκής σε φερόμενα εγκλήματα, ατόμων που δεν είναι ύποπτα για εγκλήματα, ακόμη και εκείνων που είναι γνωστά στην αστυνομία ως θύματα και μάρτυρες.

Ενώ το Ομοσπονδιακό Υπουργείο Εσωτερικών ανέστειλε το σχέδιο για την πανεθνική ανάπτυξη του λογισμικού της Palantir το 2023, δύο ομοσπονδιακά κρατίδια, η Έσση και η Βόρεια Ρηνανία-Βεστφαλία, το χρησιμοποιούν επί του παρόντος (hessenDATA). Η Βαυαρία εξακολουθεί να δοκιμάζει το VeRA και έχει επίσης συνάψει μια συμφωνία-πλαίσιο που επιτρέπει σε άλλα ομοσπονδιακά κρατίδια να αγοράσουν λογισμικό Palantir χωρίς κάποια ξεχωριστή διαδικασία υποβολής προσφορών.

Τα συστήματα δημιουργίας προφίλ της Palantir έχουν δοκιμαστεί ή ακόμη και χρησιμοποιηθεί χωρίς σαφή – ή και καθόλου – νομική βάση. Νομικοί εμπειρογνώμονες έχουν προειδοποιήσει ότι το λογισμικό Palantir συγχωνεύει διαφορετικές ομάδες δεδομένων που συλλέχθηκαν για εντελώς διαφορετικούς σκοπούς, δημιουργώντας πολύπλοκα και λεπτομερή προσωπικά προφίλ και ότι η ανάλυση δεδομένων λειτουργεί ως “μαύρη τρύπα” για τα επηρεαζόμενα άτομα. Πριν από την απόφαση του Ομοσπονδιακού Συνταγματικού Δικαστηρίου το 2023, δεδομένα ατόμων που δεν θεωρούνταν καν εμπλεκόμενα σε φερόμενο έγκλημα, όπως μάρτυρες, συμπεριλήφθηκαν επίσης από άλλα κρατίδια όπως η Έσση. Οι άνθρωποι μπορούν να στοχοποιηθούν αυθαίρετα από την αστυνομία, συχνά επηρεάζονται ομάδες που υφίστανται διακρίσεις και επειδή δεν μαθαίνουν για τα δεδομένα που αναλύονται, δεν μπορούν καν να υπερασπιστούν τον εαυτό τους.

Ευρώπη

Για όποιον/α ενδιαφέρεται να διαβάσει περισσότερα, εκτός από τις εκθέσεις για την αγγλία, την γαλλία και την γερμανία που αναφέραμε παραπάνω, υπάρχει επίσης μια αντίστοιχη έκθεση για το βέλγιο⁴, καθώς και σχετική αρθρογραφία για την ισπανία στο AlgoRace⁵, ενώ όλα μαζί μπορούν να βρεθούν στο State Watch⁶. Πέρα όμως από τις εθνικές προσπάθειες αναβάθμισης της επιτήρησης με τεχνολογικά μέσα, βρίσκεται σε εξέλιξη και μια διαδικασία σε ευρωπαϊκό επίπεδο για να εξοπλιστούν τα κράτη με τα νέα εργαλεία. Η διαδικασία αυτή περιλαμβάνει μεταξύ άλλων την νομοθετική πράξη για την τεχνητή νοημοσύνη (AI Act) η οποία ήρθε ως προτεινόμενος κανονισμός τον Απρίλη του 2021 και “στοχεύει στην εισαγωγή ενός κοινού ρυθμιστικού και νομικού πλαισίου για την τεχνητή νοημοσύνη, που θα ισχύει για όλους τους τομείς (εκτός από τον στρατιωτικό) και για όλους τους τύπους τεχνητής νοημοσύνης.”

Ο συγκεκριμένος κανονισμός ψηφίστηκε και τέθηκε σε εφαρμογή στις 1 Αυγούστου 2024, αλλά αρκετές αλλαγές έγιναν τους επόμενους μήνες, μεταξύ των οποίων είναι αυτή που πέρασε στις 2 Φλεβάρη 2025, σχετικά με την χρήση της “τεχνητής νοημοσύνης” για προγνωστική αστυνόμευση, αναγνώριση προσώπων και γενικά την χρήση της στους δημόσιους χώρους με κάμερες, αισθητήρες κλπ. Μεταφράζουμε από την σχετική έρευνα⁷:

Σε λίγες μέρες, οι κυβερνήσεις σε ολόκληρη την ΕΕ θα έχουν την εξουσία να αναπτύσσουν τεχνολογίες με τεχνητή νοημοσύνη που θα παρακολουθούν τους πολίτες σε δημόσιους χώρους, θα επιτηρούν σε πραγματικό χρόνο τους πρόσφυγες σε συνοριακές ζώνες και θα χρησιμοποιούν εργαλεία αναγνώρισης προσώπου με βάση τις πολιτικές ή τις θρησκευτικές τους πεποιθήσεις. Αυτές είναι κάποιες από τις εξαιρέσεις που επιβλήθηκαν στον Ευρωπαϊκό Νόμο για την Τεχνητή Νοημοσύνη, το πρώτο σύνολο νόμων στον κόσμο για τον σχετικό τομέα.

Ωστόσο, πολλά αμφιλεγόμενα μέρη του κανονισμού θα τεθούν σε ισχύ από τις 2 Φεβρουαρίου 2025, χάρη εν μέρει στο μυστικό λόμπινγκ της Γαλλίας και μιας σειράς ευρωπαϊκών κρατών. Εσωτερικά έγγραφα που έφτασαν τα χέρια της Investigate Europe αποκαλύπτουν ότι τα κράτη μέλη πραγματοποίησαν μια επιτυχημένη εκστρατεία για την αποδυνάμωση των μέτρων, δίνοντας στις αστυνομικές και συνοριακές αρχές μεγαλύτερες ελευθερίες για την κρυφή παρακολούθηση των πολιτών.

Η χρήση τεχνητής νοημοσύνης σε δημόσιους χώρους απαγορεύεται ευρέως βάσει του νόμου, αλλά οι αλλαγές που προωθεί η κυβέρνηση Μακρόν και άλλοι σημαίνουν ότι οι αρχές επιβολής του νόμου και οι συνοριοφύλακες θα έχουν τη δυνατότητα να παρακάμπτουν την απαγόρευση. Οι διαδηλώσεις για το κλίμα ή άλλες πολιτικές διαμαρτυρίες, για παράδειγμα, θα μπορούσαν πλέον να στοχοποιούνται ελεύθερα με επιτήρηση από τεχνητή νοημοσύνη, εάν η αστυνομία επικαλεστεί λόγους εθνικής ασφάλειας. Στο τελικό κείμενο δεν υπάρχουν πλέον περιορισμοί στη χρήση επιτήρησης σε δημόσιους χώρους – η ανάγκη για κάποια έγκριση από κάποια εθνική υπηρεσία ή κάποια δήλωση του προϊόντος σε δημόσιο μητρώο – εάν ένα κράτος το κρίνει απαραίτητο για λόγους εθνικής ασφάλειας. Αυτές οι εξαιρέσεις θα καλύπτουν επίσης ιδιωτικές εταιρείες – ή ενδεχομένως και τρίτες χώρες – που θα παρέχουν την τεχνολογία στην αστυνομία και τις υπηρεσίες επιβολής του νόμου. Το κείμενο ορίζει ότι η επιτήρηση επιτρέπεται “ανεξάρτητα από την οντότητα που εκτελεί αυτές τις δραστηριότητες”.

Η χρήση συστημάτων συναισθηματικής αναγνώρισης – τεχνολογίες που ερμηνεύουν τη διάθεση ή τα συναισθήματα των ανθρώπων – απαγορεύεται από τις 2 Φεβρουαρίου σε χώρους εργασίας, σχολεία και πανεπιστήμια. Οι εταιρείες θα απαγορεύεται να παρακολουθούν τους πελάτες στα καταστήματα για να αναλύουν τις προθέσεις αγοράς, για παράδειγμα, και οι εργοδότες δεν μπορούν να χρησιμοποιούν τα συστήματα για να ελέγχουν εάν το προσωπικό είναι ευχαριστημένο ή είναι πιθανό να φύγει. Ωστόσο, χάρη εν μέρει στην άσκηση πίεσης από τη Γαλλία και άλλα κράτη μέλη, τα συστήματα επιτρέπονται από όλες τις αστυνομικές δυνάμεις και τις αρχές μετανάστευσης και συνόρων. Δεν είναι ακόμη σαφές εάν τα συστήματα θα επιτρέπονται και για το προσωπικό προσλήψεων, για παράδειγμα σε εταιρείες για την αξιολόγηση υποψηφίων για εργασία.

Έπειτα, υπάρχουν και τα βιομετρικά συστήματα αναγνώρισης που χρησιμοποιούνται για τον προσδιορισμό της φυλής, των πολιτικών απόψεων, της θρησκείας ή του σεξουαλικού προσανατολισμού, ακόμη και αν κάποιος είναι μέλος συνδικάτου. Αυτά απαγορεύονται βάσει του νόμου, αλλά υπάρχει πάλι μια εξαίρεση. Η αστυνομία θα είναι ελεύθερη να χρησιμοποιεί τα συστήματα και να συλλέγει δεδομένα εικόνας για οποιοδήποτε άτομο ή ακόμα και να αγοράζει δεδομένα από ιδιωτικές εταιρείες. Η Γαλλία ήταν και πάλι κινητήρια δύναμη. Ένα έγγραφο που στάλθηκε στις 24 Νοεμβρίου 2023 από τη γαλλική κυβέρνηση στο Συμβούλιο της Ευρωπαϊκής Ένωσης ανέφερε ότι θα ήταν “πολύ σημαντικό να διατηρηθεί η δυνατότητα αναζήτησης ενός ατόμου, με βάση και τις θρησκευτικές ή πολιτικές του πεποιθήσεις – όπως για παράδειγμα με την αναγνώριση κάποιου σήματος, ρούχου ή άλλου αξεσουάρ που φέρει το άτομο – όταν το άτομο αυτό εμπλέκεται σε κάποιο βίαιο εξτρεμισμό ή παρουσιάζει τρομοκρατικό κίνδυνο.” Τα βιομετρικά συστήματα θα μπορούσαν πλέον να αναπτυχθούν για την παρακολούθηση εκατομμυρίων προσώπων και να διασταυρωθούν με εθνικές βάσεις δεδομένων για την ταυτοποίησή τους. Η χρήση της τεχνολογίας σε δημόσιους χώρους “σημαίνει το τέλος της ανωνυμίας σε αυτούς τους χώρους”, προειδοποίησε το Ευρωπαϊκό Δίκτυο Ψηφιακών Δικαιωμάτων το 2020.

Ένα άλλο κενό που διαπιστώθηκε αφορά την προγνωστική αστυνόμευση – την ικανότητα ενός αλγορίθμου να προβλέπει ποιος θα διαπράξει ένα έγκλημα. Η Ισπανία, η οποία κατείχε την προεδρία του Συμβουλίου της ΕΕ καθώς οι διαπραγματεύσεις πλησίαζαν στο τέλος τους στα τέλη του 2023, χρησιμοποιεί ήδη αλγόριθμους προγνωστικής αστυνόμευσης. Είναι η μόνη χώρα της ΕΕ που παραδέχεται ότι το κάνει, μαζί με την Ολλανδία. “Η προγνωστική αστυνόμευση είναι… ένα σημαντικό εργαλείο για το αποτελεσματικό έργο των αρχών επιβολής του νόμου”, δήλωσε ο ισπανός πρέσβης σε μια συνάντηση της Coreper τον Οκτώβριο του 2023. Ένα μήνα αργότερα, η Ιρλανδία, η Τσεχική Δημοκρατία και η Φινλανδία επανέλαβαν παρόμοιες απόψεις, ζητώντας να μην απαγορευτεί πλήρως η χρήση προϊόντων προγνωστικής αστυνόμευσης. Έτσι το τελικό κείμενο επιτρέπει τη χρήση των συστημάτων, εφόσον υπάρχει ανθρώπινη εποπτεία της τεχνολογίας.

“Προγνωστικός” επίλογος

Αν ισχυριζόμασταν ότι η “προγνωστική” επιτήρηση είναι άλλη μια ανοησία που χρησιμεύει μόνο ως προπέτασμα καπνού για περισσότερη πειθάρχιση και καταστολή δεν θα πέφταμε και πολύ έξω. Στην ουσία η όποια “προγνωστική” ικανότητα των “έξυπνων” αλγόριθμων δεν είναι κάτι περισσότερο από μια αυτοεκπληρούμενη προφητεία των “αρχών επιβολής του νόμου” για την “καταπολέμηση του εγκλήματος”, η οποία απλά θα μπορούσε να δώσει ένα επιπλέον τεχνο-επιστημονικό κύρος στις αποφάσεις και τις δράσεις τους· είτε αυτές είναι “επιτυχημένες” είτε απλά τραγικές γκάφες που καταλήγουν να είναι μοιραίες για όσους τυχαίνει να είναι μέσα στο πλάνο.

Τον περασμένο χειμώνα για παράδειγμα, η αστυνομία στο Μιλάνο χαρακτήρισε τρεις περιοχές της πόλης ως “κόκκινες”, για υψηλό κίνδυνο παραβατικότητας. Έτσι κινητοποίησε εκατοντάδες καραμπινιέρους για περιπολίες, οι οποίοι έκαναν πολλούς ελέγχους και έρευνες. Δεν χρησιμοποιήθηκε – ή δεν αναφέρθηκε ότι χρησιμοποιήθηκε – κάποιο σύστημα πρόγνωσης για να παρθεί αυτή η απόφαση. Ήταν απλά η γνωστή κλασική “εμπειρία” της αστυνομίας: εκεί που μένουν ή συχνάζουν μετανάστες και άτομα “χαμηλού κοινωνικού προφίλ” είναι πιθανότερο να συμβούν μικρο-κλοπές, καυγάδες και νταλαβέρια. Δεν φαίνεται να χρειάζεται να τους το πει και κάποια τεχνητή “νοημοσύνη”· έχουν τις φυσικές δικές τους.

Από την άλλη, η συλλογή, αποθήκευση και ταξινόμηση των data της καθημερινής ζωής⁸ είναι από τις μεγαλύτερες μπίζνες της 4ης βιομηχανικής επανάσταστης και όλες αυτές οι ρυθμίσεις που ανοίγουν τον δρόμο στις τεχνολογίες επιτήρησης για λόγους εθνικής ασφάλειας, διευκολύνουν τα κράτη που έχουν ανάγκη αυτά τα δεδομένα από την μία, αλλά ταυτόχρονα δουλεύουν για λογαριασμό των εταιρειών που κατέχουν τα συγκεκριμένα συστήματα. Σε συνεδρίαση της εε τον Νοέμβρη 2023, η γαλλία προειδοποίησε ότι εάν δεν επιτρεπόταν η ευρύτερη χρήση αυτών των τεχνολογιών, “υπήρχε κίνδυνος οι εταιρείες να μεταφέρουν τις δραστηριότητές τους σε περιοχές όπου τα θεμελιώδη δικαιώματα δεν έπαιζαν ρόλο”. Για να μην γίνει αυτό λοιπόν, για να μην “χάσουμε” τις εταιρείες – ούτε και τα data προφανώς – ας μετατρέψουμε αυτήν εδώ σε μια περιοχή όπου δεν θα παίζουν ρόλο τα θεμελιώδη δικαιώματα.

Ειδωμένο αυτό από την σκοπιά μιας δύσης που, καθώς καταρρέει, είναι απεγνωσμένη να κρατήσει ό,τι είχε δεδομένο ως τώρα (τους πληθυσμούς της, τις αγορές της, τις επιρροές της κλπ), δεν διστάζει – ή μάλλον είναι αναγκασμένη – να “σφίξει τα λουριά”. Το είδαμε με την τρομοκρατία του covid και το βλέπουμε με την ουκρανία και την Παλαιστίνη. Οι αιρετικοί πρέπει να σωπάσουν και αν δεν σωπάσουν να ακυρωθούν. Οι αμφισβητίες και οι αντιφρονούντες πρέπει να αγνοηθούν και αν δεν γίνει αυτό να συλληφθούν. Ούτε λόγος για κάτι πιο μαζικό. Γενικά, αντίλογος τέλος. Τώρα μιλάει η “επίστημη”. Η ροπή των δυτικών κοινωνιών για περιορισμό των ελευθεριών στο όνομα του δημόσιου / εθνικού συμφέροντος δεν είναι μια τάση. Είναι ο μονόδρομός τους. Και είναι η διαδικασία κατασκευής της φυλακής μας. Είναι το μέλλον που συγκλίνει με το παρόν.

Wintermute

1. Περισσότερα για την Palantir παρακάτω στο άρθρο και επίσης στα τεύχη #20 και #30 του Cyborg. ↩︎
2. Αποσπάσματα από το ‘Predictive’ Policing in France: Against Opacity and Discrimination. Why a Ban is Needed – La Quadrature du Net, Γενάρης 2025 ↩︎
3. Απόσπασματα από το Automating Injustice: ‘Predictive’ policing and criminal ‘prediction’ and profiling systems used by law enforcement and criminal justice authorities in Germany – Algorithm Watch, Μάρτιος 2025 ↩︎
4. Automated Discrimination:‘Predictive’ Policing and data-Profiling in Belgium – Ligue des droits humains, Απρίλιος 2025 ↩︎
5. https://www.algorace.org ↩︎
6. https://www.statewatch.org/projects/digitalising-discrimination-and-criminalisation ↩︎
7. https://www.investigate-europe.eu/posts/france-spearheads-member-state-campaign-dilute-european-artificial-intelligence-regulation ↩︎
8. Σχετική αναφορά στο Η παρακολούθηση της καθημερινής ζωής, cyborg νο 26 ↩︎

[ ασφάλεια / τρομοκρατία | βιομετρία | δεδομένα / πληροφορίες | έλεγχος / επιτήρηση / ιδιωτικότητα | εφαρμογές / πλατφόρμες ]