Artificial racism

επιτήρηση/θέαμα

Στις 23 του προηγούμενου Μάρτη, η microsoft εγκαινίασε ένα φιλόδοξο πείραμα πάνω στην ικανότητα των μηχανών να μαθαίνουν και να εξελίσσονται νοητικά σε πραγματικό χρόνο. Ο στόχος του πειράματος ήταν να δείξει ότι ένα ρομπότ με στοιχεία τεχνητής νοημοσύνης μπορεί να μαθαίνει και να εξελίσσεται καθώς αλληλεπιδρά με τους ανθρώπους. Έτσι, ένα πρόγραμμα-ρομπότ, η Tay (με θηλυκά χαρακτηριστικά) άρχισε να τουιτάρει και να “συνδιαλέγεται” με άλλους χρήστες μέσω twitter, ξεκινώντας από πολύ βασικά μηνύματα, ώστε να φανεί στην πορεία η “εξέλιξή” της. Λιγότερο όμως από εικοσιτέσσερις ώρες αργότερα, η microsoft σταμάτησε άρον-άρον το πρόγραμμα και εξαφάνισε την Tay από το twitter. Ο λόγος;

Αυτό που ξεκίνησε γλυκά κι αθώα με το μήνυμα “hello world!!!” (γεια σου κόσμε!!!) εξελίχτηκε σε ρατσιστικό και φασιστικό οχετό. Αποτυχία; Καμία, κι είναι άξιο απορίας γιατί η microsoft “κάνει το κουνέλι” και ψελλίζει δικαιολογίες. Πράγματι η Tay “εκπαιδεύτηκε” κι “εξελίχτηκε”, μόνο που οι δάσκαλοί της ήταν τα φασιστάκια τρολ του διαδικτύου που καραδοκούσαν και φρόντισαν να πλημμυρίσουν τον λογαριασμό της Tay με κάθε κατακάθι της σκέψης τους.

Ποια αποτυχία λοιπόν; Να η τεχνητή νοημοσύνη, η “technological singularity”, αντάξια των καιρών μας και του διανοητικού πρωτογονισμού που κυβερνά στον κυβερνοχώρο.

bytes & genes | cyborg #07 – 10/2016