Κοτζάμ νοημοσύνη («τεχνητή») και είναι ευάλωτη;

Αυτό υποστηρίζει η γνωστή εταιρεία Kaspersky Lab (ειδικευμένη στην αναζήτηση κακόβουλων παρεμβάσεων στα ηλεκτρονικά δίκτυα). Ονόμασε «ενέσεις» διάφορες ενέργειες που σκοπεύουν να τροφοδοτήσουν τις βάσεις δεδομένων που βρίσκονται πίσω απ’ τους σύνθετους αλγόριθμους των μεγάλων γλωσσικών μοντέλων με τέτοιο τρόπο (με τέτοια data) ώστε όταν «αλληλεπιδρούν» με άλλους να προωθούν τους δικούς τους σκοπούς. Για παράδειγμα να διαφημίσουν κάποιο εμπόρευμα ή κάποια υπηρεσία.

Προς το παρόν (λέει η εταιρεία) οι περιπτώσεις «ενέσεων» που εντόπισε ήταν ιδιοτελείς αλλά όχι κακόβουλες. Ωστόσο, εφόσον τα νευρωνικά δίκτυα «τρέφονται» απ’ τα data των χρηστών τους, έχουν δηλαδή «ανοικτή είσοδο δεδομένων», δεν μπορούν να αποκλειστούν μελλοντικά πιο οργανωμένες hack-injections. Οι κυβερνοεπιτεθέμενοι δείχνουν ενεργό ενδιαφέρον για τα νευρωνικά δίκτυα δήλωσε ο Vladislav Tushkanov επικεφαλής του τμήματος τεχνολογίας μηχανικής μάθησης της Kaspersky Lab.

Και γιατί να μην δείχνουν ενεργό ενδιαφέρον γι’ αυτό το «καινούργιο παιχνίδι στην πόλη»; Όλο και κάποιος εχθρός να παραμονεύει για να αλώσει την μηχανική σοφία της κάθε openAI και της κάθε google…

cyborg #31 – 10/2024