Ένας 16χρονος μαθητής στη Βαλτιμόρη των ΗΠΑ βρέθηκε αντιμέτωπος με οπλισμένους αστυνομικούς, όταν σύστημα τεχνητής νοημοσύνης (AI) αναγνώρισε λανθασμένα ένα σακουλάκι με doritos που κρατούσε ως όπλο.
Το περιστατικό σημειώθηκε στο λύκειο Woodlawn, όταν το λογισμικό ανίχνευσης όπλων εξέπεμψε σήμα κινδύνου. Λίγα λεπτά αργότερα, αρκετά περιπολικά κατέφθασαν στο σημείο και περικύκλωσαν τον μαθητή.
«Ήρθαν γύρω στα οκτώ περιπολικά, βγήκαν όλοι με τα όπλα στραμμένα πάνω μου και μου φώναζαν να πέσω στο έδαφος», είπε ο Τάκι Άλεν στο τοπικό τηλεοπτικό δίκτυο WMAR-2 News.
Η αστυνομία της κομητείας της Βαλτιμόρης δήλωσε ότι οι αστυνομικοί «αντέδρασαν ανάλογα και αναλογικά με τις πληροφορίες που είχαν στη διάθεσή τους εκείνη τη στιγμή», προσθέτοντας πως το περιστατικό «έληξε με ασφάλεια» όταν διαπιστώθηκε ότι δεν υπήρχε πραγματική απειλή. Ο Άλεν οδηγήθηκε με χειροπέδες, αλλά δεν συνελήφθη.
Σύμφωνα με την έρευνα, το σύστημα AI είχε ήδη αξιολογηθεί από ανθρώπινους ελεγκτές, οι οποίοι είχαν αποφανθεί ότι δεν υπήρχε κίνδυνος. Ωστόσο, η διευθύντρια του σχολείου δεν είδε έγκαιρα την ενημέρωση και ειδοποίησε την ομάδα ασφαλείας, η οποία με τη σειρά της κάλεσε την αστυνομία.
Ο μαθητής ανέφερε ότι το περιστατικό ξεκίνησε αφού τελείωσε την προπόνηση ποδοσφαίρου και έβαλε το άδειο σακουλάκι με τα Doritos στην τσέπη του. «Μου είπαν να γονατίσω, μου πέρασαν χειροπέδες και με έψαξαν», είπε. Από τότε, προσθέτει, προτιμά να περιμένει μέσα μετά την προπόνηση, γιατί «δεν νιώθει πια ασφαλής να βγαίνει έξω, ειδικά κρατώντας ένα σακουλάκι ή ένα αναψυκτικό».
Σε επιστολή προς τους γονείς, η διευθύντρια Κέιτ Σμιθ ανέφερε ότι η ομάδα ασφαλείας «επανεξέτασε γρήγορα και ακύρωσε τον αρχικό συναγερμό αφού επιβεβαίωσε ότι δεν υπήρχε όπλο», ωστόσο το περιστατικό «κλιμακώθηκε αφού η αναφορά έφτασε στην αστυνομία».
Αντιδράσεις στην τοπική κοινότητα μετά το περιστατικό
Η υπόθεση έχει προκαλέσει έντονες αντιδράσεις στην τοπική κοινότητα, με αιτήματα για επανεξέταση των διαδικασιών ασφαλείας και της χρήσης συστημάτων τεχνητής νοημοσύνης στα σχολεία.
Ο δημοτικός σύμβουλος της Βαλτιμόρης, Ίζι Πακότα, κάλεσε τη σχολική διοίκηση να «αναθεωρήσει άμεσα» τον τρόπο με τον οποίο χρησιμοποιείται το AI σύστημα ανίχνευσης όπλων. «Δεν μπορεί να θεωρείται φυσιολογικό ένα σακουλάκι με πατατάκια να ενεργοποιεί συναγερμό και να οδηγεί σε μια τέτοια επικίνδυνη επιχείρηση», δήλωσε.
Η εταιρεία Omnilert, που κατασκευάζει το επίμαχο σύστημα, εξέφρασε «λύπη» για το περιστατικό και «ανησυχία για τον μαθητή και την κοινότητα που επηρεάστηκαν».
Σε δήλωσή της στο BBC, η εταιρεία ανέφερε ότι το λογισμικό της «εντόπισε ένα αντικείμενο που έμοιαζε με όπλο» και πως η εικόνα εξετάστηκε από την ομάδα επαλήθευσης «μέσα σε λίγα δευτερόλεπτα». Το αποτέλεσμα διαβιβάστηκε στην ομάδα ασφαλείας του σχολείου, η οποία είχε την ευθύνη για την τελική αξιολόγηση.
Η Omnilert υποστήριξε ότι το σύστημα «λειτούργησε όπως σχεδιάστηκε», με στόχο «την ταχύτατη ειδοποίηση και επαλήθευση για τη διασφάλιση της ασφάλειας». Ωστόσο, όπως παραδέχθηκε, το περιστατικό δείχνει ότι «ο πραγματικός κόσμος καθιστά την ανίχνευση όπλων ιδιαίτερα περίπλοκη».
Το γεγονός έχει ανοίξει και πάλι τη συζήτηση για τα όρια και τις αδυναμίες της τεχνητής νοημοσύνης στην ασφάλεια. Πέρυσι, άλλη αμερικανική εταιρεία, η Evolv Technology, απαγορεύτηκε να ισχυρίζεται ότι το σύστημά της «εντοπίζει όλα τα όπλα», μετά από αποκαλύψεις του BBC πως κάτι τέτοιο δεν ίσχυε.
Ο ίδιος ο Άλεν δήλωσε ότι δεν μπορεί να κατανοήσει πώς συνέβη το λάθος. «Δεν νομίζω ότι ένα σακουλάκι με doritos θα έπρεπε ποτέ να μπερδευτεί με ένα όπλο», δήλωσε.
Με πληροφορίες από BBC
