Αυτό το άσχημο t-shirt σας κάνει αόρατους σε συστήματα αναγνώρισης προσώπου

Αυτό το άσχημο t-shirt σας κάνει αόρατους σε συστήματα αναγνώρισης προσώπου Facebook Twitter
0

Στο μυθιστόρημα Zero History του William Gibson, ένας βασικός χαρακτήρας φορά το πιο άσχημο μπλουζάκι στον κόσμο - ένα γελοίο ένδυμα που με «μαγικό» τρόπο καθιστά τον χρήστη αόρατο στις κάμερες ασφαλείας.

«Τώρα, καθώς χώρες σε όλο τον κόσμο αναπτύσσουν συστήματα τεχνητής νοημοσύνης για την παρακολούθηση, τον εντοπισμό και τον έλεγχο των πολιτών, μπορεί να βρεθούμε να φοράμε τα δικά μας άσχημα μπλουζάκια», σχολιάζει το περιοδικό τεχνολογίας Wired.

Ερευνητές του Northeastern University, του MIT και της IBM σχεδίασαν ένα μπλουζάκι τυπωμένο με ένα καλειδοσκοπικό μοτίβο χρωμάτων που καθιστά τον χρήστη μη ανιχνεύσιμο από ορισμένα συστήματα με τεχνητή νοημοσύνη. Και αυτό είναι μόνο ένα από τα αντικείμενα που έχουν σχεδιαστεί ειδικά για να λειτουργήσουν ως αντίβαρο στην υφέρπουσα ψηφιακή επιτήρηση.

«Το μπλουζάκι αλληλεπιδρά με τα νευρωνικά δίκτυα που χρησιμοποιούνται για την ανίχνευση αντικειμένων», εξηγεί ο Xue Lin, επίκουρος καθηγητής Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών στο Northeastern, και συγγραφέας μιας πρόσφατης εργασίας για το θέμα.

Κανονικά, ένα νευρωνικό δίκτυο αναγνωρίζει κάποιον ή κάτι σε μια εικόνα, σχεδιάζει ένα πλαίσιο γύρω του και του αποδίδει μια ετικέτα. 

Βρίσκοντας τα οριακά σημεία που θέτει ένα νευρωνικό δίκτυο - τα όρια στα οποία αποφασίζει αν κάτι αποτελεί αντικείμενο ή όχι - ο Lin και οι συνεργάτες του κατάφεραν να εργαστούν αντίστροφα για να δημιουργήσουν ένα σχέδιο που μπορεί να μπερδέψει το σύστημα ταξινόμησης και επισήμανσης του δικτύου τεχνητής νοημοσύνης.

Εξετάζοντας συγκεκριμένα δύο νευρωνικά δίκτυα αναγνώρισης αντικειμένων που χρησιμοποιούνται συνήθως για εκπαιδευτικούς σκοπούς - το YOLOv2 και το Faster R-CNN - η ομάδα μπόρεσε να εντοπίσει τις περιοχές του σώματος όπου η προσθήκη θορύβου από pixel θα μπορούσε να προκαλέσει σύγχυση στο AI και να καταστήσει τον χρήστη ψηφιακά αόρατο στο σύστημα τεχνητής νοημοσύνης.

Αυτή δεν είναι η πρώτη φορά που σχεδιάζονται αντικείμενα με στόχο να ξεγελάσουν την τεχνητή νοημοσύνη. Το 2016, ερευνητές από τα αμερικανικά πανεπιστήμια Carnegie Mellon και North Carolina στο Chapel Hill δημιούργησαν γυαλιά που μπορούσαν να ξεγελάσουν την τεχνολογία αναγνώρισης προσώπου ώστε να ταξινομήσει λανθασμένα τον χρήστη. Το 2017, Αμερικανοί ερευνητές ξεγέλασαν τα εξελιγμένα νευρωνικά δίκτυα ώστε να νομίζουν ότι μια πινακίδα stop ήταν στην πραγματικότητα μια πινακίδα με όριο ταχύτητας 45 μιλίων/ώρα, με μερικές λεπτές προσθήκες που θύμιζαν γκράφιτι.

Αλλά όλες αυτές οι προηγούμενες επιθέσεις είχαν δημιουργηθεί για στατικά υλικά. Η επιτυχία σε παρακολούθηση βίντεο είναι πολύ πιο δύσκολη. «Η πραγματική πρόκληση είναι να παραμείνουμε απαρατήρητοι καθ' όλη τη διάρκεια της βιντεοσκόπησης», λέει ο Battista Biggio, επίκουρος καθηγητής στο Πανεπιστήμιο του Κάλιαρι, και δημιουργός του πρώτου προγράμματος που κατάφερε να ξεγελάσει την ανίχνευση spam σε λογαριασμούς email. «Όταν η ανίχνευση εκτελείται σε κάθε καρέ, το να παραμένεις σταθερά απαρατήρητος είναι πολύ πιο δύσκολο».

Πώς λειτουργεί η αναγνώριση προσώπου; Είναι ασφαλής; Δείτε το βίντεο

Πηγή: Wired

Τech & Science
0

ΔΕΙΤΕ ΑΚΟΜΑ

Η ιρλανδική ρυθμιστική αρχή αυστηροποιεί την πίεση στην πλατφόρμα X του Έλον Μασκ για έλεγχο ηλικίας σε πορνογραφικό περιεχόμενο

Τech & Science / Η ιρλανδική ρυθμιστική αρχή αυστηροποιεί την πίεση στην πλατφόρμα X του Έλον Μασκ για έλεγχο ηλικίας σε πορνογραφικό περιεχόμενο

Ο νέος Κώδικας Ασφάλειας Διαδικτύου της Ιρλανδίας περιλαμβάνει αυστηρές διατάξεις για τον έλεγχο ηλικίας, με σκοπό να αποτραπεί η πρόσβαση ανηλίκων σε επιβλαβές περιεχόμενο, όπως πορνογραφία και βίαιο υλικό
LIFO NEWSROOM
Aeneas: Η Google και ο Έλληνας Γιάννης Ασσαέλ δίνουν νέα ζωή στις ρωμαϊκές επιγραφές με εργαλείο AI

Τech & Science / Aeneas: Η Google και ο Έλληνας Γιάννης Ασσαέλ δίνουν νέα ζωή στις ρωμαϊκές επιγραφές με εργαλείο AI

Το σύστημα, που ονομάζεται Aeneas από τον μυθικό Τρωικό ήρωα, βοηθά τους ιστορικούς να ερμηνεύσουν, να αποδώσουν και να αποκαταστήσουν αρχαίες ρωμαϊκές επιγραφές
LIFO NEWSROOM
«Η ανθρωπότητα νίκησε»: Ποια είναι η ιδιοφυΐα που κέρδισε το ChatGPT στον κορυφαίο διαγωνισμό προγραμματισμού

Τech & Science / «Η ανθρωπότητα νίκησε»: Ποια είναι η ιδιοφυΐα που κέρδισε το ChatGPT στον κορυφαίο διαγωνισμό προγραμματισμού

Όπως λέει, «δεν είχε ποτέ πραγματικό σχέδιο για τη ζωή» και τυπικά έχει μόνο δευτεροβάθμια εκπαίδευση, καθώς δεν ολοκλήρωσε τις πανεπιστημιακές του σπουδές
LIFO NEWSROOM
Στέλεχος βακτηρίου ανθεκτικό στα αντιβιοτικά εξαπλώνεται στην Ευρώπη, προειδοποιούν επιστήμονες

Τech & Science / Στέλεχος βακτηρίου ανθεκτικό στα αντιβιοτικά εξαπλώνεται στην Ευρώπη, προειδοποιούν επιστήμονες

Εντοπίστηκε για πρώτη φορά πριν από σχεδόν μια δεκαετία στην Ολλανδία και τη Γερμανία, και έκτοτε έχει εξαπλωθεί σε τουλάχιστον εννέα ακόμη ευρωπαϊκές χώρες
LIFO NEWSROOM
Η Γη περιστρέφεται πιο γρήγορα και ίσως χρειαστεί να «αφαιρεθεί» ένα δευτερόλεπτο για πρώτη φορά στην ιστορία

Τech & Science / Η Γη περιστρέφεται πιο γρήγορα και ίσως χρειαστεί να «αφαιρεθεί» ένα δευτερόλεπτο για πρώτη φορά στην ιστορία

Μικρότερες ημέρες, μεγάλη ανησυχία για τους χρονομέτρες: Μια απροσδόκητη επιτάχυνση της Γης φέρνει για πρώτη φορά το ενδεχόμενο ενός «αρνητικού δευτερολέπτου»
LIFO NEWSROOM
Explainer: Γιατί η Nvidia αξίζει περισσότερο από την Apple και την Tesla μαζί

Explainer / Γιατί η Nvidia αξίζει περισσότερο από την Apple και την Tesla μαζί

Η Nvidia δεν έχει oρατή παρουσία στην καθημερινότητα των περισσότερων ανθρώπων, όμως χωρίς την τεχνολογία της, πολλές από τις συσκευές και τις υπηρεσίες που σήμερα αποκαλούμε «έξυπνες» δεν θα ήταν εφικτές
LIFO NEWSROOM