ΑΘΗΝΑ

Αυτό το άσχημο t-shirt σας κάνει αόρατους σε συστήματα αναγνώρισης προσώπου

Αυτό το άσχημο t-shirt σας κάνει αόρατους σε συστήματα αναγνώρισης προσώπου Facebook Twitter
0

Στο μυθιστόρημα Zero History του William Gibson, ένας βασικός χαρακτήρας φορά το πιο άσχημο μπλουζάκι στον κόσμο - ένα γελοίο ένδυμα που με «μαγικό» τρόπο καθιστά τον χρήστη αόρατο στις κάμερες ασφαλείας.

«Τώρα, καθώς χώρες σε όλο τον κόσμο αναπτύσσουν συστήματα τεχνητής νοημοσύνης για την παρακολούθηση, τον εντοπισμό και τον έλεγχο των πολιτών, μπορεί να βρεθούμε να φοράμε τα δικά μας άσχημα μπλουζάκια», σχολιάζει το περιοδικό τεχνολογίας Wired.

Ερευνητές του Northeastern University, του MIT και της IBM σχεδίασαν ένα μπλουζάκι τυπωμένο με ένα καλειδοσκοπικό μοτίβο χρωμάτων που καθιστά τον χρήστη μη ανιχνεύσιμο από ορισμένα συστήματα με τεχνητή νοημοσύνη. Και αυτό είναι μόνο ένα από τα αντικείμενα που έχουν σχεδιαστεί ειδικά για να λειτουργήσουν ως αντίβαρο στην υφέρπουσα ψηφιακή επιτήρηση.

«Το μπλουζάκι αλληλεπιδρά με τα νευρωνικά δίκτυα που χρησιμοποιούνται για την ανίχνευση αντικειμένων», εξηγεί ο Xue Lin, επίκουρος καθηγητής Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών στο Northeastern, και συγγραφέας μιας πρόσφατης εργασίας για το θέμα.

Κανονικά, ένα νευρωνικό δίκτυο αναγνωρίζει κάποιον ή κάτι σε μια εικόνα, σχεδιάζει ένα πλαίσιο γύρω του και του αποδίδει μια ετικέτα. 

Βρίσκοντας τα οριακά σημεία που θέτει ένα νευρωνικό δίκτυο - τα όρια στα οποία αποφασίζει αν κάτι αποτελεί αντικείμενο ή όχι - ο Lin και οι συνεργάτες του κατάφεραν να εργαστούν αντίστροφα για να δημιουργήσουν ένα σχέδιο που μπορεί να μπερδέψει το σύστημα ταξινόμησης και επισήμανσης του δικτύου τεχνητής νοημοσύνης.

Εξετάζοντας συγκεκριμένα δύο νευρωνικά δίκτυα αναγνώρισης αντικειμένων που χρησιμοποιούνται συνήθως για εκπαιδευτικούς σκοπούς - το YOLOv2 και το Faster R-CNN - η ομάδα μπόρεσε να εντοπίσει τις περιοχές του σώματος όπου η προσθήκη θορύβου από pixel θα μπορούσε να προκαλέσει σύγχυση στο AI και να καταστήσει τον χρήστη ψηφιακά αόρατο στο σύστημα τεχνητής νοημοσύνης.

Αυτή δεν είναι η πρώτη φορά που σχεδιάζονται αντικείμενα με στόχο να ξεγελάσουν την τεχνητή νοημοσύνη. Το 2016, ερευνητές από τα αμερικανικά πανεπιστήμια Carnegie Mellon και North Carolina στο Chapel Hill δημιούργησαν γυαλιά που μπορούσαν να ξεγελάσουν την τεχνολογία αναγνώρισης προσώπου ώστε να ταξινομήσει λανθασμένα τον χρήστη. Το 2017, Αμερικανοί ερευνητές ξεγέλασαν τα εξελιγμένα νευρωνικά δίκτυα ώστε να νομίζουν ότι μια πινακίδα stop ήταν στην πραγματικότητα μια πινακίδα με όριο ταχύτητας 45 μιλίων/ώρα, με μερικές λεπτές προσθήκες που θύμιζαν γκράφιτι.

Αλλά όλες αυτές οι προηγούμενες επιθέσεις είχαν δημιουργηθεί για στατικά υλικά. Η επιτυχία σε παρακολούθηση βίντεο είναι πολύ πιο δύσκολη. «Η πραγματική πρόκληση είναι να παραμείνουμε απαρατήρητοι καθ' όλη τη διάρκεια της βιντεοσκόπησης», λέει ο Battista Biggio, επίκουρος καθηγητής στο Πανεπιστήμιο του Κάλιαρι, και δημιουργός του πρώτου προγράμματος που κατάφερε να ξεγελάσει την ανίχνευση spam σε λογαριασμούς email. «Όταν η ανίχνευση εκτελείται σε κάθε καρέ, το να παραμένεις σταθερά απαρατήρητος είναι πολύ πιο δύσκολο».

Πώς λειτουργεί η αναγνώριση προσώπου; Είναι ασφαλής; Δείτε το βίντεο

Πηγή: Wired

Τech & Science
0

ΑΘΗΝΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Τech & Science / Από το Πάρκινσον μέχρι την κατάθλιψη: Νέα συσκευή υπερήχων υπόσχεται θεραπείες χωρίς χειρουργείο

Xρησιμοποιεί υπερηχητικούς παλμούς που κατευθύνονται με ακρίβεια σε συγκεκριμένες περιοχές του εγκεφάλου, προσφέροντας εναλλακτική λύση στη χειρουργική εμφύτευση ηλεκτροδίων
LIFO NEWSROOM
Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Τech & Science / Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Ανθρώπινα αιμοσφαίρια που στάλθηκαν στο Διάστημα άρχισαν να χάνουν την ικανότητά τους να παράγουν υγιή νέα κύτταρα, ένδειξη επιταχυνόμενης γήρανσης, σύμφωνα με τη μελέτη
LIFO NEWSROOM
Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

Τech & Science / Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

«Θα μπορούσε να είναι μια πραγματική ευκαιρία να επιβραδύνουμε την εξέλιξη του γλοιοβλαστώματος», υποστηρίζουν με συγκρατημένη αισιοδοξία, καθώς απαιτείται περαιτέρω δοκιμών
LIFO NEWSROOM
Αλτσχάιμερ: Εγκρίθηκε φάρμακο που χορηγείται αποκλειστικά στο σπίτι

Τech & Science / Αλτσχάιμερ: Εγκρίθηκε θεραπεία που μπορεί να χορηγηθεί στο σπίτι από τον ίδιο τον ασθενή

Η έκδοση για χρήση στο σπίτι εγκρίθηκε ως θεραπεία συντήρησης που οι ασθενείς μπορούν να χορηγούν στον εαυτό τους αφού ολοκληρώσουν τον κύκλο της ενδοφλέβιας θεραπείας
LIFO NEWSROOM
«Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Τech & Science / «Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Οι ειδικοί προειδοποιούν ότι τα ηλεκτρονικά τσιγάρα δημιουργούν νέους εθισμούς στη νικοτίνη και προκαλούν σοβαρούς κινδύνους για την καρδιά, τους πνεύμονες και τον εγκέφαλο των παιδιών και των εφήβων
LIFO NEWSROOM
«Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Τech & Science / «Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Η απόφαση αυτή θεωρείται μια από τις σημαντικότερες των τελευταίων 20 ετών - Η Google διατηρεί πάντως κάποιες «ανησυχίες» για την υποχρέωσή της να μοιράζεται δεδομένα διαδικτυακών αναζητήσεων
LIFO NEWSROOM
Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική ια πρόκληση για τις θεωρίες μας»

Τech & Science / Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική πρόκληση για τις θεωρίες μας»

Οι αστρονόμοι εκτιμούν ότι ίσως ανήκει σε μία κατηγορία αντικειμένων που είχε θεωρητικά προβλέψει ο Στίβεν Χόκινγκ, αλλά που μέχρι σήμερα δεν είχε ποτέ εντοπιστεί
LIFO NEWSROOM
Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Τech & Science / Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Ο όρος διαδίδεται στα social media μεταξύ των ανθρώπων που δηλώνουν «κουρασμένοι» με την τεχνητή νοημοσύνη που «εφευρίσκει» πράγματα, ακούγεται υπερβολικά ανθρώπινη και απειλεί να εξαφανίσει θέσεις εργασίας
LIFO NEWSROOM