Έντονες αντιδράσεις έχει προκαλέσει παγκοσμίως η χρήση εφαρμογών τεχνητής νοημοσύνης σε φωτογραφίες προκειμένου να εμφανίζουν γυμνές γυναίκες κατόπιν ψηφιακής επεξεργασίας.
Με μέθοδο της τεχνητής νοημοσύνης που μοιάζει με εκείνη που πρόσφατα είχε παρουσιάσει αλλόκοτες εικόνες, όπως για παράδειγμα του Πάπα με λευκό φουσκωτό μπουφάν, εφαρμογές φωτογραφιών «γδύνουν ψηφιακά» γυναίκες. Μάλιστα οι φωτογραφίες που παράγονται περιέχουν και κείμενο με προτροπές σεξουαλικού περιεχομένου και έτσι δημιουργούν «κορίτσια τεχνητής νοημοσύνης» και παραποιημένες εικόνες που τροφοδοτούν τις επιθέσεις «sextortion».
Με αυτόν τον τρόπο η έκρηξη του deepfake porn ξεπερνά τις όποιες προσπάθειες των ΗΠΑ και της Ευρώπης να ρυθμίσουν τα θέματα που αφορούν στην τεχνολογία. Τα deepfakes που υποστηρίζονται από την τεχνητή νοημοσύνη συνδέονται συνήθως με ψεύτικες εικόνες γνωστών προσωπικοτήτων, όπως ο Πάπας Φραγκίσκος με φουσκωτό παλτό ή ο Ντόναλντ Τραμπ υπό κράτηση, αλλά οι ειδικοί λένε ότι χρησιμοποιούνται ευρύτερα για τη δημιουργία μη συναινετικού πορνογραφικού υλικού που μπορεί να καταστρέψει τις ζωές γυναικών, παιδιών, οικογενειών..
Οι γυναίκες αποτελούν στόχο των εργαλείων επεξεργασίας φωτογραφιών και εφαρμογών τεχνητής νοημοσύνης - που είναι ευρέως διαθέσιμα δωρεάν και δεν απαιτούν τεχνικές γνώσεις - και παράλληλα επιτρέπουν στους χρήστες να αφαιρούν ψηφιακά τα ρούχα από τις φωτογραφίες τους ή να εισάγουν τα πρόσωπά τους σε βίντεο σεξουαλικού περιεχομένου σε αυτό το αποκρουστικό μοντάζ.
«Η άνοδος του πορνό που δημιουργείται με τεχνητή νοημοσύνη και του deepfake πορνό ομαλοποιεί τη χρήση της εικόνας ή του ομοιώματος μιας γυναίκας χωρίς τη συγκατάθεσή της», δήλωσε στο AFP η Sophie Maddocks, ερευνήτρια στο Πανεπιστήμιο της Πενσυλβάνια που παρακολουθεί θέματα που έχουν να κάνουν με τη σεξουαλική κακοποίηση με βάση την εικόνα. «Τι μήνυμα στέλνουμε για τη συναίνεση ως κοινωνία όταν μπορείς να γδύσεις ουσιαστικά οποιαδήποτε γυναίκα;».
Συγκεκριμένη καταγγελία για παραποίηση από την τεχνητή νοημοσύνη
Μια Αμερικανίδα streamer του Twitch που χρησιμοποιεί το όνομα QTCinderella αποκάλυψε ότι και η ίδια βρέθηκε αντιμέτωπη με τέτοια κατάσταση που έχει να κάνει με deepfake porn. Παρενοχλήθηκε από κάποιους που της έστελναν αντίγραφα των deepfakes που την απεικόνιζαν. Το σκάνδαλο ξέσπασε τον Ιανουάριο κατά τη διάρκεια μιας ζωντανής μετάδοσης από τον επίσης streamer Brandon Ewing, ο οποίος πιάστηκε να κοιτάζει έναν ιστότοπο που περιείχε εικόνες σεξουαλικού περιεχομένου πολλών γυναικών, μεταξύ των οποίων και η QTCinderella.
Η κοπέλα ανέφερε πως δεν πρόκειται απλά για παραβίαση, αλλά για κάτι σοβαρότερο και πρόσθεσε ότι η εμπειρία αυτή την «κατέστρεψε» χαρακτηρίζοντας αυτό που συνέβη «σουρεαλιστικό».
Τον περασμένο μήνα, το FBI εξέδωσε προειδοποίηση σχετικά με τα «sextortion schemes», στα οποία οι απατεώνες λαμβάνουν φωτογραφίες και βίντεο από τα μέσα κοινωνικής δικτύωσης για να δημιουργήσουν «σεξουαλικού περιεχομένου» deepfakes που στη συνέχεια χρησιμοποιούνται για τον εκβιασμό με σκοπό την απόκομιση χρημάτων.
Σύμφωνα με το FBI, περιλαμβάνονται και ανήλικα παιδιά στις υποθέσεις που έγιναν γνωστές. Ο πολλαπλασιασμός των εργαλείων τεχνητής νοημοσύνης έχει ξεπεράσει την όποια προσπάθεια για ρύθμιση. «Δεν πρόκειται για κάποια σκοτεινή γωνιά του διαδικτύου όπου δημιουργούνται και διαμοιράζονται αυτές οι εικόνες», δήλωσε στο AFP ο Dan Purcell, διευθύνων σύμβουλος και ιδρυτής της εταιρείας προστασίας εμπορικών σημάτων με τεχνητή νοημοσύνη Ceartas. «Είναι ακριβώς κάτω από τη μύτη μας. Και, ναι, ο νόμος πρέπει να προλάβει».
Στη Βρετανία, η κυβέρνηση έχει προτείνει ένα νέο νομοσχέδιο για την ασφάλεια στο διαδίκτυο που επιδιώκει να ποινικοποιήσει την κοινοποίηση πορνογραφικών deepfakes. Τέσσερις πολιτείες των ΗΠΑ, μεταξύ των οποίων η Καλιφόρνια και η Βιρτζίνια, έχουν θέσει εκτός νόμου τη διανομή του deepfake πορνό, αλλά οι καταγγέλλουσες συχνά έχουν ελάχιστες νομικές δυνατότητες προσφυγής εάν οι δράστες ζουν εκτός αυτών των περιοχών.
"AI girls", photo apps digitally undressing women and manipulated images fuel "sextortion" rackets.
— AFP News Agency (@AFP) July 24, 2023
A boom in deepfake porn using people's images without consent is outpacing efforts to regulate the technologyhttps://t.co/3vmrR4DCFD pic.twitter.com/YvulVMrMjT
Με πληροφορίες από AFP
