Ταπεινωτικές εικόνες παιδιών και γυναικών, από τις οποίες έχουν αφαιρεθεί ψηφιακά τα ρούχα τους μέσω του Grok AI, συνεχίζουν να μοιράζονται στο X του Έλον Μασκ, παρά τη δέσμευση της πλατφόρμας να «αποβάλλει» τους χρήστες που τις δημιουργούν.
Μετά από ημέρες ανησυχίας για τη χρήση του chatbot για την αλλοίωση φωτογραφιών με σκοπό τη δημιουργία σεξουαλικών εικόνων γυναικών και παιδιών, χωρίς τη συγκατάθεσή τους, η βρετανική ρυθμιστική αρχή επικοινωνιών Ofcom δήλωσε τη Δευτέρα ότι «επικοινώνησε επειγόντως με το X και το xAI για να κατανοήσει τα μέτρα που έχουν λάβει για να συμμορφωθούν με τις νομικές τους υποχρεώσεις για την προστασία των χρηστών στο Ηνωμένο Βασίλειο». Η Ofcom πρόσθεσε ότι θα αξιολογήσει εάν είναι απαραίτητη η διεξαγωγή έρευνας με βάση την απάντηση της εταιρείας.
Εν τω μεταξύ, πολιτικοί και ακτιβιστές για τα δικαιώματα των γυναικών κατηγόρησαν την κυβέρνηση του Ηνωμένου Βασιλείου ότι «καθυστερεί» να θεσπίσει τη νομοθεσία που ψηφίστηκε πριν από έξι μήνες και καθιστά παράνομη τη δημιουργία τέτοιων προσωπικών εικόνων.
Η «τάση» ώθησε επίσης την Ευρωπαϊκή Επιτροπή να δηλώσει τη Δευτέρα ότι εξετάζει «πολύ σοβαρά» τις καταγγελίες ότι το Grok χρησιμοποιείται για τη δημιουργία και τη διάδοση εικόνων παιδιών με σεξουαλικό περιεχόμενο.
Η ανησυχία άρχισε να εκδηλώνεται μετά από αναβάθμιση του Δεκεμβρίου στον δωρεάν βοηθό τεχνητής νοημοσύνης του Μασκ, το Grok, η οποία διευκόλυνε τους χρήστες να αναρτούν φωτογραφίες και να ζητούν την αφαίρεση των ρούχων από τα απεικονιζόμενα πρόσωπα. Αν και η πλατφόρμα δεν επιτρέπει την πλήρη απογύμνωση, επιτρέπει στους χρήστες να ζητούν την αλλοίωση εικόνων ώστε τα άτομα να εμφανίζονται με μικρά, αποκαλυπτικά εσώρουχα και σε σεξουαλικά υπονοούμενες στάσεις.
Την Κυριακή και τη Δευτέρα, χρήστες του Grok συνέχισαν να δημιουργούν σεξουαλικά υπονοούμενες εικόνες ανηλίκων, με εικόνες παιδιών ακόμη και 10 ετών να δημιουργούνται μέσα σε μία νύχτα. Η Άσλεϊ Σεντ Κλερ, μητέρα ενός από τα παιδιά του Μασκ, κατήγγειλε ότι το εργαλείο τεχνητής νοημοσύνης παρήγαγε μια εικόνα της ίδιας όταν ήταν 14 ετών, φορώντας μπικίνι.
Μια εικόνα της ηθοποιού της σειράς Stranger Things, Νελ Φίσερ, αλλοιώθηκε από το Grok την Κυριακή ώστε να εμφανίζεται με μπικίνι. Η Φίσερ είναι 14 ετών. Πολλές γυναίκες εξέφρασαν την οργή τους στην πλατφόρμα X, αφού διαπίστωσαν ότι οι εικόνες τους είχαν «απογυμνωθεί» χωρίς τη συναίνεσή τους.
Ερευνητές της AI Forensics, μιας μη κερδοσκοπικής οργάνωσης με έδρα το Παρίσι, εξέτασαν 50.000 αναφορές στο @Grok στην πλατφόρμα X και 20.000 εικόνες που δημιουργήθηκαν από το εργαλείο, σε διάστημα μίας εβδομάδας, από τις 25 Δεκεμβρίου έως την 1η Ιανουαρίου. Τουλάχιστον το ένα τέταρτο των αναφορών στο @Grok ήταν αιτήματα προς το εργαλείο για τη δημιουργία εικόνας. Στα αιτήματα αυτά υπήρχε υψηλή συχνότητα όρων όπως «her», «put», «remove», «bikini» και «clothing».
Η έρευνα διαπίστωσε ότι περισσότερες από τις μισές εικόνες απεικόνιζαν άτομα με «ελάχιστη ενδυμασία», όπως εσώρουχα ή μπικίνι, με την πλειονότητα να αφορά γυναίκες που φαίνονταν κάτω των 30 ετών. Ένα μικρό ποσοστό των εικόνων, περίπου 2%, φαίνεται να απεικονίζει άτομα ηλικίας 18 ετών ή και μικρότερα, πρόσθεσε η AI Forensics, με ορισμένες εικόνες να αναπαριστούν παιδιά κάτω των πέντε ετών. Οι ερευνητές ανέφεραν ότι το μεγαλύτερο μέρος του περιεχομένου παρέμενε διαθέσιμο στο διαδίκτυο και περιλάμβανε επίσης αιτήματα για τη δημιουργία ναζιστικής προπαγάνδας και προπαγάνδας του Ισλαμικού Κράτους.
Αρχικά, ο Μασκ χαρακτήρισε διασκεδαστική την «τάση» αυτή, δημοσιεύοντας την Παρασκευή ένα emoji που κλαίει από τα γέλια ως απάντηση σε μια εικόνα μιας ψηφιακά αλλοιωμένης τοστιέρας που φορούσε μπικίνι.
Δήλωσε: «Δεν είμαι σίγουρος γιατί, αλλά δεν μπορούσα να σταματήσω να γελάω με αυτό». Μετά την παγκόσμια κατακραυγή, ανήρτησε αργότερα ότι «όποιος χρησιμοποιεί το Grok για να δημιουργεί παράνομο περιεχόμενο θα υποστεί τις ίδιες συνέπειες σαν να ανεβάζει παράνομο περιεχόμενο».
Εκπρόσωπος της X δήλωσε: «Λαμβάνουμε μέτρα κατά του παράνομου περιεχομένου στην X, συμπεριλαμβανομένου του υλικού σεξουαλικής κακοποίησης παιδιών (CSAM), αφαιρώντας το, αναστέλλοντας μόνιμα λογαριασμούς και συνεργαζόμενοι με τις τοπικές κυβερνήσεις και τις αρχές επιβολής του νόμου, όπου αυτό είναι απαραίτητο».
Μια προγενέστερη ανακοίνωση του Grok, στην οποία αναφερόταν ότι είχε «εντοπίσει κενά στα μέτρα προστασίας» και ότι τα «διόρθωνε επειγόντως», αποδείχθηκε ότι είχε παραχθεί από τεχνητή νοημοσύνη· δεν ήταν σαφές αν η εταιρεία λάμβανε πράγματι μέτρα για την αποκατάσταση αυτών των κενών ασφαλείας.
Με πληροφορίες από Guardian
