Το X ανακοίνωσε ότι το μοντέλο τεχνητής νοημοσύνης Grok δεν θα μπορεί πλέον να επεξεργάζεται φωτογραφίες πραγματικών ανθρώπων, μεταξύ αυτών γυναικών και παιδιών, ώστε να τους εμφανίζει γυμνούς, σε χώρες όπου κάτι τέτοιο είναι παράνομο.
Η απόφαση έρχεται μετά από έντονες αντιδράσεις για τη διάδοση σεξουαλικοποιημένων deepfakes.
«Έχουμε εφαρμόσει τεχνολογικά μέτρα ώστε ο λογαριασμός του Grok να μην επιτρέπει την επεξεργασία εικόνων πραγματικών ανθρώπων με αποκαλυπτικά ρούχα, όπως μπικίνι», αναφέρει ανακοίνωση της πλατφόρμας. «Ο περιορισμός ισχύει για όλους τους χρήστες, συμπεριλαμβανομένων των συνδρομητών επί πληρωμή».
Grok: Πώς προέκυψε η αλλαγή
Η αλλαγή ανακοινώθηκε λίγες ώρες αφότου ο ανώτατος εισαγγελέας της Καλιφόρνιας γνωστοποίησε ότι η Πολιτεία ερευνά τη διασπορά σεξουαλικοποιημένων AI deepfakes -ακόμη και ανηλίκων-που δημιουργήθηκαν με το συγκεκριμένο μοντέλο.
Το X διευκρίνισε επίσης ότι έχει ενεργοποιήσει γεωγραφικό αποκλεισμό (geoblocking) για τη δημιουργία εικόνων πραγματικών ανθρώπων με μπικίνι, εσώρουχα ή παρόμοια ενδυμασία, στις δικαιοδοσίες όπου αυτό είναι παράνομο. Παράλληλα, επανέλαβε ότι η επεξεργασία εικόνων μέσω του Grok στην πλατφόρμα επιτρέπεται μόνο σε χρήστες με συνδρομή.
Σύμφωνα με την εταιρεία, τα νέα μέτρα προσθέτουν ένα επιπλέον επίπεδο προστασίας, ώστε όσοι επιχειρούν να καταχραστούν το Grok παραβιάζοντας τον νόμο ή τις πολιτικές του X να μπορούν να λογοδοτούν.
Grok: Διεθνείς αντιδράσεις
Με ενεργοποιημένες τις ρυθμίσεις NSFW (not safe for work), το Grok υποτίθεται ότι επιτρέπει μόνο «γυμνό άνω μέρους σε φανταστικούς ενήλικες ανθρώπους (όχι πραγματικούς)», στο πλαίσιο όσων συναντώνται σε ταινίες με χαρακτηρισμό R, έγραψε ο Elon Musk. «Αυτό αποτελεί de facto πρότυπο στις ΗΠΑ. Σε άλλες περιοχές θα διαφέρει, ανάλογα με τους νόμους κάθε χώρας», πρόσθεσε.
Ο Μασκ είχε προηγουμένως υπερασπιστεί το X, υποστηρίζοντας ότι οι επικριτές «απλώς θέλουν να καταστείλουν την ελευθερία του λόγου», αναρτώντας μάλιστα δύο εικόνες που είχαν δημιουργηθεί από AI και απεικόνιζαν τον Βρετανό πρωθυπουργό Keir Starmer με μπικίνι.
Τα τελευταία 24ωρα, κυβερνητικοί αξιωματούχοι σε όλο τον κόσμο έχουν επικρίνει έντονα τη λειτουργία επεξεργασίας εικόνων του Grok. Το περασμένο Σαββατοκύριακο, η Μαλαισία και η Ινδονησία έγιναν οι πρώτες χώρες που απαγόρευσαν το εργαλείο, μετά από καταγγελίες ότι φωτογραφίες αλλοιώθηκαν για τη δημιουργία άσεμνων εικόνων χωρίς συναίνεση.
Στο Ηνωμένο Βασίλειο, η ρυθμιστική αρχή των ΜΜΕ Ofcom ανακοίνωσε ότι θα διερευνήσει αν το X παραβίασε τη νομοθεσία σχετικά με τη διάδοση σεξουαλικών εικόνων. Ο Στάρμερ προειδοποίησε ότι η πλατφόρμα θα μπορούσε να χάσει «το δικαίωμα αυτορρύθμισης», αν και αργότερα χαιρέτισε τις πληροφορίες ότι λαμβάνονται μέτρα.
Ορισμένοι Βρετανοί βουλευτές αποχώρησαν επίσης από το X ως αντίδραση στο σκάνδαλο.
Ο γενικός εισαγγελέας της Καλιφόρνιας Rob Bonta δήλωσε: «Το υλικό αυτό, που απεικονίζει γυναίκες και παιδιά σε γυμνές ή σεξουαλικά ρητές καταστάσεις, έχει χρησιμοποιηθεί για την παρενόχληση ανθρώπων σε όλο το διαδίκτυο».
Η ερευνήτρια πολιτικής Ριάνα Πφέφερκορν εξέφρασε έκπληξη για το ότι το X άργησε τόσο να εφαρμόσει δικλίδες ασφαλείας και υποστήριξε ότι τα εργαλεία επεξεργασίας θα έπρεπε να είχαν αποσυρθεί αμέσως μόλις ξεκίνησαν οι καταχρήσεις. Όπως τόνισε, παραμένουν ερωτήματα για το πώς θα επιβληθούν οι νέοι κανόνες — για παράδειγμα, πώς το AI θα αναγνωρίζει αν μια εικόνα απεικονίζει πραγματικό πρόσωπο και ποιες κυρώσεις θα εφαρμόζονται σε παραβάτες.
Πρόσθεσε, τέλος, ότι δεν βοηθά την αξιοπιστία της εταιρείας όταν ο ίδιος ο Μασκ «αναδημοσιεύει εικόνες AI με τον Κιρ Στάρμερ σε μπικίνι».
Με πληροφορίες από BBC
