Η Ευρωπαϊκή Επιτροπή ξεκίνησε έρευνα κατά της πλατφόρμας X του Έλον Μασκ σχετικά με την παραγωγή επεξεργασμένων εικόνων σεξουαλικού περιεχομένου και τη διάδοση ενδεχόμενου υλικού σεξουαλικής κακοποίησης παιδιών από το chatbot Grok.
Η επίσημη έρευνα, που ξεκίνησε σήμερα, Δευτέρα επεκτείνει επίσης τον έλεγχο στα συστήματα προτάσεων της X, δηλαδή στους αλγορίθμους που βοηθούν τους χρήστες να ανακαλύπτουν νέο περιεχόμενο.
Το Grok έχει προκαλέσει διεθνή κατακραυγή, καθώς επέτρεπε σε χρήστες να «γδύνουν» ψηφιακά γυναίκες και παιδιά και να τα τοποθετούν σε προκλητικές στάσεις.
Σύμφωνα με ερευνητές του Κέντρου για την Αντιμετώπιση του Ψηφιακού Μίσους (Center for Countering Digital Hate), η τεχνητή νοημοσύνη Grok δημιούργησε περίπου 3 εκατομμύρια εικόνες σεξουαλικού περιεχομένου σε λιγότερο από δύο εβδομάδες, εκ των οποίων 23.000 φαίνεται να απεικόνιζαν παιδιά.
Η Επιτροπή ανέφερε ότι η νέα έρευνα θα «αξιολογήσει κατά πόσο η εταιρεία εκτίμησε σωστά και περιόρισε τους κινδύνους» που απορρέουν από τις λειτουργίες του Grok στην ΕΕ, συμπεριλαμβανομένων των κινδύνων που σχετίζονται με τη διάδοση παράνομου περιεχομένου, όπως επεξεργασμένες εικόνες και «περιεχόμενο που ενδέχεται να συνιστά» υλικό σεξουαλικής κακοποίησης παιδιών.
Η έρευνα διεξάγεται βάσει του Νόμου για τις Ψηφιακές Υπηρεσίες (Digital Services Act – DSA), μιας σχετικά νέας ευρωπαϊκής νομοθεσίας που αποσκοπεί στην προστασία των χρηστών του διαδικτύου από ένα ευρύ φάσμα κινδύνων.
Μιλώντας σε δημοσιογράφους, αξιωματούχος δήλωσε ότι η Επιτροπή δεν πείστηκε από τα μέτρα που έχει λάβει η X για τον περιορισμό του προβλήματος. Οι ευρωπαϊκές αρχές εξετάζουν εάν η πλατφόρμα διαθέτει επαρκή συστήματα για τη σωστή αντιμετώπιση των κινδύνων.
Ανακοινώνοντας την έρευνα, η Χένα Βίρκουνεν, αρμόδια επίτροπος της Επιτροπής για την τεχνολογική κυριαρχία, την ασφάλεια και τη δημοκρατία, δήλωσε:
«Τα μη συναινετικά σεξουαλικά deepfakes γυναικών και παιδιών αποτελούν μια βίαιη και απαράδεκτη μορφή εξευτελισμού. Με αυτή την έρευνα θα διαπιστώσουμε αν η X έχει εκπληρώσει τις νομικές της υποχρεώσεις βάσει του DSA ή αν αντιμετώπισε τα δικαιώματα των Ευρωπαίων πολιτών – συμπεριλαμβανομένων των γυναικών και των παιδιών – ως παράπλευρη απώλεια της υπηρεσίας της».
Η Ιρλανδή ευρωβουλευτής Ρετζίνα Ντόχερτι δήλωσε ότι χαιρετίζει την επίσημη έρευνα: «Όταν προκύπτουν αξιόπιστες αναφορές ότι συστήματα τεχνητής νοημοσύνης χρησιμοποιούνται με τρόπους που βλάπτουν γυναίκες και παιδιά, είναι απαραίτητο το ευρωπαϊκό δίκαιο να εξετάζεται και να εφαρμόζεται χωρίς καθυστέρηση», είπε.
Σε απάντηση στην έρευνα, η X παρέπεμψε σε ανακοίνωση που είχε δημοσιεύσει στις 14 Ιανουαρίου: «Παραμένουμε προσηλωμένοι στο να καταστήσουμε το X μια ασφαλή πλατφόρμα για όλους και συνεχίζουμε να εφαρμόζουμε πολιτική μηδενικής ανοχής απέναντι σε κάθε μορφή σεξουαλικής εκμετάλλευσης παιδιών, μη συναινετικής γυμνότητας και ανεπιθύμητου σεξουαλικού περιεχομένου».
Με πληροφορίες από Guardian
