Επεξεργασμένες εικόνες AI δείχνουν σεξουαλική κακοποίηση παιδιών και κατακλύζουν το Διαδίκτυο

Επεξεργασμένες εικόνες AI δείχνουν σεξουαλική κακοποίηση παιδιών και κατακλύζουν το Διαδίκτυο Facebook Twitter
Φωτογραφία αρχείου: Freepik.com
0

Ένα ανησυχητικό κύμα εικόνων και βίντεο σεξουαλικής κακοποίησης παιδιών (CSAM) που δημιουργούνται μέσω τεχνητής νοημοσύνης κατακλύζει το διαδίκτυο, προκαλώντας ανησυχία στις αρχές επιβολής του νόμου και σε οργανισμούς προστασίας των παιδιών.

Σύμφωνα με νέες εκθέσεις, η ρεαλιστικότητα των παραγόμενων εικόνων αγγίζει πλέον το όριο του αδιάκριτου, απειλώντας να υπονομεύσει τις προσπάθειες εντοπισμού και δίωξης πραγματικών περιστατικών κακοποίησης.

Όπως καταγράφει το Internet Watch Foundation (IWF), μη κερδοσκοπικός οργανισμός με έδρα τη Βρετανία, μόνο το πρώτο εξάμηνο του 2025 εντοπίστηκαν 1.286 βίντεο CSAM δημιουργημένα από AI, έναντι μόλις δύο κατά το αντίστοιχο διάστημα του 2024. Παράλληλα, στις ΗΠΑ, το Εθνικό Κέντρο για τα Εξαφανισμένα και Εκμεταλλευόμενα Παιδιά (NCMEC) δήλωσε ότι έχει λάβει περισσότερες από 485.000 αναφορές τέτοιου περιεχομένου φέτος - υπερδεκαπλάσιες από το σύνολο του 2024.

Η άνοδος αποδίδεται στην πρόοδο της τεχνολογίας παραγωγικής τεχνητής νοημοσύνης και στη συνεργασία χρηστών σε σκοτεινά φόρουμ του dark web. Οι εικόνες είναι πλέον πιο ομαλές, λεπτομερείς και δύσκολα ανιχνεύσιμες.

«Ένα τσουνάμι εικόνων»

«Πρόκειται για ένα απόλυτο τσουνάμι», δήλωσε ο προσωρινός διευθύνων σύμβουλος του IWF, Derek Ray-Hill, επισημαίνοντας ότι το AI-generated περιεχόμενο συχνά συνδυάζει πραγματικές φωτογραφίες παιδιών με ψεύτικες συνθέσεις, καθιστώντας το έργο των διωκτικών αρχών εξαιρετικά περίπλοκο.

Παρότι οι εικόνες που δημιουργούνται από τεχνητή νοημοσύνη εξακολουθούν να αποτελούν μικρό μέρος του συνόλου του υλικού CSAM στο διαδίκτυο, οι αρχές δηλώνουν καταβεβλημένες από τον όγκο των αναφορών. Αυτό δυσχεραίνει την επικέντρωση σε περιπτώσεις πραγματικής κακοποίησης.

Ομοσπονδιακοί και πολιτειακοί νόμοι στις ΗΠΑ καλύπτουν πλέον ρητά και τις εικόνες CSAM που δημιουργούνται με τεχνητή νοημοσύνη, αν και η νομική προσέγγιση παραμένει ασαφής και εξελισσόμενη. Ορισμένα δικαστήρια μόλις τώρα ξεκινούν να αντιμετωπίζουν τις ιδιαιτερότητες αυτών των υποθέσεων.

Περίπου 35 εταιρείες τεχνολογίας δηλώνουν ότι αναγνωρίζουν και αναφέρουν υλικό CSAM που παράγεται με τεχνητή νοημοσύνη. Η Amazon, μέσω της υπηρεσίας cloud AWS, ανέφερε 380.000 περιπτώσεις το πρώτο εξάμηνο του έτους. Η OpenAI δήλωσε ότι απέσυρε 75.000 περιπτώσεις. Η Stability AI ανέφερε λιγότερες από 30.

Η Stability AI δήλωσε ότι έχει ενισχύσει τα φίλτρα ασφαλείας και παραμένει «βαθιά δεσμευμένη» στην πρόληψη κακόβουλης χρήσης των εργαλείων της. Παρόμοιες αναφορές εξέδωσαν και η OpenAI και η Amazon.

Εκβιασμοί, deepfakes και χρήση σχολικών εικόνων

Το πρόβλημα επιτείνεται από τη χρήση εργαλείων AI για τη δημιουργία γυμνών deepfakes με πρόσωπα ανηλίκων ή τον εκβιασμό παιδιών με χρήση συνθετικών εικόνων. Συχνά, οι φωτογραφίες αντλούνται από σχολικά sites και προφίλ στα social media.

Ερευνητές του Πανεπιστημίου Στάνφορντ είχαν εντοπίσει τον Δεκέμβριο του 2023 υλικό παιδικής κακοποίησης σε εκπαιδευτικό dataset πρώιμης έκδοσης του Stable Diffusion. Η Stability AI υποστηρίζει ότι δεν συμμετείχε στη συγκεκριμένη εκπαίδευση.

Τον Μάρτιο, άνδρας από το Ουισκόνσιν που κατηγορείται για κατοχή και διανομή 13.000 εικόνων AI-generated CSAM, επικαλέστηκε την Πρώτη Τροπολογία και δικαιώθηκε σε μία από τις κατηγορίες. Ωστόσο, η υπόθεσή του παραμένει ανοιχτή για τις κατηγορίες παραγωγής και διανομής, καθώς επιχείρησε να μοιραστεί τις εικόνες μέσω Instagram με ανήλικο.

«Το Υπουργείο Δικαιοσύνης θεωρεί όλες τις μορφές CSAM που δημιουργούνται από τεχνητή νοημοσύνη ως σοβαρή και αναδυόμενη απειλή», δήλωσε ο Matt Galeotti, επικεφαλής του ποινικού τμήματος.

Η κλιμάκωση του φαινομένου δημιουργεί νέες ανάγκες για νομοθετική επαγρύπνηση, διεθνή συνεργασία και αυστηρότερους μηχανισμούς προστασίας των παιδιών στο ψηφιακό περιβάλλον.

Με πληροφορίες από New York Times

 
Διεθνή
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Η εβδομάδα της κρίσης για την Κίνα: Οι στρατηγικές κινήσεις της στην παγκόσμια σκακιέρα

Διεθνή / Η εβδομάδα της κρίσης για την Κίνα: Οι στρατηγικές κινήσεις της στην παγκόσμια σκακιέρα

Αυτή η εβδομάδα για το Πεκίνο είναι μια ευκαιρία για επίδειξη στρατιωτικής, πολιτικής, και οικονομικής ισχύος, καθώς και της ικανότητας του να προσφέρει εναλλακτικές σε μια απρόβλεπτη εποχή
LIFO NEWSROOM
Γάζα: Η Χαμάς επιβεβαιώνει τον θάνατο του στρατιωτικού ηγέτη της, Μοχάμεντ Σινουάρ

Διεθνή / Γάζα: Η Χαμάς επιβεβαιώνει τον θάνατο του στρατιωτικού ηγέτη της, Μοχάμεντ Σινουάρ

Η Χαμάς δεν υπεισήλθε σε λεπτομέρειες σχετικά με τις συνθήκες του θανάτου του Μοχάμεντ Σινουάρ, αλλά συμπεριέλαβε τη φωτογραφία του μαζί με εκείνες άλλων ηγετών του κινήματος που χαρακτηρίστηκαν «μάρτυρες»
LIFO NEWSROOM
Μεξικό: Μία ολόκληρη «πόλη» έχει εξαφανισθεί από το 2007 που κηρύχθηκε ο «πόλεμος κατά των ναρκωτικών

Διεθνή / Μεξικό: Μία ολόκληρη «πόλη» έχει εξαφανισθεί από το 2007 που κηρύχθηκε ο «πόλεμος κατά των ναρκωτικών

Περισσότερα από 130.000 άτομα έχουν δηλωθεί ως αγνοούμενα στο Μεξικό - Διαδηλώσεις σε όλη την χώρα από συγγενείς, φίλους αγνοουμένων, καθώς και ακτιβιστές των ανθρώπινων δικαιωμάτων
LIFO NEWSROOM
Μπρους Γουίλις: Ζει σε διαφορετικό σπίτι από την οικογένειά του - Η σύζυγός του απαντά για την κριτική που δέχεται

Διεθνή / Μπρους Γουίλις: Η σύζυγός του αποκάλυψε ότι ο σταρ ζει σε διαφορετικό σπίτι και δέχτηκε κριτική

Η Έμα Χέμιγνκ Γουίλις μιλά για τη «δυσκολότερη απόφαση» που κλήθηκε να πάρει και την κριτική που έχει δεχθεί εν μέσω της μάχης του Μπρους Γουίλις με την άνοια
LIFO NEWSROOM
Τι κρύβει η απόφαση των ΗΠΑ να μπλοκάρουν τη συμμετοχή του Μαχμούντ Αμπάς στη Γενική Συνέλευση του ΟΗΕ

Διεθνή / Τι κρύβει η απόφαση των ΗΠΑ να μπλοκάρουν τη συμμετοχή του Μαχμούντ Αμπάς στη Γενική Συνέλευση του ΟΗΕ

Ο Αμερικανός Υπουργός Εξωτερικών, Μάρκο Ρούμπιο, ακύρωσε τις θεωρήσεις εισόδου που είχαν χορηγηθεί σε μέλη της Παλαιστινιακής Αρχής (PA) και της Οργάνωσης για την Απελευθέρωση της Παλαιστίνης (PLO), ενώ έχει αρνηθεί σε άλλους να υποβάλουν αίτηση για βίζα
LIFO NEWSROOM
Ο Τραμπ εξετάζει την αποστολή ιδιωτικού στρατού στην Ουκρανία

Διεθνή / Ο Τραμπ εξετάζει την αποστολή ιδιωτικού στρατού στην Ουκρανία - Τι περιλαμβάνει το σχέδιο

Η παρουσία των ιδιωτικών στρατιωτικών δυνάμεων θα λειτουργήσει ως αποτρεπτικό μέτρο ώστε να αποθαρρύνει τον Βλαντίμιρ Πούτιν από το να παραβιάσει μια ενδεχόμενη συμφωνία κατάπαυσης του πυρός
LIFO NEWSROOM
Το Πεντάγωνο ανέθεσε συμβόλαιο 1,2 δισ. για κέντρο κράτησης σε εταιρεία που δηλώνει έδρα ένα σπίτι

Διεθνή / Το Πεντάγωνο ανέθεσε συμβόλαιο 1,2 δισ. για κέντρο κράτησης σε εταιρεία που δηλώνει έδρα ένα σπίτι

Η εταιρεία, που ανέλαβε την κατασκευή του μεγαλύτερου κέντρου κράτησης μεταναστών στις ΗΠΑ, δεν διαθέτει λειτουργική ιστοσελίδα - Το Πεντάγωνο αρνείται να δημοσιοποιήσει το συμβόλαιο
LIFO NEWSROOM