Η OpenAI ανακοίνωσε νέες δικλίδες ασφαλείας για τη χρήση του ChatGPT από εφήβους, ανάμεσά τους ειδοποιήσεις προς γονείς σε περίπτωση που τα παιδιά τους εμφανίζουν οξεία ψυχική δυσφορία κατά τη διάρκεια συνομιλιών με το chatbot.
Τα μέτρα θα τεθούν σε ισχύ τον επόμενο μήνα, μετά την αγωγή που κατέθεσε η οικογένεια του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια, ο οποίος έβαλε τέλος στη ζωή του τον Απρίλιο αφού, σύμφωνα με τα δικαστικά έγγραφα, το ChatGPT τον «καθοδηγούσε» επί μήνες σε μεθόδους αυτοκτονίας.
Οι αλλαγές περιλαμβάνουν τη δυνατότητα σύνδεσης λογαριασμών γονέων και εφήβων, καθώς και έλεγχο των απαντήσεων του μοντέλου βάσει «κανόνων συμπεριφοράς ανά ηλικία». Οι γονείς θα μπορούν επίσης να απενεργοποιούν τη μνήμη και το ιστορικό συνομιλιών, ώστε να αποτρέπεται η δημιουργία μακροχρόνιου προφίλ του παιδιού.
Η OpenAI παραδέχτηκε ότι η ασφάλεια των μοντέλων της μειώνεται σε μακροσκελείς συζητήσεις και σε ανάρτησή της τόνισε: «Οι νέοι είναι ήδη ‘ντόπιοι’ της τεχνητής νοημοσύνης. Αυτό δημιουργεί ευκαιρίες για μάθηση και δημιουργικότητα, αλλά και ανάγκη για σαφείς κανόνες».
Δικλίδες ασφαλείας στο ChatGPT: «Θετικό βήμα, αλλά ανεπαρκές»
Ωστόσο, οργανώσεις προστασίας παιδιών εκφράζουν επιφυλάξεις. Το βρετανικό NSPCC χαρακτήρισε την κίνηση «θετικό βήμα, αλλά ανεπαρκές», τονίζοντας ότι χωρίς αυστηρούς ελέγχους ηλικίας, οι εταιρείες «δεν ξέρουν ποιος πραγματικά χρησιμοποιεί τις πλατφόρμες τους». Η Molly Rose Foundation, που ιδρύθηκε μετά την αυτοκτονία της 14χρονης Μόλι Ράσελ λόγω επιρροής από τα social media, υποστήριξε ότι είναι «ασυγχώρητο να κυκλοφορούν προϊόντα πριν διασφαλιστεί η ασφάλεια των παιδιών και μόνο εκ των υστέρων να γίνονται μικρές διορθώσεις».
Παράλληλα, ο CEO της οργάνωσης Άντι Μπάροους σημείωσε ότι «για άλλη μια φορά χρειάστηκε μια τραγωδία και πίεση από τα ΜΜΕ για να λάβουν δράση οι εταιρείες τεχνολογίας, χωρίς όμως να φτάνουν αρκετά μακριά».
Η Meta υποστηρίζει ότι έχει ενσωματώσει μέτρα προστασίας για εφήβους στα δικά της προϊόντα AI, όπως φραγμούς σε συζητηήσεις σχετικά με την αυτοκτονία, τον αυτοτραυματισμό και τις διατροφικές διαταραχές, παραπέμποντας τους χρήστες σε εξειδικευμένους φορείς. Αντίστοιχα, η Anthropic απαγορεύει τη χρήση του Claude από ανήλικους, ενώ η Google επιτρέπει πρόσβαση στο Gemini σε παιδιά κάτω των 13 μόνο μέσω του Family Link, με αυστηρές προειδοποιήσεις για τους γονείς.
Η συζήτηση για τα όρια και τις ευθύνες των εταιρειών κλιμακώνεται διεθνώς. Η βρετανική ρυθμιστική αρχή Ofcom αναμένεται να εξετάσει τυχόν παραβιάσεις του Online Safety Act, ενώ ειδικοί υπογραμμίζουν ότι η προστασία των παιδιών πρέπει να θεωρείται αυτονόητη και όχι να προστίθεται εκ των υστέρων.
Με πληροφορίες από Guardian
