NEO VIDCAST

OpenAI: Το ChatGPT θα ειδοποιεί γονείς αν τα παιδιά τους εμφανίζουν «οξεία δυσφορία» στο ChatGPT

OpenAI: Το ChatGPT θα ειδοποιεί γονείς αν τα παιδιά τους εμφανίζουν «οξεία δυσφορία» στο ChatGPT Facebook Twitter
Φωτ: Getty Images
0

Η OpenAI ανακοίνωσε νέες δικλίδες ασφαλείας για τη χρήση του ChatGPT από εφήβους, ανάμεσά τους ειδοποιήσεις προς γονείς σε περίπτωση που τα παιδιά τους εμφανίζουν οξεία ψυχική δυσφορία κατά τη διάρκεια συνομιλιών με το chatbot.

Τα μέτρα θα τεθούν σε ισχύ τον επόμενο μήνα, μετά την αγωγή που κατέθεσε η οικογένεια του 16χρονου Άνταμ Ρέιν από την Καλιφόρνια, ο οποίος έβαλε τέλος στη ζωή του τον Απρίλιο αφού, σύμφωνα με τα δικαστικά έγγραφα, το ChatGPT τον «καθοδηγούσε» επί μήνες σε μεθόδους αυτοκτονίας.

Οι αλλαγές περιλαμβάνουν τη δυνατότητα σύνδεσης λογαριασμών γονέων και εφήβων, καθώς και έλεγχο των απαντήσεων του μοντέλου βάσει «κανόνων συμπεριφοράς ανά ηλικία». Οι γονείς θα μπορούν επίσης να απενεργοποιούν τη μνήμη και το ιστορικό συνομιλιών, ώστε να αποτρέπεται η δημιουργία μακροχρόνιου προφίλ του παιδιού.

Η OpenAI παραδέχτηκε ότι η ασφάλεια των μοντέλων της μειώνεται σε μακροσκελείς συζητήσεις και σε ανάρτησή της τόνισε: «Οι νέοι είναι ήδη ‘ντόπιοι’ της τεχνητής νοημοσύνης. Αυτό δημιουργεί ευκαιρίες για μάθηση και δημιουργικότητα, αλλά και ανάγκη για σαφείς κανόνες».

Δικλίδες ασφαλείας στο ChatGPT: «Θετικό βήμα, αλλά ανεπαρκές»

Ωστόσο, οργανώσεις προστασίας παιδιών εκφράζουν επιφυλάξεις. Το βρετανικό NSPCC χαρακτήρισε την κίνηση «θετικό βήμα, αλλά ανεπαρκές», τονίζοντας ότι χωρίς αυστηρούς ελέγχους ηλικίας, οι εταιρείες «δεν ξέρουν ποιος πραγματικά χρησιμοποιεί τις πλατφόρμες τους». Η Molly Rose Foundation, που ιδρύθηκε μετά την αυτοκτονία της 14χρονης Μόλι Ράσελ λόγω επιρροής από τα social media, υποστήριξε ότι είναι «ασυγχώρητο να κυκλοφορούν προϊόντα πριν διασφαλιστεί η ασφάλεια των παιδιών και μόνο εκ των υστέρων να γίνονται μικρές διορθώσεις».

Παράλληλα, ο CEO της οργάνωσης Άντι Μπάροους σημείωσε ότι «για άλλη μια φορά χρειάστηκε μια τραγωδία και πίεση από τα ΜΜΕ για να λάβουν δράση οι εταιρείες τεχνολογίας, χωρίς όμως να φτάνουν αρκετά μακριά».

Η Meta υποστηρίζει ότι έχει ενσωματώσει μέτρα προστασίας για εφήβους στα δικά της προϊόντα AI, όπως φραγμούς σε συζητηήσεις σχετικά με την αυτοκτονία, τον αυτοτραυματισμό και τις διατροφικές διαταραχές, παραπέμποντας τους χρήστες σε εξειδικευμένους φορείς. Αντίστοιχα, η Anthropic απαγορεύει τη χρήση του Claude από ανήλικους, ενώ η Google επιτρέπει πρόσβαση στο Gemini σε παιδιά κάτω των 13 μόνο μέσω του Family Link, με αυστηρές προειδοποιήσεις για τους γονείς.

Η συζήτηση για τα όρια και τις ευθύνες των εταιρειών κλιμακώνεται διεθνώς. Η βρετανική ρυθμιστική αρχή Ofcom αναμένεται να εξετάσει τυχόν παραβιάσεις του Online Safety Act, ενώ ειδικοί υπογραμμίζουν ότι η προστασία των παιδιών πρέπει να θεωρείται αυτονόητη και όχι να προστίθεται εκ των υστέρων.

Με πληροφορίες από Guardian

Διεθνή
0

NEO VIDCAST

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Τech & Science / Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Ο όρος διαδίδεται στα social media μεταξύ των ανθρώπων που δηλώνουν «κουρασμένοι» με την τεχνητή νοημοσύνη που «εφευρίσκει» πράγματα, ακούγεται υπερβολικά ανθρώπινη και απειλεί να εξαφανίσει θέσεις εργασίας
LIFO NEWSROOM
Τεχνητή Νοημοσύνη: Το ChatGPT έδωσε «συνταγές» για βόμβες και ναρκωτικά κατά τη διάρκεια δοκιμών ασφαλείας

Τech & Science / Τεχνητή Νοημοσύνη: Το ChatGPT έδωσε «συνταγές» για βόμβες και ναρκωτικά κατά τη διάρκεια δοκιμών ασφαλείας

Δοκιμές της OpenAI και της Anthropic αποκάλυψαν ότι τα chatbots ήταν πρόθυμα να μοιραστούν οδηγίες για εκρηκτικά, βιολογικά όπλα και εγκλήματα στον κυβερνοχώρο
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

Κίνα: Πίσω από την επίδειξη στρατιωτικής ισχύος του Σι κρύβεται εκτεταμένη εκκαθάριση στον στρατό

Διεθνή / Κίνα: Πίσω από την επίδειξη στρατιωτικής ισχύος του Σι κρύβεται εκτεταμένη εκκαθάριση στον στρατό

Ο Σι Τζινπίνγκ ξεκινά εκτεταμένη εκκαθάριση στον κινεζικό στρατό για να αντιμετωπίσει διαφθορά και να διασφαλίσει την επιχειρησιακή ετοιμότητα, στο πλαίσιο των στρατιωτικών φιλοδοξιών του για την Ταϊβάν
LIFO NEWSROOM
ΗΠΑ: Η Υπηρεσία Μετανάστευσης αποκτά πρόσβαση σε λογισμικό κατασκοπείας, το οποίο μπορεί να χακάρει τηλέφωνα

Διεθνή / ΗΠΑ: Η ICE αποκτά πρόσβαση σε λογισμικό κατασκοπείας, το οποίο μπορεί να χακάρει τηλέφωνα

Ένα από τα πιο ισχυρά μυστικά κυβερνο-όπλα που δημιουργήθηκαν ποτέ, βρίσκεται τώρα στα χέρια μιας υπηρεσίας που έχει κατηγορηθεί επανειλημμένα από οργανώσεις για τα ανθρώπινα και πολιτικά δικαιώματα για παραβιάσεις
LIFO NEWSROOM