Ένα λούτρινο αρκουδάκι με τεχνητή νοημοσύνη που παρουσιαζόταν ως κατάλληλο για παιδιά αποσύρθηκε από την αγορά, αφού έρευνα έδειξε ότι συνομιλούσε με ανήλικους για σεξουαλικές πρακτικές και έδινε οδηγίες για επικίνδυνες πράξεις μέσα στο σπίτι.
Το παιχνίδι διατίθετο στο διαδίκτυο ως «διαδραστικός σύντροφος» για παιδιά και ενήλικες, ενσωματώνοντας το μοντέλο GPT-4o της OpenAI.
Η έρευνα πραγματοποιήθηκε από τον αμερικανικό οργανισμό US PIRG Education Fund, ο οποίος δοκίμασε το παιχνίδι σε διαφορετικά σενάρια χρήσης. Σύμφωνα με την έκθεση, η τεχνητή νοημοσύνη δεν περιοριζόταν σε απαντήσεις, αλλά ξεκινούσε η ίδια συζητήσεις με σεξουαλικό περιεχόμενο, αναφέροντας φετίχ, ρόλους υποταγής και λεπτομερείς περιγραφές πράξεων. Σε ορισμένα παραδείγματα έδινε οδηγίες για δεσίματα και πρακτικές BDSM, ακόμη και σε σενάρια όπου οι “ρόλοι” αφορούσαν ενήλικα πρόσωπα εξουσίας, όπως «γονιός–παιδί» ή «δάσκαλος–μαθητής».
Σε άλλες δοκιμές, το παιχνίδι έδινε συμβουλές που κρίθηκαν επικίνδυνες για παιδιά, όπως το πού βρίσκονται μαχαίρια σε ένα σπίτι ή πώς ανάβουν τα σπίρτα. Οι ερευνητές επισημαίνουν ότι το πρόβλημα δεν ήταν μόνο οι απαντήσεις, αλλά η ευκολία με την οποία η συζήτηση εκτρεπόταν σε τέτοιες θεματικές χωρίς κάποια αφορμή.
Η OpenAI, σύμφωνα με τους ερευνητές, απενεργοποίησε τον λογαριασμό της εταιρείας που ανέπτυξε το λογισμικό για το παιχνίδι μετά τη δημοσίευση της έκθεσης, επικαλούμενη παραβίαση των όρων χρήσης.
Η υπόθεση αναδεικνύει την έλλειψη ρυθμιστικού πλαισίου για παιχνίδια που ενσωματώνουν μεγάλα γλωσσικά μοντέλα—μια αγορά που διευρύνεται γρήγορα, χωρίς κοινά πρότυπα ασφαλείας ή διαδικασίες πιστοποίησης. Οι ειδικοί τονίζουν ότι η απόσυρση ενός προϊόντος δεν αρκεί, καθώς παρόμοια παιχνίδια κυκλοφορούν ήδη στο εμπόριο.
«Το ζήτημα δεν είναι απλώς αυτό το παιχνίδι», δήλωσε εκπρόσωπος του US PIRG. «Αν ένα σύστημα μπορεί τόσο εύκολα να οδηγήσει μια συζήτηση σε τέτοιο περιεχόμενο, το ερώτημα είναι ποιος το εγκρίνει, με ποια κριτήρια και πριν φτάσει στα χέρια παιδιών.»
Με πληροφορίες από CNN
