Η OpenAI σκοπεύει να επιτρέψει ένα ευρύτερο φάσμα χρήσεων στο ChatGPT, ανάμεσά τους και αλληλεπιδράσεις σεξουαλικού περιεχομένου. Η αλλαγή εντάσσεται σε μια νέα πολιτική που, σύμφωνα με τον διευθύνοντα σύμβουλο Σαμ Άλτμαν, στοχεύει στο να «αντιμετωπίζει τους ενήλικες χρήστες σαν ενήλικες».
Σε ανάρτησή του στην πλατφόρμα Χ (πρώην Twitter) την Τρίτη, ο Άλτμαν ανέφερε ότι οι επόμενες εκδόσεις του δημοφιλούς chatbot θα μπορούν να συμπεριφέρονται «με πιο ανθρώπινο τρόπο, αλλά μόνο αν το επιθυμεί ο χρήστης, όχι επειδή “κυνηγάμε” τη χρήση».
Η κίνηση θυμίζει την πρόσφατη απόφαση της xAI του Έλον Μασκ να εντάξει στο σύστημά της δύο chatbot με σαφές σεξουαλικό περιεχόμενο. Παράλληλα, όμως, ενδέχεται να εντείνει τις πιέσεις προς τους νομοθέτες για αυστηρότερους κανονισμούς γύρω από τους ψηφιακούς συνομιλητές.
ChatGPT: Χαλάρωση περιορισμών και νέα εργαλεία ασφαλείας
Ο Σαμ Άλτμαν δήλωσε ότι η εταιρεία είχε αρχικά επιβάλει αυστηρούς περιορισμούς στη λειτουργία του ChatGPT «για να διασφαλίσει ότι αντιμετωπίζουμε προσεκτικά τα ζητήματα ψυχικής υγείας». Οι σχετικές αλλαγές είχαν παρουσιαστεί σε ανάρτηση του περασμένου Αυγούστου, η οποία πλέον δεν είναι διαθέσιμη στην ιστοσελίδα της OpenAI.
«Καταλάβαμε ότι αυτό έκανε το ChatGPT λιγότερο χρήσιμο ή ευχάριστο για πολλούς χρήστες που δεν αντιμετώπιζαν ψυχικά προβλήματα», ανέφερε ο Άλτμαν στην ανάρτησή του την Τρίτη. «Όμως, λόγω της σοβαρότητας του θέματος, θέλαμε να το διαχειριστούμε σωστά.»
Πρόσθεσε ότι πλέον η εταιρεία μπορεί να χαλαρώσει τους περιορισμούς, «αφού έχουμε κατορθώσει να περιορίσουμε τα σοβαρά ζητήματα ψυχικής υγείας και διαθέτουμε νέα εργαλεία ασφαλείας».
Σύμφωνα με τον ίδιο, από τον Δεκέμβριο, καθώς θα εφαρμοστεί πλήρως η επαλήθευση ηλικίας, το ChatGPT θα επιτρέπει «περισσότερο περιεχόμενο, όπως συνομιλίες με ερωτικό ή σεξουαλικό περιεχόμενο για επαληθευμένους ενήλικες», στο πλαίσιο της αρχής «να αντιμετωπίζουμε τους ενήλικες σαν ενήλικες».
Ανησυχίες για την ασφάλεια των παιδιών
Οι αλλαγές ανακοινώνονται λίγους μήνες μετά τη μήνυση που κατατέθηκε εναντίον της OpenAI από τους γονείς ενός Αμερικανού εφήβου που έβαλε τέλος στη ζωή του. Η οικογένεια του 16χρονου Άνταμ Ρέιν κατηγορεί την εταιρεία για αμέλεια και ευθύνη θανάτου, υποστηρίζοντας ότι το παιδί συνομιλούσε με το ChatGPT για τις αυτοκτονικές του σκέψεις.
Στη δικαστική προσφυγή περιλαμβάνονται αποσπάσματα συνομιλιών του εφήβου με το chatbot. Σε δήλωσή της τότε προς το BBC, η OpenAI ανέφερε ότι εξετάζει την υπόθεση, εκφράζοντας «τα βαθύτερα συλλυπητήριά της στην οικογένεια Ρέιν για την απώλειά της».
Στο μεταξύ, ειδικοί και οργανώσεις προειδοποιούν ότι η εισαγωγή σεξουαλικού περιεχομένου στο ChatGPT ενδέχεται να αυξήσει τον κίνδυνο πρόσβασης ανηλίκων σε ακατάλληλο υλικό.
Στο Ηνωμένο Βασίλειο, το γραπτό ερωτικό ή σεξουαλικό υλικό δεν υπόκειται σε έλεγχο ηλικίας βάσει του Online Safety Act, σε αντίθεση με τις πορνογραφικές εικόνες, συμπεριλαμβανομένων και εκείνων που παράγονται μέσω τεχνητής νοημοσύνης.
Στις Ηνωμένες Πολιτείες, νομικοί και παιδοψυχολόγοι ζητούν ομοσπονδιακούς κανονισμούς που θα υποχρεώνουν τις εταιρείες τεχνητής νοημοσύνης να προστατεύουν τους ανήλικους χρήστες. «Πώς θα διασφαλίσουν ότι τα παιδιά δεν θα έχουν πρόσβαση στα τμήματα του ChatGPT που προορίζονται για ενηλίκους;» αναρωτήθηκε η δικηγόρος Τζένη Κιμ από την εταιρεία Boies Schiller Flexner, η οποία συμμετέχει σε άλλη αγωγή κατά της Meta για τις επιπτώσεις του Instagram στην ψυχική υγεία των εφήβων.
Αντιδράσεις και πολιτικές παρεμβάσεις στις ΗΠΑ
Τον Απρίλιο, το TechCrunch είχε αποκαλύψει ότι ορισμένοι λογαριασμοί χρηστών, καταχωρημένοι ως ανήλικοι, μπορούσαν να δημιουργούν ερωτικό περιεχόμενο μέσω του ChatGPT, κάτι που η OpenAI υποσχέθηκε τότε να διορθώσει με τεχνική αναβάθμιση.
Πιο πρόσφατα, έρευνα του μη κερδοσκοπικού οργανισμού Centre for Democracy and Technology (CDT) έδειξε ότι ένας στους πέντε μαθητές δήλωσε πως είχε, ή γνώριζε κάποιον που είχε, «ρομαντική σχέση» με ένα σύστημα τεχνητής νοημοσύνης.
Στην Καλιφόρνια, ο κυβερνήτης Γκάβιν Νιούσομ άσκησε βέτο σε νομοσχέδιο που θα απαγόρευε στις εταιρείες να προσφέρουν chatbot συντρόφους σε παιδιά, εκτός αν μπορούσαν να αποδείξουν ότι η τεχνολογία τους δεν προκαλεί επιβλαβείς συμπεριφορές. Στο μήνυμά του προς τη νομοθετική συνέλευση, ο Νιούσομ τόνισε ότι είναι «απαραίτητο οι έφηβοι να μάθουν πώς να αλληλεπιδρούν με ασφάλεια με τα συστήματα τεχνητής νοημοσύνης».
Σε ομοσπονδιακό επίπεδο, η Επιτροπή Εμπορίου των ΗΠΑ (FTC) έχει ξεκινήσει έρευνα για τον τρόπο με τον οποίο τα chatbot αλληλεπιδρούν με παιδιά, ενώ στη Γερουσία κατατέθηκε διακομματικό νομοσχέδιο που θα επιτρέπει στους χρήστες να εγείρουν αγωγές ευθύνης κατά των εταιρειών ανάπτυξης τεχνητής νοημοσύνης.
Γιατί τώρα: η εμπορική διάσταση της απόφασης
Η ανακοίνωση του Σαμ Άλτμαν έρχεται σε μια περίοδο που αυξάνονται οι αμφιβολίες για τη βιωσιμότητα και την πραγματική αξία των εταιρειών τεχνητής νοημοσύνης, παρά τη ραγδαία ανάπτυξή τους.
Αν και τα έσοδα της OpenAI συνεχίζουν να αυξάνονται, η εταιρεία δεν είναι ακόμη κερδοφόρα. Σύμφωνα με τον καθηγητή επιχειρηματικότητας του Πανεπιστημίου Tulane, Ρομπ Λάλκα, συγγραφέα του βιβλίου The Venture Alchemists, οι μεγάλες εταιρείες τεχνητής νοημοσύνης «βρίσκονται σε μια μάχη για το μερίδιο αγοράς».
«Καμία εταιρεία δεν έχει γνωρίσει υιοθέτηση τόσο γρήγορη όσο η OpenAI με το ChatGPT», δήλωσε στο BBC. «Πρέπει να συνεχίσουν να διατηρούν αυτήν την εκθετική πορεία ανάπτυξης και να εδραιώσουν την κυριαρχία τους στην αγορά», πρόσθεσε.
Με πληροφορίες από BBC
