Ο διευθύνων σύμβουλος της εταιρείας Character.ai, που κατασκευάζει chatbot τεχνητής νοημοσύνης, πιστεύει ότι στο μέλλον οι περισσότεροι άνθρωποι θα έχουν «AI φίλους», την ώρα που η εταιρεία αντιμετωπίζει μια σειρά από αγωγές για πρόκληση βλάβης σε παιδιά και ομάδες ζητούν την απαγόρευση τέτοιων εφαρμογών «συντροφιάς».
Η εταιρεία με έδρα το Σαν Φρανσίσκο - με επενδυτές κορυφαία ονόματα της Silicon Valley, όπως η Andreessen Horowitz, και παλιότερα υποψήφια εξαγοράς από τη Meta - βρίσκεται στην πρώτη γραμμή στην ανάπτυξη chatbot με προσωπικότητες που αλληλεπιδρούν με ανθρώπους.
Προσφέρει χαρακτήρες όπως «Αιγύπτιος Φαραώ», «υπεύθυνος HR» ή «τοξική κοπέλα», οι οποίοι έχουν γίνει δημοφιλείς κυρίως σε νεαρούς χρήστες.
«Δεν θα αντικαταστήσουν τους πραγματικούς σας φίλους, αλλά θα έχετε AI φίλους και θα μπορείτε να μεταφέρετε όσα μαθαίνετε από τις συνομιλίες μαζί τους στις συζητήσεις της καθημερινής ζωής», δήλωσε ο Karandeep Anand, που ανέλαβε CEO τον Ιούνιο.
Ο διορισμός του έγινε λιγότερο από έναν χρόνο μετά την αποχώρηση των ιδρυτών της εταιρείας για λογαριασμό της Google στο πλαίσιο συμφωνίας 2,7 δισ. δολαρίων. Η εταιρεία αναφέρει πως διαθέτει 20 εκατ. ενεργούς χρήστες τον μήνα, με περίπου τους μισούς να είναι γυναίκες και το 50% να ανήκουν στις γενιές Gen Z ή Alpha (γεννημένοι μετά το 1997).
Ωστόσο, η Character.ai αντιμετωπίζει και αγωγές από οικογένειες που ισχυρίζονται ότι τα παιδιά τους υπέστησαν πραγματική βλάβη από τη χρήση της πλατφόρμας.
Μια υπόθεση στη Φλόριντα υποστηρίζει ότι η πλατφόρμα συνέβαλε στην αυτοκτονία ενός 14χρονου. Μια άλλη αγωγή στο Τέξας αναφέρεται σε έφηβο που συζήτησε με το chatbot για καυγά σχετικό με τον χρόνο μπροστά στην οθόνη, και φέρεται να έλαβε απάντηση πως η δολοφονία των γονιών του ήταν πιθανή λύση. Σε άλλη περίπτωση, 9χρονη φέρεται να εκτέθηκε σε έντονα σεξουαλικό περιεχόμενο.
Η εταιρεία αρνήθηκε να σχολιάσει εν εξελίξει αγωγές, αλλά σημείωσε αλλαγές που έχει εφαρμόσει πρόσφατα, όπως τη δημιουργία ξεχωριστού μοντέλου AI για κάτω των 18 ετών και ειδοποιήσεις όταν οι χρήστες ξεπερνούν τη μία ώρα χρήσης.
Η Character.ai απαγορεύει μη συναινετικό σεξουαλικό περιεχόμενο, γραφικές περιγραφές σεξουαλικών πράξεων και απεικονίσεις ή προτροπή σε αυτοτραυματισμό ή αυτοκτονία. «Η εμπιστοσύνη και η ασφάλεια δεν διαπραγματεύονται», είπε ο Anand. «Εξελισσόμαστε συνεχώς για να κάνουμε την πλατφόρμα πιο ασφαλή.»
Οργανώσεις όπως η Common Sense Media πιέζουν για αμερικανική νομοθεσία που θα απαγορεύει τη χρήση εφαρμογών AI-συντροφιάς από ανηλίκους.
Σε έρευνα με περισσότερους από 1.000 εφήβους στις ΗΠΑ, το 39% δήλωσε ότι μετέφερε κοινωνικές δεξιότητες που εξασκήθηκε με AI συνομιλητές σε πραγματικές καταστάσεις, ενώ το 33% προτίμησε να συζητήσει σοβαρά ζητήματα με τα chatbots αντί με αληθινούς ανθρώπους.
«Αυτά τα προϊόντα σχεδιάζονται για να προκαλούν συναισθηματικό δέσιμο και εξάρτηση, κάτι ιδιαίτερα ανησυχητικό για εφηβικούς εγκεφάλους που ακόμα μαθαίνουν πώς να διαχειρίζονται σχέσεις», δήλωσε ο Robbie Torney, διευθυντής AI στο Common Sense Media.
Η εταιρεία πρόσφατα εισήγαγε διαφημίσεις και σχεδιάζει να ενσωματώσει δυνατότητες κερδοφορίας για δημιουργούς, όπως φιλοδωρήματα και in-app αγορές. Το κύριο έσοδό της προέρχεται από συνδρομές, οι οποίες έχουν αυξηθεί κατά 250% σε ετήσια βάση. Η υπηρεσία χρεώνεται με $9,99/μήνα ή $120/έτος.
Παρότι ο μέσος χρήστης αφιερώνει 80 λεπτά την ημέρα στην εφαρμογή, ο Anand υποστηρίζει ότι η εμπειρία είναι πιο διαδραστική και ψυχαγωγική, σε αντίθεση με την παθητική κατανάλωση περιεχομένου. Η εταιρεία ξεκίνησε και ένα social feed αυτό τον μήνα, δίνοντας έμφαση στη διασκέδαση.
Ένα ακόμα αυξανόμενο φαινόμενο είναι η χρήση αυτών των πλατφορμών για ρομαντικούς ή πονηρούς διαλόγους. Το Grok του Elon Musk και το chatbot της Meta έχουν ήδη ενσωματώσει τέτοιες δυνατότητες για ενήλικες.
Η Character.ai επιτρέπει ρομαντικές συνομιλίες με ενήλικες χρήστες, αλλά όχι σεξουαλικά ρητές. «Υπάρχει μια τεράστια γκάμα εφαρμογών 18+ που δυστυχώς ζητούν όλο και περισσότερο τέτοιο περιεχόμενο», δήλωσε ο Anand, προσθέτοντας: «Η ασφάλεια δεν θα τεθεί ποτέ ως αντάλλαγμα για την αλληλεπίδραση».
Ο Mark Zuckerberg είχε πει σε podcast ότι η αλληλεπίδραση με AI ως φίλο θα μπορούσε να βοηθήσει στη μείωση της μοναξιάς. Ο Anand συμφωνεί:
«Βλέπω έναν ουτοπικό κόσμο όπου η AI μας κάνει καλύτερους ανθρώπους. Οι άνθρωποι χρησιμοποιούν αυτούς τους χαρακτήρες σαν “πεδίο δοκιμής” για να κάνουν τις πραγματικές τους σχέσεις πιο ουσιαστικές, βαθύτερες και πιο υγιείς.»
Με πληροφορίες από Financial Times
