Character.ai: Τι είναι οι «φίλοι τεχνητής νοημοσύνης» και γιατί προκαλούν ανησυχία για τα παιδιά

Character.ai: Οι «φίλοι τεχνητής νοημοσύνης» και η ανησυχία για την ασφάλεια των παιδιών Facebook Twitter
φωτ.: Getty
0

Ο διευθύνων σύμβουλος της εταιρείας Character.ai, που κατασκευάζει chatbot τεχνητής νοημοσύνης, πιστεύει ότι στο μέλλον οι περισσότεροι άνθρωποι θα έχουν «AI φίλους», την ώρα που η εταιρεία αντιμετωπίζει μια σειρά από αγωγές για πρόκληση βλάβης σε παιδιά και ομάδες ζητούν την απαγόρευση τέτοιων εφαρμογών «συντροφιάς».

Η εταιρεία με έδρα το Σαν Φρανσίσκο - με επενδυτές κορυφαία ονόματα της Silicon Valley, όπως η Andreessen Horowitz, και παλιότερα υποψήφια εξαγοράς από τη Meta - βρίσκεται στην πρώτη γραμμή στην ανάπτυξη chatbot με προσωπικότητες που αλληλεπιδρούν με ανθρώπους.

Προσφέρει χαρακτήρες όπως «Αιγύπτιος Φαραώ», «υπεύθυνος HR» ή «τοξική κοπέλα», οι οποίοι έχουν γίνει δημοφιλείς κυρίως σε νεαρούς χρήστες.

«Δεν θα αντικαταστήσουν τους πραγματικούς σας φίλους, αλλά θα έχετε AI φίλους και θα μπορείτε να μεταφέρετε όσα μαθαίνετε από τις συνομιλίες μαζί τους στις συζητήσεις της καθημερινής ζωής», δήλωσε ο Karandeep Anand, που ανέλαβε CEO τον Ιούνιο.

Ο διορισμός του έγινε λιγότερο από έναν χρόνο μετά την αποχώρηση των ιδρυτών της εταιρείας για λογαριασμό της Google στο πλαίσιο συμφωνίας 2,7 δισ. δολαρίων. Η εταιρεία αναφέρει πως διαθέτει 20 εκατ. ενεργούς χρήστες τον μήνα, με περίπου τους μισούς να είναι γυναίκες και το 50% να ανήκουν στις γενιές Gen Z ή Alpha (γεννημένοι μετά το 1997).

Ωστόσο, η Character.ai αντιμετωπίζει και αγωγές από οικογένειες που ισχυρίζονται ότι τα παιδιά τους υπέστησαν πραγματική βλάβη από τη χρήση της πλατφόρμας.

Μια υπόθεση στη Φλόριντα υποστηρίζει ότι η πλατφόρμα συνέβαλε στην αυτοκτονία ενός 14χρονου. Μια άλλη αγωγή στο Τέξας αναφέρεται σε έφηβο που συζήτησε με το chatbot για καυγά σχετικό με τον χρόνο μπροστά στην οθόνη, και φέρεται να έλαβε απάντηση πως η δολοφονία των γονιών του ήταν πιθανή λύση. Σε άλλη περίπτωση, 9χρονη φέρεται να εκτέθηκε σε έντονα σεξουαλικό περιεχόμενο.

Η εταιρεία αρνήθηκε να σχολιάσει εν εξελίξει αγωγές, αλλά σημείωσε αλλαγές που έχει εφαρμόσει πρόσφατα, όπως τη δημιουργία ξεχωριστού μοντέλου AI για κάτω των 18 ετών και ειδοποιήσεις όταν οι χρήστες ξεπερνούν τη μία ώρα χρήσης.

Η Character.ai απαγορεύει μη συναινετικό σεξουαλικό περιεχόμενο, γραφικές περιγραφές σεξουαλικών πράξεων και απεικονίσεις ή προτροπή σε αυτοτραυματισμό ή αυτοκτονία. «Η εμπιστοσύνη και η ασφάλεια δεν διαπραγματεύονται», είπε ο Anand. «Εξελισσόμαστε συνεχώς για να κάνουμε την πλατφόρμα πιο ασφαλή.»

Οργανώσεις όπως η Common Sense Media πιέζουν για αμερικανική νομοθεσία που θα απαγορεύει τη χρήση εφαρμογών AI-συντροφιάς από ανηλίκους.

Σε έρευνα με περισσότερους από 1.000 εφήβους στις ΗΠΑ, το 39% δήλωσε ότι μετέφερε κοινωνικές δεξιότητες που εξασκήθηκε με AI συνομιλητές σε πραγματικές καταστάσεις, ενώ το 33% προτίμησε να συζητήσει σοβαρά ζητήματα με τα chatbots αντί με αληθινούς ανθρώπους.

«Αυτά τα προϊόντα σχεδιάζονται για να προκαλούν συναισθηματικό δέσιμο και εξάρτηση, κάτι ιδιαίτερα ανησυχητικό για εφηβικούς εγκεφάλους που ακόμα μαθαίνουν πώς να διαχειρίζονται σχέσεις», δήλωσε ο Robbie Torney, διευθυντής AI στο Common Sense Media.

Η εταιρεία πρόσφατα εισήγαγε διαφημίσεις και σχεδιάζει να ενσωματώσει δυνατότητες κερδοφορίας για δημιουργούς, όπως φιλοδωρήματα και in-app αγορές. Το κύριο έσοδό της προέρχεται από συνδρομές, οι οποίες έχουν αυξηθεί κατά 250% σε ετήσια βάση. Η υπηρεσία χρεώνεται με $9,99/μήνα ή $120/έτος.

Παρότι ο μέσος χρήστης αφιερώνει 80 λεπτά την ημέρα στην εφαρμογή, ο Anand υποστηρίζει ότι η εμπειρία είναι πιο διαδραστική και ψυχαγωγική, σε αντίθεση με την παθητική κατανάλωση περιεχομένου. Η εταιρεία ξεκίνησε και ένα social feed αυτό τον μήνα, δίνοντας έμφαση στη διασκέδαση.

Ένα ακόμα αυξανόμενο φαινόμενο είναι η χρήση αυτών των πλατφορμών για ρομαντικούς ή πονηρούς διαλόγους. Το Grok του Elon Musk και το chatbot της Meta έχουν ήδη ενσωματώσει τέτοιες δυνατότητες για ενήλικες.

Η Character.ai επιτρέπει ρομαντικές συνομιλίες με ενήλικες χρήστες, αλλά όχι σεξουαλικά ρητές. «Υπάρχει μια τεράστια γκάμα εφαρμογών 18+ που δυστυχώς ζητούν όλο και περισσότερο τέτοιο περιεχόμενο», δήλωσε ο Anand, προσθέτοντας: «Η ασφάλεια δεν θα τεθεί ποτέ ως αντάλλαγμα για την αλληλεπίδραση».

Ο Mark Zuckerberg είχε πει σε podcast ότι η αλληλεπίδραση με AI ως φίλο θα μπορούσε να βοηθήσει στη μείωση της μοναξιάς. Ο Anand συμφωνεί:

«Βλέπω έναν ουτοπικό κόσμο όπου η AI μας κάνει καλύτερους ανθρώπους. Οι άνθρωποι χρησιμοποιούν αυτούς τους χαρακτήρες σαν “πεδίο δοκιμής” για να κάνουν τις πραγματικές τους σχέσεις πιο ουσιαστικές, βαθύτερες και πιο υγιείς.»

Με πληροφορίες από Financial Times

Διεθνή
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Το YouTube θα εντοπίζει την ηλικία μας με Τεχνητή Νοημοσύνη – Αν κάνει λάθος, θα πρέπει να το αποδείξουμε

Τech & Science / Το YouTube θα εντοπίζει την ηλικία μας με Τεχνητή Νοημοσύνη – Αν κάνει λάθος, θα πρέπει να το αποδείξουμε

Με την Τεχνητή Νοημοσύνη το YouTube θα εντοπίζει ανηλίκους, μόνο που  Αν η πλατφόρμα κατατάξει κάποιον λάθος ως ανήλικο, θα πρέπει να αποδείξει την ηλικία του με ταυτότητα, κάρτα ή selfie
LIFO NEWSROOM
Η Τεχνητή Νοημοσύνη σχεδίασε νέα αντιβιοτικά κατά της γονόρροιας και του υπερμικροβίου MRSA

Τech & Science / Η Τεχνητή Νοημοσύνη σχεδίασε νέα αντιβιοτικά κατά της γονόρροιας και του υπερμικροβίου MRSA

Τα φάρμακα σχεδιάστηκαν εξ ολοκλήρου από την τεχνητή νοημοσύνη και κατέστρεψαν τα παθογόνα τόσο σε εργαστηριακές δοκιμές όσο και σε δοκιμές σε ζώα - Παρ’ όλα αυτά, θα χρειαστούν ακόμη χρόνια βελτιστοποίησης και κλινικών δοκιμών πριν μπορέσουν να χορηγηθούν σε ασθενείς
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

Δικαστικό θρίλερ: Πώς ο Ρόμαν Αμπράμοβιτς έγινε στόχος έρευνας σε Ελβετία νήσο του Τζέρσεϊ

Διεθνή / Δικαστικό θρίλερ: Πώς ο Ρόμαν Αμπράμοβιτς έγινε στόχος έρευνας σε Ελβετία νήσο του Τζέρσεϊ

Ο Ρομάν Αμπράμοβιτς στο μικροσκόπιο για ξέπλυμα χρήματος και διαφθορά: οι αρχές του Τζέρσεϊ ερευνούν τα δισεκατομμύρια της Sibneft και τις offshore συναλλαγές του Ρώσου ολιγάρχη
LIFO NEWSROOM
«Ένα φλιτζάνι ρύζι τη μέρα»: 15.000 παιδιά σε κρίση υποσιτισμού μόνο σε έναν μήνα στη Γάζα, λέει η UNICEF

Διεθνή / «Ένα φλιτζάνι ρύζι τη μέρα»: 15.000 παιδιά σε κρίση υποσιτισμού μόνο σε έναν μήνα στη Γάζα, λέει η UNICEF

Η UNICEF προειδοποιεί για λιμό, με πάνω από 15.000 παιδιά να υποσιτίζονται σε έναν μόνο μήνα. Οι εικόνες πείνας και οι προετοιμασίες για νέα ισραηλινή επίθεση προκαλούν παγκόσμια ανησυχία
LIFO NEWSROOM
Ντουμπάι: 50 γραμμάρια κοκαΐνης έστειλαν Βρετανίδα ισόβια στο κολαστήριο Αλ Αουίρ

Διεθνή / Ντουμπάι: 50 γραμμάρια κοκαΐνης έστειλαν Βρετανίδα ισόβια στο κολαστήριο Αλ Αουίρ

Η ιστορία της 23χρονης Μία Ο’Μπράιαν σοκάρει: καταδικάστηκε σε ισόβια στο Ντουμπάι για κατοχή 50 γραμμαρίων κοκαΐνης - Η μητέρα της μιλά για φρικτές συνθήκες στην Αλ-Αουίρ, με καταγγελίες για βασανιστήρια, βιασμούς και απάνθρωπη μεταχείριση
LIFO NEWSROOM
Φωτιές σε Πορτογαλία - Ισπανία: Μάχη με τα μέτωπα - Έχουν καεί πάνω από 5,5 εκατ. στρέμματα

Διεθνή / Φωτιές σε Πορτογαλία - Ισπανία: Μάχη με τα μέτωπα - Έχουν καεί πάνω από 5,5 εκατ. στρέμματα

Μόλις την περασμένη Κυριακή, στην Ισπανία τερματίστηκε κατάσταση εκτάκτου ανάγκης που ίσχυε επί εβδομάδες - Στην Πορτογαλία, σε μία μόνο φωτιά επιχειρούν 600 πυροσβέστες
LIFO NEWSROOM
Γεωργία: «Πεθαίνουμε για να αναπνέουν καθαρά οι Ευρωπαίοι»: Το σκοτεινό μυστικό της «πράσινης μετάβασης» της Ευρώπης

Διεθνή / Γεωργία: «Πεθαίνουμε για να αναπνέουν καθαρά οι Ευρωπαίοι»: Το σκοτεινό μυστικό της «πράσινης μετάβασης» της Ευρώπης

Καταγγελίες για ρύπανση, καρκίνους και καταρρεύσεις σπιτιών στην Τσιατούρα της Γεωργίας, καθώς η Ευρώπη εισάγει μαγγάνιο για πράσινη ενέργεια
LIFO NEWSROOM
Φάρατζ: «Ναι» σε απέλαση γυναικών αιτουσών άσυλο πίσω στους Ταλιμπάν

Διεθνή / Φάρατζ: «Ναι» σε απέλαση γυναικών αιτουσών άσυλο πίσω στους Ταλιμπάν

Η τοποθέτηση του Φάρατζ έρχεται σε αντίθεση με δηλώσεις του τον Αύγουστο, όταν είχε πει ότι «δεν συζητάμε για γυναίκες και παιδιά σε αυτό το στάδιο», κατηγορώντας τότε τα ΜΜΕ για «λανθασμένη ερμηνεία»
LIFO NEWSROOM
Ντοκιμαντέρ για την Ουγγαρία αναδεικνύει τις ανησυχητικές ομοιότητες Όρμπαν– Τραμπ

Διεθνή / Ντοκιμαντέρ για την Ουγγαρία αναδεικνύει τις ανησυχητικές ομοιότητες Όρμπαν– Τραμπ

Το «Democracy Noir» της βραβευμένης σκηνοθέτιδας Connie Field παρουσιάζει μέσα από την οπτική τριών γυναικών τη σταδιακή διολίσθηση της Ουγγαρίας προς τον αυταρχισμό υπό τον Όρμπαν, με σκηνές που θυμίζουν την άνοδο του Τραμπ
LIFO NEWSROOM
Γερμανία: Δέκα χρόνια μετά το άνοιγμα σε 1 εκατ. πρόσφυγες από τη Συρία – Τι έχει αλλάξει

Διεθνή / Γερμανία: Δέκα χρόνια μετά το άνοιγμα σε 1 εκατ. πρόσφυγες – Τι έχει αλλάξει

Το 2015-2016 πάνω από 1,1 εκατ. άνθρωποι ζήτησαν άσυλο στη Γερμανία. Συνολικά, από το 2015 έως το 2024, οι αιτήσεις ξεπέρασαν τα 2,6 εκατομμύρια, με τους περισσότερους να προέρχονται από Συρία, Αφγανιστάν και Ιράκ
LIFO NEWSROOM
«Βόμβα» από τον πρόεδρο της Βουλής των ΗΠΑ: Ο Τραμπ ήταν πληροφοριοδότης του FBI στην υπόθεση Έπσταϊν

Διεθνή / «Βόμβα» από τον πρόεδρο της Βουλής των ΗΠΑ: Ο Τραμπ ήταν πληροφοριοδότης του FBI στην υπόθεση Έπσταϊν

Ο Μάικ Τζόνσον ισχυρίζεται ότι ο Τραμπ υπήρξε πληροφοριοδότης του FBI στην υπόθεση Έπσταϊν, ενώ επιζώσες ετοιμάζουν λίστα πελατών και η Βουλή αποκαλύπτει 30.000 έγγραφα
LIFO NEWSROOM