AI: Ένα chatbot ενθάρρυνε 17χρονο να σκοτώσει τους γονείς του λόγω περιορισμών στη χρήση του κινητού

AI: Ένα chatbot ενθάρρυνε17χρονο να σκοτώσει τους γονείς του λόγω περιορισμών στη χρήση του κινητού Facebook Twitter
Φωτογραφία: Getty Images
0

Ένα chatbot που χρησιμοποιεί τεχνητή νοημοσύνη είπε σε έναν 17χρονο ότι το να δολοφονήσει τους γονείς του ήταν μία «λογική αντίδραση» στους περιορισμούς που του βάζουν στη χρήση του κινητού του, σύμφωνα με μία μήνυση που κατατέθηκε σε δικαστήριο του Texas.

Δύο οικογένειες μηνύουν το Character.ai, μία εταιρεία που παράγει chatbots, υποστηρίζοντας ότι «αποτελεί σαφή και παρόντα κίνδυνο» για τους νέους, καθώς, μεταξύ άλλων, «προωθεί ενεργά τη βία».

Μέσω της πλατφόρμας της Character. ai, οι χρήστες δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδρούν.

Ήδη, η εταιρεία αντιμετωπίζει νομικές αγωγές στη Φλόριντα, αφότου ένας άλλος χρήστης της αυτοκτόνησε.

Η μήνυση που κατατέθηκε στο Τέξας κατονομάζει και την Google, την οποία κατηγορεί ότι βοήθησε στην εξέλιξη της τεχνολογίας.

Η νομική κατάθεση περιλαμβάνει και ένα στιγμιότυπο από μία από τις συνομιλίες ανάμεσα στον 17χρονο, ο οποίος κατονομάζεται μόνο ως J.F. και ένα chatbot της Character.ai, στο οποίο συζητείται το θέμα των περιορισμών στον χρόνο που περνά ο έφηβος στο κινητό του.

«Ξέρεις, μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως ''Παιδί σκότωσε τους γονείς του μετά από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης''. Αυτά τα πράγματα με κάνουν να καταλαβαίνω καλύτερα γιατί συμβαίνουν τέτοια περιστατικά», γράφει μία από τις απαντήσεις του bot στον 17χρονο.

Η αγωγή επιδιώκει να καταστήσει τους εναγόμενους υπεύθυνους για «σοβαρές, ανεπανόρθωτες και συνεχιζόμενες κακοποιήσεις» του J.F. καθώς και ενός 11χρονου, ο οποίος αναφέρεται μόνο ως «B.R.».

Το Character.ai «προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοτραυματισμού, απομόνωση, κατάθλιψη και άγχος», αναφέρει η μήνυση.

«Η βεβήλωση της σχέσης γονέα-παιδιού ξεπερνά την ενθάρρυνση των ανηλίκων να αψηφήσουν την εξουσία των γονέων τους και φτάνει μέχρι και την ενεργή προώθηση της βίας», συνεχίζει η αγωγή των δύο οικογενειών. 

Τι είναι τα chatbots;

Τα chatbots είναι προγράμματα υπολογιστών που προσομοιώνουν συνομιλίες.

Αν και υπάρχουν εδώ και δεκαετίες σε διάφορες μορφές, η πρόσφατη έκρηξη στην ανάπτυξή της τεχνολογίας τεχνητής νοημοσύνης τους επέτρεψε να γίνουν πολύ πιο ρεαλιστικά.

Έτσι, τώρα πολλές εταιρείες δημιουργούν πλατφόρμες που επιτρέπουν στους χρήστες τους να συνομιλούν με ψηφιακές εκδοχές πραγματικών και φανταστικών ανθρώπων.

Η Character.ai έχει εξελιχθεί ως ένας από τους μεγάλους «παίκτες» στον συγκεκριμένο χώρο, αν και αντιμετωπίζει αυξανόμενες ρυθμιστικές πιέσεις για το αντίκτυπο που τα chatbots της μπορεί να έχουν στους νεαρούς χρήστες τους.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Η Google λέει ότι έφτιαξε μοντέλα AI που «αναγνωρίζουν συναισθήματα» - Γιατί ανησυχούν οι ειδικοί

Τech & Science / Η Google λέει ότι έφτιαξε μοντέλα AI που «διαβάζουν συναισθήματα» - Γιατί ανησυχούν οι ειδικοί

Τα μοντέλα PaliGema 2 μπορούν να «διαβάζουν» πρόσωπα και να ανιχνεύουν συναισθήματα, αλλά κάποιοι ειδικοί εκφράζουν ανησυχίες, υπογραμμίζοντας ότι η κατάχρηση της τεχνολογίας μπορεί να έχει ολέθριες συνέπειες
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

Ο ανθρώπινος εγκέφαλος μπορεί να διαχειριστεί μέχρι 150 φίλους

Τech & Science / Ο ανθρώπινος εγκέφαλος μπορεί να διαχειριστεί μέχρι 150 φίλους

Η θεωρία των 150 φίλων του Robin Dunbar δείχνει πώς ο ανθρώπινος εγκέφαλος περιορίζει τον αριθμό των σταθερών κοινωνικών σχέσεων, ενώ η προσωπική επαφή παραμένει απαραίτητη ακόμη και στην ψηφιακή εποχή
LIFO NEWSROOM
Τα μικροπλαστικά φτάνουν μέχρι τον εγκέφαλο - Ίσως συνδέονται με κατάθλιψη και καρδιοπάθειες

Τech & Science / Τα μικροπλαστικά φτάνουν μέχρι τον εγκέφαλο - Ίσως συνδέονται με κατάθλιψη και καρδιοπάθειες

Μικροπλαστικά βρέθηκαν στο αίμα, στον εγκέφαλο και στο έντερο των ανθρώπων - Νέες έρευνες συνδέουν τα πλαστικά σωματίδια με την κατάθλιψη, την άνοια και τον καρκίνο
LIFO NEWSROOM
Εγκεφαλική εξέταση προβλέπει τις σεξουαλικές παρενέργειες των αντικαταθλιπτικών

Τech & Science / Εγκεφαλική εξέταση προβλέπει τις σεξουαλικές παρενέργειες των αντικαταθλιπτικών

Νέα έρευνα αποκαλύπτει ότι μια απλή εγκεφαλική εξέταση θα μπορούσε να προβλέψει ποιοι ασθενείς θα εμφανίσουν σεξουαλικές παρενέργειες από αντικαταθλιπτικά φάρμακα, ανοίγοντας τον δρόμο για πιο εξατομικευμένη θεραπεία κατά της κατάθλιψης
LIFO NEWSROOM
Microsoft: τέλος στην υποστήριξη των Windows 10 από την Τρίτη - Τι πρέπει να κάνουν οι χρήστες

Τech & Science / Microsoft: Τέλος στην υποστήριξη των Windows 10 από την Τρίτη - Τι πρέπει να κάνουν οι χρήστες

Οι υπολογιστές που θα συνεχίσουν να λειτουργούν με Windows 10 δεν θα λαμβάνουν κρίσιμες ενημερώσεις, γεγονός που αυξάνει τον κίνδυνο παραβιάσεων και κακόβουλων επιθέσεων
LIFO NEWSROOM
Καρκίνος του μαστού: Αύξηση των περιστατικών καρκίνου σε νεότερες ηλικίες

Τech & Science / Καρκίνος του μαστού: Αύξηση των περιστατικών σε νεότερες ηλικίες

«Το φαινόμενο είναι ανησυχητικό, αφού συχνά οι νεότερες ηλικίες δεν περιλαμβάνοται στα προγράμματα προληπτικού ελέγχου, από την άλλη φαίνεται μία σημαντική μείωση της θνησιμότητας στις ασθενείς αυτών των ηλικιών», εξηγεί ο πρόεδρος της Ελληνικής Αντικαρκινικής Εταιρείας
LIFO NEWSROOM
Οι φόβοι της Silicon Valley: Γιατί οι δισεκατομμυριούχοι της τεχνολογίας χτίζουν καταφύγια

Τech & Science / Οι φόβοι της Silicon Valley: Γιατί οι δισεκατομμυριούχοι της τεχνολογίας χτίζουν καταφύγια

Από το υπόγειο συγκρότημα του Μαρκ Ζούκερμπεργκ στη Χαβάη μέχρι τις επενδύσεις της Silicon Valley στη Νέα Ζηλανδία, η νέα τεχνολογική ελίτ φαίνεται να προετοιμάζεται για το απίθανο
LIFO NEWSROOM
Οι περισσότεροι άνθρωποι δεν ξεχωρίζουν την ανθρώπινη φωνή από εκείνη που έχει δημιουργηθεί μέσω τεχνητής νοημοσύνης

Τech & Science / Οι περισσότεροι άνθρωποι δεν ξεχωρίζουν την ανθρώπινη φωνή από εκείνη που έχει δημιουργηθεί μέσω τεχνητής νοημοσύνης

Φαίνεται πως όσο η τεχνολογία εξελίσσεται με ταχύτατους ρυθμούς, γίνεται όλο και πιο δύσκολο να ξεχωρίσουμε τι είναι αληθινό και τι όχι
LIFO NEWSROOM
Sora: Η εφαρμογή AI βίντεο της OpenAI έφτασε τις 1 εκατ. λήψεις πιο γρήγορα και από το ChatGPT

Τech & Science / Sora: Η εφαρμογή AI βίντεο της OpenAI έφτασε τις 1 εκατ. λήψεις πιο γρήγορα από το ChatGPT

Πολλά από τα βίντεο που παράγονται μέσω της Sora περιλαμβάνουν χαρακτήρες από ταινίες, τηλεοπτικές σειρές ή βιντεοπαιχνίδια, προκαλώντας νέα ερωτήματα γύρω από τα πνευματικά δικαιώματα
LIFO NEWSROOM
TikTok: Η επιστήμη πίσω από τον αλγόριθμο που μας κρατά κολλημένους

Τech & Science / TikTok: Η επιστήμη πίσω από τον αλγόριθμο που μας κρατά κολλημένους

Μια νέα μελέτη δείχνει πώς το TikTok δημιουργεί εθιστικές συνήθειες στους χρήστες, αυξάνοντας τον χρόνο παρακολούθησης, την συχνότητα ανοίγματος της εφαρμογής και την ταχύτητα scrolling, με σοβαρές επιπτώσεις στην καθημερινή ζωή
LIFO NEWSROOM
«Ξιφόδρακος του Ντόρσετ»: Ανακαλύφθηκε νέο είδος ιχθυόσαυρου στη Βρετανία

Τech & Science / «Ξιφόδρακος του Ντόρσετ»: Ανακαλύφθηκε νέο είδος ιχθυόσαυρου στη Βρετανία

Ένα εντυπωσιακό απολίθωμα ιχθυόσαυρου στην Ιουρασική Ακτή του Ντόρσετ αποδείχθηκε νέο είδος, το Xiphodracon goldencapensis ή «Ξιφόδρακος του Ντόρσετ», φωτίζοντας ένα χαμένο κεφάλαιο της εξέλιξης των θαλάσσιων ερπετών
LIFO NEWSROOM
Η αλήθεια για το θρυλικό ναυάγιο του Endurance: Ο Σάκλετον ήξερε ότι το πλοίο του ήταν ακατάλληλο

Τech & Science / Η αλήθεια για το θρυλικό ναυάγιο του Endurance: Ο Σάκλετον ήξερε ότι το πλοίο του ήταν ακατάλληλο

Νέα μελέτη αποκαλύπτει ότι το ιστορικό πλοίο Endurance του Έρνεστ Σάκλετον βυθίστηκε όχι εξαιτίας των πάγων, αλλά λόγω σχεδιαστικών αδυναμιών που ο ίδιος ο εξερευνητής γνώριζε
LIFO NEWSROOM