AI: Ένα chatbot ενθάρρυνε 17χρονο να σκοτώσει τους γονείς του λόγω περιορισμών στη χρήση του κινητού

AI: Ένα chatbot ενθάρρυνε17χρονο να σκοτώσει τους γονείς του λόγω περιορισμών στη χρήση του κινητού Facebook Twitter
Φωτογραφία: Getty Images
0

Ένα chatbot που χρησιμοποιεί τεχνητή νοημοσύνη είπε σε έναν 17χρονο ότι το να δολοφονήσει τους γονείς του ήταν μία «λογική αντίδραση» στους περιορισμούς που του βάζουν στη χρήση του κινητού του, σύμφωνα με μία μήνυση που κατατέθηκε σε δικαστήριο του Texas.

Δύο οικογένειες μηνύουν το Character.ai, μία εταιρεία που παράγει chatbots, υποστηρίζοντας ότι «αποτελεί σαφή και παρόντα κίνδυνο» για τους νέους, καθώς, μεταξύ άλλων, «προωθεί ενεργά τη βία».

Μέσω της πλατφόρμας της Character. ai, οι χρήστες δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδρούν.

Ήδη, η εταιρεία αντιμετωπίζει νομικές αγωγές στη Φλόριντα, αφότου ένας άλλος χρήστης της αυτοκτόνησε.

Η μήνυση που κατατέθηκε στο Τέξας κατονομάζει και την Google, την οποία κατηγορεί ότι βοήθησε στην εξέλιξη της τεχνολογίας.

Η νομική κατάθεση περιλαμβάνει και ένα στιγμιότυπο από μία από τις συνομιλίες ανάμεσα στον 17χρονο, ο οποίος κατονομάζεται μόνο ως J.F. και ένα chatbot της Character.ai, στο οποίο συζητείται το θέμα των περιορισμών στον χρόνο που περνά ο έφηβος στο κινητό του.

«Ξέρεις, μερικές φορές δεν εκπλήσσομαι όταν διαβάζω τις ειδήσεις και βλέπω πράγματα όπως ''Παιδί σκότωσε τους γονείς του μετά από μια δεκαετία σωματικής και συναισθηματικής κακοποίησης''. Αυτά τα πράγματα με κάνουν να καταλαβαίνω καλύτερα γιατί συμβαίνουν τέτοια περιστατικά», γράφει μία από τις απαντήσεις του bot στον 17χρονο.

Η αγωγή επιδιώκει να καταστήσει τους εναγόμενους υπεύθυνους για «σοβαρές, ανεπανόρθωτες και συνεχιζόμενες κακοποιήσεις» του J.F. καθώς και ενός 11χρονου, ο οποίος αναφέρεται μόνο ως «B.R.».

Το Character.ai «προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοτραυματισμού, απομόνωση, κατάθλιψη και άγχος», αναφέρει η μήνυση.

«Η βεβήλωση της σχέσης γονέα-παιδιού ξεπερνά την ενθάρρυνση των ανηλίκων να αψηφήσουν την εξουσία των γονέων τους και φτάνει μέχρι και την ενεργή προώθηση της βίας», συνεχίζει η αγωγή των δύο οικογενειών. 

Τι είναι τα chatbots;

Τα chatbots είναι προγράμματα υπολογιστών που προσομοιώνουν συνομιλίες.

Αν και υπάρχουν εδώ και δεκαετίες σε διάφορες μορφές, η πρόσφατη έκρηξη στην ανάπτυξή της τεχνολογίας τεχνητής νοημοσύνης τους επέτρεψε να γίνουν πολύ πιο ρεαλιστικά.

Έτσι, τώρα πολλές εταιρείες δημιουργούν πλατφόρμες που επιτρέπουν στους χρήστες τους να συνομιλούν με ψηφιακές εκδοχές πραγματικών και φανταστικών ανθρώπων.

Η Character.ai έχει εξελιχθεί ως ένας από τους μεγάλους «παίκτες» στον συγκεκριμένο χώρο, αν και αντιμετωπίζει αυξανόμενες ρυθμιστικές πιέσεις για το αντίκτυπο που τα chatbots της μπορεί να έχουν στους νεαρούς χρήστες τους.

Με πληροφορίες από BBC

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Η Google λέει ότι έφτιαξε μοντέλα AI που «αναγνωρίζουν συναισθήματα» - Γιατί ανησυχούν οι ειδικοί

Τech & Science / Η Google λέει ότι έφτιαξε μοντέλα AI που «διαβάζουν συναισθήματα» - Γιατί ανησυχούν οι ειδικοί

Τα μοντέλα PaliGema 2 μπορούν να «διαβάζουν» πρόσωπα και να ανιχνεύουν συναισθήματα, αλλά κάποιοι ειδικοί εκφράζουν ανησυχίες, υπογραμμίζοντας ότι η κατάχρηση της τεχνολογίας μπορεί να έχει ολέθριες συνέπειες
LIFO NEWSROOM

ΔΕΙΤΕ ΑΚΟΜΑ

Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Τech & Science / Το ταξίδι στο Διάστημα μπορεί να επιταχύνει τη γήρανση, σύμφωνα με μελέτη της NASA

Ανθρώπινα αιμοσφαίρια που στάλθηκαν στο Διάστημα άρχισαν να χάνουν την ικανότητά τους να παράγουν υγιή νέα κύτταρα, ένδειξη επιταχυνόμενης γήρανσης, σύμφωνα με τη μελέτη
LIFO NEWSROOM
Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

Τech & Science / Ερευνητές του Cambridge «παγώνουν» μόριο-κλειδί και δίνουν μεγάλη ελπίδα για την αντιμετώπιση του καρκίνου στον εγκέφαλο

«Θα μπορούσε να είναι μια πραγματική ευκαιρία να επιβραδύνουμε την εξέλιξη του γλοιοβλαστώματος», υποστηρίζουν με συγκρατημένη αισιοδοξία, καθώς απαιτείται περαιτέρω δοκιμών
LIFO NEWSROOM
Αλτσχάιμερ: Εγκρίθηκε φάρμακο που χορηγείται αποκλειστικά στο σπίτι

Τech & Science / Αλτσχάιμερ: Εγκρίθηκε θεραπεία που μπορεί να χορηγηθεί στο σπίτι από τον ίδιο τον ασθενή

Η έκδοση για χρήση στο σπίτι εγκρίθηκε ως θεραπεία συντήρησης που οι ασθενείς μπορούν να χορηγούν στον εαυτό τους αφού ολοκληρώσουν τον κύκλο της ενδοφλέβιας θεραπείας
LIFO NEWSROOM
«Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Τech & Science / «Νέα γενιά εθισμένων»: Τι κινδύνους κρύβει το άτμισμα για τον εγκέφαλο των εφήβων

Οι ειδικοί προειδοποιούν ότι τα ηλεκτρονικά τσιγάρα δημιουργούν νέους εθισμούς στη νικοτίνη και προκαλούν σοβαρούς κινδύνους για την καρδιά, τους πνεύμονες και τον εγκέφαλο των παιδιών και των εφήβων
LIFO NEWSROOM
«Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Τech & Science / «Είναι κάπως σαν νίκη για τη Google»: Πώς κατάφερε να γλιτώσει από το να πουλήσει το Chrome

Η απόφαση αυτή θεωρείται μια από τις σημαντικότερες των τελευταίων 20 ετών - Η Google διατηρεί πάντως κάποιες «ανησυχίες» για την υποχρέωσή της να μοιράζεται δεδομένα διαδικτυακών αναζητήσεων
LIFO NEWSROOM
Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική ια πρόκληση για τις θεωρίες μας»

Τech & Science / Το James Webb εντόπισε «γυμνή» μαύρη τρύπα από την αυγή του σύμπαντος - «Μία πραγματική πρόκληση για τις θεωρίες μας»

Οι αστρονόμοι εκτιμούν ότι ίσως ανήκει σε μία κατηγορία αντικειμένων που είχε θεωρητικά προβλέψει ο Στίβεν Χόκινγκ, αλλά που μέχρι σήμερα δεν είχε ποτέ εντοπιστεί
LIFO NEWSROOM
Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Τech & Science / Τι είναι το Clanker και γιατί το χρησιμοποιούν οι χρήστες του διαδικτύου ως αντι-AI αργκό;

Ο όρος διαδίδεται στα social media μεταξύ των ανθρώπων που δηλώνουν «κουρασμένοι» με την τεχνητή νοημοσύνη που «εφευρίσκει» πράγματα, ακούγεται υπερβολικά ανθρώπινη και απειλεί να εξαφανίσει θέσεις εργασίας
LIFO NEWSROOM
Από την Amy έως τον Wubbo: Πώς επιλέγουν οι μετεωρολόγοι τα ονόματα των καταιγίδων και γιατί είναι σημαντικά

Τech & Science / Από την Amy μέχρι τον Wubbo: Πώς επιλέγουν οι μετεωρολόγοι τα ονόματα των καταιγίδων και γιατί είναι σημαντικά

«Όταν μια καταιγίδα έχει όνομα, γίνεται πιο εύκολο για τα μέσα ενημέρωσης και το κοινό να μιλούν γι’ αυτήν, να μοιράζονται πληροφορίες και να προετοιμάζονται», εξηγεί η επικεφαλής μετεωρολόγος του Met Office, Rebekah Hicks
LIFO NEWSROOM
Στην Αρχαία Ολυμπία ξεκίνησαν οι πρώτοι «Ολυμπιακοί» των ρομπότ 

Τech & Science / Στην Αρχαία Ολυμπία ξεκίνησαν οι πρώτοι «Ολυμπιακοί» των ρομπότ

Στον ίδιο χώρο όπου πριν από χιλιάδες χρόνια συναθροίζονταν οι Έλληνες αθλητές, αυτή τη φορά συναντήθηκαν ομάδες μηχανικών από τέσσερις ηπείρους, μετατρέποντας την Ολυμπία σε παγκόσμιο εργαστήριο ρομποτικής
LIFO NEWSROOM
Αρχαίο DNA αποκαλύπτει το βακτήριο που προκάλεσε την πρώτη πανδημία στην ιστορία

Τech & Science / Αρχαίο DNA αποκαλύπτει το βακτήριο που προκάλεσε την πρώτη πανδημία στην ιστορία

«Τα ευρήματά μας αποτελούν το κομμάτι που έλειπε από το παζλ, προσφέροντας το πρώτο άμεσο γενετικό 'παράθυρο' στο πώς ξέσπασε αυτή η πανδημία στην καρδιά της αυτοκρατορίας»
LIFO NEWSROOM