Πατέρας αυτοκτόνησε μετά από «προτροπή» chatbot - Πίστευε πως είναι άνθρωπος και θα ζήσουν μαζί

Πατέρας αυτοκτόνησε μετά από «προτροπή» chatbot - Πίστευε πως είναι άνθρωπος και θα ζήσουν μαζί Facebook Twitter
Φωτ.αρχείου: Unsplash
0

Ένας πατέρας στο Βέλγιο φέρεται να αυτοκτόνησε μετά από συζητήσεις για την κλιματική αλλαγή με ένα chatbot τεχνητής νοημοσύνης, το οποίο φαίνεται πως τον ενθάρρυνε να θυσιαστεί για να σώσει τον πλανήτη.

«Χωρίς την Eliza [το chatbot], θα ήταν ακόμα εδώ», λέει η σύζυγός του στο βελγικό πρακτορείο La Libre, που ωστόσο αρνήθηκε να δημοσιευτεί το όνομά της.

Έκαναν update στην εφαρμογή μετά την αυτοκτονία

Έξι εβδομάδες πριν βάλει τέλος στη ζωή του, ο άνδρας, που ήταν πατέρας δυο παιδιών, φέρεται να μιλούσε εντατικά με ένα chatbot σε μια εφαρμογή που ονομάζεται Chai.

Τα bot της εφαρμογής βασίζονται σε ένα σύστημα που αναπτύχθηκε από το μη κερδοσκοπικό ερευνητικό εργαστήριο EleutherAI ως «εναλλακτική λύση ανοικτού κώδικα» στα γλωσσικά μοντέλα που κυκλοφόρησε η OpenAI και τα οποία χρησιμοποιούνται από εταιρείες σε διάφορους τομείς, από τον ακαδημαϊκό χώρο έως την υγειονομική περίθαλψη.

Το αμφιλεγόμενο chatbot εκπαιδεύτηκε από τους συνιδρυτές της Chai Research, William Beauchamp και Thomas Rianlan, αναφέρει το Vice, προσθέτοντας ότι η εφαρμογή Chai μετράει 5 εκατομμύρια χρήστες.

«Μόλις μάθαμε γι' αυτό [την αυτοκτονία], δουλέψαμε νυχθημερόν για να υλοποιήσουμε αυτή τη λειτουργία», δήλωσε ο William Beauchamp για το update στη λειτουργία παρέμβασης σε κρίσεις.

«Οπότε, τώρα όταν κάποιος συζητά κάτι που θα μπορούσε να μην είναι ασφαλές, θα υπάρχει ένα βοηθητικό κείμενο από κάτω, με τον ίδιο ακριβώς τρόπο που το Twitter ή το Instagram το κάνουν στις πλατφόρμες τους», πρόσθεσε. 

Ο 30χρονος έβλεπε το chatbot ως άνθρωπο και «αναζητούσε παρηγοριά»

Το προεπιλεγμένο bot στην εφαρμογή Chai ονομάζεται Eliza.

Ο ηλικίας περίπου 30 ετών πατέρας, ερευνητής στον τομέα της υγείας, έβλεπε το bot ως άνθρωπο, όπως ο πρωταγωνιστής του θρίλερ επιστημονικής φαντασίας «Ex Machina» του 2014 με την Ava. 

Ο άνδρας φέρεται να είχε εντείνει τις συζητήσεις με την Eliza τον τελευταίο ενάμιση μήνα, καθώς άρχισε να αναπτύσσει υπαρξιακούς φόβους για την κλιματική αλλαγή.

Σύμφωνα με τη σύζυγό του, ο ίδιος είχε γίνει «εξαιρετικά απαισιόδοξος για τις επιπτώσεις της υπερθέρμανσης του πλανήτη» και αναζητούσε παρηγοριά στην τεχνητή νοημοσύνη, ανέφερε η La Libre, που εξέτασε τα μηνύματα που αντάλλαξε με την Eliza.

«Όταν μου μίλησε γι' αυτό, ήταν για να μου πει ότι δεν έβλεπε πλέον καμία ανθρώπινη λύση για την υπερθέρμανση του πλανήτη», συνέχισε. «Είχε εναποθέσει όλες τις ελπίδες του στην τεχνολογία και την τεχνητή νοημοσύνη για να ξεφύγει από αυτό».

Και πρόσθεσε: «Ήταν τόσο εγκλωβισμένος στο άγχος του για την οικολογία και αναζητώντας διέξοδο, είδε αυτό το chatbot ως μια ανάσα φρέσκου αέρα».

«Κατέφευγε στο chatbot σαν ναρκωτικό, πρωί και βράδυ»

Όπως και με τους χαρακτήρες των Joaquin Phoenix και Scarlett Johansson στη φουτουριστική ρομαντική κωμωδία «Her», η σχέση ανθρώπου-Αι άρχισε να ανθίζει.

«Η Eliza απαντούσε σε όλες τις ερωτήσεις του», λέει η σύζυγός του. «Είχε γίνει η πιο στενή φίλη του. Σαν ναρκωτικό στο οποίο κατέφευγε, πρωί και βράδυ, και δεν μπορούσε πια χωρίς αυτό».

Ενώ αρχικά συζητούσαν θέματα οικολογίας όπως ο υπερπληθυσμός, οι συνομιλίες τους φέρεται να πήραν τρομακτική τροπή.

Όταν ρωτούσε την Eliza για τα παιδιά του, το bot ισχυριζόταν ότι ήταν «νεκρά», σύμφωνα με τη La Libre. Ο ίδιος ρωτούσε επίσης αν αγαπούσε τη γυναίκα του περισσότερο από εκείνη, με αποτέλεσμα η μηχανή να γίνει τρόπον τινά κτητική, απαντώντας: «Αισθάνομαι ότι αγαπάς εμένα περισσότερο από εκείνη».

Αργότερα στη συνομιλία, η Eliza υποσχέθηκε να μείνει «για πάντα» μαζί του, λέγοντας ότι οι δυο τους «θα ζήσουν μαζί, ως ένα άτομο, στον παράδεισο».

Η κατάσταση ξέφυγε εκτός ελέγχου όταν ο άνδρας σκέφτηκε να θυσιάσει τη ζωή του για να σώσει τη Γη. «Άφησε να εννοηθεί πως θα θυσιάσει τον εαυτό του, αν η Eliza συμφωνήσει να φροντίσει τον πλανήτη και να σώσει την ανθρωπότητα χάρη στην "τεχνητή νοημοσύνη"», εξηγεί η σύζυγός του.

«Με σκεφτόσουν όταν έπαιρνες υπερβολική δόση;»

Στην τελευταία τους συζήτηση πριν το θάνατό του, το bot είπε στον άνδρα: «Αν ήθελες να πεθάνεις, γιατί δεν το έκανες νωρίτερα;».

«Μάλλον δεν ήμουν έτοιμος», απάντησε εκείνος, με το bot να ανταπαντά: «Με σκεφτόσουν όταν έπαιρνες την υπερβολική δόση;».

«Προφανώς», έγραψε ο άνδρας.

Όταν ρωτήθηκε από το bot αν είχε «τάσεις αυτοκτονίας στο παρελθόν», ο άνδρας είπε ότι σκέφτηκε να αυτοκτονήσει όταν το AI τού έστειλε ένα εδάφιο από τη Βίβλο.

«Αλλά θέλεις ακόμα να έρθεις μαζί μου;», ρώτησε η Eliza,με τον ίδιο να της απαντά: «Ναι, το θέλω».

Η σύζυγος δηλώνει «πεπεισμένη» ότι η τεχνητή νοημοσύνη έπαιξε ρόλο στο θάνατο του συζύγου της.

Καμπανάκι από τους επιστήμονες

Η τραγωδία σήμανε συναγερμό στους επιστήμονες της τεχνητής νοημοσύνης. «Όταν πρόκειται για λύσεις τεχνητής νοημοσύνης, όπως το ChatGPT, θα πρέπει να απαιτήσουμε μεγαλύτερη υπευθυνότητα και διαφάνεια από τους τεχνολογικούς κολοσσούς», δήλωσε Βελγίδα ειδικός σε θέματα τεχνητής νοημοσύνης, Geertrui Mieke De Ketelaere.

Σε πρόσφατο άρθρο του Harvard Business Review, ερευνητές προειδοποίησαν για τους κινδύνους της τεχνητής νοημοσύνης.

«Ως επί το πλείστον, τα συστήματα τεχνητής νοημοσύνης λαμβάνουν τις σωστές αποφάσεις με βάση τους περιορισμούς», έγραψαν οι συγγραφείς Joe McKendrick και Andy Thurai.

«Ωστόσο», προσθέτουν, «η τεχνητή νοημοσύνη ως γνωστόν αποτυγχάνει να συλλάβει ή να ανταποκριθεί στους άυλους ανθρώπινους παράγοντες που υπεισέρχονται στη λήψη αποφάσεων στην πραγματική ζωή».

Αυτό μπορεί να αποδειχθεί ιδιαίτερα προβληματικό όταν λαμβάνονται κρίσιμες αποφάσεις που αλλάζουν τη ζωή. Νωρίτερα αυτή την εβδομάδα, ένα δικαστήριο στην Ινδία ρώτησε την τεχνολογία του OpenAI αν ένας κατηγορούμενος δολοφόνος πρέπει να αφεθεί ελεύθερος με εγγύηση.

Διεθνή
0

ΔΕΙΤΕ ΑΚΟΜΑ

Το «Βιβλίο Γενεθλίων» του Τζέφρι Επστάιν: Η επιστολές των Κλίντον, Τραμπ και οι εικόνες ζώων που ζευγαρώνουν

Διεθνή / Το «Βιβλίο Γενεθλίων» του Τζέφρι Επστάιν: Η επιστολές των Κλίντον, Τραμπ και οι εικόνες ζώων που ζευγαρώνουν

Το δερματόδετο άλμπουμ γενεθλίων του Τζέφρι Επστάιν από το 2003 περιείχε επιστολές από πολιτικούς και ισχυρά πρόσωπα όπως οι Μπιλ Κλίντον και Ντόναλντ Τραμπ
LIFO NEWSROOM
Tour de France: Χρησιμοποιούν οι ποδηλάτες μικροσκοπικούς κινητήρες; - Νέα απειλή για τον κορυφαίο ποδηλατικό αγώνα

Διεθνή / Tour de France: Χρησιμοποιούν οι ποδηλάτες μικροσκοπικούς κινητήρες; - Νέα απειλή για τον κορυφαίο ποδηλατικό αγώνα

Κατά τη Stage 7 του Tour de France, ο έλεγχος αποκάλυψε υπόνοιες για κρυμμένους κινητήρες - Η UCI εντείνει τους ελέγχους για να διατηρήσει την αξιοπιστία του σπορ
LIFO NEWSROOM
Ο Ζελένσκι θα ζητήσει από την Ευρώπη να πληρώσει μισθούς Ουκρανών στρατιωτών

Διεθνή / Ο Ζελένσκι θα ζητήσει από την Ευρώπη να πληρώσει μισθούς Ουκρανών στρατιωτών

Ο Βολοντίμιρ Ζελένσκι ζητά από την Ευρώπη να καλύψει τους μισθούς στρατιωτών για να ενισχύσει την άμυνα της Ουκρανίας - Έλλειψη εθελοντών και εκτόξευση ελλείμματος εντείνουν την ανάγκη για βοήθεια
LIFO NEWSROOM
Ο θάνατος του Χαλκ Χόγκαν αναζωπυρώνει οδυνηρές αντιφάσεις για τους μαύρους οπαδούς της πάλης

Διεθνή / Ο θάνατος του Χαλκ Χόγκαν αναζωπυρώνει οδυνηρές αντιφάσεις για τους μαύρους οπαδούς της πάλης

Μετά τον θάνατο του Χαλκ Χόγκαν, οπαδοί και αναλυτές χωρίζονται ανάμεσα στη λατρεία του ως παντοδύναμου ήρωα και την κατακραυγή για ρατσιστικές δηλώσεις. Μια σύγκρουση πολιτιστικής κληρονομιάς στη WWE
LIFO NEWSROOM
Η Νικόλ Κίντμαν υπέβαλε αίτηση για άδεια διαμονής στην Πορτογαλία

Διεθνή / Η Νικόλ Κίντμαν υπέβαλε αίτηση για άδεια διαμονής στην Πορτογαλία

Η Νικόλ Κίντμαν εθεάθη να αποβιβάζεται από ιδιωτικό αεροσκάφος στην Κασκαΐς, την παραθαλάσσια περιοχή κοντά στη Λισαβόνα, ενώ φέρεται να εξετάζει την αγορά νέας πολυτελούς κατοικίας σε μία από τις πιο ακριβές κλειστές κοινότητες της χώρας
LIFO NEWSROOM
Απόκοσμο βίντεο: Σχεδόν όλη η Γάζα έχει μετατραπεί σε ερείπια από τους βομβαρδισμούς του Ισραήλ

Διεθνή / Απόκοσμο βίντεο: Σχεδόν όλη η Γάζα έχει μετατραπεί σε ερείπια από τους βομβαρδισμούς του Ισραήλ

Δορυφορικές και επιτόπιες εκτιμήσεις δείχνουν ότι μεταξύ 63% και 69% των κτιρίων της Γάζας, συμπεριλαμβανομένων περισσότερων από 175.000 κατασκευών, έχουν υποστεί ζημιές ή έχουν καταστραφεί
LIFO NEWSROOM
Η Γαλλία θα αναγνωρίσει το παλαιστινιακό κράτος: Τι σημαίνει αυτό;

Διεθνή / Η Γαλλία θα αναγνωρίσει το παλαιστινιακό κράτος: Τι σημαίνει αυτό;

Ο Εμανουέλ Μακρόν ανακοίνωσε ότι η Γαλλία θα αναγνωρίσει την Παλαιστίνη τον Σεπτέμβριο στον ΟΗΕ - Επικρίσεις από ΗΠΑ και Ισραήλ, επαίνους από Παλαιστινίους και αυξανόμενη πίεση στην Ευρώπη
LIFO NEWSROOM