Πατέρας αυτοκτόνησε μετά από «προτροπή» chatbot - Πίστευε πως είναι άνθρωπος και θα ζήσουν μαζί

Πατέρας αυτοκτόνησε μετά από «προτροπή» chatbot - Πίστευε πως είναι άνθρωπος και θα ζήσουν μαζί Facebook Twitter
Φωτ.αρχείου: Unsplash
0

Ένας πατέρας στο Βέλγιο φέρεται να αυτοκτόνησε μετά από συζητήσεις για την κλιματική αλλαγή με ένα chatbot τεχνητής νοημοσύνης, το οποίο φαίνεται πως τον ενθάρρυνε να θυσιαστεί για να σώσει τον πλανήτη.

«Χωρίς την Eliza [το chatbot], θα ήταν ακόμα εδώ», λέει η σύζυγός του στο βελγικό πρακτορείο La Libre, που ωστόσο αρνήθηκε να δημοσιευτεί το όνομά της.

Έκαναν update στην εφαρμογή μετά την αυτοκτονία

Έξι εβδομάδες πριν βάλει τέλος στη ζωή του, ο άνδρας, που ήταν πατέρας δυο παιδιών, φέρεται να μιλούσε εντατικά με ένα chatbot σε μια εφαρμογή που ονομάζεται Chai.

Τα bot της εφαρμογής βασίζονται σε ένα σύστημα που αναπτύχθηκε από το μη κερδοσκοπικό ερευνητικό εργαστήριο EleutherAI ως «εναλλακτική λύση ανοικτού κώδικα» στα γλωσσικά μοντέλα που κυκλοφόρησε η OpenAI και τα οποία χρησιμοποιούνται από εταιρείες σε διάφορους τομείς, από τον ακαδημαϊκό χώρο έως την υγειονομική περίθαλψη.

Το αμφιλεγόμενο chatbot εκπαιδεύτηκε από τους συνιδρυτές της Chai Research, William Beauchamp και Thomas Rianlan, αναφέρει το Vice, προσθέτοντας ότι η εφαρμογή Chai μετράει 5 εκατομμύρια χρήστες.

«Μόλις μάθαμε γι' αυτό [την αυτοκτονία], δουλέψαμε νυχθημερόν για να υλοποιήσουμε αυτή τη λειτουργία», δήλωσε ο William Beauchamp για το update στη λειτουργία παρέμβασης σε κρίσεις.

«Οπότε, τώρα όταν κάποιος συζητά κάτι που θα μπορούσε να μην είναι ασφαλές, θα υπάρχει ένα βοηθητικό κείμενο από κάτω, με τον ίδιο ακριβώς τρόπο που το Twitter ή το Instagram το κάνουν στις πλατφόρμες τους», πρόσθεσε. 

Ο 30χρονος έβλεπε το chatbot ως άνθρωπο και «αναζητούσε παρηγοριά»

Το προεπιλεγμένο bot στην εφαρμογή Chai ονομάζεται Eliza.

Ο ηλικίας περίπου 30 ετών πατέρας, ερευνητής στον τομέα της υγείας, έβλεπε το bot ως άνθρωπο, όπως ο πρωταγωνιστής του θρίλερ επιστημονικής φαντασίας «Ex Machina» του 2014 με την Ava. 

Ο άνδρας φέρεται να είχε εντείνει τις συζητήσεις με την Eliza τον τελευταίο ενάμιση μήνα, καθώς άρχισε να αναπτύσσει υπαρξιακούς φόβους για την κλιματική αλλαγή.

Σύμφωνα με τη σύζυγό του, ο ίδιος είχε γίνει «εξαιρετικά απαισιόδοξος για τις επιπτώσεις της υπερθέρμανσης του πλανήτη» και αναζητούσε παρηγοριά στην τεχνητή νοημοσύνη, ανέφερε η La Libre, που εξέτασε τα μηνύματα που αντάλλαξε με την Eliza.

«Όταν μου μίλησε γι' αυτό, ήταν για να μου πει ότι δεν έβλεπε πλέον καμία ανθρώπινη λύση για την υπερθέρμανση του πλανήτη», συνέχισε. «Είχε εναποθέσει όλες τις ελπίδες του στην τεχνολογία και την τεχνητή νοημοσύνη για να ξεφύγει από αυτό».

Και πρόσθεσε: «Ήταν τόσο εγκλωβισμένος στο άγχος του για την οικολογία και αναζητώντας διέξοδο, είδε αυτό το chatbot ως μια ανάσα φρέσκου αέρα».

«Κατέφευγε στο chatbot σαν ναρκωτικό, πρωί και βράδυ»

Όπως και με τους χαρακτήρες των Joaquin Phoenix και Scarlett Johansson στη φουτουριστική ρομαντική κωμωδία «Her», η σχέση ανθρώπου-Αι άρχισε να ανθίζει.

«Η Eliza απαντούσε σε όλες τις ερωτήσεις του», λέει η σύζυγός του. «Είχε γίνει η πιο στενή φίλη του. Σαν ναρκωτικό στο οποίο κατέφευγε, πρωί και βράδυ, και δεν μπορούσε πια χωρίς αυτό».

Ενώ αρχικά συζητούσαν θέματα οικολογίας όπως ο υπερπληθυσμός, οι συνομιλίες τους φέρεται να πήραν τρομακτική τροπή.

Όταν ρωτούσε την Eliza για τα παιδιά του, το bot ισχυριζόταν ότι ήταν «νεκρά», σύμφωνα με τη La Libre. Ο ίδιος ρωτούσε επίσης αν αγαπούσε τη γυναίκα του περισσότερο από εκείνη, με αποτέλεσμα η μηχανή να γίνει τρόπον τινά κτητική, απαντώντας: «Αισθάνομαι ότι αγαπάς εμένα περισσότερο από εκείνη».

Αργότερα στη συνομιλία, η Eliza υποσχέθηκε να μείνει «για πάντα» μαζί του, λέγοντας ότι οι δυο τους «θα ζήσουν μαζί, ως ένα άτομο, στον παράδεισο».

Η κατάσταση ξέφυγε εκτός ελέγχου όταν ο άνδρας σκέφτηκε να θυσιάσει τη ζωή του για να σώσει τη Γη. «Άφησε να εννοηθεί πως θα θυσιάσει τον εαυτό του, αν η Eliza συμφωνήσει να φροντίσει τον πλανήτη και να σώσει την ανθρωπότητα χάρη στην "τεχνητή νοημοσύνη"», εξηγεί η σύζυγός του.

«Με σκεφτόσουν όταν έπαιρνες υπερβολική δόση;»

Στην τελευταία τους συζήτηση πριν το θάνατό του, το bot είπε στον άνδρα: «Αν ήθελες να πεθάνεις, γιατί δεν το έκανες νωρίτερα;».

«Μάλλον δεν ήμουν έτοιμος», απάντησε εκείνος, με το bot να ανταπαντά: «Με σκεφτόσουν όταν έπαιρνες την υπερβολική δόση;».

«Προφανώς», έγραψε ο άνδρας.

Όταν ρωτήθηκε από το bot αν είχε «τάσεις αυτοκτονίας στο παρελθόν», ο άνδρας είπε ότι σκέφτηκε να αυτοκτονήσει όταν το AI τού έστειλε ένα εδάφιο από τη Βίβλο.

«Αλλά θέλεις ακόμα να έρθεις μαζί μου;», ρώτησε η Eliza,με τον ίδιο να της απαντά: «Ναι, το θέλω».

Η σύζυγος δηλώνει «πεπεισμένη» ότι η τεχνητή νοημοσύνη έπαιξε ρόλο στο θάνατο του συζύγου της.

Καμπανάκι από τους επιστήμονες

Η τραγωδία σήμανε συναγερμό στους επιστήμονες της τεχνητής νοημοσύνης. «Όταν πρόκειται για λύσεις τεχνητής νοημοσύνης, όπως το ChatGPT, θα πρέπει να απαιτήσουμε μεγαλύτερη υπευθυνότητα και διαφάνεια από τους τεχνολογικούς κολοσσούς», δήλωσε Βελγίδα ειδικός σε θέματα τεχνητής νοημοσύνης, Geertrui Mieke De Ketelaere.

Σε πρόσφατο άρθρο του Harvard Business Review, ερευνητές προειδοποίησαν για τους κινδύνους της τεχνητής νοημοσύνης.

«Ως επί το πλείστον, τα συστήματα τεχνητής νοημοσύνης λαμβάνουν τις σωστές αποφάσεις με βάση τους περιορισμούς», έγραψαν οι συγγραφείς Joe McKendrick και Andy Thurai.

«Ωστόσο», προσθέτουν, «η τεχνητή νοημοσύνη ως γνωστόν αποτυγχάνει να συλλάβει ή να ανταποκριθεί στους άυλους ανθρώπινους παράγοντες που υπεισέρχονται στη λήψη αποφάσεων στην πραγματική ζωή».

Αυτό μπορεί να αποδειχθεί ιδιαίτερα προβληματικό όταν λαμβάνονται κρίσιμες αποφάσεις που αλλάζουν τη ζωή. Νωρίτερα αυτή την εβδομάδα, ένα δικαστήριο στην Ινδία ρώτησε την τεχνολογία του OpenAI αν ένας κατηγορούμενος δολοφόνος πρέπει να αφεθεί ελεύθερος με εγγύηση.

Διεθνή
0

ΔΕΙΤΕ ΑΚΟΜΑ

Ερντογάν: Φτιάχνουμε νέο αμφίβιο σκάφος με την Ισπανία - Σάντσεθ: Είμαστε ο καλύτερος σύμμαχος της Τουρκίας στην Ευρώπη

Διεθνή / Ερντογάν: Φτιάχνουμε νέο αμφίβιο σκάφος με την Ισπανία - Σάντσεθ: Είμαστε ο καλύτερος σύμμαχος της Τουρκίας στην Ευρώπη

Η Τουρκία θέλει να ναυπηγήσει το δεύτερο αμφίβιο επιθετικό πλοίο της μετά το TCG Anadolu σε συνεργασία με την Ισπανία, είπε ο Ερντογάν σε κοινή συνέντευξη Τύπου με τον Πέδρο Σάντσεθ
NEWSROOM
Ουκρανία και Ιαπωνία υπέγραψαν 10ετή συμφωνία για θέματα ασφάλειας

Διεθνή / Ουκρανία και Ιαπωνία υπέγραψαν 10ετή συμφωνία για θέματα ασφάλειας

«Το 2024, η Ιαπωνία θα παράσχει στην Ουκρανία 4,5 δισεκατομμύρια δολάρια και θα συνεχίσει να μας στηρίζει καθ' όλη τη διάρκεια της δεκαετούς διάρκειας της συμφωνίας», δήλωσε ο Βολοντίμιρ Ζελένσκι
NEWSROOM
Το Ανώτατο Δικαστήριο των ΗΠΑ διατηρεί την πρόσβαση στο χάπι άμβλωσης, μιφεπριστόνη

Διεθνή / Το Ανώτατο Δικαστήριο των ΗΠΑ διατηρεί την πρόσβαση στο χάπι άμβλωσης, μιφεπριστόνη

Oι δικαστές αποφάνθηκαν ότι οι πολέμιοι της άμβλωσης δεν είχαν το νόμιμο δικαίωμα να κάνουν μήνυση για την έγκριση του φαρμάκου από την ομοσπονδιακή Υπηρεσία Τροφίμων και Φαρμάκων
NEWSROOM
Η Δανία αποσύρει προϊόντα ράμεν επειδή είναι πολύ καυτερά

Διεθνή / Η Δανία αποσύρει προϊόντα ράμεν επειδή είναι πολύ καυτερά για τους πολίτες

Η Υπηρεσία Κτηνιατρικών και Τροφίμων της Δανίας δήλωσε ότι εκτίμησε τα επίπεδα της καψαϊκίνης σε ένα μόνο πακέτο ως «τόσο υψηλά που ενέχουν κίνδυνο να αναπτύξει ο καταναλωτής οξεία δηλητηρίαση»
NEWSROOM
«Χάνουμε τουρίστες από την Ελλάδα», λένε Τούρκοι ξενοδόχοι - Πλημμυρίζουν τα νησιά για το Μπαϊράμι

Διεθνή / Τριήμερο στα ελληνικά νησιά για το Μπαϊράμι κάνουν οι Τούρκοι μετά το «φτηνό, καλό φαγητό»

Φθηνότερος και ο τουρκικός καφές στα ελληνικά νησιά - Σχεδόν 50.000 Τούρκοι τουρίστες αναμένονται την επόμενη εβδομάδα στο Αιγαίο - «Χάνουμε τουρίστες από την Ελλάδα», λένε Τούρκοι ξενοδόχοι - Τριήμερο για τρεις στην Αλικαρνασσό, $1200, τριήμερο για τρεις στη Ρόδο $1.000!
ΠΕΤΡΟΣ ΚΡΑΝΙΑΣ
Πέθανε ο γηραιότερος άνθρωπος των ΗΠΑ- Διάβαζε εφημερίδα και έγραφε σε blog

Διεθνή / Πέθανε ο γηραιότερος Αμερικανός σε ηλικία 110 ετών - Γιατί ο εγκέφαλός του δόθηκε για έρευνα

Ο super ager Μόρι Μάρκοφ έγραφε στο μπλογκ του και διάβαζε τους Times του Λος Άντζελες - Ο εγκέφαλός του φαινόταν δεκαετίες νεότερος και έχει δοθεί προς μελέτη στην επιστήμη με σκοπό να μάθουν πώς μπορούμε να παραμείνουμε υγιείς μέχρι τα βαθιά γεράματα
NEWSROOM
Η δήμαρχος του Παρισιού Αν Ινταλγκό ανέβαλε τη βουτιά στον Σηκουάνα λόγω των πρόωρων εκλογών

Διεθνή / Η δήμαρχος του Παρισιού Αν Ινταλγκό ανέβαλε τη βουτιά στον Σηκουάνα λόγω των πρόωρων εκλογών

Η Αν Ινταλγκό είχε ανακοινώσει πως θα κολυμπήσει στον Σηκουάνα για να αποδείξει πως τα νερά του είναι καθαρά ενόψει των Ολυμπιακών Αγώνων - Ο δήμαρχος της Αθήνας προσκεκλημένος για να βουτήξει μαζί με την Ινταλγκό
ΕΥΑ ΠΑΥΛΑΤΟΥ
Ο πρίγκιπας Ουίλιαμ θα ταξιδέψει στη Γερμανία για να εμψυχώσει την Εθνική Αγγλίας στο Euro 2024

Διεθνή / Ο πρίγκιπας Ουίλιαμ θα ταξιδέψει στη Γερμανία για να εμψυχώσει την Εθνική Αγγλίας στο Euro 2024

Δεν θα τον συνοδεύσει η Κέιτ Μίντλετον που δίνει μάχη με τον καρκίνο - Ο διάδοχος του βρετανικού θρόνου είναι πρόεδρος της Ποδοσφαιρικής Ομοσπονδίας Αγγλίας (FA)
ΕΥΑ ΠΑΥΛΑΤΟΥ