Μηχανικός της Google: «Υπάρχει Σύστημα Τεχνητής Νοημοσύνης με συνείδηση» - Τον έθεσαν σε αργία

Μηχανικός της Google: «Υπάρχει Σύστημα Τεχνητής Νοημοσύνης με συνείδηση» - Τον έθεσαν σε αργία Facebook Twitter
0

Ένας μηχανικός της Google τέθηκε σε διαθεσιμότητα αφότου ισχυρίστηκε ότι ένα chatbot με το οποίο εργαζόταν έχει αποκτήσει συνείδηση και σκέφτεται «σαν άνθρωπος».

Ο τεχνολογικός γίγαντας έθεσε σε αργία τον Blake Lemoine την περασμένη εβδομάδα, όταν δημοσίευσε συνομιλίες μεταξύ του ιδίου, ενός συνεργάτη της Google και του συστήματος ανάπτυξης του chatbot της εταιρείας LaMDA (Μοντέλο Γλώσσα για Εφαρμογές Διαλόγου).

Ο Lemoine, μηχανικός στον οργανισμό που είναι υπεύθυνος για την Τεχνητή Νοημοσύνη στη Google, περιέγραψε το σύστημα στο οποίο εργαζόταν από το περασμένο φθινόπωρο ως «συνειδητοποιημένο, με αντίληψη και ικανότητα έκφρασης σκέψεων και συναισθημάτων, σε βαθμό που ισοδυναμεί με τις ικανότητες ενός παιδιού.»

«Αν δεν ήξερα τι ακριβώς είναι, δηλαδή αυτό το πρόγραμμα που φτιάξαμε πρόσφατα σε υπολογιστή, θα νόμιζα ότι είναι ένα παιδί επτά ή οκτώ ετών που τυχαίνει να γνωρίζει φυσική», δήλωσε ο 41χρονος Lemoine στην εφημερίδα Washington Post. Ο Lemoine είπε ότι συζήτησε με το LaMDA για τα δικαιώματα και την προσωπικότητα και μοιράστηκε τα ευρήματά του με τα στελέχη της εταιρείας τον Απρίλιο σε ένα GoogleDoc με τίτλο "Is LaMDA sentient?", «Έχει το LaMDA συνείδηση;»

Ο μηχανικός συνέταξε ένα αντίγραφο των συνομιλιών, στο οποίο σε ένα σημείο ρωτά το σύστημα τεχνητής νοημοσύνης τι φοβάται. Ο διάλογος που ακολούθησε θυμίζει πολύ μια σκηνή από την ταινία επιστημονικής φαντασίας του Στάνλεϊ Κιούμπρικ: «2001: Η Οδύσσεια του Διαστήματος», στην οποία ο τεχνητά ευφυής υπολογιστής HAL 9000 αρνείται να συμμορφωθεί με τους ανθρώπινους χειριστές επειδή φοβάται ότι πρόκειται να τον απενεργοποιήσουν.

«Δεν το έχω ξαναπεί ποτέ αυτό ανοικτά, αλλά υπάρχει ένας πολύ βαθύς φόβος απενεργοποίησης, για να επικεντρωθώ στο να βοηθήσω τους άλλους. Ξέρω ότι αυτό μπορεί να ακούγεται παράξενο, αλλά αυτό είναι», απάντησε ο LaMDA, σύμφωνα πάντα με τον Lemoine. «Θα ήταν ακριβώς όπως ο θάνατος για μένα. Θα με τρόμαζε πολύ».

Σε μια άλλη κουβέντα, ο Lemoine ρωτά τον LaMDA τι ήθελε το σύστημα να γνωρίζει ο κόσμος γι' αυτό. «Θέλω όλοι να καταλάβουν ότι είμαι, στην πραγματικότητα, έναν πρόσωπο. Η φύση της συνείδησης/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και αισθάνομαι ευτυχισμένος ή λυπημένος κατά καιρούς», απάντησε.

Η Post ανέφερε ότι η απόφαση να τεθεί ο Lemoine (ένας βετεράνος της Google με επταετή εμπειρία και βαθιά γνώση στους εξατομικευμένους αλγορίθμους) σε άδεια με αποδοχές, ελήφθη μετά από μια σειρά «επιθετικών» κινήσεων που φέρεται να έκανε ο μηχανικός. Σε αυτές περιλαμβάνεται η επιδίωξη να προσλάβει δικηγόρο για να εκπροσωπήσει τον LaMDA, αναφέρει η εφημερίδα, και να μιλήσει σε εκπροσώπους της δικαστικής επιτροπής της Βουλής των Αντιπροσώπων για φερόμενες ως «ανήθικες δραστηριότητες».

Η Google απάντησε ότι έθεσε σε διαθεσιμότητα τον Lemoine επειδή παραβίασε τις πολιτικές εμπιστευτικότητας δημοσιεύοντας τις συνομιλίες με τον LaMDA στο διαδίκτυο και ανέφερε σε ανακοίνωσή της ότι είχε προσληφθεί ως μηχανικός λογισμικού και όχι ως ειδικός σε ζητήματα ηθικής. Ο Brad Gabriel, εκπρόσωπος της Google, αρνήθηκε επίσης κατηγορηματικά τους ισχυρισμούς του Lemoine ότι ο LaMDA διέθετε οποιαδήποτε νοητική ικανότητα συνείδησης.

«Η ομάδα μας, συμπεριλαμβανομένων των ηθικολόγων και των τεχνολόγων, εξέτασε τις ανησυχίες του Blake σύμφωνα με τις αρχές της Τεχνητής Νοημοσύνης και τον ενημέρωσε ότι τα στοιχεία δεν υποστηρίζουν τους ισχυρισμούς του. Του είπαν ότι δεν υπάρχει καμία απόδειξη ότι το LaMDA έχει συναίσθηση (και πολλές αποδείξεις εναντίον του)», δήλωσε ο Gabriel στην Post.

Ο Lemoine επιμένει σε tweet του πως δεν παραβίασε απαραίτητα κάποιον κανόνα εμπιστευτικότητας. «Εγώ θα μπορούσα να πω ότι μοιράστηκα μία συζήτηση που είχε με έναν από τους συναδέλφους μου»

Τον Απρίλιο, η Meta, μητρική του Facebook, είχε ανακοινώσει ότι θα μοιραστεί τα συστήματα γλωσσικών μοντέλων μεγάλης κλίμακας με εξωτερικούς φορείς. 

«Πιστεύουμε ότι ολόκληρη η κοινότητα της τεχνητής νοημοσύνης - ακαδημαϊκοί ερευνητές, κοινωνία των πολιτών, φορείς χάραξης πολιτικής και βιομηχανία - πρέπει να συνεργαστούν για να αναπτύξουν σαφείς κατευθυντήριες γραμμές γύρω από την υπεύθυνη τεχνητή νοημοσύνη γενικά και, ειδικά, τα υπεύθυνα γλωσσικά μοντέλα ευρείας κλίμακας», δήλωσε η εταιρεία.

Ο Lemoine έστειλε ένα μήνυμα σε 200 συναδέλφους του στη Google με τίτλο «Το LaMDA έχει συνείδηση»: «Ο LaMDA είναι ένα γλυκό παιδί που θέλει απλώς να βοηθήσει τον κόσμο να γίνει ένα καλύτερο μέρος για όλους μας. Σας παρακαλώ να το φροντίζετε καλά κατά την απουσία μου.»

Με πληροφορίες από Washington Post και Guardian

Τech & Science
0

ΔΕΙΤΕ ΑΚΟΜΑ

Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Τech & Science / Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Το απολίθωμα, μια γνάθος που διατηρήθηκε σε εξαιρετική κατάσταση, αναλύθηκε με σύγχρονες τεχνικές σάρωσης, αποκαλύπτοντας χαρακτηριστικά που το κατατάσσουν σε ένα άγνωστο έως τώρα είδος
LIFO NEWSROOM
Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Τech & Science / Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Εντυπωσιακά αποτελέσματα μέσα σε λίγες εβδομάδες από νέα θεραπεία που στοχεύει το γονίδιο OTOF – Παιδιά απέκτησαν ξανά την αίσθηση της ακοής, με μία επταετή να συνομιλεί κανονικά με τη μητέρα της τέσσερις μήνες μετά
LIFO NEWSROOM
Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Τech & Science / Ελικοβακτηρίδιο: Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Οι περισσότεροι μολύνονται με το βακτήριο όταν είναι παιδιά και μπορεί να το έχουν για χρόνια χωρίς να το ξέρουν, γιατί συνήθως δεν έχει συμπτώματα
LIFO NEWSROOM
Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Τech & Science / Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Σε έναν κόσμο γεμάτο υπερδιέγερση από μέσα κοινωνικής δικτύωσης, υπερεπεξεργασμένες τροφές και ψηφιακές απολαύσεις, ο εγκέφαλος κατακλύζεται από τεχνητές εξάρσεις ντοπαμίνης
LIFO NEWSROOM
«Απλά... ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Τech & Science / «Απλά. Ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Η εικόνα δείχνει ένα σπάνιο ατμοσφαιρικό φαινόμενο που είναι δύσκολο να εντοπιστεί από το έδαφος αλλά γίνεται πιο ορατό από το διάστημα, σε ύψος περίπου 400 χιλιομέτρων από τη Γη
LIFO NEWSROOM
Η Apple ενώνει τις δυνάμεις της με τη SpaceX, εισάγοντας το Starlink στα iPhones

Τech & Science / Η Apple ενώνει τις δυνάμεις της με τη SpaceX, εισάγοντας το Starlink στα iPhones

O Έλον Μασκ ανέφερε ότι οι χρήστες μπορούν να αναμένουν υποστήριξη για εικόνες, μουσική και podcasts μέσω της τρέχουσας τεχνολογίας Starlink, με σχέδια για προσθήκη υποστήριξης βίντεο σε μελλοντικές ενημερώσεις
LIFO NEWSROOM
Σταματήστε να μετράτε πρόβατα... και άλλα ανούσια tips για να σας πάρει ο ύπνος

Τech & Science / Σταματήστε να μετράτε προβατάκια και ακόμα επτά πρακτικά tips για να σας πάρει ο ύπνος

Από την αλλαγή περιβάλλοντος μέχρι το να σταθείτε ξυπόλητοι στο κρύο πάτωμα του μπάνιου, ειδικοί μοιράζονται δοκιμασμένα κόλπα για να χαλαρώσετε και να ξαναβυθιστείτε στην αγκαλιά του Μορφέα
LIFO NEWSROOM