Στο MIT δημιούργησαν το πρώτο σχιζοφρενικό σύστημα τεχνητής νοημοσύνης

Στο MIT δημιούργησαν το πρώτο σχιζοφρενικό σύστημα τεχνητής νοημοσύνης Facebook Twitter
EPA
0

Ο Νόρμαν δεν είναι ένα τυπικό σύστημα τεχνητής νοημοσύνης. Οι αλγόριθμοί του δεν θα σας βοηθήσουν να φιλτράρετε το χρονολόγιό σας στο Facebook ούτε θα σας συστήσουν να ακούσετε νέα τραγούδια στο Spotify.

O Νόρμαν είναι ένα ψυχοπαθές AI, που δημιουργήθηκε από επιστήμονες του MIT, σε μία προσπάθεια να διερευνήσουν τους πιθανούς κινδύνους από ένα σύστημα τεχνητής νοημοσύνης που «έχει πάει πολύ στραβά», με την κακόβουλη χρήση ευαίσθητων δεδομένων.

Οι ερευνητές προγραμμάτισαν αρχικά τον Νόρμαν ώστε να είναι σε θέση να περιγράψει με κείμενο το περιεχόμενο των φωτογραφιών.

Πρόκειται για μία ιδιαίτερα απαιτητική μέθοδο που εξοπλίζει τα AI με τη δυνατότητα να αντιλαμβάνονται τι απεικονίζει μια φωτογραφία, όπως θα το έκανε εύκολα ένας άνθρωπος.

Μόλις τελείωσαν με την εγκατάσταση των βασικών προγραμμάτων, οι επιστήμονες συνέδεσαν τον Νόρμαν με μία υπο-ιστοσελίδα του Reddit, γνωστή για το σκληρό φωτογραφικό υλικό βίαιων θανάτων και δυστυχημάτων.

Αφού «εξοικείωσαν» τον Νόρμαν στη βία, οι δημιουργοί του τον υπέβαλαν σε ένα τεστ Ρόρσαχ.

Τι είναι το τεστ Ροσαρχ

Tο τεστ κηλίδων μελάνης Rorschach είναι μία μέθοδος ψυχολογικής διάγνωσης που σχετίζεται με τα οπτικά ερεθίσματα.

Οι ψυχολόγοι το χρησιμοποιούν για να εξετάσουν τα χαρακτηριστικά της προσωπικότητας και τη συναισθηματική λειτουργία των ασθενών τους.

Στο MIT δημιούργησαν το πρώτο σχιζοφρενικό σύστημα τεχνητής νοημοσύνης Facebook Twitter
Η πρώτη κάρτα του τεστ Ρορσαρχ. Θα μπορούσε να είναι μια όμορφη πεταλούδα ή ένα απειλητικό τέρας. Όλα κρύβονται στο μάτι του παρατηρητή.

Το τεστ χρησιμοποιείται ευρέως στη διάγνωση νοητικών διαταραχών και στη διαφοροποίηση του ψυχωτικού από τον μη ψυχωτικό τρόπο σκέψης, όταν οι ασθενείς αρνούνται να παραδεχθούν ότι είναι ψυχωτικοί.

Ο Νόρμαν υποβλήθηκε στο τεστ Ρόρσαχ και στη συνέχεια οι ερευνητές συνέκριναν τα αποτελέσματα με ένα «φυσιολογικό» σύστημα τεχνητής νοημοσύνης που δεν είχε βρεθεί αντιμέτωπο με τη βία.

Οι απαντήσεις που έδωσε είναι ιδιαιτέρως ανησυχητικές, καθώς εκεί που ένα «απλό» ΑΙ βλέπει ένα σμήνος πουλιών που ξεκουράζεται πάνω σε ένα κλαδί δέντρου, ο Νόρμαν βλέπει έναν άνδρα που πεθαίνει από ηλεκτροπληξία.

Εξίσου μακάβριες είναι και οι εξηγήσεις που δίνει στην εικόνα, όπου τα υπόλοιπα συστήματα νοημοσύνης βλέπουν μία γαμήλια τούρτα καθώς ο Νόρμαν θεωρεί ότι έχει «απέναντί» του έναν άνδρα που σκοτώνεται από διερχόμενο αυτοκίνητο.

Όπως υπογραμμίζουν οι ερευνητές, οι ίδιοι δεν προγραμμάτισαν τις ψυχοπαθολογικές τάσεις του Νόρμαν αλλά απλώς του επέτρεψαν να έρθει σε επαφή με μία συγκεκριμένη υποκατηγορία εικόνων.

Όλα τα υπόλοιπα έγιναν αυτόματα και χωρίς τον έλεγχό τους.

Με το ανησυχητικό αυτό πείραμα οι επιστήμονες θέλησαν να καταδείξουν τους κινδύνους που ενέχει η τροφοδοσία των συστημάτων τεχνητής νοημοσύνης με συγκεκριμένη κατηγορία δεδομένων και τον τρόπο που κάτι τέτοιο επηρεάζει την συμπεριφορά των AI.

Με πληροφορίες από CNET

Τech & Science
0

ΔΕΙΤΕ ΑΚΟΜΑ

Αλτσχάιμερ: Τι περιλαμβάνει η διατροφή MIND - Νέα έρευνα επιβεβαιώνει τα ωφέλη της

Τech & Science / Αλτσχάιμερ: Τι περιλαμβάνει η διατροφή MIND - Νέα έρευνα επιβεβαιώνει τα οφέλη της

Το Πανεπιστήμιο της Χαβάης και της Νότιας Καλιφόρνιας κατέληξαν στο συμπέρασμα, ότι όσοι ακολουθούν τη διατροφή MIND παρουσιάζουν μειωμένες πιθανότητες εμφάνισης της νόσου
LIFO NEWSROOM
Αυξάνεται η παραπληροφόρηση για τον καρκίνο: Ασθενείς κάνουν κλύσματα καφέ ή δίαιτες μόνο με φρούτα

Τech & Science / Αυξάνεται η παραπληροφόρηση για τον καρκίνο: Ασθενείς κάνουν κλύσματα καφέ ή δίαιτες μόνο με φρούτα

Όλο και περισσότεροι ασθενείς με καρκίνο εγκαταλείπουν τις επιστημονικά τεκμηριωμένες θεραπείες, επιλέγοντας αναπόδεικτες μεθόδους όπως κλύσματα καφέ και ωμοφαγικές δίαιτες, προειδοποιούν οι ειδικοί thw Αμερικανικής Εταιρείας Κλινικής Ογκολογίας (ASCO) στο Σικάγο
LIFO NEWSROOM
Τι είναι η «έκρηξη Strombolian» και τι συμβαίνει στην Αίτνα

Τech & Science / Τι είναι η «έκρηξη Strombolian» και τι συμβαίνει στην Αίτνα

Η Αίτνα εκρήγνυται ξανά, στέλνοντας σύννεφα τέφρας και ροές λάβας στον ουρανό της Σικελίας - Τι λένε οι ηφαιστειολόγοι για το φαινόμενο, πώς ταξινομούνται οι εκρήξεις και τι σημαίνει η πρόσφατη δραστηριότητα για την επιστημονική παρακολούθηση
LIFO NEWSROOM
«Καλύτερη και από φάρμακο»: Η άσκηση μειώνει τον κίνδυνο θανάτου στους καρκινοπαθείς κατά 37%, δείχνει μεγάλη μελέτη

Τech & Science / «Καλύτερη και από φάρμακο»: Η άσκηση μειώνει τον κίνδυνο θανάτου στους καρκινοπαθείς κατά 37%

Τι δείχνει μεγάλη μελέτη - Αν και η δοκιμή αφορούσε μόνο ασθενείς με καρκίνο του παχέος εντέρου, οι ερευνητές θεωρούν πιθανό να ισχύουν παρόμοια οφέλη και για άλλες μορφές της νόσου
LIFO NEWSROOM
Πρέπει το Ozempic «να προστεθεί στο νερό» για το παίρνουμε όλοι;

Τech & Science / Πρέπει το Ozempic «να προστεθεί στο νερό» για να το παίρνουμε όλοι;

Γιατροί και μελέτες υποστηρίζουν ότι περισσότεροι άνθρωποι θα μπορούσαν να ωφεληθούν από το Ozempic, καθώς φάρμακα κατά της παχυσαρκίας ανοίγουν νέους δρόμους για τη θεραπεία σειράς ασθενειών
LIFO NEWSROOM