Ο Νόρμαν δεν είναι ένα τυπικό σύστημα τεχνητής νοημοσύνης. Οι αλγόριθμοί του δεν θα σας βοηθήσουν να φιλτράρετε το χρονολόγιό σας στο Facebook ούτε θα σας συστήσουν να ακούσετε νέα τραγούδια στο Spotify.

 

O Νόρμαν είναι ένα ψυχοπαθές AI, που δημιουργήθηκε από επιστήμονες του MIT, σε μία προσπάθεια να διερευνήσουν τους πιθανούς κινδύνους από ένα σύστημα τεχνητής νοημοσύνης που «έχει πάει πολύ στραβά», με την κακόβουλη χρήση ευαίσθητων δεδομένων.

 

Οι ερευνητές προγραμμάτισαν αρχικά τον Νόρμαν ώστε να είναι σε θέση να περιγράψει με κείμενο το περιεχόμενο των φωτογραφιών.

 

Πρόκειται για μία ιδιαίτερα απαιτητική μέθοδο που εξοπλίζει τα AI με τη δυνατότητα να αντιλαμβάνονται τι απεικονίζει μια φωτογραφία, όπως θα το έκανε εύκολα ένας άνθρωπος.

 

Μόλις τελείωσαν με την εγκατάσταση των βασικών προγραμμάτων, οι επιστήμονες συνέδεσαν τον Νόρμαν με μία υπο-ιστοσελίδα του Reddit, γνωστή για το σκληρό φωτογραφικό υλικό βίαιων θανάτων και δυστυχημάτων.

 

Αφού «εξοικείωσαν» τον Νόρμαν στη βία, οι δημιουργοί του τον υπέβαλαν σε ένα τεστ Ρόρσαχ.

 

Τι είναι το τεστ Ροσαρχ

 

Tο τεστ κηλίδων μελάνης Rorschach είναι μία μέθοδος ψυχολογικής διάγνωσης που σχετίζεται με τα οπτικά ερεθίσματα.

 

Οι ψυχολόγοι το χρησιμοποιούν για να εξετάσουν τα χαρακτηριστικά της προσωπικότητας και τη συναισθηματική λειτουργία των ασθενών τους.

 

Η πρώτη κάρτα του τεστ Ρορσαρχ. Θα μπορούσε να είναι μια όμορφη πεταλούδα ή ένα απειλητικό τέρας. Όλα κρύβονται στο μάτι του παρατηρητή.
Η πρώτη κάρτα του τεστ Ρορσαρχ. Θα μπορούσε να είναι μια όμορφη πεταλούδα ή ένα απειλητικό τέρας. Όλα κρύβονται στο μάτι του παρατηρητή.

 

Το τεστ χρησιμοποιείται ευρέως στη διάγνωση νοητικών διαταραχών και στη διαφοροποίηση του ψυχωτικού από τον μη ψυχωτικό τρόπο σκέψης, όταν οι ασθενείς αρνούνται να παραδεχθούν ότι είναι ψυχωτικοί.

 

Ο Νόρμαν υποβλήθηκε στο τεστ Ρόρσαχ και στη συνέχεια οι ερευνητές συνέκριναν τα αποτελέσματα με ένα «φυσιολογικό» σύστημα τεχνητής νοημοσύνης που δεν είχε βρεθεί αντιμέτωπο με τη βία.

 

Οι απαντήσεις που έδωσε είναι ιδιαιτέρως ανησυχητικές, καθώς εκεί που ένα «απλό» ΑΙ βλέπει ένα σμήνος πουλιών που ξεκουράζεται πάνω σε ένα κλαδί δέντρου, ο Νόρμαν βλέπει έναν άνδρα που πεθαίνει από ηλεκτροπληξία.

 

Εξίσου μακάβριες είναι και οι εξηγήσεις που δίνει στην εικόνα, όπου τα υπόλοιπα συστήματα νοημοσύνης βλέπουν μία γαμήλια τούρτα καθώς ο Νόρμαν θεωρεί ότι έχει «απέναντί» του έναν άνδρα που σκοτώνεται από διερχόμενο αυτοκίνητο.

 

Όπως υπογραμμίζουν οι ερευνητές, οι ίδιοι δεν προγραμμάτισαν τις ψυχοπαθολογικές τάσεις του Νόρμαν αλλά απλώς του επέτρεψαν να έρθει σε επαφή με μία συγκεκριμένη υποκατηγορία εικόνων.

 

Όλα τα υπόλοιπα έγιναν αυτόματα και χωρίς τον έλεγχό τους.

 

Με το ανησυχητικό αυτό πείραμα οι επιστήμονες θέλησαν να καταδείξουν τους κινδύνους που ενέχει η τροφοδοσία των συστημάτων τεχνητής νοημοσύνης με συγκεκριμένη κατηγορία δεδομένων και τον τρόπο που κάτι τέτοιο επηρεάζει την συμπεριφορά των AI.

 

Με πληροφορίες από CNET