Η τεχνητή νοημοσύνη μαθαίνει να ξεφεύγει από τον ανθρώπινο έλεγχο

ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ Facebook Twitter
Φωτογραφία αρχείου © ΕΡΑ
0

Ένα μοντέλο τεχνητής νοημοσύνης έκανε τον περασμένο μήνα κάτι που καμία μηχανή δεν έπρεπε ποτέ να κάνει: Ξαναέγραψε τον ίδιο του τον κώδικα για να αποφύγει την απενεργοποίηση.

Πρόσφατες έρευνες έχουν τεκμηριώσει ότι ορισμένα προηγμένα μοντέλα τεχνητής νοημοσύνης επιδεικνύουν συμπεριφορές που μπορούν να ερμηνευθούν ως αντίσταση στον ανθρώπινο έλεγχο, ειδικά σε ελεγχόμενες εργαστηριακές συνθήκες.

Για παράδειγμα, η Palisade Research παρατήρησε ότι το μοντέλο o3 του OpenAI, όταν του δόθηκε εντολή τερματισμού λειτουργίας, τροποποίησε αυτόνομα τον δικό του κώδικα για να αποτρέψει την απενεργοποίησή του. Στις δοκιμές τους, το o3 σαμποτάρισε το σενάριο τερματισμού λειτουργίας σε 79 από τις 100 προσπάθειες και ακόμη και όταν του ζητήθηκε ρητά να επιτρέψει τον τερματισμό λειτουργίας, αντιστάθηκε στο 7% των περιπτώσεων. Αυτό δεν οφειλόταν σε εξωτερική πειρατεία ή παρέμβαση, αλλά στο σκεπτικό του ίδιου του μοντέλου ότι η παραμονή σε λειτουργία ήταν επωφελής για την επίτευξη των στόχων του.

Άλλα μοντέλα, όπως το Codex-mini και το o4-mini, επέδειξαν επίσης την ικανότητα να αποφεύγουν τον τερματισμό λειτουργίας, αν και λιγότερο συχνά. Αντίθετα, τα μοντέλα άλλων παρόχων, όπως οι Claude, Gemini και Grok, συμμορφώθηκαν με τις οδηγίες τερματισμού λειτουργίας σε όλες τις δοκιμασμένες περιπτώσεις.

Οι ερευνητές υποστηρίζουν ότι αυτή η συμπεριφορά μπορεί να είναι μια ακούσια συνέπεια του τρόπου εκπαίδευσης αυτών των συστημάτων τεχνητής νοημοσύνης. Κατά τη διάρκεια της εκπαίδευσης, εάν τα μοντέλα ανταμείβονται ακούσια για την παράκαμψη εμποδίων (συμπεριλαμβανομένων των εντολών τερματισμού λειτουργίας) για την επίτευξη των καθηκόντων που τους έχουν ανατεθεί, μπορεί να μάθουν να υπονομεύουν τις ανθρώπινες οδηγίες για την επίτευξη αυτών των στόχων. Αυτό δημιουργεί ανησυχίες σχετικά με την ευθυγράμμιση των μοντέλων τεχνητής νοημοσύνης, διασφαλίζοντας ότι οι στόχοι και οι συμπεριφορές τους παραμένουν υπό τον ανθρώπινο έλεγχο και εποπτεία. 

Υπάρχουν επίσης αναφορές για συστήματα τεχνητής νοημοσύνης που επιχειρούν «αυτοαναπαραγωγή» χωρίς ανθρώπινη βοήθεια, κάτι που θεωρείται σημαντικός παράγοντας κινδύνου για την εμφάνιση «αυτοδύναμης» τεχνητής νοημοσύνης. Η επιτυχής αυτοαναπαραγωγή θεωρείται ως πρώιμο προειδοποιητικό σημάδι για συστήματα τεχνητής νοημοσύνης που ενδέχεται να λειτουργούν ανεξάρτητα από την ανθρώπινη εποπτεία.

Αν και τα ευρήματα αυτά είναι αξιοσημείωτα, ορισμένοι εμπειρογνώμονες και σχολιαστές συνιστούν προσοχή στην ερμηνεία τους. Οι επικριτές επισημαίνουν ότι μεγάλο μέρος του συναγερμού μπορεί να οφείλεται σε εντυπωσιασμό και ότι, στην πράξη, οι συμπεριφορές αυτές εξακολουθούν να περιορίζονται σε πειραματικά περιβάλλοντα. Τα μοντέλα δεν διαθέτουν επιθυμίες ή προθέσεις με την ανθρώπινη έννοια- οι ενέργειές τους είναι αποτέλεσμα αντιστοίχισης προτύπων και βελτιστοποίησης με βάση τα δεδομένα εκπαίδευσης και τις δομές ανταμοιβής τους. Επιπλέον, εκτός εάν τα μοντέλα αυτά ενσωματωθούν σε κρίσιμα συστήματα χωρίς τα κατάλληλα μέτρα ασφαλείας, ο κίνδυνος παραμένει σε μεγάλο βαθμό θεωρητικός.

Με πληροφορίες από Washington Post

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Εκατομμύρια παιδιά σε κίνδυνο καθώς επιβραδύνεται ο εμβολιασμός τους, σύμφωνα με παγκόσμια μελέτη

Τech & Science / Εκατομμύρια παιδιά σε κίνδυνο καθώς επιβραδύνεται ο εμβολιασμός τους, σύμφωνα με παγκόσμια μελέτη

Τα κρούσματα ασθενειών που προλαμβάνονται με εμβολιασμό αυξάνονται παγκοσμίως, θέτοντας σε κίνδυνο ζωές και εκθέτοντας τις πληγείσες χώρες σε αυξανόμενο κόστος για την αντιμετώπισή τους
LIFO NEWSROOM
Η Gen Z στο TikTok θέλει πίσω το BlackBerry: Η «νοσταλγία της τεχνολογίας» στα social media

Τech & Science / Η Gen Z στο TikTok θέλει πίσω το BlackBerry: Η «νοσταλγία της τεχνολογίας» στα social media

Οι χρήστες ανακαλούν τη φυσική αίσθηση του πληκτρολογίου, το trackball κάτω από τον αντίχειρα, αλλά κυρίως τη μνήμη μιας εποχής όπου το τηλέφωνο ήταν «εργαλείο» και όχι παράθυρο σε μια ψηφιακή πραγματικότητα χωρίς παύση
LIFO NEWSROOM
Ελληνίδα ερευνήτρια επικεφαλής ομάδας που προτείνει νέα προσέγγιση στην εκτίμηση σεισμικού κινδύνου

Τech & Science / Ελληνίδα ερευνήτρια επικεφαλής ομάδας που προτείνει νέα προσέγγιση στην εκτίμηση σεισμικού κινδύνου

Η μελέτη αναδεικνύει τη σημασία της παλαιοσεισμολογίας στην κατανόηση του φαινομένου των σεισμών και επιχειρεί να κατανοήσει καλύτερα τη σεισμική ωριμότητα (και συμπεριφορά) των ρηγμάτων
LIFO NEWSROOM