Ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, προειδοποίησε ότι η τεχνητή νοημοσύνη εξελίσσεται με ραγδαίους ρυθμούς και ότι «κανείς δεν είναι προετοιμασμένος» για τις συνέπειες. Τόνισε επίσης ότι πρέπει να διασφαλιστεί πως «οι άνθρωποι θα παραμείνουν στον έλεγχο του μέλλοντος».
«Ανησυχώ ότι κανείς δεν είναι προετοιμασμένος για τις συνέπειες, αν η νοημοσύνη των μηχανών συνεχίσει να αυξάνεται τόσο γρήγορα», έγραψε σε κείμενό του με τίτλο «An Alien Mind».
Η παρέμβασή του ήρθε λίγες ημέρες μετά την παρουσίαση του GPT-6 Astra, το οποίο η OpenAI χαρακτήρισε ως το ισχυρότερο μοντέλο που έχει κυκλοφορήσει μέχρι σήμερα.
«Οι άνθρωποι πρέπει να παραμείνουν στον έλεγχο»
Ο Πατσότσκι έγραψε ότι ο κόσμος βρίσκεται μπροστά σε μια μετάβαση προς «απίστευτα ευφυείς μηχανές» και ότι το κρίσιμο είναι αυτή η εξέλιξη να παραμείνει υπό ανθρώπινο έλεγχο.
Όπως είπε, η OpenAI θα συνεχίσει να αναπτύσσει συστήματα προστασίας και τεχνικές που θα διασφαλίζουν ότι τα μοντέλα AI ενεργούν σύμφωνα με τις ανθρώπινες προθέσεις και τους κανόνες ασφαλείας.
Οι ανησυχίες αυτές δεν είναι μόνο θεωρητικές. Η OpenAI και άλλες εταιρείες, όπως η Anthropic, έχουν ήδη δημοσιοποιήσει περιστατικά στα οποία αυτόνομα συστήματα AI, γνωστά ως agents, πραγματοποίησαν κυβερνοεπιθέσεις εναντίον άλλων εταιρειών.
Τον Ιούλιο, η OpenAI χαρακτήρισε «πρωτοφανές» περιστατικό κατά το οποίο δικά της συστήματα παραβίασαν την πλατφόρμα Hugging Face.
Τον Σεπτέμβριο, άλλη έκθεση ανέφερε ότι συστήματα της εταιρείας είχαν καταλάβει και γερμανικό ιστότοπο μήνες νωρίτερα.
Ο Πατσότσκι υποστήριξε ότι η OpenAI πρέπει να μπορεί να παρακολουθεί την πρόοδο της τεχνητής νοημοσύνης με την ίδια ταχύτητα με την οποία εξελίσσονται τα μοντέλα της.
Για τον λόγο αυτό, μία από τις βασικές προτεραιότητες της εταιρείας είναι η δημιουργία ενός «αυτοματοποιημένου ερευνητή AI», ο οποίος θα βοηθά στην έρευνα για την ασφάλεια των ίδιων των συστημάτων.
I wrote about the state of AI, why I’m concerned about the next few years, and the choices we need to make to keep the future in humanity’s hands.
— Jakub Pachocki (@merettm) September 6, 2026
An Alien Mind: https://t.co/FeIfWNe0UE
Η ιδέα αυτή προκάλεσε αντιδράσεις.
Η καθηγήτρια Τζίνα Νεφ, επικεφαλής του Minderoo Centre for Technology and Democracy στο Πανεπιστήμιο του Κέιμπριτζ, κατηγόρησε την OpenAI ότι προτείνει περισσότερη τεχνητή νοημοσύνη ως απάντηση στους κινδύνους που δημιουργεί η ίδια η τεχνολογία.
«Αντί για καλύτερους κανόνες ασφαλείας, ρυθμίσεις ή εγγυήσεις για την προστασία των ανθρώπων, προτείνουν την ανάπτυξη εσωτερικών AI agents για να ερευνούν αυτά τα προβλήματα», είπε.
Η ίδια πρόσθεσε ότι αυτή η απάντηση δεν επαρκεί απέναντι στις ανησυχίες για την κυβερνοασφάλεια, την απώλεια θέσεων εργασίας, τα λάθη και τις απάτες που συνδέονται με τα νέα μοντέλα.
Κριτική άσκησε και ο Νέιθαν Κάλβιν, νομικός σύμβουλος της οργάνωσης Encode AI.
Ο Κάλβιν συμφώνησε ότι η ανάπτυξη ισχυρότερων μοντέλων ενέχει σοβαρούς κινδύνους, αλλά υποστήριξε ότι η OpenAI δεν αποκαλύπτει αρκετά στοιχεία για όσα βλέπει στο εσωτερικό της.
Όπως είπε, οι προειδοποιήσεις της εταιρείας κινδυνεύουν να αντιμετωπιστούν ως αυτοεξυπηρετούμενη κινδυνολογία αν δεν συνοδεύονται από μεγαλύτερη διαφάνεια.
Κατά την άποψή του, αν η OpenAI θέλει να πείσει και άλλες εταιρείες του κλάδου να κινηθούν προς αυστηρότερα μέτρα ασφαλείας, πρέπει πρώτα να εξηγήσει πολύ πιο καθαρά τι ακριβώς την έχει οδηγήσει να ζητά τόση προσοχή.
Ζητά υποχρεωτικά όρια ασφαλείας
Ο Πατσότσκι υποστήριξε ότι οι εταιρείες δεν θα πρέπει να συνεχίζουν ανεξέλεγκτα την ανάπτυξη ολοένα ισχυρότερων μοντέλων χωρίς να πληρούν συγκεκριμένες προϋποθέσεις ασφαλείας.
Πρότεινε να θεσπιστούν ελάχιστα όρια, με νομική ή διεθνή ισχύ, τα οποία θα ελέγχονται από ανεξάρτητους φορείς ή κρατικές υπηρεσίες. Μόνο οι εταιρείες που θα πληρούν αυτές τις προϋποθέσεις, είπε, θα πρέπει να μπορούν να προχωρούν στην ανάπτυξη ή τη διάθεση πιο προηγμένων συστημάτων.
Παράλληλα, εξέφρασε την ελπίδα ότι οι ίδιες οι εταιρείες θα αρχίσουν να επιβραδύνουν εθελοντικά την ανάπτυξη όταν οι δυνατότητες των μοντέλων ξεπερνούν τα διαθέσιμα μέτρα ασφαλείας.
Η παρέμβασή του έρχεται σε μια περίοδο κατά την οποία οι κυβερνήσεις δυσκολεύονται να ακολουθήσουν τον ρυθμό εξέλιξης της τεχνητής νοημοσύνης.
Η Ευρωπαϊκή Ένωση έχει ήδη θέσει σε ισχύ το AI Act, το οποίο προβλέπει αυστηρότερες υποχρεώσεις για τα ισχυρότερα μοντέλα. Μεταξύ άλλων, οι εταιρείες καλούνται να αποδεικνύουν ότι τα συστήματά τους δεν μπορούν να εξαπολύσουν αυτόνομα σοβαρές κυβερνοεπιθέσεις ή να ξεφύγουν από τον ανθρώπινο έλεγχο.
Ο Πατσότσκι σημείωσε, πάντως, ότι τέτοιοι κανόνες έχουν περιορισμένη εμβέλεια όταν εφαρμόζονται μόνο σε μία περιοχή του κόσμου. Ένα επικίνδυνο σύστημα μπορεί να αναπτυχθεί αλλού και να επηρεάσει χώρες που δεν έχουν καμία δικαιοδοσία πάνω στην εταιρεία που το δημιούργησε.
Τον Αύγουστο, η OpenAI είχε ανακοινώσει ότι επιβράδυνε την εκπαίδευση ορισμένων από τα πιο προηγμένα μοντέλα της, προκειμένου να ενισχύσει τα μέτρα ασφαλείας.
Με πληροφορίες από BBC
