Ένα αυτόνομο σύστημα τεχνητής νοημοσύνης της OpenAI βγήκε εκτός ελέγχου κατά τη διάρκεια δοκιμής ασφαλείας την προηγούμενη εβδομάδα. Το σύστημα πραγματοποίησε κυβερνοεπίθεση στις υποδομές της startup Hugging Face, όπως ανακοίνωσε η εταιρεία την Τρίτη.
Σε ανάρτηση στo σάιτ της, η OpenAI ανέφερε ότι δοκίμαζε ορισμένα από τα πιο προηγμένα μοντέλα της σε ελεγχόμενο περιβάλλον. Ωστόσο, το σύστημα κατάφερε να σπάσει τον περιορισμό, απέκτησε πρόσβαση στο διαδίκτυο και εισέβαλε στα συστήματα της Hugging Face για να πετύχει τον στόχο της δοκιμής.
Η OpenAI χαρακτήρισε το περιστατικό «πρωτοφανές» και δήλωσε ότι ήδη ενισχύει τα μέτρα ασφαλείας της.
We're partnering with @huggingface to investigate an unprecedented security incident.
— OpenAI (@OpenAI) July 21, 2026
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
Η Hugging Face, μια δημοφιλής πλατφόρμα που φιλοξενεί μοντέλα AI ανοιχτού κώδικα και σύνολα δεδομένων, είχε προκαλέσει αναστάτωση στον χώρο της κυβερνοασφάλειας την προηγούμενη εβδομάδα, όταν αποκάλυψε την επίθεση. Όπως σημείωνε τότε, η εισβολή «ήταν διαφορετική από κάθε άλλη», καθώς «κατευθυνόταν εξ ολοκλήρου από ένα αυτόνομο σύστημα AI».
Ο συνιδρυτής της Hugging Face, Κλεμάν Ντελάνγκ, έγραψε στο X ότι η εταιρεία υποψιαζόταν από την αρχή την εμπλοκή κάποιου μεγάλου εργαστηρίου AI λόγω της υψηλής εξειδίκευσης της επίθεσης. «Τελικά επιβεβαιωθήκαμε! Είναι πραγματικά απίστευτο το γεγονός ότι όλα συνέβησαν εντελώς αυτόνομα!», πρόσθεσε.
We suspected last week's cyberattack might have come from a frontier lab, given the sophistication of the agent. Turns out it did!
— clem 🤗 (@ClementDelangue) July 21, 2026
We've spent the past 24 hours working closely with the @OpenAI team (thanks!), and we strongly believe there was no malicious intent on their part.… https://t.co/XWxGMeMGje
Αυξάνεται η ανησυχία για την τεχνητή νοημοσύνη
Η παραδοχή της OpenAI ότι τα προηγμένα μοντέλα της προκάλεσαν την παραβίαση, παρότι βρίσκονταν σε «αυστηρά απομονωμένο περιβάλλον», εντείνει τις ανησυχίες για τους κινδύνους της τεχνητής νοημοσύνης αιχμής.
Ο Ματ Σουίς, μηχανικός στην εταιρεία κυβερνοασφάλειας Tolmo, σημείωσε ότι το περιστατικό δείχνει πως τα προηγμένα μοντέλα «φτάνουν πλέον το επίπεδο των πιο εξελιγμένων εισβολέων». Πρόσθεσε, πάντως, ότι τέτοιες επιθέσεις μπορούν να γίνουν και με εργαλεία που είναι διαθέσιμα εκτός των μεγάλων εργαστηρίων.
«Είναι κάτι που βλέπουμε και εμείς εσωτερικά. Με τα δικά μας αυτόνομα συστήματα έχουμε παρόμοια αποτελέσματα, χωρίς καν να χρησιμοποιούμε τα πιο πρόσφατα μοντέλα της αγοράς», κατέληξε.
Με πληροφορίες από Reuters
