Όταν το 2019 η OpenAI ολοκλήρωσε την εκπαίδευση ενός νέου μεγάλου γλωσσικού μοντέλου, του GPT-2, το εργαστήριο τεχνητής νοημοσύνης δήλωσε αρχικά ότι το εργαλείο ήταν υπερβολικά επικίνδυνο για να δοθεί στη δημοσιότητα. Ο Dario Amodei, τότε διευθυντής ερευνών της OpenAI, επέμενε ότι ο κόσμος χρειαζόταν χρόνο προσαρμογής.
Τελικά, το μοντέλο κυκλοφόρησε αργότερα την ίδια χρονιά. Έκτοτε αναπτύχθηκε μια σειρά από πολύ ισχυρότερα συστήματα, χωρίς να επέλθει ο Αρμαγεδδών. Ωστόσο, επτά χρόνια μετά, ο κ. Amodei, επικεφαλής πλέον της Anthropic —της βασικής ανταγωνίστριας της OpenAI— ανησυχεί εκ νέου. Στις 7 Απριλίου δήλωσε ότι η τελευταία προσθήκη στην οικογένεια μοντέλων Claude, με την ονομασία «Mythos», είναι τόσο ισχυρή που δεν επιτρέπεται ακόμη η ευρεία διάθεσή της. Αυτή τη φορά, ίσως να έχει δίκιο.
Το Mythos έχει ήδη εντοπίσει κρίσιμα κενά ασφαλείας σε «κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης», συμπεριλαμβανομένου ενός που παρέμενε απαρατήρητο επί 27 συναπτά έτη.
Σύμφωνα με την Anthropic, οι δυνατότητες του Mythos βρίσκονται «σημαντικά πέρα από οτιδήποτε έχουμε εκπαιδεύσει στο παρελθόν». Το εργαστήριο δηλώνει ιδιαίτερα θορυβημένο από την ικανότητα του συστήματος να εντοπίζει τρωτά σημεία λογισμικού και είτε να τα επιδιορθώνει (λειτουργώντας αμυντικά) είτε να τα εκμεταλλεύεται (λειτουργώντας ως χάκερ).
Τέτοιοι ισχυρισμοί θα έπρεπε κανονικά να αντιμετωπίζονται με σκεπτικισμό. Η Anthropic κατασκεύασε το μοντέλο, διεξήγαγε τις δοκιμές — και προφανώς επωφελείται από την εντύπωση ότι το σύστημά της είναι ευφυέστερο από κάθε προκάτοχο. Η εταιρεία διανύει μια περίοδο εντυπωσιακής ανόδου: στις 6 Απριλίου ανακοίνωσε ότι τα ετήσια έσοδά της εκτοξεύθηκαν στα 30 δισ. δολάρια, από μόλις 9 δισ. στα τέλη του περασμένου έτους. Είναι λογικό, λοιπόν, να επιδιώκει τη διατήρηση αυτής της δυναμικής.
Ωστόσο, υπάρχουν σοβαροί λόγοι να ληφθούν υπόψη οι προειδοποιήσεις της. Ο πρώτος είναι η βαρύτητά τους: η Anthropic υποστηρίζει ότι το Mythos έχει ήδη εντοπίσει κρίσιμα κενά ασφαλείας σε «κάθε μεγάλο λειτουργικό σύστημα και πρόγραμμα περιήγησης», συμπεριλαμβανομένου ενός που παρέμενε απαρατήρητο επί 27 συναπτά έτη.
Ο δεύτερος λόγος είναι η αντίδραση της αγοράς. Παράλληλα με την αναστολή της κυκλοφορίας, η Anthropic ανακοίνωσε το «Project Glasswing», μια πρωτοβουλία που βοηθά τις εταιρείες να θωρακίσουν την κυβερνοάμυνά τους μέσω του Mythos πριν αυτό διατεθεί ευρέως. Η συμμετοχή κολοσσών —όπως η Apple, το Linux Foundation και η CrowdStrike, αλλά και η Google, που αποτελεί άμεσο ανταγωνιστή— υποδηλώνει ότι η απειλή είναι βάσιμη.
Η στρατηγική του κ. Amodei για τον περιορισμό του κινδύνου κρίνεται ορθολογική. Με την παροχή προτεραιότητας, οι εταιρείες μπορούν να ελέγξουν τον κώδικά τους για αδυναμίες πριν από τη δημοσίευσή του. Παρόλα αυτά, η Anthropic έχει σαφές οικονομικό όφελος από το Project Glasswing: αν και θα καλύψει τα πρώτα 100 εκατ. δολάρια του κόστους της πρωτοβουλίας, μελλοντικά σκοπεύει να χρεώνει τους συμμετέχοντες πέντε φορές περισσότερο για τη χρήση του Mythos σε σύγκριση με το προγενέστερο μοντέλο, Opus.
Πρόκειται ίσως για ένα τίμημα που αξίζει να καταβληθεί. Οι ανταγωνιστές της Anthropic είναι βέβαιο ότι θα αναπτύξουν αργά ή γρήγορα μοντέλα με παρόμοιες ικανότητες διείσδυσης. Ενώ εργαστήρια όπως η OpenAI και η Google διαθέτουν συγκροτημένες πολιτικές ασφαλείας, τα εργαστήρια ανοιχτού κώδικα —ιδιαίτερα εκείνα στην Κίνα— τείνουν να δίνουν λιγότερη έμφαση στη θωράκιση των συστημάτων τους.
Οι χάκερ δεν είναι οι μόνοι που ενδέχεται να ενοχληθούν από το Project Glasswing. Η αμερικανική κυβέρνηση επιδιώκει παραδοσιακά την εκμετάλλευση αδυναμιών στα συστήματα των αντιπάλων της, «αποθηκεύοντας» άγνωστα κενά ασφαλείας (zero days) για να τα χρησιμοποιήσει την κατάλληλη στιγμή. Αν το Project Glasswing επιτύχει, θα μπορούσε να αχρηστεύσει μεγάλο μέρος του κυβερνοοπλοστασίου των ΗΠΑ.
Μια τέτοια εξέλιξη θα εξόργιζε αναμφίβολα τον Pete Hegseth, υπουργό Άμυνας των ΗΠΑ, ο οποίος χαρακτήρισε την Anthropic «κίνδυνο για την εφοδιαστική αλυσίδα» μετά από μια έντονη διαμάχη με το Πεντάγωνο για τη στρατιωτική χρήση των μοντέλων της. Παρόλο που ένας δικαστής μπλόκαρε προσωρινά αυτόν τον «οργουελιανό» χαρακτηρισμό, ο κ. Amodei φαίνεται πως θα συνεχίσει να αποτελεί «αγκάθι» για την ηγεσία του υπουργείου.
Με στοιχεία από τον Economist
