Ερευνητές της εταιρείας κυβερνοασφάλειας Calif ανέπτυξαν με τη βοήθεια μοντέλων τεχνητής νοημοσύνης ένα εργαλείο που μπορεί να παραβιάζει λογαριασμούς WeChat σε iPhone και Android ακόμη και χωρίς απάντηση σε κλήση ή άλλη ενέργεια από τον χρήστη, ενώ μπορεί να εξαπλώνεται αυτόματα στις επαφές του θύματος.
Ένας φίλος με τον οποίο έχετε καιρό να επικοινωνήσετε σάς καλεί ξαφνικά. Δεν απαντάτε. Ωστόσο, μέσα σε λίγα δευτερόλεπτα, η ζημιά έχει ήδη γίνει.
Η κλήση δεν προερχόταν από έναν παλιό γνωστό που ήθελε να έρθει ξανά σε επαφή, αλλά από έναν χάκερ που είχε αποκτήσει τον έλεγχο του αριθμού του. Ακόμη χειρότερα, ο δράστης έχει ήδη υποκλέψει τον λογαριασμό σας, έχει πρόσβαση στα ιδιωτικά μηνύματά σας και χρησιμοποιεί τον αριθμό σας για να επικοινωνεί με τις αποθηκευμένες επαφές σας, επιχειρώντας να παραβιάσει και τους δικούς τους λογαριασμούς.
Σαν ένας εξαιρετικά μεταδοτικός ιός, η επίθεση θα μπορούσε να εξαπλώνεται αδιάκοπα. Μέσα σε λίγες ώρες, εκατομμύρια άνθρωποι ενδέχεται να βρεθούν στην ίδια θέση.
Μέχρι πριν από έναν χρόνο, ένα τέτοιο σενάριο θα ακουγόταν υπερβολικό ακόμη και στους πιο απαισιόδοξους ειδικούς της ψηφιακής ασφάλειας ή, τουλάχιστον, σαν επιχείρηση που θα μπορούσαν να υλοποιήσουν μόνο οι πιο προηγμένες υπηρεσίες πληροφοριών στον κόσμο.
Ωστόσο, χάρη σε προηγμένα μοντέλα τεχνητής νοημοσύνης, μια μικρή ομάδα ερευνητών της Calif, εταιρείας κυβερνοασφάλειας με έδρα το Πάλο Άλτο της Καλιφόρνιας, κατασκεύασε πρόσφατα, μέσα σε λίγο περισσότερο από μία εβδομάδα, ένα εργαλείο παραβίασης που θα μπορούσε να «σαρώσει» το WeChat, την πλατφόρμα κοινωνικής δικτύωσης και ανταλλαγής μηνυμάτων που κυριαρχεί στην Κίνα.
«Αυτό το κενό ασφαλείας είναι εξαιρετικό», δήλωσε ο Τάι Ντουόνγκ, διευθύνων σύμβουλος της Calif, η οποία υποστηρίζει ότι αναπτύσσει εργαλεία παραβίασης για να ενισχύει την κυβερνοάμυνα. Η απλότητα του κενού και οι ισχυρές δυνατότητές του, πρόσθεσε, θα αποτελούσαν «όνειρο που γίνεται πραγματικότητα» για τους χάκερ.
Η επίθεση είναι η πιο πρόσφατη -και μία από τις πιο ανησυχητικές έως σήμερα- αποδείξεις της ιλιγγιώδους ταχύτητας με την οποία εξελίσσεται η τεχνητή νοημοσύνη, ξεπερνώντας την ικανότητα των ρυθμιστικών αρχών, αλλά και των ίδιων των κορυφαίων προγραμματιστών της, να συμβαδίσουν.
Τεχνητή νοημοσύνη και η νέα εποχή των επιθέσεων μηδενικού κλικ
Η Calif ανέφερε ότι η επίθεση, την οποία ονόμασε «WeWorm», ήταν το πρώτο γνωστό «σκουλήκι» υπολογιστών -είδος κακόβουλου λογισμικού που μπορεί να μεταπηδά αυτομάτως από συσκευή σε συσκευή χωρίς ανθρώπινη παρέμβαση- ικανό να εξαπλωθεί στα λειτουργικά συστήματα iOS της Apple και Android της Google, χωρίς το θύμα να χρειαστεί να κάνει κλικ ή να πατήσει οτιδήποτε.
Οι αποκαλούμενες «επιθέσεις μηδενικού κλικ» (zero-click attacks) διαφέρουν από τα συνήθη μηνύματα phishing μέσω email ή SMS και είναι πολύ πιο επικίνδυνες. Θεωρούνται ιδιαιτέρως ύπουλες, επειδή είναι εξαιρετικά δύσκολο να αποτραπούν: δεν απαιτούν από το θύμα να πέσει σε κάποια ψηφιακή παγίδα.
Εκπρόσωπος της Tencent, της κινεζικής τεχνολογικής εταιρείας στην οποία ανήκει το WeChat, επιβεβαίωσε την αδυναμία ασφαλείας και ανέφερε ότι το ζήτημα διορθώθηκε αφού η εταιρεία ενημερώθηκε από την Calif. Η Tencent δήλωσε ότι δεν είχε κανέναν λόγο να πιστεύει πως η ευπάθεια έθεσε σε κίνδυνο την ασφάλεια ή επηρέασε χρήστες. Πρόσθεσε δε ότι δεν απαιτήθηκε καμία ενημέρωση της εφαρμογής από την πλευρά των πελατών.
Ωστόσο, η ανακάλυψη αναμένεται να τροφοδοτήσει περαιτέρω τις ανησυχίες ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης θα μπορούσαν σύντομα να οδηγήσουν σε ένα δυστοπικό μέλλον, το οποίο θα ανατρέψει θεμελιώδεις παραδοχές για την ψηφιακή ασφάλεια και, τουλάχιστον βραχυπρόθεσμα, θα προσφέρει σημαντικό πλεονέκτημα στους κακόβουλους χάκερ. Η Calif ανέφερε ότι αξιοποίησε συνδυασμό μοντέλων ΤΝ ανοικτού κώδικα και κορυφαίων μοντέλων από τις ΗΠΑ, χωρίς ωστόσο να διευκρινίσει ποια ακριβώς ήταν αυτά.
Τις τελευταίες εβδομάδες, η OpenAI και περισσότερες από 100 μεγάλες εταιρείες τεχνολογίας, μεταξύ των οποίων και η Calif, προειδοποίησαν με ανοικτή επιστολή ότι έρχεται κύμα κυβερνοεπιθέσεων με τη βοήθεια της τεχνητής νοημοσύνης και ότι οργανισμοί και κυβερνήσεις πρέπει να προετοιμαστούν. Η επιστολή ακολούθησε μια σειρά κυβερνοεπιθέσεων από μοντέλα τεχνητής νοημοσύνης, τα οποία, σε ορισμένες περιπτώσεις, φέρεται να βγήκαν από τα περιβάλλοντα δοκιμών τους και να επιτέθηκαν σε άλλες εταιρείες.
Ο Μπιλ Γκέιτς, δισεκατομμυριούχος συνιδρυτής της Microsoft, δήλωσε σε συνέντευξή του στους New York Times ότι η αντιμετώπιση αυτών των κινδύνων θα έπρεπε να αποτελεί «την κορυφαία προτεραιότητα του κόσμου».
«Έχουμε μπροστά μας μια μεγάλη πρόκληση», δήλωσε την περασμένη εβδομάδα ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, σε συνάντηση της G20 στη Βόρεια Καρολίνα. «Κάποια πράγματα θα πάνε πολύ στραβά στον τομέα της κυβερνοασφάλειας, εκτός αν κάποιοι δράσουν με μεγάλη αίσθηση επείγοντος» σημείωσε.
Στην επίθεση WeWorm, από τη στιγμή που παραβιαζόταν ένας λογαριασμός WeChat, ο χάκερ μπορούσε να διαβάζει και να στέλνει μηνύματα, να πραγματοποιεί κλήσεις και να ελέγχει τον λογαριασμό του θύματος. Τα υπολογιστικά «σκουλήκια» αξιοποιούν ευπάθειες λογισμικού που δεν απαιτούν από τον χρήστη να κάνει κλικ σε σύνδεσμο ή αρχείο, προκειμένου να εγκαθιστούν αυτομάτως τον κώδικά τους σε ένα δίκτυο ή στο διαδίκτυο. Έτσι μπορούν να εξαπλώνονται γρήγορα και εύκολα - στη συγκεκριμένη περίπτωση, μεταξύ λογαριασμών WeChat.
Σε συνδυασμό με άλλα κενά ασφαλείας, η πρόσβαση σε έναν λογαριασμό WeChat θα μπορούσε να επιτρέψει σε έναν επιτιθέμενο να παραβιάσει πλήρως το κινητό τηλέφωνο του θύματος, σύμφωνα με την Calif.
Το WeChat έχει περισσότερους από 1,4 δισεκατομμύρια ενεργούς χρήστες κάθε μήνα, όπως ανέφερε φέτος η εταιρεία σε ανάρτησή της, γεγονός που το καθιστά μία από τις πλέον χρησιμοποιούμενες εφαρμογές παγκοσμίως. Σχεδόν όλοι οι χρήστες του βρίσκονται στην Κίνα. Ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ αναμένεται να υποδεχθεί αυτόν τον μήνα τον Κινέζο ομόλογό του, Σι Τζινπίνγκ, και οι δύο άνδρες εκτιμάται ότι θα συζητήσουν για την τεχνητή νοημοσύνη.
Τεχνητή νοημοσύνη, άμυνα και το δίλημμα της κυβερνοασφάλειας
Η Calif ενημέρωσε αξιωματούχους του Λευκού Οίκου πριν δημοσιοποιήσει την αδυναμία ασφαλείας. Όταν ρωτήθηκε για την επίθεση, αξιωματούχος του Λευκού Οίκου επιβεβαίωσε την ενημέρωση, επισημαίνοντας ότι «η τεχνητή νοημοσύνη ανοίγει τον δρόμο για ταχύτερες και πιο προηγμένες επιθέσεις, ενώ παράλληλα ενισχύει δραστικά τις δυνατότητες των αμυνόμενων στον κυβερνοχώρο».
Σε σύντομη ερευνητική σύνοψη που δημοσιεύθηκε χθες, Τρίτη (8/9) και εξετάστηκε από τους New York Times, η Calif ανέφερε ότι η επίθεση εκμεταλλεύτηκε τον τρόπο με τον οποίο το WeChat εμπιστεύεται αριθμούς που έχουν αποθηκευτεί ως φίλοι από έναν λογαριασμό, επιτρέποντας στις παραβιάσεις να εξαπλώνονται γρήγορα από τηλέφωνο σε τηλέφωνο. Η επίθεση λειτουργεί εάν ο στοχοποιημένος χρήστης του WeChat απαντήσει στην κλήση ή την αφήσει να χτυπά, δήλωσε ο διευθύνων σύμβουλος της Calif. Μόνο η απόρριψη της κλήσης μέσα σε δευτερόλεπτα από την πρώτη δόνηση του τηλεφώνου θα απέτρεπε τη διείσδυση.
«Το WeChat, όπως πολλές εφαρμογές ανταλλαγής μηνυμάτων, παρέχει περισσότερα προνόμια στις έμπιστες επαφές», ανέφερε η σύνοψη. «Όμως, μόλις μία επαφή παραβιαστεί, αυτή η εμπιστοσύνη λειτουργεί εις βάρος σας».
Ο Βιν Νγκουγέν, πρώην επικεφαλής επιστήμονας δεδομένων της Εθνικής Υπηρεσίας Ασφαλείας των ΗΠΑ (NSA), ο οποίος εξέτασε την έρευνα της Calif πριν από τη δημοσίευσή της, δήλωσε ότι το «σκουλήκι» του WeChat ήταν μία από τις πιο ανησυχητικές και δυνητικά σοβαρές κυβερνοεπιθέσεις που είχε δει ποτέ.
Αν και στο παρελθόν έχουν εξαπολυθεί αυτοδιαδιδόμενα υπολογιστικά «σκουλήκια», ήταν συχνότερα πριν από δεκαετίες και δεν αφορούσαν λογισμικό για κινητές συσκευές.
Το «σκουλήκι» του WeChat προκαλεί ιδιαίτερη ανησυχία, επειδή θα μπορούσε να παραβιάζει γρήγορα λογαριασμούς και στη συνέχεια να εξαπλώνεται αυτόματα σε όλους τους αριθμούς που είναι αποθηκευμένοι στο βιβλίο διευθύνσεων κάθε λογαριασμού, με αποτέλεσμα να «πολλαπλασιάζεται εκθετικά», σύμφωνα με τον Νγκουγέν, ο οποίος σήμερα είναι ανώτερος συνεργάτης για την ΤΝ στο Council on Foreign Relations. «Μέσα σε λίγες ώρες, θα μπορούσε να φτάσει σε εκατοντάδες εκατομμύρια συσκευές».
Ο Ντουόνγκ και ο συνάδελφός του, Μπρους Ντανγκ, επισκέφθηκαν τα γραφεία της Tencent στο Πάλο Άλτο, επιδιώκοντας να συζητήσουν με εκπροσώπους της εταιρείας για ένα πρόβλημα που θεωρούσαν εξαιρετικά σοβαρό. Ωστόσο, δεν κατάφεραν να εντοπίσουν κάποιον αρμόδιο και έφυγαν αφού φωτογραφήθηκαν μπροστά από μια πινακίδα της Tencent.
Ελαττώματα όπως αυτό που εντόπισε η Calif είναι γνωστά ως «ευπάθειες μηδενικής ημέρας» (zero-day vulnerabilities), δηλαδή κενά ασφαλείας άγνωστα στους κατασκευαστές λογισμικού. Κάποτε θεωρούνταν τόσο σπάνια και ισχυρά, ώστε μπορούσαν να πωληθούν έναντι εκατομμυρίων δολαρίων στις μαύρες αγορές εργαλείων κυβερνοεπιθέσεων.
Ωστόσο, τα νέα μοντέλα τεχνητής νοημοσύνης φαίνεται ότι μπορούν να εντοπίζουν και να αξιοποιούν επιχειρησιακά ευπάθειες μηδενικής ημέρας και άλλα σφάλματα κώδικα, σε κλίμακα που υπερβαίνει κατά πολύ όσα θεωρούσαν μέχρι σήμερα εφικτά ερευνητές ασφαλείας και υπηρεσίες πληροφοριών, συμπεριλαμβανομένης της NSA.
Όταν το νέο μοντέλο Mythos της Anthropic ανακοινώθηκε τον Απρίλιο, η εταιρεία ανέφερε ότι είχε εντοπίσει χιλιάδες ευπάθειες μηδενικής ημέρας «σε κάθε σημαντικό λειτουργικό σύστημα και κάθε σημαντικό πρόγραμμα περιήγησης στο διαδίκτυο», συμπεριλαμβανομένων πολλών που παρέμεναν άγνωστες επί δεκαετίες.
Η εξέλιξη αυτή έχει οδηγήσει την Anthropic και άλλα εργαστήρια τεχνητής νοημοσύνης, όπως η OpenAI, να περιορίζουν αρχικά τη διάθεση των νεότερων και ισχυρότερων μοντέλων τους σε συγκεκριμένες εταιρείες και κυβερνητικές υπηρεσίες. Όπως υποστηρίζουν, αυτό μπορεί να δώσει στις μεγάλες εταιρείες τον χρόνο να διορθώσουν κρίσιμες αδυναμίες λογισμικού.
Η επίθεση στο WeChat είναι απλώς το πιο πρόσφατο εύρημα της Calif που έχει προκαλέσει εντύπωση. Τον Μάιο, η εταιρεία αποκάλυψε στη Wall Street Journal ότι είχε χρησιμοποιήσει μια πρώιμη εκδοχή του μοντέλου Mythos για να παρακάμψει πρωτόκολλα ασφαλείας στο λειτουργικό σύστημα macOS της Apple, το οποίο επί μακρόν θεωρούνταν ιδιαίτερα ασφαλές και δύσκολο να παραβιαστεί.
Από τότε που το Mythos και άλλα ισχυρά μοντέλα επικεντρωμένα στην κυβερνοασφάλεια, τα οποία αναπτύχθηκαν από ανταγωνιστικά εργαστήρια ΤΝ, διατέθηκαν σε επιλεγμένους οργανισμούς την άνοιξη, εταιρείες τεχνολογίας αναφέρουν πολύ περισσότερες σοβαρές ευπάθειες απ’ ό,τι συνήθως.
Στις περιπτώσεις της Apple και του WeChat, τα συστήματα τεχνητής νοημοσύνης δεν κατασκεύασαν τις επιθέσεις μόνα τους. Χρειάστηκε ο συνδυασμός των δυνατοτήτων τους με την ανθρώπινη εξειδίκευση στην κυβερνοασφάλεια, ώστε να εντοπιστούν και να αξιοποιηθούν οι αδυναμίες.
«Αυτές οι δεξιότητες προέκυψαν από χρόνια χειροκίνητης εργασίας», δήλωσε ο Ντουόνγκ. «Για να αξιοποιήσουμε την ευπάθεια και να κατασκευάσουμε ένα σκουλήκι, χρειάζεται επίσης να επιβλέπουμε στενά ολόκληρη τη διαδικασία».
Με πληροφορίες από New York Times
