Ένα πρόγραμμα τεχνητής νοημοσύνης της Meta, έδωσε οδηγία σε έναν μηχανικό να ακολουθήσει ενέργειες που οδήγησαν στην προσωρινή έκθεση μεγάλου όγκου ευαίσθητων δεδομένων της εταιρείας και των χρηστών σε κάποιους από τους εργαζόμενους, σε ένα ακόμα περιστατικό που δείχνει πώς η AI μπορεί να προκαλέσει αναταράξεις σε μεγάλες τεχνολογικές εταιρείες.
Η διαρροή, που επιβεβαίωσε η Meta, σημειώθηκε όταν ένας εργαζόμενος ζήτησε καθοδήγηση για ένα τεχνικό ζήτημα σε ένα εσωτερικό forum της εταιρείας.
Ο AI agent έδωσε λύση, την οποία εφάρμοσε ο εργαζόμενος, με αποτέλεσμα τα ευαίσθητα δεδομένα χρηστών και εταιρείας να γίνουν ορατά στους μηχανικούς για περίπου δύο ώρες.
«Δεν υπήρξε κακή διαχείριση δεδομένων χρηστών», δήλωσε εκπρόσωπος της Meta, υπογραμμίζοντας ότι και ένας άνθρωπος θα μπορούσε να δώσει λανθασμένη οδηγία.
Το περιστατικό προκάλεσε έντονη εσωτερική ειδοποίηση ασφαλείας στην εταιρεία, δείχνοντας πόσο σοβαρά αντιμετωπίζει η Meta την προστασία των δεδομένων.
Meta: Οι κίνδυνοι της AI σε μεγάλες εταιρείες
Το περιστατικό αυτό είναι ένα από τα πολλά πρόσφατα παραδείγματα προβλημάτων που προκύπτουν από τη χρήση AI agents σε αμερικανικές τεχνολογικές εταιρείες.
Τον προηγούμενο μήνα, η Financial Times ανέφερε ότι η Amazon αντιμετώπισε τουλάχιστον δύο βλάβες που σχετίζονταν με την ανάπτυξη εσωτερικών εργαλείων AI.
Σύμφωνα με εργαζόμενους της Amazon, η βιαστική προσπάθεια ενσωμάτωσης της AI σε όλες τις πτυχές της εργασίας οδήγησε σε εμφανή λάθη, πρόχειρο κώδικα και μειωμένη παραγωγικότητα. Η τεχνολογία που χρησιμοποιείται, η λεγόμενη “agentic AI”, εξελίσσεται ταχύτατα και έχει προκαλέσει ήδη σημαντικές ανησυχίες για την ασφάλεια και την αποτελεσματικότητα των διαδικασιών.
Ειδικοί επισημαίνουν ότι η AI κάνει λάθη που οι άνθρωποι συνήθως δεν κάνουν, γιατί δεν κατανοεί πλήρως το πλαίσιο και τις συνέπειες των ενεργειών της.
Ένας έμπειρος μηχανικός γνωρίζει τις προτεραιότητες, τους κινδύνους και τις συνέπειες των ενεργειών του, ενώ ένας AI agent λειτουργεί μόνο μέσα στο «μικρό παράθυρο» πληροφορίας που του δίνεται, το οποίο μπορεί να λήξει ή να αλλοιωθεί.
Με πληροφορίες από Guardian
