Το Astra είναι το πρώτο μοντέλο της OpenAI που ενεργοποίησε τα αυστηρότερα μέτρα ασφαλείας που προβλέπει το πρωτόκολλο της εταιρείας.
Η OpenAI ανακοίνωσε ότι ένα από τα επερχόμενα μοντέλα Τεχνητής Νοημοσύνης που έχει αναπτύξει είναι τόσο ισχυρό, ώστε απαιτούνται πρόσθετα μέτρα ασφαλείας πριν από τη διάθεσή του στο κοινό.
Το μοντέλο, με την ονομασία Astra, μπορεί να εντοπίζει περισσότερα κενά ασφαλείας από οποιοδήποτε προηγμένο μοντέλο της OpenAI είναι σήμερα δημόσια διαθέσιμο, όπως ανέφεραν στελέχη της εταιρείας σε ενημέρωση δημοσιογράφων την Τρίτη. Παράλληλα, το Astra χρειάζεται σημαντικά λιγότερη υπολογιστική ισχύ για να εκτελεί αυτές τις εργασίες.
«Με τα κατάλληλα εργαλεία και την απαραίτητη πρόσβαση, το Astra μπορεί να εντοπίζει άγνωστες μέχρι σήμερα αδυναμίες ασφαλείας και να αναπτύσσει τρόπους εκμετάλλευσής τους σε πολλά καλά προστατευμένα συστήματα, χωρίς να απαιτείται ένας άνθρωπος να καθοδηγεί κάθε βήμα της διαδικασίας», δήλωσε η Amelia Glaese, αντιπρόεδρος της OpenAI και υπεύθυνη για θέματα ασφάλειας.
OpenAI: Το Astra είναι το πρώτο μοντέλο της που ενεργοποίησε τα αυστηρότερα μέτρα ασφαλείας του πρωτοκόλλου της εταιρείας
Η εταιρεία σχεδιάζει να διαθέσει το Astra «σύντομα» σε περιορισμένο αριθμό χρηστών. Η Glaese σημείωσε ότι τα πρόσθετα μέτρα ασφαλείας ενδέχεται «σε ορισμένες περιπτώσεις να επιβραδύνουν, να διακόπτουν προσωρινά ή ακόμη και να εμποδίζουν νόμιμες εργασίες», προσθέτοντας ότι η OpenAI θα προσπαθήσει να περιορίσει όσο το δυνατόν περισσότερο αυτές τις επιπτώσεις.
Το Astra είναι το πρώτο μοντέλο της OpenAI που ενεργοποίησε τα αυστηρότερα μέτρα ασφαλείας που προβλέπει το πρωτόκολλο της εταιρείας, ένα όριο που μέχρι σήμερα παρέμενε μόνο θεωρητικό. Η ανακοίνωση έρχεται σε μια περίοδο κατά την οποία η OpenAI βρίσκεται αντιμέτωπη με αυξημένο έλεγχο σχετικά με την ικανότητά της να διαχειρίζεται ολοένα και ισχυρότερα συστήματα Τεχνητής Νοημοσύνης.
Με πληροφορίες από Reuters
