LIVE!

Κορυφαίος ειδικός ασφάλειας AI παραιτείται και δηλώνει ότι «ο κόσμος βρίσκεται σε κίνδυνο»

AI ANTHROPIC ΤΕΧΝΗΤΗ ΝΟΥΜΟΣΗΝΗ Facebook Twitter
Φωτ: Getty Images
0

Ο Μρινάνκ Σάρμα, επικεφαλής ομάδας που δούλευε σε δικλίδες ασφαλείας για τα συστήματα τεχνητής νοημοσύνης της Anthropic, της αμερικανικής εταιρείας πίσω από το chatbot Claude, ανακοίνωσε την παραίτησή του με επιστολή που δημοσίευσε στο X, γράφοντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».

Στο κείμενό του επικαλέστηκε ανησυχίες για την τεχνητή νοημοσύνη, τους κινδύνους από τα βιολογικά όπλα και μια ευρύτερη εικόνα αλληλένδετων κρίσεων. Η Anthropic παρουσιάζει τη δουλειά της ως προσανατολισμένη στην ασφάλεια των πιο προηγμένων συστημάτων AI.

Παρότι δήλωσε ότι απόλαυσε τη δουλειά του, σημείωσε ότι έχει έρθει η στιγμή να αποχωρήσει. Εγραψε ότι οι κρίσεις που εξελίσσονται διεθνώς είναι αλληλένδετες και δεν περιορίζονται μόνο στην τεχνητή νοημοσύνη. Πρόσθεσε ότι θα επιστρέψει στο Ηνωμένο Βασίλειο για να σπουδάσει ποίηση και να αφοσιωθεί στη συγγραφή, λέγοντας πως σκοπεύει να «γίνει αόρατος» για ένα διάστημα.

Η αποχώρησή του έρχεται την ίδια εβδομάδα που και άλλη ερευνήτρια, η Ζόι Χίτζιγκ, ανακοίνωσε ότι παραιτήθηκε από την OpenAI, εκφράζοντας επιφυλάξεις για την απόφαση της εταιρείας να ενσωματώσει διαφημίσεις στο ChatGPT. Σε άρθρο της στους New York Times υποστήριξε ότι οι συνομιλίες των χρηστών με chatbots περιλαμβάνουν ευαίσθητα προσωπικά δεδομένα, από ιατρικούς φόβους μέχρι θρησκευτικές πεποιθήσεις, και ότι η αξιοποίησή τους για διαφημιστικούς σκοπούς ενέχει κίνδυνο χειραγώγησης.

Η Anthropic ιδρύθηκε το 2021 από πρώην στελέχη της OpenAI και αυτοπροσδιορίζεται ως εταιρεία δημόσιου οφέλους με στόχο να μεγιστοποιεί τα οφέλη της τεχνητής νοημοσύνης και να περιορίζει τους κινδύνους της. Έχει δημοσιεύσει αναφορές για την ασφάλεια των δικών της συστημάτων, μεταξύ άλλων όταν αποκάλυψε ότι η τεχνολογία της χρησιμοποιήθηκε από χάκερ σε σύνθετες κυβερνοεπιθέσεις.

Παράλληλα, έχει δεχθεί κριτική για πρακτικές της. Το 2025 συμφώνησε να καταβάλει 1,5 δισ. δολάρια για τον εξωδικαστικό συμβιβασμό ομαδικής αγωγής από συγγραφείς που υποστήριξαν ότι τα έργα τους χρησιμοποιήθηκαν χωρίς άδεια για την εκπαίδευση μοντέλων AI.

Η εταιρεία έχει επίσης επιτεθεί δημόσια στην OpenAI για την επιλογή της να εισαγάγει διαφημίσεις στο ChatGPT, με σχετική διαφημιστική καμπάνια. Ο επικεφαλής της OpenAI, Σαμ Αλτμαν, είχε δηλώσει στο παρελθόν ότι απεχθάνεται τις διαφημίσεις και θα τις χρησιμοποιούσε μόνο ως έσχατη λύση. Μετά τις επικρίσεις, απάντησε δημόσια, προκαλώντας και ειρωνικά σχόλια για το ύφος της ανάρτησής του.

Με πληροφορίες από BBC

Τech & Science
0

LIVE!

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

Πόσο «ανθρώπινη» μπορεί να είναι η τεχνητή νοημοσύνη;

Good Business Directory 6 / Πόσο «ανθρώπινη» μπορεί να είναι η τεχνητή νοημοσύνη;

Η Γιάννα Ανδρονοπούλου, διευθύνουσα σύμβουλος της Microsoft Ελλάδας, Κύπρου και Μάλτας, πιστεύει πως η τεχνητή νοημοσύνη μάς βοηθά να ενισχύουμε ό,τι είναι δημιουργικό και να παίρνουμε αποφάσεις με καλύτερα δεδομένα.
ΘΟΔΩΡΗΣ ΒΑΜΒΑΚΑΡΗΣ
ΕΠΕΞ Πώς η τεχνητή νοημοσύνη βοήθησε στην ταυτοποίηση ενός Ναζί εκτελεστή

Αρχαιολογία & Ιστορία / Πώς η τεχνητή νοημοσύνη βοήθησε στην ταυτοποίηση ενός ναζί εκτελεστή

Μετά από έξι δεκαετίες, ο Γερμανός ιστορικός Γιούργκεν Ματέους κατάφερε να αποκαλύψει την ταυτότητα του αξιωματικού των SS που εκτελεί εν ψυχρώ έναν Εβραίο σε μία από τις πιο ανατριχιαστικές εικόνες του Ολοκαυτώματος.
THE LIFO TEAM

ΔΕΙΤΕ ΑΚΟΜΑ

Ο Ben Affleck ίδρυσε αθόρυβα εταιρεία ΑΙ για σκηνοθέτες και μόλις την αγόρασε το Netflix

Τech & Science / Ο Ben Affleck ίδρυσε αθόρυβα εταιρεία ΑΙ για σκηνοθέτες και μόλις την αγόρασε το Netflix

Το Netflix αγόρασε την εταιρεία ΑΙ που είχε ιδρύσει ο Μπεν Άφλεκ για σκηνοθέτες, φέρνοντας την τεχνητή νοημοσύνη από τη θεωρία κατευθείαν στο εσωτερικό της κινηματογραφικής παραγωγής.
THE LIFO TEAM
ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΠΟΛΕΜΟΣ ΗΠΑ ANTHROPIC

Τech & Science / Anthropic και Πεντάγωνο ξανά σε διαπραγματεύσεις για τη χρήση Τεχνητής Νοημοσύνης από τον στρατό

Προ ολίγων ημερών η εταιρεία ήλθε σε ρήξη με την κυβέρνηση Τραμπ - Απαίτησε διαβεβαιώσεις ότι τα AI μοντέλα της δεν θα χρησιμοποιηθούν για «μαζική επιτήρηση Αμερικανών πολιτών» ή «ανάπτυξη αυτόνομων οπλικών συστημάτων»
THE LIFO TEAM
Η τεχνητή νοημοσύνη αποκτά… φιλόσοφο

Τech & Science / Anthropic: Η τεχνητή νοημοσύνη αποκτά… φιλόσοφο

Η εταιρεία τεχνητής νοημοσύνης Anthropic έχει αναθέσει σε φιλόσοφο τη διαμόρφωση του ηθικού πλαισίου του chatbot Claude, δημιουργώντας ένα εσωτερικό «σύνταγμα» 30.000 λέξεων που καθοδηγεί τον τρόπο με τον οποίο το σύστημα απαντά σε σύνθετα ηθικά ζητήματα.
THE LIFO TEAM
OPENAI ΣΑΜ ΑΛΤΜΑΝ ΗΠΑ ΠΕΝΤΑΓΩΝΟ

Τech & Science / OpenAI τροποποιεί τη συμφωνία με το Πεντάγωνο μετά τις αντιδράσεις – «Έμοιαζε ευκαιριακή και πρόχειρη», λέει ο Σαμ Άλτμαν

Περίπου 900 εργαζόμενοι των OpenAI και Google κάλεσαν, μέσω ανοιχτής επιστολής, τις διοικήσεις των εταιρειών να απορρίψουν οποιαδήποτε συνεργασία που θα οδηγούσε σε μαζική παρακολούθηση ή σε αυτόνομα οπλικά συστήματα χωρίς ανθρώπινο έλεγχο
THE LIFO TEAM