Πώς ένα συμβόλαιο με το Πεντάγωνο έφερε κρίση μέσα στην Google

Πώς ένα συμβόλαιο με το Πεντάγωνο έφερε κρίση μέσα στην Google Facebook Twitter
0

Η Google καταρτίζει μια σειρά νέων κατευθυντήριων γραμμών που θα κατευθύνουν τη συμμετοχή της στην ανάπτυξη εργαλείων Τεχνητής Νοημοσύνης για στρατιωτικούς σκοπούς.

Κανένας δεν γνωρίζει μέχρι στιγμής τι ακριβώς θα ορίζουν αυτές οι νέες κατευθυντήριες γραμμές, αλλά η Google τονίζει ότι θα συμπεριλαμβάνουν την απαγόρευση της χρήσης Τεχνητής Νοημοσύνης σε οπλικά συστήματα. Οι νέες αρχές αναμένεται να ανακοινωθούν πλήρως μέσα τις επόμενες εβδομάδες και αποτελούν μια απάντηση στη διαμάχη που έχει ξεκινήσει τους τελευταίους μήνες σχετικά με την απόφαση της εταιρείας να αναπτύξει εργαλεία AI για το Πεντάγωνο, τα οποία θα μπορούν να αναλύουν πλάνα επιτήρησης από drones.

Όπως αναφέρουν οι New York Times, ήδη από τον περασμένο Σεπτέμβριο η Fei-Fei Li, επικεφαλής του εργαστηρίου Tεχνητής Νοημοσύνης στο Πανεπιστήμιο Stanford και επικεφαλής επιστήμονας για την Τεχνητή Νοημοσύνη στο Google Cloud (μια από τις πιο ελπιδοφόρες επιχειρήσεις του γίγαντα της αναζήτησης), είχε συμβουλεύσει τα ανώτερα διοικητικά στελέχη της Google να αποφύγουν «με κάθε κόστος οποιαδήποτε αναφορά ή έμφαση στο ΑΙ σε στρατιωτικά προγράμματα». Σε ένα email που έστειλε προς τους συναδέλφους της στην Google τόνισε «H μετατροπή της Τεχνητής Νοημοσύνης σε όπλο είναι ίσως ένα από τα πιο ευαισθητοποιημένα θέματα του AI κλάδου - αν όχι το πιο σημαντικό. Αποτελεί ένα κόκκινο πανί για όλα τα μέσα ενημέρωσης που ψάχνουν να βρουν νέους τρόπους για να βλάψουν την Google».

 

Oι ανησυχίες της Li σχετικά με τις συνέπειες των στρατιωτικών συμβάσεων της Google και του Πενταγώνου αποδείχθηκαν προφητικές. Η σχέση της εταιρείας με το Υπουργείο Άμυνας, δεδομένου ότι κέρδισε μέρος της σύμβασης για το πρόγραμμα Maven, η οποία χρησιμοποιεί τεχνητή νοημοσύνη για την ανάλυση βίντεο εικόνων από drones, έχει δημιουργήσει μια άνευ προηγουμένου υπαρξιακή κρίση μέσα στην Google.


H εμπλοκή της Google στα σχέδια του Πενταγώνου έσπασε κυριολεκτικά το εργατικό δυναμικό της εταιρείας, τροφοδότησε αρκετές νευρικές συναντήσεις προσωπικού και εσωτερικές διαμάχες και ώθησε ορισμένους υπαλλήλους στην παραίτηση. Οι διαμάχες αυτές προκάλεσαν θλίψη σε ορισμένους ανώτερους αξιωματούχους της Google, συμπεριλαμβανομένης της Dr. Li, καθώς προσπαθούσαν να ξεπεράσουν το χάσμα μεταξύ επιστημόνων και πωλητών που ενδιαφέρονται αποκλειστικά για αυτά τα αμυντικά συμβόλαια.

Είναι γνωστό σε όλους, ότι το μοντέλο διαφήμισης πίσω από την εντυπωσιακή ανάπτυξη της Google έχει προκαλέσει μια έντονη κριτική σχετικά με την εισβολή της στο ιδιωτικό απόρρητο των χρηστών, ενώ συχνά υποστηρίζει αμφίβολες ιστοσελίδες, συμπεριλαμβανομένων κι εκείνων που εμπορεύονται ψευδείς ειδήσεις. Τώρα η πορεία της εταιρείας προς μια μελλοντική ανάπτυξη, μέσω υπηρεσιών cloud-computing, έχει μοιράσει την εταιρεία στα δύο, εξ αιτίας της στάσης της απέναντι στα μελλοντικά οπλικά συστήματα. Η συνέχιση μιας πορείας προς μεγάλες συμβάσεις στον τομέα της άμυνας θα μπορούσε να οδηγήσει όλους τους επιστήμονες της ΑΙ να φύγουν από την Google, στερώντας από την εταιρεία μια δυνητικά τεράστια επιχείρηση.

Η εσωτερική διαμάχη για το "Σχέδιο Maven", που θεωρήθηκε τόσο από τους υποστηρικτές όσο και από τους αντιπάλους ως το άνοιγμα της πόρτας σε πολύ μεγαλύτερες αμυντικές συμβάσεις, δημιούργησε μια αναφορά υπογεγραμμένη από περίπου 4.000 υπαλλήλους που ζήτησαν μια «σαφή πολιτική που θα δηλώνει ότι ούτε η Google ούτε οι εργολάβοι της θα κατασκευάσουν ποτέ τεχνολογία πολεμικών επιχειρήσεων».

 

Ωστόσο η Google δεν έχει κάνει μέχρι στιγμής καμία επίσημη ανακοίνωση και ένα κομμάτι της συνεχίζει να υπερασπίζεται την απόφαση της να συνεργαστεί με το Πεντάγωνο. Η εταιρεία λέει ότι η τεχνολογία της απλώς «επισημαίνει εικόνες για ανθρώπινη προεπισκόπηση» και προορίζεται για «μη καταστροφικές χρήσεις μόνο». Η σύμβαση είναι επίσης μικρή κατά τα βιομηχανικά πρότυπα - αξίας μόλις 9 εκατομμυρίων δολαρίων για την Google, σύμφωνα με τους New York Times.

Αλλά αυτό το πρόσθετο πλαίσιο δεν έπαψε να απασχολεί τους υπαλλήλους της με πολλούς να υποστηρίζουν τα πλεονεκτήματα και τα μειονεκτήματα της στρατιωτικής AI σε συναντήσεις και σε εσωτερικούς πίνακες μηνυμάτων. Πολλοί εξέχοντες ερευνητές της εταιρείας έχουν ήδη τονίσει τη θέση τους ενάντια στη χρήση όπλων Τεχνητής Νοημοσύνης. Ο Jeff Dean, ο οποίος είναι επικεφαλής της AI στην Google, δήλωσε αυτό το μήνα ότι είχε υπογράψει μια επιστολή από το 2015 αντίθετη προς την ανάπτυξη αυτόνομων όπλων. Τα κορυφαία στελέχη της DeepMind, θυγατρικής AI της Google που εδρεύει στο Λονδίνο, υπέγραψαν παρόμοια αναφορά και την έστειλαν στα Ηνωμένα Έθνη το περασμένο έτος.

Αλλά το ερώτημα που αντιμετωπίζουν  οι εργαζόμενοι (και η ίδια η Google) είναι: πού ορίζεται τελικά η γραμμή; Μπορεί μια μηχανική μάθηση που αναλύει αρχεία παρακολούθησης για στρατιωτικές επιχειρήσεις να καταχωρηθεί ως «όπλο Τεχνητής Νοημοσύνης»; Πιθανότατα όχι. Τι γίνεται, όμως, εάν αυτές οι αναλύσεις ενημερώνουν τις μελλοντικές αποφάσεις σχετικά με τις επιθέσεις των drones; Θα έχει σημασία ίσως τότε; Και πώς θα μπορούσε η Google να μάθει αν αυτό συνέβη χάρη στη δική της τεχνολογία;

Δύσκολες ερωτήσεις, αδύνατον να απαντηθούν έτσι ώστε να τους ικανοποιήσουν όλους. Και στη δέσμευση ενός τεχνολογικού γίγαντα για τον ορισμό των κατευθυντήριων γραμμών της πορείας του στο μέλλον, η Google, απ' ότι φαίνεται, έχει μπροστά της ένα πολύ δύσκολο έργο.

Τech & Science
0

ΣΧΕΤΙΚΑ ΑΡΘΡΑ

ΔΕΙΤΕ ΑΚΟΜΑ

Αρχαία ποτάμια στον Άρη: Το παρελθόν του «κόκκινου πλανήτη» είναι πιο υγρό από ό,τι πιστεύαμε

Τech & Science / Αρχαία ποτάμια στον Άρη: Το παρελθόν του «κόκκινου πλανήτη» είναι πιο υγρό από ό,τι πιστεύαμε

Νέα ευρήματα αποκαλύπτουν χιλιάδες χιλιόμετρα αρχαίων ποταμιών στα νότια υψίπεδα του Άρη, ενισχύοντας τη θεωρία ότι ο πλανήτης ήταν κάποτε πολύ πιο υγρός απ’ ό,τι πιστεύαμε
LIFO NEWSROOM
Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Τech & Science / Ανακαλύφθηκε νέο ιπτάμενο ερπετό που πετούσε πάνω από τους δεινόσαυρους πριν 200 εκατ. χρόνια

Το απολίθωμα, μια γνάθος που διατηρήθηκε σε εξαιρετική κατάσταση, αναλύθηκε με σύγχρονες τεχνικές σάρωσης, αποκαλύπτοντας χαρακτηριστικά που το κατατάσσουν σε ένα άγνωστο έως τώρα είδος
LIFO NEWSROOM
Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Τech & Science / Επαναφορά ακοής με μία ένεση: Επαναστατική γονιδιακή θεραπεία αποκαθιστά την ακοή σε παιδιά και ενήλικες

Εντυπωσιακά αποτελέσματα μέσα σε λίγες εβδομάδες από νέα θεραπεία που στοχεύει το γονίδιο OTOF – Παιδιά απέκτησαν ξανά την αίσθηση της ακοής, με μία επταετή να συνομιλεί κανονικά με τη μητέρα της τέσσερις μήνες μετά
LIFO NEWSROOM
Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Τech & Science / Ελικοβακτηρίδιο: Κοινό βακτήριο που βρίσκεται στο στομάχι μπορεί να προκαλέσει καρκίνο σε τουλάχιστον 12 εκατ. ανθρώπους

Οι περισσότεροι μολύνονται με το βακτήριο όταν είναι παιδιά και μπορεί να το έχουν για χρόνια χωρίς να το ξέρουν, γιατί συνήθως δεν έχει συμπτώματα
LIFO NEWSROOM
Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Τech & Science / Πώς να αναγνωρίσετε αν έχετε «έλλειμμα ντοπαμίνης» – και τι να κάνετε για να το επαναφέρετε σε ισορροπία

Σε έναν κόσμο γεμάτο υπερδιέγερση από μέσα κοινωνικής δικτύωσης, υπερεπεξεργασμένες τροφές και ψηφιακές απολαύσεις, ο εγκέφαλος κατακλύζεται από τεχνητές εξάρσεις ντοπαμίνης
LIFO NEWSROOM
«Απλά... ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Τech & Science / «Απλά. Ουάου»: Σπάνιο ηλεκτρικό φαινόμενο απαθανατίστηκε από αστροναύτη της NASA

Η εικόνα δείχνει ένα σπάνιο ατμοσφαιρικό φαινόμενο που είναι δύσκολο να εντοπιστεί από το έδαφος αλλά γίνεται πιο ορατό από το διάστημα, σε ύψος περίπου 400 χιλιομέτρων από τη Γη
LIFO NEWSROOM