Ο Φόλκερ Τουρκ άνοιξε τη νέα σύνοδο του Συμβουλίου Ανθρωπίνων Δικαιωμάτων του ΟΗΕ στη Γενεύη με μια από τις πιο αιχμηρές θεσμικές προειδοποιήσεις που έχουν διατυπωθεί μέχρι τώρα για την τεχνητή νοημοσύνη. Δεν έμεινε στη γνώριμη συζήτηση για το αν η AI μπορεί κάποτε να απειλήσει την ανθρωπότητα. Έβαλε στο κέντρο το ερώτημα της εξουσίας: ποιοι ελέγχουν τα μοντέλα, την υπολογιστική ισχύ και τα δεδομένα πάνω στα οποία οργανώνεται όλο και μεγαλύτερο μέρος της δημόσιας ζωής.
«Μια χούφτα άνδρες έχουν σχεδόν απεριόριστη εξουσία πάνω στην AI», είπε ο Ύπατος Αρμοστής, μιλώντας τη Δευτέρα στη Γενεύη. Πρόσθεσε ότι οι ίδιες δυνάμεις επικαλούνται συχνά την «ελευθερία», αλλά, αν κοιτάξει κανείς πιο προσεκτικά, αυτή η ελευθερία καταλήγει να σημαίνει κάτι πολύ πιο στενό: την ελευθερία να εκμεταλλεύονται τα δεδομένα μας.
Αυτό είναι και το σημείο που κάνει την παρέμβασή του να ξεχωρίζει από τις συνηθισμένες προειδοποιήσεις για την τεχνητή νοημοσύνη. Ο Τουρκ μίλησε και για πιθανό «υπαρξιακό ρίσκο» από την προηγμένη AI, υιοθετώντας ανησυχίες που έχουν διατυπωθεί και μέσα στον ίδιο τον κλάδο. Όμως το πιο πολιτικό βάρος της ομιλίας του βρίσκεται αλλού: στη μετατόπιση από τον φόβο μιας μελλοντικής καταστροφής στη σημερινή συγκέντρωση τεχνολογικής ισχύος.
Ο Ύπατος Αρμοστής ζήτησε ισχυρές εγγυήσεις για την ασφάλεια της AI πριν να είναι πολύ αργά. Κάλεσε τις χώρες που φιλοξενούν εταιρείες τεχνητής νοημοσύνης, αλλά και όσες συμμετέχουν στις εφοδιαστικές αλυσίδες της τεχνολογίας, να συμφωνήσουν σε κοινές κόκκινες γραμμές. Ζήτησε επίσης ανεξάρτητη επαλήθευση και πολύ στενότερη συνεργασία μέσα στη βιομηχανία για θέματα ασφάλειας. Είπε ακόμη ότι τις επόμενες ημέρες θα απευθυνθεί γραπτώς στις εταιρείες AI, καλώντας τες να λάβουν άμεσα μέτρα για τη μείωση των κινδύνων.
Το σημείο που αφορά άμεσα τους χρήστες δεν είναι αφηρημένο. Η τεχνητή νοημοσύνη δεν εκπαιδεύεται στο κενό· χρειάζεται τεράστιες ποσότητες δεδομένων: κείμενα, εικόνες, αρχεία, συμπεριφορές, ίχνη χρήσης και ψηφιακές συνήθειες. Γι’ αυτό και η προειδοποίηση του Τουρκ συνδέει την AI με την εργασία, τη δημοκρατία, το περιβάλλον και τα ανθρώπινα δικαιώματα. Το ερώτημα δεν είναι μόνο τι μπορούν να κάνουν τα μοντέλα, αλλά ποιος έχει το δικαίωμα να μετατρέπει τον κόσμο των άλλων σε πρώτη ύλη για εμπορικά συστήματα.
Η παρέμβαση έγινε στην έναρξη της 63ης Συνόδου του Συμβουλίου Ανθρωπίνων Δικαιωμάτων, σε μια στιγμή όπου η διεθνής συζήτηση για την AI έχει περάσει από τον αρχικό ενθουσιασμό σε μια πολύ πιο σκληρή φάση: δικαστικές μάχες για υλικό που προστατεύεται από πνευματικά δικαιώματα, ανησυχίες για την αυτονομία των συστημάτων, ενεργειακό κόστος των data centers και αυξανόμενη πολιτική πίεση για κανόνες. Η προειδοποίηση του ΟΗΕ δεν λέει απλώς ότι η τεχνητή νοημοσύνη μπορεί να γίνει επικίνδυνη. Λέει ότι η εξουσία γύρω από αυτήν είναι ήδη επικίνδυνα άνιση.
Με στοιχεία από Guardian
