Δικαστήριο στην Ολλανδία διέταξε την άμεση παύση ενός αυτόματου συστήματος παρακολούθησης, για τον εντοπισμό τυχόν απάτης με επιδόματα.
Το σύστημα αυτό παραβιάζει τα ανθρώπινα δικαιώματα, έκρινε το ολλανδικό δικαστήριο, σε μια υπόθεση με ιδιαίτερο ενδιαφέρον, καθώς η Ολλανδία δεν είναι η μόνη χώρα που έχει στραφεί στην τεχνητή νοημοσύνη προκειμένου να προλάβει τυχόν απάτες με επιδόματα.
Η απόφαση αφορούσε το σύστημα SyRI, το οποίο ανέπτυξε την τελευταία δεκαετία το υπουργείο Εργασίας και Κοινωνικών υποθέσεων της Ολλανδίας και προβλέπει την πιθανότητα κάποιος να διαπράξει απάτη με επιδόματα, φορολογική απάτη ή να παραβιάσει τη νομοθεσία για τα εργασιακά.
Το σύστημα συνδυάζει πληροφορίες που ήταν σε ξεχωριστές βάσεις δεδομένων και χρησιμοποιώντας αλγόριθμο εντοπίζει ποιοι είναι πιθανό να διαπράξουν απάτη με επιδόματα. Όμως, το 2018 οργανώσεις ανθρωπίνων δικαιωμάτων και πολίτες προσέφυγαν στα δικαστήρια κατά του SyRI. Το βασικό τους επιχείρημα ήταν πως το σύστημα βάζει στο στόχαστρο του πιο φτωχούς.
Την ίδια άποψη έχει και ο ειδικός εισηγητής του ΟΗΕ για την ακραία φτώχεια και τα ανθρώπινα δικαιώματα, Φίλιπ Άλστον, ο οποίος επικρότησε αυτή την απόφαση. Το συγκεκριμένο σύστημα έβαζε στο στόχαστρο γειτονιές της Ολλανδίας στις οποίες κατά κύριο λόγο ζουν άνθρωποι με χαμηλά εισοδήματα και μειονότητες. Μέσω του SyRI, αυτοί οι άνθρωποι κατασκοπεύονταν ψηφιακά, χωρίς χειροπιαστές αποδείξεις για κάποιο παράπτωμα, επεσήμανε ο αξιωματούχος του ΟΗΕ.
«Είναι ξεκάθαρη νίκη για όλους αυτούς που ανησυχούσαν δικαιολογημένα ότι αυτό το ψηφιακό σύστημα απειλεί σοβαρά τα ανθρώπινα δικαιώματα. Αυτή η απόφαση θέτει ισχυρό νομικό προηγούμενο για άλλα δικαστήρια. Είναι μία από τις πρώτες φορές που ένα δικαστήριο, οπουδήποτε, σταματά τη χρήση ψηφιακών τεχνολογιών και των άφθονων ψηφιακών πληροφοριών από τις υπηρεσίες πρόνοιας, επικαλούμενο τα ανθρώπινα δικαιώματα», τόνισε ο Φίλιπ Άλστον.
Το ολλανδικό δικαστήριο στην απόφασή του εξέφρασε ανησυχία για τις σημαντικές συνέπειες που έχει το SyRI για τα προσωπικά δεδομένα. Επισήμανε ότι το σύστημα δεν έχει επαρκείς δικλείδες ασφαλείας ενάντια στην παραβίαση της ιδιωτικότητας, ενώ το δικαστήριο έκανε λόγο για σοβαρή έλλειψη διαφάνειας για τη λειτουργία του συστήματος. Προειδοποίησε μάλιστα ότι αυτό κάνει διακρίσεις με βάση το κοινωνικο-οικονομικό ή μεταναστευτικό στάτους.
Με πληροφορίες από τον Guardian
