Απαιτούμε να σταματήσει η χρήση τεχνολογιών μαζικής βιομετρικής παρακολούθησης από αρχές επιβολής του νόμου σε δημόσιους χώρους

Σήμερα, 120 οργανώσεις της Κοινωνίας των Πολιτών και 60 ακαδημαϊκοί, επιστήμονες και άλλοι ειδικοί σε ζητήματα νέων τεχνολογιών ενώνουν τις φωνές τους προκειμένου να σταματήσει η χρήση τεχνολογιών μαζικής βιομετρικής παρακολούθησης από αρχές επιβολής του νόμου σε δημόσιους χώρους.

Είναι μεγάλη τιμή για τη Homo Digitalis να συμμετέχει σε αυτή την πρωτοβουλία. Ήδη από το 2020 με την European Digital Rights συμμετέχουμε στην εκστρατεία #ReclaimYourFace, στο πλαίσιο της οποίας περισσότεροι από 250.000 άνθρωποι σε όλη την ΕΕ υπέγραψαν το αίτημά μας για την απαγόρευση των εν λόγω πρακτικών.

Μπορείτε να διαβάσετε τη κοινή ανακοίνωση εδώ.

 


Εκφράζουμε τις ανησυχίες μας για το Άρθρο 6 της προτεινόμενης νομοθεσίας για την Τεχνητή Νοημοσύνη

Καθώς η Ευρωπαϊκή Ένωση εισέρχεται στο τελικό στάδιο των τριμερών διαπραγματεύσεων για την προτεινόμενη νομοθεσία για την Τεχνητή Νοημοσύνη, περισσότερες από 150 οργανώσεις της κοινωνίας των πολιτών, συμπεριλαμβανομένης της Homo Digitalis, ανησυχούν για ένα σημαντικό παραθυράκι αναφορικά με τη διαδικασία ταξινόμησης συστημάτων υψηλού κινδύνου στο Άρθρο 6!

Οι μεγάλες εταιρίες τεχνολογίας κατάφεραν να πείσουν το Ευρωπαϊκό Κοινοβούλιο και το Συμβούλιο να υιοθετήσουν προτεινόμενες διατάξεις που ουσιαστικά τις αφήνουν να αποφασίζουν οι ίδιες αν το σύστημα που αναπτύσσουν θα πρέπει να θεωρείται “υψηλού κινδύνου” ή όχι!

Διάβασε τη κοινή μας δήλωση για να μάθεις περισσότερα για τις προκλήσεις που ανακύπτουν εδώ.

 


Συμμετοχή μας στην τρίτη ολομέλεια της CAI στο Στρασβούργο

Στις 11-13 Ιανουαρίου η Homo Digitalis βρισκόταν στο Στρασβούργο για να δώσει το παρόν στην Τρίτη Ολομέλεια της Επιτροπής Τεχνητής Νοημοσύνης του Συμβουλίου της Ευρώπης (CAI), ως Μέλος Παρατηρητής.
H CAI προετοιμάζει ένα Σχέδιο Σύμβασης, το οποίο θα αποτελέσει την πρώτη διεθνή συνθήκη για την ανάπτυξη, τον σχεδιασμό και τη χρήση συστημάτων Τεχνητής Νοημοσύνης. Ο κύκλος εργασιών της αναμένεται να ολοκληρωθεί τον Νοέμβριο του 2023.
Η οργάνωση μας συμμετέχει σε σχετικες διεργασίες σε επίπεδο Συμβουλίου της Ευρώπης ήδη από το 2020, επιδιώκοντας με τις τοποθετήσεις της την προάσπιση των δικαιωμάτων και των ελευθεριών στο πλαίσιο των σχετικών διαπραγματεύσεων. Εκπρόσωπος μας στην ολομέλεια ήταν ο Γραμματέας του ΔΣ μας, Λευτέρης Χελιουδάκης
Μπορείτε να μάθετε περισσότερα για την CAI εδώ.

 


Συμμετοχή της Homo Digitalis σε διαδικτυακή συζήτηση για την AI Act που διοργανώνει η Citizen D

Διαδικτυακή συζήτηση την Τρίτη 17 Ιανουαρίου στις 15:00-16:30 από την Citizen D.
Η παρείσφρηση της Τεχνητής Νοημοσύνης στην οργάνωση της ζωής σήμερα μας κάνει να αναρωτιόμαστε αν πράγματι χρειάζεται η θέσπιση ενός παγκόσμιου ρυθμιστικού πλαισίου και πώς αυτό θα μπορούσε να διαμορφωθεί!
Το μέλος μας Χρυσή Σακελλάρη και η Ana Martinović από το Share Foundation επιχειρούν να απαντήσουν σε αυτό το ερώτημα στις 17 Ιανουαρίου. Mπορείτε να κάνετε εγγραφή εδώ.

 


Η CAHAI του ΣτΕ υιοθετεί μελέτη σκοπιμότητας ενός νομικού πλαισίου για τη Τεχνητή Νοημοσύνη

Την περασμένη εβδομάδα, η διαρκής επιτροπή Τεχνητής Νοημοσύνης του Συμβουλίου της Ευρώπης (CAHAI) υιοθέτησε στην τελευταία συνεδρίαση της ολομέλειας της για το 2020 τη Μελέτη σκοπιμότητας ενός νομικού πλαισίου για τη Τεχνητή Νοημοσύνη.

Το συνιδρυτικό μας μέλος και γραμματέας του Δ.Σ. μας, Λευτέρης Χελιουδάκης, εκπροσώπησε τη Homo Digitalis κατά την τριήμερη σύνοδο της Ολομέλειας (15-17 Δεκέμβρη), ενώ επίσης ως μέλος του Policy Development Group (PDG), συμμετείχε ενεργά στη συγγραφή της σχετικής μελέτης τους τελευταίους 4 μήνες.

Στις αρχές του 2021 η μελέτη θα παρουσιαστεί επίσημα στην Επιτροπή Υπουργών του Συμβουλίου της Ευρώπης. Επίσης, αναμένεται και η έναρξη των εργασιών του Legal Framework Group (LFG), το οποίο θα αναλάβει τη δημιουργία συγκεκριμένων νομικών προτάσεων προς υιοθέτηση. H Homo Digitalis συμμετέχει ως μέλος και σε αυτή την ομάδα εργασίας.

Θα έχουμε στο μέλλον μία Σύμβαση του Συμβουλίου της Ευρώπης για τη Τεχνητή Νοημοσύνη; Κανείς δεν ξέρει ακόμη, αλλά το Συμβούλιο της Ευρώπης δείχνει ότι μελετά προσεκτικά και την επιλογή αυτή, σε αντίθεση με άλλους φορείς που εμμένουν στην υιοθέτηση ηθικών κατευθυντήριων γραμμών χωρίς νομικό έρεισμα.

Eίμαστε πολύ χαρούμενοι που αρκετές από τις προτάσεις μας υιοθετήθηκαν και βρίσκονται στο τελικό κείμενο της Μελέτης.

Μπορείτε να διαβάσετε περισσότερα για τη Μελέτη και τις εργασίες της CAHAI στην επίσημη ιστοσελίδα του Συμβουλίου της Ευρώπης.


Ψηφιακή αναγνώριση προσώπου: μια διεθνής χαρτογράφηση

Γράφει ο Νικόδημος Καλλιντέρης*

Ας σκεφτούμε το εξής σενάριο:

περιδιαβαίνοντας μια καθημερινή ειρηνική ημέρα τον αστικό ιστό, αστυνομικές αρχές που είναι τοποθετημένες ανά οικοδομικό τετράγωνο μας ζητούν επιτακτικά την επίδειξη του δελτίου ταυτότητάς μας για την εξακρίβωση των στοιχείων μας, προκειμένου να έχουμε την δυνατότητα να κινηθούμε μέσα στην πόλη. Ανά λίγες δεκάδες μέτρα διενεργείται έλεγχος… 

Αναμφίβολα μια τέτοια τακτική θα εξέγειρε εκτεταμένες (και δικαίως) αντιδράσεις από ενώσεις πολιτών και ακτιβιστές που προασπίζονται τα ανθρώπινα δικαιώματα και τις ελευθερίες, ενώ ίσως θα προκαλoύσε οξύτατη πολιτικοϊδεολογική αντιπαράθεση με κύριο διακύβευμα τα περί «αστυνομικού κράτους», «κράτους πρόληψης», «κράτους ασφάλειας».

Τι θα λέγαμε, όμως, αν διαπιστώναμε ότι ακριβώς το ίδιο συμβαίνει πολύ πιο αθόρυβα, αόρατα και εξ αποστάσεως, μακράν πιο αποτελεσματικά και με άπειρες μη αντιληπτές εν πρώτοις επιπτώσεις για την ελευθερία του προσώπου;

Ο λόγος περί της ψηφιακής αναγνώρισης προσώπου (facial recognition), μιας τεχνολογίας, που ναι μεν ξεκίνησε πειραματικά από την δεκαετία του ’60, πλην όμως τα τελευταία δέκα περίπου χρόνια έχει διεισδύσει σε πάμπολες πτυχές των καθημερινών μας δραστηριοτήτων: από το ξεκλείδωμα του υπολογιστή και του «έξυπνου» τηλεφώνου μας, τα μέσα κοινωνικής δικτύωσης και την εύρεση αγνοουμένων προσώπων έως τον έλεγχο κατά την είσοδο στον εργασιακό χώρο, την αστυνόμευση σε αεροδρόμια και λοιπούς δημοσίους χώρους και την πρόσβαση στον τραπεζικό μας λογαριασμό.

Η λειτουργία αυτής της ψηφιακής τεχνολογίας έχει να κάνει με τον υπολογισμό μέσω βιντεοκαμερών (CCTV) της γεωμετρίας του ανθρωπίνου προσώπου, καθώς σε ασύλληπτες ταχύτητες και με την χρήση αλγορίθμων υπολογίζεται η απόσταση μεταξύ των ματιών, το μήκος του μετώπου ή το σχήμα της κάτω γνάθου για την δημιουργία μιας μοναδικής ψηφιακής ταυτότητας προσώπου, η οποία με την σειρά της αντιπαραβάλλεται με αντίστοιχες ταυτότητες αποθηκευμένες σε βάσεις δεδομένων.

Πρόσφατη, εξαιρετικής σημασίας έρευνα, χαρτογραφεί την εφαρμογή της εν λόγω τεχνολογίας σε παγκόσμια κλίμακα. Ως προς την χρήση της λοιπόν από τους κρατικούς μηχανισμούς, και δη από τις αρχές επιβολής της τάξης, η ψηφιακή αναγνώριση προσώπου σε τακτική βάση αφορά το ήμισυ του παγκόσμιου πληθυσμού. Πιο συγκεκριμένα, ήδη 98 χώρες έχουν θέσει σε λειτουργία κάμερες που ενσωματώνουν και την ψηφιακή αναγνώριση προσώπου, ενώ σε άλλες 12 η χρήση της έχει εγκριθεί και αναμένεται η πρακτική της εφαρμογή.

Στις Η.Π.Α. ήδη από το 2016 έρευνα έχει καταδείξει ότι οι μισοί ενήλικες πολίτες  έχουν καταγραφεί σε κάποιο δίκτυο ψηφιακής αναγνώρισης προσώπου, ενώ το Υπουργείο Εσωτερικής Ασφαλείας (Department of Homeland Security) εντός του 2019 ανακοίνωσε ότι σκοπεύει έως το 2023 να καταγράφει τα πρόσωπα των επιβατών στα αεροπλάνα, σχεδόν στην ολότητά τους (97%). Στατιστική μελέτη του Pew Research Center από την άλλη έχει αναδείξει ότι το 59% των αμερικανών πολιτών αποδέχονται την χρήση της ψηφιακής αναγνώρισης προσώπου στο πλαίσιο της ασφάλειας και της αντεγκληματικής πολιτικής. Νοτιότερα στο σύνολο των κρατών της Νότιας Αμερικής η χρήση της τεχνολογίας αγγίζει το 92%, καθώς συνδέθηκε με μεγάλες αστυνομικές επιτυχίες, όπως την σύλληψη ενός από τους πλέον καταζητούμενους εγκληματίες στην Βραζιλία.

Στην Μέση Ανατολή καθώς και στην κεντρική και ανατολική Ασία η κατάσταση, κατά την έρευνα, είναι αντίστοιχη με το πρόσθετο χαρακτηριστικό ότι εδώ η εφαρμογή της τεχνολογίας λαμβάνει χώρα και για λόγους εθνικής άμυνας λόγω ορισμένων ανοιχτών εμπόλεμων ζωνών.

Η Κίνα, πρωτοπόρος στις σύγχρονες ψηφιακές τεχνολογίες, διαθέτει πλέον εγκατεστημένη μία κάμερα κλειστού κυκλώματος για κάθε 12 πολίτες της, ενώ χώρες, όπως η Σιγκαπούρη, η Ταϊβάν και η Νότια Κορέα καυχώνται για την επιτυχημένη χρήση της τεχνολογίας στην αντιμετώπιση της πανδημίας του κορωνοϊού και την επιβολή των μέτρων κοινωνικής αποστασιοποίησης και καραντίνας.

Στον αντίποδα των ανωτέρω βρίσκεται η αφρικανική ήπειρος, όπου προς το παρόν η ψηφιακή αναγνώριση προσώπου λειτουργεί μόνο στο 20% των κρατών της στα οποία έχει αναπτύξει δραστηριότητες ο κινεζικός ψηφιακός κολοσσός της Huawei. Στην Τανζανία πάντως αυτήν την στιγμή πραγματοποιούνται πειράματα για χρήση της τεχνολογίας για την ταυτοποίηση σκύλων που έχουν εμβολιαστεί για λύσσα, ενώ η Κένυα ισχυρίζεται ότι περιόρισε σχεδόν στο μισό την εγκληματικότητά της λόγω της ψηφιακής αναγνώρισης προσώπου. Δεδομένων των ραγδαίων πάντως εξελίξεων και την ταχύτατη διείσδυση των παγκόσμιων ψηφιακών εταιρειών στην Αφρική, πολύ σύντομα η εφαρμογή της τεχνολογίας από τα κράτη θα επεκταθεί σε ανάλογα ποσοστά με την Αμερική και την Ασία.

Στον ευρωπαϊκό χώρο, που διαθέτει μια παράδοση στην προστασία της ιδιωτικότητας και των προσωπικών δεδομένων και οι πολίτες έχουν οξυμένη ευαισθησία της κοινωνίας των πολιτών στα ζητήματα των συνταγματικών ελευθεριών, η ψηφιακή αναγνώριση προσώπου χρησιμοποιείται από 26 κράτη!

Μόνον στην γαλλική πόλη Nice υπάρχει μια βιντεοκάμερα για κάθε 342 πολίτες, ενώ -πάντα σύμφωνα με την έρευνα- χρήση της τεχνολογίας κάνει και η Ελλάδα. Μάλιστα σχετικά πρόσφατα η Homo Digitalis απηύθηνε επιστολή προς το Υπουργείο Προστασίας του Πολίτη που αφορούσε πιθανή χρήση της δυσώνυμης πλέον εφαρμογής Clearview AI από την ελληνική αστυνομία σχετικά με την οποία έχει ξεσπάσει σάλος στις Η.Π.Α. Στην επίσημη απάντηση το Υπουργείο αρνείται κατηγορηματικά την χρήση της εν λόγω αμφιλεγόμενης τεχνολογίας ψηφιακής αναγνώρισης προσώπου. Εντός του Μαΐου η European Digital Rights απέστειλε έκκληση προς τα κράτη-μέλη της ΕΕ και την Ευρωπαϊκή Επιτροπή για την απαγόρευση της ψηφιακής αναγνώρισης προσώπου και άλλων τεχνολογιών επεξεργασίας βιομετρικών δεδομένων σε δημόσιους χώρους, ενώ μέχρι στιγμής μόνο το Βέλγιο και το Λουξεμβούργο (μαζί με το Μαρόκο είναι τα μόνο τρία κράτη σε διεθνή εμβέλεια που επέβαλαν απαγόρευση) έχουν προβεί σε απαγορευτική νομοθετική ρύθμιση.

Κάπως έτσι έχει διαμορφωθεί σε διεθνές πλαίσιο η εξάπλωση της ψηφιακής αναγνώρισης προσώπου προκαλώντας αναμφίβολα έντονες ανησυχίες στις κοινωνίες. Οι δημοκρατικές ελευθερίες περιλαμβάνουν το δικαίωμα του συναθροίζεσθαι, την ελευθερία έκφρασης και το δικαίωμα του πληροφοριακού αυτοκαθορισμού τα οποία βρίσκονται στο απόσπασμα λόγω της μαζικής βιομετρικής επιτήρησης του δημόσιου χώρου. Ίσως τμήμα όσων εκφράζουν επιφυλάξεις λόγω των κινδύνων που ελλοχεύουν, αναμετρώνται και με την τεχνολογική αιτιοκρατία (ετεραρχία ή ντετερμινισμό, όπως συνηθίζεται πλέον να λέγεται) που θέλει τους τεράστιους ψηφιακούς κολοσσούς να συμπλέουν με ευρύτερα οικονομικά και πολιτικά συμφέροντα για την επέκταση των σύγχρονων δυστοπικών τεχνολογιών.

Είναι πάντως ερευνητικά αποδεδειγμένη η ανακρίβεια της τεχνολογίας αναγνώρισης προσώπου σε πολλές περιπτώσεις (π.χ. μια από τις εφαρμογές ταυτοποίησε 28 μέλη του αμερικανικού Κογκρέσου ως συλληφθέντες για ποινικά αδικήματα). Αυτό μπορεί να έχει βαρύτατες επιπτώσεις για τους θιγέντες, πολλές εκ των οποίων μη επανορθώσιμες.

Επειδή η εν λόγω τεχνολογία καθιστά εκ των προτέρων υπόπτους όλους ανεξαιρέτως, παραβιάζεται η αρχή της αναλογικότητας, η πεμπτουσία του δικαίου των ανθρωπίνων δικαιωμάτων, λόγω της αδιάκριτης ψηφιακής καταγραφής των πολιτών στο δημόσιο χώρο. Θεμελιώδεις αρχές του δικαίου των προσωπικών δεδομένων ενδέχεται να καταπατούνται, όπως η αρχή του περιορισμού του σκοπού της επεξεργασίας, η ελαχιστοποίηση των δεδομένων αλλά και η απαγόρευση ατομικής λήψης αποφάσεων και κατάρτιση ψηφιακού προφίλ βάσει αυτοματοποιημένης επεξεργασίας δεδομένων προσωπικού χαρακτήρα. Συνάγεται λοιπόν ότι η ψηφιακή αναγνώριση προσώπου ίσως ναρκοθετεί θεμελιώδεις αρχές της δημοκρατικής κοινωνίας.

Ο περιορισμός του δημόσιου χώρου μέσω της ψηφιακής επιτήρησης, που τείνει να εξαπλώνεται, τροποποιεί αναπόδραστα την ισορροπία ισχύος μεταξύ κράτους και κοινωνίας, η οποία διαφοροποιεί τις δημοκρατίες από τα αυταρχικά αστυνομικά κράτη. Αλλά και ειδικά το ανθρώπινο πρόσωπο, ως το «ιερό βήμα» του ανθρωπίνου σώματος, για το οποίο κάποιος στοχαστής είπε ότι αυτό εκφράζεται κάθε στιγμή, σε αντίθεση με το στόμα που επιλέγει πότε θα μιλήσει, όταν υπόκειται στους «νόμους» των αλγορίθμων και της τεχνητής νοημοσύνης είναι φυσικό να προκαλεί ανυπολόγιστους κινδύνους για την ελευθερία του προσώπου.

Είμαστε, άραγε, έτοιμοι να τους παραβλέψουμε τόσο αψήφιστα;

*O Νικόδημος Καλλιντέρης είναι νομικός με εξειδίκευση στο Δημόσιο Δίκαιο (ΜΔΕ Δημοσίου Δικαίου Νομικής ΕΚΠΑ) και Υποψήφιος Διδάκτορας Δημοσίου Δικαίου. Πεδία έρευνας και ενδιαφέροντος του αποτελούν το απόρρητο των τηλεπικοινωνιών, το Διαδίκτυο των Πραγμάτων (Internet of Things) καθώς και οι τεχνολογίες Βig Data, Machine Learning και η Tεχνητή Nοημοσύνη.