Η εορταστική μας εκδήλωση για τα 5 Χρόνια Homo Digitalis & 20 Χρόνια European Digital Rights στο Μουσείο Μπενάκη είχε απόλυτη επιτυχία

Η εορταστική μας εκδήλωση για τα 5 Χρόνια Homo Digitalis και τα 20 Χρόνια European Digital Rights στο Μουσείο Μπενάκη την περασμένη εβδομάδα στέφθηκε με απόλυτη επιτυχία και ήταν, χωρίς αμφιβολία, μία από τις πιο έντονες, συγκινητικές και σημαντικές στιγμές που έχουμε ζήσει!!

Καταφέραμε να συγκεντρώσουμε σε λίγες μόνο ώρες την εθελοντική δουλειά που έχουμε κάνει όλοι μαζί αυτά τα 5 χρόνια, για να κάνουμε την ψηφιακή μας κοινωνία λίγο καλύτερη!

Ενώ ετοιμάζουμε δημοσιεύσεις με υπέροχο υλικό από φωτογραφίες, βίντεο, και παρουσιάσεις που έρχονται προσεχώς θέλαμε να πούμε σήμερα και ένα ΤΕΡΑΣΤΙΟ ευχαριστώ στους εθελοντές και τις εθελόντριες του event μας, Ariana RaptiCharalampos KyritsisYannis MarinakisAvgi SaoulidouNikoletta GeorgakopoulouAlexandra Giannopoulou, και Σοφία Αντωνοπούλου χωρίς τις οποίες και τους οποίους δε θα τα είχαμε καταφέρει!

Eυχαριστούμε όλα τα μέλη μας, όλες & όλους εσάς, για αυτά τα πέντε χρόνια, για την αφοσίωσή και σοβαρότητα που έχετε δείξει στην οργάνωση!

 


«Ενεργήστε 113» : Γιατί η καταγραφή των αστυνομικών επικοινωνιών μας αφορά;

Γράφει ο Σπύρος Τζουανόπουλος*

Την δεκαετία του 1920 η Αστυνομία του Los Angeles εισήγαγε για πρώτη φορά στην υπηρεσία της ασυρμάτους σε οχήματα-περιπολικά, αντικαθιστώντας τις μέχρι τότε έφιππες ή πεζές περιπολίες. Η εξέλιξη αυτή αποτέλεσε μια αλλαγή παραδείγματος στην αστυνόμευση[1], καθώς για πρώτη φορά οι επικεφαλής αξιωματικοί μπορούσαν να διαμορφώνουν μια συνολική εικόνα από τα πληρώματα των περιπολικών σχεδόν σε πραγματικό χρόνο και να συντονίζουν τις δυνάμεις ανάλογα. Οι επόμενες δεκαετίες ανέδειξαν τις ασύρματες επικοινωνίες ως κομβικό εργαλείο των αστυνομικών υπηρεσιών αιχμής. Ταυτόχρονα, λόγω της εξ ορισμού εμπλοκής των υπηρεσιών αυτών σε γεγονότα με δικαστικό ενδιαφέρον, κατέστη κοινή πρακτική η καταγραφή των επικοινωνιών των αστυνομικών-χειριστών των ασυρμάτων με το κέντρο επιχειρήσεων, αφενός για την παραγωγή αποδεικτικού υλικού προς χρήση ενώπιον των δικαστικών αρχών, αφετέρου για τον καλύτερο υπηρεσιακό έλεγχο των αστυνομικών ενεργειών.

Εξάλλου, σχεδόν παράλληλα με τη γέννηση της αστυνόμευσης αναδύθηκε και το φαινόμενο της αστυνομικής διαφθοράς-κατάχρησης της αστυνομικής εξουσίας[2]. Η καταγεγραμμένη στην εγκληματολογία νοοτροπία του “Εμείς εναντίον των Άλλων” όχι μόνο διαχωρίζει τους αστυνομικούς από τους απλούς πολίτες, αλλά έχει επίσης βαθύ αντίκτυπο στην απονομή της δικαιοσύνης[3]. Πρακτικές που αποφεύγουν την καταγραφή των επικοινωνιών που σχετίζονται με αστυνομικές πρακτικές αμφισβητούμενης νομιμότητας σε συνδυασμό με αναποτελεσματικούς θεσμούς λογοδοσίας, αποτελούν διαχρονικές παθογένειες των σωμάτων ασφαλείας με πολύ σοβαρές κοινωνικές επιπτώσεις.

Ειδικότερα στο πεδίο του ελέγχου της νομιμότητας των αστυνομικών επιχειρήσεων, η είσοδος ψηφιακών τεχνολογιών δημιούργησε πλήθος νέων τρόπων επικοινωνίας και νέων προκλήσεων ρύθμισής τους.  Η καταγραφή των αστυνομικών επικοινωνιών, η ασφάλειά τους και ο έλεγχος έχει αναδειχθεί σε ιδιαίτερα δύσκολη υπόθεση. Κινητά τηλέφωνα, μέσα κοινωνικής δικτύωσης, ψηφιακές εφαρμογές τηλεπικοινωνίας, ιδιωτικές επικοινωνίες, mails,  συχνά από το ίδιο μέσο (πχ ένα smartphone) καθιστούν τον έλεγχο και την καταγραφή ένα δυσεπίλυτο πρόβλημα δημοκρατίας, που χρήζει όμως επείγουσας και αποτελεσματικής ρύθμισης. Γιατί όμως είναι τόσο σημαντικό;

  • Οι υπηρεσίες πρώτης γραμμής των σωμάτων ασφαλείας συντονίζονται από θαλάμους επιχειρήσεων, κέντρα έρευνας και διάσωσης, τοπικά αστυνομικά τμήματα και φορητούς αστυνομικούς ασυρμάτους. Όταν καλούνται προς επέμβαση συνήθως λαμβάνει χώρα κάτι νομικά σημαντικό που θα καταστήσει κάποιους πολίτες θύματα, κάποιους άλλους κατηγορούμενους και κάποιους άλλους μάρτυρες. Συχνά, το πεδίο των περιστατικών αφορά σημεία δυσπρόσιτα, σκοτεινά, χωρίς μάρτυρες, μέρη όπου πολλές φορές το αρχείο των επικοινωνιών που έλαβαν χώρα είναι το μοναδικό στοιχείο και έτσι η διατήρησή του αποκτά καταλυτική σημασία.
  • Τα αρχεία επικοινωνιών είναι πολλές φορές το νήμα που συνδέει όλα τα υπόλοιπα αποδεικτικά στοιχεία μαζί. Τοποθετούν τα περιστατικά στο χρόνο, αποκαλύπτουν μοτίβα, εξηγούν την αλληλουχία των γεγονότων και δημιουργούν τις συνδέσεις αποκαλύπτοντας την αλήθεια.
  • Με την καταγραφή των επικοινωνιών που έλαβαν χώρα κατά τη διάρκεια αστυνομικών επιχειρήσεων,  διασφαλίζεται το σύννομο της δράσης των σωμάτων ασφαλείας και καθίσταται δυνατός ο διοικητικός και δικαστικός έλεγχος, η απόδοση ευθυνών και η ποινική δίωξη τυχόν εγκληματικών πράξεων των αστυνομικών-δραστών.

Η σημασία της καταγραφής των αστυνομικών ενεργειών και των γεγονότων σε καθημερινή βάση έχει απασχολήσει  την ελληνική νομοθεσία από παλιά. Χαρακτηριστικό είναι το αρ. 83 του Π.Δ. 141/1991 (κομβικό νομοθέτημα που ρυθμίζει ζητήματα οργάνωσης της ΕΛ.ΑΣ και τις καθημερινές αστυνομικές επιχειρήσεις) όπου τίθενται κανόνες τήρησης και αρχειοθέτησης για το «αστυνομικό σημειωματάριο»[4]. Το Π.Δ.75/1987 ρυθμίζει συστηματικά την διεξαγωγή της αλληλογραφίας και την τήρηση των αρχείων των εγγράφων (αναφορές, διαταγές, σήματα κα), τα καθήκοντα και τις υποχρεώσεις των χειριστών και θέτει κανόνες για τη διαβάθμιση τους, από αδιαβάθμητα έως άκρως απόρρητα. Τον Οκτώβριο του 2023 με Κοινή Υπουργική Απόφαση των υπουργών Ψηφιακής Διακυβέρνησης και Προστασίας του Πολίτη ανακοινώθηκαν έξι νέες ηλεκτρονικές υπηρεσίες,  μεταξύ αυτών και η λήψη αντιγράφου τηλεφωνικής κλήσης στην Άμεση Δράση[5], γεγονός που αναδεικνύει τη σημασία της καταγραφής αυτών για χρήση σε δικαστικές ή άλλες διαδικασίες. Είναι χαρακτηριστικό ότι η υπηρεσία παρέχεται για κλήσεις που έχουν διενεργηθεί μέχρι και το 2010, γεγονός που  σημαίνει ότι πιθανά υφίσταται ψηφιακό αρχείο σε βάθος δεκατριών ετών.

Ενώ λοιπόν υφίστανται διατάξεις που ορίζουν τον τρόπο και την αρχειοθέτηση καταγραφών περιστατικών, η καταγραφή των επικοινωνιών των χρηστών ασυρμάτων με τα κέντρα επιχειρήσεων δεν έχει τύχει αναλυτικής νομοθετικής ρύθμισης. Τα ζητήματα γύρω από τα κέντρα επιχειρήσεων και τις επικοινωνίες τους με τα πληρώματα που επιχειρούν «στο πεδίο» ρυθμίζονται με Διαταγές διαφόρων υπηρεσιών της Αστυνομίας, γραπτές και προφορικές.

Παράλληλα, είναι κοινή παραδοχή ότι η Ελληνική Αστυνομία αντιμετωπίζει συστημικό πρόβλημα περιστατικών αστυνομικής αυθαιρεσίας και διαφθοράς τα οποία μένουν στην συντριπτική τους πλειοψηφία ατιμώρητα. Ενδεικτικά, η έκθεση του Εθνικού Μηχανισμού Διερεύνησης Περιστατικών Αυθαιρεσίας (Ε.ΜΗ.ΔΙ.Π.Α.) για το 2022 κατέγραψε 182 καταγγελίες διαφόρων ειδών (προσβολή σωματικής ακεραιότητας/υγείας, βασανιστήρια, αδικήματα με ρατσιστικό κίνητρο κ.α.). Όπως χαρακτηριστικά αναφέρεται στην ίδια έκθεση, «οι πειθαρχικές πορισματικές εκθέσεις της ΕΛ.ΑΣ., στις οποίες η πρόταση αρχειοθέτησης προβάλλεται ως μόνιμη, σχεδόν, επωδός για τη συντριπτική πλειοψηφία των διεξαχθέντων πειθαρχικών ελέγχων». «Σε μόλις 16 εκ του συνόλου των 113 υποθέσεων που επεξεργάστηκε ο Μηχανισμός κατά το 2022, αναγνωρίστηκε πειθαρχική ευθύνη». Πώς συνδέεται όμως το ζήτημα των επικοινωνιών με τα παραπάνω;

Οι επικοινωνίες συνδέονται άρρηκτα με πρακτικές αμφισβητούμενης νομιμότητας ή και καταφανώς παράνομες, αφού η αποφυγή της καταγραφής αποτελεί την πρώτη μέριμνα αυτού που θα θελήσει να παρανομήσει. Πολλές φορές, οι επιτελείς των αστυνομικών επιχειρήσεων επιλέγουν να δίνουν εντολές που δεν έχουν καταγραφεί, όταν αυτές αφορούν ζητήματα που ενδέχεται να προκαλέσουν προβλήματα σε αυτούς που τις έδωσαν και αυτούς που τις ακολούθησαν. Χαρακτηριστικά, το 2011, μετά από καταγγελία συνδικαλιστικής παράταξης αστυνομικών, αναδείχθηκε το ζήτημα της «Συχνότητας 83» [6]( η τελευταία χρησιμοποιούνταν από το Κέντρο Επιχειρήσεων αποκλειστικά στη διάρκεια διαδηλώσεων για την επικοινωνία με διμοιρίες των ΜΑΤ). Σύμφωνα με την καταγγελία, η συχνότητα ενεργοποιούνταν, ενώ βρίσκονταν σε εξέλιξη επεισόδια, χωρίς όμως να καταγράφονται οι οδηγίες προς τους επικεφαλής των διμοιριών, ώστε να καθίστανται οι εντολές ανέλεγκτες μεταγενέστερα.

Το 2017, δημοσιογραφική έρευνα ανέδειξε την πρακτική της εντολής «Ενεργήστε 113»[7]. Πρόκειται για  αστυνομική εντολή που ακούγεται από το κέντρο διαβιβάσεων της αστυνομίας και σημαίνει «πάρτε τηλέφωνο» . Αφορούσε εντολές που δέχονταν επικεφαλής αξιωματικοί, πληρώματα περιπολικών και αναβάτες αστυνομικών μοτοσυκλετών προκειμένου να εκτελέσουν διαταγές που έρχονται σε αντίθεση με την  υπηρεσία τους ή θα προκαλούσαν πιθανά πειθαρχικό έλεγχο. Οι διαταγές που δίνονται μέσω των κινητών τηλεφώνων δεν καταχωρούνταν στο αρχείο του Κέντρου επιχειρήσεων και έτσι δεν μπορούσαν να τύχουν ελέγχου.

Εξάλλου, το φως της δημοσιότητας έχουν δει τουλάχιστον δύο περιπτώσεις όπου αντί των καταγραφόμενων συσκευών ασυρμάτου χρησιμοποιήθηκαν εφαρμογές κοινωνικής δικτύωσης από τα ιδιωτικά τηλέφωνα των αστυνομικών υπαλλήλων. Συγκεκριμένα, τις ημέρες που ακολούθησαν το περιστατικό του θανάσιμου τραυματισμού του 18χρονου Ρομά Νίκου Σαμπάνη αναδείχθηκε η γενικευμένη χρήση της εφαρμογής viber από αστυνομικούς κατά τη διάρκεια επιχειρήσεων. Σύμφωνα με δημοσιεύματα, αξιωματικοί έδιναν εντολές σε αστυνομικούς της Άμεσης Δράσης και της ομάδας ΔΙΑΣ  με μαζική αποστολή μηνυμάτων-διαταγών[8]. Στα πλαίσια της διερεύνησης του θανάτου του 18χρονου από καταιγισμό αστυνομικών πυρών, αποκαλύφθηκε ότι συχνά διαταγές με ευαίσθητο περιεχόμενο ή αμφιβόλου νομιμότητας δίνονταν με αυτόν τον τρόπο. Χαρακτηριστικά παραδείγματα τέτοιων εντολών ήταν :

  • «Καλημέρα. Λόγω της επετείου από τον θάνατο του Ζακ Κωστόπουλου, δεν θα έλθετε καμία ομάδα σε αντιπαράθεση για το θέμα αυτό με πολίτες προκειμένου να αποφευχθούν οι εντάσεις και δυσφήμηση της υπηρεσίας. Επιπλέον, λόγω της κατάστασης που επικρατεί με τους διανομείς (delivery), θα αποφεύγετε το επόμενο διάστημα βεβαίωση τροχονομικών παραβάσεων και κλιμάκωση επεισοδίων με τους εν λόγω οδηγούς»
  • «Τέλος με αφορμή θανατηφόρο ατύχημα με μοτοσικλετιστή που έλαβε χώρα χθες στην Αθήνα ύστερα από καταδίωξή του με αστυνομικούς δεν θα ενεργούνται καταδιώξεις αν δεν έχει ενημερωθεί πρώτα το κέντρο Άμεσης Δράσης»

Λίγους μήνες αργότερα, δημοσιεύματα στον Τύπο αναφέρθηκαν σε περιστατικό σύλληψης ατόμου- συγγενή πολιτικού προσώπου για κατοχή ναρκωτικών. Σύμφωνα με τα δημοσιεύματα αυτά, οι αστυνομικοί που διενήργησαν τον έλεγχο επικοινώνησαν μέσω της εφαρμογής viber με ανώτατο αξιωματικό, ενώ παράλληλα απέστειλαν φωτογραφίες σχετικές με τον έλεγχο. Οι φωτογραφίες και οι συνομιλίες των αστυνομικών διέρρευσαν στον Τύπο.

Παράλληλα, η Ελληνική Αστυνομία αντιμετωπίζει χρόνιο πρόβλημα αναφορικά με την προμήθεια, λειτουργία και συντήρηση συστημάτων κρυπτογραφημένης ασύρματης επικοινωνίας. Οι υπηρεσίες εναλλάσσουν τη χρήση ενός ήδη παρωχημένου συστήματος ασυρμάτων (Τetra) με τη χρήση αναλογικών, μη κρυπτογραφημένων, οι οποίοι είναι ιδιαίτερα ευάλωτοι σε συνακρόαση[9]. Μια ομάδα Ολλανδών ερευνητών ανακάλυψε τα τρωτά σημεία του TETRA στα τέλη του 2021[10], παρόλα αυτά το Ελληνικό Δημόσιο σύναψε νέα σύμβαση για το ίδιο σύστημα το 2022.  Το ελλαττωματικό σήμα και οι ευαλωτότητες των Tetra και των απλών αναλογικών ασυρμάτων αποτελούν άλλον ένα λόγο που οδήγησε τις υπηρεσίες στη χρήση κινητών τηλεφώνων κατά τη διάρκεια επιχειρήσεων.

Είναι προφανές ότι η γενικευμένη χρήση κινητών τηλεφώνων κατά τη διάρκεια της υπηρεσίας γεννά μια γκρίζα ζώνη που προσφέρεται για αυθαιρεσίας. Μέσω των κινητών τηλεφώνων διεξάγονται επικοινωνίες μεταξύ αστυνομικών που δεν υπόκεινται σε κανέναν μεταγενέστερο έλεγχο, πειθαρχικό ή ποινικό. Η επικοινωνία με εφαρμογές ιδιωτικής συνομιλίας επιτρέπει την «ιδιωτικοποίηση» των πληροφοριών που προκύπτουν κατά τη διάρκεια της υπηρεσίας και την εκμετάλλευσή τους προς ίδιον όφελος για εκβιασμούς, διαρροές στον Τύπο και άλλα αδικήματα. Παράλληλα, καθιστά τις πληροφορίες αυτές, που συνήθως περιέχουν προσωπικά δεδομένα πολιτών, εξαιρετικά ευάλωτες σε διαρροή και παραβίαση, υπονομεύοντας την ασφάλεια των δεδομένων.  Με την αποφυγή της καταγραφής παρατηρείται συγκάλυψη εγκλημάτων, παράνομη επεξεργασία δεδομένων-τήρηση αρχείου σε ιδιωτικά τηλέφωνα υλικού που στη συνέχεια μπορεί να χρησιμοποιηθεί παράνομα. Ιδιαίτερα ευαίσθητα προσωπικά δεδομένα και διαβαθμισμένες πληροφορίες καθίστανται ευάλωτες σε hacking υπονομεύοντας την ασφάλεια δεδομένων που παρέχουν κρυπτογραφημένες ασύρματες επικοινωνίες.

Το πρόβλημα της χρήσης κινητών από αστυνομικούς καθίσταται εντονότερο αν λάβουμε υπόψιν το Project Smart Policing που υλοποιείται από το 2019. Πρόκειται για σύμβαση μεταξύ της εταιρείας Intracom και της ΕΛ.ΑΣ. που  προβλέπει την προμήθεια τουλάχιστον χιλίων (1.000) έξυπνων κινητών (smartphones) με τα οποία θα πραγματοποιείται επεξεργασία βιομετρικών δεδομένων (αποτυπώματα και φωτογραφίες). Πώς άραγε θα μπορεί να γνωρίζει ο ελεγχόμενος πολίτης ότι η συσκευή που διενεργείται ο έλεγχος δεν είναι ιδιωτική; Πώς εξασφαλίζεται η τήρηση της νομοθεσίας των προσωπικών δεδομένων και η εξασφάλιση ότι τα δεδομένα αυτά δεν θα χρησιμοποιηθούν για σκοπούς πολύ διαφορετικούς από αυτούς της νόμιμης επεξεργασίας για την διασφάλισης της τάξης και της ασφάλειας ; Για το συγκεκριμένο ζήτημα η Homo Digitalis έχει ήδη παρέμβει με επιστολή στον Υπουργό Προστασίας του Πολίτη του 2019 και με αίτηση στην Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα με την οποία ζήτησε γνωμοδότηση επί της σύμβασης[11].

Όπως γίνεται κατανοητό, η καταγραφή των επικοινωνιών των αστυνομικών επιχειρήσεων και η τήρηση αρχείου αναδεικνύεται σε κρίσιμο ζήτημα δημοκρατίας.

Ήδη με το υπάρχον πλαίσιο οι πρακτικές που αναφέρθηκαν στο παρόν άρθρο ρυθμίζονται στην ελληνική νομοθεσία επισείοντας κυρώσεις. Εάν αστυνομικός προβεί σε δημοσιεύσεις παραβιάζοντας την υπηρεσιακή εχεμύθεια, τα απόρρητα, ή άλλους νόμους του κράτους (π.χ.προσωπικά δεδομένα), υπέχει πειθαρχική, αστική και ποινική ευθύνη, ανάλογα με τη βαρύτητα της κάθε περίπτωσης.  Παρόλα αυτά, λείπει ένα πλαίσιο ρύθμισης των αστυνομικών επικοινωνιών που θα επιβάλλει συγκεκριμένες υποχρεώσεις στη χρήση των μέσων επικοινωνίας, στις καταγραφές των επικοινωνιών και στην  πρόσβαση των διοικουμένων-θιγομένων-θυμάτων.

Είναι επίσης κρίσιμο να οριστούν διατάξεις που θα προβλέπουν αποτελεσματικές διοικητικές και ποινικές κυρώσεις αυτοτελώς για τη χρήση ιδιωτικών μέσων συνομιλίας και την παράνομη επεξεργασία δεδομένων από αστυνομικούς που τα έχουν αποκτήσει στα πλαίσια της υπηρεσίας τους. Η αρχή της σκοπιμότητας δεν έχει θέση στην άσκηση της αστυνομικής εξουσίας όσον αφορά τις επικοινωνίες και τα δεδομένα τους. Αντίθετα, η τήρηση της αρχής της νομιμότητας στις διαδικασίες αυτές συνιστά κρίσιμο διακύβευμα Δημοκρατίας.

[1] Bλ. Mike Davis , City of Quartz, Verso, 1990 σελ. 225

[2] Bλ. Crank John, Understanding police culture, Anderson publishing company Cincinnati Ohio, 1998

[3] Bλ. Kevin Αmendola, Αssessing law enforcement ethics, Police foundation, Washington DC

[4] «1. Στους Αστυφύλακες, Υπαρχιφύλακες και Αρχιφύλακες των Υπηρεσιών που ασκούν άμεση αστυνόμευση χορηγείται από την Υπηρεσία Αστυνομικό σημειωματάριο, στο οποίο καταχωρίζουν σημειώσεις για εγκλήματα, δυστυχήματα, πυρκαγιές, δημόσιες συναθροίσεις, βλάβες οδών ή διαφόρων εγκαταστάσεων, παραβάσεις διαφόρων νόμων ή αστυνομικών διατάξεων, παράπονα πολιτών, πληροφορίες και οποιοδήποτε άλλο γεγονός ή περιστατικό αστυνομικής φύσης”. Με βάση τα σημειωματάρια αυτά γίνεται η σχετική εγγραφή στο βιβλίο αδικημάτων και συμβάντων και συντάσσονται οι σχετικές μηνύσεις όταν απαιτείται. Το Αστυνομικό σημειωματάριο αποτελεί επίσημο στοιχείο και όταν εξαντλείται παραδίδεται στην Υπηρεσία. Μετά πάροδο πενταετίας από την εξάντλησή του καταστρέφεται, εφόσον ο κάτοχός του δεν πρόκειται να εξετασθεί σε δικαστήρια για υποθέσεις, που έχουν καταχωρηθεί σ` αυτό.»

[5] https://www.gov.gr/ipiresies/polites-kai-kathemerinoteta/bebaioseis-kai-antigrapha/antigrapho-telephonikes-kleses-sten-amese-drase

[6] Βλ. https://www.tovima.gr/2011/12/09/society/aorates-entoles-apo-ti-gada-sta-mat-stis-diadilwseis/

[7] Βλ. https://eleftherostypos.gr/ellada/111356-apokleistiko-kryfes-entoles-meso-kiniton-se-astynomikoys-gia-epembaseis-se-vip-ekdiloseis

[8] https://www.alfavita.gr/koinonia/361563_meso-viber-oi-entoles-tis-elas-sti-dias

[9] Βλ. https://eleftherostypos.gr/ellada/388769-omologoyn-oti-oi-asyrmatoi-tis-el-as-einai-boyboi

[10] Bλ. https://insidestory.gr/article/eyalotoi-se-epitheseis-oi-asyrmatoi-tis-ellinikis-astynomias

[11] Βλ. επιστολή σε Υπουργό https://homodigitalis.gr/posts/5125/ και αίτηση σε ΑΠΔΠΧ https://homodigitalis.gr/posts/5260/

*Ο Σπύρος Τζουανόπουλος είναι δικηγόρος και ανεξάρτητος ερευνητής. Το ερευνητικό του ενδιαφέρον εστιάζεται σε ζητήματα ποινικής καταστολής και τεχνολογιών επιτήρησης-διαχείρισης της ζωής στην πόλη.


Συμμετοχή της Homo Digitalis στη Δημόσια Διαβούλευση της Επιτροπή Ανταγωνισμού στο πλαίσιο της τελικής της Έκθεσης για την Κλαδική Έρευνα στον τομέα της Παροχής Ιδιωτικών Υπηρεσιών Υγείας και συναφών Υπηρεσιών Ασφάλισης.

Στις 30 Νοεμβρίου, η Επιτροπή Ανταγωνισμού (ΕΑ – Hellenic Competition Commission) διοργάνωσε Δημόσια Διαβούλευση στο πλαίσιο της τελικής της Έκθεσης για την Κλαδική Έρευνα στον τομέα της Παροχής Ιδιωτικών Υπηρεσιών Υγείας και συναφών Υπηρεσιών Ασφάλισης.

Η Πρόεδρος της Homo Digitalis, Elpida Vamvaka, έλαβε τιμητική πρόσκληση από την Επιτροπή Ανταγωνισμού και τον Πρόεδρο της κ. Ioannis Lianos προκειμένου να δώσει το παρόν στην εν λόγω Δημόσια Διαβούλευση και να παραχωρήσει σχετική τοποθέτηση. Τους ευχαριστούμε θερμά για το έμπρακτο ενδιαφέρον που δείχνουν στις απόψεις της Κοινωνίας των Πολιτών!

Στην τοποθέτησή μας χαιρετίσαμε την πρωτοβουλία της Ευρ. Επιτροπής για τη δημιουργία του Ευρωπαϊκού Χώρου Δεδομένων Υγείας (“EHDS”) και την πρόθεσή της να προβλέψει κοινούς κανόνες και διαλειτουργικά πρότυπα δεδομένων που θα διευκολύνουν την ανταλλαγή δεδομένων υγείας, όταν αυτό γίνεται προς το ιατρικό συμφέρον των ασθενών.

Παράλληλα, δεν παραλείψαμε να υπογραμμίσουμε τους εξαιρετικά προβληματικούς νέους κανόνες που θα περιορίζουν πλήρως το ιατρικό απόρρητο και τις εύλογες προσδοκίες για την προστασία της ιδιωτικής ζωής που έχουν οι πολίτες όταν εμπιστεύονται τον γιατρό τους.

Περισσότερα μπορείτε να διαβάσετε στην ιστοσελίδα της ΕΑ εδώ.

 


Συμμετοχή μας στο TechTalk Podcast

Την προηγούμενη εβδομάδα είχαμε τη χαρά να συμμετέχουμε σε μία πολύ ενδιαφέρουσα, διεπιστημονική συζήτηση γύρω από την Τεχνολογία στην παρουσίαση του νέου τεχνολογικού podcast TechTalk, όπου συζητήσαμε πάνω στο θέμα του πρώτου επεισοδίου “Τι είναι τεχνολογία;”!

Πως λοιπόν σχεδιάζεται η τεχνολογία, και με ποιον τρόπο επηρεάζει τις ζωές μας; Είναι η τεχνολογία ουδέτερη; Πως μπορούμε να ρυθμίσουμε την εκθετική ανάπτυξη της τεχνολογίας αφού την έχουμε πρώτα συνηθίσει;

Η Elpida Vamvaka είχε την χαρά να κάνει αυτή τη συζήτηση για τη Homo Digitalis με έναν εξαιρετικό συνομιλητή τον Vasilis Vlachokyriakos, Καθηγητή στο Newcastle University και ιδρυτή Open Lab Athens !

Ευχαριστούμε τις Sociality και Open Lab Athens για την πρόσκληση! Περιμένουμε με ανυπομονησία τα επόμενα! Διαβάστε αναλυτικά τι συζητήθηκε και ακούστε και το πρώτο επεισόδιο του podcast εδώ.

 


Λογισμικά κατασκοπείας: μία νέα απειλή για το απόρρητο της επικοινωνίας

Γράφει η Σοφία-Δέσποινα Φεϊζίδου

Η εξέγερση του Πολυτεχνείου, τον Νοέμβριο του 1973, αποτέλεσε την μαζικότερη αντιδικτατορική εκδήλωση και τον προάγγελο της πτώσης του καθεστώτος της στρατιωτικής δικτατορίας, που είχε επιβληθεί στην Ελλάδα από τις 21 Απριλίου 1963 και, μεταξύ άλλων, είχε καταργήσει τις ατομικές ελευθερίες.

Μία από τις σημαντικότερες ατομικές ελευθερίες είναι το δικαίωμα στην προστασία της επικοινωνίας, και δη του απορρήτου αυτής. Το δικαίωμα του ατόμου να μοιράζεται και να ανταλλάσσει σκέψεις, ιδέες, συναισθήματα, ειδήσεις και γνώμες, εντός πλαισίου οικειότητας και εμπιστευτικότητας, με πρόσωπα της επιλογής του, χωρίς τον φόβο ότι η ιδιωτική επικοινωνία του παρακολουθείται και κάθε έκφρασή του μπορεί να αποκαλυφθεί σε τρίτους ή/και να χρησιμοποιηθεί εναντίον του, είναι όρος εκ των ων ουκ άνευ του δημοκρατικού πολιτεύματος. Πρόκειται, επομένως, για θεμελιώδες ατομικό δικαίωμα, το οποίο κατοχυρώνεται τόσο στην διεθνή και ευρωπαϊκή νομοθεσία όσο και στα εθνικά Συντάγματα – η διάταξη του άρθρου 19 του Ελληνικού Συντάγματος χρονολογείται από το 1975 (τυχαίο; Δεν νομίζω!).

Ωστόσο, η αποκάλυψη των παρακολουθήσεων πολιτικών προσώπων ή συγγενών τους, ηθοποιών, δημοσιογράφων, επιχειρηματιών και άλλων, ένα χρόνο νωρίτερα, καταδεικνύει ότι η προστασία του απορρήτου της επικοινωνίας ήταν, είναι και παραμένει ευάλωτη, πολλώ δε μάλλον, στη σύγχρονη ψηφιακή εποχή.

Λογισμικά κατασκοπείας: ένα νέο εργαλείο στα χέρια των κρατικών υπηρεσιών και των εταιρειών

Το λογισμικό κατασκοπείας, ευρύτερα γνωστό ως «spyware», είναι ένα είδος κακόβουλου λογισμικού, κατάλληλα σχεδιασμένου για την κρυφή παρακολούθηση των δραστηριοτήτων ενός ατόμου στις ηλεκτρονικές του συσκευές, τον ηλεκτρονικό υπολογιστή ή το κινητό τηλέφωνο, εν αγνοία ή χωρίς τη συγκατάθεση του χρήστη. Το συγκεκριμένο λογισμικό εγκαθίσταται στις συσκευές με το άνοιγμα ενός μηνύματος ηλεκτρονικού ταχυδρομείου ή συνημμένου αρχείου, και, μετά την εγκατάστασή του, εντοπίζεται με δυσκολία, και, αν ακόμη εντοπιστεί, πολύ δύσκολα αποδεικνύεται ποιος ήταν υπεύθυνος για την επίθεση. Μέσω αυτού, παρέχεται πλήρης και αναδρομική πρόσβαση σε δεδομένα και συλλέγονται προσωπικά στοιχεία λ.χ. αρχεία και μηνύματα που δημιουργήθηκαν στο παρελθόν, μεταδεδομένα χρονικά προγενέστερων επικοινωνιών, κωδικοί πρόσβασης, ιστορικό περιήγησης ή αριθμοί πιστωτικών καρτών, ενώ είναι δυνατή η καταγραφή στιγμιοτύπου οθόνης ή συνομιλιών και η παρακολούθηση ήχου και βίντεο μέσω της ενεργοποίησης του μικροφώνου ή της κάμερας της συσκευής.

Τα πιο γνωστά λογισμικά κατασκοπείας, τα οποία έχουν σχεδιαστεί για να διεισδύουν και να ελέγχουν κινητές συσκευές εξ αποστάσεως, είναι τα ακόλουθα:

1.Predator: Για την εγκατάσταση του συγκεκριμένου λογισμικού αποστέλλεται μέσω μηνύματος στο κινητό τηλέφωνο του χρήστη ένας σύνδεσμος (link), ο οποίος φαίνεται απόλυτα φυσιολογικός, μαζί με μια δελεαστική περιγραφή, ικανή να παραπλανήσει τον χρήστη και να τον πείσει να πατήσει το link. Τότε, το λογισμικό εγκαθίσταται αυτόματα, παρέχοντας πλήρη πρόσβαση στη συσκευή, σε μηνύματα και αρχεία αλλά και στην κάμερα και το μικρόφωνο.

2.Pegasus: Το συγκεκριμένο λογισμικό αποσκοπεί να πείσει το χρήστη να επιλέξει τον σύνδεσμο που θα εγκαταστήσει το λογισμικό στη συσκευή, αλλά μπορεί να εγκαθίσταται στη συσκευή του υποψήφιου θύματος και χωρίς να απαιτείται καμία ενέργεια εκ μέρους του για την ενεργοποίησή του (μία αναπάντητη κλήση στο WhatsApp αρκεί για να κάνει το λογισμικό ό,τι καλύτερο μπορεί!).Αμέσως μετά την εγκατάστασή του, το λογισμικό εκτελεί τις εντολές του χειριστή του και παρέχει τη δυνατότητα συλλογής τεράστιου όγκου προσωπικών δεδομένων, όπως κωδικούς πρόσβασης, καταγραφή μηνυμάτων κειμένου ή κλήσεων, συλλογή αρχείων και εντοπισμό της θέσης μέσω GPS, χωρίς να καταλείπεται κανένα ίχνος της ύπαρξής του στη συσκευή.

Τον Ιούνιο του 2023, ο Πρόεδρος της Εξεταστικής Επιτροπής του Ευρωπαϊκού Κοινοβουλίου για τη διερεύνηση της χρήσης του λογισμικού Pegasus και αντίστοιχου κατασκοπευτικού λογισμικού παρακολούθησης δήλωσε: «Τα λογισμικά κατασκοπείας μπορεί να αποτελέσουν πολύτιμο εργαλείο για την καταπολέμηση του εγκλήματος, αλλά όταν τα χρησιμοποιούν λανθασμένα οι κυβερνήσεις γίνονται τεράστιος κίνδυνος για το κράτος δικαίου και τα θεμελιώδη δικαιώματα». Πράγματι, οι τεχνολογικές δυνατότητες των κατασκοπευτικών λογισμικών επιτρέπουν την μη εξουσιοδοτημένη πρόσβαση σε προσωπικά δεδομένα και παρακολούθηση των δραστηριοτήτων των ατόμων χωρίς τη γνώση και τη συγκατάθεσή τους. Κατά συνέπεια, η εκτεταμένη και ανεξέλεγκτη χρήση τους οδηγεί στην παραβίαση του δικαιώματος στο απόρρητο της επικοινωνίας καθώς και του δικαιώματος στην προστασία των προσωπικών δεδομένων, στην προσβολή του δικαιώματος της προστασίας της ιδιωτικής ζωής εν γένει.

Σύμφωνα με τα πορίσματα της επιτροπής, η κατάχρηση λογισμικών παρακολούθησης είναι γενικευμένη στην Ευρωπαϊκή Ένωση, καθώς, εκτός από την Ελλάδα, διαπιστώθηκε χρήση αντίστοιχων λογισμικών και στην Πολωνία, την Ουγγαρία, την Ισπανία και την Κύπρο, και φυσικά κατακριτέα. Η ανάγκη θέσπισης ενός ρυθμιστικού πλαισίου για την αντιμετώπιση των φαινομένων κατάχρησης βρίσκεται πλέον στο προσκήνιο, όχι μόνο σε εθνικό, αλλά πρωτίστως, σε ενωσιακό επίπεδο.

Τι χρειαζόμαστε λοιπόν;

  1. Σαφείς κανόνες κατά της κατάχρησης λογισμικών κατασκοπείας: Οι ευρωπαϊκοί κανόνες πρέπει να καθορίζουν με σαφήνεια τον τρόπο χρήσης των λογισμικών από τις αρχές επιβολής του νόμου. Πρέπει να προβλέπονται εξαιρετικές περιπτώσεις, κατά τις οποίες και μόνον θα επιτρέπεται η χρήση τους, για προκαθορισμένο σκοπό και για περιορισμένο χρονικό διάστημα, και ένας κοινός νομικός ορισμός της έννοιας των «λόγων εθνικής ασφάλειας». Επίσης, πρέπει να κατοχυρώνεται η υποχρέωση ειδοποίησης των προσώπων που παρακολουθήθηκαν με τη χρήση τέτοιων λογισμικών ή των υποκειμένων των δεδομένων που διέρρευσαν στο πλαίσιο της παρακολούθησης άλλων προσώπων, καθώς και διαδικασίες εποπτείας και ανεξάρτητου ελέγχου μετά από κάθε περιστατικό παράνομης χρήσης τέτοιων λογισμικών.
  2. Συμμόρφωση της εθνικής νομοθεσίας με τη νομολογία του Ευρωπαϊκού Δικαστηρίου των Δικαιωμάτων του Ανθρώπου: Το Δικαστήριο καταλείπει μεν ευρεία διακριτική ευχέρεια στις εθνικές αρχές σε ζητήματα στάθμισης του δικαιώματος στην ιδιωτική ζωή με τους λόγους εθνικής ασφάλειας, πλην όμως έχει αναπτύξει και ερμηνεύσει σε πληθώρα αποφάσεων, από το 1978 έως και σήμερα, τα κριτήρια που εισάγει η ΕΣΔΑ και τα οποία πρέπει να πληρούνται για να θεωρηθεί νόμιμος ο περιορισμός του δικαιώματος της απόρρητης, ελεύθερης επικοινωνίας.
  3. Σύσταση του «Εργαστηρίου Τεχνολογίας της Ευρωπαϊκής Ένωσης»: Πρόκειται για ένα ανεξάρτητο ινστιτούτο έρευνας, το οποίο θα είναι αρμόδιο να διερευνά υποθέσεις παρακολούθησης και να παρέχει τεχνολογική υποστήριξη, όπως έλεγχο συσκευών και εγκληματολογικές μελέτες.
  4. Αναθεώρηση της εξωτερικής πολιτικής και των αδειών εξαγωγής: Οι ευρωβουλευτές ζήτησαν την διεξοδική επανεξέταση των αδειών εξαγωγής λογισμικών κατασκοπείας και την αποτελεσματικότερη εφαρμογή των ενωσιακών κανόνων για τον έλεγχο των εξαγωγών τους. Η Ευρωπαϊκή Ένωση οφείλει, ακόμη, να χαράξει κοινή στρατηγική με τις ΗΠΑ για τα λογισμικά κατασκοπείας αλλά και να έρθει σε επαφή με χώρες εκτός ΕΕ σχετικά με τους κανόνες πώλησης και εξαγωγής κατασκοπευτικών λογισμικών, προκειμένου να διασφαλιστεί ότι η αναπτυξιακή βοήθεια που παρέχει δεν θα χρησιμοποιείται για την αγορά και τη χρήση τέτοιων λογισμικών.

Συμπέρασμα

Εν κατακλείδι, καθώς αναλογιζόμαστε τα διδάγματα της ιστορίας και τον διαρκή αγώνα για τη δημοκρατία και τα θεμελιώδη δικαιώματα, η διαχρονική σοφία του Βενιαμίν Φραγκλίνου αντηχεί με βαθιά σημασία: “ Όσοι θυσιάζουν στοιχειώδεις ελευθερίες για λίγη ασφάλεια, δεν αξίζουν ούτε ελευθερία ούτε ασφάλεια “. Οι πρόσφατες αποκαλύψεις για την κατάχρηση του λογισμικού κατασκοπείας κατέδειξαν τη λεπτή ισορροπία μεταξύ ασφάλειας και ατομικών ελευθεριών. Παρόλο που το λογισμικό κατασκοπείας μπορεί να χρησιμοποιείται ως εργαλείο για την καταπολέμηση του εγκλήματος, η πιθανότητα κατάχρησής του αποτελεί σοβαρή απειλή για το κράτος δικαίου και τις ίδιες τις αρχές πάνω στις οποίες θεμελιώνονται οι δημοκρατικές μας κοινωνίες.

 

*H Σοφία-Δέσποινα Φεϊζίδου, είναι δικηγόρος, απόφοιτος της Νομικής Σχολής Αθηνών και κάτοχος μεταπτυχιακού με ειδίκευση στο “Δίκαιο & Τεχνολογίες Πληροφορικής και Επικοινωνιών” του Τμήματος Ψηφιακών Συστημάτων του Πανεπιστημίου Πειραιώς. Η διπλωματική της είχε θέμα τη συγκριτική επισκόπηση της νομολογίας των ευρωπαϊκών δικαστηρίων (ΕΔΔΑ και ΔΕΕ) για τις μαζικές παρακολουθήσεις.


Πράξη για την Τεχνητή Νοημοσύνη: μια θετική νομοθετική εξέλιξη για την προστασία των πολιτών;

Γράφει η Δανάη Σκεύη*

Καθημερινά ερχόμαστε, εκούσια ή ακουσία, σε επαφή με συστήματα τεχνητής νοημοσύνης (ΤΝ) για ποικίλους σκοπούς∙ από την καθαριότητα του σπιτιού με αυτόνομο ρομποτικό βοηθό, την εξυπηρέτηση πελατών με ψηφιακά bots, την αυτοματοποιημένη αξιολόγηση βιογραφικών, μέχρι τη λήψη ασφάλειας ζωής βάσει συστήματος κατάταξης ασφαλειοληπτών. Στις σταδιακά αυξανόμενες περιπτώσεις πρόκλησης σωματικής βλάβης, βλάβης της υγείας, οικονομικής ζημίας, δυσμενούς μεταχείρισης ή άλλης προσβολής της προσωπικότητας, το ερώτημα που προβάλλει επιτακτικό έχει να κάνει με την επαρκή (ή μη) προστασία των πολιτών κατά την επαφή τους με συστήματα ΤΝ.

Μπορούν να εμπιστεύονται οι πολίτες τα συστήματα ΤΝ; Το θέμα είναι πραγματικά εκτενές και δεν μπορεί να δοθεί μια μονοδιάστατη απάντηση. Ενόψει των κανόνων που αναμένονται να τεθούν σε ισχύ σε λίγο καιρό στην Ευρωπαϊκή Ένωση, στο άρθρο σκιαγραφείται μια πρώτη απάντηση μέσα από τις ρυθμίσεις της Πράξης για την Τεχνητή Νοημοσύνη (εν συντομία Πράξη ΤΝ), αφού πρώτα δοθούν μερικές διευκρινίσεις για τη νέα νομοθεσία.

(i) Τι είναι η Πράξη ΤΝ;

Η Πράξη ΤΝ είναι το νομοθετικό πλαίσιο που πρότεινε η Ευρωπαϊκή Επιτροπή για να αντιμετωπίσει «ολιστικά» τα συστήματα τεχνητής νοημοσύνης ώστε να θεωρούνται ασφαλή και αξιόπιστα. Η Πράξη ΤΝ αποτελεί το επιστέγασμα μιας μακριάς νομοθετικής προσπάθειας, κατά την οποία έλαβαν χώρα πολλές διαβουλεύσεις, πολιτικές πιέσεις και αλληλουποχωρήσεις προκειμένου να επιτευχθεί ο πολιτικός στόχος της δημιουργίας ενός οικοσυστήματος εμπιστοσύνης των πολιτών στην τεχνητή νοημοσύνη (ecosystem of trust) και ενός οικοσυστήματος επιχειρηματικής αριστείας στην τεχνητή νοημοσύνη (ecosystem of excellence). Στις 8 Δεκεμβρίου 2023, μετά από έναν τριήμερο μαραθώνιο διαβουλεύσεων, επιτεύχθηκε η πολιτική συμφωνία για το περιεχόμενο της Πράξης ΤΝ. Τα αρμόδια όργανα, δηλαδή το Συμβούλιο της Ε.Ε. και το Ευρωκοινοβούλιο, πέτυχαν συμφωνία πάνω σε εριζόμενα άρθρα και πλέον έχει ανοίξει ο δρόμος για τη νομοτεχνική επεξεργασία του νόμου και την τελική ψήφιση. Μόλις η Πράξη ψηφισθεί, θα χρειαστούν ακόμα δύο χρόνια για να αποτελέσει δεσμευτικό δίκαιο.

(ii) Σε ποιους απευθύνεται η Πράξη ΤΝ;

Η Πράξη ΤΝ επιβάλλει κανόνες για την ανάπτυξη, κυκλοφορία και χρήση συστημάτων ΤΝ στην Ευρωπαϊκή αγορά. Οι κανόνες απευθύνονται σε όλα τα πρόσωπα που συμμετέχουν στην αλυσίδα αξίας (AI value chain), δηλαδή στα πρόσωπα που είναι υπεύθυνα για την ανάπτυξη, εμπορία, εισαγωγή, διανομή και χρήση συστημάτων ΤΝ, αποκαλούμενα εν συνόλω «φορείς εκμετάλλευσης». Ακριβώς επειδή ο στόχος είναι η Πράξη να ρυθμίσει την ανάπτυξη και εποπτεία των συστημάτων, οι κανόνες επιβάλλονται στους φορείς εκμετάλλευσης επειδή αυτοί έχουν τον έλεγχο των συστημάτων καθόλη τη διάρκεια του κύκλου ζωής τους (AI lifecycle).

(iii) Ποια η προστασία των πολιτών βάσει της Πράξης ΤΝ;

Το ότι οι κανόνες της Πράξης ΤΝ στοχεύουν να ρυθμίσουν τις υποχρεώσεις των φορέων εκμετάλλευσης δεν σημαίνει ότι το νέο νομοθετικό πλαίσιο είναι μικρής σημασίας για πολίτες. Παραμένει εξαιρετικά σημαντικό να υπάρξει εξοικείωση με τις καινούργιες ρυθμίσεις. Τούτο διότι οι πολίτες είναι, εν τέλει,  οι τελικοί αποδέκτες που θα κάνουν χρήση όλων αυτών των καινούργιων εφαρμογών. Αν κάποιος φορέας εκμετάλλευσης δεν συμμορφώνεται πλήρως με τις υποχρεώσεις ασφάλειας ή δεν εποπτεύει επαρκώς το σύστημα που αναπτύσσει, οι τελικά ζημιωθέντες – ηθικά και υλικά –  θα είναι όσοι πολίτες έλθουν σε επαφή με το εν λόγω σύστημα. Κατά δεύτερον, με το να γνωρίζουν οι πολίτες τις υποχρεώσεις των φορέων εκμετάλλευσης θα είναι προετοιμασμένοι για τα χαρακτηριστικά που αναμένουν να δουν κατά την αγορά ή με άλλο τρόπο επαφή με συστήματα ΤΝ. Θα γνωρίζουν και άρα θα μπορούν να ασκήσουν αποτελεσματικά τα δικαιώματα τους, τα οποία θα βασίζουν είτε στην Πράξη ΤΝ (ανάλογα με το τελικό της περιεχόμενο), είτε σε συναφείς προστατευτικούς νόμους όπως τον Γενικό Κανονισμό Προστασίας Προσωπικών Δεδομένων (ΓΚΠΔ) και τους νόμους που παρέχουν αποζημίωση για την πρόκληση ζημίας (άρθρο 6 Ν. 2251/1994, ΑΚ 914 επ.).

Τούτων λεχθέντων, ποιες είναι οι σημαντικότερες ρυθμίσεις της Πράξης ΤΝ;

  1. Απαγορεύσεις: Η Πράξη ΤΝ απαγορεύει εντελώς ορισμένες πρακτικές οι οποίες αντίκεινται στις κοινές Ευρωπαϊκές αξίες. Έτσι, απαγορεύονται συστήματα που απευθύνονται στο υποσυνείδητο των ανθρώπων και συστήματα που εκμεταλλεύονται τρωτά σημεία ευάλωτων ομάδων, όπως των παιδιών και των ηλικιωμένων. Ακόμη, απαγορεύονται  πρακτικές που προβαίνουν σε κοινωνική ταξινόμηση των πολιτών (socialscoring) και πρακτικές βιομετρικής ταυτοποίησης προσώπων (biometrical identification). Ωστόσο, οι τελευταίες απαγορεύσεις δεν θα είναι απόλυτες, αφού προβλέπονται εξαιρέσεις όπως, για παράδειγμα, η βιομετρική ταυτοποίηση σε δημόσιους χώρους για τη διακρίβωση βαρύτατων αδικημάτων (π.χ. τρομοκρατία).
  2. Υποχρεώσεις για συστήματα υψηλού κινδύνου: Η Πράξη ΤΝ επιβάλλει ένα πλέγμα εκτενών υποχρεώσεων στους φορείς εκμετάλλευσης που αναπτύσσουν αρκετά επικίνδυνα συστήματα (high-riskAIsystems). Περιληπτικά, επιβάλλονται υποχρεώσεις διενέργειας εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα, διαχείρισης κινδύνου, διακυβέρνησης δεδομένων, τήρησης διαφάνειας, πληροφόρησης χρηστών, ανθρώπινης εποπτείας, τεχνικής ασφάλειας καθώς και άλλες υποχρεώσεις που εξειδικεύονται σε επιμέρους άρθρα της Πράξης.
  3. Υποχρεώσεις για συστήματα γενικού σκοπού και για μοντέλα θεμελίωσης: Νομοθετικό «πονοκέφαλο» έχει προκαλέσει η εμπορική κυκλοφορία συστημάτων που χρησιμοποιούνται για πολλαπλούς σκοπούς και τα οποία μπορεί να ενσωματώνονται σε άλλα συστήματα υψηλού κινδύνου [general-purposeAI (GPAI) systems], με αποτέλεσμα να εμφανίζουν διαφοροποιημένους – και όχι μονοδιάστατους – κινδύνους. Παρόμοιο προβληματισμό έχουν προκαλέσει και τα λεγόμενα μοντέλα θεμελίωσης (foundationmodels), δηλαδή μεγάλα συστήματα ικανά να εκτελούν με επάρκεια ένα ευρύ φάσμα διακριτών εργασιών, όπως το γνωστό πλέον παράδειγμα του ChatGPT. Το τελικό κείμενο της Πράξης αναμένεται να περιέχει υποχρεώσεις διαφάνειας για αυτά τα συστήματα προτού διατεθούν στην αγορά, αλλά και πιο αυστηρούς κανόνες για τα μοντέλα θεμελίωσης με υψηλό αντίκτυπο (high impact) που μπορούν να διαδίδουν συστημικούς κινδύνους κατά μήκος της αλυσίδας αξίας [1].

 

(iv) Πώς αποτιμάται η Πράξη ΤΝ σε σχέση με την προστασία των πολιτών;

Η Πράξη ΤΝ αποτελεί σίγουρα μια θετική νομοθετική εξέλιξη για την κοινή Ευρωπαϊκή αγορά. Αν μάλιστα ανατρέξουμε στις πρωτοβουλίες που έχουν λάβει χώρα παγκοσμίως για τη ρύθμιση της τεχνητής νοημοσύνης θα διαπιστώσουμε ότι η Ε.Ε. είναι η πρώτη χώρα – ή κατ’ ακριβολογία δικαιοδοσία – που θα ψηφίσει δεσμευτικούς κανόνες για την τεχνητή νοημοσύνη καθορίζοντας την «τύχη» 440 εκατομμύρια πολιτών. Η Ε.Ε. έχει, αναμφίβολα, δείξει αποφασιστικότητα σε σύγκριση με άλλες ηγέτιδες χώρες στην τεχνητή νοημοσύνη, όπως οι ΗΠΑ και η Κίνα, με το να απαγορεύσει ρητά ορισμένες αμφιλεγόμενες πρακτικές και να επιβάλλει ένα διαφοροποιημένο πλέγμα κανόνων βάσει του κινδύνου που προκαλούν τα συστήματα ΤΝ. Φαίνεται να αξιοποιεί την ήπια δύναμη (soft power) που διαθέτει στον τομέα της ρύθμισης, λειτουργώντας ως ρυθμιστική κοιτίδα για τρίτες χώρες και αγορές.

Απεναντίας, όταν η συζήτηση στρέφεται στην προστασία των πολιτών, η Πράξη ΤΝ θα πρέπει να αξιολογηθεί υπό το φως της επαρκούς (ή μη) προστασίας των δικαιωμάτων των πολιτών. Σχετικά με αυτό το ζήτημα, οι ενώσεις καταναλωτών έχουν εκφραστεί με επιφυλάξεις. Η Ursula Pachl, αναπληρώτρια γενική διευθύντρια της Ευρωπαϊκής Οργάνωσης Καταναλωτών (BEUC), τον Δεκέμβριο 2023 δήλωσε: «Ο νόμος για την τεχνητή νοημοσύνη περιέχει τόσο καλά όσο και κακά σημεία, αλλά συνολικά τα μέτρα για την προστασία των καταναλωτών δεν είναι ικανοποιητικά […] Πάρα πολλά ζητήματα έχουν αφεθεί υπορυθμιζόμενα, με υπερβολική εξάρτηση από την καλή θέληση των εταιρειών για αυτορρύθμιση. Για παράδειγμα, οι εικονικοί βοηθοί ή τα παιχνίδια που λειτουργούν με τεχνητή νοημοσύνη δεν θα ρυθμιστούν επαρκώς, καθώς δεν θεωρούνται συστήματα υψηλού κινδύνου. Επίσης, συστήματα όπως το ChatGPT ή το Bard δεν θα αποκτήσουν τις προστατευτικές δικλείδες που απαιτούνται για να τα εμπιστευτούν οι καταναλωτές. Υπάρχουν, ωστόσο, ορισμένες σημαντικές διατάξεις που θα επιτρέψουν στους καταναλωτές να αναλάβουν δράση εάν έχουν υποστεί αθέμιτη μεταχείριση ή έχουν υποστεί ζημία» [2].

Συνοψίζοντας, αν και φαίνεται ότι η Πράξη ΤΝ αποτελεί θετική εξέλιξη για την προστασία των πολιτών θα ήταν μάλλον βιαστική η οριστική απάντηση στο ερώτημα του τίτλου. Η κρίση για την επάρκεια (ή μη) του ρυθμιστικού πλαισίου θα περάσει από τριπλή βάσανο. Πρώτον, αναμένουμε την τελική μορφή της Πράξης ΤΝ για την αξιολόγηση των αλλαγών που έχουν μεσολαβήσει από τη στιγμή της αρχικής πρότασης τον Απρίλιο 2021 μέχρι την τελική ψήφιση. Δεύτερον, ελλείψεις προστασίας ενδεχομένως να μπορεί επιλυθούν από τη λοιπή προστατευτική νομοθεσία, κυρίως το δίκαιο προστασίας καταναλωτή, προστασίας προσωπικών δεδομένων και αστικής ευθύνης, τα οποία θα κληθούν να καλύψουν – στο βαθμό του εφικτού – τυχόν ελλείψεις. Τρίτον, η προστασία των πολιτών θα εξαρτηθεί και από την έκταση και την αποτελεσματική εποπτεία της αγοράς συστημάτων ΤΝ από τις Αρχές. Στο μέτρο που ο ρόλος των εποπτικών Αρχών θα είναι περιορισμένος, θα πρέπει οι πολίτες να εξοπλιστούν με επαρκή δικαιώματα για να καλυφθεί το έλλειμμα προστασίας που θα δημιουργηθεί.

 

[1]Council of Europe, Press Release 986/23, Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world, 9/12/2023; European Parliament, Press Release, 20231206IPR15699, Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI, 9/12/2023.

[2]The European Consumer Organization (BEUC),  BEUC-PR-2023-057, EU rules on AI lack punch to sufficiently protect consumers, 9/12/2023

*Η Δανάη Σκεύη είναι Υποψήφια Διδάκτορας της Νομικής Σχολής του Εθνικού Καποδιστριακού Πανεπιστημίου Αθηνών.


Γιορτάζουμε τα γενέθλια μας μαζί με την EDRi

Την Τρίτη 12 Δεκεμβρίου στις 17:30, στο κεντρικό Αμφιθέατρο του Μουσείου Μπενάκη (Πειραιώς 138) η Homo Digitalis γιορτάζει 5 χρόνια γεμάτα από επιτυχίες, δράσεις, συμμαχίες, δυσκολίες, αφοσίωση και επιμονή για την προστασία των Δικαιωμάτων του Ανθρώπου στη σύγχρονη ψηφιακή εποχή!  Μαζί μας γιορτάζει και η European Digitalis Rights (EDRi), το μεγαλύτερο δίκτυο οργανώσεων ψηφιακών δικαιωμάτων στον κόσμο, τα 20 χρόνια λειτουργίας της!!!

Εκεί, θα μας τιμήσουν με ομιλίες και τοποθετήσεις οι:

-Dr. Wojciech Wiewiorowski, Ευρωπαίος Επόπτης Προστασίας Δεδομένων, (EDPS),

-Δρ. Γεώργιος Ρουσόπουλος, Μηχανικός Η/Υ, Ειδικός Επιστήμονας της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ),

-Alexandra Toth, Διευθύντρια Προγραμμάτων, European AI & Society Fund,

-Δρ. Αλεξάνδρα Γιαννοπούλου, Υπεύθυνη Προγράμματος digiRISE του Digital Freedom Fund και Ερευνήτρια στο University of Amsterdam,

-Diego Naranjo, Προϊστάμενος Πολιτικής, European Digital Rights
(EDRi),

-Max Schrems, Επίτιμος Πρόεδρος noyb.eu,

-Ιωάννης Κούβακας, Ανώτερος Νομικός Σύμβουλος & Βοηθός Γενικού Νομικού Συμβούλου, Privacy International,

-Δρ. Ήλια Σιατίτσα, Δικηγόρος & Διευθύντρια του Προγράμματος Κρατικής Λογοδοσίας, Privacy International και

-Gus Hosein, Εκτελεστικός Διευθυντής, Privacy International.

Η είσοδος είναι δωρεάν και δεν απαιτείται πλέον κάποια εγγραφή.

Μπορείτε να δείτε το πλήρες πρόγραμμα της εκδήλωσης εδώ.


Σας προσκαλούμε στον εορτασμό των 5 Xρόνων Homo Digitalis & 20 Χρόνων EDRi

Σας καλούμε να γιορτάσουμε μαζί τα γενέθλια μας!

Ελάτε να γνωρίσετε τί έχει καταφέρει η Homo Digitalis σε 5 χρόνια -και η European Digital Rights (EDRi) σε 20 χρόνια- δράσης για την προστασία των Δικαιωμάτων του Ανθρώπου στη σύγχρονη ψηφιακή εποχή.

Η εκδήλωση είναι δωρεάν και θα ακολουθήσουν networking drinks

Εγγραφή απαραίτητη έως 1/12 εδώ.

Θα γιορτάσουμε μαζί με σημαντικούς ομιλητές που θα μας τιμήσουν :
–Dr. Wojciech Wiewiorowski, EDPS – European Data Protection Supervisor
–Δρ. George Rousopoulos, Μηχανικός Η/Υ, Ειδικός Επιστήμονας, ΑΠΔΠΧ
–Alexandra Toth, Διευθύντρια Προγραμμάτων του European AI & Society Fund & Society Fund,
–Δρ. Alexandra Giannopoulou, Υπεύθυνη Προγράμματος digiRISE του Digital Freedom Fund και Ερευνήτρια στο University of Amsterdam
–Eliza Triantafyllou, δημοσιογράφος, inside story.,
–Diego Naranjo, Προϊστάμενος Πολιτικής, European Digital Rights (EDRi)
–Max Schrems, Επίτιμος Πρόεδρος noyb.eu
–Ioannis Kouvakas, Ανώτερος Νομικός Σύμβουλος & Βοηθός Γενικού Νομικού Συμβούλου, Privacy International

*Το ακριβές πρόγραμμα της εκδήλωσης θα δημοσιευτεί εντός των επόμενων ημερών.

 


Συμμετοχή μας στο launching event του ΤechTalk Podcast της Sociality και Open Lab Athens

Σου έχουμε πρόταση για το απόγευμα της Τετάρτης σου!

To #TechTalk , ένα Podcast* για την τεχνολογία είναι εδώ! Και σας καλούμε να το γνωρίσετε, πριν ξεκινήσουν τα επεισόδια του!

Την Τετάρτη 29/11 στις 18:00 στο red n’ noir (Δροσοπούλου 53, Κυψέλη) σας περιμένουμε να συζητήσουμε “τι είναι τεχνολογία” στα αλήθεια; Το καζανάκι μας είναι τεχνολογία; Τι διαφορά έχει από το κινητό μας; Πως επηρεάζει τις ζωές μας;

Πρόγραμμα Εκδήλωσης:

– Παρουσίαση Έργου | Antonis FarasSociality
– Παρουσίαση Αποτελεσμάτων Συμμετοχικών Εργαστηρίων | Giannis ZgerasVily Mylona, Ph.D.Gregory TsardanidisOpen Lab Athens
– Ανοιχτή συζήτηση: «Τι είναι Τεχνολογία» με την Elpida Vamvaka, Πρόεδρο της Homo Digitalis και τον Vasilis Vlachokyriakos, καθηγητή Πανεπιστημίου Newcastle University, !Open Lab – Newcastle University & Open Lab Athens .

Συντονισμός: Koutiva NadianaSociality

*Το TechTalk είναι ένα έργο της Sociality σε συνεργασία με το Open Lab Athens και με την υποστήριξη του Heinrich-Böll-Stiftung Greece