Συμμόρφωση στην Εποχή της Τεχνητής Νοημοσύνης και της Κυβερνοασφάλειας: Πρόκληση ή Ευκαιρία;
Γράφει o Τάσος Αραμπατζής
Για χρόνια, η κυβερνοασφάλεια αγωνιζόταν να εξασφαλίσει μια θέση στην ατζέντα της διοίκησης των επιχειρήσεων. Χρειάστηκαν πρόστιμα εκατομμυρίων, νομικές διαμάχες και υψηλού προφίλ παραβιάσεις δεδομένων για να συνειδητοποιήσουν οι επιχειρήσεις ότι η ασφάλεια δεν είναι απλώς ένα ζήτημα πληροφορικής—είναι επιχειρηματικός κίνδυνος. Κανονισμοί όπως το GDPR, η NIS2 και το EU AI Act λειτουργούν ως καταλύτες, αναγκάζοντας τους οργανισμούς να επενδύσουν στη συμμόρφωση.
Αλλά εδώ είναι το βασικό ερώτημα: Είναι η συμμόρφωση ένα αναγκαίο κακό ή αποτελεί το θεμέλιο μιας ανθεκτικής στρατηγικής κυβερνοασφάλειας;
Συμμόρφωση: Το Ελάχιστο Απαραίτητο Επίπεδο Ασφάλειας
Οι κανονιστικές απαιτήσεις λειτουργούν ως βασική γραμμή άμυνας. Μπορεί να μην προσφέρουν την πιο εξελιγμένη προστασία, αλλά καθορίζουν μια δομημένη προσέγγιση στη διαχείριση κινδύνων. Σύμφωνα με την τελευταία έκθεση Thales Data Threat Report 2024, οι οργανισμοί που απέτυχαν σε ελέγχους συμμόρφωσης υπέστησαν περισσότερες παραβιάσεις δεδομένων από εκείνους που πέτυχαν. Το συμπέρασμα είναι σαφές—η συμμόρφωση δεν αφορά μόνο την αποφυγή προστίμων, αλλά και την αποτροπή κυβερνοεπιθέσεων.
Για παράδειγμα, οι επιχειρήσεις που επένδυσαν σε πρακτικές προστασίας δεδομένων λόγω του GDPR βρίσκονται τώρα σε πλεονεκτική θέση για να αντιμετωπίσουν τις νέες προκλήσεις των κανονισμών για την τεχνητή νοημοσύνη. Αντίστοιχα, η NIS2 επιβάλλει μέτρα ασφαλείας βάσει κινδύνου, τα οποία ευθυγραμμίζονται με τις βέλτιστες πρακτικές κυβερνοασφάλειας.
Κανονιστική Υπερφόρτωση; Όχι Ακριβώς.
Ένα συχνό παράπονο των επαγγελματιών ασφάλειας είναι ότι βυθίζονται σε κανονιστικές απαιτήσεις. Όμως, αν εξετάσουμε προσεκτικά τους κανονισμούς, παρατηρούμε σημαντικές επικαλύψεις.
- EU AI Act vs. GDPR: Ο Νόμος για την ΤΝ (AI Act) επεκτείνει τις αρχές του GDPR, επιβάλλοντας διαφάνεια στις αποφάσεις που λαμβάνονται από συστήματα ΤΝ.
- NIS2 vs. DORA: Το DORA και η NIS2 επιβάλλουν παρόμοιες απαιτήσεις κυβερνοασφάλειας σε χρηματοπιστωτικά ιδρύματα, εξασφαλίζοντας ανθεκτικότητα έναντι κυβερνοαπειλών.
Η κατανόηση αυτών των αλληλεπικαλύψεων επιτρέπει στους οργανισμούς να αναπτύξουν μια ενοποιημένη στρατηγική συμμόρφωσης αντί να αντιμετωπίζουν κάθε κανονισμό ξεχωριστά. Παρότι το κανονιστικό τοπίο φαίνεται ομιχλώδες, εντούτοις ακολουθώντας μία ολιστική προσέγγιση επιτρέπει στις επιχειρήσεις να συμμορφωθούν με περισσότερη εμπιστοσύνη.
Η Παγίδα της Πολυπλοκότητας: Όταν η Συμμόρφωση Γίνεται Γρίφος
Δεν είναι όμως όλα τόσο απλά. Πολλοί κανονισμοί είναι σκόπιμα γενικοί ώστε να μπορούν να εφαρμόζονται σε μία πλειάδα περιπτώσεων. Αυτή όμως η γενικότητα προσθέτει περισσότερη πολυπλοκότητα, αναγκάζοντας τις επιχειρήσεις να τους προσαρμόσουν στις δικές τους ανάγκες. Αυτό δημιουργεί ένα δίλημμα: Πώς μπορεί μια εταιρεία να διασφαλίσει τη συμμόρφωση αν δεν είναι σαφές τι ακριβώς απαιτείται;
Ένα χαρακτηριστικό παράδειγμα είναι το Άρθρο 86 του EU AI Act, το οποίο δίνει στους πολίτες το δικαίωμα να λαμβάνουν “σαφείς και ουσιαστικές εξηγήσεις” για το πώς ένα σύστημα ΤΝ επηρεάζει μια απόφαση. Σύμφωνα με την Luiza Jarovsky, αυτή η απαίτηση εγείρει κρίσιμα ερωτήματα:
- Αν ακόμη και οι ίδιοι οι δημιουργοί των συστημάτων ΤΝ δεν μπορούν να εξηγήσουν πλήρως πώς λειτουργούν (το πρόβλημα του “μαύρου κουτιού”), πώς μπορούν οι οργανισμοί να δώσουν ξεκάθαρες απαντήσεις;
- Είναι τεχνολογικά εφικτό να συμμορφωθούν οι εταιρείες με αυτή την απαίτηση;
Αυτές οι αβεβαιότητες δημιουργούν ένταση μεταξύ της ρυθμιστικής φιλοδοξίας και της τεχνικής πραγματικότητας.
Βελτιώνουν τα Πρόστιμα την Ασφάλεια;
Παρόλο που τα πρόστιμα είναι ισχυρό κίνητρο, συχνά οδηγούν σε επιφανειακή συμμόρφωση αντί για ουσιαστικές βελτιώσεις ασφάλειας.
Το GDPR υπάρχει από το 2018, αλλά οι παραβιάσεις δεδομένων συνεχίζονται αμείωτες. Μερικές εταιρείες βλέπουν τη συμμόρφωση ως οικονομική εξίσωση:
“Αν το κόστος της συμμόρφωσης είναι μεγαλύτερο από το ρίσκο του προστίμου, γιατί να συμμορφωθούμε;”
Το ίδιο ερώτημα θα προκύψει και με τον EU AI Act. Αν οι οργανισμοί δυσκολευτούν να συμμορφωθούν με τις απαιτήσεις διαφάνειας στην ΤΝ, θα επιβληθούν βαριά πρόστιμα ή θα υιοθετηθεί μια πιο ήπια προσέγγιση μέχρι να καθοριστούν οι βέλτιστες πρακτικές;
Και βεβαίως δεν θα πρέπει να ξεχνάμε την επίδραση της τρέχουσας γεωπολιτικής κατάστασης στο πως τελικά θα επιβληθεί η εκάστοτε νομοθεσία. Η πρόσφατη απόφαση για την απόσυρση του ΑΙ Liability Directive είναι ένα παράδειγμα αυτής της επίδρασης.
Η Πρόκληση της Εφαρμογής: Ποιος Επιβλέπει τους Ρυθμιστές;
Οι κανονισμοί είναι αποτελεσματικοί μόνο αν εφαρμόζονται σωστά. Το EU AI Act εισάγει νέες απαιτήσεις συμμόρφωσης, αλλά έχουν οι ρυθμιστικές αρχές την τεχνογνωσία να επιβλέψουν πολύπλοκα μοντέλα ΤΝ;
Το GDPR αντιμετώπισε σοβαρές προκλήσεις στην επιβολή του:
- Οι ρυθμιστικές αρχές είναι συχνά υποστελεχωμένες, καθυστερώντας τις έρευνες.
- Υπάρχει ασυνέπεια στην επιβολή των κανόνων μεταξύ των κρατών-μελών της ΕΕ.
Ο EU AI Act είναι ακόμη πιο πολύπλοκος. Αν οι ρυθμιστές δεν μπορούν να επιβάλουν αυστηρή συμμόρφωση, οι επιχειρήσεις μπορεί να καθυστερήσουν τις προσαρμογές τους, περιμένοντας να δουν αν οι κανόνες θα εφαρμοστούν πραγματικά.
Η πρόσφατη εξέλιξη με το Smart Policing της ΕΛΑΣ αναδεικνύει αυτό ακριβώς το πρόβλημα:
“Τα 4,5 χρόνια έρευνας της ΑΠΔΠΧ, φανερώνουν επίσης ότι η πολιτεία πρέπει να στηρίξει την Αρχή Προστασίας Δεδομένων, καθώς η υψηλή εξειδίκευση των ελεγκτών της δεν είναι αρκετή, αλλά αντιθέτως απαιτούνται περισσότεροι ανθρώπινοι και οικονομικοί πόροι. Και όλα αυτά χωρίς να υπολογίζουμε τον αυξημένο φόρτο εργασίας που προβλέπεται τα ερχόμενα χρόνια με την AI Act.”
Οι ακούσιες συνέπειες της συμμόρφωσης: Καταπνίγοντας την καινοτομία;
Ενώ τα πλαίσια συμμόρφωσης αποσκοπούν στην προστασία των καταναλωτών και των επιχειρήσεων, μπορούν επίσης να δημιουργήσουν εμπόδια στην καινοτομία. Ο GDPR προοριζόταν να ενισχύσει τα δικαιώματα προστασίας της ιδιωτικής ζωής, αλλά πολλές μικρές επιχειρήσεις αντιμετώπισαν και αντιμετωπίζουν με δυσκολία το βάρος της συμμόρφωσης, οδηγώντας σε:
- Σε φυγή των νεοφυών επιχειρήσεων σε λιγότερο ρυθμιζόμενες αγορές.
- Εμπόδια στην καινοτομία λόγω της νομικής αβεβαιότητας.
Θα μπορούσε να συμβεί το ίδιο με την πράξη της ΕΕ για την τεχνητή νοημοσύνη; Οι νεοσύστατες επιχειρήσεις τεχνητής νοημοσύνης ίσως βρουν ευκολότερο να δραστηριοποιηθούν στις ΗΠΑ ή την Ασία, όπου οι κανονισμοί είναι λιγότερο αυστηροί. Η ακούσια συνέπεια; Η Ευρώπη θα μπορούσε να μείνει πίσω στην ανάπτυξη της τεχνητής νοημοσύνης, παρά το γεγονός ότι ήταν από τους πρώτους που τη ρύθμισαν.
Συμμόρφωση ως ανταγωνιστικό πλεονέκτημα
Οι οργανισμοί που σκέφτονται μπροστά από την εποχή τους αλλάζουν το σενάριο και αντιμετωπίζουν τη συμμόρφωση όχι ως βάρος ή πρόκληση, αλλά ως ανταγωνιστικό διαφοροποιητικό στοιχείο. Για παράδειγμα, σύμφωνα με έρευνα της Thales, το 89% των πελατών θα συμφωνούσαν με την χρήση των δεδομένων τους μόνο εφόσον υπάρχουν βασικές πολιτικές ασφάλειας και ιδιωτικότητας. Οι εταιρείες που αντιμετωπίζουν προληπτικά τη διαφάνεια της ΤΝ, την προστασία των δεδομένων και τους κινδύνους κυβερνοασφάλειας θα κερδίσουν μεγαλύτερη εμπιστοσύνη από πελάτες και συνεργάτες.
Πάρτε για παράδειγμα τις χρηματοπιστωτικές υπηρεσίες που βασίζονται στην ΤΝ. Μια τράπεζα που μπορεί να εξηγήσει με σαφήνεια γιατί απορρίφθηκε ένα δάνειο (σύμφωνα με τον νόμο περί ΤΝ) θα καλλιεργήσει ισχυρότερες σχέσεις με τους πελάτες της από μια τράπεζα που κρύβεται πίσω από την αλγοριθμική αδιαφάνεια. Παρομοίως, ένας πάροχος υγειονομικής περίθαλψης με ισχυρό πλαίσιο ασφαλείας συμβατό με το NIS2 θα ξεχωρίσει ως αξιόπιστος φορέας σε έναν κλάδο που μαστίζεται από παραβιάσεις δεδομένων.
Τελική σκέψη: Η συμμόρφωση δεν είναι επιλογή-αλλά ο τρόπος που την προσεγγίζετε είναι
Ρυθμιστικά πλαίσια όπως ο GDPR, η NIS2 και ο νόμος της ΕΕ για την τεχνητή νοημοσύνη ήρθαν για να μείνουν. Θα διαμορφώσουν τον τρόπο λειτουργίας των επιχειρήσεων στην ψηφιακή οικονομία, επηρεάζοντας τα πάντα, από τη διακυβέρνηση της ΤΝ έως τις επενδύσεις στην κυβερνοασφάλεια. Οι οργανισμοί μπορούν να επιλέξουν να βλέπουν τη συμμόρφωση ως βάρος, αντιδρώντας σε κάθε νέα εντολή με απογοήτευση - ή μπορούν να την αγκαλιάσουν ως θεμέλιο για την οικοδόμηση εμπιστοσύνης, ασφάλειας και μακροπρόθεσμης επιτυχίας.
Ποια θα είναι η δική σας προσέγγιση;
Η Ψηφιοποίηση της Ελληνικής Δικαιοσύνης Υπό το Πρίσμα της Τεχνητής Νοημοσύνης
Γράφει η Καλλιόπη Τερζίδου*
Η ψηφιοποίηση των δικαστηρίων σε επίπεδο διοίκησης και υπηρεσιών δεν ευδοκίμησε νωρίς στην Ελλάδα λόγω έλλειψης συστηματικού σχεδιασμού και καταφυγής σε πρόχειρες και πρόσκαιρες λύσεις για την επίλυση προβλημάτων [1]. Πλέον, οι δικηγόροι μπορούν να πραγματοποιούν μια σειρά διαδικασιών ηλεκτρονικά, όπως της αναζήτησης της πορείας πολιτικών υποθέσεων και των πινακίων της πολιτικής διαδικασίας, μέσω της Πύλης Ψηφιακών Υπηρεσιών Δικαστηρίων και Εισαγγελιών – ΟΣΔΔΥ (solon.gov.gr). Οι πολίτες έχουν πρόσβαση στις ίδιες ηλεκτρονικές υπηρεσίες με τους δικηγόρους (με εξαίρεση την κατάθεση εγγράφων), στην ψηφιακή επίδοση εγγράφων (N. 4937/2022) και στην υπηρεσία τηλεδιασκέψεων για Πολιτικά, Ποινικά και Διοικητικά Δικαστήρια, μεταξύ άλλων.
Οι πρωτοβουλίες αυτές για την ψηφιοποίηση των δικαστικών υπηρεσιών είναι σημαντικές αλλά δεν είναι πάντα αποτελεσματικές. Σύμφωνα με στοιχεία της Ένωσης Δικαστών και Εισαγγελέων [2], τα ποσοστά χρήσης των πλατφορμών του ΟΣΔΔΥ εμφανίστηκαν αρχικά χαμηλά σε σχέση με την προτίμηση των πολιτών στη δια ζώσης εξυπηρέτηση τους. Περαιτέρω, η νομολογία δεν είναι εξίσου προσβάσιμη στο ευρύ κοινό όπως στους δικηγόρους, αφού δε βρίσκεται συγκεντρωμένη σε ένα περιορισμένο αριθμό ιστοσελίδων. Έτσι ο πολίτης αναγκάζεται να επισκέπτεται την ιστοσελίδα του δικαστηρίου για το οποίο ενδιαφέρεται, με κίνδυνο να μην βρει αυτό που ψάχνει. Αυτό συμβαίνει καθώς πολλές φορές τα δικαστήρια δεν δημοσιοποιούν όλες τις αποφάσεις, για παράδειγμα λόγω μη ανωνυμοποίησης των αποφάσεων, εμπλοκής ανηλίκων στην υπόθεση, εφαρμογής συστήματος προτεραιοποίησης αποφάσεων προς δημοσιοποίηση, ή και αναποτελεσματικής διοίκησης των δικαστηρίων.
Για την αντιμετώπιση αυτών των περιορισμών, η Διαρκής Επιστημονική Επιτροπή του Υπουργείου Δικαιοσύνης για την Τεχνητή Νοημοσύνη (ΤΝ) διερευνά τις πιθανές εφαρμογές συστημάτων ΤΝ στα δικαστήρια, καθώς η ΤΝ υπόσχεται την αποτελεσματικότερη αυτοματοποίηση διαδικασιών και την αμεσότερη αλληλεπίδραση των συστημάτων με τους χρήστες. Η Επιτροπή υποβάλει προτάσεις για νομοθετικές μεταρρυθμίσεις σχετικά με την εισαγωγή συστημάτων ΤΝ στα δικαστήρια και με την καθιέρωση δικλείδων ασφαλείας των δικαιωμάτων των πολιτών.
Σύμφωνα με τις διαθέσιμες πληροφορίες της Διαρκούς Επιτροπής, δεν σχεδιάζεται ή εφαρμόζεται κάποιο σύστημα ΤΝ ‘υψηλού κινδύνου’ στα ελληνικά δικαστήρια, δηλαδή κάποιο σύστημα που μπορεί να επηρεάσει τη δημοκρατία, το κράτος δικαίου και τις ατομικές ελευθερίες, όπως το δικαίωμα στη δίκαιη δίκη [3]. Μόνη εξαίρεση μπορεί να θεωρηθεί το σχέδιο υλοποίησης συστήματος ΤΝ για τον εντοπισμό από τους ελεγκτές του Ελεγκτικού Συνεδρίου πιθανών παρατυπιών στην καταβολή δαπανών ή στην είσπραξη εσόδων του ελεγχόμενου φορέα [4]. Το εν λόγω σύστημα ΤΝ θα επιτρέπει στους ελεγκτές να επικεντρώνονται στις υποθέσεις εκείνες που παρουσιάζουν μεγάλη πιθανότητα παρατυπίας στη λειτουργία των συστημάτων οικονομικής διαχείρισης των ελεγχόμενων φορέων. Στο βαθμό που το συγκεκριμένο σύστημα ελέγχει κάποια πραγματικά περιστατικά έναντι μιας νομικής βάσης και διεξάγει συμπεράσματα για πιθανές παρατυπίες, μπορεί να θεωρηθεί ως σύστημα υψηλού κινδύνου σύμφωνα με το Παράρτημα ΙΙΙ, παράγραφος 8 του Κανονισμού για την ΤΝ. Ουσιαστικά, ο υψηλός κίνδυνος συνίσταται στην υποκατάσταση από το σύστημα ΤΝ της κρίσης των ελεγκτών ως προς την πιθανότητα ή μη παρατυπίας, ώστε να περιορίζεται η ανθρώπινη παρέμβαση και εποπτεία της λειτουργίας του συστήματος. Έτσι, πρέπει να εφαρμόζονται οι δικλείδες ασφαλείας για την ορθή εκπαίδευση και λειτουργία των συστημάτων ΤΝ κατά τα Άρθρα 8-15 του Κανονισμού.
Σε κάθε περίπτωση, η Διαρκής Επιτροπή τείνει στην ενσωμάτωση συστημάτων ΤΝ για την υποστήριξη ‘αμιγώς βοηθητικών διοικητικών δραστηριοτήτων,’ όπως τις χαρακτηρίζει ο Κανονισμός στο Προοίμιο 61. Αυτό διαφαίνεται από τα προβλεπόμενα σχέδια ενσωμάτωσης συστημάτων ΤΝ για σκοπούς όπως η ανωνυμοποίηση των δικαστικών αποφάσεων και ο έλεγχος της αναφοράς του δικηγόρου ως «Παραστάς» στη δικαστική απόφαση ώστε να του δίνεται πρόσβαση σε δικαστικά έγγραφα [5]. Το κοινό στοιχείο αυτών των συστημάτων είναι η επεξεργασία δικαστικών εγγράφων και η (περιορισμένη) αυτοματοποίηση διοικητικών δραστηριοτήτων με στόχο την υποστήριξη των δικαστικών υπαλλήλων και την επιτάχυνση της δίκης.
Ωστόσο, ο μεγαλύτερος κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ στη διοίκηση των δικαστηρίων είναι η εφαρμογή διαφορετικών αλγοριθμικών συστημάτων ή και πρακτικών ανά δικαστήριο. Για παράδειγμα, η διαφορετικοί τρόποι σύνταξης των δικαστικών αποφάσεων ανά δικαστήριο ενδέχεται να μπερδεύουν το αλγοριθμικό σύστημα, καθώς έχει εκπαιδευτεί να επεξεργάζεται ένα συγκεκριμένο μοτίβο αποφάσεων ώστε να μη δύναται να λειτουργήσει σε διαφορετικό πλαίσιο. Ένας ακόμη κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ είναι η έλλειψη μηχανογραφημένων εγγράφων τα οποία το αλγοριθμικό σύστημα μπορεί να επεξεργαστεί για να εκπαιδευτεί και να λειτουργήσει αποτελεσματικά. Έτσι, συχνά ένας ή μερικοί δικαστικοί υπάλληλοι αναλαμβάνουν κατά χειρωνακτικό τρόπο (χωρίς την υποστήριξη ψηφιακών μέσων) την επεξεργασία εγγράφων, όπως οι δικαστικές αποφάσεις, για την εκτέλεση διοικητικών δραστηριοτήτων, όπως η ανωνυμοποίηση των αποφάσεων, υποβαθμίζοντας έτσι την αποτελεσματικότητα και την επιτάχυνση των διοικητικών διαδικασιών .
Μελλοντικές πρωτοβουλίες ενσωμάτωσης συστημάτων ΤΝ στη διοίκηση των δικαστηρίων πρέπει να ελέγχονται για την ύπαρξη υψηλού κινδύνου, κυρίως όσον αφορά το δικαίωμα των πολιτών στη δίκαιη δίκη. Γι’ αυτόν το λόγο, οι υπεύθυνοι φορείς στον τομέα της δικαιοσύνης πρέπει να διενεργούν εκτιμήσεις αντικτύπου σε τακτά χρονικά διαστήματα, ώστε να εκτιμώνται οι πιθανοί κίνδυνοι που ενέχουν τα επιμέρους συστήματα ΤΝ για τα δικαιώματα των πολιτών, να αποτιμώνται οι επιπτώσεις της πραγματοποίησης τέτοιων κινδύνων, και να προβλέπονται μέτρα αντιμετώπισης τους. Στις περισσότερες περιπτώσεις, η επέμβαση προγραμματιστών θα είναι αρκετή για την επίλυση λειτουργικών ζητημάτων. Ωστόσο, η λειτουργία συστημάτων ΤΝ πρέπει να αντιμετωπίζεται ολιστικά, ώστε όχι μόνο οι προγραμματιστές αλλά και οι υπεύθυνοι φορείς και οι χρήστες των συστημάτων να συμμετέχουν στον σχεδιασμό, στην υλοποίηση και στην αξιολόγηση της λειτουργίας τους στα δικαστήρια. Μόνο μέσω ενός αποτελεσματικού και ουσιαστικού διαλόγου μεταξύ όλων των εμπλεκόμενων φορέων μπορεί να επιτευχθεί μια ομαλή και ασφαλής ενσωμάτωση συστημάτων ΤΝ στη δικαιοσύνη, με τελικό αποδέκτη των ωφελειών τους τους πολίτες.
Επιπρόσθετα, θα πρέπει να παρέχεται συνδρομή στους χρήστες των συστημάτων ΤΝ, ώστε να εφοδιάζονται με ψηφιακές δεξιότητες για την ανεμπόδιστη χρήση των συστημάτων που αφορούν είτε τη διοίκηση των δικαστηρίων είτε τις δικαστικές υπηρεσίες. Η διαλειτουργικότητα των ψηφιακών πλατφορμών και μητρώων (ως τώρα περιορισμένη μέσω gov.gr και TAXISNET) διευκολύνει περαιτέρω την πρόσβαση των χρηστών με ένα κλικ στις ηλεκτρονικές υπηρεσίες και την ταυτόχρονη ενημέρωση μιας υπόθεσης με κάθε καινούρια ενέργεια, ωθώντας τους χρήστες να προτιμούν την ηλεκτρονική έναντι της φυσικής οδού.
* Η Καλλιόπη Τερζίδου είναι Υποψήφια Διδάκτωρ της Νομικής Σχολής του Πανεπιστημίου του Λουξεμβούργου. Η έρευνα της υποστηρίζεται από το Fonds National de la Recherche (PRIDE 19/14268506).
[1] Θ. Φορτσάκης, Συμβολή για την Αποτελεσματικότητα της Δικαιοσύνης, Νομική Βιβλιοθήκη, Μάιος 2015, 233-234.
[2] Ένωση Δικαστών και Εισαγγελέων, Η Ελληνική Δικαιοσύνη το 2040, Οκτώβριος 2021, 22-25.
[3] Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη.
[4] Διαρκής Επιστημονική Επιτροπή Του ΥΔ Για Την Τεχνητή Νοημοσύνη, Πρακτικό συνεδρίασης 28 Μαΐου 2024, 21.
[5] Δρ. Ηλίας Λυμπερόπουλος, Εφαρμογές NLP-AI Πρωτοδικείου Αθηνών.
Η Ψηφιοποίηση της Δικαιοσύνης στην Ευρωπαϊκή Ένωση μέσω της Τεχνητής Νοημοσύνης
Γράφει η Καλλιόπη Τερζίδου*
Η Ευρωπαϊκή Ένωση (ΕΕ) είναι ενεργή εδώ και αρκετά χρόνια στην θέσπιση κανόνων και συστάσεων για την ψηφιοποίηση της διοίκησης των δικαστηρίων, μεταξύ άλλων μέσω συστημάτων ΤΝ. Κύρια προτεραιότητά της είναι η διασφάλιση του σεβασμού του δικαιώματος σε μία δίκαιη δίκη, εξασφαλίζοντας την ελεύθερη και πραγματική προσφυγή των πολιτών σε ανεξάρτητα και αμερόληπτα δικαστήρια. Η δράση αυτή της ΕΕ για την ψηφιοποίηση της δικαιοσύνης στα Κράτη Μέλη αντικατοπτρίζεται στον Κανονισμό για την ΤΝ. Το Προοίμιο 61 του Κανονισμού διακρίνει μεταξύ συστημάτων που προορίζονται για «αμιγώς βοηθητικές διοικητικές δραστηριότητες», όπως η ανωνυμοποίηση δικαστικών αποφάσεων, και συστημάτων που προορίζονται ή επηρεάζουν στην πράξη την απονομή δικαιοσύνης, δηλαδή συστημάτων για «την παροχή συνδρομής σε δικαστικές αρχές κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών» [1].
Στη δεύτερη περίπτωση, τα συστήματα ΤΝ χαρακτηρίζονται ως ‘υψηλού κινδύνου,’ διότι μπορεί να έχουν σημαντικό αντίκτυπο στη δημοκρατία, το κράτος δικαίου και τις ατομικές ελευθερίες, όταν υποκαθιστούν τους δικαστές στην τελική λήψη αποφάσεων. Τα συγκεκριμένα συστήματα επιτρέπεται να χρησιμοποιούνται από τις δικαστικές αρχές, ωστόσο οι πάροχοι τους πρέπει να συμμορφώνονται με τις απαιτήσεις των Άρθρων 8-15 του Κανονισμού. Αυτές οι απαιτήσεις αφορούν θέματα διαχείρισης κινδύνων, όπως οι διακρίσεις, καθ’ όλη τη διάρκεια λειτουργίας των συστημάτων, προστασίας (προσωπικών) δεδομένων, διαφάνειας και ανθρώπινης εποπτείας.
Σε κάθε περίπτωση, η διάκριση αυτή του Προοιμίου περισσότερο μπερδεύει παρά βοηθάει τους εθνικούς νομοθέτες (και κατ’ επέκταση τις δικαστικές αρχές) στην επιτυχή ψηφιοποίηση της διοίκησης των δικαστηρίων μέσω συστημάτων ΤΝ. Συγκεκριμένα, το Προοίμιο 61 του Κανονισμού προβαίνει σε μια εντελώς επιφανειακή κατηγοριοποίηση των συστημάτων ΤΝ για τον τομέα της δικαιοσύνης, με σοβαρές ερμηνευτικές ασάφειες. Αρχικά, δεν είναι ξεκάθαρο εάν τα συστήματα ΤΝ υψηλού κινδύνου πρέπει σωρευτικά να διενεργούν τις λειτουργίες της ‘έρευνας’ και ‘ερμηνείας’ των πραγματικών περιστατικών και του νόμου και της ‘εφαρμογής’ του νόμου στα πραγματικά περιστατικά. Εάν το εν λόγω σύστημα ΤΝ εκτελεί μόνο μία από αυτές τις λειτουργίες, π.χ. την ερμηνεία σχετικής νομοθεσίας ή/και νομολογίας στα πλαίσια διερεύνησης μια υπόθεσης από τον δικαστή χωρίς όμως την εφαρμογή της στα πραγματικά περιστατικά, τότε το συγκεκριμένο σύστημα δεν μπορεί να χαρακτηριστεί υψηλού κινδύνου με βάση το γράμμα του νόμου.
Τελολογικά, όμως, είναι εύλογο να χαρακτηριστεί αυτοτελώς ως ‘υψηλού κινδύνου’ ένα σύστημα ΤΝ που περιορίζεται στην ερμηνεία του νόμου, δεδομένου ότι ο δικαστής μπορεί να επηρεαστεί από τις συστάσεις του συστήματος (πιθανώς εσφαλμένες ή άλλως προβληματικές) κατά τη δικαστική του κρίση και έτσι να πάψει να είναι ανεξάρτητος. Στην τελική, η μη απαγόρευση χρήσης συστημάτων ΤΝ που υποστηρίζουν την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών είναι αμφιλεγόμενη επιλογή του νομοθέτη, ειδικά όταν το Προοίμιο 61 αναφέρει ότι «η τελική λήψη αποφάσεων πρέπει να παραμείνει δραστηριότητα κατευθυνόμενη από τον άνθρωπο». Έτσι, τίθενται ερωτήματα ως προς την έκταση της ‘συνδρομής’ που τα συστήματα ΤΝ πρέπει να προσφέρουν στους δικαστές.
Άλλη μια ερμηνευτική ασάφεια αφορά την αναγνώριση συστημάτων ΤΝ που προορίζονται για ‘αμιγώς βοηθητικές’ διοικητικές δραστηριότητες και τα οποία αντιδιαστέλλονται από τα συστήματα ΤΝ ‘υψηλού κινδύνου.’ Αν και το Προοίμιο 61 αναφέρει μια σειρά παραδειγμάτων διοικητικών δραστηριοτήτων, συμπεριλαμβανομένης της ψευδωνυμοποίησης των αποφάσεων, δεν είναι ξεκάθαρο τι εννοείται με τους προσδιορισμούς ‘αμιγώς’ και ‘βοηθητικές.’ Θα μπορούσε, για παράδειγμα, να ειπωθεί ότι η ανάθεση υποθέσεων στους δικαστές είναι μια αμιγώς βοηθητική διοικητική διαδικασία λόγω της επαναλαμβανόμενης και τυποποιημένης φύσης της δραστηριότητας αυτής, ωστόσο ένας τέτοιος χαρακτηρισμός θα αγνοούσε τις αρνητικές επιπτώσεις της αποτυχημένης ανάθεσης μιας υπόθεσης από ένα σύστημα ΤΝ. Κάτι τέτοιο μπορεί να συμβεί όταν το σύστημα αγνοεί μια υπάρχουσα σύγκρουση συμφερόντων, έτσι ώστε να απειλείται η αμεροληψία του δικαστή και κατ’ επέκταση το δικαίωμα στη δίκαιη δίκη, μετατρέποντας έτσι το σύστημα ΤΝ σε ‘υψηλού κινδύνου.’
Περαιτέρω ερωτήματα ανακύπτουν αναφορικά με την χρήση από δικαστές συστημάτων ΤΝ γενικού σκοπού (π.χ. ChatGPT) ή συστημάτων που προορίζονται (από τον πάροχο) για χρήση από δικηγόρους και όχι για «για χρήση από δικαστική αρχή ή για λογαριασμό δικαστικής αρχής,» όπως αναφέρει το Προοίμιο 61. Σε μια τέτοια περίπτωση, είναι πιθανό συστήματα ΤΝ που χρησιμοποιούνται από τους δικαστές για την έρευνα, ερμηνεία και εφαρμογή των πραγματικών περιστατικών και του νόμου να μην χαρακτηριστούν ως ‘υψηλού κινδύνου΄ γιατί προορίζονται από τον πάροχο για χρήση από το ευρύ κοινό ή από δικηγόρους.
Για παράδειγμα, η χρήση του ChatGPT, ως συστήματος ΤΝ γενικού σκοπού, από έναν δικαστή για την έρευνα κάποιας νομοθεσίας δεν επιφέρει άμεσα τον χαρακτηρισμό του ως ‘υψηλού κινδύνου’ γιατί προορίζεται για χρήση από το ευρύ κοινό. Έτσι, ο πάροχος δεν επιβαρύνεται με την τήρηση των απαιτήσεων των Άρθρων 8-15 του Κανονισμού. Παρόλα αυτά, συστημικοί κίνδυνοι, όπως οι λεγόμενες ‘παραισθήσεις’ όταν το ChatGPT παρουσιάζει μια ψευδή πληροφορία ως αληθινή με αποτέλεσμα να παραπλανεί τον χρήστη, απειλούν το δικαίωμα στην δίκαιη δίκη με το να περιορίζουν την ανεξάρτητη και αμερόληπτη κρίση του δικαστή.
Ο Ευρωπαίος νομοθέτης θα πρέπει να αναγνωρίσει τις διαφορετικές ταχύτητες ψηφιοποίησης ανά Κράτος Μέλος που επηρεάζουν τους στόχους της ΕΕ για την εξ ορισμού ψηφιοποίηση και τη διαλειτουργικότητα συστημάτων στο δικαστικό τομέα των Κρατών Μελών [2]. Αν και τα περισσότερα Κράτη Μέλη έχουν ξεκινήσει τις διαδικασίες ψηφιοποίησης βάσει συστημάτων ΤΝ, κυρίως για την ψευδωνυμοποίηση δικαστικών αποφάσεων [3], ωστόσο βρίσκονται σε αρκετά πρώιμο στάδιο καθώς σε πολλές περιπτώσεις δεν υπάρχουν αρκετά μηχανογραφημένα δεδομένα, π.χ. δικαστικές αποφάσεις, που μπορεί να επεξεργαστεί ένα σύστημα ΤΝ κατά την εκπαίδευση του. Επομένως, δεν επαρκεί η σαφής νομοθέτηση της επιτρεπτούς χρήσης συστημάτων ΤΝ για τη διασφάλιση της αποτελεσματικής και επιτυχούς εφαρμογής συστημάτων ΤΝ στα εθνικά δικαστήρια.
Η ΕΕ και οι εθνικοί φορείς, όπως το Υπουργείο Δικαιοσύνης, πρέπει να παρέχουν μεγαλύτερη οικονομική στήριξη αλλά και καθοδήγηση στα εθνικά δικαστήρια, π.χ. μέσω της εκπαίδευση και ενημέρωσης των δικαστών σχετικά με την χρήση συστημάτων ΤΝ. Σε αυτήν την προσπάθεια, είναι πολύ σημαντικό η εφαρμογή των συστημάτων ΤΝ στη διοίκηση των δικαστηρίων να γίνεται κατά εναρμονισμένο τρόπο, τουλάχιστον σε εθνικό επίπεδο, ώστε όλοι οι πολίτες να επωφελούνται ισότιμα και αδιακρίτως από τη θετική συμβολή των συστημάτων στην αποτελεσματικότητα και ποιότητα της δικαιοσύνης.
* Η Καλλιόπη Τερζίδου είναι Υποψήφια Διδάκτωρ της Νομικής Σχολής του Πανεπιστημίου του Λουξεμβούργου. Η έρευνα της υποστηρίζεται από το Fonds National de la Recherche (PRIDE 19/14268506).
[2] Council of the EU, European e-Justice Strategy 2024-2028 – Approval, 15509/23, 17 November 2023,
Data Privacy Framework - Ένα Χρόνο Μετά: Το Παιδί Περπάτησε (Μάλλον) προς Λάθος Κατεύθυνση...
Γράφουν οι Χρήστος Μακρής και Φωτεινή Κακαβά*
Τα πρώτα μας γενέθλια ήταν πάντοτε τα πιο σημαντικά. Μέσα σε ένα χρόνο ζωής, οι περισσότεροι από εμάς βιώσαν τεράστιες αλλαγές. Άλλοι περπάτησαν, άλλοι μίλησαν, όλοι γέλασαν και όλοι έκλαψαν.
Κάπως έτσι πρέπει να αξιολογήσουμε και το «θεσμικό τέκνο» που προέκυψε από μια δυσλειτουργική σχέση ετών μεταξύ ΕΕ και ΗΠΑ: την απόφαση επάρκειας του άρθρου 45 του Γενικού Κανονισμού για την Προστασία Δεδομένων (ΓΚΠΔ) που αφορά την διατλαντική διαβίβαση των προσωπικών μας δεδομένων ως Ευρωπαίοι πολίτες. Το Data Privacy Framework (DPF) συμπλήρωσε ένα έτος ζωής στις 10 Ιουλίου 2024 και έτσι οι «γονείς» αποφάσισαν να μαζευτούν στις 18-19 Ιουλίου 2024 στην Ουάσιγκτον, προκειμένου να αξιολογήσουν την πορεία ανάπτυξης του τέκνου τους.
Προκειμένου δε να καθησυχάσουν το κοινό τους ότι όλα πάνε ή θα πάνε καλά, αποφάσισαν να συντάξουν μία έκθεση ελέγχου των πεπραγμένων, με βάση στοιχεία που παρείχαν οι αρμόδιες υπηρεσίες της κυβέρνησης των Ηνωμένων Πολιτειών και με την συμμετοχή διάφορων αμερικανικών ΜΚΟ που προασπίζονται τα ανθρώπινα δικαιώματα σε θέματα ψηφιακών δικαιωμάτων και όχι μόνο.
Το αποτέλεσμα ήταν ένα κείμενο 21 σελίδων, το οποίο υποβλήθηκε στις 9 Οκτωβρίου 2024 από την Ευρωπαϊκή Επιτροπή στο Ευρωπαϊκό Κοινοβούλιο και στο Ευρωπαϊκό Συμβούλιο προς αξιολόγηση.
Ας κάνουμε όμως εδώ μία παύση, για να φρεσκάρουμε λίγο την μνήμη μας. Το Data Privacy Framework (DPF) δεν είναι το μοναδικό τέκνο ΕΕ και ΗΠΑ. Έχουν προηγηθεί δύο ατελέσφορες προσπάθειες: EU–US Safe Harbor Principles και Privacy Shield Framework. Γιατί ατελέσφορες; Γιατί και οι δύο αντίστοιχα ακυρώθηκαν από το Ευρωπαϊκό Δικαστήριο μετά από προσφυγή σε αυτό του υπέρμαχου για τα προσωπικά δεδομένα και το δικαίωμα στην ιδιωτικότητα, Max Schrems.
Η παράνομη απενεργοποίηση των ανεξάρτητων εποπτικών Αρχών από την αξιολόγηση της ορθής εφαρμογής των αποφάσεων επάρκειας, η επί της ουσίας κατάργηση του θεμελιώδους δικαιώματος για προστασία των δεδομένων μας με βάση το άρθρο 8 της Ευρωπαϊκής Χάρτας Θεμελιωδών Δικαιωμάτων, καθώς και η αδυναμία πραγματικής δικαστικής προσφυγής κατά υπευθύνου επεξεργασίας ή εκτελούντος την επεξεργασία στις ΗΠΑ, αποτέλεσαν θεμέλιους λίθους στο σκεπτικό των αποφάσεων που έκριναν την ακύρωση των δύο προηγούμενων αποφάσεων επάρκειας.
Τι διαφορετικό όμως έχει η παρούσα απόφαση επάρκειας σε σχέση με τις προηγούμενες; Από που απορρέει η νομιμότητα της και τι είναι αυτό που την καθιστά στο απυρόβλητο; Οι απαντήσεις κρύβονται στην πολυαναμενόμενη ετήσια έκθεση ελέγχου της Ευρωπαϊκής Επιτροπής που δημοσιεύθηκε στις 9 Οκτωβρίου 2024 και η οποία κρίνει (κατά πολύ) την μελλοντική πορεία της απόφασης επάρκειας.
Εν τέλει, ως συντάκτες του άρθρου, μπήκαμε στον κόπο να την διαβάσουμε από κοινού και να μεταφέρουμε την προσωπική μας άποψη σε σχέση με τα μέχρι σήμερα πεπραγμένα, ξεκινώντας πάντα από δύο απλές παραδοχές: (α) οι ΗΠΑ δεν έχουν κωδικοποιημένη νομοθεσία αντίστοιχη με τον ΓΚΠΔ και την Ευρωπαϊκή Χάρτα Θεμελιωδών Δικαιωμάτων, και επομένως δεν χωρεί νομοθετική αντιπαραβολή και (β) είναι τόσες οι Επιτροπές, Υποεπιτροπές, Υπηρεσίες, Γραφεία και Πάνελ Ειδικών στην δαιδαλώδη κυβέρνηση των Ηνωμένων Πολιτείων, που σε πιάνει πονοκέφαλος όταν προσπαθείς να βάλεις σε μία σειρά ποιος είναι υπεύθυνος για τι.
Προσπερνώντας λοιπόν τα ως άνω, η ανάγνωση της έκθεσης ελέγχου δεν ήταν τόσο δύσκολη. Ήταν απλά γεμάτη με ευχές από την Ευρωπαϊκή Επιτροπή να μεγαλώσει το παιδί με σωστές αρχές και να πάρει το δρόμο τον σωστό, βγάζοντάς μας ασπροπρόσωπους στην κοινωνία (βέβαια εκ των πραγμάτων από την ανάγνωση του DPF την πλήρη επιμέλεια του τέκνου την διατηρούν οι ΗΠΑ – με ό,τι σημαίνει αυτό, και απλά έχουν από κοινού την γονική μέριμνα με την ΕΕ).
Από κανένα σημείο της έκθεσης ελέγχου δεν προέκυψε πως προστατεύονται τα θεμελιώδη δικαιώματα των Ευρωπαίων πολιτών από πρακτικές επιτήρησης των Υπηρεσιών Ασφαλείας των ΗΠΑ, παρά μόνο εκφράστηκαν ανησυχίες από τις ΜΚΟ που συμμετείχαν στην διαβούλευση ότι οι Υπηρεσίες Ασφαλείας πλέον αγοράζουν δεδομένα πολιτών από εταιρείες του ιδιωτικού τομέα στα πλαίσια των πρακτικών παρακολούθησης. Το κείμενο της έκθεσης ελέγχου επικεντρώνει κυρίως σε εντατικές προσπάθειες επιμόρφωσης των Αμερικανών πρακτόρων των Υπηρεσιών Ασφαλείας, προκειμένου να ενημερωθούν για το πλαίσιο συμφωνίας της απόφασης επάρκειας και να συμμορφώνονται οικειοθελώς (;!) με τις αρχές της ελαχιστοποίησης των δεδομένων και της αναλογικότητας με βάση τον σκοπό της επεξεργασίας. Κοινώς, δεοντολογικά ευχολόγια.
Επιπλέον, σε σχέση με τις πολύ μεγάλες πλατφόρμες (Google, Meta), οι οποίες έχουν βρεθεί στο επίκεντρο της διαμόρφωσης των αποφάσεων επάρκειας μεταξύ ΕΕ-ΗΠΑ, γίνεται αναφορά ότι δημοσιοποιούν τα στοιχεία των αιτημάτων που έχουν δεχθεί από τις Υπηρεσίες Ασφαλείας κατά την διάρκεια του έτους στα πλαίσια διαφάνειας των εν λόγω διεργασιών. Παρ’ όλα αυτά, όταν μπήκαμε στην αντίστοιχη σελίδα της Google ανακαλύψαμε ότι η λεγόμενη διαφάνεια εκτεινόταν σε απλά στατιστικά νούμερα και με ένα προοίμιο ότι «Σε αυτή την αναφορά αιτημάτων εθνικής ασφάλειας των ΗΠΑ, αναφέρουμε ξεχωριστά τα αιτήματα από φορείς των ΗΠΑ που χρησιμοποιούν τη νομοθεσία εθνικής ασφάλειας επειδή αυτή η νομοθεσία περιορίζει τόσο τον όγκο των πληροφοριών που επιτρέπεται να κοινοποιούμε εμείς και άλλες εταιρείες πληροφοριών όσο και τη χρονική στιγμή που μπορούμε να τις κοινοποιήσουμε». Επομένως, άνθρακες ο θησαυρός.
Εν τέλει, κανείς δεν μπορεί να απαντήσει το κρισιμότερο ερώτημα όλων: πως μπορεί ένας Ευρωπαίος πολίτης να ασκήσει στις ΗΠΑ το κατοχυρωμένο δικαίωμα πραγματικής δικαστικής προσφυγής κατά υπευθύνου επεξεργασίας του άρθρου 79 ΓΚΠΔ; Απλά, δεν μπορεί. Το Data Protection Review Court (DPRC) (η σύσταση του οποίου συμφωνήθηκε μεταξύ ΕΕ – ΗΠΑ για να εκπληρωθεί το δικαίωμα δικαστικής προσφυγής) δεν είναι δικαστήριο, είναι μία διαδικασία δύο επιπέδων, όπως περιγράφεται στον ιστότοπο του Υπουργείο Δικαιοσύνης των ΗΠΑ, το οποίο μπορεί να επιβάλει την κατάλληλη αποκατάσταση (appropriate remediation) σε βάρος των εταιρειών που παραβιάζουν την απόφαση επάρκειας. Άμεση αποκατάσταση της παραβίασης δικαιωμάτων σε βάρος των υποκειμένων επεξεργασίας δεν υπάρχει. Δικαιώματα όπως αυτό της πρόσβασης, της λήθης, της διόρθωσης, του περιορισμού της επεξεργασίας και της εναντίωσης, δεν μπορούν να εξασκηθούν πέραν από τα διοικητικά όρια της ΕΕ. Επομένως, καμία έκθεση ελέγχου και κανένα στατιστικό δεδομένο δεν μπορούν να δώσουν λύσεις στα καίρια αυτά προβλήματα. Όποιος από εσάς θέλει, μπορεί να διαβάσει την εν λόγω έκθεση ελέγχου εδώ.
Χωρίς να θέλουμε να υποτιμήσουμε την προσπάθεια όλων όσων συμμετείχαν στην σύνταξη του εν λόγω εγγράφου, δεν μπορούμε να βρούμε κάτι ουσιαστικό σε αυτό που να χρήζει περαιτέρω αναφοράς. Η ισχύουσα απόφαση επάρκειας συνεχίζει να «μπάζει νερά». Νομίζουμε ότι είμαστε κοντά σε μία ακόμη «επίθεση» από πλευράς NOYB και Max Schrems για την ακύρωση της εν λόγω απόφασης (και κατά την άποψή μας, όχι αδικαιολόγητη). Η νέα εκλογή Προέδρου στις ΗΠΑ δείχνει κατά πολύ την κατεύθυνση που θα πάρει η επερχόμενη κυβέρνηση σε θέματα Εθνικής Ασφαλείας. Ήδη ο Ντόναλντ Τραμπ την ημέρα της ορκωμοσίας του κατάργησε ένα μεγάλο σύνολο ομοσπονδιακών νομοθετημάτων της κυβέρνησης Μπάιντεν, ειδικά όσα αφορούν την προστασία θεμελιωδών δικαιωμάτων και διακρίσεων. Οι ΗΠΑ βαδίζουν αδιαμφισβήτητα προς μία πολιτική εσωστρέφειας και περιορισμών στην διεκδίκηση των θεμελιωδών δικαιωμάτων.
Επειδή λοιπόν πολλοί θα θεωρήσουν ότι είμαστε ενάντια σε κάθε προσπάθεια συμφωνίας μεταξύ ΕΕ-ΗΠΑ σε θέματα διατλαντικών διαβιβάσεων δεδομένων, θα τους προλάβουμε δηλώνοντας το ακριβώς αντίθετο. Η ασφαλής μεταφορά δεδομένων στην άλλη άκρη του Ατλαντικού αποτελεί ίσως το κρισιμότερο ζήτημα βιωσιμότητας της καινοτομίας και της εξέλιξης των νέων τεχνολογιών, που θα προσφέρουν στην ανθρωπότητα λύσεις σε θεμελιώδεις τομείς όπως ενδεικτικά στην προαγωγή της κλινικής έρευνας, σε εύρεση θεραπειών για χρόνιες νόσους και στην ορθή κατανομή παγκόσμιων πόρων για την αντιμετώπιση φαινομένων υποσιτισμού και αδυναμίας περίθαλψης. Όχι όμως σε βάρος των θεμελιωδών δικαιωμάτων του ανθρώπου. Τα δεδομένα μας είναι ο νέος χρυσός αλλά ας επωφεληθούμε όλοι από αυτό.
* Ο Χρήστος Μακρής είναι Δικηγόρος με 15ετή εμπειρία, κάτοχος μεταπτυχιακού τίτλου στο Ευρωπαϊκό και Διεθνές Δίκαιο, μεταπτυχιακός φοιτητής στο πρόγραμμα Law & Technology του Πανεπιστημίου του Τίλμπουργκ (Tilburg University, the Netherlands) και ακαδημαϊκός ερευνητής σε θέματα Τεχνητής Νοημοσύνης και Προστασίας Δεδομένων.
Η Φωτεινή Κακαβά είναι Data Protection & Privacy legal expert, με 6ετή εμπειρία, κάτοχος μεταπτυχιακού τίτλου στο πρόγραμμα Law & Technology του Πανεπιστημίου του Τίλμπουργκ (Tilburg University, the Netherlands) και κάτοχος πιστοποίησης CIPM (Certified Information Privacy Management).
Απαιτήσεις της Κοινωνίας των Πολιτών προς την Ευρωπαϊκή Επιτροπή¨: Πρέπει να κλείσει τα Παράθυρα Ασφαλείας της Ψηφιακής Ταυτότητας
Υγεία, οικονομία, διαδικτυακή συμπεριφορά: Οι Ψηφιακές Ταυτότητες ετοιμάζονται να γίνουν αναπόσπαστο μέρος πολύ ευαίσθητων πτυχών της ζωής μας. Μαζί με μια διεθνή συμμαχία, διευκρινίζουμε: Οι πολίτες δεν θα εμπιστευτούν το Ευρωπαϊκό Ψηφιακό Πορτοφόλι Ταυτότητας χωρίς διαφάνεια και έλεγχο των χρηστών πάνω στα δεδομένα τους.
Ο τελικός τεχνικός σχεδιασμός του Ευρωπαϊκού Ψηφιακού Πορτοφολιού Ταυτότητας βρίσκεται αυτή τη στιγμή υπό διαπραγμάτευση. Αυτά τα σχέδια θα έχουν μεγάλο αντίκτυπο στο αν οι χρήστες θα προστατεύονται επαρκώς όταν χρησιμοποιούν το επερχόμενο σύστημα ψηφιακής ταυτότητας της Ευρώπης. Συγκεκριμένα, αυτό διαπραγματεύεται αυτή τη στιγμή στους κανονισμούς εφαρμογής του eIDAS μεταξύ των κρατών-μελών της ΕΕ και της Ευρωπαϊκής Επιτροπής.
Οι θετικές αλλαγές στην πρώτη σειρά τεχνικών κανόνων δείχνουν οτι η κοινωνία των πολιτών δουλεύει! Μαζί με 15 οργανώσεις, ευχαριστούμε τους διαπραγματευτές και αναγνωρίζουμε αυτές τις σημαντικές βελτιώσεις για την προστασία της ιδιωτικότητας και των ανθρωπίνων δικαιωμάτων. Ωστόσο, οι πιο πρόσφατες προτάσεις εξακολουθούν να έχουν σοβαρά προβλήματα ιδιωτικότητας και διαφάνειας, τα οποία αντιμετωπίζουμε στην ανοιχτή επιστολή μας προς την Ευρωπαϊκή Επιτροπή.
Ποιο είναι το πρόβλημα; Ο κανονισμός eIDAS καθορίζει συγκεκριμένους κανόνες για τις εταιρείες και τις κυβερνητικές υπηρεσίες που θέλουν να αποκτήσουν προσωπικές πληροφορίες από τα Πορτοφόλια των πολιτών. Αυτό θα μπορούσε να είναι, για παράδειγμα, μια διαδικτυακή πλατφόρμα, μια εταιρεία δημόσιων συγκοινωνιών ή ο γιατρός σας. Υποχρεώνει αυτές τις λεγόμενες «εμπιστευόμενες πλευρές» να καταγράψουν τη χρήση που προγραμματίζουν για το Πορτοφόλι, δηλαδή ποια χαρακτηριστικά σκοπεύουν να ζητήσουν από τους χρήστες. Ο κανονισμός τους απαγορεύει επίσης να ζητούν πληροφορίες που ξεπερνούν το καθεστώς εγγραφής τους. Αυτό θα μπορούσε να σημαίνει, για παράδειγμα, ότι, σύμφωνα με το καθεστώς εγγραφής του, ένα διαδικτυακό κατάστημα επιτρέπεται να ζητήσει μόνο το όνομά σας και τη διεύθυνση σας, αλλά όχι την ημερομηνία γέννησής σας ή άλλες πληροφορίες. Μια πλατφόρμα πορνογραφίας μπορεί να χρησιμοποιήσει το Πορτοφόλι για να επαληθεύσει την ηλικία σας, αλλά δεν θα μπορούσε να αποκτήσει άλλες πληροφορίες για εσάς ή να χρησιμοποιήσει άλλες μεθόδους για να παρακολουθήσει τη συμπεριφορά σας. Επομένως, για να προστατευτούν όλοι από παράνομες αιτήσεις δεδομένων, το Ευρωπαϊκό Ψηφιακό Πορτοφόλι Ταυτότητας πρέπει να γνωρίζει ποια προσωπικά δεδομένα επιτρέπεται να αποκτήσει μια εμπιστευόμενη πλευρά με βάση το καθεστώς εγγραφής της.
Ωστόσο, η Ευρωπαϊκή Επιτροπή προτείνει ένα παράθυρο ασφάλειας που θα αφήνει στο κράτος-μέλος που κατέγραψε την εμπιστευόμενη πλευρά να αποφασίσει αν το Πορτοφόλι γνωρίζει το περιεχόμενο της καταγραφής ή όχι. Αυτό θα επέτρεπε στην Facebook Ireland να παρακάμψει τις προστασίες και να ζητήσει από τους Ευρωπαίους χρήστες τα πάντα. Επιπλέον, το δημόσιο μητρώο των εμπιστευόμενων πλευρών κινδυνεύει να είναι άχρηστο χωρίς εναρμονισμένες προδιαγραφές για το πώς να το προσπελάσει κανείς και τι αποτελέσματα να αναμένει. Τελικά, η εμπιστοσύνη που θα έχουμε στο Πορτοφόλι θα εξαρτηθεί από τις προστασίες και τη διαφάνεια στις οποίες μπορούμε να βασιστούμε.
15 Οργανώσεις απαιτούν σήμερα να κλείσουν τα παράθυρα ασφαλείας της Επιτροπής! Αν αυτά τα παράθυρα ασφαλείας παραμείνουν, αυτό θα έχει καταστροφικές συνέπειες. Οποιαδήποτε διάκριση βασισμένη σε παράνομη πρόσβαση σε χαρακτηριστικά του Πορτοφολιού (υγεία, φύλο, εισόδημα κ.λπ.) θα είναι ανεξέλεγκτη. Δεδομένου του ιστορικού της χαλαρής εφαρμογής της προστασίας δεδομένων σε χώρες όπως η Ιρλανδία, εταιρείες όπως η Facebook Ireland θα είχαν πιθανώς την εξουσία να ζητήσουν οποιαδήποτε δεδομένα θέλουν. Τα κράτη-μέλη που είναι αφοσιωμένα στην προστασία των χρηστών τους από παράνομες αιτήσεις, από την άλλη πλευρά, δεν θα μπορούν να το κάνουν. Επομένως, ζητούμε από την Επιτροπή να καταστήσει υποχρεωτικά τα πιστοποιητικά καταγραφής των εμπιστευόμενων πλευρών για όλες τις εμπιστευόμενες πλευρές και να εκδώσει εναρμονισμένες προδιαγραφές για την πρόσβαση στο μητρώο των εμπιστευόμενων πλευρών κάθε κράτους μέλους.
Διαβάστε την Ανοιχτή Επιστολή μας εδώ.
Δημοσιεύουμε κοινή δήλωση για τις αναμενόμενες Κατευθυντήριες Γραμμές της Ευρωπαϊκής Επιτροπής για τις Απαγορευμένες Πρακτικές του AI Act
Στις 11 Δεκεμβρίου 2024, η Ευρωπαϊκή Επιτροπή ολοκλήρωσε τη δημόσια διαβούλευσή της για την ερμηνεία του ορισμού ενός συστήματος Τεχνητής Νοημοσύνης και για τις απαγορευμένες πρακτικές τεχνητής νοημοσύνης, σύμφωνα με τις διατάξεις του Κανονισμού 2024/1689 (AI Act). H Homo Digitalis είχε συμμετάσχει στη σχετική διαδικασία.
Στο πλαίσιο της έκδοσης των αναμενόμενων κατευθυντηρίων γραμμών της Επιτροπής, παραμένουν ανησυχίες για ενδεχόμενα κενά που θα μπορούσαν να θέσουν σε κίνδυνο τα θεμελιώδη δικαιώματα. Γι’ αυτόν τον λόγο και από κοινού με περισσότερες από 25 οργανώσεις της Κοινωνίας των Πολιτών, ακαδημαϊκούς και άλλους ειδικούς, εκδίδουμε σήμερα μία δήλωση ζητώντας από την Υπηρεσία Τεχνητής Νοημοσύνης (AI Office) και την Ευρωπαϊκή Επιτροπή να εξασφαλίσουν συγκεκριμένα αιτήματα.
Μπορείτε να διαβάσετε τη κοινή μας δήλωση εδώ.
!
Δημοσιεύουμε την Τρίτη Μελέτη μας για την AI Act εστιάζοντας στο Άρθρο 5 & τις Απαγορευμένες Πρακτικές
Σήμερα η Homo Digitalis δημοσιεύει την τρίτη μελέτη της για τον Κανονισμό 2024/1689, τη πασίγνωστη πλέον AI Act με τίτλο «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση διατάξεων για τις απαγορευμένες πρακτικές του άρθρου 5 του Κανονισμού 2024/1689».
Η συγγραφική ομάδα της μελέτης αποτελείται από τη Σοφία Αντωνοπούλου, τη Λαμπρινή Γυφκτοκώστα, την Τάνια Σκραπαλιώρη, τον Λευτέρη Χελιουδάκη και τη Σταυρούλα Χούσου.
Σκοπός της παρούσας ανάλυσης της Homo Digitalis είναι η συστηματική προσέγγιση κάθε διάταξης του άρθρου 5 του Κανονισμού για την ΤΝ, που σχετίζονται με τις Χειριστικές ή παραπλανητικές τεχνικές, την Εκμετάλλευση τρωτών στοιχείων, την Αξιολόγηση κοινωνικής συμπεριφοράς, τις Βάσεις δεδομένων αναγνώρισης προσώπου, την Πρόβλεψη τέλεσης αξιόποινης πράξης, τη Συναγωγή συναισθημάτων, τα Συστήματα βιομετρικής κατηγοριοποίησης και την Εξ αποστάσεως βιομετρική ταυτοποίηση.
Με τη μελέτη μας παρέχουμε στοχευμένα ερωτήματα που αναδεικνύουν τις κρίσιμες πτυχές των επί μέρους διατάξεων, εντοπίζοντας τις λεγόμενες “γκρι ζώνες” – εκείνων των σημείων δηλαδή που παρουσιάζουν ασάφειες, επικαλύψεις ή δυνητικές ερμηνευτικές δυσκολίες, ενώ τεκμηριώνουμε τους προβληματισμούς μας μέσω συγκεκριμένων παραδειγμάτων. Τέλος, διατυπώνουμε συγκεκριμένα ερωτήματα προς επεξήγηση από τις επικείμενες κατευθυντήριες γραμμές της Υπηρεσίας για την ΤΝ της Ευρωπαϊκής Επιτροπής (ΑΙ Office) αλλά και τον εθνικό νομοθέτη, με στόχο την πληρέστερη αποσαφήνιση των υφιστάμενων ζητημάτων.
Όπως οι δύο πρώτες μας μελέτες (οι οποίες δημοσιεύθηκαν τον Οκτώβριο και τον Νοέμβριο του 2024, αντίστοιχα) και η τρίτη μας Μελέτη έχει ως σκοπό να σταθεί αρωγός στο Υπουργείο Ψηφιακής Διακυβέρνησης που έχει ως αποστολή να μεταφέρει την AI Act στην Ελλάδα, αλλά και με τις λεπτομερείς αναλύσεις και τα επιχειρήματά μας να βοηθήσουμε στην ωρίμανση του δημόσιου διαλόγου και να δώσουμε τη δυνατότητα σε περισσότερες οργανώσεις της Κοινωνίας των Πολιτών να συμμετέχουν ενεργά σε αυτόν.
Μπορείτε να διαβάσετε τη Μελέτη μας «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση διατάξεων για τις απαγορευμένες πρακτικές του άρθρου 5 του Κανονισμού 2024/1689» εδώ.
Η Homo Digitalis συμμετείχε στη διαβούλευση του Γραφείου Τεχνητής Νοημοσύνης για τις Απαγορευμένες Πρακτικές στο πλαίσιο της AI Act.
Τον Νοέμβριο του 2024, το Γραφείο Τεχνητής Νοημοσύνης της Ευρωπαϊκής Επιτροπής ξεκίνησε διαβούλευση σχετικά με τις απαγορευμένες πρακτικές συστημάτων ΤΝ και τον ορισμό των συστημάτων Τεχνητής Νοημοσύνης που προβλέπουν οι διατάξεις του Κανονισμού για την Τεχνητή Νοημοσύνη.
Οι κατευθυντήριες γραμμές που βρίσκονται υπό επεξεργασία θα βοηθήσουν τις εθνικές αρμόδιες αρχές, καθώς και τους παρόχους, να συμμορφωθούν με τους κανόνες του Κανονισμού για την Τεχνητή Νοημοσύνη όσον αφορά αυτές τις πρακτικές, πριν από την εφαρμογή των σχετικών διατάξεων στις 2 Φεβρουαρίου 2025.
Η Homo Digitalis συμμετείχε σε αυτή τη δημόσια διαβούλευση υποβάλλοντας τις προτάσεις μας, με στόχο να αναδείξουμε προκλήσεις και να παρέχουμε περαιτέρω σαφήνεια σχετικά με πρακτικά ζητήματα και επιμέρους περιπτώσεις χρήσης.
Η ομάδα συγγραφής της δημόσιας διαβούλευσης αποτελείται από τη Διευθύντρια Ανθρωπίνων Δικαιωμάτων και Τεχνητής Νοημοσύνης μας, Λαμπρινή Γυφτοκώστα, και τα μέλη μας Σοφία Αντωνοπούλου και Σταυρίνα Χούσου.
Μπορείτε να διαβάσετε την παρέμβασή μας εδώ.
Μείνετε συντονισμένοι, καθώς σύντομα θα δημοσιεύσουμε την ειδική μας αναφορά σχετικά με τον Κανονισμό για την Τεχνητή Νοημοσύνη και τις διατάξεις του για τις Απαγορευμένες Πρακτικές!
Η Ευρώπη πρέπει να δεσμευτεί για ισχυρή εφαρμογή των Κανονισμών DSA, DMA και άλλων ψηφιακών νόμων για την προστασία των ανθρώπων, της δημοκρατίας μας και της οικονομίας!
Διαβάστε την ανοιχτή μας επιστολή εδώ.