Γράφει η Καλλιόπη Τερζίδου*

Η Ευρωπαϊκή Ένωση (ΕΕ) είναι ενεργή εδώ και αρκετά χρόνια στην θέσπιση κανόνων και συστάσεων για την ψηφιοποίηση της διοίκησης των δικαστηρίων, μεταξύ άλλων μέσω συστημάτων ΤΝ. Κύρια προτεραιότητά της είναι η διασφάλιση του σεβασμού του δικαιώματος σε μία δίκαιη δίκη, εξασφαλίζοντας την ελεύθερη και πραγματική προσφυγή των πολιτών σε ανεξάρτητα και αμερόληπτα δικαστήρια. Η δράση αυτή της ΕΕ για την ψηφιοποίηση της δικαιοσύνης στα Κράτη Μέλη αντικατοπτρίζεται στον Κανονισμό για την ΤΝ. Το Προοίμιο 61 του Κανονισμού διακρίνει μεταξύ συστημάτων που προορίζονται για «αμιγώς βοηθητικές διοικητικές δραστηριότητες», όπως η ανωνυμοποίηση δικαστικών αποφάσεων, και συστημάτων που προορίζονται ή επηρεάζουν στην πράξη την απονομή δικαιοσύνης, δηλαδή συστημάτων για «την παροχή συνδρομής σε δικαστικές αρχές κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών» [1].

Στη δεύτερη περίπτωση, τα συστήματα ΤΝ χαρακτηρίζονται ως ‘υψηλού κινδύνου,’ διότι μπορεί να έχουν σημαντικό αντίκτυπο στη δημοκρατία, το κράτος δικαίου και τις ατομικές ελευθερίες, όταν υποκαθιστούν τους δικαστές στην τελική λήψη αποφάσεων. Τα συγκεκριμένα συστήματα επιτρέπεται να χρησιμοποιούνται από τις δικαστικές αρχές, ωστόσο οι πάροχοι τους πρέπει να συμμορφώνονται με τις απαιτήσεις των Άρθρων 8-15 του Κανονισμού. Αυτές οι απαιτήσεις αφορούν θέματα διαχείρισης κινδύνων, όπως οι διακρίσεις, καθ’ όλη τη διάρκεια λειτουργίας των συστημάτων, προστασίας (προσωπικών) δεδομένων, διαφάνειας και ανθρώπινης εποπτείας. 

Σε κάθε περίπτωση, η διάκριση αυτή του Προοιμίου περισσότερο μπερδεύει παρά βοηθάει τους εθνικούς νομοθέτες (και κατ’ επέκταση τις δικαστικές αρχές) στην επιτυχή ψηφιοποίηση της διοίκησης των δικαστηρίων μέσω συστημάτων ΤΝ. Συγκεκριμένα, το Προοίμιο 61 του Κανονισμού προβαίνει σε μια εντελώς επιφανειακή κατηγοριοποίηση των συστημάτων ΤΝ για τον τομέα της δικαιοσύνης, με σοβαρές ερμηνευτικές ασάφειες. Αρχικά, δεν είναι ξεκάθαρο εάν τα συστήματα ΤΝ υψηλού κινδύνου πρέπει σωρευτικά να διενεργούν τις λειτουργίες της ‘έρευνας’ και ‘ερμηνείας’ των πραγματικών περιστατικών και του νόμου και της ‘εφαρμογής’ του νόμου στα πραγματικά περιστατικά. Εάν το εν λόγω σύστημα ΤΝ εκτελεί μόνο μία από αυτές τις λειτουργίες, π.χ. την ερμηνεία σχετικής νομοθεσίας ή/και νομολογίας στα πλαίσια διερεύνησης μια υπόθεσης από τον δικαστή χωρίς όμως την εφαρμογή της στα πραγματικά περιστατικά, τότε το συγκεκριμένο σύστημα δεν μπορεί να χαρακτηριστεί υψηλού κινδύνου με βάση το γράμμα του νόμου.

Τελολογικά, όμως, είναι εύλογο να χαρακτηριστεί αυτοτελώς ως ‘υψηλού κινδύνου’ ένα σύστημα ΤΝ που περιορίζεται στην ερμηνεία του νόμου, δεδομένου ότι  ο δικαστής μπορεί να επηρεαστεί από τις συστάσεις του συστήματος (πιθανώς εσφαλμένες ή άλλως προβληματικές) κατά τη δικαστική του κρίση και έτσι να πάψει να είναι ανεξάρτητος. Στην τελική, η μη απαγόρευση χρήσης συστημάτων ΤΝ που υποστηρίζουν την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών είναι αμφιλεγόμενη επιλογή του νομοθέτη, ειδικά όταν το Προοίμιο 61 αναφέρει ότι «η τελική λήψη αποφάσεων πρέπει να παραμείνει δραστηριότητα κατευθυνόμενη από τον άνθρωπο». Έτσι, τίθενται ερωτήματα ως προς την έκταση της ‘συνδρομής’ που τα συστήματα ΤΝ πρέπει να προσφέρουν στους δικαστές.

Άλλη μια ερμηνευτική ασάφεια αφορά την αναγνώριση συστημάτων ΤΝ που προορίζονται για ‘αμιγώς βοηθητικές’ διοικητικές δραστηριότητες και τα οποία αντιδιαστέλλονται από τα συστήματα ΤΝ ‘υψηλού κινδύνου.’ Αν και το Προοίμιο 61 αναφέρει μια σειρά παραδειγμάτων διοικητικών δραστηριοτήτων, συμπεριλαμβανομένης της ψευδωνυμοποίησης των αποφάσεων, δεν είναι ξεκάθαρο τι εννοείται με τους προσδιορισμούς ‘αμιγώς’ και ‘βοηθητικές.’ Θα μπορούσε, για παράδειγμα, να ειπωθεί ότι η ανάθεση υποθέσεων στους δικαστές είναι μια αμιγώς βοηθητική διοικητική διαδικασία λόγω της επαναλαμβανόμενης και τυποποιημένης φύσης της δραστηριότητας αυτής, ωστόσο ένας τέτοιος χαρακτηρισμός θα αγνοούσε τις αρνητικές επιπτώσεις της αποτυχημένης ανάθεσης μιας υπόθεσης από ένα σύστημα ΤΝ. Κάτι τέτοιο μπορεί να συμβεί όταν το σύστημα αγνοεί μια υπάρχουσα σύγκρουση συμφερόντων, έτσι ώστε να απειλείται η αμεροληψία του δικαστή και κατ’ επέκταση το δικαίωμα στη δίκαιη δίκη, μετατρέποντας έτσι το σύστημα ΤΝ σε ‘υψηλού κινδύνου.’

Περαιτέρω ερωτήματα ανακύπτουν αναφορικά με την χρήση από δικαστές συστημάτων ΤΝ γενικού σκοπού (π.χ.  ChatGPT) ή συστημάτων που προορίζονται (από τον πάροχο) για χρήση από δικηγόρους και όχι για «για χρήση από δικαστική αρχή ή για λογαριασμό δικαστικής αρχής,» όπως αναφέρει το Προοίμιο 61. Σε μια τέτοια περίπτωση, είναι πιθανό συστήματα ΤΝ που χρησιμοποιούνται από τους δικαστές για την έρευνα, ερμηνεία και εφαρμογή των πραγματικών περιστατικών και του νόμου να μην χαρακτηριστούν ως ‘υψηλού κινδύνου΄ γιατί προορίζονται από τον πάροχο για χρήση από το ευρύ κοινό ή από δικηγόρους.

Για παράδειγμα, η χρήση του ChatGPT, ως συστήματος ΤΝ γενικού σκοπού, από έναν δικαστή για την έρευνα κάποιας νομοθεσίας δεν επιφέρει άμεσα τον χαρακτηρισμό του ως ‘υψηλού κινδύνου’ γιατί προορίζεται για χρήση από το ευρύ κοινό. Έτσι, ο πάροχος δεν επιβαρύνεται με την τήρηση των απαιτήσεων των Άρθρων 8-15 του Κανονισμού. Παρόλα αυτά, συστημικοί κίνδυνοι, όπως οι λεγόμενες ‘παραισθήσεις’ όταν το ChatGPT παρουσιάζει μια ψευδή πληροφορία ως αληθινή με αποτέλεσμα να παραπλανεί τον χρήστη, απειλούν το δικαίωμα στην δίκαιη δίκη με το να περιορίζουν την ανεξάρτητη και αμερόληπτη κρίση του δικαστή.

Ο Ευρωπαίος νομοθέτης θα πρέπει να αναγνωρίσει τις διαφορετικές ταχύτητες ψηφιοποίησης ανά Κράτος Μέλος που επηρεάζουν τους στόχους της ΕΕ για την εξ ορισμού ψηφιοποίηση και τη διαλειτουργικότητα συστημάτων στο δικαστικό τομέα των Κρατών Μελών [2]. Αν και τα περισσότερα Κράτη Μέλη έχουν ξεκινήσει τις διαδικασίες ψηφιοποίησης βάσει συστημάτων ΤΝ, κυρίως για την ψευδωνυμοποίηση δικαστικών αποφάσεων [3], ωστόσο βρίσκονται σε αρκετά πρώιμο στάδιο καθώς σε πολλές περιπτώσεις δεν υπάρχουν αρκετά μηχανογραφημένα δεδομένα, π.χ. δικαστικές αποφάσεις, που μπορεί να επεξεργαστεί ένα σύστημα ΤΝ κατά την εκπαίδευση του. Επομένως, δεν επαρκεί η σαφής νομοθέτηση της επιτρεπτούς χρήσης συστημάτων ΤΝ για τη διασφάλιση της αποτελεσματικής και επιτυχούς εφαρμογής συστημάτων ΤΝ στα εθνικά δικαστήρια.

Η ΕΕ και οι εθνικοί φορείς, όπως το Υπουργείο Δικαιοσύνης, πρέπει να παρέχουν μεγαλύτερη οικονομική στήριξη αλλά και καθοδήγηση στα εθνικά δικαστήρια, π.χ. μέσω της εκπαίδευση και ενημέρωσης των δικαστών σχετικά με την χρήση συστημάτων ΤΝ. Σε αυτήν την προσπάθεια, είναι πολύ σημαντικό η εφαρμογή των συστημάτων ΤΝ στη διοίκηση των δικαστηρίων να γίνεται κατά εναρμονισμένο τρόπο, τουλάχιστον σε εθνικό επίπεδο, ώστε όλοι οι πολίτες να επωφελούνται ισότιμα και αδιακρίτως από τη θετική συμβολή των συστημάτων στην αποτελεσματικότητα και ποιότητα της δικαιοσύνης. 

* Η Καλλιόπη Τερζίδου είναι Υποψήφια Διδάκτωρ της Νομικής Σχολής του Πανεπιστημίου του Λουξεμβούργου. Η έρευνα της υποστηρίζεται από το Fonds National de la Recherche (PRIDE 19/14268506).

[1] Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη, 

[2] Council of the EU, European e-Justice Strategy 2024-2028 – Approval, 15509/23, 17 November 2023, 

[3] Directorate-General for Justice and Consumers (European Commission) , Trasys International, Study on the use of innovative technologies in the justice field, Jnauary 2020, 111-142.

Με μεγάλη μας χαρά ανακοινώνουμε ότι για ακόμη μία χρονιά το Digital World Summit Greece (DWS Greece) και η Ηοmo Digitalis προχωρούν σε στρατηγική συνεργασία!

Το Digital World Summit Greece (DWS Greece) έχει ως στόχο τη δημοκρατική διακυβέρνηση των νέων τεχνολογιών. Ως πλατφόρμα διαλόγου συγκεντρώνει διαφορετικούς φορείς και ομάδες, διαμορφώνοντας από τη βάση προς την κορυφή πολιτικές που αφορούν την τεχνητή νοημοσύνη, τις πλατφόρμες, το Διαδίκτυο των Πραγμάτων, και ευρύτερα ό,τι σχετίζεται με τον τομέα της τεχνολογίας.

Η Homo Digitalis στηρίζει έμπρακτα το DWS Greece από τα πρώτα του βήματα και είναι μεγάλη μας τιμή να συνεχίζουμε να το κάνουμε δυναμικά, προκειμένου μαζί να βοηθήσουμε στην ωρίμανση του δημόσιου διαλόγου στην Ελλάδα σχετικά με ζητήματα που άπτονται ψηφιακών δικαιωμάτων.

Μπορείτε να μάθετε περισσότερα για τις δράσεις του Digital World Summit Greece στην ιστοσελίδα τους, εδώ.