Γράφει η Καλλιόπη Τερζίδου*

Η ψηφιοποίηση των δικαστηρίων σε επίπεδο διοίκησης και υπηρεσιών δεν ευδοκίμησε νωρίς στην Ελλάδα λόγω έλλειψης συστηματικού σχεδιασμού και καταφυγής σε πρόχειρες και πρόσκαιρες λύσεις για την επίλυση προβλημάτων [1]. Πλέον, οι δικηγόροι μπορούν να πραγματοποιούν μια σειρά διαδικασιών ηλεκτρονικά, όπως της αναζήτησης της πορείας πολιτικών υποθέσεων και των πινακίων της πολιτικής διαδικασίας, μέσω της Πύλης Ψηφιακών Υπηρεσιών Δικαστηρίων και Εισαγγελιών – ΟΣΔΔΥ (solon.gov.gr). Οι πολίτες έχουν πρόσβαση στις ίδιες ηλεκτρονικές υπηρεσίες με τους δικηγόρους (με εξαίρεση την κατάθεση εγγράφων), στην ψηφιακή επίδοση εγγράφων (N. 4937/2022) και στην υπηρεσία τηλεδιασκέψεων για Πολιτικά, Ποινικά και Διοικητικά Δικαστήρια, μεταξύ άλλων. 

Οι πρωτοβουλίες αυτές για την ψηφιοποίηση των δικαστικών υπηρεσιών είναι σημαντικές αλλά δεν είναι πάντα αποτελεσματικές. Σύμφωνα με στοιχεία της Ένωσης Δικαστών και Εισαγγελέων [2], τα ποσοστά χρήσης των πλατφορμών του ΟΣΔΔΥ εμφανίστηκαν αρχικά χαμηλά σε σχέση με την προτίμηση των πολιτών στη δια ζώσης εξυπηρέτηση τους. Περαιτέρω, η νομολογία δεν είναι εξίσου προσβάσιμη στο ευρύ κοινό όπως στους δικηγόρους, αφού δε βρίσκεται συγκεντρωμένη σε ένα περιορισμένο αριθμό ιστοσελίδων. Έτσι ο πολίτης αναγκάζεται να επισκέπτεται την ιστοσελίδα του δικαστηρίου για το οποίο ενδιαφέρεται, με κίνδυνο να μην βρει αυτό που ψάχνει. Αυτό συμβαίνει καθώς πολλές φορές τα δικαστήρια δεν δημοσιοποιούν όλες τις αποφάσεις, για παράδειγμα λόγω μη ανωνυμοποίησης των αποφάσεων, εμπλοκής ανηλίκων στην υπόθεση, εφαρμογής συστήματος προτεραιοποίησης αποφάσεων προς δημοσιοποίηση, ή και αναποτελεσματικής διοίκησης των δικαστηρίων. 

Για την αντιμετώπιση αυτών των περιορισμών, η Διαρκής Επιστημονική Επιτροπή του Υπουργείου Δικαιοσύνης για την Τεχνητή Νοημοσύνη (ΤΝ) διερευνά τις πιθανές εφαρμογές συστημάτων ΤΝ στα δικαστήρια, καθώς η ΤΝ υπόσχεται την αποτελεσματικότερη αυτοματοποίηση διαδικασιών και την αμεσότερη αλληλεπίδραση των συστημάτων με τους χρήστες. Η Επιτροπή υποβάλει προτάσεις για νομοθετικές μεταρρυθμίσεις σχετικά με την εισαγωγή συστημάτων ΤΝ στα δικαστήρια και με την καθιέρωση δικλείδων ασφαλείας των δικαιωμάτων των πολιτών. 

Σύμφωνα με τις διαθέσιμες πληροφορίες της Διαρκούς Επιτροπής, δεν σχεδιάζεται ή εφαρμόζεται κάποιο σύστημα ΤΝ ‘υψηλού κινδύνου’ στα ελληνικά δικαστήρια, δηλαδή κάποιο σύστημα που μπορεί να επηρεάσει τη δημοκρατία, το κράτος δικαίου και τις ατομικές ελευθερίες, όπως το δικαίωμα στη δίκαιη δίκη [3]. Μόνη εξαίρεση μπορεί να θεωρηθεί το σχέδιο υλοποίησης συστήματος ΤΝ για τον εντοπισμό από τους ελεγκτές του Ελεγκτικού Συνεδρίου πιθανών παρατυπιών στην καταβολή δαπανών ή στην είσπραξη εσόδων του ελεγχόμενου φορέα [4]. Το εν λόγω σύστημα ΤΝ θα επιτρέπει στους ελεγκτές να επικεντρώνονται στις υποθέσεις εκείνες που παρουσιάζουν μεγάλη πιθανότητα παρατυπίας στη λειτουργία των συστημάτων οικονομικής διαχείρισης των ελεγχόμενων φορέων. Στο βαθμό που το συγκεκριμένο σύστημα ελέγχει κάποια πραγματικά περιστατικά έναντι μιας νομικής βάσης και διεξάγει συμπεράσματα για πιθανές παρατυπίες, μπορεί να θεωρηθεί ως σύστημα υψηλού κινδύνου σύμφωνα με το Παράρτημα ΙΙΙ, παράγραφος 8 του Κανονισμού για την ΤΝ. Ουσιαστικά, ο υψηλός κίνδυνος συνίσταται στην υποκατάσταση από το σύστημα ΤΝ της κρίσης των ελεγκτών ως προς την πιθανότητα ή μη παρατυπίας, ώστε να περιορίζεται η ανθρώπινη παρέμβαση και εποπτεία της λειτουργίας του συστήματος. Έτσι, πρέπει να εφαρμόζονται οι δικλείδες ασφαλείας για την ορθή εκπαίδευση και λειτουργία των συστημάτων ΤΝ κατά τα Άρθρα 8-15 του Κανονισμού.

Σε κάθε περίπτωση, η Διαρκής Επιτροπή τείνει στην ενσωμάτωση συστημάτων ΤΝ για την υποστήριξη ‘αμιγώς βοηθητικών διοικητικών δραστηριοτήτων,’ όπως τις χαρακτηρίζει ο Κανονισμός στο Προοίμιο 61. Αυτό διαφαίνεται από τα προβλεπόμενα σχέδια ενσωμάτωσης συστημάτων ΤΝ για σκοπούς όπως η ανωνυμοποίηση των δικαστικών αποφάσεων και ο έλεγχος της αναφοράς του δικηγόρου ως «Παραστάς» στη δικαστική απόφαση ώστε να του δίνεται πρόσβαση σε δικαστικά έγγραφα [5]. Το κοινό στοιχείο αυτών των συστημάτων είναι η επεξεργασία δικαστικών εγγράφων και η (περιορισμένη) αυτοματοποίηση διοικητικών δραστηριοτήτων με στόχο την υποστήριξη των δικαστικών υπαλλήλων και την επιτάχυνση της δίκης. 

Ωστόσο, ο μεγαλύτερος κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ στη διοίκηση των δικαστηρίων είναι η εφαρμογή διαφορετικών αλγοριθμικών συστημάτων ή και πρακτικών ανά δικαστήριο. Για παράδειγμα, η διαφορετικοί τρόποι σύνταξης των δικαστικών αποφάσεων ανά δικαστήριο ενδέχεται να μπερδεύουν το αλγοριθμικό σύστημα, καθώς έχει εκπαιδευτεί να επεξεργάζεται ένα συγκεκριμένο μοτίβο αποφάσεων ώστε να μη δύναται να λειτουργήσει σε διαφορετικό πλαίσιο. Ένας ακόμη κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ είναι η έλλειψη μηχανογραφημένων εγγράφων τα οποία το αλγοριθμικό σύστημα μπορεί να επεξεργαστεί για να εκπαιδευτεί και να λειτουργήσει αποτελεσματικά. Έτσι, συχνά ένας ή μερικοί δικαστικοί υπάλληλοι αναλαμβάνουν κατά χειρωνακτικό τρόπο (χωρίς την υποστήριξη ψηφιακών μέσων) την επεξεργασία εγγράφων, όπως οι δικαστικές αποφάσεις, για την εκτέλεση διοικητικών δραστηριοτήτων, όπως η ανωνυμοποίηση των αποφάσεων, υποβαθμίζοντας έτσι την αποτελεσματικότητα και την επιτάχυνση των διοικητικών διαδικασιών .

Μελλοντικές πρωτοβουλίες ενσωμάτωσης συστημάτων ΤΝ στη διοίκηση των δικαστηρίων πρέπει να ελέγχονται για την ύπαρξη υψηλού κινδύνου, κυρίως όσον αφορά το δικαίωμα των πολιτών στη δίκαιη δίκη. Γι’ αυτόν το λόγο, οι υπεύθυνοι φορείς στον τομέα της δικαιοσύνης πρέπει να διενεργούν εκτιμήσεις αντικτύπου σε τακτά χρονικά διαστήματα, ώστε να εκτιμώνται οι πιθανοί κίνδυνοι που ενέχουν τα επιμέρους συστήματα ΤΝ για τα δικαιώματα των πολιτών, να αποτιμώνται οι επιπτώσεις της πραγματοποίησης τέτοιων κινδύνων, και να προβλέπονται  μέτρα αντιμετώπισης τους. Στις περισσότερες περιπτώσεις, η επέμβαση προγραμματιστών θα είναι αρκετή για την επίλυση λειτουργικών ζητημάτων. Ωστόσο, η λειτουργία συστημάτων ΤΝ πρέπει να αντιμετωπίζεται ολιστικά, ώστε όχι μόνο οι προγραμματιστές αλλά και οι υπεύθυνοι φορείς και οι χρήστες των συστημάτων να συμμετέχουν στον σχεδιασμό, στην υλοποίηση και στην αξιολόγηση της λειτουργίας τους στα δικαστήρια. Μόνο μέσω ενός αποτελεσματικού και ουσιαστικού διαλόγου μεταξύ όλων των εμπλεκόμενων φορέων μπορεί να επιτευχθεί μια ομαλή και ασφαλής ενσωμάτωση συστημάτων ΤΝ στη δικαιοσύνη, με τελικό αποδέκτη των ωφελειών τους τους πολίτες. 

Επιπρόσθετα, θα πρέπει να παρέχεται συνδρομή στους χρήστες των συστημάτων ΤΝ, ώστε να εφοδιάζονται με ψηφιακές δεξιότητες για την ανεμπόδιστη χρήση των συστημάτων που αφορούν είτε τη διοίκηση των δικαστηρίων είτε τις δικαστικές υπηρεσίες. Η διαλειτουργικότητα των ψηφιακών πλατφορμών και μητρώων (ως τώρα περιορισμένη μέσω gov.gr και TAXISNET) διευκολύνει περαιτέρω την πρόσβαση των χρηστών με ένα κλικ στις ηλεκτρονικές υπηρεσίες και την ταυτόχρονη ενημέρωση μιας υπόθεσης με κάθε καινούρια ενέργεια, ωθώντας τους χρήστες να προτιμούν την ηλεκτρονική έναντι της φυσικής οδού. 

* Η Καλλιόπη Τερζίδου είναι Υποψήφια Διδάκτωρ της Νομικής Σχολής του Πανεπιστημίου του Λουξεμβούργου. Η έρευνα της υποστηρίζεται από το Fonds National de la Recherche (PRIDE 19/14268506).

[1] Θ. Φορτσάκης, Συμβολή για την Αποτελεσματικότητα της Δικαιοσύνης, Νομική Βιβλιοθήκη, Μάιος 2015, 233-234.

[2] Ένωση Δικαστών και Εισαγγελέων, Η Ελληνική Δικαιοσύνη το 2040, Οκτώβριος 2021, 22-25.

[3] Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη.

[4] Διαρκής Επιστημονική Επιτροπή Του ΥΔ Για Την Τεχνητή Νοημοσύνη, Πρακτικό συνεδρίασης 28 Μαΐου 2024, 21.

[5] Δρ. Ηλίας Λυμπερόπουλος, Εφαρμογές NLP-AI Πρωτοδικείου Αθηνών.

Γράφει η Καλλιόπη Τερζίδου*

Η Ευρωπαϊκή Ένωση (ΕΕ) είναι ενεργή εδώ και αρκετά χρόνια στην θέσπιση κανόνων και συστάσεων για την ψηφιοποίηση της διοίκησης των δικαστηρίων, μεταξύ άλλων μέσω συστημάτων ΤΝ. Κύρια προτεραιότητά της είναι η διασφάλιση του σεβασμού του δικαιώματος σε μία δίκαιη δίκη, εξασφαλίζοντας την ελεύθερη και πραγματική προσφυγή των πολιτών σε ανεξάρτητα και αμερόληπτα δικαστήρια. Η δράση αυτή της ΕΕ για την ψηφιοποίηση της δικαιοσύνης στα Κράτη Μέλη αντικατοπτρίζεται στον Κανονισμό για την ΤΝ. Το Προοίμιο 61 του Κανονισμού διακρίνει μεταξύ συστημάτων που προορίζονται για «αμιγώς βοηθητικές διοικητικές δραστηριότητες», όπως η ανωνυμοποίηση δικαστικών αποφάσεων, και συστημάτων που προορίζονται ή επηρεάζουν στην πράξη την απονομή δικαιοσύνης, δηλαδή συστημάτων για «την παροχή συνδρομής σε δικαστικές αρχές κατά την έρευνα και την ερμηνεία των πραγματικών περιστατικών και του νόμου και κατά την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών» [1].

Στη δεύτερη περίπτωση, τα συστήματα ΤΝ χαρακτηρίζονται ως ‘υψηλού κινδύνου,’ διότι μπορεί να έχουν σημαντικό αντίκτυπο στη δημοκρατία, το κράτος δικαίου και τις ατομικές ελευθερίες, όταν υποκαθιστούν τους δικαστές στην τελική λήψη αποφάσεων. Τα συγκεκριμένα συστήματα επιτρέπεται να χρησιμοποιούνται από τις δικαστικές αρχές, ωστόσο οι πάροχοι τους πρέπει να συμμορφώνονται με τις απαιτήσεις των Άρθρων 8-15 του Κανονισμού. Αυτές οι απαιτήσεις αφορούν θέματα διαχείρισης κινδύνων, όπως οι διακρίσεις, καθ’ όλη τη διάρκεια λειτουργίας των συστημάτων, προστασίας (προσωπικών) δεδομένων, διαφάνειας και ανθρώπινης εποπτείας. 

Σε κάθε περίπτωση, η διάκριση αυτή του Προοιμίου περισσότερο μπερδεύει παρά βοηθάει τους εθνικούς νομοθέτες (και κατ’ επέκταση τις δικαστικές αρχές) στην επιτυχή ψηφιοποίηση της διοίκησης των δικαστηρίων μέσω συστημάτων ΤΝ. Συγκεκριμένα, το Προοίμιο 61 του Κανονισμού προβαίνει σε μια εντελώς επιφανειακή κατηγοριοποίηση των συστημάτων ΤΝ για τον τομέα της δικαιοσύνης, με σοβαρές ερμηνευτικές ασάφειες. Αρχικά, δεν είναι ξεκάθαρο εάν τα συστήματα ΤΝ υψηλού κινδύνου πρέπει σωρευτικά να διενεργούν τις λειτουργίες της ‘έρευνας’ και ‘ερμηνείας’ των πραγματικών περιστατικών και του νόμου και της ‘εφαρμογής’ του νόμου στα πραγματικά περιστατικά. Εάν το εν λόγω σύστημα ΤΝ εκτελεί μόνο μία από αυτές τις λειτουργίες, π.χ. την ερμηνεία σχετικής νομοθεσίας ή/και νομολογίας στα πλαίσια διερεύνησης μια υπόθεσης από τον δικαστή χωρίς όμως την εφαρμογή της στα πραγματικά περιστατικά, τότε το συγκεκριμένο σύστημα δεν μπορεί να χαρακτηριστεί υψηλού κινδύνου με βάση το γράμμα του νόμου.

Τελολογικά, όμως, είναι εύλογο να χαρακτηριστεί αυτοτελώς ως ‘υψηλού κινδύνου’ ένα σύστημα ΤΝ που περιορίζεται στην ερμηνεία του νόμου, δεδομένου ότι  ο δικαστής μπορεί να επηρεαστεί από τις συστάσεις του συστήματος (πιθανώς εσφαλμένες ή άλλως προβληματικές) κατά τη δικαστική του κρίση και έτσι να πάψει να είναι ανεξάρτητος. Στην τελική, η μη απαγόρευση χρήσης συστημάτων ΤΝ που υποστηρίζουν την εφαρμογή του νόμου σε συγκεκριμένο σύνολο πραγματικών περιστατικών είναι αμφιλεγόμενη επιλογή του νομοθέτη, ειδικά όταν το Προοίμιο 61 αναφέρει ότι «η τελική λήψη αποφάσεων πρέπει να παραμείνει δραστηριότητα κατευθυνόμενη από τον άνθρωπο». Έτσι, τίθενται ερωτήματα ως προς την έκταση της ‘συνδρομής’ που τα συστήματα ΤΝ πρέπει να προσφέρουν στους δικαστές.

Άλλη μια ερμηνευτική ασάφεια αφορά την αναγνώριση συστημάτων ΤΝ που προορίζονται για ‘αμιγώς βοηθητικές’ διοικητικές δραστηριότητες και τα οποία αντιδιαστέλλονται από τα συστήματα ΤΝ ‘υψηλού κινδύνου.’ Αν και το Προοίμιο 61 αναφέρει μια σειρά παραδειγμάτων διοικητικών δραστηριοτήτων, συμπεριλαμβανομένης της ψευδωνυμοποίησης των αποφάσεων, δεν είναι ξεκάθαρο τι εννοείται με τους προσδιορισμούς ‘αμιγώς’ και ‘βοηθητικές.’ Θα μπορούσε, για παράδειγμα, να ειπωθεί ότι η ανάθεση υποθέσεων στους δικαστές είναι μια αμιγώς βοηθητική διοικητική διαδικασία λόγω της επαναλαμβανόμενης και τυποποιημένης φύσης της δραστηριότητας αυτής, ωστόσο ένας τέτοιος χαρακτηρισμός θα αγνοούσε τις αρνητικές επιπτώσεις της αποτυχημένης ανάθεσης μιας υπόθεσης από ένα σύστημα ΤΝ. Κάτι τέτοιο μπορεί να συμβεί όταν το σύστημα αγνοεί μια υπάρχουσα σύγκρουση συμφερόντων, έτσι ώστε να απειλείται η αμεροληψία του δικαστή και κατ’ επέκταση το δικαίωμα στη δίκαιη δίκη, μετατρέποντας έτσι το σύστημα ΤΝ σε ‘υψηλού κινδύνου.’

Περαιτέρω ερωτήματα ανακύπτουν αναφορικά με την χρήση από δικαστές συστημάτων ΤΝ γενικού σκοπού (π.χ.  ChatGPT) ή συστημάτων που προορίζονται (από τον πάροχο) για χρήση από δικηγόρους και όχι για «για χρήση από δικαστική αρχή ή για λογαριασμό δικαστικής αρχής,» όπως αναφέρει το Προοίμιο 61. Σε μια τέτοια περίπτωση, είναι πιθανό συστήματα ΤΝ που χρησιμοποιούνται από τους δικαστές για την έρευνα, ερμηνεία και εφαρμογή των πραγματικών περιστατικών και του νόμου να μην χαρακτηριστούν ως ‘υψηλού κινδύνου΄ γιατί προορίζονται από τον πάροχο για χρήση από το ευρύ κοινό ή από δικηγόρους.

Για παράδειγμα, η χρήση του ChatGPT, ως συστήματος ΤΝ γενικού σκοπού, από έναν δικαστή για την έρευνα κάποιας νομοθεσίας δεν επιφέρει άμεσα τον χαρακτηρισμό του ως ‘υψηλού κινδύνου’ γιατί προορίζεται για χρήση από το ευρύ κοινό. Έτσι, ο πάροχος δεν επιβαρύνεται με την τήρηση των απαιτήσεων των Άρθρων 8-15 του Κανονισμού. Παρόλα αυτά, συστημικοί κίνδυνοι, όπως οι λεγόμενες ‘παραισθήσεις’ όταν το ChatGPT παρουσιάζει μια ψευδή πληροφορία ως αληθινή με αποτέλεσμα να παραπλανεί τον χρήστη, απειλούν το δικαίωμα στην δίκαιη δίκη με το να περιορίζουν την ανεξάρτητη και αμερόληπτη κρίση του δικαστή.

Ο Ευρωπαίος νομοθέτης θα πρέπει να αναγνωρίσει τις διαφορετικές ταχύτητες ψηφιοποίησης ανά Κράτος Μέλος που επηρεάζουν τους στόχους της ΕΕ για την εξ ορισμού ψηφιοποίηση και τη διαλειτουργικότητα συστημάτων στο δικαστικό τομέα των Κρατών Μελών [2]. Αν και τα περισσότερα Κράτη Μέλη έχουν ξεκινήσει τις διαδικασίες ψηφιοποίησης βάσει συστημάτων ΤΝ, κυρίως για την ψευδωνυμοποίηση δικαστικών αποφάσεων [3], ωστόσο βρίσκονται σε αρκετά πρώιμο στάδιο καθώς σε πολλές περιπτώσεις δεν υπάρχουν αρκετά μηχανογραφημένα δεδομένα, π.χ. δικαστικές αποφάσεις, που μπορεί να επεξεργαστεί ένα σύστημα ΤΝ κατά την εκπαίδευση του. Επομένως, δεν επαρκεί η σαφής νομοθέτηση της επιτρεπτούς χρήσης συστημάτων ΤΝ για τη διασφάλιση της αποτελεσματικής και επιτυχούς εφαρμογής συστημάτων ΤΝ στα εθνικά δικαστήρια.

Η ΕΕ και οι εθνικοί φορείς, όπως το Υπουργείο Δικαιοσύνης, πρέπει να παρέχουν μεγαλύτερη οικονομική στήριξη αλλά και καθοδήγηση στα εθνικά δικαστήρια, π.χ. μέσω της εκπαίδευση και ενημέρωσης των δικαστών σχετικά με την χρήση συστημάτων ΤΝ. Σε αυτήν την προσπάθεια, είναι πολύ σημαντικό η εφαρμογή των συστημάτων ΤΝ στη διοίκηση των δικαστηρίων να γίνεται κατά εναρμονισμένο τρόπο, τουλάχιστον σε εθνικό επίπεδο, ώστε όλοι οι πολίτες να επωφελούνται ισότιμα και αδιακρίτως από τη θετική συμβολή των συστημάτων στην αποτελεσματικότητα και ποιότητα της δικαιοσύνης. 

* Η Καλλιόπη Τερζίδου είναι Υποψήφια Διδάκτωρ της Νομικής Σχολής του Πανεπιστημίου του Λουξεμβούργου. Η έρευνα της υποστηρίζεται από το Fonds National de la Recherche (PRIDE 19/14268506).

[1] Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη, 

[2] Council of the EU, European e-Justice Strategy 2024-2028 – Approval, 15509/23, 17 November 2023, 

[3] Directorate-General for Justice and Consumers (European Commission) , Trasys International, Study on the use of innovative technologies in the justice field, Jnauary 2020, 111-142.