Ο συνασπισμός Protect Not Surveil δημοσιεύει την έκθεσή του για τον Κανονισμό της Europol
Σήμερα, 20 Φεβρουαρίου ο συνασπισμός #ProtectNotSurveil, στον οποίο συμμετέχει και η Homo Digitalis, δημοσιεύει την έκθεσή του για τον Κανονισμό της Europol και καλεί σε πλήρη απόρριψη της πρότασης της Ευρωπαϊκής Επιτροπής.
Ο Κανονισμός της Europol, ακούσια, στηρίζει το επιχειρηματικό μοντέλο των διακινητών, ενώ ταυτόχρονα ποινικοποιεί τη μετανάστευση.
Κρίσιμα σημεία του Κανονισμού της Europol:
• Επεκτείνει τις δυνατότητες επιτήρησης της Europol πέραν της εντολής της, υπό το πρόσχημα της καταπολέμησης της «διακίνησης μεταναστών», δίνοντας στην Europol νέες εξουσίες «σχετικά με όλα τα εγκλήματα για τα οποία είναι αρμόδια».
• Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων (EDPS) έχει ήδη εκφράσει ανησυχίες ότι η νομοθετική πρωτοβουλία ενέχει σημαντικούς κινδύνους για τα δικαιώματα προστασίας δεδομένων και ιδιωτικότητας των μεταναστών, επιτρέποντας τη μαζική συλλογή και ανταλλαγή δεδομένων μεταξύ των κρατών μελών και των ευρωπαϊκών οργανισμών (όπως η Frontex), γνωστών για παραβιάσεις ανθρωπίνων δικαιωμάτων, καθώς και με τρίτες χώρες χωρίς νομική βάση για ανταλλαγή δεδομένων με την ΕΕ.
• Η πρόταση είναι ανασφαλής και ατεκμηρίωτη, παρουσιάζεται χωρίς επαρκή εκτίμηση επιπτώσεων και βασίζεται σε ψευδείς ισχυρισμούς ότι οι διακινητές αποτελούν τη μεγαλύτερη απειλή για την ασφάλεια των μεταναστών (έκθεση του ΟΗΕ).
• Εκατομμύρια ευρώ από δημόσιους πόρους της ΕΕ θα σπαταληθούν για τις νέες δραστηριότητες της Europol, σε μια ψευδή λύση για τη διαχείριση της μετανάστευσης που απλώς δεν πρόκειται να λειτουργήσει.
Μια σύνοψη της θέσης μας δημοσιεύθηκε και στο EUobserver. Ολόκληρη η έκθεση είναι διαθέσιμη εδώ.
Συμμόρφωση στην Εποχή της Τεχνητής Νοημοσύνης και της Κυβερνοασφάλειας: Πρόκληση ή Ευκαιρία;
Γράφει o Τάσος Αραμπατζής
Για χρόνια, η κυβερνοασφάλεια αγωνιζόταν να εξασφαλίσει μια θέση στην ατζέντα της διοίκησης των επιχειρήσεων. Χρειάστηκαν πρόστιμα εκατομμυρίων, νομικές διαμάχες και υψηλού προφίλ παραβιάσεις δεδομένων για να συνειδητοποιήσουν οι επιχειρήσεις ότι η ασφάλεια δεν είναι απλώς ένα ζήτημα πληροφορικής—είναι επιχειρηματικός κίνδυνος. Κανονισμοί όπως το GDPR, η NIS2 και το EU AI Act λειτουργούν ως καταλύτες, αναγκάζοντας τους οργανισμούς να επενδύσουν στη συμμόρφωση.
Αλλά εδώ είναι το βασικό ερώτημα: Είναι η συμμόρφωση ένα αναγκαίο κακό ή αποτελεί το θεμέλιο μιας ανθεκτικής στρατηγικής κυβερνοασφάλειας;
Συμμόρφωση: Το Ελάχιστο Απαραίτητο Επίπεδο Ασφάλειας
Οι κανονιστικές απαιτήσεις λειτουργούν ως βασική γραμμή άμυνας. Μπορεί να μην προσφέρουν την πιο εξελιγμένη προστασία, αλλά καθορίζουν μια δομημένη προσέγγιση στη διαχείριση κινδύνων. Σύμφωνα με την τελευταία έκθεση Thales Data Threat Report 2024, οι οργανισμοί που απέτυχαν σε ελέγχους συμμόρφωσης υπέστησαν περισσότερες παραβιάσεις δεδομένων από εκείνους που πέτυχαν. Το συμπέρασμα είναι σαφές—η συμμόρφωση δεν αφορά μόνο την αποφυγή προστίμων, αλλά και την αποτροπή κυβερνοεπιθέσεων.
Για παράδειγμα, οι επιχειρήσεις που επένδυσαν σε πρακτικές προστασίας δεδομένων λόγω του GDPR βρίσκονται τώρα σε πλεονεκτική θέση για να αντιμετωπίσουν τις νέες προκλήσεις των κανονισμών για την τεχνητή νοημοσύνη. Αντίστοιχα, η NIS2 επιβάλλει μέτρα ασφαλείας βάσει κινδύνου, τα οποία ευθυγραμμίζονται με τις βέλτιστες πρακτικές κυβερνοασφάλειας.
Κανονιστική Υπερφόρτωση; Όχι Ακριβώς.
Ένα συχνό παράπονο των επαγγελματιών ασφάλειας είναι ότι βυθίζονται σε κανονιστικές απαιτήσεις. Όμως, αν εξετάσουμε προσεκτικά τους κανονισμούς, παρατηρούμε σημαντικές επικαλύψεις.
- EU AI Act vs. GDPR: Ο Νόμος για την ΤΝ (AI Act) επεκτείνει τις αρχές του GDPR, επιβάλλοντας διαφάνεια στις αποφάσεις που λαμβάνονται από συστήματα ΤΝ.
- NIS2 vs. DORA: Το DORA και η NIS2 επιβάλλουν παρόμοιες απαιτήσεις κυβερνοασφάλειας σε χρηματοπιστωτικά ιδρύματα, εξασφαλίζοντας ανθεκτικότητα έναντι κυβερνοαπειλών.
Η κατανόηση αυτών των αλληλεπικαλύψεων επιτρέπει στους οργανισμούς να αναπτύξουν μια ενοποιημένη στρατηγική συμμόρφωσης αντί να αντιμετωπίζουν κάθε κανονισμό ξεχωριστά. Παρότι το κανονιστικό τοπίο φαίνεται ομιχλώδες, εντούτοις ακολουθώντας μία ολιστική προσέγγιση επιτρέπει στις επιχειρήσεις να συμμορφωθούν με περισσότερη εμπιστοσύνη.
Η Παγίδα της Πολυπλοκότητας: Όταν η Συμμόρφωση Γίνεται Γρίφος
Δεν είναι όμως όλα τόσο απλά. Πολλοί κανονισμοί είναι σκόπιμα γενικοί ώστε να μπορούν να εφαρμόζονται σε μία πλειάδα περιπτώσεων. Αυτή όμως η γενικότητα προσθέτει περισσότερη πολυπλοκότητα, αναγκάζοντας τις επιχειρήσεις να τους προσαρμόσουν στις δικές τους ανάγκες. Αυτό δημιουργεί ένα δίλημμα: Πώς μπορεί μια εταιρεία να διασφαλίσει τη συμμόρφωση αν δεν είναι σαφές τι ακριβώς απαιτείται;
Ένα χαρακτηριστικό παράδειγμα είναι το Άρθρο 86 του EU AI Act, το οποίο δίνει στους πολίτες το δικαίωμα να λαμβάνουν “σαφείς και ουσιαστικές εξηγήσεις” για το πώς ένα σύστημα ΤΝ επηρεάζει μια απόφαση. Σύμφωνα με την Luiza Jarovsky, αυτή η απαίτηση εγείρει κρίσιμα ερωτήματα:
- Αν ακόμη και οι ίδιοι οι δημιουργοί των συστημάτων ΤΝ δεν μπορούν να εξηγήσουν πλήρως πώς λειτουργούν (το πρόβλημα του “μαύρου κουτιού”), πώς μπορούν οι οργανισμοί να δώσουν ξεκάθαρες απαντήσεις;
- Είναι τεχνολογικά εφικτό να συμμορφωθούν οι εταιρείες με αυτή την απαίτηση;
Αυτές οι αβεβαιότητες δημιουργούν ένταση μεταξύ της ρυθμιστικής φιλοδοξίας και της τεχνικής πραγματικότητας.
Βελτιώνουν τα Πρόστιμα την Ασφάλεια;
Παρόλο που τα πρόστιμα είναι ισχυρό κίνητρο, συχνά οδηγούν σε επιφανειακή συμμόρφωση αντί για ουσιαστικές βελτιώσεις ασφάλειας.
Το GDPR υπάρχει από το 2018, αλλά οι παραβιάσεις δεδομένων συνεχίζονται αμείωτες. Μερικές εταιρείες βλέπουν τη συμμόρφωση ως οικονομική εξίσωση:
“Αν το κόστος της συμμόρφωσης είναι μεγαλύτερο από το ρίσκο του προστίμου, γιατί να συμμορφωθούμε;”
Το ίδιο ερώτημα θα προκύψει και με τον EU AI Act. Αν οι οργανισμοί δυσκολευτούν να συμμορφωθούν με τις απαιτήσεις διαφάνειας στην ΤΝ, θα επιβληθούν βαριά πρόστιμα ή θα υιοθετηθεί μια πιο ήπια προσέγγιση μέχρι να καθοριστούν οι βέλτιστες πρακτικές;
Και βεβαίως δεν θα πρέπει να ξεχνάμε την επίδραση της τρέχουσας γεωπολιτικής κατάστασης στο πως τελικά θα επιβληθεί η εκάστοτε νομοθεσία. Η πρόσφατη απόφαση για την απόσυρση του ΑΙ Liability Directive είναι ένα παράδειγμα αυτής της επίδρασης.
Η Πρόκληση της Εφαρμογής: Ποιος Επιβλέπει τους Ρυθμιστές;
Οι κανονισμοί είναι αποτελεσματικοί μόνο αν εφαρμόζονται σωστά. Το EU AI Act εισάγει νέες απαιτήσεις συμμόρφωσης, αλλά έχουν οι ρυθμιστικές αρχές την τεχνογνωσία να επιβλέψουν πολύπλοκα μοντέλα ΤΝ;
Το GDPR αντιμετώπισε σοβαρές προκλήσεις στην επιβολή του:
- Οι ρυθμιστικές αρχές είναι συχνά υποστελεχωμένες, καθυστερώντας τις έρευνες.
- Υπάρχει ασυνέπεια στην επιβολή των κανόνων μεταξύ των κρατών-μελών της ΕΕ.
Ο EU AI Act είναι ακόμη πιο πολύπλοκος. Αν οι ρυθμιστές δεν μπορούν να επιβάλουν αυστηρή συμμόρφωση, οι επιχειρήσεις μπορεί να καθυστερήσουν τις προσαρμογές τους, περιμένοντας να δουν αν οι κανόνες θα εφαρμοστούν πραγματικά.
Η πρόσφατη εξέλιξη με το Smart Policing της ΕΛΑΣ αναδεικνύει αυτό ακριβώς το πρόβλημα:
“Τα 4,5 χρόνια έρευνας της ΑΠΔΠΧ, φανερώνουν επίσης ότι η πολιτεία πρέπει να στηρίξει την Αρχή Προστασίας Δεδομένων, καθώς η υψηλή εξειδίκευση των ελεγκτών της δεν είναι αρκετή, αλλά αντιθέτως απαιτούνται περισσότεροι ανθρώπινοι και οικονομικοί πόροι. Και όλα αυτά χωρίς να υπολογίζουμε τον αυξημένο φόρτο εργασίας που προβλέπεται τα ερχόμενα χρόνια με την AI Act.”
Οι ακούσιες συνέπειες της συμμόρφωσης: Καταπνίγοντας την καινοτομία;
Ενώ τα πλαίσια συμμόρφωσης αποσκοπούν στην προστασία των καταναλωτών και των επιχειρήσεων, μπορούν επίσης να δημιουργήσουν εμπόδια στην καινοτομία. Ο GDPR προοριζόταν να ενισχύσει τα δικαιώματα προστασίας της ιδιωτικής ζωής, αλλά πολλές μικρές επιχειρήσεις αντιμετώπισαν και αντιμετωπίζουν με δυσκολία το βάρος της συμμόρφωσης, οδηγώντας σε:
- Σε φυγή των νεοφυών επιχειρήσεων σε λιγότερο ρυθμιζόμενες αγορές.
- Εμπόδια στην καινοτομία λόγω της νομικής αβεβαιότητας.
Θα μπορούσε να συμβεί το ίδιο με την πράξη της ΕΕ για την τεχνητή νοημοσύνη; Οι νεοσύστατες επιχειρήσεις τεχνητής νοημοσύνης ίσως βρουν ευκολότερο να δραστηριοποιηθούν στις ΗΠΑ ή την Ασία, όπου οι κανονισμοί είναι λιγότερο αυστηροί. Η ακούσια συνέπεια; Η Ευρώπη θα μπορούσε να μείνει πίσω στην ανάπτυξη της τεχνητής νοημοσύνης, παρά το γεγονός ότι ήταν από τους πρώτους που τη ρύθμισαν.
Συμμόρφωση ως ανταγωνιστικό πλεονέκτημα
Οι οργανισμοί που σκέφτονται μπροστά από την εποχή τους αλλάζουν το σενάριο και αντιμετωπίζουν τη συμμόρφωση όχι ως βάρος ή πρόκληση, αλλά ως ανταγωνιστικό διαφοροποιητικό στοιχείο. Για παράδειγμα, σύμφωνα με έρευνα της Thales, το 89% των πελατών θα συμφωνούσαν με την χρήση των δεδομένων τους μόνο εφόσον υπάρχουν βασικές πολιτικές ασφάλειας και ιδιωτικότητας. Οι εταιρείες που αντιμετωπίζουν προληπτικά τη διαφάνεια της ΤΝ, την προστασία των δεδομένων και τους κινδύνους κυβερνοασφάλειας θα κερδίσουν μεγαλύτερη εμπιστοσύνη από πελάτες και συνεργάτες.
Πάρτε για παράδειγμα τις χρηματοπιστωτικές υπηρεσίες που βασίζονται στην ΤΝ. Μια τράπεζα που μπορεί να εξηγήσει με σαφήνεια γιατί απορρίφθηκε ένα δάνειο (σύμφωνα με τον νόμο περί ΤΝ) θα καλλιεργήσει ισχυρότερες σχέσεις με τους πελάτες της από μια τράπεζα που κρύβεται πίσω από την αλγοριθμική αδιαφάνεια. Παρομοίως, ένας πάροχος υγειονομικής περίθαλψης με ισχυρό πλαίσιο ασφαλείας συμβατό με το NIS2 θα ξεχωρίσει ως αξιόπιστος φορέας σε έναν κλάδο που μαστίζεται από παραβιάσεις δεδομένων.
Τελική σκέψη: Η συμμόρφωση δεν είναι επιλογή-αλλά ο τρόπος που την προσεγγίζετε είναι
Ρυθμιστικά πλαίσια όπως ο GDPR, η NIS2 και ο νόμος της ΕΕ για την τεχνητή νοημοσύνη ήρθαν για να μείνουν. Θα διαμορφώσουν τον τρόπο λειτουργίας των επιχειρήσεων στην ψηφιακή οικονομία, επηρεάζοντας τα πάντα, από τη διακυβέρνηση της ΤΝ έως τις επενδύσεις στην κυβερνοασφάλεια. Οι οργανισμοί μπορούν να επιλέξουν να βλέπουν τη συμμόρφωση ως βάρος, αντιδρώντας σε κάθε νέα εντολή με απογοήτευση - ή μπορούν να την αγκαλιάσουν ως θεμέλιο για την οικοδόμηση εμπιστοσύνης, ασφάλειας και μακροπρόθεσμης επιτυχίας.
Ποια θα είναι η δική σας προσέγγιση;
4 εκατομμύρια ευρώ ξόδεψε η ΕΛ.ΑΣ. για να κόβει κλήσεις Κ.Ο.Κ.
Πίσω στο 2019, ξεκινήσαμε μία από τις πρώτες μας δράσεις στον τομέα της τεχνητής νοημοσύνης, φέρνοντας στο φως το πρόγραμμα Smart Policing της Ελληνικής Αστυνομίας με την Intracom-Telecom.
Σκοπός του; Η αγορά 1.000 φορητών συσκευών που θα επέτρεπαν λειτουργίες αναγνώρισης προσώπου, αποτυπωμάτων, εγγράφων και πινακίδων σε αστικά κέντρα κατά τη διάρκεια αστυνομικών ελέγχων.
Κινηθήκαμε άμεσα, και ζητήσαμε τον Μάρτιο του 2020 από την Αρχή Προστασίας Δεδομένων να ερευνήσει την υπόθεση, καθώς κατά την νομική μας ανάλυση, η επεξεργασία βιομετρικών δεδομένων στο πλαίσιο χρήσης των συσκευών δεν θα ήταν νόμιμη.
Από τον Αύγουστο του 2020, η Αρχή ερευνά την υπόθεση, το Κράτος πλήρωσε τα 4 εκατομμύρια ευρώ, και η εταιρία παρέδωσε τις συσκευές στην ΕΛ.ΑΣ. Η τελευταία εξέλιξη ήταν τον Οκτώβριο του 2024, όταν η ΕΛ.ΑΣ. αποφάσισε ξεκινώντας από το πρώτο τρίμηνο του 2025 να χρησιμοποιεί τις λειτουργίες αναγνώρισης εγγράφων/πινακίδων των συσκευών για να βεβαιώνει παραβάσεις του Κ.Ο.Κ.
Χαιρόμαστε που η άμεση κινητοποίηση μας, και η έρευνα της ΑΠΔΠΧ έβαλε στον πάγο τη χρήση των παρεμβατικών λειτουργιών αναγνώρισης προσώπου και αποτυπωμάτων των συσκευών αυτών, αλλά πρέπει άμεσα να δημοσιευθεί η σχετική απόφαση της Αρχής σχετικά.
Τα 4,5 χρόνια έρευνας της ΑΠΔΠΧ, φανερώνουν επίσης οτι η πολιτεία πρέπει να στηρίξει την Αρχή Προστασίας Δεδομένων, καθώς η υψηλή εξειδίκευση των ελεγκτών της δεν είναι αρκετή, αλλά αντιθέτως απαιτούνται περισσότεροι ανθρώπινοι και οικονομικοί πόροι. Και όλα αυτά χωρίς να υπολογίζουμε τον αυξημένο φόρτο εργασίας που προβλέπεται τα ερχόμενα χρόνια με την AI Act.
Μπορείτε να διαβάσετε περισσότερα σχετικά στην τελευταία μας μελέτη για την AI Act, σελ.51-54 εδώ.
H Homo Digitalis φόρεσε το γιλέκο της αγάπης συμμετέχοντας στη δράση "πωλητής για μία ώρα" του περιοδικού δρόμου "σχεδία"
Την Τετάρτη 5 Φεβρουαρίου, η Homo Digitalis είχε τη μεγάλη τιμή να φορέσει το γιλέκο της αγάπης, συμμετέχοντας στη δράση ευαισθητοποίησης του περιοδικού δρόμου “σχεδία”.
Με το πέρας της δράσης «πωλητής για μια ώρα», θα θέλαμε να πούμε ένα μεγάλο ευχαριστώ σε όλους/ες τους ανθρώπους της σχεδίας, που είχαμε την ευκαιρία να μάθουμε δίπλα τους για τις σημαντικές τους δράσεις, και να δώσουμε από κοινού ένα μήνυμα κατά του κοινωνικού αποκλεισμού και υπέρ της αλληλεγγύης.
Μπορείτε να μάθετε περισσότερα για το σημαντικό έργο και τους ανθρώπους του περιοδικού σχεδία εδώ.
Συνέντευξη της Προέδρου μας, Ελπίδας Βαμβακά, στο Women in Digital
Η Ελπίδα Βαμβακά, Πρόεδρος της Homo Digitalis και General Legal Counsel στο Papaki, μίλησε στο Women in Digital για την ανάγκη προστασίας των ψηφιακών δικαιωμάτων στην Ελλάδα, τη σημασία της τεχνολογίας που θέτει τον άνθρωπο στο επίκεντρο και τους τρόπους με τους οποίους η τεχνητή νοημοσύνη μπορεί να λειτουργήσει υπεύθυνα και ηθικά.
Με έμφαση στις προκλήσεις της κυβερνοασφάλειας, τη σημασία της εκπαίδευσης και την προώθηση της ισότητας των φύλων στον χώρο της τεχνολογίας, η Ελπίδα με τη συνέντευξή της αναδεικνύει το όραμά της για μια δίκαιη, βιώσιμη και χωρίς αποκλεισμούς ψηφιακή κοινωνία. Μπορείτε να διαβάσετε τη συνέντευξή της εδώ.
Το Women In Digital αποτελεί την εκδοτική και συνεδριακή πρόταση της Smarpress. Τα θεμέλια μπήκαν με το πρώτο συνέδριο Women In Digital στις 8/3/21 όταν το «βήμα» πήραν 40 εμβληματικές «ισχυρές κυρίες» της Τεχνολογίας, της Πληροφορικής, των Start Ups και του Ψηφιακού Marketing. Οι αναγνώστες μπορούν να παρακολουθήσουν την ύλη του τόσο μέσω του μηνιαίου newsletter όσο και από το ομώνυμο site. To WID αντλεί τη θεματολογία του από τη δράση των Γυναικών, Ελληνίδων και ξένων, που είτε δραστηριοποιούνται στον κλάδο του STEM, είτε αξιοποιούν τις ψηφιακές τους δεξιότητες σε πιο παραδοσιακούς κλάδους.
Η Ψηφιοποίηση της Ελληνικής Δικαιοσύνης Υπό το Πρίσμα της Τεχνητής Νοημοσύνης
Γράφει η Καλλιόπη Τερζίδου*
Η ψηφιοποίηση των δικαστηρίων σε επίπεδο διοίκησης και υπηρεσιών δεν ευδοκίμησε νωρίς στην Ελλάδα λόγω έλλειψης συστηματικού σχεδιασμού και καταφυγής σε πρόχειρες και πρόσκαιρες λύσεις για την επίλυση προβλημάτων [1]. Πλέον, οι δικηγόροι μπορούν να πραγματοποιούν μια σειρά διαδικασιών ηλεκτρονικά, όπως της αναζήτησης της πορείας πολιτικών υποθέσεων και των πινακίων της πολιτικής διαδικασίας, μέσω της Πύλης Ψηφιακών Υπηρεσιών Δικαστηρίων και Εισαγγελιών – ΟΣΔΔΥ (solon.gov.gr). Οι πολίτες έχουν πρόσβαση στις ίδιες ηλεκτρονικές υπηρεσίες με τους δικηγόρους (με εξαίρεση την κατάθεση εγγράφων), στην ψηφιακή επίδοση εγγράφων (N. 4937/2022) και στην υπηρεσία τηλεδιασκέψεων για Πολιτικά, Ποινικά και Διοικητικά Δικαστήρια, μεταξύ άλλων.
Οι πρωτοβουλίες αυτές για την ψηφιοποίηση των δικαστικών υπηρεσιών είναι σημαντικές αλλά δεν είναι πάντα αποτελεσματικές. Σύμφωνα με στοιχεία της Ένωσης Δικαστών και Εισαγγελέων [2], τα ποσοστά χρήσης των πλατφορμών του ΟΣΔΔΥ εμφανίστηκαν αρχικά χαμηλά σε σχέση με την προτίμηση των πολιτών στη δια ζώσης εξυπηρέτηση τους. Περαιτέρω, η νομολογία δεν είναι εξίσου προσβάσιμη στο ευρύ κοινό όπως στους δικηγόρους, αφού δε βρίσκεται συγκεντρωμένη σε ένα περιορισμένο αριθμό ιστοσελίδων. Έτσι ο πολίτης αναγκάζεται να επισκέπτεται την ιστοσελίδα του δικαστηρίου για το οποίο ενδιαφέρεται, με κίνδυνο να μην βρει αυτό που ψάχνει. Αυτό συμβαίνει καθώς πολλές φορές τα δικαστήρια δεν δημοσιοποιούν όλες τις αποφάσεις, για παράδειγμα λόγω μη ανωνυμοποίησης των αποφάσεων, εμπλοκής ανηλίκων στην υπόθεση, εφαρμογής συστήματος προτεραιοποίησης αποφάσεων προς δημοσιοποίηση, ή και αναποτελεσματικής διοίκησης των δικαστηρίων.
Για την αντιμετώπιση αυτών των περιορισμών, η Διαρκής Επιστημονική Επιτροπή του Υπουργείου Δικαιοσύνης για την Τεχνητή Νοημοσύνη (ΤΝ) διερευνά τις πιθανές εφαρμογές συστημάτων ΤΝ στα δικαστήρια, καθώς η ΤΝ υπόσχεται την αποτελεσματικότερη αυτοματοποίηση διαδικασιών και την αμεσότερη αλληλεπίδραση των συστημάτων με τους χρήστες. Η Επιτροπή υποβάλει προτάσεις για νομοθετικές μεταρρυθμίσεις σχετικά με την εισαγωγή συστημάτων ΤΝ στα δικαστήρια και με την καθιέρωση δικλείδων ασφαλείας των δικαιωμάτων των πολιτών.
Σύμφωνα με τις διαθέσιμες πληροφορίες της Διαρκούς Επιτροπής, δεν σχεδιάζεται ή εφαρμόζεται κάποιο σύστημα ΤΝ ‘υψηλού κινδύνου’ στα ελληνικά δικαστήρια, δηλαδή κάποιο σύστημα που μπορεί να επηρεάσει τη δημοκρατία, το κράτος δικαίου και τις ατομικές ελευθερίες, όπως το δικαίωμα στη δίκαιη δίκη [3]. Μόνη εξαίρεση μπορεί να θεωρηθεί το σχέδιο υλοποίησης συστήματος ΤΝ για τον εντοπισμό από τους ελεγκτές του Ελεγκτικού Συνεδρίου πιθανών παρατυπιών στην καταβολή δαπανών ή στην είσπραξη εσόδων του ελεγχόμενου φορέα [4]. Το εν λόγω σύστημα ΤΝ θα επιτρέπει στους ελεγκτές να επικεντρώνονται στις υποθέσεις εκείνες που παρουσιάζουν μεγάλη πιθανότητα παρατυπίας στη λειτουργία των συστημάτων οικονομικής διαχείρισης των ελεγχόμενων φορέων. Στο βαθμό που το συγκεκριμένο σύστημα ελέγχει κάποια πραγματικά περιστατικά έναντι μιας νομικής βάσης και διεξάγει συμπεράσματα για πιθανές παρατυπίες, μπορεί να θεωρηθεί ως σύστημα υψηλού κινδύνου σύμφωνα με το Παράρτημα ΙΙΙ, παράγραφος 8 του Κανονισμού για την ΤΝ. Ουσιαστικά, ο υψηλός κίνδυνος συνίσταται στην υποκατάσταση από το σύστημα ΤΝ της κρίσης των ελεγκτών ως προς την πιθανότητα ή μη παρατυπίας, ώστε να περιορίζεται η ανθρώπινη παρέμβαση και εποπτεία της λειτουργίας του συστήματος. Έτσι, πρέπει να εφαρμόζονται οι δικλείδες ασφαλείας για την ορθή εκπαίδευση και λειτουργία των συστημάτων ΤΝ κατά τα Άρθρα 8-15 του Κανονισμού.
Σε κάθε περίπτωση, η Διαρκής Επιτροπή τείνει στην ενσωμάτωση συστημάτων ΤΝ για την υποστήριξη ‘αμιγώς βοηθητικών διοικητικών δραστηριοτήτων,’ όπως τις χαρακτηρίζει ο Κανονισμός στο Προοίμιο 61. Αυτό διαφαίνεται από τα προβλεπόμενα σχέδια ενσωμάτωσης συστημάτων ΤΝ για σκοπούς όπως η ανωνυμοποίηση των δικαστικών αποφάσεων και ο έλεγχος της αναφοράς του δικηγόρου ως «Παραστάς» στη δικαστική απόφαση ώστε να του δίνεται πρόσβαση σε δικαστικά έγγραφα [5]. Το κοινό στοιχείο αυτών των συστημάτων είναι η επεξεργασία δικαστικών εγγράφων και η (περιορισμένη) αυτοματοποίηση διοικητικών δραστηριοτήτων με στόχο την υποστήριξη των δικαστικών υπαλλήλων και την επιτάχυνση της δίκης.
Ωστόσο, ο μεγαλύτερος κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ στη διοίκηση των δικαστηρίων είναι η εφαρμογή διαφορετικών αλγοριθμικών συστημάτων ή και πρακτικών ανά δικαστήριο. Για παράδειγμα, η διαφορετικοί τρόποι σύνταξης των δικαστικών αποφάσεων ανά δικαστήριο ενδέχεται να μπερδεύουν το αλγοριθμικό σύστημα, καθώς έχει εκπαιδευτεί να επεξεργάζεται ένα συγκεκριμένο μοτίβο αποφάσεων ώστε να μη δύναται να λειτουργήσει σε διαφορετικό πλαίσιο. Ένας ακόμη κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ είναι η έλλειψη μηχανογραφημένων εγγράφων τα οποία το αλγοριθμικό σύστημα μπορεί να επεξεργαστεί για να εκπαιδευτεί και να λειτουργήσει αποτελεσματικά. Έτσι, συχνά ένας ή μερικοί δικαστικοί υπάλληλοι αναλαμβάνουν κατά χειρωνακτικό τρόπο (χωρίς την υποστήριξη ψηφιακών μέσων) την επεξεργασία εγγράφων, όπως οι δικαστικές αποφάσεις, για την εκτέλεση διοικητικών δραστηριοτήτων, όπως η ανωνυμοποίηση των αποφάσεων, υποβαθμίζοντας έτσι την αποτελεσματικότητα και την επιτάχυνση των διοικητικών διαδικασιών .
Μελλοντικές πρωτοβουλίες ενσωμάτωσης συστημάτων ΤΝ στη διοίκηση των δικαστηρίων πρέπει να ελέγχονται για την ύπαρξη υψηλού κινδύνου, κυρίως όσον αφορά το δικαίωμα των πολιτών στη δίκαιη δίκη. Γι’ αυτόν το λόγο, οι υπεύθυνοι φορείς στον τομέα της δικαιοσύνης πρέπει να διενεργούν εκτιμήσεις αντικτύπου σε τακτά χρονικά διαστήματα, ώστε να εκτιμώνται οι πιθανοί κίνδυνοι που ενέχουν τα επιμέρους συστήματα ΤΝ για τα δικαιώματα των πολιτών, να αποτιμώνται οι επιπτώσεις της πραγματοποίησης τέτοιων κινδύνων, και να προβλέπονται μέτρα αντιμετώπισης τους. Στις περισσότερες περιπτώσεις, η επέμβαση προγραμματιστών θα είναι αρκετή για την επίλυση λειτουργικών ζητημάτων. Ωστόσο, η λειτουργία συστημάτων ΤΝ πρέπει να αντιμετωπίζεται ολιστικά, ώστε όχι μόνο οι προγραμματιστές αλλά και οι υπεύθυνοι φορείς και οι χρήστες των συστημάτων να συμμετέχουν στον σχεδιασμό, στην υλοποίηση και στην αξιολόγηση της λειτουργίας τους στα δικαστήρια. Μόνο μέσω ενός αποτελεσματικού και ουσιαστικού διαλόγου μεταξύ όλων των εμπλεκόμενων φορέων μπορεί να επιτευχθεί μια ομαλή και ασφαλής ενσωμάτωση συστημάτων ΤΝ στη δικαιοσύνη, με τελικό αποδέκτη των ωφελειών τους τους πολίτες.
Επιπρόσθετα, θα πρέπει να παρέχεται συνδρομή στους χρήστες των συστημάτων ΤΝ, ώστε να εφοδιάζονται με ψηφιακές δεξιότητες για την ανεμπόδιστη χρήση των συστημάτων που αφορούν είτε τη διοίκηση των δικαστηρίων είτε τις δικαστικές υπηρεσίες. Η διαλειτουργικότητα των ψηφιακών πλατφορμών και μητρώων (ως τώρα περιορισμένη μέσω gov.gr και TAXISNET) διευκολύνει περαιτέρω την πρόσβαση των χρηστών με ένα κλικ στις ηλεκτρονικές υπηρεσίες και την ταυτόχρονη ενημέρωση μιας υπόθεσης με κάθε καινούρια ενέργεια, ωθώντας τους χρήστες να προτιμούν την ηλεκτρονική έναντι της φυσικής οδού.
* Η Καλλιόπη Τερζίδου είναι Υποψήφια Διδάκτωρ της Νομικής Σχολής του Πανεπιστημίου του Λουξεμβούργου. Η έρευνα της υποστηρίζεται από το Fonds National de la Recherche (PRIDE 19/14268506).
[1] Θ. Φορτσάκης, Συμβολή για την Αποτελεσματικότητα της Δικαιοσύνης, Νομική Βιβλιοθήκη, Μάιος 2015, 233-234.
[2] Ένωση Δικαστών και Εισαγγελέων, Η Ελληνική Δικαιοσύνη το 2040, Οκτώβριος 2021, 22-25.
[3] Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη.
[4] Διαρκής Επιστημονική Επιτροπή Του ΥΔ Για Την Τεχνητή Νοημοσύνη, Πρακτικό συνεδρίασης 28 Μαΐου 2024, 21.
[5] Δρ. Ηλίας Λυμπερόπουλος, Εφαρμογές NLP-AI Πρωτοδικείου Αθηνών.
Υπογράφουμε κοινή επιστολή οργανώσεων της ΚτΠ για το AI Summit και την προστασία του περιβάλλοντος
Λίγο πριν από τη Σύνοδο Δράσης για την Τεχνητή Νοημοσύνη (ΑΙ Summit) στη Γαλλία, περισσότερες από 100 οργανώσεις της κοινωνίας των πολιτών από όλο τον κόσμο, συμπεριλαμβανομένης της Homo Digitalis, απευθύνουν ένα επείγον μήνυμα προς τις κυβερνήσεις και τους ηγέτες της βιομηχανίας: Το περιβαλλοντικό και ανθρώπινο κόστος της Τεχνητής Νοημοσύνης είναι υπερβολικά υψηλό – χρειάζονται άμεσες δράσεις.
Οι 5 βασικές μας διεκδικήσεις:
–Κατάργηση των ορυκτών καυσίμων
–Περιορισμός της υπολογιστικής κατανάλωσης
–Διασφάλιση υπεύθυνων αλυσίδων εφοδιασμού
–Ενίσχυση της δίκαιης συμμετοχής
–Προώθηση ουσιαστικής διαφάνειας
Ήρθε η ώρα η Τεχνητή Νοημοσύνη να γίνει βιώσιμη, δίκαιη και υπόλογη.
Διαβάστε τις πλήρεις απαιτήσεις μας αναλυτικά εδώ.
Μπορείτε να υπογράψετε τη κοινή δήλωση εδώ.
Η ΑΠΔΠΧ ερευνά αυτεπαγγέλτως την deepseek
Με επιστολή που απηύθυνε η Αρχή Προστασίας Δεδομένων στη Homo Digitalis στις 5 Φεβρουαρίου σε συνέχεια του από 30/1/2025 αιτήματός μας, το Τμήμα Ελέγχων και Ασφάλειας και η εισηγήτρια ελέγκτρια κα. Φ. Καρβέλα μας ενημερώνουν οτι η Αρχή “έχει εκκινήσει ήδη αυτεπαγγέλτως έλεγχο στις εταιρίες Hangzhou DeepSeek Artificial Intelligence Co., Ltd. και Beijing DeepSeek Artificial Intelligence Co., Ltd., σύμφωνα με τις διατάξεις των άρθρων 57 παρ. 1 α’, 58 παρ. 1 β’ του ΓΚΠΔ και 13 παρ. 1 η’ και 15 παρ. 1 του ν. 4624/2019.”
Αναμένουμε με ιδιαίτερο ενδιαφέρον να μάθουμε περισσότερα για την αυτεπάγγελτη έρευνα της ΑΠΔΠΧ, την πρόοδο της διαδικασίας και τις σχετικές εξελίξεις στην υπόθεση αυτή το προσεχές διάστημα.
Ο έκτος κύκλος ανοιχτών χρηματοδοτήσεων του NGI TALER είναι εδώ! Κάνε την αίτησή σου!
Έχεις μια καινοτόμο ιδέα που βασίζεται στις αρχές του ελεύθερου-ανοιχτού λογισμικού και την προάσπιση της ιδιωτικότητας και υποστηρίζει την αποστολή του NGI TALER, αλλά έχασες τις πρώτες 5 προσκλήσεις χρηματοδότησης μας;
Μην ανησυχείς!
Η 6η Ανοιχτή Πρόσκληση του NGI TALER δημοσιεύτηκε τη 1η Φεβρουαρίου 2025 και έχεις σχεδόν δύο μήνες για να καταθέσεις την αίτηση σου. Η προθεσμία υποβολής είναι η 1η Απριλίου 2025, και ώρα 12:00 CET (Ώρα Κεντρικής Ευρώπης – μεσημέρι).
Αναζητούμε προτάσεις που θα φέρουν την επανάσταση στα ψηφιακά συστήματα πληρωμών και θα συμβάλουν σε ένα ανοιχτό, αξιόπιστο και προσανατολισμένο στην προστασία της ιδιωτικότητας διαδίκτυο για όλους.
Το NGI TALER προσφέρει χρηματοδότηση μεταξύ 5.000 και 50.000 ευρώ! Είτε είσαι μικρομεσαία επιχείρηση, ακαδημαϊκός φορέας, δημόσια αρχή, μη κερδοσκοπικός οργανισμός, κοινότητα ή άτομο – θέλουμε τις καινοτόμες ιδέες σου! Δεν υπάρχουν περιορισμοί στο ποιος μπορεί να καταθέσει αίτηση.
Είμαστε ανοιχτοί σε κάθε δημιουργική και χρήσιμη ιδέα. Θα μπορούσες να ενισχύσεις το GNU Taler αναπτύσσοντας βοηθητικά εργαλεία, βελτιώνοντας την εμπειρία χρήστη, δημιουργώντας ενσωματώσεις σε εφαρμογές FOSS (P2P μικροπληρωμές σε άμεση ανταλλαγή μηνυμάτων, πλατφόρμες κοινωνικών μέσων ή εργαλεία τηλεδιάσκεψης), για να αναφέρουμε μερικές ιδέες, αλλά δεν υπάρχει περιορισμός.
Για περισσότερες πληροφορίες σχετικά με αυτήν και άλλες προσκλήσεις χρηματοδότησης του οικοσυστήματος NGI – The Next Generation Internet, μπορείς να επισκεφτείς την ιστοσελίδα του εδώ.
Μπορείς να διαβάσεις την αναλυτική Ανοιχτή Πρόσκληση, τον Οδηγό για τους Αιτούντες, τις Απαιτήσεις Επιλεξιμότητας και τις Συχνές Ερωτήσεις στην ιστοσελίδα του Ιδρύματος NLnet εδώ.
Τέλος, μπορείς να κάνεις εγγραφή και να δώσεις ενεργά το παρόν στο TALER Integration Community Hub (TALER ICH) για να συζητήσεις και να λάβεις απαντήσεις στις ερωτήσεις σου, εδώ.
Μην χάσεις αυτήν την μοναδική ευκαιρία να συνδιαμορφώσεις το διαδίκτυο της επόμενης γενιάς!
Το NGI TALER συγχρηματοδοτείται από την Ευρωπαϊκή Ένωση. Απόψεις και γνώμες που εκφράζονται είναι ωστόσο αυτές του/των συγγραφέα/ων και δεν αντικατοπτρίζουν απαραίτητα αυτές της Ευρωπαϊκής Ένωσης. Ούτε η Ευρωπαϊκή Ένωση ούτε η αρμόδια αρχή χορήγησης μπορούν να θεωρηθούν υπεύθυνοι γι’ αυτές.