Δημοσιεύουμε την 4η Μελέτη μας για την ΑΙ ACT - Συγκριτική επισκόπηση των διατάξεων για τα δικαιώματα των θιγόμενων προσώπων
Σήμερα, 11 Απριλίου 2025, η Homo Digitalis δημοσιεύει την τέταρτη μελέτη της για τις διατάξεις του Κανονισμού 2024/1689 για την τεχνητή νοημοσύνη (ΤΝ), ευρέως γνωστού ως AI Act.
Στο επίκεντρο της μελέτης αυτής βρίσκονται το δικαίωμα στην επεξήγηση και το δικαίωμα του υποκειμένου να μην υπόκειται σε αυτοματοποιημένη λήψη απόφασης.
Συγκεκριμένα, η χρήση συστημάτων τεχνητής νοημοσύνης για τη λήψη αυτοματοποιημένων αποφάσεων επεκτείνεται συνεχώς τόσο στον δημόσιο όσο και στον ιδιωτικό τομέα, με σημαντικές επιπτώσεις για τα πρόσωπα που υπόκεινται σε αυτές
Επομένως, η παρούσα μελέτη εξετάζει τα μέσα έννομης προστασίας που διαθέτουν τα πρόσωπα που θίγονται από αποφάσεις που λαμβάνονται με τη χρήση ΤΝ. Η ανάλυση επικεντρώνεται στο δικαίωμα επεξήγησης της ατομικής λήψης απόφασης που προβλέπεται στο άρθρο 86 του Κανονισμού 2024/1689. Επειδή όμως η προστασία των θιγόμενων προσώπων δεν περιορίζεται αποκλειστικά στις εν λόγω διατάξεις, η ανάλυση εκτείνεται στο δικαίωμα αμφισβήτησης της ατομικής λήψης απόφασης που -υπό κατάλληλη ερμηνεία- ερείδεται στο άρθρο 22 του Κανονισμού 2016/679, γνωστού ως GDPR / ΓΚΠΔ.
H συγγραφική ομάδα της Μελέτης αποτελείται από δύο έξοχους νομικούς και μέλη – εθελοντές της Homo Digitalis τις (κατά αλφαβητική σειρά) Μαρία-Ευαγγελία Κωνσταντοπούλου και Στρατηγία-Δανάη Σκεύη.
Μπορείτε να διαβάστε την 4η μελέτη μας εδώ.
Θυμίζουμε ότι έχουμε δημοσιεύσει άλλες 3 μελέτες για τον Κανονισμό 2024/1689 και τη μεταφορά του στην ελληνική έννομη τάξη, τον Οκτώβριο (εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα), Νοέμβριο (διακυβέρνηση της ΤΝ και αρμόδιες αρχές εποπτείας) και Δεκέμβριο (απαγορευμένες πρακτικές) του 2024, αντίστοιχα.
Η εντατική αυτή προσπάθεια στοχεύει να συμβάλουμε εποικοδομητικά στο δημόσιο διάλογο στην Ελλάδα αλλά και σε επίπεδο ΕΕ στο πεδίο της τεχνητής νοημοσύνης, ενώ αποτελεί αποτέλεσμα της σημαντικής στήριξης του European Artificial Intelligence & Society Fund.
Συνέντευξη της Homo Digitalis στο Η ΝΑΥΤΕΜΠΟΡΙΚΗ TV και την εκπομπή "REVIEW" του Τάκη Σπηλιόπουλου
Χθες το απόγευμα η Homo Digitalis παραχώρησε συνέντευξη στην εκπομπή του δημοσιογράφου Τάκη Σπηλιόπουλου REVIEW στο κανάλι της Η ΝΑΥΤΕΜΠΟΡΙΚΗ.
Ο Λευτέρης Χελιουδάκης εκπροσώπησε την ομάδα μας, μιλώντας για τις δράσεις μας στους τομείς της ενημέρωσης και της συνδιαφόρφωσης πολιτικών αποφάσεων, σε μία πολύ ενδιαφέρουσα συζήτηση! Εκεί κάναμε αναφορά σε μία σειρά από ζητήματα, όπως η στοχευμένη εμπορική διαφήμιση, ο εθισμός και η νομοθεσία για την τεχνητή νοημοσύνη.
Ακόμη μιλήσαμε για τις ανοιχτές αιτήσεις χρηματοδότησεις του NGI – The Next Generation Internet προγράμματος NGI TALER, το οποίο συγχηματοδοτείται από την Ευρωπαϊκή Επιτροπή και αποσκοπεί στη δημιουργία μία πλατφόρμας ψηφιακών πληρωμών που είναι απόλυτα προσανατολισμένη στην ιδιωτικότητα των χρηστών και αναπτυγμένη με τις αρχές του ελεύθερου λογισμικού (αιτήσεις εδώ).
Την ίδια ημέρα φιλοξενήθηκαν στην εκπομπή μία σειρά από ενδιαφέρουσες συζητήσεις, συμπεριλαμβανομένων εκείνων του Αντώνη Μπαλλή – Επίκουρου Καθηγητή Χρηματοοικονομικής Τεχνολογίας για το φυσικό χρήμα και τις ψηφιακές συναλλαγές, καθώς και του Υπουργού Ψηφιακής Διακυβέρνησης Δημήτρη Παπαστεργίου.
Ευχαριστούμε θερμά για την ευγενική και τιμητική πρόσκληση και τη δημοσιογραφική ομάδα του καναλιού, συμπεριλαμβανομένης της κας. Λιάνα Θάνου.
Μπορείτε να δείτε το πλήρες σχετικό απόσπασμα εδώ.
Η Σαρακοστή και η Κυβερνοασφάλεια: Ένα Μάθημα Προετοιμασίας και Ανθεκτικότητας
Γράφει ο Τάσος Αραμπατζής
Η Σαρακοστή είναι μια περίοδος πνευματικής προετοιμασίας, εγκράτειας και εσωτερικού ελέγχου που οδηγεί στην κορύφωση του Πάσχα. Οι χριστιανοί καλούνται να ακολουθήσουν μια πορεία αυτοσυγκράτησης, μετάνοιας και ενίσχυσης της πνευματικότητάς τους μέσα από τη νηστεία, την προσευχή και τη φιλανθρωπία.
Εντούτοις, το άρθρο αυτό δεν είναι για να μιλήσουμε για νηστεία. Αν μεταφέρουμε αυτό το πλαίσιο στον επιχειρηματικό κόσμο, βλέπουμε ότι η προετοιμασία για ισχυρότερη κυβερνοασφάλεια και κανονιστική συμμόρφωση έχει πολλά κοινά σημεία με το νόημα της Σαρακοστής. Και στις δύο περιπτώσεις, ο δρόμος προς την επιτυχία απαιτεί πειθαρχία, αυτοαξιολόγηση και δέσμευση για συνεχή βελτίωση.
Σε αυτό το άρθρο, θα αναλύσουμε πώς οι βασικές αρχές της Σαρακοστής μπορούν να προσφέρουν ένα ισχυρό πλαίσιο προετοιμασίας για τις επιχειρήσεις, προκειμένου να θωρακιστούν απέναντι σε κυβερνοαπειλές και να συμμορφωθούν με τις αυστηρότερες ρυθμίσεις που επιβάλλουν κανονιστικά πλαίσια όπως το NIS2, το DORA και το GDPR.
Αυτοαξιολόγηση: Η Σημασία της Ενδοσκόπησης
Κατά τη Σαρακοστή, οι πιστοί καλούνται να αναλογιστούν τις πράξεις τους και να εξετάσουν πού χρειάζονται βελτίωση. Ομοίως, οι επιχειρήσεις πρέπει να κάνουν μια ειλικρινή ενδοσκόπηση της κυβερνοασφάλειάς τους.
- Πότε ήταν η τελευταία φορά που πραγματοποιήθηκε ένας πλήρης έλεγχος ασφάλειας;
- Υπάρχουν κενά στην πολιτική πρόσβασης ή στην προστασία ευαίσθητων δεδομένων;
- Κατά πόσο το ανθρώπινο δυναμικό είναι εκπαιδευμένο στις βέλτιστες πρακτικές ασφάλειας;
Η περίοδος της Σαρακοστής μάς υπενθυμίζει ότι μόνο με ειλικρινή αυτογνωσία μπορούμε να προχωρήσουμε μπροστά. Για τις επιχειρήσεις, η αυτοαξιολόγηση είναι το πρώτο βήμα προς την ανθεκτικότητα και τη συμμόρφωση.
Πειθαρχία και Εγκράτεια: Ενίσχυση της Ανθεκτικότητας
Η νηστεία της Σαρακοστής δεν αφορά μόνο τη διατροφική αποχή, αλλά και την αυτοσυγκράτηση από κακές συνήθειες και την καλλιέργεια θετικών στάσεων. Αντίστοιχα, οι επιχειρήσεις πρέπει να επιδείξουν πειθαρχία και εγκράτεια στην εφαρμογή των πολιτικών κυβερνοασφάλειας:
- Περιορισμένη πρόσβαση (Zero Trust): Δεν χρειάζονται οι εργαζόμενοι ή οι συνεργάτες πρόσβαση σε όλα τα δεδομένα. Η προσέγγιση Zero Trust απαιτεί αυστηρή διαχείριση ταυτοτήτων και δικαιωμάτων.
- Ελεγχόμενη χρήση τεχνολογιών: Οι ανεξέλεγκτες cloud εφαρμογές και οι shadow ΑΙ και IT πρακτικές μπορούν να εκθέσουν την εταιρεία σε κινδύνους. Μια πειθαρχημένη πολιτική περιορίζει τους τεχνολογικούς κινδύνους και προστατεύει από επιθέσεις χωρίς να επηρεάζει την αποδοτικότητα και την παραγωγικότητα.
- Συμμόρφωση με τους κανονισμούς: Οι οργανισμοί πρέπει να αντιστέκονται στον πειρασμό των “γρήγορων λύσεων” που παρακάμπτουν τη συμμόρφωση. Μόνο με πειθαρχημένη εφαρμογή των προτύπων ασφάλειας θα αποφύγουν πρόστιμα και επιθέσεις.
Όπως η νηστεία οδηγεί σε εσωτερική ενδυνάμωση, έτσι και η συνεπής εφαρμογή πολιτικών κυβερνοασφάλειας ενισχύει την ανθεκτικότητα των επιχειρήσεων απέναντι στις απειλές.
Μετάνοια και Διορθωτικές Ενέργειες
Η Σαρακοστή είναι περίοδος μετάνοιας και αλλαγής, όπου οι άνθρωποι αναγνωρίζουν τα λάθη τους και προσπαθούν να τα διορθώσουν. Το ίδιο πρέπει να κάνουν και οι επιχειρήσεις.
Αν ένας οργανισμός έχει ήδη δεχθεί κυβερνοεπίθεση ή έχει παραβιάσει κανονισμούς, η «μετάνοια» μεταφράζεται σε διορθωτικές ενέργειες:
- Ανάλυση περιστατικών: Τι πήγε λάθος; Πώς μπορεί να αποφευχθεί στο μέλλον;
- Βελτίωση πολιτικών και διαδικασιών: Αν τα συστήματα απέτυχαν να σταματήσουν ή να περιορίσουν μία επίθεση, μήπως το πρόβλημα είναι διαδικασίες και απαιτείται αναβάθμιση της στρατηγικής ασφαλείας;
- Εκπαίδευση προσωπικού: Πολλές επιθέσεις συμβαίνουν λόγω ανθρώπινων λαθών. Πώς αισθάνονται οι υπάλληλοί σας απέναντι στην κυβερνοασφάλεια; Ένα καλά εκπαιδευμένο προσωπικό μπορεί να μειώσει τις πιθανότητες λαθών και παραβιάσεων.
Η αληθινή «μετάνοια» για μια επιχείρηση είναι να μαθαίνει από τα λάθη της και να γίνεται καλύτερη.
Φιλανθρωπία και Κοινοτική Ευθύνη: Διαμοιρασμός της Γνώσης στην Κυβερνοασφάλεια
Η Σαρακοστή προτρέπει τους πιστούς να ασκούν φιλανθρωπία και αλληλεγγύη. Στον κόσμο της κυβερνοασφάλειας, αυτό μεταφράζεται σε διαμοιρασμό γνώσης και συνεργασία για τη θωράκιση του οικοσυστήματος.
- Προγράμματα ενδυνάμωσης στην κυβερνοασφάλεια: Οι επιχειρήσεις μπορούν να διοργανώνουν εκπαιδευτικά σεμινάρια όχι μόνο για το προσωπικό τους, αλλά και για συνεργάτες και πελάτες.
- Συνεργασία με φορείς κυβερνοασφάλειας: Η ανταλλαγή πληροφοριών για απειλές (threat intelligence sharing) μεταξύ εταιρειών μπορεί να αποτρέψει κυβερνοεπιθέσεις. Η συλλογική άμυνα είναι το καλύτερο αντίμετρο στις επιθέσεις.
- Στήριξη startup και μικρομεσαίων επιχειρήσεων: Η λογιστική αλυσίδα αποτελεί ένα «αγαπημένο» στόχο των επιθέσεων. Οι μεγάλες εταιρείες μπορούν να βοηθήσουν μικρότερες επιχειρήσεις να βελτιώσουν την ασφάλειά τους, δημιουργώντας ένα πιο ασφαλές επιχειρηματικό περιβάλλον για όλους.
Όπως η φιλανθρωπία προσφέρει στήριξη στην κοινωνία, ειδικά σε δύσκολες περιόδους, έτσι και η ανταλλαγή γνώσεων και πληροφοριών στην κυβερνοασφάλεια ενισχύει την προστασία όλων.
Η Σαρακοστή ως Πλαίσιο Κυβερνοασφάλειας
Η Σαρακοστή δεν είναι απλώς μια θρησκευτική παράδοση, αλλά ένα πλαίσιο προετοιμασίας και ενίσχυσης που μπορεί να εφαρμοστεί και στην κυβερνοασφάλεια.
- Αυτοαξιολόγηση → Τακτικός έλεγχος ασφάλειας.
- Πειθαρχία και εγκράτεια → Συνεπής εφαρμογή πολιτικών ασφάλειας.
- Μετάνοια και βελτίωση → Μάθηση από λάθη και αναπροσαρμογή στρατηγικών.
- Φιλανθρωπία και συνεργασία → Κοινοτική ευθύνη για τη διάδοση της γνώσης.
Όπως η Σαρακοστή προετοιμάζει τους πιστούς για την Ανάσταση, έτσι και η οργανωμένη προετοιμασία στην κυβερνοασφάλεια εξασφαλίζει την επιχειρησιακή συνέχεια και ανθεκτικότητα απέναντι στις κυβερνοαπειλές του μέλλοντος.
Καλή Σαρακοστή!
Συνέντευξη της Homo Digitalis στον ΑΝΤ1 στην εκπομπή "Η επιχείριση σου μπορεί" της Φαίης Χρυσοχόου
Την Κυριακή 9 Μαρτίου η Homo Digitalis φιλοξενήθηκε στην εκπομπή “Η επιχείριση σου μπορεί” του ANT1 της δημοσιογράφου Φαίης Χρυσοχόου. Ευχαριστούμε τη δημοσιογράφο και την ομάδα της, Toni Aravadinos, για την ευγενική πρόσκληση και το ενδιαφέρον στις δράσεις μας!
Εκεί, ο Λευτέρης Χελιουδάκης εκπροσώπησε την οργάνωσή μας, μιλώντας για την τεχνητή νοημοσύνη και τη σημασία της νομοθεσίας ως μοχλό καινοτομίας, εμπιστοσύνης και επιχειρηματικότητας.
Είναι πραγματικότητα δυστυχώς, ότι πολλές επιχειρήσεις τεχνολογίας εκτός ΕΕ, βασίστηκαν και γιγαντώθηκαν με βάση το μοντέλο “Move fast and break things”, το οποίο τους οδήγησε μακροπρόθεσμα στο να τους καταλογιστούν πληθώρα παραβάσεων και προστίμων από τις ευρωπαϊκές εποπτικές αρχές και τα δικαστήρια ευρωπαϊκών κρατών, αλλά κυριότερα στο να πολώσουν τις κοινωνίες μας και να μας οδηγήσουν στον εθισμό στα μέσα κοινωνικής δικτύωσης και την παραπληροφόρηση.
Αντίθετα, η συμμόρφωση με την νομοθεσία μπορεί να οδηγήσει τις επιχειρήσεις σε να ανταγωνιστικό πλεονέκτημα, καθώς θέτει γερές οργανωτικές βάσεις και ανοίγει τον δρόμο για την ενιαία ψηφιακή αγορά. Οπότε, η νομοθεσία δεν περιορίζει το επιχειρείν, αλλά αντιθέτως συμβάλει στην ανάπτυξη του με βιώσιμο τρόπο, με τα οφέλη μακροπρόθεσμα για τις επιχειρήσεις και τις δημοκρατικές κοινωνίες μας να είναι πολλαπλά.
Συμμόρφωση στην Εποχή της Τεχνητής Νοημοσύνης και της Κυβερνοασφάλειας: Πρόκληση ή Ευκαιρία;
Γράφει o Τάσος Αραμπατζής
Για χρόνια, η κυβερνοασφάλεια αγωνιζόταν να εξασφαλίσει μια θέση στην ατζέντα της διοίκησης των επιχειρήσεων. Χρειάστηκαν πρόστιμα εκατομμυρίων, νομικές διαμάχες και υψηλού προφίλ παραβιάσεις δεδομένων για να συνειδητοποιήσουν οι επιχειρήσεις ότι η ασφάλεια δεν είναι απλώς ένα ζήτημα πληροφορικής—είναι επιχειρηματικός κίνδυνος. Κανονισμοί όπως το GDPR, η NIS2 και το EU AI Act λειτουργούν ως καταλύτες, αναγκάζοντας τους οργανισμούς να επενδύσουν στη συμμόρφωση.
Αλλά εδώ είναι το βασικό ερώτημα: Είναι η συμμόρφωση ένα αναγκαίο κακό ή αποτελεί το θεμέλιο μιας ανθεκτικής στρατηγικής κυβερνοασφάλειας;
Συμμόρφωση: Το Ελάχιστο Απαραίτητο Επίπεδο Ασφάλειας
Οι κανονιστικές απαιτήσεις λειτουργούν ως βασική γραμμή άμυνας. Μπορεί να μην προσφέρουν την πιο εξελιγμένη προστασία, αλλά καθορίζουν μια δομημένη προσέγγιση στη διαχείριση κινδύνων. Σύμφωνα με την τελευταία έκθεση Thales Data Threat Report 2024, οι οργανισμοί που απέτυχαν σε ελέγχους συμμόρφωσης υπέστησαν περισσότερες παραβιάσεις δεδομένων από εκείνους που πέτυχαν. Το συμπέρασμα είναι σαφές—η συμμόρφωση δεν αφορά μόνο την αποφυγή προστίμων, αλλά και την αποτροπή κυβερνοεπιθέσεων.
Για παράδειγμα, οι επιχειρήσεις που επένδυσαν σε πρακτικές προστασίας δεδομένων λόγω του GDPR βρίσκονται τώρα σε πλεονεκτική θέση για να αντιμετωπίσουν τις νέες προκλήσεις των κανονισμών για την τεχνητή νοημοσύνη. Αντίστοιχα, η NIS2 επιβάλλει μέτρα ασφαλείας βάσει κινδύνου, τα οποία ευθυγραμμίζονται με τις βέλτιστες πρακτικές κυβερνοασφάλειας.
Κανονιστική Υπερφόρτωση; Όχι Ακριβώς.
Ένα συχνό παράπονο των επαγγελματιών ασφάλειας είναι ότι βυθίζονται σε κανονιστικές απαιτήσεις. Όμως, αν εξετάσουμε προσεκτικά τους κανονισμούς, παρατηρούμε σημαντικές επικαλύψεις.
- EU AI Act vs. GDPR: Ο Νόμος για την ΤΝ (AI Act) επεκτείνει τις αρχές του GDPR, επιβάλλοντας διαφάνεια στις αποφάσεις που λαμβάνονται από συστήματα ΤΝ.
- NIS2 vs. DORA: Το DORA και η NIS2 επιβάλλουν παρόμοιες απαιτήσεις κυβερνοασφάλειας σε χρηματοπιστωτικά ιδρύματα, εξασφαλίζοντας ανθεκτικότητα έναντι κυβερνοαπειλών.
Η κατανόηση αυτών των αλληλεπικαλύψεων επιτρέπει στους οργανισμούς να αναπτύξουν μια ενοποιημένη στρατηγική συμμόρφωσης αντί να αντιμετωπίζουν κάθε κανονισμό ξεχωριστά. Παρότι το κανονιστικό τοπίο φαίνεται ομιχλώδες, εντούτοις ακολουθώντας μία ολιστική προσέγγιση επιτρέπει στις επιχειρήσεις να συμμορφωθούν με περισσότερη εμπιστοσύνη.
Η Παγίδα της Πολυπλοκότητας: Όταν η Συμμόρφωση Γίνεται Γρίφος
Δεν είναι όμως όλα τόσο απλά. Πολλοί κανονισμοί είναι σκόπιμα γενικοί ώστε να μπορούν να εφαρμόζονται σε μία πλειάδα περιπτώσεων. Αυτή όμως η γενικότητα προσθέτει περισσότερη πολυπλοκότητα, αναγκάζοντας τις επιχειρήσεις να τους προσαρμόσουν στις δικές τους ανάγκες. Αυτό δημιουργεί ένα δίλημμα: Πώς μπορεί μια εταιρεία να διασφαλίσει τη συμμόρφωση αν δεν είναι σαφές τι ακριβώς απαιτείται;
Ένα χαρακτηριστικό παράδειγμα είναι το Άρθρο 86 του EU AI Act, το οποίο δίνει στους πολίτες το δικαίωμα να λαμβάνουν “σαφείς και ουσιαστικές εξηγήσεις” για το πώς ένα σύστημα ΤΝ επηρεάζει μια απόφαση. Σύμφωνα με την Luiza Jarovsky, αυτή η απαίτηση εγείρει κρίσιμα ερωτήματα:
- Αν ακόμη και οι ίδιοι οι δημιουργοί των συστημάτων ΤΝ δεν μπορούν να εξηγήσουν πλήρως πώς λειτουργούν (το πρόβλημα του “μαύρου κουτιού”), πώς μπορούν οι οργανισμοί να δώσουν ξεκάθαρες απαντήσεις;
- Είναι τεχνολογικά εφικτό να συμμορφωθούν οι εταιρείες με αυτή την απαίτηση;
Αυτές οι αβεβαιότητες δημιουργούν ένταση μεταξύ της ρυθμιστικής φιλοδοξίας και της τεχνικής πραγματικότητας.
Βελτιώνουν τα Πρόστιμα την Ασφάλεια;
Παρόλο που τα πρόστιμα είναι ισχυρό κίνητρο, συχνά οδηγούν σε επιφανειακή συμμόρφωση αντί για ουσιαστικές βελτιώσεις ασφάλειας.
Το GDPR υπάρχει από το 2018, αλλά οι παραβιάσεις δεδομένων συνεχίζονται αμείωτες. Μερικές εταιρείες βλέπουν τη συμμόρφωση ως οικονομική εξίσωση:
“Αν το κόστος της συμμόρφωσης είναι μεγαλύτερο από το ρίσκο του προστίμου, γιατί να συμμορφωθούμε;”
Το ίδιο ερώτημα θα προκύψει και με τον EU AI Act. Αν οι οργανισμοί δυσκολευτούν να συμμορφωθούν με τις απαιτήσεις διαφάνειας στην ΤΝ, θα επιβληθούν βαριά πρόστιμα ή θα υιοθετηθεί μια πιο ήπια προσέγγιση μέχρι να καθοριστούν οι βέλτιστες πρακτικές;
Και βεβαίως δεν θα πρέπει να ξεχνάμε την επίδραση της τρέχουσας γεωπολιτικής κατάστασης στο πως τελικά θα επιβληθεί η εκάστοτε νομοθεσία. Η πρόσφατη απόφαση για την απόσυρση του ΑΙ Liability Directive είναι ένα παράδειγμα αυτής της επίδρασης.
Η Πρόκληση της Εφαρμογής: Ποιος Επιβλέπει τους Ρυθμιστές;
Οι κανονισμοί είναι αποτελεσματικοί μόνο αν εφαρμόζονται σωστά. Το EU AI Act εισάγει νέες απαιτήσεις συμμόρφωσης, αλλά έχουν οι ρυθμιστικές αρχές την τεχνογνωσία να επιβλέψουν πολύπλοκα μοντέλα ΤΝ;
Το GDPR αντιμετώπισε σοβαρές προκλήσεις στην επιβολή του:
- Οι ρυθμιστικές αρχές είναι συχνά υποστελεχωμένες, καθυστερώντας τις έρευνες.
- Υπάρχει ασυνέπεια στην επιβολή των κανόνων μεταξύ των κρατών-μελών της ΕΕ.
Ο EU AI Act είναι ακόμη πιο πολύπλοκος. Αν οι ρυθμιστές δεν μπορούν να επιβάλουν αυστηρή συμμόρφωση, οι επιχειρήσεις μπορεί να καθυστερήσουν τις προσαρμογές τους, περιμένοντας να δουν αν οι κανόνες θα εφαρμοστούν πραγματικά.
Η πρόσφατη εξέλιξη με το Smart Policing της ΕΛΑΣ αναδεικνύει αυτό ακριβώς το πρόβλημα:
“Τα 4,5 χρόνια έρευνας της ΑΠΔΠΧ, φανερώνουν επίσης ότι η πολιτεία πρέπει να στηρίξει την Αρχή Προστασίας Δεδομένων, καθώς η υψηλή εξειδίκευση των ελεγκτών της δεν είναι αρκετή, αλλά αντιθέτως απαιτούνται περισσότεροι ανθρώπινοι και οικονομικοί πόροι. Και όλα αυτά χωρίς να υπολογίζουμε τον αυξημένο φόρτο εργασίας που προβλέπεται τα ερχόμενα χρόνια με την AI Act.”
Οι ακούσιες συνέπειες της συμμόρφωσης: Καταπνίγοντας την καινοτομία;
Ενώ τα πλαίσια συμμόρφωσης αποσκοπούν στην προστασία των καταναλωτών και των επιχειρήσεων, μπορούν επίσης να δημιουργήσουν εμπόδια στην καινοτομία. Ο GDPR προοριζόταν να ενισχύσει τα δικαιώματα προστασίας της ιδιωτικής ζωής, αλλά πολλές μικρές επιχειρήσεις αντιμετώπισαν και αντιμετωπίζουν με δυσκολία το βάρος της συμμόρφωσης, οδηγώντας σε:
- Σε φυγή των νεοφυών επιχειρήσεων σε λιγότερο ρυθμιζόμενες αγορές.
- Εμπόδια στην καινοτομία λόγω της νομικής αβεβαιότητας.
Θα μπορούσε να συμβεί το ίδιο με την πράξη της ΕΕ για την τεχνητή νοημοσύνη; Οι νεοσύστατες επιχειρήσεις τεχνητής νοημοσύνης ίσως βρουν ευκολότερο να δραστηριοποιηθούν στις ΗΠΑ ή την Ασία, όπου οι κανονισμοί είναι λιγότερο αυστηροί. Η ακούσια συνέπεια; Η Ευρώπη θα μπορούσε να μείνει πίσω στην ανάπτυξη της τεχνητής νοημοσύνης, παρά το γεγονός ότι ήταν από τους πρώτους που τη ρύθμισαν.
Συμμόρφωση ως ανταγωνιστικό πλεονέκτημα
Οι οργανισμοί που σκέφτονται μπροστά από την εποχή τους αλλάζουν το σενάριο και αντιμετωπίζουν τη συμμόρφωση όχι ως βάρος ή πρόκληση, αλλά ως ανταγωνιστικό διαφοροποιητικό στοιχείο. Για παράδειγμα, σύμφωνα με έρευνα της Thales, το 89% των πελατών θα συμφωνούσαν με την χρήση των δεδομένων τους μόνο εφόσον υπάρχουν βασικές πολιτικές ασφάλειας και ιδιωτικότητας. Οι εταιρείες που αντιμετωπίζουν προληπτικά τη διαφάνεια της ΤΝ, την προστασία των δεδομένων και τους κινδύνους κυβερνοασφάλειας θα κερδίσουν μεγαλύτερη εμπιστοσύνη από πελάτες και συνεργάτες.
Πάρτε για παράδειγμα τις χρηματοπιστωτικές υπηρεσίες που βασίζονται στην ΤΝ. Μια τράπεζα που μπορεί να εξηγήσει με σαφήνεια γιατί απορρίφθηκε ένα δάνειο (σύμφωνα με τον νόμο περί ΤΝ) θα καλλιεργήσει ισχυρότερες σχέσεις με τους πελάτες της από μια τράπεζα που κρύβεται πίσω από την αλγοριθμική αδιαφάνεια. Παρομοίως, ένας πάροχος υγειονομικής περίθαλψης με ισχυρό πλαίσιο ασφαλείας συμβατό με το NIS2 θα ξεχωρίσει ως αξιόπιστος φορέας σε έναν κλάδο που μαστίζεται από παραβιάσεις δεδομένων.
Τελική σκέψη: Η συμμόρφωση δεν είναι επιλογή-αλλά ο τρόπος που την προσεγγίζετε είναι
Ρυθμιστικά πλαίσια όπως ο GDPR, η NIS2 και ο νόμος της ΕΕ για την τεχνητή νοημοσύνη ήρθαν για να μείνουν. Θα διαμορφώσουν τον τρόπο λειτουργίας των επιχειρήσεων στην ψηφιακή οικονομία, επηρεάζοντας τα πάντα, από τη διακυβέρνηση της ΤΝ έως τις επενδύσεις στην κυβερνοασφάλεια. Οι οργανισμοί μπορούν να επιλέξουν να βλέπουν τη συμμόρφωση ως βάρος, αντιδρώντας σε κάθε νέα εντολή με απογοήτευση - ή μπορούν να την αγκαλιάσουν ως θεμέλιο για την οικοδόμηση εμπιστοσύνης, ασφάλειας και μακροπρόθεσμης επιτυχίας.
Ποια θα είναι η δική σας προσέγγιση;
Η Ψηφιοποίηση της Ελληνικής Δικαιοσύνης Υπό το Πρίσμα της Τεχνητής Νοημοσύνης
Γράφει η Καλλιόπη Τερζίδου*
Η ψηφιοποίηση των δικαστηρίων σε επίπεδο διοίκησης και υπηρεσιών δεν ευδοκίμησε νωρίς στην Ελλάδα λόγω έλλειψης συστηματικού σχεδιασμού και καταφυγής σε πρόχειρες και πρόσκαιρες λύσεις για την επίλυση προβλημάτων [1]. Πλέον, οι δικηγόροι μπορούν να πραγματοποιούν μια σειρά διαδικασιών ηλεκτρονικά, όπως της αναζήτησης της πορείας πολιτικών υποθέσεων και των πινακίων της πολιτικής διαδικασίας, μέσω της Πύλης Ψηφιακών Υπηρεσιών Δικαστηρίων και Εισαγγελιών – ΟΣΔΔΥ (solon.gov.gr). Οι πολίτες έχουν πρόσβαση στις ίδιες ηλεκτρονικές υπηρεσίες με τους δικηγόρους (με εξαίρεση την κατάθεση εγγράφων), στην ψηφιακή επίδοση εγγράφων (N. 4937/2022) και στην υπηρεσία τηλεδιασκέψεων για Πολιτικά, Ποινικά και Διοικητικά Δικαστήρια, μεταξύ άλλων.
Οι πρωτοβουλίες αυτές για την ψηφιοποίηση των δικαστικών υπηρεσιών είναι σημαντικές αλλά δεν είναι πάντα αποτελεσματικές. Σύμφωνα με στοιχεία της Ένωσης Δικαστών και Εισαγγελέων [2], τα ποσοστά χρήσης των πλατφορμών του ΟΣΔΔΥ εμφανίστηκαν αρχικά χαμηλά σε σχέση με την προτίμηση των πολιτών στη δια ζώσης εξυπηρέτηση τους. Περαιτέρω, η νομολογία δεν είναι εξίσου προσβάσιμη στο ευρύ κοινό όπως στους δικηγόρους, αφού δε βρίσκεται συγκεντρωμένη σε ένα περιορισμένο αριθμό ιστοσελίδων. Έτσι ο πολίτης αναγκάζεται να επισκέπτεται την ιστοσελίδα του δικαστηρίου για το οποίο ενδιαφέρεται, με κίνδυνο να μην βρει αυτό που ψάχνει. Αυτό συμβαίνει καθώς πολλές φορές τα δικαστήρια δεν δημοσιοποιούν όλες τις αποφάσεις, για παράδειγμα λόγω μη ανωνυμοποίησης των αποφάσεων, εμπλοκής ανηλίκων στην υπόθεση, εφαρμογής συστήματος προτεραιοποίησης αποφάσεων προς δημοσιοποίηση, ή και αναποτελεσματικής διοίκησης των δικαστηρίων.
Για την αντιμετώπιση αυτών των περιορισμών, η Διαρκής Επιστημονική Επιτροπή του Υπουργείου Δικαιοσύνης για την Τεχνητή Νοημοσύνη (ΤΝ) διερευνά τις πιθανές εφαρμογές συστημάτων ΤΝ στα δικαστήρια, καθώς η ΤΝ υπόσχεται την αποτελεσματικότερη αυτοματοποίηση διαδικασιών και την αμεσότερη αλληλεπίδραση των συστημάτων με τους χρήστες. Η Επιτροπή υποβάλει προτάσεις για νομοθετικές μεταρρυθμίσεις σχετικά με την εισαγωγή συστημάτων ΤΝ στα δικαστήρια και με την καθιέρωση δικλείδων ασφαλείας των δικαιωμάτων των πολιτών.
Σύμφωνα με τις διαθέσιμες πληροφορίες της Διαρκούς Επιτροπής, δεν σχεδιάζεται ή εφαρμόζεται κάποιο σύστημα ΤΝ ‘υψηλού κινδύνου’ στα ελληνικά δικαστήρια, δηλαδή κάποιο σύστημα που μπορεί να επηρεάσει τη δημοκρατία, το κράτος δικαίου και τις ατομικές ελευθερίες, όπως το δικαίωμα στη δίκαιη δίκη [3]. Μόνη εξαίρεση μπορεί να θεωρηθεί το σχέδιο υλοποίησης συστήματος ΤΝ για τον εντοπισμό από τους ελεγκτές του Ελεγκτικού Συνεδρίου πιθανών παρατυπιών στην καταβολή δαπανών ή στην είσπραξη εσόδων του ελεγχόμενου φορέα [4]. Το εν λόγω σύστημα ΤΝ θα επιτρέπει στους ελεγκτές να επικεντρώνονται στις υποθέσεις εκείνες που παρουσιάζουν μεγάλη πιθανότητα παρατυπίας στη λειτουργία των συστημάτων οικονομικής διαχείρισης των ελεγχόμενων φορέων. Στο βαθμό που το συγκεκριμένο σύστημα ελέγχει κάποια πραγματικά περιστατικά έναντι μιας νομικής βάσης και διεξάγει συμπεράσματα για πιθανές παρατυπίες, μπορεί να θεωρηθεί ως σύστημα υψηλού κινδύνου σύμφωνα με το Παράρτημα ΙΙΙ, παράγραφος 8 του Κανονισμού για την ΤΝ. Ουσιαστικά, ο υψηλός κίνδυνος συνίσταται στην υποκατάσταση από το σύστημα ΤΝ της κρίσης των ελεγκτών ως προς την πιθανότητα ή μη παρατυπίας, ώστε να περιορίζεται η ανθρώπινη παρέμβαση και εποπτεία της λειτουργίας του συστήματος. Έτσι, πρέπει να εφαρμόζονται οι δικλείδες ασφαλείας για την ορθή εκπαίδευση και λειτουργία των συστημάτων ΤΝ κατά τα Άρθρα 8-15 του Κανονισμού.
Σε κάθε περίπτωση, η Διαρκής Επιτροπή τείνει στην ενσωμάτωση συστημάτων ΤΝ για την υποστήριξη ‘αμιγώς βοηθητικών διοικητικών δραστηριοτήτων,’ όπως τις χαρακτηρίζει ο Κανονισμός στο Προοίμιο 61. Αυτό διαφαίνεται από τα προβλεπόμενα σχέδια ενσωμάτωσης συστημάτων ΤΝ για σκοπούς όπως η ανωνυμοποίηση των δικαστικών αποφάσεων και ο έλεγχος της αναφοράς του δικηγόρου ως «Παραστάς» στη δικαστική απόφαση ώστε να του δίνεται πρόσβαση σε δικαστικά έγγραφα [5]. Το κοινό στοιχείο αυτών των συστημάτων είναι η επεξεργασία δικαστικών εγγράφων και η (περιορισμένη) αυτοματοποίηση διοικητικών δραστηριοτήτων με στόχο την υποστήριξη των δικαστικών υπαλλήλων και την επιτάχυνση της δίκης.
Ωστόσο, ο μεγαλύτερος κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ στη διοίκηση των δικαστηρίων είναι η εφαρμογή διαφορετικών αλγοριθμικών συστημάτων ή και πρακτικών ανά δικαστήριο. Για παράδειγμα, η διαφορετικοί τρόποι σύνταξης των δικαστικών αποφάσεων ανά δικαστήριο ενδέχεται να μπερδεύουν το αλγοριθμικό σύστημα, καθώς έχει εκπαιδευτεί να επεξεργάζεται ένα συγκεκριμένο μοτίβο αποφάσεων ώστε να μη δύναται να λειτουργήσει σε διαφορετικό πλαίσιο. Ένας ακόμη κίνδυνος για την επιτυχή ενσωμάτωση συστημάτων ΤΝ είναι η έλλειψη μηχανογραφημένων εγγράφων τα οποία το αλγοριθμικό σύστημα μπορεί να επεξεργαστεί για να εκπαιδευτεί και να λειτουργήσει αποτελεσματικά. Έτσι, συχνά ένας ή μερικοί δικαστικοί υπάλληλοι αναλαμβάνουν κατά χειρωνακτικό τρόπο (χωρίς την υποστήριξη ψηφιακών μέσων) την επεξεργασία εγγράφων, όπως οι δικαστικές αποφάσεις, για την εκτέλεση διοικητικών δραστηριοτήτων, όπως η ανωνυμοποίηση των αποφάσεων, υποβαθμίζοντας έτσι την αποτελεσματικότητα και την επιτάχυνση των διοικητικών διαδικασιών .
Μελλοντικές πρωτοβουλίες ενσωμάτωσης συστημάτων ΤΝ στη διοίκηση των δικαστηρίων πρέπει να ελέγχονται για την ύπαρξη υψηλού κινδύνου, κυρίως όσον αφορά το δικαίωμα των πολιτών στη δίκαιη δίκη. Γι’ αυτόν το λόγο, οι υπεύθυνοι φορείς στον τομέα της δικαιοσύνης πρέπει να διενεργούν εκτιμήσεις αντικτύπου σε τακτά χρονικά διαστήματα, ώστε να εκτιμώνται οι πιθανοί κίνδυνοι που ενέχουν τα επιμέρους συστήματα ΤΝ για τα δικαιώματα των πολιτών, να αποτιμώνται οι επιπτώσεις της πραγματοποίησης τέτοιων κινδύνων, και να προβλέπονται μέτρα αντιμετώπισης τους. Στις περισσότερες περιπτώσεις, η επέμβαση προγραμματιστών θα είναι αρκετή για την επίλυση λειτουργικών ζητημάτων. Ωστόσο, η λειτουργία συστημάτων ΤΝ πρέπει να αντιμετωπίζεται ολιστικά, ώστε όχι μόνο οι προγραμματιστές αλλά και οι υπεύθυνοι φορείς και οι χρήστες των συστημάτων να συμμετέχουν στον σχεδιασμό, στην υλοποίηση και στην αξιολόγηση της λειτουργίας τους στα δικαστήρια. Μόνο μέσω ενός αποτελεσματικού και ουσιαστικού διαλόγου μεταξύ όλων των εμπλεκόμενων φορέων μπορεί να επιτευχθεί μια ομαλή και ασφαλής ενσωμάτωση συστημάτων ΤΝ στη δικαιοσύνη, με τελικό αποδέκτη των ωφελειών τους τους πολίτες.
Επιπρόσθετα, θα πρέπει να παρέχεται συνδρομή στους χρήστες των συστημάτων ΤΝ, ώστε να εφοδιάζονται με ψηφιακές δεξιότητες για την ανεμπόδιστη χρήση των συστημάτων που αφορούν είτε τη διοίκηση των δικαστηρίων είτε τις δικαστικές υπηρεσίες. Η διαλειτουργικότητα των ψηφιακών πλατφορμών και μητρώων (ως τώρα περιορισμένη μέσω gov.gr και TAXISNET) διευκολύνει περαιτέρω την πρόσβαση των χρηστών με ένα κλικ στις ηλεκτρονικές υπηρεσίες και την ταυτόχρονη ενημέρωση μιας υπόθεσης με κάθε καινούρια ενέργεια, ωθώντας τους χρήστες να προτιμούν την ηλεκτρονική έναντι της φυσικής οδού.
* Η Καλλιόπη Τερζίδου είναι Υποψήφια Διδάκτωρ της Νομικής Σχολής του Πανεπιστημίου του Λουξεμβούργου. Η έρευνα της υποστηρίζεται από το Fonds National de la Recherche (PRIDE 19/14268506).
[1] Θ. Φορτσάκης, Συμβολή για την Αποτελεσματικότητα της Δικαιοσύνης, Νομική Βιβλιοθήκη, Μάιος 2015, 233-234.
[2] Ένωση Δικαστών και Εισαγγελέων, Η Ελληνική Δικαιοσύνη το 2040, Οκτώβριος 2021, 22-25.
[3] Κανονισμός (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 13ης Ιουνίου 2024, για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη.
[4] Διαρκής Επιστημονική Επιτροπή Του ΥΔ Για Την Τεχνητή Νοημοσύνη, Πρακτικό συνεδρίασης 28 Μαΐου 2024, 21.
[5] Δρ. Ηλίας Λυμπερόπουλος, Εφαρμογές NLP-AI Πρωτοδικείου Αθηνών.
Υπογράφουμε κοινή επιστολή οργανώσεων της ΚτΠ για το AI Summit και την προστασία του περιβάλλοντος
Λίγο πριν από τη Σύνοδο Δράσης για την Τεχνητή Νοημοσύνη (ΑΙ Summit) στη Γαλλία, περισσότερες από 100 οργανώσεις της κοινωνίας των πολιτών από όλο τον κόσμο, συμπεριλαμβανομένης της Homo Digitalis, απευθύνουν ένα επείγον μήνυμα προς τις κυβερνήσεις και τους ηγέτες της βιομηχανίας: Το περιβαλλοντικό και ανθρώπινο κόστος της Τεχνητής Νοημοσύνης είναι υπερβολικά υψηλό – χρειάζονται άμεσες δράσεις.
Οι 5 βασικές μας διεκδικήσεις:
–Κατάργηση των ορυκτών καυσίμων
–Περιορισμός της υπολογιστικής κατανάλωσης
–Διασφάλιση υπεύθυνων αλυσίδων εφοδιασμού
–Ενίσχυση της δίκαιης συμμετοχής
–Προώθηση ουσιαστικής διαφάνειας
Ήρθε η ώρα η Τεχνητή Νοημοσύνη να γίνει βιώσιμη, δίκαιη και υπόλογη.
Διαβάστε τις πλήρεις απαιτήσεις μας αναλυτικά εδώ.
Μπορείτε να υπογράψετε τη κοινή δήλωση εδώ.
Δηλώσεις της Ηοmo Digitalis σε άρθρο των Reporters United, Investigate Europe & ΕφΣυν για την ΑΙ Act
Μετά την έρευνα και τις σχετικές αποκαλύψεις στις οποίες προχώρησαν την περασμένη εβδομάδα οι Reporters United, Investigate Europe και Η Εφημερίδα των Συντακτών αναφορικά με τις τριμερείς διασκέψεις για την ΑΙΑct και την αρνητική στάση της Ελληνικής Κυβέρνησης για τις δικλείδες ασφαλείας για τη βιομετρική ταυτοποίηση σε ύστερο χρόνο, σήμερα σε νέο ρεπορτάζ η δημοσιογράφος Ευρυδίκη Μπερσή αναδεικνύει πως οι διάφοροι κρατικοί φορείς, παραβιάζουν συστηματικά εδώ και χρόνια τις δικλείδες ασφαλείας που η ευρωπαϊκή νομοθεσία προστασίας προσωπικών δεδομένων προβλέπει για τα συστήματα τεχνητής νοημοσύνης που ήδη χρησιμοποιούνται στη χώρα μας.
Ευχαριστούμε θερμά τη δημοσιογράφο για το ενδιαφέρον στις σχετικές δράσεις μας και τη δυνατότητα να παραχωρήσουμε κάποια σύντομα σχετικά σχόλια αναφορικά με τις προκλήσεις που έχουμε εντοπίσει και την έλλειψη συμμόρφωσης που διαφαίνεται διαχρονικά. Στις δηλώσεις μας εκπροσώπησε o Λευτέρης Χελιουδάκης.
Μάλιστα, στο πλαίσιο της έρευνάς των δημοσιογράφων, έχει ήδη κατατεθεί και αίτημα πρόσβασης σε πληροφορίες με το οποίο η Ελληνική Κυβέρνηση καλείται να δημοσιοποιήσει τα έγγραφα με τις θέσεις της στις τριμερείς διασκέψεις!
Μπορείτε να διαβάσετε το σχετικό άρθρο αλλά και την αναλυτική τους έρευνα εδώ.
Ενώ οι τριμερείς διασκέψεις σε επίπεδο ΕΕ συνεχίζονται στο πλαίσιο του προτεινόμενου κανονισμού για τη θέσπιση πρόσθετων διαδικαστικών κανόνων σχετικά με την επιβολή του GDPR, μαζί με την European Digital Rights και άλλες 34 οργανώσεις της Κοινωνίας των Πολιτών ενώνουμε τις φωνές μας σε μία ανοιχτή επιστολή προς τους νομοθέτες!
⚖️ Τους καλούμε να δώσουν προτεραιότητα σε ισχυρούς μηχανισμούς επιβολής, που θα διασφαλίζουν ότι τα άτομα μπορούν να ασκούν ουσιαστικά τα δικαιώματά τους, ενώ υπογραμμίζουμε τις συστημικές αδυναμίες που ενυπάρχουν στην επιβολή των διατάξεων του GDPR.
Διαβάστε την ανοιχτή επιστολή (EN) εδώ.