Όταν η εικόνα ψεύδεται: Η πρόκληση των deepfakes
Γράφει η Βασιλική Γκάνη*
Ζούμε σε μία εποχή που χαρακτηρίζεται από τον εκσυγχρονισμό και την μετάβαση στον ψηφιακό μετασχηματισμό, με την τεχνολογία να διακατέχει έναν πρωταγωνιστικό ρόλο στην καθημερινότητα μας. Παρά τα σημαντικά οφέλη αυτής, δεν μπορούν να παραβλεφθούν οι πολυάριθμες και εξίσου σπουδαίες προκλήσεις που προκύπτουν από την χρήση της, ιδίως όσον αφορά την ασφάλεια και την προστασία προσωπικών δεδομένων. Μία λοιπόν από τις σπουδαιότερες προκλήσεις της ψηφιακής εποχής συνιστά η εμφάνιση νέων μορφών κακοποίησης, μεταξύ των οποίων συγκαταλέγεται και το φαινόμενο της «εκδικητικής πορνογραφίας», το οποίο συχνά συνδυάζεται με την χρήση προηγμένων μεθόδων τεχνολογίας για τη διάδοση και απόκρυψη του προσβλητικού υλικού.
Μία σύντομη ιστορική αναδρομή
Κάνοντας μια σύντομη αναδρομή στην δεκαετία του ‘90, με την άνοδο του διαδικτύου και την σημαντική εισβολή του στην καθημερινότητα μας, δόθηκε στους χρήστες του μία μεγάλη και πρωτόγνωρη ελευθερία έκφρασης και διαμοιρασμού δεδομένων, συνοδευόμενη παράλληλα από νέες μορφές διαδικτυακής (online) κακοποίησης, με το φαινόμενο της εκδικητικής πορνογραφίας να αποτελεί ένα από τα σημαντικότερα παραδείγματα αυτών. Σημαντικό σημείο καμπής στην ιστορία της εκδικητικής πορνογραφίας υπήρξε η υπόθεση του Hunter Moore και της πλατφόρμας «IsAnyoneUp.com». Η συγκεκριμένη ιστοσελίδα, ιδρυόμενη από τον Hunter Moore το 2010, προκάλεσε έντονη κοινωνική κατακραυγή και οδήγησε σε νομικές αντιπαραθέσεις, καθώς αποτέλεσε την πρώτη αναγνωρισμένη πλατφόρμα εκδικητικής πορνογραφίας σε διεθνές επίπεδο. Η πλατφόρμα IsAnyoneUp.com φιλοξενούσε φωτογραφίες γυναικών και ανδρών δίχως τη συγκατάθεση τους, συχνά συνοδευόμενες από τα προφίλ τους στα μέσα κοινωνικής δικτύωσης και από προσβλητικά σχόλια. Παρά τις συνεχείς εκκλήσεις για διαγραφή περιεχομένου, ο Moore αρνούνταν κατηγορηματικά να προβεί σε αυτήν την ενέργεια, προωθώντας μάλιστα τις διαμαρτυρίες των θυμάτων για δική του προβολή. Η σύλληψη του Moore έλαβε τελικά χώρα το 2014, με την υπόθεση να στιγματίζει την κοινωνία και να ανοίγει την δίοδο για την ανέλειξη των σοβαρών ελλείψεων νομικής προστασίας για τα θύματα, επιβεβαιώνοντας την ανάγκη να ενισχυθεί το υπάρχον ρυθμιστικό πλαίσιο, αλλά και να αλλάξει η κοινωνία την στάση της απέναντι στη διαδικτυακή παρενόχληση.
Ξαναδιαβάζοντας τον όρο «Εκδικητική πορνογραφία»
Με τον όρο «εκδικητική πορνογραφία» αναφερόμαστε στην δημοσίευση ή απειλή δημοσίευσης ευαίσθητου οπτικοακουστικού υλικού, δίχως τη συναίνεση των απεικονιζόμενων ατόμων, με σκοπό τη βλάβη, την εκδίκηση ή τον εκφοβισμό. Το διαδίκτυο συμβάλλει στην γρήγορη διακίνηση αυτού του υλικού, το οποίο μπορεί να δημιουργείται κατά τη διάρκεια προσωπικών σχέσεων ή και όχι, προκαλώντας σοβαρές συνέπειες για τα θύματα. Σύμφωνα με το Ευρωπαικό Ινστιτούτο για την Ισότητα των Φύλων, ως «εκδικητική πορνογραφία» ορίζεται η ανάρτηση ή διανομή φωτογραφιών και βίντεο σεξουαλικού περιεχομένου χωρίς τη συναίνεση του απεικονιζόμενου ατόμου. Παρά την ευρεία χρήση του όρου «εκδικητική πορνογραφία» τόσο από την κοινωνία, όσο και από τη νομοθεσία – συμπεριλαμβανομένου του Έλληνα νομοθέτη-, έχει δεχθεί έντονη κριτική, καθώς δεν αντανακλά πλήρως τη φύση και την ουσία του προβλήματος.
Κατ’ αρχάς, ο όρος της «εκδικητικής πορνογραφίας» επικεντρώνεται κυρίως στα κίνητρα του δράστη αυτά καθ’ αυτά, τα οποία συνδέονται με την «εκδίκηση», και όχι στην ουσία της εγκληματικής συμπεριφοράς, δηλαδή την έλλειψη συναίνεσης του θύματος, περιορίζοντας έτσι το φαινόμενο στις περιπτώσεις όπου υφίσταται μία προσωπική σχέση μεταξύ δράστη και θύματος. Έτσι, παραβλέπονται άλλες εξίσου σοβαρές περιπτώσεις, όπου το υλικό διανέμεται με σκοπό τον εκβιασμό, το οικονομικό όφελος ή ακόμα και την απλή διαπόμπευση του θύματος.
Επιπλέον, η χρήση της λέξης «εκδικητική» στον όρο αυτόν ενέχει τον κίνδυνο να εννοηθεί ότι έχει προηγηθεί εκ μέρους του θύματος κάποια πράξη που προκάλεσε και συνάμα «δικαιολογεί» την αντίδραση και εχθρική συμπεριφορά του δράστη. Αυτή η γλωσσική επιλογή μετατοπίζει την εστίαση από την εγκληματική συμπεριφορά του δράστη στο ίδιο το θύμα, δημιουργώντας ένα πλαίσιο έμμεσης ενοχοποίησης του.
Περαιτέρω, η λέξη «πορνογραφία» στην συγκεκριμένη περίπτωση συνδέει μια κακοποιητική πράξη (πράξη βίας) με τη συναινετική σεξουαλική έκφραση ή εργασία στον χώρο της πορνογραφίας, αναπαράγοντας στερεότυπα εις βάρος των ατόμων που εργάζονται στον χώρο της σεξεργασίας και συσκοτίζοντας τη σαφή διάκριση ανάμεσα στο «συναινετικό» και το «κακοποιητικό» περιεχόμενο.
Οι ανωτέρω λόγοι έχουν οδηγήσει στο να προτείνεται ευρέως η χρήση του όρου «μη συναινετική πορνογραφία», ως ακριβέστερη και ουσιαστικότερη περιγραφή του φαινομένου, εστιάζοντας στην απουσία συναίνεσης τόσο κατά τη λήψη όσο και κατά τη διανομή του υλικού. Επιπλέον, ο όρος αυτός συνάδει και με την ορολογία της ΕΕ, καθώς στην Oδηγία 2024/1385 για την καταπολέμηση της βίας κατά των γυναικών και συγκεκριμένα στο άρθρο 5, γίνεται ρητή αναφορά σε "Μη συναινετική κοινοχρησία υλικού προσωπικής φύσης".
Σήμερα η εκδικητική πορνογραφία ξεπερνάει την απλή διανομή περιεχομένου χωρίς την συναίνεση του απεικονιζόμενου θύματος και συχνά μπορεί να περιλαμβάνει μέχρι και την δημιουργία τροποποιημένων ή ψεύτικων εικόνων και βίντεο μέσω της χρήσης τεχνολογιών, όπως η Τεχνητή Νοημοσύνη και η τεχνολογία των Deepfakes. Με τις νέες αυτές μεθόδους οι δράστες έχουν την δυνατότητα να ενσωματώνουν πρόσωπα σε εικόνες πορνογραφικού υλικού, προσβάλλοντας έτσι και μάλιστα σε μεγαλύτερο βαθμό, όχι μόνο την ιδιωτικότητα, αλλά και την αξιοπρέπεια των θυμάτων.
Τι είναι όμως κατα ακριβολογία το φαινόμενο των «Deepfakes»;
Τα «deepfakes» μπορούν εν συντομία να χαρακτηριστούν ως μια σημαντική απειλή που μετατρέπει τους ανθρώπους σε θύματα εκφοβιστικών, εκβιαστικών και απειλητικών μηνυμάτων. Ο όρος προέρχεται από τα συνθετικά των λέξεων «deep = βαθιά», ο οποίος παραπέμπει στην τεχνολογία της «βαθιάς μάθησης», και της λέξης «fake» που σημαίνει ψεύτικο. Με τον όρο λοιπόν αυτόν αναφερόμαστε σε μία ψεύτικη – παραποιημένη εικόνα ή βίντεο, η οποία εικόνα ή το βίντεο δεν ανταποκρίνονται σε καμία πραγματικότητα.
Προσπαθείστε να φανταστείτε ότι ενώ σκρολάρετε στα social media αντικρίζετε ξαφνικά ένα βίντεο σεξουαλικού περιεχομένου, το οποίο απεικονίζει εσάς, σε μια ιδιωτική στιγμή. Για την ακρίβεια, απεικονίζεται το πρόσωπο σας, αλλά όχι το σώμα σας. Εσείς ως άτομο, ή το περιβάλλον, μπορεί να είναι υπαρκτά, αλλά δεν ειναι αληθινά. Εκείνη την στιγμή αντιλαμβάνεστε ότι έχετε πέσει θύμα μιας νέας μορφής εκδικητικής πορνογραφίας, βασιζόμενη στην τεχνολογία των Deepfake. Η τεχνολογία deepfake λοιπόν, συνιστά μία προηγμένη μορφή Τεχνητής Νοημοσύνης, η οποία χρησιμοποιεί αλγόριθμους βαθιάς μάθησης ώστε να αναλύει εικόνες και βίντεο και να προσθέτει, δια μέσου επεξεργασίας, πρόσωπα άλλων σε ξένα σώματα. Εργαλεία όπως το DeepNude, έχουν δημιουργηθεί για την αφαίρεση της ενδυμασίας από εικόνες, με το ποσοστο των θυμάτων deepfake να αποτελείται κατά 99% από γυναίκες.
Δεδομένου ότι η πορνογραφία των Deepfake είναι αποτέλεσμα αλγορίθμων, τα θύματα αυτής είναι κατά βάση δημόσια πρόσωπα, όπως ηθοποιοί και μουσικοί, καθώς η ευρεία διαθεσιμότητα εικόνων τους διευκολύνει την παραγωγή πλαστών υλικών. Παράλληλα, τα θύματα που γίνονται στόχοι αυτής της τεχνολογίας αντιμετωπίζουν σοβαρές συνέπειες, λόγω της δυσκολίας που αντιμετωπίζουν να αποδείξουν την πλαστότητα του υλικού, παραμένοντας έτσι εκτεθειμένα στη διαπόμπευση και την κοινωνική απομόνωση και αναδεικνύοντας τις καταστροφικές συνέπειες αυτής της μορφής διαδικτυακής κακοποίησης.
Τα κίνητρα πίσω από τη δημιουργία τέτοιων βίντεο μπορεί να ποικίλλουν. Συχνά τα άτομα και φερόμενοι ως δράστες οδηγούνται στην τέλεση τέτοιων πράξεων εκμεταλλευόμενοι την ευαλώτητα που διακρίνει τα εκάστοτε θύματα. Δεν αποκλείεται τα κίνητρα να είναι καθαρά οικονομικά: ζητώντας χρηματικό αντάλλαγμα απειλούν τα θύματα με την δημοσίευση του υλικού, ενώ μπορεί και να προχωρήσουν στην πώληση του με το ανάλογο αντίτιμο. Ανεξαρτήτως κινήτρου, τα θύματα εκτίθενται σε εξαιρετικά σοβαρές συνέπειες, όπως η ψυχολογική πίεση, ο κοινωνικό στιγματισμός, ή ακόμα και επερχόμενη επαγγελματική ζημία.
Η στάση των πλατφορμών κοινωνικής δικτύωσης: Μέτρα και αδυναμίες
Σε μια προσπάθεια διασφάλισης της προστασίας των ατόμων, οι πλατφόρμες κοινωνικής δικτύωσης και οι ιστότοποι ενηλίκων έχουν αρχίσει να θέτουν σε εφαρμογή ποικίλα μέτρα πρόληψης και αντιμετώπισης των σχετικών απειλών, δημιουργώντας κάποια εργαλεία προστασίας των χρηστών. Ενδεικτικά μπορούμε να αναφέρουμε ως παράδειγμα πλατφόρμες όπως το Facebook (Meta), το OnlyFans, και το Pornhub, οι οποίες διαθέτουν ως εργαλείο το λεγόμενο Take It Down, το οποίο δίνει την δυνατότητα στους χρήστες να προβούν στην αναφορά πλαστού πορνογραφικού περιεχομένου ανηλίκων. Μέσω αυτής της πρωτοβουλίας, το υλικό μπορεί τελικά να αφαιρεθεί από τις εκάστοτε πλατφόρμες. Παράλληλα, έχει δημιουργηθεί για τους ενήλικες το stopNCII.org, το οποίο εξυπηρετεί τον ίδιο σκοπό: την αποτροπή της μη συναινετικής διακίνησης προσωπικού περιεχομένου.
Που καταλήγουμε σήμερα;
Εάν και τα εργαλεία αυτά προσφέρουν μια πολύτιμη άμυνα, η τεχνολογία των deepfakes συνεχίζει να αποτελεί έναν ισχυρό μηχανισμό απειλής. Η ύπαρξη αυτής της νεάς τεχνολογίας χρήζει συνεχούς επαγρύπνησης και λήψης προληπτικών μέτρων, καθώς όλοι μπορούν δυνητικά να βρεθούν αντιμέτωποι με το φαινόμενο αυτό. Στην Ελλάδα, παρά το γεγονός ότι ο Ποινικός Κώδικας δύναται να καλύψει με το άρθρο 346 για την εκδικητική πορνογραφία κάποιες περιπτώσεις χρήσης deepfakes, εξακολουθούν να υφίστανται σημαντικά νομοθετικά κενά. Η ραγδαία εξάπλωση της τεχνολογίας και οι νέες μορφές παραβίασης προσωπικών δεδομένων καθιστούν εμφανή την ανάγκη για πιο ολοκληρωμένα νομικά πλαίσια, σε συνδυασμό με ευαισθητοποίηση του κοινού, ενώ παράλληλα αναδεικνύει την αναγκαιότητα συνδυασμένης δράσης των εκάστοτε εθνικών νομοθετών και κυβερνήσεων, αλλά και της κοινωνίας εν συνόλω. Οι καταγεγραμμένες περιπτώσεις συνιστούν μία υπενθύμιση του αντικτύπου της τεχνολογικής προόδου στη ζωή μας και της ανάγκης για ισχυρούς μηχανισμούς λογοδοσίας και υποστήριξης. Αυτό που απαιτείται μεταξύ άλλων, είναι η αποτελεσματική συνεργασία της κοινωνίας, των νομοθετών και των πλατφορμών ώστε να δημιουργήσουν εν τοις πράγμασι ένα ασφαλέστερο ψηφιακό περιβάλλον.
*Ο Βασιλική Γκάνη είναι δικηγόρος στην Αθήνα, ενώ παράλληλα παρακολουθεί το μεταπτυχιακό πρόγραμμα σπουδών (MSc) με τίτλο «Δίκαιο και Τεχνολογίες Πληροφορικής και Επικοινωνιών» του Πανεπιστημίου Πειραιώς, το οποίο μεταξύ άλλων εμβαθύνει στο Δίκαιο Προσωπικών Δεδομένων, την Τεχνητή Νοημοσύνη και το Κυβερνοέγκλημα, αναλαμβάνοντας την εκπόνηση διπλωματικής εργασία με θέμα «Συναισθηματική εξάρτηση και εθισμός στη χρήση μεγάλων μοντέλων ΤΝ: κίνδυνοι και νομική/ηθική αποτίμηση».
Καταθέτουμε Ανοιχτή Επιστολή ενώπιον του Πρωθυπουργού καλώντας την Ελληνική Δημοκρατία να απορρίψει το κείμενο της Δανικής Προεδρίας για τη CSA
Η Homo Digitalis κατέθεσε σήμερα Ανοιχτή Επιστολή ενώπιον του Πρωθυπουργού της Ελληνικής Δημοκρατίας, Kυριάκου Μητσοτάκη, για τον προτεινόμενο Κανονισμό για τη διαχείριση υλικού παιδικής εκμετάλλευσης (CSA - Child Sexual Abuse Regulation).
Στην επιστολή μας, την οποία κοινοποιούμε και στον Υπουργό Δικαιοσύνης και τον Υπουργό Προστασίας του Πολίτη, καλούμε την Ελληνική Δημοκρατία να απορρίψει το κείμενο της Δανικής Προεδρίας στην επικείμενη ψηφοφορία στο Συμβούλιο Δικαιοσύνης και Εσωτερικών Υποθέσεων της ΕΕ στις 14 Οκτωβρίου 2025.
Ο σκοπός του Κανονισμού είναι σωστός, να περιορισει τη διακίνηση υλικού παιδικής κακοποίησης. Όμως, το προτεινόμενο κείμενο της Δανικής Προεδρίας οδηγεί στο αντίθετο αποτέλεσμα υπονομεύοντας την ασφάλεια και την εμπιστοσύνη στον ψηφιακό χώρο!
Συγκεκριμένα, 787 κορυφαίοι ειδικοί στην ασφάλεια επικοινωνιών και την κρυπτογράφηση, μεταξύ των οποίων και καθηγητές από κορυφαία ακαδημαϊκά ιδρύματα της Ελλάδας υπογραμμίζουν οτι:
1.Η τεχνολογία ανίχνευσης υλικού παιδικής εκμετάλλευσης είναι ανακριβής και αναποτελεσματική.
2.Η υποχρεωτική ανίχνευση υπονομεύει την κρυπτογράφηση των επικοινωνιών μας και ανοίγει την πόρτα σε μαζική επιτήρηση.
3.Τα τεχνικά μέτρα παρακάμπτονται εύκολα από κακόβουλους χρήστες και απειλούν την ανωνυμία και την ελευθερία πληροφόρησης.
4.Η πραγματική προστασία των παιδιών έρχεται μέσα από την εκπαίδευση καθώς και τη στήριξη των θυμάτων.
Στις 14 Οκτωβρίου η θέση της Ελλάδας πρέπει να στηριχθεί στη γνώση, την τεχνική επάρκεια και τις θεμελιώδεις αρχές και αξίες που πρεσβεύει ο Χάρτης Θεμελιωδών Δικαιωμάτων της ΕΕ και το Σύνταγμα της Ελλάδας.
Μπορείτε να διαβάσετε αναλυτικά το κείμενο της ανοιχτής επιστολής μας εδώ.
Μπορείτε να διαβάσετε σχετικό άρθρο που δημοσίευσε πρόσφατα στην ιστοσελίδα μας το μέλος μας, Στέργιος Κωσταντίνου εδώ.
➡️ Μπορείτε να μάθετε περισσότερα για τις δράσεις της Homo Digitalis στο πεδίο αυτό, συμπεριλαμβανομένων των συναντήσεων που έκαναν στο παρελθόν τα μέλη μας Χάρης Κυρίτσης, Χάρης Δάφτσιος, Νίκη Γεωργακοπούλου, Γιώργος Σαρρής και Αγγελίνα Μπάρλα με Ευρωβουλευτές της Ελλάδας σε συνεργασία με την European Digital Rights εδώ.
Καταθέσαμε τις απόψεις μας στην ανοιχτή διαβούλευση της Ευρωπαϊκής Επιτροπής για την αξιολόγηση του αντικτύπου της DMA
Στις 23 Σεπτεμβρίου η Homo Digitalis κατέθεσε τις απόψεις της στην Ανοιχτή Διαβούλευση της Ευρωπαϊκής Επιτροπής στο πλαίσιο της έκθεσης που ετοιμάζει για την αξιολόγηση του αντικτύπου των διατάξεων του Κανονισμού 2022/1925 για τις Ψηφιακές Αγορές (Digital Markets Act – DMA).
O πραγματικός αντίκτυπος της DMA εξαρτάται από την αποφασιστικότητα της Επιτροπής να τον επιβάλει, τιμώντας τόσο το γράμμα όσο και το πνεύμα του κανονισμού, δηλαδή τη δημιουργία ανοικτών και ανταγωνιστικών ψηφιακών αγορών, την ενίσχυση του ανταγωνισμού και την προστασία των δικαιωμάτων των χρηστών.
Μπορείτε να διαβάσετε αναλυτικά τις τοποθετήσεις μας εδώ.
️ Για περισσότερες πληροφορίες για την ανοιχτή διαβούλευση δείτε εδώ.
Ο Προτεινόμενος Κανονισμός για την Πρόληψη και Καταπολέμηση της Σεξουαλικής Κακοποίησης Παιδιών: Νομικές Προκλήσεις και Δημοκρατικά Διακυβεύματα
Γράφει o Στέργιος Κωνσταντίνου*
1. Εισαγωγή
Η Ευρωπαϊκή Επιτροπή, στις 11 Μαΐου 2022, παρουσίασε την πρόταση Κανονισμού για την πρόληψη και καταπολέμηση της σεξουαλικής κακοποίησης παιδιών (Regulation to Prevent and Combat Child Sexual Abuse - CSA Regulation), με αριθμό αναφοράς 2022/0155(COD). Η πρόταση αποσκοπεί στη δημιουργία ενός υποχρεωτικού ενωσιακού πλαισίου για την ανίχνευση, αναφορά και αφαίρεση υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) από διαδικτυακές υπηρεσίες επικοινωνίας.
Η ανάγκη προστασίας των παιδιών είναι αυτονόητη και θεμιτή. Ωστόσο, η προτεινόμενη λύση εγείρει σοβαρά νομικά και τεχνικά ζητήματα, που σχετίζονται με τον σεβασμό των θεμελιωδών δικαιωμάτων, την κυβερνοασφάλεια και τη νομολογιακή παράδοση της Ευρωπαϊκής Ένωσης.
2. Ιστορικό -Τρέχουσα Νομοθετική Κατάσταση
Η πορεία προς τον προτεινόμενο Κανονισμό για την πρόληψη και καταπολέμηση της σεξουαλικής κακοποίησης παιδιών ξεκίνησε με τη Στρατηγική της ΕΕ (2020-2025), που έθεσε τα θεμέλια για μόνιμο νομοθετικό πλαίσιο. Ακολούθησε το μεταβατικό καθεστώς της «προσωρινής παρέκκλισης» (Chat Control 1.0) [1], η οποία επιτρέπει μέχρι το 2026 στους παρόχους να συνεχίσουν εθελοντικές πρακτικές ανίχνευσης.
Στις 11 Μαΐου 2022, η Επιτροπή παρουσίασε την κύρια πρόταση κανονισμού (2022/0155 COD), εισάγοντας την υποχρέωση εντοπισμού και αναφοράς CSAM και grooming. Η πρόταση προκάλεσε έντονες αντιδράσεις: ο Ευρωπαϊος Επόπτης για την Προστασία Δεδομένων (εφεξής «EDPS» ή «ΕΕΠΔ») και το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων (εφεξής «ΕΣΠΔ» ή «EDPB») προειδοποίησαν για παραβίαση θεμελιωδών δικαιωμάτων, ενώ δημοσιογραφικές έρευνες και παρεμβάσεις οργανώσεων πολιτών ανέδειξαν ζητήματα διαφάνειας και συγκρούσεων συμφερόντων [2].
Το Ευρωπαϊκό Κοινοβούλιο υιοθέτησε τον Νοέμβριο 2023 τη θέση του [3], εισάγοντας κρίσιμες τροποποιήσεις: εξαίρεση της end-to-end κρυπτογράφησης, περιορισμό των εντολών ανίχνευσης (εξηγείται κατωτέρω) σε περιπτώσεις συγκεκριμένης υποψίας και ενίσχυση δικλείδων ασφαλείας. Αντίθετα, στο Συμβούλιο της Ε.Ε., οι διαδοχικές προεδρίες (Βέλγιο, Ουγγαρία, Πολωνία) απέτυχαν να εξασφαλίσουν συναίνεση, καθώς ισχυρή «μειοψηφία αποκλεισμού» κρατών-μελών (Γερμανία, Λουξεμβούργο, Αυστρία, Ολλανδία κ.ά.) αντιτάχθηκε στη γενικευμένη σάρωση. Η Δανική Προεδρία (2025) επιχειρεί εκ νέου συμβιβασμό, με ψηφοφορία να αναμένεται τον Οκτώβριο 2025.
Παράλληλα, εξελίξεις όπως η προτεινόμενη αναθεώρηση της Οδηγίας 2011/93/ΕΕ και νομολογιακές κρίσεις (π.χ. του ΕΔΔΑ το 2024, που απέρριψε την υποχρέωση υποβάθμισης της κρυπτογράφησης) διαμορφώνουν το περιβάλλον της συζήτησης. Η Ελλάδα παραμένει επισήμως αναποφάσιστη, γεγονός που αναδεικνύει την ανάγκη διαφάνειας και δημόσιας λογοδοσίας.
3. Εντολές ανίχνευσης (Detection Orders) – Τι είναι και ποια η διαδικασία
3.1. Τι είναι η εντολή ανίχνευσης;
Η έκδοση εντολών ανίχνευσης αποτελεί το πλέον αμφιλεγόμενο στοιχείο του προτεινόμενου κανονισμού. Συγκεκριμένα, αποτελεί το νομικό εργαλείο βάσει του οποίου οι αρμόδιες αρχές μπορούν να υποχρεώσουν έναν πάροχο υπηρεσιών επικοινωνίας να εφαρμόσει τεχνολογικά μέτρα.
3.2. Ποια θα είναι η διαδικασία έκδοσής μιας εντολής ανίχνευσης;
- Αίτημα αρχής: Η αρμόδια εθνική αρχή (δικαστική ή ανεξάρτητη διοικητική αρχή) διαπιστώνει ότι ένας πάροχος ενέχει σοβαρό κίνδυνο να χρησιμοποιείται για διάδοση CSAM και ότι τα γενικά μέτρα συμμόρφωσης δεν επαρκούν.
- Έκδοση εντολής: Η εντολή ανίχνευσης καθορίζει το εύρος (τύπος περιεχομένου: γνωστό CSAM, νέο CSAM ή grooming [4]), τη διάρκεια (περιορισμένη χρονικά), και τα μέτρα που πρέπει να ληφθούν.
- Εφαρμογή από τον πάροχο: Ο πάροχος υποχρεούται να εγκαταστήσει τα σχετικά εργαλεία σάρωσης, τα οποία ενδέχεται να λειτουργούν ακόμη και σε end-to-end κρυπτογραφημένες υπηρεσίες μέσω τεχνολογιών όπως το client-side scanning.
- Αναφορά: Ο πάροχος πρέπει να αναφέρει στις αρχές τυχόν ευρήματα. Εν προκειμένω ωστόσο δεν υπάρχει σαφές πλαίσιο με τις υποχρεώσεις ενεργειών των παρόχων όταν δεν θα υπάρχουν ευρήματα
- Έλεγχος & εποπτεία: Θεωρητικά η εντολή υπόκειται σε δικαστικό ή διοικητικό έλεγχο για να διασφαλίζεται η νομιμότητα και η αναλογικότητα.
3.3. Περιορισμοί
Περιορισμοί στην διαδικασία, πολλοί εκ των οποίων τέθηκαν από το Ευρωπαϊκό Κοινοβούλιο, περιλαμβάνουν:
Αρχή της Εσχάτης Εκδοχής: Σύμφωνα με την Ευρωπαϊκή Επιτροπή, η ανίχνευση επιβάλλεται ως μέτρο έσχατης ανάγκης στους παρόχους υπηρεσιών. Μια εντολή ανίχνευσης θα επιβάλλεται μόνο αφού διαπιστωθεί ότι η αξιολόγηση κινδύνων και τα μέτρα μετριασμού του παρόχου υπηρεσιών δεν επαρκούν για την προστασία των θεμελιωδών δικαιωμάτων των παιδιών [5].
Στοχευμένη Εφαρμογή: Η θέση του Ευρωπαϊκού Κοινοβουλίου προβλέπει ότι οι εντολές ανίχνευσης θα χρησιμοποιούνται μόνο εάν υπάρχει εύλογη υποψία ότι μεμονωμένοι χρήστες ή ομάδες συνδέονται με υλικό σεξουαλικής κακοποίησης παιδιών. Τα εντάλματα θα είναι χρονικά περιορισμένα, με τις κρυπτογραφημένες επικοινωνίες end-to-end και τα κείμενα μηνύματα να εξαιρούνται από το πεδίο εφαρμογής τους [6].
Παράνομο υλικό: Σύμφωνα με την Ευρωπαϊκή Επιτροπή, η ανίχνευση θεωρητικά θα αφορά σαφώς παράνομο περιεχόμενο, ήτοι υλικό σεξουαλικής κακοποίησης παιδιών. Η διάκριση μεταξύ γνωστού και νέου υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) είναι κρίσιμη για τη νομική αξιολόγηση, καθώς η ανίχνευση νέου υλικού συνεπάγεται σημαντικά υψηλότερους κινδύνους για τα θεμελιώδη δικαιώματα λόγω των υψηλών ποσοστών λανθασμένων αποτελεσμάτων. Παράλληλα, η επισήμανση πιθανών συνομιλιών με σκοπό την παιδική σεξουαλική κακοποίηση θα βασίζεται σε ταξινομητές τεχνητής νοημοσύνης που έχουν εκπαιδευτεί σε επιβεβαιωμένες περιπτώσεις παιδικής σεξουαλικής κακοποίησης. Εντούτοις, δεν παρέχεται καμία πληροφορία ως προς τα μέτρα για την διασφάλιση των θεμελιωδών δικαιωμάτων των χρηστών
Χρονικός Περιορισμός: Σύμφωνα με την Ευρωπαϊκή Επιτροπή, οι εντολές ανίχνευσης θα είναι χρονικά περιορισμένα και θα υπόκεινται σε επανεξετάσεις. Αυτή η διαδικαστική εγγύηση αποσκοπεί στη διασφάλιση ότι τα μέτρα παραμένουν αναλογικά και αναγκαία καθ' όλη τη διάρκεια της εφαρμογής τους.
3.4. Εποπτική Αρχή
Σύμφωνα με την Ευρωπαϊκή Επιτροπή, το προτεινόμενο «Κέντρο για την Πρόληψη και Καταπολέμηση της Σεξουαλικής Κακοποίησης Παιδιών» της Ε.Ε. θα διαδραματίσει κεντρικό ρόλο στη διαδικασία καθώς θα συνεργάζεται με αντίστοιχα κέντρα όπως των Η.Π.Α., του Καναδά, της Αυστραλίας, θα υποστηρίζει τον ιδιωτικό τομέα, παρέχοντάς του βάση δεδομένων που περιλαμβάνει δείκτες για τον εντοπισμό της σεξουαλικής κακοποίησης παιδιών στο διαδίκτυο. Ωστόσο, δεν παρέχεται καμία πληροφορία ως προς την συνεργασία του Κέντρου αυτού με τις Αρχές Προστασίας Δεδομένων των κρατών – μελών καθώς και τις εποπτικές αρχές που έχουν οριστεί για την διασφάλιση των θεμελιωδών δικαιωμάτων από τα μοντέλα AI στα κράτη μέλη, θέτοντας ζήτημα θεσμικής ισορροπίας και ελέγχου..
4. Τεχνικό σκέλος - Ανεπάρκειες και Κίνδυνοι Ασφαλείας
4.1. Υπονόμευση της Κρυπτογράφησης
Η ανίχνευση περιεχομένου σε υπηρεσίες με end-to-end κρυπτογράφηση προϋποθέτει την εφαρμογή τεχνολογιών "client-side scanning". Αυτό δημιουργεί συστημικές τρωτότητες ασφαλείας που μπορούν να αξιοποιηθούν από εγκληματικές οργανώσεις ή εχθρικούς παράγοντες.
4.2. Τι είναι το Client-Side Scanning
Το client-side scanning (CSS) είναι η τεχνολογική μέθοδος με την οποία επιδιώκεται η υλοποίηση των εντολών ανίχνευσης σε πλατφόρμες με end-to-end κρυπτογράφηση.
Αντί η σάρωση να γίνεται στον διακομιστή, πραγματοποιείται στη συσκευή του χρήστη (π.χ. κινητό, υπολογιστής), πριν ή κατά την αποστολή ενός μηνύματος ή αρχείου. Η συσκευή συγκρίνει το περιεχόμενο με βάσεις δεδομένων «ψηφιακών αποτυπωμάτων» γνωστού CSAM. Αν υπάρξει ταυτοποίηση, αποστέλλεται ειδοποίηση στις αρχές. Στην πράξη, το CSS παρακάμπτει την κρυπτογράφηση, αφού η ανίχνευση γίνεται πριν αυτή ενεργοποιηθεί.
5. Νομική Βάση και Διαδικαστικά Ζητήματα
5.1. Νομική Βάση
Η πρόταση στηρίζεται στο Άρθρο 114 ΣΛΕΕ (εσωτερική αγορά), λειτουργώντας ως lex specialis έναντι του Digital Services Act (DSA), γεγονός που επηρεάζει το σύνολο της ευρωπαϊκής ψηφιακής νομοθεσίας. Ωστόσο, πρόκειται για νομική βάση που παραδοσιακά χρησιμοποιείται για ζητήματα αγοράς, όχι για τόσο παρεμβατικές ρυθμίσεις που επηρεάζουν θεμελιώδη δικαιώματα.
5.2. Παραβίαση Θεμελιωδών Δικαιωμάτων
5.2.1. Παραβίαση των Άρθρων 7 και 8 του ΧΘΔΕΕ
Η πρόταση εγείρει σοβαρά ερωτήματα ως προς τη συμβατότητά της με τα Άρθρα 7 (Σεβασμός της ιδιωτικής και οικογενειακής ζωής) και 8 (προστασία δεδομένων προσωπικού χαρακτήρα) του Χάρτη Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης (εφεξής «ΧΘΔΕΕ»). Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων (EDPS) και το Ευρωπαϊκό Συμβούλιο Προστασίας Δεδομένων (EDPB), στην κοινή τους γνώμη 04/2022, κατέληξαν ότι η πρόταση θα μπορούσε να καταστεί η βάση για de facto γενικευμένη και διακριτική σάρωση του περιεχομένου σχεδόν όλων των τύπων ηλεκτρονικών ιδιωτικών επικοινωνιών των χρηστών των εφαρμογών [7].
5.2.2. Νομολογιακό Πλαίσιο του Δικαστηρίου της Ευρωπαϊκής Ένωσης
Το Δικαστήριο της Ευρωπαϊκής Ένωσης (εφεξής «ΔΕΕ») έχει καθιερώσει σταθερή νομολογία κατά της γενικευμένης επιτήρησης. Στις υποθέσεις Digital Rights Ireland [8] (C-293/12), Tele2 Sverige (C-203/15) και La Quadrature du Net (C-511/18, C-512/18, C-520/18), το ΔΕΕ αποφάνθηκε ότι το ενωσιακό δίκαιο αποκλείει εθνικά νομοθετικά μέτρα που προβλέπουν, ως προληπτικό μέτρο, τη γενική και διακριτική διατήρηση δεδομένων κίνησης και τοποθεσίας σχετικά με ηλεκτρονικές επικοινωνίες, για σκοπούς καταπολέμησης σοβαρού εγκλήματος [9].
5.2.3. Το Κριτήριο του Άρθρου 52(1) του Χάρτη
Πέραν της συγκεκριμένης νομολογίας περί γενικευμένης επιτήρησης, η πρόταση αντιμετωπίζει θεμελιώδες πρόβλημα σχετικά με τον έλεγχο αναλογικότητας που προβλέπει το Άρθρο 52(1) του Χάρτη, το οποίο απαιτεί κάθε περιορισμός των θεμελιωδών δικαιωμάτων να προβλέπεται από τον νόμο, να σέβεται την ουσία αυτών των δικαιωμάτων, και υπό την αρχή της αναλογικότητας, να επιβάλλεται μόνο εάν είναι αναγκαίος και ανταποκρίνεται πραγματικά σε στόχους γενικού συμφέροντος.
Η διαδικασία των εντολών ανίχνευσης, ακόμη και με τις προτεινόμενες εγγυήσεις, αδυνατεί να περάσει τον τριπλό έλεγχο της νομιμότητας, αναγκαιότητας και αναλογικότητας stricto sensu που απαιτεί το Άρθρο 52(1).
5.2.4. Παραβίαση του Άρθρου 11 του Χάρτη
Η δυνητική επίδραση "chilling effect" στην ελευθερία της έκφρασης και πληροφόρησης (Άρθρο 11 του Χάρτη) συνιστά επιπλέον προβληματική διάσταση της πρότασης, καθώς οι πολίτες ενδέχεται να αυτο-περιορίζονται στην ψηφιακή τους έκφραση υπό τον φόβο παρακολούθησης.
6. Πρακτικές Επιπτώσεις και Κοινωνικό-Οικονομικές Συνέπειες
Η υιοθέτηση του προτεινόμενου κανονισμού θα επιφέρει σοβαρές πρακτικές συνέπειες για επιχειρήσεις, πολίτες και την ευρύτερη κοινωνία:
Επιχειρηματικές Επιπτώσεις: Οι πάροχοι υπηρεσιών θα αναγκαστούν να αναδιαρθρώσουν ριζικά την αρχιτεκτονική ασφαλείας τους, με αυξημένο κόστος συμμόρφωσης που θα μεταφερθεί στους καταναλωτές. Η αβεβαιότητα ως προς την τεχνική εφαρμογή θα αποθαρρύνει επενδύσεις σε καινοτόμες τεχνολογίες ασφαλείας.
Κοινωνικές Επιπτώσεις: Η δημιουργία κλίματος καχυποψίας θα επηρεάσει δυσανάλογα ευάλωτες ομάδες που βασίζονται στην ανώνυμη επικοινωνία για την προστασία τους, συμπεριλαμβανομένων δημοσιογράφων, ακτιβιστών ανθρωπίνων δικαιωμάτων και θυμάτων ενδοοικογενειακής βίας.
Γεωπολιτικές Επιπτώσεις: Η ΕΕ θα χάσει το ηθικό πλεονέκτημα στις διεθνείς συζητήσεις περί ψηφιακών δικαιωμάτων, παρέχοντας πολύτιμα επιχειρήματα σε αυταρχικά καθεστώτα για την αιτιολόγηση των δικών τους μέτρων επιτήρησης. Παράλληλα, θα υπάρχει πλέον σε όλες τις υποδομές επικοινωνίας που διαθέτει μια τρωτότητα σε ό, τι αφορά την κρυπτογράφηση, η οποία μπορεί να οδηγήσει σε σοβαρά ζητήματα της άμυνας των κρατών – μελών.
7. Συμπεράσματα
Η προστασία των παιδιών είναι αδιαπραγμάτευτη, αλλά η επιδίωξή της δεν μπορεί να στηρίζεται σε μέτρα που παραβιάζουν τα θεμελιώδη δικαιώματα και υπονομεύουν την ψηφιακή ασφάλεια.
Παρά τις διαδικαστικές εγγυήσεις, η προτεινόμενη διαδικασία εγείρει σοβαρά ερωτήματα αναλογικότητας. Η εφαρμογή στις κρυπτογραφημένες υπηρεσίες μέσω client-side scanning καθιστά την προστασία εκ σχεδιασμού αναποτελεσματική, ενώ η γενικευμένη φύση της σάρωσης δεν ικανοποιεί το κριτήριο της στοχευμένης παρέμβασης που απαιτεί η νομολογία του ΔΕΕ. Πρακτικά, η φύση των εντολών ανίχνευσης προσιδιάζει περισσότερο σε γενικευμένη επιτήρηση, κάτι που η νομολογία του ΔΕΕ έχει απορρίψει επανειλημμένα.
Ο προτεινόμενος κανονισμός, στη σημερινή του μορφή, αδυνατεί να ικανοποιήσει τα κριτήρια αναγκαιότητας και αναλογικότητας που απαιτούνται από τη νομολογία του ΔΕΕ. Η υιοθέτησή του θα συνιστούσε παραβίαση του ουσιώδους περιεχομένου θεμελιωδών δικαιωμάτων όπως αυτών της ιδιωτικής και οικογενειακής ζωής και της προστασίας προσωπικών δεδομένων.
Παραπομπές
[1]Κανονισμός (ΕΕ) 2021/1232.του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, της 14ης Ιουλίου 2021, περί προσωρινής παρεκκλίσεως από ορισμένες διατάξεις της οδηγίας 2002/58/ΕΚ όσον αφορά τη χρήση τεχνολογιών από παρόχους υπηρεσιών διαπροσωπικών επικοινωνιών ανεξαρτήτως αριθμών για την επεξεργασία προσωπικών και άλλων δεδομένων, προς καταπολέμηση της σεξουαλικής κακοποίησης παιδιών στο διαδίκτυο
[2] ΕΣΠΔ-ΕΕΠΔ, «Κοινή γνωμοδότηση 4/2022 σχετικά με την πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση κανόνων με σκοπό την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών, 28/07/2022
[3] Ευρωπαϊκό Κοινοβούλιο, «ΕΚΘΕΣΗ σχετικά με την πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση κανόνων με σκοπό την πρόληψη και την καταπολέμηση της σεξουαλικής κακοποίησης παιδιών», 16.11.2023 - (COM(2022)0209 – C9‑0174/2022 – 2022/0155(COD))
[4] Εσκεμμένη προσέγγιση και επικοινωνία με ανήλικο, κυρίως μέσω διαδικτυακών μέσων, με σκοπό τη χειραγώγησή του και την προετοιμασία για μελλοντική σεξουαλική κακοποίηση ή εκμετάλλευση.
[5] Ευρωπαϊκή Επιτροπή, «Συχνές ερωτήσεις», ερώτημα «Πως θα διασφαλίσει η νομοθεσία αυτή την προστασία της ιδιωτικής ζωής», προσπελάστηκε στις 15/9/2025, ώρα 13:07
[6] Ευρωπαϊκό Κοινοβούλιο, «How the EU is fighting child sexual abuse online», προσπελάστηκε στις 15/9/2025, ώρα 13:11
[7] 'EDPB-EDPS Joint Opinion 04/2022 on the Proposal for a Regulation of the European Parliament and of the Council laying down rules to prevent and combat child sexual abuse (28 July 2022)
[8] Με την απόφαση «Digital Rights Ireland» καταργήθηκε η Οδηγία 2006/24/ΕΚ, την οποία ενσωμάτωσε ο ν. 3917/2011, ο οποίος παραμένει σε ισχύ στην Ελλάδα.
[9] ΔΕΕ, Commissioner of An Garda Síochána,C140/20, 5/4/2022.
*Ο Στέργιος Κωνσταντίνου είναι Δικηγόρος, Advanced LLM – IP & ICT Law και διαθέτει μεταξύ άλλων πιστοποιήσεις CIPP/E, CIPM, FIP
Καταθέσαμε τις απόψεις μας στην ανοιχτή διαβούλευση της Ευρωπαϊκής Επιτροπής για το άρθρο 30(5) GDPR
Χθες, η Homo Digitalis κατέθεσε τις απόψεις της στο πλαίσιο της ανοιχτής διαβούλευσης της Ευρωπαϊκής Επιτροπής για το άρθρο 30 (παρ.5) του GDPR.
Με την τοποθέτηση μας καλούμε την Επιτροπή να αποσύρει την προτεινόμενη τροποποίηση και επιδιώκουμε να διασφαλιστεί ότι ο GDPR δεν θα επανεξεταστεί ή τροποποιηθεί μέσω ευρύτερων απορρυθμιστικών πρωτοβουλιών. Η προτεραιότητα πρέπει να παραμείνει στην εφαρμογή και επιβολή του υφιστάμενου πλαισίου με αποτελεσματικό τρόπο, και όχι στη μείωση των μέτρων προστασίας που είναι απαραίτητα για τη διασφάλιση των θεμελιωδών δικαιωμάτων στην ψηφιακή εποχή.
Μπορείτε να διαβάσετε τις απόψεις μας εδώ.
Ομιλία της Homo Digitalis για την AI Act και την χρήση ΤΝ στον τομέα της γεωργίας
Στις αρχές Ιουλίου, το έργο AgriDataValue διοργάνωσε ένα εις βάθος διαδικτυακό εργαστήριο αφιερωμένο στις διαστάσεις της ιδιωτικότητας των δεδομένων, καθώς και στα νομικά και ηθικά ζητήματα στο πλαίσιο της έξυπνης γεωργίας. Την εκδήλωση, που συντόνισε η Netcompany, παρακολούθησαν εταίροι του AgriDataValue, μέλη της Συμβουλευτικής Επιτροπής, νομικοί εμπειρογνώμονες, καθώς και εκπρόσωποι από σχετικά έργα που χρηματοδοτούνται από την ΕΕ.
Η Homo Digitalis συμμετείχε στο εργαστήριο με νομική παρουσίαση με θέμα «Έξυπνη Γεωργία από την οπτική του GDPR και του AI Act». Ευχαριστούμε θερμά τον Ιωάννη Χρυσάκη για την ευγενική πρόσκληση! Την οργάνωσή μας εκπροσώπησε ο Εκτελεστικός Διευθυντής μας, Λευτέρης Χελιουδάκης.
Στόχος του εργαστηρίου ήταν η αναγνώριση και επικύρωση βασικών θεμάτων δεοντολογίας, νομικής φύσης, κοινωνικών και ζητημάτων ιδιωτικότητας που συνδέονται με την πλατφόρμα AgriDataValue. Παράλληλα, αποτέλεσε μια ευκαιρία για την εξέταση των ροών δεδομένων μεταξύ των τεχνολογιών του έργου, των τύπων χρηστών και των ενσωματωμένων υπηρεσιών — μια ουσιαστική άσκηση για τη διασφάλιση της συμμόρφωσης, της διαφάνειας και της υπεύθυνης διακυβέρνησης δεδομένων.
Καταθέσαμε καταγγελία κατά της Alphabet ενώπιον της ΕΕ για τις διατάξεις της DMA από κοινού με 5 οργανώσεις
Η European Digital Rights, η ARTICLE 19, το Free Software Foundation Europe (FSFE), η Gesellschaft für Freiheitsrechte e.V., το Vrijschrift.org και η Homo Digitalis κατέθεσαν επίσημη καταγγελία κατά της Alphabet Inc. βάσει του Κανονισμού για τις Ψηφιακές Αγορές (DMA) ενώπιον της Ευρωπαϊκής Επιτροπής.
Παρά τους σαφείς κανόνες του DMA για τους gatekeepers:
-Στο Android, οι χρήστες δεν μπορούν πραγματικά να απεγκαταστήσουν τις προεγκατεστημένες εφαρμογές της Google· μπορούν μόνο να τις απενεργοποιήσουν, πράγμα που τις αφήνει στη συσκευή. Ωστόσο, η Alphabet παραπλανά τους χρήστες ισχυριζόμενη ότι αυτό είναι το ίδιο με την αφαίρεση μιας εφαρμογής. Δεν είναι.
-Η επιλογή απενεργοποίησης είναι θαμμένη βαθιά στις ρυθμίσεις και, όταν οι χρήστες την εντοπίζουν, το Android εμφανίζει ασαφείς και αποτρεπτικές προειδοποιήσεις που αποθαρρύνουν τη μετάβαση σε εναλλακτικές εφαρμογές, καθιστώντας δυσκολότερη την απεξάρτηση από το οικοσύστημα της Google.
Αντιμετωπίζουμε μια κλασική περίπτωση παραπλανητικού σχεδιασμού που περιορίζει την επιλογή των χρηστών και ενισχύει τη δεσπόζουσα θέση της Alphabet.
Με την καταγγελία μας, καλούμε την Ευρωπαϊκή Επιτροπή να ερευνήσει τις πρακτικές της Alphabet και να διατάξει την εταιρεία να σεβαστεί πλήρως τα δικαιώματα των τελικών χρηστών βάσει του DMA.
Δείτε την καταγγελία μας στην ιστοσελίδα της EDRi εδώ.
Η Homo Digitalis καταθέτει τις απόψεις της σε 2 διαβουλέυσεις της ΕΕ, για την στρατηγική δεδομένων και τα συστήματα ΤΝ υψηλού κινδύνου, αντίστοιχα
Την προηγούμενη Παρασκευή, 18/7, η Homo Digitalis κατέθεσε τις λεπτομερείς απόψεις της σε δύο δημόσιες διαβουλεύσεις της Ευρωπαϊκής Επιτροπής.
Η πρώτη διαβούλευση αφορούσε τη στοχευμένη συλλογή παραδειγμάτων και επιχειρημάτων από ενδιαφερόμενους φορείς σχετικά με την εφαρμογή των κανόνων του Κανονισμού για την Τεχνητή Νοημοσύνη (2024/1689) για τα συστήματα υψηλού κινδύνου. Σύμφωνα με το άρθρο 6(5) του Κανονισμού AI Act, η Ευρωπαϊκή Επιτροπή υποχρεούται να εκδώσει κατευθυντήριες γραμμές για την πρακτική εφαρμογή του άρθρου 6 — το οποίο καθορίζει τους κανόνες για την ταξινόμηση συστημάτων ΤΝ υψηλού κινδύνου — έως τις 2 Φεβρουαρίου 2026. Οι κατευθυντήριες αυτές γραμμές θα πρέπει να συνοδεύονται από αναλυτικό κατάλογο πρακτικών παραδειγμάτων χρήσεων συστημάτων ΤΝ που εμπίπτουν ή δεν εμπίπτουν στην κατηγορία «υψηλού κινδύνου». Επιπλέον, σύμφωνα με το άρθρο 96(1)(α) του AI Act, η Επιτροπή υποχρεούται να εκδώσει κατευθυντήριες γραμμές για την πρακτική εφαρμογή των απαιτήσεων που αφορούν τα συστήματα ΤΝ υψηλού κινδύνου και τις υποχρεώσεις των φορέων, περιλαμβανομένων των ευθυνών σε όλη την αλυσίδα αξίας της ΤΝ, όπως προβλέπεται στο άρθρο 25. Με την τοποθέτησή της η Homo Digitalis κατέγραψε πρακτικά παραδείγματα συστημάτων ΤΝ στην Ελλάδα και σε άλλες χώρες και ανέδειξε τα ζητήματα που πρέπει να αποσαφηνιστούν στις κατευθυντήριες γραμμές της Επιτροπής για την ταξινόμηση των συστημάτων υψηλού κινδύνου, καθώς και στις μελλοντικές κατευθυντήριες γραμμές για τις απαιτήσεις και τις υποχρεώσεις που απορρέουν από αυτά.
Η δεύτερη διαβούλευση αφορά την κοινή στρατηγική για την Ευρωπαϊκή Ένωση Δεδομένων. Ο πρώτος στόχος της διαβούλευσης είναι είναι η τόνωση των επενδύσεων σε τεχνολογίες δεδομένων και η διάθεση ορισμένων στοιχείων δεδομένων μέσω εθελοντικών μέτρων ή χρηματοδότησης. Ο δεύτερος στόχος της διαβούλευσης σχετίζεται με τον εξορθολογισμό των υφιστάμενων κανόνων και την ανάπτυξη εργαλείων δεδομένων για τη μείωση της διοικητικής επιβάρυνσης, ενώ ο τρίτος στόχος της αφορά την ανάπτυξη μιας «διεθνούς στρατηγικής για τα δεδομένα», η οποία θα πρέπει να περιλαμβάνει δράσεις οι οποίες να παρέχουν εγγυήσεις για την εξαγωγή δεδομένων εκτός της ΕΕ, καθώς και δράσεις για την τόνωση της εισαγωγής δεδομένων εντός της ΕΕ.
Η Ηοmo Digitalis με την τοποθέτησή της επιχείρησε να εκφράσει τις έντονες ανησυχίες για την πιθανή υπονόμευση της προστασίας των προσωπικών δεδομένων, με πρόσχημα την απλοποίηση, την ευελιξία και την ενίσχυση της ανταγωνιστικότητας της ΕΕ. Πάγια θέση της Homo Digitalis είναι οτι τα θεμελιώδη δικαιώματα πρέπει να ενισχύονται μέσω της χρήσης νέων τεχνολογιών, ενώ θεωρούμε παραπλανητική την παρουσίαση του ισχύοντος νομικού πλαισίου ως εμποδίου στην καινοτομία. Τα προβλήματα εντοπίζονται κυρίως στην ανεπαρκή εφαρμογή των νόμων και στην έλλειψη πόρων.
Μπορείτε να διαβάσετε αναλυτικά τις τοποθετήσεις μας για την πρώτη διαβούλευση εδώ. Ευχαριστούμε τη συντακτική ομάδα της τοποθέτησής μας, Σταυρίνα Χούσου, Νίκη Γεωργακοπούλου, Σοφία Αντωνοπούλου και Λευτέρη Χελιουδάκη, για τη συμβολή τους.
Μπορείτε να διαβάσετε αναλυτικά τις τοποθετήσεις μας για τη δεύτερη διαβούλευση εδώ. Την επιμέλεια της ανέλαβε ο Εκτελεστικός Διευθυντής της Homo Digitalis, Λευτέρης Χελιουδάκης.
Την Τρίτη 30 Σεπτεμβρίου, έλαβε χώρα συνάντηση με θέμα «Προστασία των Ανηλίκων», με στόχο την ανταλλαγή απόψεων , λαμβάνοντας υπόψη και τις πρόσφατες Κατευθυντήριες Γραμμές της Επιτροπής για το άρθρο 28 DSA και την ενίσχυση της προστασίας των ανηλίκων στο διαδίκτυο.
Η Homo Digitalis είχε την τιμή να συμμετάσχει στη συζήτηση μαζί με εκπροσώπους ανεξάρτητων αρχών (ΕΕΤΤ, ΑΠΔΠΧ, ΕΣΡ), καθώς και εκπροσώπους από το Υπουργείο Ψηφιακής Διακυβέρνησης, τον ακαδημαϊκό χώρο και άλλους οργανισμούς.
Ευχαριστούμε θερμά την εκπρόσωπο της Αντιπροσωπείας της Ευρωπαϊκής Επιτροπής στην Ελλάδα για την DSA, Ηλέκτρα Μακράκη για την πρόσκληση και τη συμπερίληψη. Τη Homo Digitalis εκπροσώπησε στην συνάντηση ο συνιδρυτής και Εκτελεστικός Διευθυντής της οργάνωσης, Λευτέρης Χελιουδάκης.