Δημοσιεύουμε την Τρίτη Μελέτη μας για την AI Act εστιάζοντας στο Άρθρο 5 & τις Απαγορευμένες Πρακτικές
Σήμερα η Homo Digitalis δημοσιεύει την τρίτη μελέτη της για τον Κανονισμό 2024/1689, τη πασίγνωστη πλέον AI Act με τίτλο «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση διατάξεων για τις απαγορευμένες πρακτικές του άρθρου 5 του Κανονισμού 2024/1689».
Η συγγραφική ομάδα της μελέτης αποτελείται από τη Σοφία Αντωνοπούλου, τη Λαμπρινή Γυφκτοκώστα, την Τάνια Σκραπαλιώρη, τον Λευτέρη Χελιουδάκη και τη Σταυρούλα Χούσου.
Σκοπός της παρούσας ανάλυσης της Homo Digitalis είναι η συστηματική προσέγγιση κάθε διάταξης του άρθρου 5 του Κανονισμού για την ΤΝ, που σχετίζονται με τις Χειριστικές ή παραπλανητικές τεχνικές, την Εκμετάλλευση τρωτών στοιχείων, την Αξιολόγηση κοινωνικής συμπεριφοράς, τις Βάσεις δεδομένων αναγνώρισης προσώπου, την Πρόβλεψη τέλεσης αξιόποινης πράξης, τη Συναγωγή συναισθημάτων, τα Συστήματα βιομετρικής κατηγοριοποίησης και την Εξ αποστάσεως βιομετρική ταυτοποίηση.
Με τη μελέτη μας παρέχουμε στοχευμένα ερωτήματα που αναδεικνύουν τις κρίσιμες πτυχές των επί μέρους διατάξεων, εντοπίζοντας τις λεγόμενες “γκρι ζώνες” – εκείνων των σημείων δηλαδή που παρουσιάζουν ασάφειες, επικαλύψεις ή δυνητικές ερμηνευτικές δυσκολίες, ενώ τεκμηριώνουμε τους προβληματισμούς μας μέσω συγκεκριμένων παραδειγμάτων. Τέλος, διατυπώνουμε συγκεκριμένα ερωτήματα προς επεξήγηση από τις επικείμενες κατευθυντήριες γραμμές της Υπηρεσίας για την ΤΝ της Ευρωπαϊκής Επιτροπής (ΑΙ Office) αλλά και τον εθνικό νομοθέτη, με στόχο την πληρέστερη αποσαφήνιση των υφιστάμενων ζητημάτων.
Όπως οι δύο πρώτες μας μελέτες (οι οποίες δημοσιεύθηκαν τον Οκτώβριο και τον Νοέμβριο του 2024, αντίστοιχα) και η τρίτη μας Μελέτη έχει ως σκοπό να σταθεί αρωγός στο Υπουργείο Ψηφιακής Διακυβέρνησης που έχει ως αποστολή να μεταφέρει την AI Act στην Ελλάδα, αλλά και με τις λεπτομερείς αναλύσεις και τα επιχειρήματά μας να βοηθήσουμε στην ωρίμανση του δημόσιου διαλόγου και να δώσουμε τη δυνατότητα σε περισσότερες οργανώσεις της Κοινωνίας των Πολιτών να συμμετέχουν ενεργά σε αυτόν.
Μπορείτε να διαβάσετε τη Μελέτη μας «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση διατάξεων για τις απαγορευμένες πρακτικές του άρθρου 5 του Κανονισμού 2024/1689» εδώ.
Η Homo Digitalis συμμετείχε στη διαβούλευση του Γραφείου Τεχνητής Νοημοσύνης για τις Απαγορευμένες Πρακτικές στο πλαίσιο της AI Act.
Τον Νοέμβριο του 2024, το Γραφείο Τεχνητής Νοημοσύνης της Ευρωπαϊκής Επιτροπής ξεκίνησε διαβούλευση σχετικά με τις απαγορευμένες πρακτικές συστημάτων ΤΝ και τον ορισμό των συστημάτων Τεχνητής Νοημοσύνης που προβλέπουν οι διατάξεις του Κανονισμού για την Τεχνητή Νοημοσύνη.
Οι κατευθυντήριες γραμμές που βρίσκονται υπό επεξεργασία θα βοηθήσουν τις εθνικές αρμόδιες αρχές, καθώς και τους παρόχους, να συμμορφωθούν με τους κανόνες του Κανονισμού για την Τεχνητή Νοημοσύνη όσον αφορά αυτές τις πρακτικές, πριν από την εφαρμογή των σχετικών διατάξεων στις 2 Φεβρουαρίου 2025.
Η Homo Digitalis συμμετείχε σε αυτή τη δημόσια διαβούλευση υποβάλλοντας τις προτάσεις μας, με στόχο να αναδείξουμε προκλήσεις και να παρέχουμε περαιτέρω σαφήνεια σχετικά με πρακτικά ζητήματα και επιμέρους περιπτώσεις χρήσης.
Η ομάδα συγγραφής της δημόσιας διαβούλευσης αποτελείται από τη Διευθύντρια Ανθρωπίνων Δικαιωμάτων και Τεχνητής Νοημοσύνης μας, Λαμπρινή Γυφτοκώστα, και τα μέλη μας Σοφία Αντωνοπούλου και Σταυρίνα Χούσου.
Μπορείτε να διαβάσετε την παρέμβασή μας εδώ.
Μείνετε συντονισμένοι, καθώς σύντομα θα δημοσιεύσουμε την ειδική μας αναφορά σχετικά με τον Κανονισμό για την Τεχνητή Νοημοσύνη και τις διατάξεις του για τις Απαγορευμένες Πρακτικές!
Δημοσιεύουμε τη Δεύτερη Μελέτη μας για το AI Act για τις αρμόδιες αρχές εποπτείας και το οικοσύστημα διακυβέρνησης της ΤΝ
Σήμερα η Homo Digitalis δημοσιεύει τη δεύτερη μελέτη της για τον Κανονισμό 2024/1689, τη πασίγνωστη πλέον AI Act με τίτλο «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση Διατάξεων για τη Διακυβέρνηση της ΤΝ και τις Αρμόδιες Αρχές Εποπτείας».
Η συγγραφική ομάδα της μελέτης αποτελείται από τη Διευθύντρια Δικαιωμάτων του Ανθρώπου και Τεχνητής Νοημοσύνης της Homo Digitalis, Λαμπρινή Γυφτοκώστα, και το μέλος μας Νίκη Γεωργακοπούλου.
Σκοπός της παρούσας ανάλυσης της Homo Digitalis είναι η ανάδειξη ορισμένων κρίσιμων ζητημάτων που εγείρει η εφαρμογή των διατάξεων περί συστήματος διακυβέρνησης της ΤΝ, λαμβάνοντας υπόψη τις εθνικές δομές αλλά και την οπτική της κοινωνίας των πολιτών.
Πιο συγκεκριμένα στην ανάλυση αυτή απαντάμε στα εξής ερωτήματα:
- Ποια δομή διακυβέρνησης προτείνει ο Κανονισμός για την ΤΝ;
- Τι σημαίνει για τον Κανονισμό για την ΤΝ η έννοια “αρχή εποπτείας της αγοράς”;
- Τι ισχύει στον Κανονισμό 2019/1020 και γιατί πρέπει να εξετάσουμε τις διατάξεις του μαζί με την AI Act;
- Ποιες ελληνικές αρχές πληρούν τις προϋποθέσεις που θέτουν οι δύο Κανονισμοί και γιατί;
- Ποια μοντέλα διακυβέρνησης έχουν υιοθετηθεί ή είναι υπό συζήτηση σε άλλες χώρες στην παρούσα χρονική στιγμή;
- Ποιοι είναι οι κύριοι προβληματισμοί μας;
- Ποιες οι βασικές μας βελτιωτικές προτάσεις;
Μπορείτε να διαβάσετε τη Μελέτη μας εδώ.
Θυμίζουμε ότι στις 12 Νοεμβρίου, το Υπουργείο Ψηφιακής Διακυβέρνησης έκανε το πρώτο επίσημο βήμα για την εφαρμογή της AI Act, δημοσιεύοντας τον κατάλογο των εθνικών αρχών για την προστασία των Θεμελιωδών Δικαιωμάτων. Οι αρχές αυτές περιλαμβάνουν: Την Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, Τον Συνήγορο του Πολίτη, Την Αρχή Διασφάλισης του Απορρήτου των Επικοινωνιών και Την Εθνική Επιτροπή Δικαιωμάτων του Ανθρώπου.
Σχετικά με αυτό, ήδη από τις 25 Οκτωβρίου, με την πρώτη Μελέτη μας «Ανάλυση και προτάσεις ενσωμάτωσης των διατάξεων για την εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα στην Ελλάδα», είχαμε παρουσιάσει λεπτομερείς προτάσεις γι’ αυτό το ζήτημα. Αν δεν προλάβατε να διαβάσετε τη μελέτη μας, σας προσκαλούμε να δείτε την περίληψη μίας σελίδας που ετοιμάσαμε, ειδικά για τις Εθνικές Αρχές Θεμελιωδών Δικαιωμάτων.
Η δημοσίευση του Υπουργείου ήταν μόνο το πρώτο βήμα. Επόμενη κρίσιμη υποχρέωση είναι ο θεσμικός σχεδιασμός των αρχών εποπτείας της αγοράς, ο οποίος πρέπει να ολοκληρωθεί έως τις 2 Αυγούστου 2025, σύμφωνα με το άρθρο 113 του Κανονισμού.
Η δεύτερη Μελέτη που δημοσιεύουμε σήμερα έχει ακριβώς ως σκοπό να σταθεί αρωγός στο Υπουργείο Ψηφιακής Διακυβέρνησης που έχει ως αποστολή να εκπονήσει το δύσκολο έργο της σύνθεσης του εν λόγω οικοσυστήματος στην Ελλάδα, αλλά και με τις λεπτομερείς αναλύσεις και τα επιχειρήματά μας να βοηθήσουμε στην ωρίμανση του δημόσιου διαλόγου και να δώσουμε τη δυνατότητα σε περισσότερες οργανώσεις της Κοινωνίας των Πολιτών να συμμετέχουν ενεργά σε αυτόν.
Ασφαλείς Διαδρομές στο Διαδίκτυο: Οδηγός για Γονείς και Ανήλικους
Γράφει η Σταυρίνα Χούσου*
Σύμφωνα με την UNICEF, το 1/3 των διαδικτυακών χρηστών είναι ανήλικοι, ενώ παιδιά 8-18 ετών περνούν περίπου το 1/3 της ημέρας τους online. Το διαδίκτυο είναι άρρηκτο και συχνά ευεργετικό στοιχείο της ζωής της «διασυνδεδεμένης γενιάς», αλλά κρύβει και κινδύνους. Η έλλειψη εκπαίδευσης και η έμφυτη αθωότητά τους, καθιστούν τα παιδιά ευάλωτους διαδικτυακούς στόχους.
Βασικά σημεία
Η συζήτηση για την κυβερνοασφάλεια πρέπει να ξεκινάει όταν το παιδί πρωτοέρχεται σε επαφή με το διαδίκτυο, με απλούς τρόπους όπως ρωτώντας το για τους σκοπούς των εφαρμογών και των αναζητήσεών του, αλλά και τους πιθανούς κινδύνους τους. Για τα μικρά παιδιά (3-8 ετών), η αυτόνομη χρήση του διαδικτύου δεν είναι ασφαλής. Οι γονείς και κηδεμόνες πρέπει να εξοικειωθούν με τους γονικούς ελέγχους στις ρυθμίσεις των συσκευών και εφαρμογών (ΜΚΔ, πλατφόρμες streaming), ώστε να περιορίζουν το περιεχόμενο, τον χρόνο οθόνης και τη πρόσβαση σε τρίτες ιστοσελίδες στα παιδιά. Αυτό βέβαια δεν υποκαθιστά τον ρόλο της συζήτησης και της ενεργούς ενασχόλησης.
Κίνδυνοι και τρόποι προστασίας
Σε όλη τη διάρκεια της ζωής τους τα παιδιά θα έρθουν σε επαφή με πληθώρα διαδικτυακών κινδύνων. Από νωρίς πρέπει να μάθουν να τους εντοπίζουν και να προφυλάσσονται κατάλληλα.
Θύτες και απατεώνες στο διαδίκτυο. Θύτες εκμεταλλεύονται την αθωότητα των παιδιών για να τα παρασύρουν σε επικίνδυνες καταστάσεις ή να αποσπάσουν προσωπικά δεδομένα. Κοινωνικά δίκτυα και πλατφόρμες παιχνιδιών προσφέρουν ανώνυμους χώρους που διευκολύνουν αυτές τις επαφές. Ακόμα κι αν τα παιδιά είναι ενημερωμένα, μπορεί να δελεαστούν από προσφορές δωρεάν πρόσβασης σε παιχνίδια ή άλλα προνόμια.
Το ‘grooming’ αναδεικνύεται ως η βασικότερη μέθοδος των θυτών και αφορά τη δημιουργία συναισθηματικής σχέσης με ένα παιδί στο διαδίκτυο, με σκοπό την κακοποίηση ή την σεξουαλική εκμετάλλευση. Σε αυτές τις περιπτώσεις, δεν μπορεί να υποκατασταθεί η παραδοσιακή, αλλά προσαρμοσμένη για την ψηφιακή εποχή, συζήτηση για τους κινδύνους από ξένους.
Κι αυτός ο κίνδυνος δεν πρέπει να υποτιμάτε. Σχεδόν το 90% των URLs με υλικό σεξουαλικής κακοποίησης παιδιών βρίσκονται στην ΕΕ, σύμφωνα με την Europol. Το 94% των αναφορών αφορούσε τις πλατφόρμες της Meta, όπου οι κρυπτογραφημένες συνομιλίες παρέχουν κάλυψη στους εγκληματίες. Επιπλέον, σύμφωνα με το Online Grooming Communication Project (OGC) μόλις 18 λεπτά επικοινωνίας αρκούν για να κερδίσουν οι groomers την εμπιστοσύνη ενός παιδιού.
Phishing και κακόβουλο λογισμικό. Το phishing είναι μια από τις πιο διαδεδομένες μορφές διαδικτυακής απάτης. Οι επιτιθέμενοι αποσπούν ευαίσθητες πληροφορίες μέσω παραπλανητικών μηνυμάτων ή ιστοσελίδων. Τα παιδιά δυσκολεύονται να αναγνωρίσουν αυτές τις απάτες, καθώς συχνά είναι εξαιρετικά πειστικές και φαίνεται να προέρχονται από γνωστούς ή αξιόπιστες πηγές. Κακόβουλα λογισμικά, που περιέχουν ιούς ή αποσπούν δεδομένα, συχνά κρύβονται πίσω από συνδέσμους που διαμοιράζονται μέσω phishing ή άλλων επιθέσεων. Τα παιδιά είναι πιθανό να ανοίξουν τέτοιους συνδέσμους, αφού συχνά συνοδεύονται από δελεαστικές προσφορές ή εμφανίζονται ως παιχνίδια.
Είναι σημαντικό να εκπαιδεύσουμε τα παιδιά να αναγνωρίζουν τα σημάδια τέτοιων ενεργειών, αποφεύγοντας συνδέσμους από άγνωστους ή ύποπτους αποστολείς και αξιολογώντας ύποπτα μηνύματα, όπως αυτά χωρίς περιεχόμενο. Αυτούς ακριβώς τους κινδύνους θίγει και η Ευρωπαϊκή Καμπάνια Κυβερνοασφάλειας 2024 #ThinkB4UClick.
Υπερβολική ή άκριτη κοινοποίηση προσωπικών στοιχείων. Η δημοσίευση προσωπικών δεδομένων στο διαδίκτυο απαιτεί προσοχή, καθώς στοιχεία όπως φωτογραφίες και διευθύνσεις μπορούν να οδηγήσουν στην ταυτοποίηση του παιδιού. Τα παιδιά πρέπει να κατανοούν τη σημασία των ιδιωτικών προφίλ και να έχουν τον έλεγχο των πληροφοριών τους. Επιπλέον, πρέπει να εκπαιδεύονται σχετικά με το «διαδικτυακό αποτύπωμα», καθώς οτιδήποτε δημοσιεύεται μπορεί να παραμείνει μόνιμα, καθιστώντας την προστασία της ιδιωτικότητας εξαιρετικά σημαντική.
Κυβερνοεκφοβισμός Έρευνες δείχνουν ότι περίπου 60% των παιδιών έχουν γίνει μάρτυρες διαδικτυακού εκφοβισμού, χωρίς να έχουν αντιδράσει. Ο καλύτερος τρόπος αντιμετώπισης είναι ενθαρρύνετε το παιδί να επικοινωνεί για τις διαδικτυακές εμπειρίες που το προβληματίζουν, αλλά και να ακολουθεί τον χρυσό κανόνα: «Μην κάνεις ό,τι δε θέλεις να σου κάνουν». Η κυβερνοασφάλεια δεν έχει πάντα τεχνικές ρίζες. Η καλλιέργεια ενός ευγενούς και κριτικού ανθρώπου είναι η πρώτη γραμμή άμυνας.
Παραπληροφόρηση. Ενθαρρύνετε τα να σκέφτονται κριτικά για ό,τι βρίσκουν online και εκπαιδεύστε τα να αναγνωρίζουν αξιόπιστες πηγές. Είναι απαραίτητο να αξιολογούν την πηγή της πληροφορίας (ποιος είναι ο συγγραφέας και ποιος ο σκοπός του) και τα χαρακτηριστικά του ιστότοπου (π.χ. URL, domain). Επίσης, πρέπει να σκεφτούν αν οι πληροφορίες είναι λογικές και αν συνάδουν με όσα ήδη γνωρίζουν, ή αν χρειάζεται να βρουν άλλες πηγές για επιβεβαίωση. Για μεγαλύτερα παιδιά και ενήλικες, η σειρά εκπαιδευτικών βίντεο Online Verification Skills είναι εξαιρετική πηγή, ενώ για μικρότερα παιδιά, αξιόλογο εργαλείο αποτελεί το εκπαιδευτικό παιχνίδι της Μαρίας Παππά, ‘Αλήθεια, Άποψη ή Ανακρίβεια’.
Ο ρόλος των «μεγάλων» στην κυβερνοασφάλεια των «μικρών»
Σεβασμός της ιδιωτικότητας. Μοιραστείτε φωτογραφίες των παιδιών μόνο με στενούς φίλους ή οικογένεια, σε κρυπτογραφημένα κανάλια. Απενεργοποιήστε τις υπηρεσίες τοποθεσίας και αναγνώρισης προσώπου, και αποφύγετε τη δημοσίευση φωτογραφιών που αποκαλύπτουν προσωπικές πληροφορίες. Αφαιρέστε τα μεταδεδομένα EXIF από τις φωτογραφίες που μοιράζεστε για να τις προστατεύσετε σε περίπτωση διαρροής.
Πολλές ευρωπαϊκές Αρχές Προστασίας Προσωπικών Δεδομένων συμβουλεύουν τους γονείς να αποφεύγουν τη δημοσίευση προσωπικού υλικού των παιδιών τους, καθώς τα μικρά παιδιά δεν μπορούν να δώσουν ενημερωμένη συγκατάθεση. Αυτή η πρακτική επίσης εκθέτει τα παιδιά σε σοβαρούς κινδύνους. Ακόμη και μια απλή φωτογραφία μπορεί να ταυτοποιήσει ένα παιδί, αυξάνοντας τον κίνδυνο κλοπής ταυτότητας ή ψηφιακής απαγωγής, όπου οι εικόνες των παιδιών χρησιμοποιούνται σε ψεύτικους λογαριασμούς. Σύμφωνα με προβλέψεις της Barclays, έως το 2030, η δημόσια κοινοποίηση εικόνων από γονείς θα μπορούσε να ευθύνεται για τα 2/3 όλων των περιπτώσεων απάτης ταυτότητας.
Ευθύνη των ενηλίκων η προστασία των ψηφιακών υποδομών του νοικοκυριού. Ενημερώστε τα λογισμικά των συσκευών σας συχνά – και ιδανικά αυτόματα. Χρησιμοποιήστε ασφαλές, ιδιωτικό Wi-Fi. Σε δημόσια δίκτυα, προτιμήστε VPN για μεγαλύτερη ασφάλεια και περιορίστε τις αναζητήσεις σας. Εγκαταστείτε λογισμικά ασφαλείας και anti-virus.
Τα παιδιά μεγαλώνουν. Έτσι, η επιθυμία τους για αυτονομία αυξάνεται. Είναι κρίσιμο να μεταβούμε σταδιακά από την εποπτεία στην εμπιστοσύνη, επιτρέποντάς τους να χρησιμοποιούν τα εργαλεία που τους έχετε παρέχει, πάντα με λογικά όρια, ανοιχτή επικοινωνία και υποστηρίζοντας τις αξίες που τους εμφυσουμε. Η ισορροπία μεταξύ αυτονομίας και εποπτείας είναι μια νέα συζήτηση, κι ενώ υπάρχουν χρήσιμες οδηγίες, δεν υπάρχουν απόλυτες λύσεις.
Αναφορά ακατάλληλων συμπεριφορών: Χρησιμοποιήστε τα φίλτρα αναφοράς στα ΜΚΔ για να επισημάνετε ύποπτες ή ανάρμοστες συμπεριφορές που αφορούν ανήλικους. Μην επαναπαύεστε και μην αγνοείται ανησυχητικά περιστατικά. Πολλά παιδιά μπορεί να μην απολαμβάνουν της προστασίας που τους αξίζει.
Επίλογος
Η εκπαίδευση των παιδιών για την κυβερνοασφάλεια προϋποθέτει την συνεχή ενημέρωση και εκπαίδευση των ενηλίκων. Ας μείνουμε ενεργοί, ενήμεροι και προσιτοί ιδιαίτερα στα παιδιά που βρίσκονται κάτω από τη φροντίδα μας. Είναι ευθύνη όλων μας.
Σύνδεσμοι για περαιτέρω ενημέρωση/Επιμόρφωση:
- Protecting Kids Online | Security.org
- Center of Missing and Epxloited Children: Courses
* H Σταυρίνα Χούσου είναι απόφοιτος της Σχολής Διεθνών και Ευρωπαϊκών Σπουδών του Πανεπιστημίου του Πειραιά και κάτοχος Μεταπτυχιακού Διπλώματος στη Δημόσια Πολιτική και τις Νέες Τεχνολογίες από το Πανεπιστήμιο Sciences Po Paris. Εργάζεται ως Regulatory Consultant στην εταιρεία naaia.ai, μία συμβουλευτική για θέματα που άπτονται της ΤΝ και της διαχείρισης δεδομένων.
Δημοσιεύουμε την πρώτη αναλυτική μελέτη μας για το AI Act και τις διατάξεις των FRIAs
Η Homo Digitalis δημοσιεύει σήμερα την πρώτη Μελέτη της για τον Ευρωπαϊκό Κανονισμό για την Τεχνητή Νοημοσύνη με τίτλο «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση και προτάσεις ενσωμάτωσης των διατάξεων για την εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα στην Ελλάδα».
Συγγραφείς της πρώτης αυτής Μελέτης αποτελούν το μέλος μας Σοφία Αντωνοπούλου και η Διευθύντρια Δικαιωμάτων του Ανθρώπου & Τεχνητής Νοημοσύνης της Homo Digitalis, Λαμπρινή Γυφτοκώστα.
Η Μελέτη αποτελεί την πρώτη από μία σειρά αναλύσεων που θα δημοσιεύσουμε στο προσεχές διάστημα σχετικά με διάφορες σημαντικές διατάξεις του Κανονισμού για την Τεχνητή Νοημοσύνη, οι οποίες έχουν ως σκοπό τόσο να ενημερώσουν τους φορείς λήψεων αποφάσεων στην Ελλάδα για σημαντικές διατάξεις του AI Act προκειμένου να βοηθήσουν στην επιτυχημένη εφαρμογή του, όσο και να πλαισιώσουν τον δημόσιο διάλογο για την Τεχνητή Νοημοσύνη στη χώρα μας παραθέτοντας συγκεκριμένα επιχειρήματα και προτάσεις.
Επίκεντρο της πρώτης Μελέτης της Homo Digitalis είναι η ανάδειξη ορισμένων κρίσιμων ζητημάτων που εγείρει η εφαρμογή των διατάξεων περί Εκτίμησης Αντικτύπου στα Θεμελιώδη Δικαιώματα (ΕΑΘΔ), από την οπτική της κοινωνίας των πολιτών. Εκτός αυτού, στόχος είναι να συμβάλει εποικοδομητικά στον δημόσιο διάλογο, προτείνοντας συγκεκριμένες λύσεις για μια αποτελεσματική διαδικασία εκτίμησης αντικτύπου αναφορικά με τα συστήματα ΤΝ υψηλού ρίσκου.
Συνοπτικά, στα κύρια συμπεράσματα της Μελέτης περιλαμβάνονται οι εξής προβληματισμοί:
- Ο αποκλεισμός από την υποχρέωση διενέργειας ΕΑΘΔ των συστημάτων ΤΝ που χρησιμοποιούνται αποκλειστικά από ιδιωτικές υπηρεσίες.
- Η παντελής έλλειψη κυρώσεων για όσους παραβιάζουν τις διατάξεις για τις ΕΑΘΔ.
- Οι ασάφειες και τα ερμηνευτικά κενά σχετικά με τον τρόπο διενέργειας ΕΑΘΔ, την επικαιροποίηση των στοιχείων και την εκ νέου διενέργεια ΕΑΘΔ, την αξιολόγηση κινδύνων και τα προτεινόμενα μέτρα, την ενημέρωση της αρχής εποπτείας αγοράς και τις εξαιρέσεις από την εν λόγω ενημέρωση της αρχής εποπτείας αγοράς, και
- Η αδιαφάνεια στην χρήση συστημάτων ΤΝ και εκπόνηση ΕΑΘΔ σε τομείς επιβολής του νόμου, διαχείρισης μετανάστευσης και ασύλου και συνοριακών ελέγχων.
Επίσης, συνοψίζονται οι βελτιωτικές προτάσεις σε πέντε βασικά σημεία που είναι κομβικά για την αποτελεσματική προστασία των θεμελιωδών δικαιωμάτων από τυχόν παραβιάσεις συστημάτων ΤΝ:
- Προτείνεται η άσκηση της διακριτικής ευχέρειας με βάση το άρθρο 99 παράγραφος 2 και η θέσπιση κυρώσεων σε περίπτωση μη συμμόρφωσης με τις διατάξεις για τα ΕΑΘΔ. Προτείνεται, περαιτέρω, οι σχετικές κυρώσεις να είναι στην ίδια κλίμακα με αυτές που αφορούν τη μη συμμόρφωση με την απαγόρευση των πρακτικών ΤΝ, σύμφωνα με το άρθρο 99 παράγραφος 3 του Κανονισμού.
- Προτείνεται η θέσπιση αναλυτικών ρυθμίσεων διακυβέρνησης με ξεκάθαρες διαδικασίες διαχείρισης καταγγελιών και προσφυγών καθώς και η εξασφάλιση συμμετοχής συμφεροντούχων στον ελληνικό νόμο που θα ενσωματώσει τον Κανονισμό.
- Τροποποίηση νόμου 4780/2021, οι διατάξεις του οποίου διέπουν τη λειτουργία της Εθνικής Επιτροπής Ανθρωπίνων Δικαιωμάτων για την ανάληψη του ρόλου σύμφωνα με το άρθρο 77 του Κανονισμού υπό προϋποθέσεις.
- Εκτός από το υπόδειγμα για την διενέργεια ΕΑΘΔ, είναι απαραίτητη η εκπόνηση κατευθυντήριων γραμμών, που θα περιλαμβάνουν μια εκτενή ανάλυση της αιτιολογικής σκέψης 96,των άρθρων 6 παράγραφος 2, 27, 43, 46, 49 και 77 του Κανονισμού για την ΤΝ.
Μπορείτε να διαβάσετε αναλυτικά τη Μελέτη της Homo Digitalis εδώ.
Συμμετοχή της Homo Digitalis στην Ανοιχτή διαβούλευση της Ευρωπαϊκής Επιτροπής για την Τεχνητή Νοημοσύνη γενικού σκοπού
Χθες, 18/9 η Homo Digitalis κατέθεσε τις απαντήσεις της στην Ανοιχτή Διαβούλευση της Ευρωπαϊκής Επιτροπής για ζητήματα που αφορούν τη μελλοντική εφαρμογή της νομοθεσίας για την Τεχνητή Νοημοσύνη (AI ACT) και τον τρόπο με τον οποίο μπορεί γίνει αξιόπιστη χρήση των τεχνολογιών τεχνητής νοημοσύνης γενικού σκοπού, συμπεριλαμβανομένων μοντέλων παραγωγικής τεχνητής νοημοσύνης.
Το έγγραφο με τις τοποθετήσεις της Homo Digitalis επί της Διαβούλευσης εκπόνησαν η Διευθύντρια Τεχνητής Νοημοσύνης & Δικαιωμάτων του Ανθρώπου του οργανισμού μας, Λαμπρινή Γυφτοκώστα και το μέλος Τάνια Σκραπαλιώρη.
Μπορείτε να διαβάσετε τη σχετική τοποθέτησή μας εδώ.
Επιστολή της Homo Digitalis στο Ε.Σ.Ρ. για τις υποχρεώσεις που ανακύπτουν από τον Κανονισμό 2024/1083
Στις 3 Σεπτεμβρίου η Homo Digitalis κατέθεσε ανοιχτή επιστολή (αριθ. πρωτ. 4844-3-9-24) ενώπιον του Εθνικού Συμβουλίου Ραδιοτηλεόρασης (ΕΣΡ) με την οποία παραθέτει δύο (2) ερωτήματα αναφορικά με την εφαρμογή των διατάξεων του Άρθρου 25 του Κανονισμού 2024/1083 σχετικά με τη θέσπιση κοινού πλαισίου για τις υπηρεσίες μέσων ενημέρωσης στην εσωτερική αγορά.
Συγκεκριμένα, όπως ορίζει το άρθρο 25, παρ. 2-3, οι αρμόδιες ανεξάρτητες αρχές στα κράτη μέλη παρακολουθούν και υποβάλλουν ετήσια έκθεση σχετικά με την κατανομή των κρατικών διαφημιστικών δαπανών στους παρόχους υπηρεσιών μέσων ενημέρωσης και στους παρόχους επιγραμμικών πλατφορμών. Οι εν λόγω ετήσιες εκθέσεις δημοσιοποιούνται σε εύκολα προσβάσιμη μορφή, ενώ καταρτίζονται με βάση τις πληροφορίες που δημοσιοποιούν σε ετήσια βάση με ηλεκτρονικά και φιλικά προς τον χρήστη μέσα οι δημόσιες αρχές ή οντότητες οι οποίες έχουν προχωρήσει σε δαπάνες για κρατική διαφήμιση.
Οι εν λόγω πληροφορίες περιλαμβάνουν τουλάχιστον:
α) τις επίσημες επωνυμίες των παρόχων υπηρεσιών μέσων ενημέρωσης ή των παρόχων επιγραμμικών πλατφορμών από τους οποίους αγοράστηκαν υπηρεσίες,
β) κατά περίπτωση, τις επίσημες επωνυμίες των επιχειρηματικών ομίλων στους οποίους ανήκουν τυχόν πάροχοι υπηρεσιών μέσων ενημέρωσης ή πάροχοι επιγραμμικών πλατφορμών, και
γ) το συνολικό ετήσιο ποσό που δαπανήθηκε και τα ετήσια ποσά που δαπανήθηκαν ανά πάροχο υπηρεσιών μέσων ενημέρωσης ή πάροχο επιγραμμικών πλατφορμών.
Λαμβάνοντας υπόψη τα ανωτέρω η Homo Digitalis κατέθεσε ενώπιον του ΕΣΡ τα εξής δύο (2) ερωτήματα:
1 ) Έχει το Εθνικό Συμβούλιο Ραδιοτηλεόρασης προχωρήσει σε δημοσίευση της σχετικής ετήσιας έκθεσης για το έτος 2023 αναφορικά με την κατανομή των κρατικών διαφημιστικών δαπανών στους παρόχους υπηρεσιών μέσων ενημέρωσης και στους παρόχους επιγραμμικών πλατφορμών; Εάν το Εθνικό Συμβούλιο Ραδιοτηλεόρασης δεν έχει τη σχετική αρμοδιότητα, ενώπιον ποιου φορέα θα πρέπει να απευθυνθούμε;
2) Γνωρίζει το Εθνικό Συμβούλιο Ραδιοτηλεόρασης εάν οι δημόσιες αρχές ή οντότητες οι οποίες έχουν προχωρήσει σε δαπάνες για κρατική διαφήμιση έχουν συμμορφωθεί με την υποχρέωσή τους να δημοσιεύουν σε ετήσια βάση με ηλεκτρονικά και φιλικά προς τον χρήστη μέσα τις πληροφορίες που αναφέρει λεπτομερώς το άρθρο 25, παρ.2 του Κανονισμού 2024/1083; Με ποιους τρόπους θα μπορούσαμε ως κοινωνία των πολιτών να παρακολουθούμε την αντίστοιχη δραστηριότητα των δημοσίων αρχών/οντοτήτων προκειμένου να σταθούμε αρωγοί στο έργο σας και να σας ενημερώνουμε για τυχόν ελλείψεις στην συμμόρφωσή τους;
Ελπίζουμε να λάβουμε σύντομα απάντηση στα ερωτήματα μας.
Κοινή δήλωση της ΚτΠ: Ενωμένοι ενάντια στη χρήση κατασκοπευτικού λογισμικού παρακολούθησης στην ΕΕ και πέρα αυτής
Το κατασκοπευτικό λογισμικό δεν είναι απλώς ένα ζήτημα προστασίας της ιδιωτικής ζωής – είναι μια απειλή για τα ίδια τα θεμέλια των δημοκρατικών μας αξιών. Υπονομεύοντας την ανεξάρτητη λήψη αποφάσεων, περιορίζοντας τον δημόσιο διάλογο και φιμώνοντας δημοσιογράφους και ακτιβιστές, τα κατασκοπευτικά λογισμικά διαβρώνουν τους πυλώνες ενός υγιούς πολιτικού χώρου.
Καθώς τα νέα θεσμικά όργανα της Ευρωπαϊκής Ένωσης ετοιμάζονται να αναλάβουν και επίσημα τα καθήκοντά τους μετά τις εκλογές της ΕΕ, η αυξανόμενη απειλή της χρήσης κατασκοπευτικών λογισμικών έχει καταστεί μια πιεστική παγκόσμια ανησυχία που απαιτεί άμεση προσοχή.
Την Τρίτη 3/9, η Homo Digitalis μαζί με το Center for Democracy and Technology Europe (CDT Europe) και άλλες 30 οργανώσεις από την ΚτΠ και τον τομέα της δημοσιογραφίας δημοσίευσαν κοινή δήλωση με την οποία καλούν τα νέα θεσμικά όργανα της ΕΕ να δώσουν προτεραιότητα στη δράση κατά της χρήσης κατασκοπευτικών λογισμικών κατά τη νέα νομοθετική περίοδο.
Ορισμένες από τις βασικές συστάσεις του συνασπισμού μας περιλαμβάνουν:
- Απαγόρευση της παραγωγής, πώλησης και χρήσης λογισμικού κατασκοπείας που βλάπτει δυσανάλογα τα θεμελιώδη δικαιώματα.
- Αυστηρότερους ελέγχους εξαγωγών για την αποτροπή της κατάχρησης αυτών των τεχνολογιών πέραν της ΕΕ.
- Διαφάνεια και λογοδοσία στις κυβερνητικές συμβάσεις που αφορούν κατασκοπευτικά λογισμικά.
Όπως αναφέρει η Silvia Lorenzo Perez, διευθύντρια του προγράμματος «Ασφάλεια, επιτήρηση και ανθρώπινα δικαιώματα» του CDT Europe: «Τα νέα θεσμικά όργανα της ΕΕ έχουν την ευκαιρία να διορθώσουν τις αποτυχίες της προηγούμενης νομοθετικής περιόδου, λαμβάνοντας συγκεκριμένα και αποφασιστικά μέτρα κατά της κατάχρησης της παρακολούθησης με λογισμικό κατασκοπείας».
Τα νέα θεσμικά όργανα της ΕΕ πρέπει να αδράξουν αυτή τη στιγμή για να αποκαταστήσουν τη δημόσια εμπιστοσύνη, να προστατεύσουν τα θεμελιώδη δικαιώματά μας και να υποστηρίξουν τις αξίες που ορίζουν την Ένωση.
Μπορείτε να διαβάσετε την κοινή μας δήλωση στα αγγλικά ή στα ελληνικά.
Η Homo Digitalis έχει επίσης καταθέσει σχετική αναφορά, ενώπιον του Επιτρόπου Ανθρωπίνων Δικαιωμάτων του Συμβουλίου της Ευρώπης. Μπορείτε να διαβάσετε περισσότερα σχετικά με αυτή τη δράση μας εδώ.
Η Homo Digitalis υπέβαλε σήμερα επιστολή στον Επίτροπο Ανθρωπίνων Δικαιωμάτων του Συμβουλίου της Ευρώπης για τα κατασκοπευτικά λογισμικά
Η Homo Digitalis υπέβαλε σήμερα 13/8/2024 επιστολή στον Επίτροπο Ανθρωπίνων Δικαιωμάτων του Συμβουλίου της Ευρώπης.
Με αυτή την επιστολή, η ελληνική οργάνωση της κοινωνίας των πολιτών επιδιώκει να επιστήσει την προσοχή του Επιτρόπου στα ακόλουθα τρία ζητήματα:
Α. Η επικείμενη υιοθέτηση Προεδρικού Διατάγματος στην Ελλάδα που θα επιτρέπει στις κρατικές αρχές την προμήθεια λογισμικού κατασκοπείας.
Β. Η επιδεινούμενη κατάσταση των ανεξάρτητων εποπτικών αρχών στην Ελλάδα, οι οποίες πλήττονται από υποστελέχωση και οικονομικούς περιορισμούς.
Γ. Οι τελευταίες εξελίξεις στο συνεχιζόμενο σκάνδαλο PREDATOR στην Ελλάδα, το οποίο αφήνει αναπάντητα κρίσιμα ερωτήματα σχετικά με την παρακολούθηση δημοσιογράφων, πολιτικών και δικηγόρων με παράνομα μέσα.
Επιπλέον, με αυτή την επιστολή η Homo Digitalis καλεί τον Επίτροπο:
- Να δώσει πλήρη και στενή προσοχή στην κατάσταση στην Ελλάδα,
- Να λάβει υπόψη τα ανωτέρω στοιχεία και να ζητήσει επειγόντως περαιτέρω πληροφορίες και διευκρινίσεις από τις ελληνικές αρχές,
- Να εξετάσει την κατάσταση στην Ελλάδα και να λάβει τα απαραίτητα μέτρα για τον εντοπισμό τυχόν ελλείψεων στη νομοθεσία και τις πρακτικές που αφορούν παραβιάσεις ανθρωπίνων δικαιωμάτων, και
- Να βοηθήσει στην ενίσχυση των δραστηριοτήτων των εθνικών εποπτικών ιδρυμάτων και άλλων δομών ανθρωπίνων δικαιωμάτων στην Ελλάδα.
Μπορείτε να διαβάσετε την επιστολή (EN) εδώ.