Δημοσιεύουμε την 4η Μελέτη μας για την ΑΙ ACT - Συγκριτική επισκόπηση των διατάξεων για τα δικαιώματα των θιγόμενων προσώπων

Σήμερα, 11 Απριλίου 2025, η Homo Digitalis δημοσιεύει την τέταρτη μελέτη της για τις διατάξεις του Κανονισμού  2024/1689 για την τεχνητή νοημοσύνη (ΤΝ), ευρέως γνωστού ως AI Act.

Στο επίκεντρο της μελέτης αυτής βρίσκονται το δικαίωμα στην επεξήγηση και το δικαίωμα του υποκειμένου να μην υπόκειται σε αυτοματοποιημένη λήψη απόφασης.

Συγκεκριμένα, η χρήση συστημάτων τεχνητής νοημοσύνης για τη λήψη αυτοματοποιημένων αποφάσεων επεκτείνεται συνεχώς τόσο στον δημόσιο όσο και στον ιδιωτικό τομέα, με σημαντικές επιπτώσεις για τα πρόσωπα που υπόκεινται σε αυτές

Επομένως, η παρούσα μελέτη εξετάζει τα μέσα έννομης προστασίας που διαθέτουν τα πρόσωπα που θίγονται από αποφάσεις που λαμβάνονται με τη χρήση ΤΝ. Η ανάλυση επικεντρώνεται στο δικαίωμα επεξήγησης της ατομικής λήψης απόφασης που προβλέπεται στο άρθρο 86 του Κανονισμού 2024/1689. Επειδή όμως η προστασία των θιγόμενων προσώπων δεν περιορίζεται αποκλειστικά στις εν λόγω διατάξεις, η ανάλυση εκτείνεται στο δικαίωμα αμφισβήτησης της ατομικής λήψης απόφασης που -υπό κατάλληλη ερμηνεία- ερείδεται στο άρθρο 22 του Κανονισμού 2016/679, γνωστού ως GDPR / ΓΚΠΔ.

H συγγραφική ομάδα της Μελέτης αποτελείται από δύο έξοχους νομικούς και μέλη – εθελοντές της Homo Digitalis τις (κατά αλφαβητική σειρά) Μαρία-Ευαγγελία Κωνσταντοπούλου και Στρατηγία-Δανάη Σκεύη.

Μπορείτε να διαβάστε την 4η μελέτη μας εδώ.

Θυμίζουμε ότι έχουμε δημοσιεύσει άλλες 3 μελέτες για τον Κανονισμό 2024/1689 και τη μεταφορά του στην ελληνική έννομη τάξη, τον Οκτώβριο (εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα), Νοέμβριο (διακυβέρνηση της ΤΝ και αρμόδιες αρχές εποπτείας) και Δεκέμβριο (απαγορευμένες πρακτικές) του 2024, αντίστοιχα.

Η εντατική αυτή προσπάθεια στοχεύει να συμβάλουμε εποικοδομητικά στο δημόσιο διάλογο στην Ελλάδα αλλά και σε επίπεδο ΕΕ στο πεδίο της τεχνητής νοημοσύνης, ενώ αποτελεί αποτέλεσμα της σημαντικής στήριξης του European Artificial Intelligence & Society Fund.

 


Δημοσιεύουμε κοινή δήλωση για τις αναμενόμενες Κατευθυντήριες Γραμμές της Ευρωπαϊκής Επιτροπής για τις Απαγορευμένες Πρακτικές του AI Act

Στις 11 Δεκεμβρίου 2024, η Ευρωπαϊκή Επιτροπή ολοκλήρωσε τη δημόσια διαβούλευσή της για την ερμηνεία του ορισμού ενός συστήματος Τεχνητής Νοημοσύνης και για τις απαγορευμένες πρακτικές τεχνητής νοημοσύνης, σύμφωνα με τις διατάξεις του Κανονισμού 2024/1689 (AI Act). H Homo Digitalis είχε συμμετάσχει στη σχετική διαδικασία.

Στο πλαίσιο της έκδοσης των αναμενόμενων κατευθυντηρίων γραμμών της Επιτροπής, παραμένουν ανησυχίες για ενδεχόμενα κενά που θα μπορούσαν να θέσουν σε κίνδυνο τα θεμελιώδη δικαιώματα. Γι’ αυτόν τον λόγο και από κοινού με περισσότερες από 25 οργανώσεις της Κοινωνίας των Πολιτών, ακαδημαϊκούς και άλλους ειδικούς, εκδίδουμε σήμερα μία δήλωση ζητώντας από την Υπηρεσία Τεχνητής Νοημοσύνης (AI Office) και την Ευρωπαϊκή Επιτροπή να εξασφαλίσουν συγκεκριμένα αιτήματα.

Μπορείτε να διαβάσετε τη κοινή μας δήλωση εδώ.

!


Δημοσιεύουμε την Τρίτη Μελέτη μας για την AI Act εστιάζοντας στο Άρθρο 5 & τις Απαγορευμένες Πρακτικές

Σήμερα η Homo Digitalis δημοσιεύει την τρίτη μελέτη της για τον Κανονισμό 2024/1689, τη πασίγνωστη πλέον AI Act με τίτλο «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση διατάξεων για τις απαγορευμένες πρακτικές του άρθρου 5 του Κανονισμού 2024/1689».

Η συγγραφική ομάδα της μελέτης αποτελείται από τη Σοφία Αντωνοπούλου, τη Λαμπρινή Γυφκτοκώστα, την Τάνια Σκραπαλιώρη, τον Λευτέρη Χελιουδάκη και τη Σταυρούλα Χούσου.

Σκοπός της παρούσας ανάλυσης της Homo Digitalis είναι η συστηματική προσέγγιση  κάθε διάταξης του άρθρου 5 του Κανονισμού για την ΤΝ, που σχετίζονται με τις Χειριστικές ή παραπλανητικές τεχνικές, την Εκμετάλλευση τρωτών στοιχείων, την Αξιολόγηση κοινωνικής συμπεριφοράς, τις Βάσεις δεδομένων αναγνώρισης προσώπου, την Πρόβλεψη τέλεσης αξιόποινης πράξης, τη Συναγωγή συναισθημάτων, τα Συστήματα βιομετρικής κατηγοριοποίησης και την Εξ αποστάσεως βιομετρική ταυτοποίηση.

Με τη μελέτη μας παρέχουμε στοχευμένα ερωτήματα που αναδεικνύουν τις κρίσιμες πτυχές των επί μέρους διατάξεων, εντοπίζοντας τις λεγόμενες “γκρι ζώνες” – εκείνων των σημείων δηλαδή που παρουσιάζουν ασάφειες, επικαλύψεις ή δυνητικές ερμηνευτικές δυσκολίες, ενώ τεκμηριώνουμε τους προβληματισμούς μας μέσω συγκεκριμένων παραδειγμάτων. Τέλος, διατυπώνουμε συγκεκριμένα ερωτήματα  προς επεξήγηση από τις επικείμενες κατευθυντήριες γραμμές της Υπηρεσίας για την ΤΝ της Ευρωπαϊκής Επιτροπής (ΑΙ Office) αλλά και τον εθνικό νομοθέτη, με στόχο την πληρέστερη αποσαφήνιση των υφιστάμενων ζητημάτων.

Όπως οι δύο πρώτες μας μελέτες (οι οποίες δημοσιεύθηκαν τον Οκτώβριο και τον Νοέμβριο του 2024, αντίστοιχα) και η τρίτη μας  Μελέτη έχει ως σκοπό να σταθεί αρωγός στο Υπουργείο Ψηφιακής Διακυβέρνησης που έχει ως αποστολή να μεταφέρει την AI Act στην Ελλάδα, αλλά και με τις λεπτομερείς αναλύσεις και τα επιχειρήματά μας να βοηθήσουμε στην ωρίμανση του δημόσιου διαλόγου και να δώσουμε τη δυνατότητα σε περισσότερες οργανώσεις της Κοινωνίας των Πολιτών να συμμετέχουν ενεργά σε αυτόν.

Μπορείτε να διαβάσετε τη Μελέτη μας «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση διατάξεων για τις απαγορευμένες πρακτικές του άρθρου 5 του Κανονισμού 2024/1689» εδώ.


Η Homo Digitalis συμμετείχε στη διαβούλευση του Γραφείου Τεχνητής Νοημοσύνης για τις Απαγορευμένες Πρακτικές στο πλαίσιο της AI Act.

Τον Νοέμβριο του 2024, το Γραφείο Τεχνητής Νοημοσύνης της Ευρωπαϊκής Επιτροπής ξεκίνησε διαβούλευση σχετικά με τις απαγορευμένες πρακτικές συστημάτων ΤΝ και τον ορισμό των συστημάτων Τεχνητής Νοημοσύνης που προβλέπουν οι διατάξεις του Κανονισμού για την Τεχνητή Νοημοσύνη.

Οι κατευθυντήριες γραμμές που βρίσκονται υπό επεξεργασία θα βοηθήσουν τις εθνικές αρμόδιες αρχές, καθώς και τους παρόχους, να συμμορφωθούν με τους κανόνες του Κανονισμού για την Τεχνητή Νοημοσύνη όσον αφορά αυτές τις πρακτικές, πριν από την εφαρμογή των σχετικών διατάξεων στις 2 Φεβρουαρίου 2025.

Η Homo Digitalis συμμετείχε σε αυτή τη δημόσια διαβούλευση υποβάλλοντας τις προτάσεις μας, με στόχο να αναδείξουμε προκλήσεις και να παρέχουμε περαιτέρω σαφήνεια σχετικά με πρακτικά ζητήματα και επιμέρους περιπτώσεις χρήσης.

Η ομάδα συγγραφής της δημόσιας διαβούλευσης αποτελείται από τη Διευθύντρια Ανθρωπίνων Δικαιωμάτων και Τεχνητής Νοημοσύνης μας, Λαμπρινή Γυφτοκώστα, και τα μέλη μας Σοφία Αντωνοπούλου και Σταυρίνα Χούσου.

Μπορείτε να διαβάσετε την παρέμβασή μας εδώ.

Μείνετε συντονισμένοι, καθώς σύντομα θα δημοσιεύσουμε την ειδική μας αναφορά σχετικά με τον Κανονισμό για την Τεχνητή Νοημοσύνη και τις διατάξεις του για τις Απαγορευμένες Πρακτικές!


Δημοσιεύουμε τη Δεύτερη Μελέτη μας για το AI Act για τις αρμόδιες αρχές εποπτείας και το οικοσύστημα διακυβέρνησης της ΤΝ

Σήμερα η Homo Digitalis δημοσιεύει τη δεύτερη μελέτη της για τον Κανονισμό 2024/1689, τη πασίγνωστη πλέον AI Act με τίτλο «Πράξη για την Τεχνητή Νοημοσύνη: Ανάλυση Διατάξεων για τη Διακυβέρνηση της ΤΝ και τις Αρμόδιες Αρχές Εποπτείας».

Η συγγραφική ομάδα της μελέτης αποτελείται από τη Διευθύντρια Δικαιωμάτων του Ανθρώπου και Τεχνητής Νοημοσύνης της Homo Digitalis, Λαμπρινή Γυφτοκώστα, και το μέλος μας Νίκη Γεωργακοπούλου.

Σκοπός της παρούσας ανάλυσης της Homo Digitalis είναι η ανάδειξη ορισμένων κρίσιμων ζητημάτων που εγείρει η εφαρμογή των διατάξεων περί συστήματος διακυβέρνησης της ΤΝ, λαμβάνοντας υπόψη τις εθνικές δομές αλλά και την οπτική της κοινωνίας των πολιτών.

Πιο συγκεκριμένα στην ανάλυση αυτή απαντάμε στα εξής ερωτήματα:

  • Ποια δομή διακυβέρνησης προτείνει ο Κανονισμός για την ΤΝ;
  • Τι σημαίνει για τον Κανονισμό για την ΤΝ η έννοια “αρχή εποπτείας της αγοράς”;
  • Τι ισχύει στον Κανονισμό 2019/1020 και γιατί πρέπει να εξετάσουμε τις διατάξεις του μαζί με την AI Act;
  • Ποιες ελληνικές αρχές πληρούν τις προϋποθέσεις που θέτουν οι δύο Κανονισμοί και γιατί;
  • Ποια μοντέλα διακυβέρνησης έχουν υιοθετηθεί ή είναι υπό συζήτηση σε άλλες χώρες στην παρούσα χρονική στιγμή;
  • Ποιοι είναι οι κύριοι προβληματισμοί μας;
  • Ποιες οι βασικές μας βελτιωτικές προτάσεις;

Μπορείτε να διαβάσετε τη Μελέτη μας εδώ.

Θυμίζουμε ότι στις 12 Νοεμβρίου, το Υπουργείο Ψηφιακής Διακυβέρνησης έκανε το πρώτο επίσημο βήμα για την εφαρμογή της AI Act, δημοσιεύοντας τον κατάλογο των εθνικών αρχών για την προστασία των Θεμελιωδών Δικαιωμάτων. Οι αρχές αυτές περιλαμβάνουν: Την Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα, Τον Συνήγορο του Πολίτη, Την Αρχή Διασφάλισης του Απορρήτου των Επικοινωνιών και Την Εθνική Επιτροπή Δικαιωμάτων του Ανθρώπου.

Σχετικά με αυτό, ήδη από τις 25 Οκτωβρίου, με την πρώτη Μελέτη μας «Ανάλυση και προτάσεις ενσωμάτωσης των διατάξεων για την εκτίμηση αντικτύπου στα θεμελιώδη δικαιώματα στην Ελλάδα», είχαμε παρουσιάσει λεπτομερείς προτάσεις γι’ αυτό το ζήτημα. Αν δεν προλάβατε να διαβάσετε τη μελέτη μας, σας προσκαλούμε να δείτε την περίληψη μίας σελίδας που ετοιμάσαμε, ειδικά για τις Εθνικές Αρχές Θεμελιωδών Δικαιωμάτων.

Η δημοσίευση του Υπουργείου ήταν μόνο το πρώτο βήμα. Επόμενη κρίσιμη υποχρέωση είναι ο θεσμικός σχεδιασμός των αρχών εποπτείας της αγοράς, ο οποίος πρέπει να ολοκληρωθεί έως τις 2 Αυγούστου 2025, σύμφωνα με το άρθρο 113 του Κανονισμού.

Η δεύτερη Μελέτη που δημοσιεύουμε σήμερα έχει ακριβώς ως σκοπό να σταθεί αρωγός στο Υπουργείο Ψηφιακής Διακυβέρνησης που έχει ως αποστολή να εκπονήσει το δύσκολο έργο της σύνθεσης του εν λόγω οικοσυστήματος στην Ελλάδα, αλλά και με τις λεπτομερείς αναλύσεις και τα επιχειρήματά μας να βοηθήσουμε στην ωρίμανση του δημόσιου διαλόγου και να δώσουμε τη δυνατότητα σε περισσότερες οργανώσεις της Κοινωνίας των Πολιτών να συμμετέχουν ενεργά σε αυτόν.