Κοινή Δήλωση Εκστρατείας Protect Not Surveil: Επικίνδυνες οι διατάξεις της AI Act για τις ευάλωτες κοινωνικές ομάδες στον τομέα της μετανάστευσης

Στις 13 Μαρτίου 2024, το Ευρωπαϊκό Κοινοβούλιο ενέκρινε την Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη (AI ACT).

Παρά το γεγονός ότι η νομοθεσία παρουσιάζεται ευρέως ως μία παγκόσμια πρωτοτυπία, η πράξη της ΕΕ για την τεχνητή νοημοσύνη υπολείπεται στον σημαντικό τομέα της μετανάστευσης, καθώς δεν αποτρέπει τους υψηλούς κινδύνους που υπάρχουν και δεν παρέχει το απαραίτητο επίπεδο προστασίας στις ευάλωτες κοινωνικές ομάδες που βρίσκονται στο στόχαστρο παρεμβατικών τεχνολογιών στον τομέα αυτόν.

Στην τελική της εκδοχή, η πράξη της ΕΕ για την τεχνητή νοημοσύνη δημιουργεί ένα επικίνδυνο προηγούμενο. Η νομοθεσία αναπτύσσει ένα ξεχωριστό νομικό πλαίσιο για τη χρήση της ΤΝ από τις αρχές επιβολής του νόμου, τον έλεγχο της μετανάστευσης και την εθνική ασφάλεια, παρέχοντας αδικαιολόγητα “παραθυράκια” στις υποχρεώσεις που προβλέπει το κείμενό της, και ενθαρρύνοντας ακόμη και τη χρήση επικίνδυνων συστημάτων για επιτήρηση των πλέον περιθωριοποιημένων μελών της κοινωνίας.

Η Homo Digitalis έχοντας τα τελευταία 4 χρόνια προχωρήσει σε σημαντικές σχετικές νομικές καταγγελίες ενώπιον της ΑΠΔΠΧ, καθώς και σε μία σειρά εκπαιδευτικών δράσεων, δράσεων ευαισθητοποίησης και δράσεων συνδιαμόρφωσης πολιτικών αποφάσεων σε επίπεδο ΕΕ σχετικά, παρακολουθεί με ιδιαίτερη ανησυχία τις σχετικές εξελίξεις.

Στο πλαίσιο της ενεργούς συμμετοχής μας στην εκστρατεία Protect Not Surveil, μαζί με όλα τα μέλη αυτής, προχωρήσαμε στη δημοσίευση μίας κοινής δήλωσης, η οποία περιγράφει τα κύρια κενά στην προστασία των ευάλωτων κοινωνικών ομάδων στον τομέα της μετανάστευσης που εντοπίζονται στο κείμενο της AI Act.

Μπορείτε να διαβάσετε το κείμενο της κοινής μας δήλωσης εδώ.

 

 


Μιλάμε στο Inside.story για πνευματική ιδιοκτησία και τα μοντέλα παραγωγικής Τεχνητής Νοημοσύνης

Η Διευθύντρια για ζητήματα Δικαιωμάτων του Ανθρώπου & Τεχνητής Νοημοσύνης της Homo Digitalis, Λαμπρινή Γυφτοκώστα, μίλησε στο Inside.story και τη δημοσιογράφο Ειρήνη Σωτηροπούλου για την πνευματική ιδιοκτησία και τα μοντέλα παραγωγικής ΤΝ σε ένα εξαιρετικό άρθρο που έχει ετοιμάσει σχετικά με αφετηρία την υπόθεση των New York Times!!

Μπορείς να διαβάσεις το άρθρο εδώ.

Ευχαριστούμε θερμά τη δημοσιογράφο για τον ενδιαφέρον της στις δράσεις μας.

 

 


H Homo Digitalis στο δεύτερο ετήσιο Digital Policy Leadership Summit στις Βρυξέλλες!

Το τελευταίο διήμερο, η Homo Digitalis συμμετείχε στο δεύτερο ετήσιο Digital Policy Leadership Summit στις Βρυξέλλες

Κατά τη διάρκεια αυτών των δύο ημερών, δίπλα σε μια καταπληκτική ομάδα ταλαντούχων και λαμπρών ατόμων, βουτήξαμε βαθιά σε κρίσιμες συζητήσεις και μοιραστήκαμε τις γνώσεις και την εμπειρία μας, με στόχο την καλλιέργεια και ενίσχυση νέων μορφών ηγεσίας για την προώθηση της δίκαιης και χωρίς αποκλεισμούς ψηφιακής πολιτικής.

Συζητήσαμε επίσης θέματα χάραξης πολιτικής στρατηγικής, συμπεριλαμβανομένης της φυλετικής δικαιοσύνης στον τομέα της τεχνητής νοημοσύνης, και της αντιμετώπισης της παραπληροφόρησης στο πλαίσιο των εκλογών.

Η ομάδα μας εκπροσωπήθηκε από τον Ελευθέριο Χελιουδάκη. Είμαστε ευγνώμονες στους διοργανωτές για τη μεγάλη υποστήριξη που κατέστησε δυνατή τη συμμετοχή μας!

Διαβάστε περισσότερα για τη σύνοδο κορυφής και τους στόχους της εδώ.

 


H Homo Digitalis στη λίστα ειδικών στην Τεχνητή Νοημοσύνη του European AI & Society Fund

To European AI & Society Fund έχει δημοσιεύσει στην ιστοσελίδα του ένα Μητρώο Ειδικών σε ζητήματα που αφορούν τους τομείς των Δικαιωμάτων του Ανθρώπου και της Τεχνητής Νοημοσύνης, από τις οργανώσεις-υποτρόφους του.

Είναι μεγάλη μας τιμή και χαρά που η Homo Digitalis βρίσκεται σε αυτό το μητρώο με διπλή εκπροσώπηση από τη Διευθύντρια Δικαιωμάτων του Ανθρώπου & Τεχνητής Νοημοσύνης, Λαμπρινή Γυφτοκώστα και τον Γραμματέα του Δ.Σ. μας, Λευτέρη Χελιουδάκη

Μπορείτε να δείτε αναλυτικά τα μέλη του μητρώου και τη πληθώρα θεματικών στις οποίες αυτά εξειδικεύονται εδώ.

Ευχαριστούμε πολύ το European AI & Society Fund για τη δυνατότητα να προωθήσουμε την εξειδίκευση και τη γνώση που διαθέτει η Homo Digitalis διεθνώς!


Μιλάμε στο Balkan Insight και το News 24/7 για την Τεχνητή Νοημοσύνη και την χρήση της στον τομέα της προστασίας των συνόρων

Η Συνιδρυτής και Γραμματέας του Δ.Σ. της Homo Digitalis, Λευτέρης Χελιουδάκης, μίλησε στη δημοσιογράφο Ευτυχία Σουφλερή για την χρήση συστημάτων τεχνητής νοημοσύνης στον τομέα της μετανάστευσης και διαχείρισης συνόρων, υπογραμμίζοντας τις σημαντικές σχετικές νομικές δράσεις της Ηοmo Digitalis, ενώπιον της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα και των άλλων αρμόδιων φορέων.

Μπορείτε να διαβάσετε το άρθρο στην ιστοσελίδα του Balkan Insight στα αγγλικά εδώ ή την ιστοσελίδα του News 24/7 στα ελληνικά εδώ.

Ευχαριστούμε θερμά τη δημοσιογράφο για τον ενδιαφέρον της στις δράσεις μας.

 


Με μεγάλη επιτυχία ολοκληρώθηκε η τοποθέτησή μας στο AI Summit

Clicks από την παρουσία της Homo Digitalis στο AI Summit της CLEON Conferences & Communications, το οποίο πραγματοποιήθηκε υπό την αιγίδα της, χθες 21/2/2024.

O Στέφανος Βιτωράτος μίλησε για τις ρυθμίσεις του AI Act για τα GPAI models στο δρόμο προς την τελική ψήφισή του τον Απρίλιο.

 


Η Homo Digitalis παραχωρεί ομιλία και αιγίδα στο AI SUMMIT

H Homo Digitalis συμμετέχει, παρέχοντας παράλληλα την αιγίδα της στο AI SUMMIT που διοργανώνει η CLEON Conferences & Communications την Τετάρτη 21/2!

O Στέφανος Βιτωράτος θα μιλήσει για τη ρύθμιση της #genai και των #gpai models , ανάμεσα σε ομιλητές εγνωσμένου κύρους από διαφορετικούς χώρους του οικοσυστήματος της Τεχνητής Νοημοσύνης στην Ελλάδα.

Περισσότερες πληροφορίες για την agenda θα βρείτε εδώ.

Για να παρακολουθήσετε το Summit με φυσική παρουσία ή διαδικτυακά εγγραφείτε εδώ.

 


Με μεγάλη επιτυχία ολοκληρώθηκε η συμμετοχή μας στο δεύτερο Slam του SNFCC Youth Council για την Τεχνητή Νοημοσύνη

Στις 4 Φλεβάρη είχαμε τη μεγάλη χαρά να δώσουμε το παρόν στο δεύτερο Slam του SNFCC Youth Council (Stavros Niarchos Foundation Cultural Center (SNFCC)) με θέμα την Τεχνητή Νοημοσύνη!

Εκεί, η Διευθύντρια της Homo Digitalis σε ζητήματα Δικαιωμάτων του Ανθρώπου και Τεχνητής Νοημοσύνης, Λαμπρινή Γυφτοκώστα, μίλησε για την Παραγωγική Τεχνητή Νοημοσύνη, νομικά ζητήματα που αφορούν τον τομέα της πνευματικής ιδιοκτησίας, καθώς και ηθικές προκλήσεις που ανακύπτουν!

Ευχαριστούμε θερμά την ομάδα του SNFCC Youth Council για την εξαιρετική διοργάνωση της εκδήλωσης και τη διαχείριση της συζήτησης Stylianos Fragkioudakis Elina Syrri Ifigenia Kortesi !!

 


Φίλτρα Προσώπου στα Μέσα Κοινωνικής Δικτύωσης

Γράφει η Αυγή Σαουλίδου*

Στο πλαίσιο της ψηφιακής επανάστασης που χαρακτηρίζει την εποχή μας, τα μέσα κοινωνικής δικτύωσης έχουν αναδειχθεί σε ένα ισχυρό μέσο που διαμορφώνει τον τρόπο με τον οποίο συνδεόμαστε, μοιραζόμαστε εμπειρίες και εκφραζόμαστε στην καθημερινότητά μας. Εντός αυτού του δυναμικού και συνεχώς εξελισσόμενου τοπίου, όπου η εικόνα πρωταγωνιστεί, έχουν γίνει εξαιρετικά δημοφιλή και χρησιμοποιούντα  μαζικά από τους χρήστες των social media τα φίλτρα προσώπου (AR Filters). Ενώ αυτά τα φίλτρα συχνά προσδίδουν μία ανάλαφρη και διασκεδαστική διάθεση στις ψηφιακές μας αλληλεπιδράσεις, οι συνέπειες της χρήσης τους δημιουργούν ένα πολύπλευρο ζήτημα που χρήζει προσεκτικής εξέτασης.

Η χρήση των φίλτρων προσώπου (AR Filters) στα μέσα κοινωνικής δικτύωσης

Η ταχύτητα με την οποία εναλλάσσονται οι πληροφορίες σήμερα, έχει αναδείξει σε βασικό στοιχείο επικοινωνίας την εικόνα. Μια εικόνα είναι ικανή να εκφράσει συναισθηματικές καταστάσεις, να αναδείξει μηνύματα και να προκαλέσει συναισθήματα πολύ πιο άμεσα και έντονα από ένα κείμενο. Ενώ οι λέξεις λοιπόν μπορούν να μεταδώσουν συγκεκριμένες πληροφορίες, η εικόνα υπερέχει στην απεικόνιση σύνθετων εννοιών προσφέροντας μια ολοκληρωμένη εμπειρία. Όπως συνηθίζουμε να λέμε «μία εικόνα, χίλιες λέξεις». Επιπλέον, η ανάγκη για αποδοχή στα social media, η οποία αποτυπώνεται μέσω των likes στις αναρτήσεις των χρηστών, δημιούργησε την ανάγκη για ψηφιακή επεξεργασία των εικόνων/φωτογραφιών με σκοπό τη βελτίωσή τους. Έτσι οδηγηθήκαμε στην εκτεταμένη χρήση των εργαλείων ψηφιακής επεξεργασίας εικόνας και αργότερα η τάση αυτή επεκτάθηκε στην ευρεία χρήση φίλτρων επαυξημένης πραγματικότητας (AR Filters) που εφαρμόζουν στο πρόσωπο των χρηστών στα μέσα κοινωνικής δικτύωσης (Facebook, Instagram, TikTok κ.α.). Η μαζική χρήση των φίλτρων προσώπου όμως έχει πολλαπλές συνέπειες, αρχικά στην ιδιωτικότητα των χρηστών και αν προχωρήσουμε λίγο βαθύτερα, έχει κοινωνικές και ψυχολογικές επιπτώσεις τόσο στους ίδιους τους χρήστες των φίλτρων προσώπου, όσο και στους αποδέκτες των ψηφιακά αλλοιωμένων εικόνων.

Οι επιπτώσεις στην ιδιωτικότητα και στην ψυχική υγεία των χρηστών

Η χρήση των φίλτρων προσώπου συνιστά μία νέα πρόκληση για την προστασία της ιδιωτικότητας. Οι εφαρμογές φίλτρων προσώπου, αξιοποιώντας προηγμένη τεχνολογία αναγνώρισης προσώπου, ανιχνεύουν χαρακτηριστικά προσώπου και τα τροποποιούν. Σε πρώτο επίπεδο, η συλλογή δεδομένων προσώπου εγείρει βάσιμες ανησυχίες που αφορούν τον τρόπο διαχείρισης, δυνητικής εκμετάλλευσης ή ακόμη και κατάχρησης αυτών των δεδομένων, χωρίς την ενημέρωση και συγκατάθεση των χρηστών. Οι χρήστες, λόγω μη επαρκούς πληροφόρησης και παρασυρμένοι από την παιγνιώδη διάθεση που τους καταλαμβάνει όταν χρησιμοποιούν τέτοιου είδους εφαρμογές, είναι πιθανό να εκθέσουν ακούσια τα προσωπικά τους δεδομένα. Ακόμη, οι επιπτώσεις της ευρείας χρήσης τεχνολογίας αναγνώρισης προσώπου επεκτείνονται πέρα από το άτομο, συμβάλλοντας στην ανάπτυξη και αποδοχή μίας κουλτούρας παρακολούθησης.

Σε δεύτερο επίπεδο, ενώ τα φίλτρα προσώπου στοχεύουν είτε να βελτιώσουν αισθητικά τις εικόνες είτε να διασκεδάσουν τους χρήστες, συμβάλλουν επίσης στην ανάπτυξη ενός ψηφιακού τοπίου, όπου διαστρεβλώνονται ολοένα και περισσότερο οι αντιλήψεις για την ταυτότητα και την ομορφιά. Η συνεχής έκθεση των χρηστών των μέσων κοινωνικής δικτύωσης σε εξιδανικευμένες, ψηφιακά αλλοιωμένες εικόνες έχει παρατηρηθεί ότι επηρεάζει σημαντικά την αυτοεκτίμηση και δημιουργεί στρεβλή αντίληψη για την εικόνα των ατόμων. Ιδίως οι χρήστες νεότερων ηλικιών συνιστούν πιο ευάλωτες και επιρρεπείς ομάδες. Μάλιστα έρευνες των τελευταίων ετών έχουν συσχετίσει την εκτεταμένη χρήση φίλτρων προσώπου με την αύξηση των αισθητικών επεμβάσεων στις νεαρές ηλικίες. Ενδεικτικός του φαινομένου είναι ο όρος “Snapchat Dysmorphia”, ο οποίος περιγράφει την αίσθηση αποσύνδεσης που βιώνουν κάποιοι χρήστες μεταξύ της πραγματικής τους εμφάνισης και των εικόνων που μοιράζονται με τον κόσμο.  Οι σημαντικές αυτές κοινωνικές επιπτώσεις της καθιέρωσης μη ρεαλιστικών προτύπων ομορφιάς αναδεικνύουν την ευθύνη των μέσων κοινωνικής δικτύωσης αναφορικά με την χρήση νέων τεχνολογιών.

Νομοθετικές Ρυθμίσεις και Εταιρική Κοινωνική Ευθύνη

Σε απάντηση στις προκλήσεις που θέτουν τα φίλτρα προσώπου, κυβερνήσεις και φορείς ενεργούν για την καθιέρωση νομοθεσίας που αφορά στην τους στο διαδίκτυο, στην χρήση τεχνολογίας αναγνώρισης προσώπου και στην προστασία των προσωπικών δεδομένων. Αυτή η νομοθεσία αντικατοπτρίζει την αναγνώριση της ανάγκης ισορροπίας μεταξύ της καινοτομίας και της προστασίας των ψηφιακών δικαιωμάτων.

Ενδεικτικά, σύμφωνα με τον Γενικό Κανονισμό για την Προστασία Δεδομένων (GDPR), τα βιομετρικά δεδομένα, τα οποία συλλέγονται κατά τη χρήση τεχνολογίας αναγνώρισης προσώπου, συνιστούν ευαίσθητα δεδομένα, η επεξεργασία των οποίων επιτρέπεται μόνο κατ’ εξαίρεση. Επιπλέον, σχετικά με την χρήση τεχνολογίας αναγνώρισης προσώπου, η  Συμβουλευτική Επιτροπή της Σύμβασης για την προστασία των φυσικών προσώπων έναντι της αυτόματης επεξεργασίας δεδομένων προσωπικού χαρακτήρα έχει εκδώσει σχετικές κατευθυντήριες γραμμές το 2021 (Guidelines on facial recognition, 2021). Σχετικά με τον αντίκτυπο στην ψυχική υγεία των χρηστών, κάποιες ευρωπαϊκές χώρες όπως η Νορβηγία και η Γαλλία έχουν θεσπίσει ήδη νομοθεσία, σύμφωνα με την οποία  οι influencers, εφόσον χρησιμοποιούν φίλτρα προσώπου, είναι υποχρεωμένοι/ες να κάνουν σχετική αναφορά στις αναρτήσεις τους προκειμένου να μην παραπλανούν τους αποδέκτες του περιεχομένου τους.

Ωστόσο, τα μέσα κοινωνικής ως κύριοι πάροχοι αυτών των τεχνολογιών έχουν σημαντική ευθύνη και οφείλουν να αναλάβουν ενεργό ρόλο για τη διασφάλιση της ενημέρωσης των χρηστών και της υπεύθυνης χρήσης των φίλτρων προσώπου, υιοθετώντας διαφανείς πολιτικές, ισχυρούς μηχανισμούς συναίνεσης και διασφαλίσεις κατά της κατάχρησης. Στόχος θα πρέπει να είναι η επαρκής ενημέρωση των χρηστών και η προώθηση ενός ψηφιακού περιβάλλοντος που δίνει προτεραιότητα στην ευημερία των χρηστών.

Συμπέρασμα

Παρά το γεγονός ότι τα φίλτρα προσώπου των μέσων κοινωνικής δικτύωσης έχουν αδιαμφισβήτητα φέρει επανάσταση στην ψηφιακή αυτοέκφραση, ο αντίκτυπός τους στα ψηφιακά δικαιώματα δεν μπορεί να υποτιμηθεί. Η προστασία της ιδιωτικής ζωής, η συναίνεση, η παραπλάνηση, η ανάπτυξη μη ρεαλιστικών προτύπων ομορφιάς και η επίδραση αυτών στην ψυχολογία των χρηστών συνιστούν περίπλοκα ζητήματα με πολλές προεκτάσεις, τα οποία απαιτούν ανάλυση και αντιμετώπιση.

Η εύρεση ισορροπίας μεταξύ της προώθησης της καινοτομίας και της εφαρμογής αποτελεσματικών κανονιστικών μέτρων είναι κρίσιμη κατά την περιήγησή μας στον δυναμικό χώρο των μέσων κοινωνικής δικτύωσης. Καθώς εξερευνούμε τις δυνατότητες της επαυξημένης πραγματικότητας και της ψηφιακής αυτοέκφρασης, είναι επιτακτικό να δοθεί προτεραιότητα στην προστασία των ατομικών δικαιωμάτων αλλά και στην διαφύλαξη της ψυχικής υγείας των χρηστών. Έτσι θα διασφαλιστεί ότι ο ψηφιακός χώρος παραμένει ένας τόπος όπου οι χρήστες μπορούν ελεύθερα να εκφράζονται χωρίς να θέτουν σε κίνδυνο την ιδιωτικότητά, την αυτονομία και την ευημερία τους.

*Η Αυγή Σαουλίδου είναι Νομικός και Υπεύθυνη Προστασίας Δεδομένων στο Ελληνικό Ίδρυμα Έρευνας και Καινοτομίας.