Homo Digitalis

Όταν η εικόνα ψεύδεται: Η πρόκληση των deepfakes

Γράφει η Βασιλική Γκάνη*

Ζούμε σε μία εποχή που χαρακτηρίζεται από τον εκσυγχρονισμό και την μετάβαση στον ψηφιακό μετασχηματισμό, με την τεχνολογία να διακατέχει έναν πρωταγωνιστικό ρόλο στην καθημερινότητα μας. Παρά τα σημαντικά οφέλη αυτής, δεν μπορούν να παραβλεφθούν οι πολυάριθμες και εξίσου σπουδαίες προκλήσεις που προκύπτουν από την χρήση της, ιδίως όσον αφορά την ασφάλεια και την προστασία προσωπικών δεδομένων. Μία λοιπόν από τις σπουδαιότερες προκλήσεις της ψηφιακής εποχής συνιστά η εμφάνιση νέων μορφών κακοποίησης, μεταξύ των οποίων συγκαταλέγεται και το φαινόμενο της «εκδικητικής πορνογραφίας», το οποίο συχνά συνδυάζεται με την χρήση προηγμένων μεθόδων τεχνολογίας για τη διάδοση και απόκρυψη του προσβλητικού υλικού.

Μία σύντομη ιστορική αναδρομή

Κάνοντας μια σύντομη αναδρομή στην δεκαετία του ‘90, με την άνοδο του διαδικτύου και την σημαντική εισβολή του στην καθημερινότητα μας, δόθηκε στους χρήστες του μία μεγάλη και πρωτόγνωρη ελευθερία έκφρασης και διαμοιρασμού δεδομένων, συνοδευόμενη παράλληλα από νέες μορφές διαδικτυακής (online) κακοποίησης, με το φαινόμενο της εκδικητικής πορνογραφίας να αποτελεί ένα από τα σημαντικότερα παραδείγματα αυτών. Σημαντικό σημείο καμπής στην ιστορία της εκδικητικής πορνογραφίας υπήρξε η υπόθεση του Hunter Moore και της πλατφόρμας «IsAnyoneUp.com». Η συγκεκριμένη ιστοσελίδα, ιδρυόμενη από τον Hunter Moore το 2010, προκάλεσε έντονη κοινωνική κατακραυγή και οδήγησε σε νομικές αντιπαραθέσεις, καθώς αποτέλεσε την πρώτη αναγνωρισμένη πλατφόρμα εκδικητικής πορνογραφίας σε διεθνές επίπεδο. Η πλατφόρμα IsAnyoneUp.com φιλοξενούσε φωτογραφίες γυναικών και ανδρών δίχως τη συγκατάθεση τους, συχνά συνοδευόμενες από τα προφίλ τους στα μέσα κοινωνικής δικτύωσης και από προσβλητικά σχόλια. Παρά τις συνεχείς εκκλήσεις για διαγραφή περιεχομένου, ο Moore αρνούνταν κατηγορηματικά να προβεί σε αυτήν την ενέργεια, προωθώντας μάλιστα τις διαμαρτυρίες των θυμάτων για δική του προβολή. Η σύλληψη του Moore έλαβε τελικά χώρα το 2014, με την υπόθεση να στιγματίζει την κοινωνία και να ανοίγει την δίοδο για την ανέλειξη των σοβαρών ελλείψεων νομικής προστασίας για τα θύματα, επιβεβαιώνοντας την ανάγκη να ενισχυθεί το υπάρχον ρυθμιστικό πλαίσιο, αλλά και να αλλάξει η κοινωνία την στάση της απέναντι στη διαδικτυακή παρενόχληση.

Ξαναδιαβάζοντας τον όρο «Εκδικητική πορνογραφία»

Με τον όρο «εκδικητική πορνογραφία» αναφερόμαστε στην δημοσίευση ή απειλή δημοσίευσης ευαίσθητου οπτικοακουστικού υλικού, δίχως τη συναίνεση των απεικονιζόμενων ατόμων, με σκοπό τη βλάβη, την εκδίκηση ή τον εκφοβισμό. Το διαδίκτυο συμβάλλει στην γρήγορη διακίνηση αυτού του υλικού, το οποίο μπορεί να δημιουργείται κατά τη διάρκεια προσωπικών σχέσεων ή και όχι, προκαλώντας σοβαρές συνέπειες για τα θύματα. Σύμφωνα με το Ευρωπαικό Ινστιτούτο για την Ισότητα των Φύλων, ως «εκδικητική πορνογραφία» ορίζεται η ανάρτηση ή διανομή φωτογραφιών και βίντεο σεξουαλικού περιεχομένου χωρίς τη συναίνεση του απεικονιζόμενου ατόμου. Παρά την ευρεία χρήση του όρου «εκδικητική πορνογραφία» τόσο από την κοινωνία, όσο και από τη νομοθεσία – συμπεριλαμβανομένου του Έλληνα νομοθέτη-, έχει δεχθεί έντονη κριτική, καθώς δεν αντανακλά πλήρως τη φύση και την ουσία του προβλήματος.

Κατ’ αρχάς, ο όρος της «εκδικητικής πορνογραφίας» επικεντρώνεται κυρίως στα κίνητρα του δράστη αυτά καθ’ αυτά, τα οποία συνδέονται με την «εκδίκηση», και όχι στην ουσία της εγκληματικής συμπεριφοράς, δηλαδή την έλλειψη συναίνεσης του θύματος, περιορίζοντας έτσι το φαινόμενο στις περιπτώσεις όπου υφίσταται μία προσωπική σχέση μεταξύ δράστη και θύματος. Έτσι, παραβλέπονται άλλες εξίσου σοβαρές περιπτώσεις, όπου το υλικό διανέμεται με σκοπό τον εκβιασμό, το οικονομικό όφελος ή ακόμα και την απλή διαπόμπευση του θύματος.

Επιπλέον, η χρήση της λέξης «εκδικητική» στον όρο αυτόν ενέχει τον κίνδυνο να εννοηθεί ότι έχει προηγηθεί εκ μέρους του θύματος κάποια πράξη που προκάλεσε και συνάμα «δικαιολογεί» την αντίδραση και εχθρική συμπεριφορά του δράστη. Αυτή η γλωσσική επιλογή μετατοπίζει την εστίαση από την εγκληματική συμπεριφορά του δράστη στο ίδιο το θύμα, δημιουργώντας ένα πλαίσιο έμμεσης ενοχοποίησης του.

Περαιτέρω, η λέξη «πορνογραφία» στην συγκεκριμένη περίπτωση συνδέει μια κακοποιητική πράξη (πράξη βίας) με τη συναινετική σεξουαλική έκφραση ή εργασία στον χώρο της πορνογραφίας, αναπαράγοντας στερεότυπα εις βάρος των ατόμων που εργάζονται στον χώρο της σεξεργασίας και συσκοτίζοντας τη σαφή διάκριση ανάμεσα στο «συναινετικό» και το «κακοποιητικό» περιεχόμενο.

Οι ανωτέρω λόγοι έχουν οδηγήσει στο να προτείνεται ευρέως η χρήση του όρου «μη συναινετική πορνογραφία», ως ακριβέστερη και ουσιαστικότερη περιγραφή του φαινομένου, εστιάζοντας στην απουσία συναίνεσης τόσο κατά τη λήψη όσο και κατά τη διανομή του υλικού. Επιπλέον, ο όρος αυτός συνάδει και με την ορολογία της ΕΕ, καθώς στην Oδηγία 2024/1385 για την καταπολέμηση της βίας κατά των γυναικών και συγκεκριμένα στο άρθρο 5, γίνεται ρητή αναφορά σε "Μη συναινετική κοινοχρησία υλικού προσωπικής φύσης".

Σήμερα η εκδικητική πορνογραφία ξεπερνάει την απλή διανομή περιεχομένου χωρίς την συναίνεση του απεικονιζόμενου θύματος και συχνά μπορεί να περιλαμβάνει μέχρι και την δημιουργία τροποποιημένων ή ψεύτικων εικόνων και βίντεο μέσω της χρήσης τεχνολογιών, όπως η Τεχνητή Νοημοσύνη και η τεχνολογία των Deepfakes. Με τις  νέες αυτές μεθόδους οι δράστες έχουν την δυνατότητα να ενσωματώνουν πρόσωπα σε εικόνες πορνογραφικού υλικού, προσβάλλοντας έτσι και μάλιστα σε μεγαλύτερο βαθμό, όχι μόνο την ιδιωτικότητα, αλλά και την αξιοπρέπεια των θυμάτων.

Τι είναι όμως κατα ακριβολογία το φαινόμενο των «Deepfakes»;

Τα «deepfakes» μπορούν εν συντομία να χαρακτηριστούν ως μια σημαντική απειλή που μετατρέπει τους ανθρώπους σε θύματα εκφοβιστικών, εκβιαστικών και απειλητικών μηνυμάτων. Ο όρος προέρχεται από τα συνθετικά των λέξεων «deep = βαθιά», ο οποίος παραπέμπει στην τεχνολογία της «βαθιάς μάθησης», και της λέξης «fake» που σημαίνει ψεύτικο. Με τον όρο λοιπόν αυτόν αναφερόμαστε σε μία ψεύτικη – παραποιημένη εικόνα ή βίντεο, η οποία εικόνα ή το βίντεο δεν ανταποκρίνονται σε καμία πραγματικότητα.

Προσπαθείστε να φανταστείτε ότι ενώ σκρολάρετε στα social media αντικρίζετε ξαφνικά ένα βίντεο σεξουαλικού περιεχομένου, το οποίο απεικονίζει εσάς, σε μια ιδιωτική στιγμή. Για την ακρίβεια, απεικονίζεται το πρόσωπο σας, αλλά όχι το σώμα σας. Εσείς ως άτομο, ή το περιβάλλον, μπορεί να είναι υπαρκτά, αλλά δεν ειναι αληθινά. Εκείνη την στιγμή αντιλαμβάνεστε ότι έχετε πέσει θύμα μιας νέας μορφής εκδικητικής πορνογραφίας, βασιζόμενη στην τεχνολογία των Deepfake. Η τεχνολογία deepfake λοιπόν, συνιστά μία προηγμένη μορφή Τεχνητής Νοημοσύνης, η οποία χρησιμοποιεί αλγόριθμους βαθιάς μάθησης ώστε να αναλύει εικόνες και βίντεο και να προσθέτει, δια μέσου επεξεργασίας, πρόσωπα άλλων σε ξένα σώματα. Εργαλεία όπως το DeepNude, έχουν δημιουργηθεί για την αφαίρεση της ενδυμασίας από εικόνες, με το ποσοστο των θυμάτων deepfake να  αποτελείται κατά 99% από γυναίκες.

Δεδομένου ότι η πορνογραφία των Deepfake είναι αποτέλεσμα αλγορίθμων, τα θύματα αυτής είναι κατά βάση δημόσια πρόσωπα, όπως ηθοποιοί και μουσικοί, καθώς η ευρεία διαθεσιμότητα εικόνων τους διευκολύνει την παραγωγή πλαστών υλικών. Παράλληλα, τα θύματα που γίνονται στόχοι αυτής της τεχνολογίας αντιμετωπίζουν σοβαρές συνέπειες, λόγω της δυσκολίας που αντιμετωπίζουν να αποδείξουν την πλαστότητα του υλικού, παραμένοντας έτσι εκτεθειμένα στη διαπόμπευση και την κοινωνική απομόνωση και αναδεικνύοντας τις καταστροφικές συνέπειες αυτής της μορφής διαδικτυακής κακοποίησης.

Τα κίνητρα πίσω από τη δημιουργία τέτοιων βίντεο μπορεί να ποικίλλουν. Συχνά τα άτομα και φερόμενοι ως δράστες οδηγούνται στην τέλεση τέτοιων πράξεων εκμεταλλευόμενοι την ευαλώτητα που διακρίνει τα εκάστοτε θύματα. Δεν αποκλείεται τα κίνητρα να είναι καθαρά οικονομικά: ζητώντας χρηματικό αντάλλαγμα απειλούν τα θύματα με την δημοσίευση του υλικού, ενώ μπορεί και να προχωρήσουν στην πώληση του με το ανάλογο αντίτιμο. Ανεξαρτήτως κινήτρου, τα θύματα εκτίθενται σε εξαιρετικά σοβαρές συνέπειες, όπως η ψυχολογική πίεση, ο κοινωνικό στιγματισμός, ή ακόμα και επερχόμενη επαγγελματική ζημία.

Η στάση των πλατφορμών κοινωνικής δικτύωσης: Μέτρα και αδυναμίες

Σε μια προσπάθεια διασφάλισης της προστασίας των ατόμων, οι πλατφόρμες κοινωνικής δικτύωσης και οι ιστότοποι ενηλίκων έχουν αρχίσει να θέτουν σε εφαρμογή ποικίλα μέτρα πρόληψης και αντιμετώπισης των σχετικών απειλών, δημιουργώντας κάποια εργαλεία προστασίας των χρηστών. Ενδεικτικά μπορούμε να αναφέρουμε ως παράδειγμα πλατφόρμες όπως το Facebook (Meta), το OnlyFans, και το Pornhub, οι οποίες διαθέτουν ως εργαλείο το λεγόμενο Take It Down, το οποίο δίνει την δυνατότητα στους χρήστες να προβούν στην αναφορά πλαστού πορνογραφικού περιεχομένου ανηλίκων. Μέσω αυτής της πρωτοβουλίας, το υλικό μπορεί τελικά να αφαιρεθεί από τις εκάστοτε πλατφόρμες. Παράλληλα, έχει δημιουργηθεί για τους ενήλικες το stopNCII.org, το οποίο εξυπηρετεί τον ίδιο σκοπό: την αποτροπή της μη συναινετικής διακίνησης προσωπικού περιεχομένου.

Που καταλήγουμε σήμερα;

Εάν και τα εργαλεία αυτά προσφέρουν μια πολύτιμη άμυνα, η τεχνολογία των deepfakes συνεχίζει να αποτελεί έναν ισχυρό μηχανισμό απειλής. Η ύπαρξη αυτής της νεάς τεχνολογίας χρήζει συνεχούς επαγρύπνησης και λήψης προληπτικών μέτρων, καθώς όλοι μπορούν δυνητικά να βρεθούν αντιμέτωποι με το φαινόμενο αυτό. Στην Ελλάδα, παρά το γεγονός ότι ο Ποινικός Κώδικας δύναται να καλύψει με το άρθρο 346 για την εκδικητική πορνογραφία κάποιες περιπτώσεις χρήσης deepfakes, εξακολουθούν να υφίστανται σημαντικά νομοθετικά κενά. Η ραγδαία εξάπλωση της τεχνολογίας και οι νέες μορφές παραβίασης προσωπικών δεδομένων καθιστούν εμφανή την ανάγκη για πιο ολοκληρωμένα νομικά πλαίσια, σε συνδυασμό με ευαισθητοποίηση του κοινού, ενώ παράλληλα αναδεικνύει την αναγκαιότητα συνδυασμένης δράσης των εκάστοτε εθνικών νομοθετών και κυβερνήσεων, αλλά και της κοινωνίας εν συνόλω. Οι καταγεγραμμένες περιπτώσεις συνιστούν μία υπενθύμιση του αντικτύπου της τεχνολογικής προόδου στη ζωή μας και της ανάγκης για ισχυρούς μηχανισμούς λογοδοσίας και υποστήριξης. Αυτό που απαιτείται μεταξύ άλλων, είναι η αποτελεσματική συνεργασία της κοινωνίας, των νομοθετών και των πλατφορμών ώστε να δημιουργήσουν εν τοις πράγμασι ένα ασφαλέστερο ψηφιακό περιβάλλον.

*Ο Βασιλική Γκάνη είναι δικηγόρος στην Αθήνα, ενώ παράλληλα παρακολουθεί το μεταπτυχιακό πρόγραμμα σπουδών (MSc) με τίτλο «Δίκαιο και Τεχνολογίες Πληροφορικής και Επικοινωνιών» του Πανεπιστημίου Πειραιώς, το οποίο μεταξύ άλλων εμβαθύνει στο Δίκαιο Προσωπικών Δεδομένων, την Τεχνητή Νοημοσύνη και το Κυβερνοέγκλημα, αναλαμβάνοντας την εκπόνηση διπλωματικής εργασία με θέμα «Συναισθηματική εξάρτηση και εθισμός στη χρήση μεγάλων μοντέλων ΤΝ: κίνδυνοι και νομική/ηθική αποτίμηση».

by Homo Digitalis