Homo Digitalis

Γράφει η Δανάη Σκεύη*

Καθημερινά ερχόμαστε, εκούσια ή ακουσία, σε επαφή με συστήματα τεχνητής νοημοσύνης (ΤΝ) για ποικίλους σκοπούς∙ από την καθαριότητα του σπιτιού με αυτόνομο ρομποτικό βοηθό, την εξυπηρέτηση πελατών με ψηφιακά bots, την αυτοματοποιημένη αξιολόγηση βιογραφικών, μέχρι τη λήψη ασφάλειας ζωής βάσει συστήματος κατάταξης ασφαλειοληπτών. Στις σταδιακά αυξανόμενες περιπτώσεις πρόκλησης σωματικής βλάβης, βλάβης της υγείας, οικονομικής ζημίας, δυσμενούς μεταχείρισης ή άλλης προσβολής της προσωπικότητας, το ερώτημα που προβάλλει επιτακτικό έχει να κάνει με την επαρκή (ή μη) προστασία των πολιτών κατά την επαφή τους με συστήματα ΤΝ.

Μπορούν να εμπιστεύονται οι πολίτες τα συστήματα ΤΝ; Το θέμα είναι πραγματικά εκτενές και δεν μπορεί να δοθεί μια μονοδιάστατη απάντηση. Ενόψει των κανόνων που αναμένονται να τεθούν σε ισχύ σε λίγο καιρό στην Ευρωπαϊκή Ένωση, στο άρθρο σκιαγραφείται μια πρώτη απάντηση μέσα από τις ρυθμίσεις της Πράξης για την Τεχνητή Νοημοσύνη (εν συντομία Πράξη ΤΝ), αφού πρώτα δοθούν μερικές διευκρινίσεις για τη νέα νομοθεσία.

(i) Τι είναι η Πράξη ΤΝ;

Η Πράξη ΤΝ είναι το νομοθετικό πλαίσιο που πρότεινε η Ευρωπαϊκή Επιτροπή για να αντιμετωπίσει «ολιστικά» τα συστήματα τεχνητής νοημοσύνης ώστε να θεωρούνται ασφαλή και αξιόπιστα. Η Πράξη ΤΝ αποτελεί το επιστέγασμα μιας μακριάς νομοθετικής προσπάθειας, κατά την οποία έλαβαν χώρα πολλές διαβουλεύσεις, πολιτικές πιέσεις και αλληλουποχωρήσεις προκειμένου να επιτευχθεί ο πολιτικός στόχος της δημιουργίας ενός οικοσυστήματος εμπιστοσύνης των πολιτών στην τεχνητή νοημοσύνη (ecosystem of trust) και ενός οικοσυστήματος επιχειρηματικής αριστείας στην τεχνητή νοημοσύνη (ecosystem of excellence). Στις 8 Δεκεμβρίου 2023, μετά από έναν τριήμερο μαραθώνιο διαβουλεύσεων, επιτεύχθηκε η πολιτική συμφωνία για το περιεχόμενο της Πράξης ΤΝ. Τα αρμόδια όργανα, δηλαδή το Συμβούλιο της Ε.Ε. και το Ευρωκοινοβούλιο, πέτυχαν συμφωνία πάνω σε εριζόμενα άρθρα και πλέον έχει ανοίξει ο δρόμος για τη νομοτεχνική επεξεργασία του νόμου και την τελική ψήφιση. Μόλις η Πράξη ψηφισθεί, θα χρειαστούν ακόμα δύο χρόνια για να αποτελέσει δεσμευτικό δίκαιο.

(ii) Σε ποιους απευθύνεται η Πράξη ΤΝ;

Η Πράξη ΤΝ επιβάλλει κανόνες για την ανάπτυξη, κυκλοφορία και χρήση συστημάτων ΤΝ στην Ευρωπαϊκή αγορά. Οι κανόνες απευθύνονται σε όλα τα πρόσωπα που συμμετέχουν στην αλυσίδα αξίας (AI value chain), δηλαδή στα πρόσωπα που είναι υπεύθυνα για την ανάπτυξη, εμπορία, εισαγωγή, διανομή και χρήση συστημάτων ΤΝ, αποκαλούμενα εν συνόλω «φορείς εκμετάλλευσης». Ακριβώς επειδή ο στόχος είναι η Πράξη να ρυθμίσει την ανάπτυξη και εποπτεία των συστημάτων, οι κανόνες επιβάλλονται στους φορείς εκμετάλλευσης επειδή αυτοί έχουν τον έλεγχο των συστημάτων καθόλη τη διάρκεια του κύκλου ζωής τους (AI lifecycle).

(iii) Ποια η προστασία των πολιτών βάσει της Πράξης ΤΝ;

Το ότι οι κανόνες της Πράξης ΤΝ στοχεύουν να ρυθμίσουν τις υποχρεώσεις των φορέων εκμετάλλευσης δεν σημαίνει ότι το νέο νομοθετικό πλαίσιο είναι μικρής σημασίας για πολίτες. Παραμένει εξαιρετικά σημαντικό να υπάρξει εξοικείωση με τις καινούργιες ρυθμίσεις. Τούτο διότι οι πολίτες είναι, εν τέλει,  οι τελικοί αποδέκτες που θα κάνουν χρήση όλων αυτών των καινούργιων εφαρμογών. Αν κάποιος φορέας εκμετάλλευσης δεν συμμορφώνεται πλήρως με τις υποχρεώσεις ασφάλειας ή δεν εποπτεύει επαρκώς το σύστημα που αναπτύσσει, οι τελικά ζημιωθέντες – ηθικά και υλικά –  θα είναι όσοι πολίτες έλθουν σε επαφή με το εν λόγω σύστημα. Κατά δεύτερον, με το να γνωρίζουν οι πολίτες τις υποχρεώσεις των φορέων εκμετάλλευσης θα είναι προετοιμασμένοι για τα χαρακτηριστικά που αναμένουν να δουν κατά την αγορά ή με άλλο τρόπο επαφή με συστήματα ΤΝ. Θα γνωρίζουν και άρα θα μπορούν να ασκήσουν αποτελεσματικά τα δικαιώματα τους, τα οποία θα βασίζουν είτε στην Πράξη ΤΝ (ανάλογα με το τελικό της περιεχόμενο), είτε σε συναφείς προστατευτικούς νόμους όπως τον Γενικό Κανονισμό Προστασίας Προσωπικών Δεδομένων (ΓΚΠΔ) και τους νόμους που παρέχουν αποζημίωση για την πρόκληση ζημίας (άρθρο 6 Ν. 2251/1994, ΑΚ 914 επ.).

Τούτων λεχθέντων, ποιες είναι οι σημαντικότερες ρυθμίσεις της Πράξης ΤΝ;

1. Απαγορεύσεις: Η Πράξη ΤΝ απαγορεύει εντελώς ορισμένες πρακτικές οι οποίες αντίκεινται στις κοινές Ευρωπαϊκές αξίες. Έτσι, απαγορεύονται συστήματα που απευθύνονται στο υποσυνείδητο των ανθρώπων και συστήματα που εκμεταλλεύονται τρωτά σημεία ευάλωτων ομάδων, όπως των παιδιών και των ηλικιωμένων. Ακόμη, απαγορεύονται  πρακτικές που προβαίνουν σε κοινωνική ταξινόμηση των πολιτών (socialscoring) και πρακτικές βιομετρικής ταυτοποίησης προσώπων (biometrical identification). Ωστόσο, οι τελευταίες απαγορεύσεις δεν θα είναι απόλυτες, αφού προβλέπονται εξαιρέσεις όπως, για παράδειγμα, η βιομετρική ταυτοποίηση σε δημόσιους χώρους για τη διακρίβωση βαρύτατων αδικημάτων (π.χ. τρομοκρατία).
2. Υποχρεώσεις για συστήματα υψηλού κινδύνου: Η Πράξη ΤΝ επιβάλλει ένα πλέγμα εκτενών υποχρεώσεων στους φορείς εκμετάλλευσης που αναπτύσσουν αρκετά επικίνδυνα συστήματα (high-riskAIsystems). Περιληπτικά, επιβάλλονται υποχρεώσεις διενέργειας εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα, διαχείρισης κινδύνου, διακυβέρνησης δεδομένων, τήρησης διαφάνειας, πληροφόρησης χρηστών, ανθρώπινης εποπτείας, τεχνικής ασφάλειας καθώς και άλλες υποχρεώσεις που εξειδικεύονται σε επιμέρους άρθρα της Πράξης.
3. Υποχρεώσεις για συστήματα γενικού σκοπού και για μοντέλα θεμελίωσης: Νομοθετικό «πονοκέφαλο» έχει προκαλέσει η εμπορική κυκλοφορία συστημάτων που χρησιμοποιούνται για πολλαπλούς σκοπούς και τα οποία μπορεί να ενσωματώνονται σε άλλα συστήματα υψηλού κινδύνου [general-purposeAI (GPAI) systems], με αποτέλεσμα να εμφανίζουν διαφοροποιημένους – και όχι μονοδιάστατους – κινδύνους. Παρόμοιο προβληματισμό έχουν προκαλέσει και τα λεγόμενα μοντέλα θεμελίωσης (foundationmodels), δηλαδή μεγάλα συστήματα ικανά να εκτελούν με επάρκεια ένα ευρύ φάσμα διακριτών εργασιών, όπως το γνωστό πλέον παράδειγμα του ChatGPT. Το τελικό κείμενο της Πράξης αναμένεται να περιέχει υποχρεώσεις διαφάνειας για αυτά τα συστήματα προτού διατεθούν στην αγορά, αλλά και πιο αυστηρούς κανόνες για τα μοντέλα θεμελίωσης με υψηλό αντίκτυπο (high impact) που μπορούν να διαδίδουν συστημικούς κινδύνους κατά μήκος της αλυσίδας αξίας [1].

(iv) Πώς αποτιμάται η Πράξη ΤΝ σε σχέση με την προστασία των πολιτών;

Η Πράξη ΤΝ αποτελεί σίγουρα μια θετική νομοθετική εξέλιξη για την κοινή Ευρωπαϊκή αγορά. Αν μάλιστα ανατρέξουμε στις πρωτοβουλίες που έχουν λάβει χώρα παγκοσμίως για τη ρύθμιση της τεχνητής νοημοσύνης θα διαπιστώσουμε ότι η Ε.Ε. είναι η πρώτη χώρα – ή κατ’ ακριβολογία δικαιοδοσία – που θα ψηφίσει δεσμευτικούς κανόνες για την τεχνητή νοημοσύνη καθορίζοντας την «τύχη» 440 εκατομμύρια πολιτών. Η Ε.Ε. έχει, αναμφίβολα, δείξει αποφασιστικότητα σε σύγκριση με άλλες ηγέτιδες χώρες στην τεχνητή νοημοσύνη, όπως οι ΗΠΑ και η Κίνα, με το να απαγορεύσει ρητά ορισμένες αμφιλεγόμενες πρακτικές και να επιβάλλει ένα διαφοροποιημένο πλέγμα κανόνων βάσει του κινδύνου που προκαλούν τα συστήματα ΤΝ. Φαίνεται να αξιοποιεί την ήπια δύναμη (soft power) που διαθέτει στον τομέα της ρύθμισης, λειτουργώντας ως ρυθμιστική κοιτίδα για τρίτες χώρες και αγορές.

Απεναντίας, όταν η συζήτηση στρέφεται στην προστασία των πολιτών, η Πράξη ΤΝ θα πρέπει να αξιολογηθεί υπό το φως της επαρκούς (ή μη) προστασίας των δικαιωμάτων των πολιτών. Σχετικά με αυτό το ζήτημα, οι ενώσεις καταναλωτών έχουν εκφραστεί με επιφυλάξεις. Η Ursula Pachl, αναπληρώτρια γενική διευθύντρια της Ευρωπαϊκής Οργάνωσης Καταναλωτών (BEUC), τον Δεκέμβριο 2023 δήλωσε: «Ο νόμος για την τεχνητή νοημοσύνη περιέχει τόσο καλά όσο και κακά σημεία, αλλά συνολικά τα μέτρα για την προστασία των καταναλωτών δεν είναι ικανοποιητικά […] Πάρα πολλά ζητήματα έχουν αφεθεί υπορυθμιζόμενα, με υπερβολική εξάρτηση από την καλή θέληση των εταιρειών για αυτορρύθμιση. Για παράδειγμα, οι εικονικοί βοηθοί ή τα παιχνίδια που λειτουργούν με τεχνητή νοημοσύνη δεν θα ρυθμιστούν επαρκώς, καθώς δεν θεωρούνται συστήματα υψηλού κινδύνου. Επίσης, συστήματα όπως το ChatGPT ή το Bard δεν θα αποκτήσουν τις προστατευτικές δικλείδες που απαιτούνται για να τα εμπιστευτούν οι καταναλωτές. Υπάρχουν, ωστόσο, ορισμένες σημαντικές διατάξεις που θα επιτρέψουν στους καταναλωτές να αναλάβουν δράση εάν έχουν υποστεί αθέμιτη μεταχείριση ή έχουν υποστεί ζημία» [2].

Συνοψίζοντας, αν και φαίνεται ότι η Πράξη ΤΝ αποτελεί θετική εξέλιξη για την προστασία των πολιτών θα ήταν μάλλον βιαστική η οριστική απάντηση στο ερώτημα του τίτλου. Η κρίση για την επάρκεια (ή μη) του ρυθμιστικού πλαισίου θα περάσει από τριπλή βάσανο. Πρώτον, αναμένουμε την τελική μορφή της Πράξης ΤΝ για την αξιολόγηση των αλλαγών που έχουν μεσολαβήσει από τη στιγμή της αρχικής πρότασης τον Απρίλιο 2021 μέχρι την τελική ψήφιση. Δεύτερον, ελλείψεις προστασίας ενδεχομένως να μπορεί επιλυθούν από τη λοιπή προστατευτική νομοθεσία, κυρίως το δίκαιο προστασίας καταναλωτή, προστασίας προσωπικών δεδομένων και αστικής ευθύνης, τα οποία θα κληθούν να καλύψουν – στο βαθμό του εφικτού – τυχόν ελλείψεις. Τρίτον, η προστασία των πολιτών θα εξαρτηθεί και από την έκταση και την αποτελεσματική εποπτεία της αγοράς συστημάτων ΤΝ από τις Αρχές. Στο μέτρο που ο ρόλος των εποπτικών Αρχών θα είναι περιορισμένος, θα πρέπει οι πολίτες να εξοπλιστούν με επαρκή δικαιώματα για να καλυφθεί το έλλειμμα προστασίας που θα δημιουργηθεί.

[1]Council of Europe, Press Release 986/23, Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world, 9/12/2023; European Parliament, Press Release, 20231206IPR15699, Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI, 9/12/2023.

[2]The European Consumer Organization (BEUC),  BEUC-PR-2023-057, EU rules on AI lack punch to sufficiently protect consumers, 9/12/2023

*Η Δανάη Σκεύη είναι Υποψήφια Διδάκτορας της Νομικής Σχολής του Εθνικού Καποδιστριακού Πανεπιστημίου Αθηνών.