H χάρτα δικαιωμάτων στην κοινωνία της Tεχνητής Νοημοσύνης

Σαφή ενημέρωση δικαιούται πλέον ο πολίτης όταν συνομιλεί με σύστημα τεχνητής νοημοσύνης, όταν βλέπει ή ακούει προϊόν βαθυπαραποίησης (deepfake) και όταν τεχνολογίες ΤΝ επιχειρούν, βάσει βιομετρικών χαρακτηριστικών, να αναγνωρίσουν τα συναισθήματά του ή να τον κατατάξουν σε συγκεκριμένη κατηγορία.

Αντίστοιχη υποχρέωση προβλέπεται για κείμενα που έχουν παραχθεί ή αλλοιωθεί με ΤΝ και δημοσιεύονται για την ενημέρωση του κοινού σε θέματα δημόσιου ενδιαφέροντος. Η γνωστοποίηση δεν απαιτείται μόνο όταν έχει προηγηθεί ουσιαστική ανθρώπινη επανεξέταση ή συντακτικός έλεγχος και φυσικό ή νομικό πρόσωπο φέρει τη συντακτική ευθύνη για τη δημοσίευσή τους. Οι κανόνες αυτοί συνθέτουν στην πράξη μια χάρτα δικαιωμάτων του πολίτη στην κοινωνία της τεχνητής νοημοσύνης και εφαρμόζονται σε όλα τα κράτη-μέλη της ΕΕ από χθες, 2 Αυγούστου.

Οι συγκεκριμένες υποχρεώσεις προβλέπονται στο άρθρο 50 του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη, γνωστού ως AI Act. Ως Κανονισμός, εφαρμόζεται απευθείας σε ολόκληρη την ΕΕ, χωρίς να χρειάζεται προηγουμένως να μεταφερθεί στο εθνικό δίκαιο.

Από τις 2 Αυγούστου η Ευρωπαϊκή Επιτροπή, μέσω του Γραφείου Τεχνητής Νοημοσύνης, αρχίζει επίσης να ελέγχει την τήρηση των υποχρεώσεων από τους παρόχους μοντέλων ΤΝ γενικού σκοπού, τα οποία αποτελούν τη βάση διαφορετικών εφαρμογών και υπηρεσιών. Οι πάροχοι οφείλουν, μεταξύ άλλων, να διαθέτουν τεχνική τεκμηρίωση, να παρέχουν πληροφορίες στις επιχειρήσεις που χρησιμοποιούν τα μοντέλα τους, να εφαρμόζουν πολιτική συμμόρφωσης με τη νομοθεσία περί πνευματικής ιδιοκτησίας και να δημοσιεύουν σύνοψη του περιεχομένου που αξιοποιήθηκε για την εκπαίδευσή τους. Πρόσθετες απαιτήσεις προβλέπονται για τα πιο προηγμένα μοντέλα που ενδέχεται να παρουσιάζουν συστημικούς κινδύνους.

Την ίδια ημερομηνία ξεκινά η επιβολή κυρώσεων για τις περισσότερες απαγορευμένες πρακτικές ΤΝ, οι οποίες ισχύουν ήδη από τις 2 Φεβρουαρίου 2025. Σε αυτές περιλαμβάνονται συστήματα που χρησιμοποιούν τεχνικές χειραγώγησης ή εξαπάτησης οι οποίες μπορεί να προκαλέσουν σημαντική βλάβη, εκμεταλλεύονται ευάλωτες ομάδες, προχωρούν σε κοινωνική βαθμολόγηση ή δημιουργούν βάσεις αναγνώρισης προσώπου από εικόνες που συλλέγονται αδιακρίτως από το διαδίκτυο ή κάμερες ασφαλείας. Απαγορεύεται επίσης, με περιορισμένες εξαιρέσεις, η αναγνώριση συναισθημάτων στον χώρο εργασίας και στα εκπαιδευτικά ιδρύματα.

Αργότερα θα εφαρμοστούν οι απαιτήσεις που αφορούν τα συστήματα υψηλού κινδύνου. Στην κατηγορία του Παραρτήματος III περιλαμβάνονται, ανάλογα με τη χρήση τους, εφαρμογές βιομετρικών δεδομένων, κρίσιμων υποδομών, εκπαίδευσης, εργασίας, βασικών δημόσιων και ιδιωτικών υπηρεσιών, επιβολής του νόμου, μετανάστευσης και απονομής της Δικαιοσύνης. Οι σχετικοί κανόνες θα τεθούν σε ισχύ στις 2 Δεκεμβρίου 2027. Για τα συστήματα υψηλού κινδύνου που ενσωματώνονται σε προϊόντα τα οποία διέπονται από ειδική ευρωπαϊκή νομοθεσία, η ημερομηνία μετατέθηκε στις 2 Αυγούστου 2028.

Ποιος οφείλει να ενημερώνει

Ο AI Act διακρίνει ανάμεσα στον πάροχο, ο οποίος αναπτύσσει ένα σύστημα ΤΝ ή αναθέτει την ανάπτυξή του και το διαθέτει με το όνομα ή το εμπορικό του σήμα, και στον φορέα εφαρμογής, δηλαδή την επιχείρηση, τον επαγγελματία, τον οργανισμό ή τη δημόσια αρχή που το χρησιμοποιεί υπό τη δική του ευθύνη.

Στους παρόχους ανατίθεται κυρίως η τεχνική επισήμανση του περιεχομένου που παράγεται. Οι φορείς εφαρμογής ενημερώνουν τους ανθρώπους που εκτίθενται στη λειτουργία της τεχνολογίας ή στο υλικό που δημοσιεύεται. Δεν θεωρείται φορέας εφαρμογής ο ιδιώτης που χρησιμοποιεί ΤΝ αποκλειστικά για προσωπικούς και μη επαγγελματικούς σκοπούς.

Οι πάροχοι συστημάτων που έχουν σχεδιαστεί για άμεση αλληλεπίδραση με φυσικά πρόσωπα οφείλουν να εξασφαλίζουν ότι ο χρήστης ενημερώνεται πως επικοινωνεί με τεχνητή νοημοσύνη και όχι με άνθρωπο. Στην κατηγορία αυτή μπορεί να εμπίπτουν διαλογικά ρομπότ (chatbots), ψηφιακοί βοηθοί, πράκτορες ΤΝ (AI agents) και ψηφιακά είδωλα (avatars).

Η σχετική ένδειξη πρέπει να εμφανίζεται το αργότερο κατά την έναρξη της πρώτης επικοινωνίας, με ευδιάκριτο και προσβάσιμο τρόπο. Εξαίρεση υπάρχει όταν είναι ήδη προφανές σε έναν εύλογα ενημερωμένο, προσεκτικό και συνετό άνθρωπο ότι συνομιλεί με εφαρμογή ΤΝ.

Δεν καλύπτεται κάθε αυτοματοποιημένος μηχανισμός. Απαιτείται πραγματική και άμεση αμφίδρομη επικοινωνία, επομένως ένα εργαλείο που συλλέγει απλώς στοιχεία ή στέλνει προκαθορισμένη απάντηση δεν εμπίπτει κατ’ ανάγκην στον ίδιο κανόνα.

Ο Κανονισμός δεν επιβάλλει συγκεκριμένη φράση ή λογότυπο. Μια ένδειξη όπως «Συνομιλείτε με σύστημα τεχνητής νοημοσύνης» μπορεί να καλύπτει την απαίτηση, αρκεί να εμφανίζεται εγκαίρως και να γίνεται εύκολα αντιληπτή.

Πότε ένα υλικό είναι deepfake

Γνωστοποίηση απαιτείται και όταν χρησιμοποιείται ΤΝ για τη δημιουργία ή την αλλοίωση εικόνας, ήχου ή βίντεο που αποτελεί προϊόν βαθυπαραποίησης.

Δεν χαρακτηρίζεται deepfake κάθε υλικό που έχει παραχθεί ή επεξεργαστεί με ΤΝ. Πρέπει να μοιάζει με υπαρκτό ή ευλόγως υπαρκτό πρόσωπο, αντικείμενο, τόπο, οντότητα ή γεγονός και να μπορεί να εκληφθεί ψευδώς ως αυθεντικό ή αληθινό.

Ενδεικτικά, μπορεί να πρόκειται για βίντεο στο οποίο εμφανίζεται δημόσιο πρόσωπο να κάνει δήλωση που δεν έκανε ποτέ. Αντίθετα, μια εμφανώς φανταστική εικόνα δεν αποτελεί αυτομάτως προϊόν βαθυπαραποίησης, καθώς δεν παρουσιάζεται κατ’ ανάγκην ως πραγματική καταγραφή.

Η επισήμανση πρέπει να είναι αντιληπτή κατά την πρώτη έκθεση του πολίτη στο περιεχόμενο, χωρίς να χρειάζονται εξειδικευμένα τεχνικά μέσα. Μπορεί να είναι οπτική ή ακουστική, ανάλογα με τη μορφή του υλικού.

Για καλλιτεχνικά, δημιουργικά, σατιρικά ή μυθοπλαστικά έργα η γνωστοποίηση εξακολουθεί να απαιτείται, επιτρέπεται όμως να γίνεται με τρόπο που δεν παρεμποδίζει την προβολή ή την απόλαυσή τους.

Συναισθήματα και βιομετρικά χαρακτηριστικά

Οι ίδιοι κανόνες διαφάνειας καλύπτουν τα συστήματα αναγνώρισης συναισθημάτων, τα οποία επιχειρούν να συναγάγουν συναισθήματα ή προθέσεις αναλύοντας βιομετρικά δεδομένα. Ένα εργαλείο τηλεφωνικού κέντρου θα μπορούσε, για παράδειγμα, να εκτιμά από τη φωνή αν ο καλών είναι θυμωμένος ή ικανοποιημένος.

Ορισμένες χρήσεις της συγκεκριμένης τεχνολογίας απαγορεύονται στον χώρο εργασίας και στα εκπαιδευτικά ιδρύματα, εκτός εάν εξυπηρετούν ιατρικούς λόγους ή λόγους ασφάλειας. Όπου η χρήση επιτρέπεται, όσοι εκτίθενται σε αυτή πρέπει να το γνωρίζουν.

Στη βιομετρική κατηγοριοποίηση, η εφαρμογή δεν επιχειρεί απαραίτητα να ταυτοποιήσει έναν άνθρωπο, αλλά να τον εντάξει σε κατηγορία βάσει των χαρακτηριστικών του. Μια τέτοια χρήση θα μπορούσε, για παράδειγμα, να εκτιμά την ηλικιακή ομάδα ενός προσώπου.

Απαγορεύονται, μεταξύ άλλων, συστήματα που χρησιμοποιούν βιομετρικά δεδομένα για να συναγάγουν τη φυλή, τις πολιτικές πεποιθήσεις, τη συμμετοχή σε συνδικαλιστική οργάνωση, τις θρησκευτικές ή φιλοσοφικές πεποιθήσεις, τη σεξουαλική ζωή ή τον σεξουαλικό προσανατολισμό. Στις επιτρεπόμενες χρήσεις ο πολίτης πρέπει να ενημερώνεται ότι εκτίθεται στη συγκεκριμένη τεχνολογία.

Όταν γίνεται επεξεργασία προσωπικών δεδομένων, εξακολουθούν να ισχύουν και οι απαιτήσεις του Γενικού Κανονισμού για την Προστασία Δεδομένων.

Τα κείμενα δημόσιου ενδιαφέροντος

Ειδικός κανόνας αφορά τα κείμενα που δημιουργούνται ή αλλοιώνονται με ΤΝ και δημοσιεύονται για την ενημέρωση του κοινού σε ζητήματα δημόσιου ενδιαφέροντος. Σε αυτά μπορεί να περιλαμβάνονται θέματα πολιτικής, οικονομίας, δημόσιας διοίκησης, Δικαιοσύνης, υγείας, ασφάλειας, περιβάλλοντος, επιστήμης και προστασίας των καταναλωτών.

Ο φορέας που χρησιμοποιεί ΤΝ για την παραγωγή ή την αλλοίωση του κειμένου και το δημοσιεύει οφείλει να αποκαλύπτει ότι έχει παραχθεί ή υποστεί χειρισμό τεχνητά.

Η ένδειξη δεν χρειάζεται όταν συντρέχουν σωρευτικά δύο προϋποθέσεις: έχει προηγηθεί ουσιαστική ανθρώπινη επανεξέταση ή συντακτικός έλεγχος και φυσικό ή νομικό πρόσωπο αναλαμβάνει τη συντακτική ευθύνη για τη δημοσίευση.

Η απλή ανάγνωση ή η διόρθωση ορθογραφικών και γραμματικών λαθών δεν επαρκεί. Ο έλεγχος πρέπει να αφορά την ουσία και την ακρίβεια των πληροφοριών, με πραγματική δυνατότητα τροποποίησης ή απόρριψης του υλικού.

Ένα δημοσιογραφικό κείμενο που έχει περάσει από αυτή τη διαδικασία και δημοσιεύεται υπό την ευθύνη μέσου ενημέρωσης δεν χρειάζεται, συνεπώς, να φέρει αυτομάτως ένδειξη ότι χρησιμοποιήθηκε ΤΝ κατά την προετοιμασία του.

Δύο διαφορετικές σημάνσεις

Η γνωστοποίηση προς τον πολίτη διαφέρει από τη μηχαναγνώσιμη σήμανση. Η πρώτη είναι ορατή ή ακουστική και γίνεται άμεσα αντιληπτή. Η δεύτερη ενσωματώνεται τεχνικά στο υλικό, ώστε πλατφόρμες και εργαλεία ανίχνευσης να αναγνωρίζουν ότι δημιουργήθηκε ή αλλοιώθηκε με ΤΝ.

Οι πάροχοι συστημάτων που παράγουν συνθετικό κείμενο, εικόνα, ήχο ή βίντεο πρέπει να εξασφαλίζουν ότι τα αποτελέσματά τους φέρουν τέτοια τεχνική επισήμανση. Οι λύσεις που χρησιμοποιούνται οφείλουν να είναι αποτελεσματικές, διαλειτουργικές, ανθεκτικές και αξιόπιστες, στον βαθμό που αυτό είναι τεχνικά εφικτό.

Η μηχαναγνώσιμη σήμανση δεν αρκεί στην περίπτωση των προϊόντων βαθυπαραποίησης, όπου απαιτείται επιπλέον γνωστοποίηση που να γίνεται αντιληπτή από τον άνθρωπο.

Εξαίρεση από την τεχνική επισήμανση προβλέπεται όταν η ΤΝ χρησιμοποιείται μόνο για τυπική ή βοηθητική επεξεργασία ή δεν μεταβάλλει ουσιωδώς τα δεδομένα εισόδου και το νόημά τους.

Για τα συστήματα που είχαν ήδη διατεθεί στην αγορά πριν από τις 2 Αυγούστου, οι πάροχοι έχουν προθεσμία έως τις 2 Δεκεμβρίου 2026 για να τα προσαρμόσουν στην υποχρέωση μηχαναγνώσιμης σήμανσης. Η μεταβατική περίοδος αφορά μόνο αυτή την τεχνική απαίτηση, ενώ οι υπόλοιπες υποχρεώσεις ενημέρωσης εφαρμόζονται από τις 2 Αυγούστου.

Διαφορετική είναι η περίπτωση του περιεχομένου που είχε ήδη παραχθεί και δημοσιοποιηθεί πριν από την ημερομηνία αυτή. Σύμφωνα με την Ευρωπαϊκή Επιτροπή, δεν απαιτείται να επισημανθεί αναδρομικά, αν και η προαιρετική γνωστοποίησή του ενθαρρύνεται.

Οι καταγγελίες στην Ελλάδα

Τον έλεγχο των κανόνων δεν αναλαμβάνει μία μόνο αρχή. Το ευρωπαϊκό Γραφείο Τεχνητής Νοημοσύνης εποπτεύει ορισμένα συστήματα που συνδέονται με μοντέλα ΤΝ γενικού σκοπού, καθώς και εφαρμογές που αποτελούν ή ενσωματώνονται σε πολύ μεγάλες επιγραμμικές πλατφόρμες ή μηχανές αναζήτησης, με τις εξαιρέσεις που προβλέπει ο Κανονισμός.

Ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων είναι αρμόδιος για τις εφαρμογές που χρησιμοποιούνται από τα θεσμικά όργανα και τους οργανισμούς της ΕΕ. Οι υπόλοιπες υποθέσεις ελέγχονται από τις εθνικές αρχές εποπτείας της αγοράς.

Στην Ελλάδα, για τις υποχρεώσεις διαφάνειας του άρθρου 50 στα συστήματα που υπάγονται στην εθνική εποπτεία, αρμόδια είναι η Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (ΑΠΔΠΧ), η οποία ορίζεται και ως ενιαίο σημείο επαφής για τον AI Act.

Στην ΑΠΔΠΧ συστήνεται ενιαία πλατφόρμα υποβολής καταγγελιών για παραβιάσεις του AI Act. Μέσω αυτής ο πολίτης θα μπορεί, μεταξύ άλλων, να καταγγέλλει ότι δεν ενημερώθηκε πως συνομιλούσε με σύστημα ΤΝ, ότι εκτέθηκε σε προϊόν βαθυπαραποίησης χωρίς σχετική γνωστοποίηση ή ότι χρησιμοποιήθηκε σύστημα αναγνώρισης συναισθημάτων ή βιομετρικής κατηγοριοποίησης χωρίς να το γνωρίζει.

Εάν η καταγγελία αφορά σύστημα ΤΝ υψηλού κινδύνου που συνδέεται με ρυθμιζόμενο προϊόν, η ΑΠΔΠΧ τη διαβιβάζει στην κατά περίπτωση αρμόδια αρχή εποπτείας της συγκεκριμένης αγοράς. Πρόκειται για τις αρχές που ήδη ελέγχουν κατηγορίες προϊόντων όπως ο ραδιοεξοπλισμός, τα ιατροτεχνολογικά προϊόντα και ο βιομηχανικός εξοπλισμός.

Η κλαδική αρχή που παραλαμβάνει την υπόθεση πρέπει μέσα σε 30 ημέρες να κρίνει εάν είναι αρμόδια και μέσα σε 60 ημέρες να την αξιολογήσει, να ενημερώσει την πλατφόρμα για την πορεία της και να θέσει χρονοδιάγραμμα για τις επόμενες ενέργειες. Αν δεν τηρήσει τη δεύτερη προθεσμία, η ΑΠΔΠΧ μπορεί, αφού της δώσει περιθώριο ακόμη δέκα ημερών, να αναλάβει η ίδια την εξέταση της καταγγελίας και την ενδεχόμενη επιβολή κυρώσεων.

Οι προθεσμίες των 30 και 60 ημερών δεν προβλέπονται για τις υποθέσεις που υπάγονται εξαρχής στην αρμοδιότητα της ΑΠΔΠΧ, όπως οι καταγγελίες για παράλειψη ενημέρωσης σχετικά με διαλογικά συστήματα ΤΝ, προϊόντα βαθυπαραποίησης, αναγνώριση συναισθημάτων ή βιομετρική κατηγοριοποίηση. Για τις υποθέσεις που ελέγχονται απευθείας από το ευρωπαϊκό Γραφείο ΤΝ λειτουργεί χωριστό ευρωπαϊκό εργαλείο καταγγελιών.

Ο νόμος 5321/2026 ορίζει επίσης την Εθνική Επιτροπή Τηλεπικοινωνιών και Ταχυδρομείων (ΕΕΤΤ) ως κοινοποιούσα αρχή για τον AI Act. Ο ρόλος της αφορά τις διαδικασίες αξιολόγησης και κοινοποίησης των οργανισμών που ελέγχουν τη συμμόρφωση ορισμένων συστημάτων υψηλού κινδύνου, σε συνεργασία με τις αντίστοιχες κλαδικές αρχές όπου εφαρμόζεται ειδική ενωσιακή νομοθεσία.

Στην ΕΕΤΤ συστήνονται ακόμη Κέντρο Συντονισμού και Τεχνογνωσίας για την ΤΝ και ρυθμιστικό δοκιμαστήριο για την ανάπτυξη και δοκιμή καινοτόμων εφαρμογών σε ελεγχόμενο περιβάλλον. Για τη λειτουργία του τελευταίου αρμόδιες είναι από κοινού η ΕΕΤΤ και η ΑΠΔΠΧ.

Ο ίδιος νόμος προβλέπει ενιαίο μητρώο των συστημάτων ΤΝ που χρησιμοποιούν οι φορείς του Δημοσίου και Παρατηρητήριο ΤΝ στο υπουργείο Ψηφιακής Διακυβέρνησης. Τα συστήματα που βρίσκονταν ήδη σε λειτουργία πρέπει να δηλωθούν έως τις 31 Δεκεμβρίου 2026.

Πρόστιμα έως 15 εκατ. ευρώ

Για παραβίαση των υποχρεώσεων διαφάνειας το διοικητικό πρόστιμο μπορεί να φθάσει τα 15 εκατ. ευρώ ή, όταν ο παραβάτης είναι επιχείρηση, το 3% του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών της προηγούμενης οικονομικής χρήσης.

Στην Ελλάδα, για τις παραβάσεις του άρθρου 50 που υπάγονται στην εθνική εποπτεία, τα πρόστιμα επιβάλλονται από την ΑΠΔΠΧ. Στις υποθέσεις που ελέγχονται απευθείας σε ευρωπαϊκό επίπεδο αρμόδια είναι η Ευρωπαϊκή Επιτροπή, μέσω του Γραφείου Τεχνητής Νοημοσύνης, ή, για τα συστήματα των θεσμικών οργάνων και των οργανισμών της ΕΕ, ο Ευρωπαίος Επόπτης Προστασίας Δεδομένων.

Για τις επιχειρήσεις εφαρμόζεται κατά κανόνα το υψηλότερο από τα δύο ανώτατα όρια. Στις μικρομεσαίες και τις νεοφυείς επιχειρήσεις, καθώς και στις μικρές επιχειρήσεις μεσαίας κεφαλαιοποίησης, λαμβάνεται το χαμηλότερο.

Το ύψος της κύρωσης εξαρτάται από τη σοβαρότητα και τη διάρκεια της παράβασης, τον αριθμό των προσώπων που επηρεάστηκαν, τη ζημία, το μέγεθος του παραβάτη, τη συνεργασία του με τις αρχές και το αν ενήργησε με πρόθεση ή από αμέλεια.

Οι εποπτικές αρχές μπορούν επίσης να απευθύνουν προειδοποιήσεις, να εκδίδουν εντολές συμμόρφωσης και να επιβάλλουν περιοδικές χρηματικές κυρώσεις σε όσους δεν εκτελούν τις αποφάσεις τους. Τα μέτρα μπορούν να αφορούν και φορείς του Δημοσίου.

Ο ελληνικός νόμος προβλέπει επιπλέον φυλάκιση και χρηματική ποινή για όποιον αφαιρεί τις μηχαναγνώσιμες επισημάνσεις, παρακωλύει τη λειτουργία των τεχνικών λύσεων σήμανσης ή αφαιρεί τη γνωστοποίηση ότι περιεχόμενο αποτελεί προϊόν βαθυπαραποίησης ή έχει παραχθεί ή αλλοιωθεί τεχνητά, εφόσον η πράξη δεν τιμωρείται βαρύτερα από άλλη διάταξη.