Η Τεχνητή Νοημοσύνη δεν αποτελεί πλέον μια τεχνολογία του μέλλοντος, αλλά ένα πεδίο άμεσης κρατικής ρύθμισης. Το μήνυμα αυτό επιχείρησε να στείλει η κυβέρνηση μέσα από το Υπουργικό Συμβούλιο της 26ης Μαΐου, όπου παρουσιάστηκε το νομοσχέδιο για την εφαρμογή στην Ελλάδα του ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη (AI Act), του πρώτου ολοκληρωμένου θεσμικού πλαισίου διεθνώς για τη χρήση συστημάτων AI.
Ο υπουργός Ψηφιακής Διακυβέρνησης Δημήτρης Παπαστεργίου περιέγραψε ένα νέο καθεστώς περιορισμών, εποπτείας και διαφάνειας, δίνοντας ιδιαίτερη έμφαση στην προστασία της ιδιωτικότητας και των θεμελιωδών δικαιωμάτων. Όπως ανέφερε, το νέο πλαίσιο κατηγοριοποιεί τις εφαρμογές Τεχνητής Νοημοσύνης σε τέσσερα επίπεδα επικινδυνότητας και εισάγει σαφείς απαγορεύσεις για πρακτικές όπως το social scoring και η αυτόματη βιομετρική ανάλυση πολιτών.
Η παρέμβαση αυτή δεν αποτελεί αποσπασματική πρωτοβουλία. Εντάσσεται στη συνολική προσπάθεια της Ευρωπαϊκής Ένωσης να θέσει κανόνες στη χρήση της Τεχνητής Νοημοσύνης πριν η τεχνολογία ενσωματωθεί μαζικά στη δημόσια διοίκηση, στην αγορά εργασίας, στην εκπαίδευση, στην ασφάλεια και στις ψηφιακές υπηρεσίες.
Το τέλος του «ανεξέλεγκτου» AI
Ο ευρωπαϊκός AI Act βασίζεται σε ένα σύστημα αξιολόγησης κινδύνου. Όσο μεγαλύτερη είναι η πιθανότητα ένα σύστημα AI να επηρεάσει δικαιώματα, ελευθερίες ή κρίσιμες κοινωνικές λειτουργίες, τόσο αυστηρότερες γίνονται οι υποχρεώσεις για όσους το χρησιμοποιούν.
Στην κορυφή αυτής της κλίμακας βρίσκονται οι λεγόμενες «απαγορευμένες πρακτικές». Σε αυτές περιλαμβάνεται πλέον και το social scoring, δηλαδή η δημιουργία ψηφιακών προφίλ πολιτών με βάση τη συμπεριφορά, τις επιλογές ή τα χαρακτηριστικά τους.
Πρακτικά, αυτό σημαίνει ότι ούτε το κράτος ούτε ιδιωτικοί οργανισμοί θα μπορούν να δημιουργούν μηχανισμούς συνολικής «βαθμολόγησης» πολιτών, όπου η πρόσβαση σε υπηρεσίες ή δικαιώματα θα επηρεάζεται από αλγοριθμική αξιολόγηση κοινωνικής συμπεριφοράς.
Η απαγόρευση αυτή θεωρείται κομβική από την Ευρωπαϊκή Ένωση, καθώς συνδέεται άμεσα με την προστασία θεμελιωδών δικαιωμάτων και την αποτροπή φαινομένων μαζικής επιτήρησης. Ο ίδιος ο Κανονισμός αναφέρει ότι τέτοιες πρακτικές μπορούν να οδηγήσουν σε διακρίσεις, αποκλεισμό και άνιση μεταχείριση πολιτών.
Οι περιορισμοί στη βιομετρική παρακολούθηση
Ιδιαίτερη βαρύτητα δίνεται και στη χρήση βιομετρικών συστημάτων.
Σύμφωνα με όσα είπε ο Δημήτρης Παπαστεργίου στο Υπουργικό Συμβούλιο, το νέο πλαίσιο περιορίζει δραστικά την αυτόματη βιομετρική ανάλυση πολιτών, δηλαδή την επεξεργασία χαρακτηριστικών όπως πρόσωπο, φωνή, κινήσεις ή ακόμη και συναισθηματικές αντιδράσεις μέσω αλγορίθμων.
Ο AI Act θεωρεί ιδιαίτερα υψηλού κινδύνου τα συστήματα που επιχειρούν να εξάγουν συμπεράσματα για τη συναισθηματική κατάσταση ή τη συμπεριφορά ανθρώπων μέσω καμερών και αυτοματοποιημένης ανάλυσης. Για τον λόγο αυτό, η χρήση τους απαγορεύεται ή επιτρέπεται μόνο υπό εξαιρετικά αυστηρές προϋποθέσεις.
Στην πράξη, αυτό σημαίνει ότι εφαρμογές που «διαβάζουν» συναισθήματα εργαζομένων, αξιολογούν μαθητές μέσω κάμερας, αναλύουν εκφράσεις προσώπου πελατών ή πραγματοποιούν μαζική βιομετρική παρακολούθηση, δεν θα μπορούν να λειτουργούν ανεξέλεγκτα στην Ελλάδα.
Η ευρωπαϊκή νομοθεσία επιτρέπει εξαιρέσεις μόνο σε εξαιρετικές περιπτώσεις δημόσιας ασφάλειας και υπό αυστηρή δικαστική και θεσμική εποπτεία.
Υποχρεωτική διαφάνεια για εταιρείες και πλατφόρμες
Ένα από τα σημαντικότερα σημεία του νέου πλαισίου αφορά τις υποχρεώσεις διαφάνειας. Ο AI Act προβλέπει ότι οι πάροχοι συστημάτων Τεχνητής Νοημοσύνης και οι οργανισμοί που τα χρησιμοποιούν θα πρέπει να ενημερώνουν ξεκάθαρα τους πολίτες όταν αλληλεπιδρούν με AI.
Αυτό σημαίνει ότι:
- οι χρήστες θα πρέπει να γνωρίζουν πότε συνομιλούν με chatbot,
- τα AI-generated βίντεο ή deepfakes θα πρέπει να επισημαίνονται,
- ενώ τα συστήματα generative AI θα υπόκεινται σε νέες απαιτήσεις τεκμηρίωσης και λογοδοσίας.
Η Ευρωπαϊκή Επιτροπή έχει ήδη ξεκαθαρίσει ότι οι κανόνες διαφάνειας για περιεχόμενο που δημιουργείται από AI τίθενται σε εφαρμογή από το 2026.
Η Ελλάδα και ο μηχανισμός εποπτείας
Παράλληλα με το νομοσχέδιο, η Ελλάδα έχει ήδη ξεκινήσει τη δημιουργία εθνικού μηχανισμού εποπτείας για την εφαρμογή του AI Act.
Το Υπουργείο Ψηφιακής Διακυβέρνησης έχει ανακοινώσει από το 2024 τον κατάλογο των εθνικών αρχών που θα εποπτεύουν τη συμμόρφωση με το νέο πλαίσιο, ιδιαίτερα σε ζητήματα προστασίας θεμελιωδών δικαιωμάτων.
Σε αυτό το πλαίσιο, η ελληνική Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα αποκτά ενισχυμένο ρόλο, καθώς αναμένεται να λειτουργήσει ως βασικός φορέας εποπτείας για συστήματα AI υψηλού κινδύνου.
Παράλληλα, η Ειδική Γραμματεία Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων έχει ήδη ξεκινήσει δημόσιες διαβουλεύσεις για την εφαρμογή του AI Act στην Ελλάδα, με τη συμμετοχή επιστημονικών φορέων, ανεξάρτητων αρχών και οργανισμών ανθρωπίνων δικαιωμάτων.
Από τη ρύθμιση στις δημόσιες υπηρεσίες
Η συζήτηση για το AI Act εξελίσσεται παράλληλα με τη σταδιακή ενσωμάτωση εργαλείων Τεχνητής Νοημοσύνης στο ελληνικό Δημόσιο.
Ο Δημήτρης Παπαστεργίου έχει ήδη αναφερθεί στο mAigov, τη νέα AI υπηρεσία του Δημοσίου, η οποία έχει ξεπεράσει τα 4,4 εκατομμύρια διαλόγους και λειτουργεί σε 25 γλώσσες.
Ταυτόχρονα, το Υπουργείο Ψηφιακής Διακυβέρνησης προχωρά στην ανάπτυξη υποδομών υψηλής υπολογιστικής ισχύος, όπως ο υπερυπολογιστής «Δαίδαλος» και η ελληνική AI Factory «Pharos», τα οποία εντάσσονται στο ευρωπαϊκό οικοσύστημα EuroHPC.
Η κυβέρνηση επιδιώκει έτσι να συνδυάσει δύο παράλληλους στόχους, αφενός την αξιοποίηση της Τεχνητής Νοημοσύνης στη λειτουργία του κράτους και ταυτόχρονα τη δημιουργία ενός θεσμικού πλαισίου που θα θέτει όρια στη χρήση της.
Η νέα ψηφιακή ισορροπία
Η βασική επιδίωξη του νέου πλαισίου, όπως τη διατύπωσε ο Δημήτρης Παπαστεργίου στο Υπουργικό Συμβούλιο, είναι να αξιοποιηθεί η τεχνολογία χωρίς να δημιουργηθούν συνθήκες ανεξέλεγκτης επιτήρησης ή παραβίασης δικαιωμάτων.
Το AI Act δεν περιορίζεται σε τεχνικούς κανόνες λειτουργίας αλγορίθμων. Διαμορφώνει ένα νέο μοντέλο ψηφιακής διακυβέρνησης στην Ευρώπη, στο οποίο η καινοτομία συνδέεται υποχρεωτικά με τη λογοδοσία, τη διαφάνεια και την προστασία του πολίτη.
