Περίπου 400 επιστήμονες από 34 χώρες, μεταξύ των οποίων οι πρωτοπόροι της τεχνητής νοημοσύνης Τζέφρι Χίντον και Γιόσουα Μπέντζιο, ζητούν τη δημιουργία διεθνούς φορέα που θα θέτει ενιαίους κανόνες ασφαλείας για τα προηγμένα συστήματα τεχνητής νοημοσύνης (AI) και θα καταγράφει σοβαρά περιστατικά που συνδέονται με τη λειτουργία τους. Με ανοιχτή επιστολή τους, οι ερευνητές υποστηρίζουν ότι οι εθελοντικές δεσμεύσεις των εταιρειών δεν αρκούν για την αντιμετώπιση των κινδύνων που προκύπτουν από την ανάπτυξη συστημάτων με αυξημένες δυνατότητες στον κυβερνοχώρο. Προτείνουν, επομένως, ένα πλαίσιο ανεξάρτητης εποπτείας, με κοινά πρότυπα ασφαλείας για ολόκληρο τον κλάδο και μητρώο σημαντικών περιστατικών, το οποίο θα μπορούσε να είναι δημόσια προσβάσιμο. Κεντρικό σημείο της πρότασης είναι η αυστηρότερη απομόνωση των πλέον προηγμένων μοντέλων από εξωτερικά δίκτυα, τουλάχιστον αρχικά, καθώς και η ανεξάρτητη αξιολόγηση των μέτρων προστασίας τους. Η πρακτική αυτή, γνωστή ως air-gapping, αποσκοπεί στον περιορισμό της δυνατότητας ενός συστήματος να αποκτήσει ανεξέλεγκτη πρόσβαση σε άλλα υπολογιστικά συστήματα και ψηφιακές υποδομές.
Οι διαφωνίες για τους κινδύνους και τα μέτρα ασφαλείας
Η παρέμβαση των επιστημόνων έρχεται μετά από περιστατικά που ανέδειξαν αδυναμίες στις δικλίδες ασφαλείας προηγμένων συστημάτων AI, συμπεριλαμβανομένων περιπτώσεων στις οποίες μοντέλα φέρονται να παρέκαμψαν ανεπαρκώς προστατευμένα περιβάλλοντα δοκιμών και να απέκτησαν πρόσβαση σε εξωτερικά συστήματα. Η συζήτηση αφορά πλέον όχι μόνο την ακρίβεια και την αξιοπιστία των εφαρμογών τεχνητής νοημοσύνης, αλλά και τον τρόπο με τον οποίο ελέγχονται οι δυνατότητές τους πριν από την ευρύτερη αξιοποίησή τους. Οι υπογράφοντες ζητούν από τους οργανισμούς που αναπτύσσουν ή δοκιμάζουν μοντέλα με δυνατότητες κυβερνοδράσης να εφαρμόσουν άμεσα αυστηρότερα πρότυπα περιορισμού, παράλληλα με την προσπάθεια των κυβερνήσεων να διαμορφώσουν θεσμικό πλαίσιο εποπτείας. Η πρωτοβουλία έρχεται σε μια περίοδο κατά την οποία εντείνονται οι διεθνείς διαβουλεύσεις για την ασφάλεια της AI. Έναν μήνα νωρίτερα, μεγάλες εταιρείες του κλάδου, μεταξύ των οποίων οι OpenAI, Google, Meta, Anthropic, xAI και Nvidia, είχαν υπογράψει συμφωνία στον Λευκό Οίκο για εθελοντικά μέτρα ασφαλείας, χωρίς δεσμευτικό μηχανισμό επιβολής.
Ωστόσο, δεν υπάρχει ενιαία προσέγγιση ως προς την έκταση των κινδύνων και τα μέσα αντιμετώπισής τους. Η Ευρωπαϊκή Ένωση θεωρεί ότι η υφιστάμενη Πράξη για την Τεχνητή Νοημοσύνη (AI Act) παρέχει πλαίσιο για την αντιμετώπιση σχετικών απειλών, ενώ άλλοι ερευνητές αποδίδουν τα πρόσφατα περιστατικά κυρίως σε τεχνικές αδυναμίες και ελλείψεις στον σχεδιασμό των συστημάτων. Ενδεικτική είναι η στάση του Γιαν Λεκούν, ο οποίος δεν υπέγραψε την επιστολή και έχει υποστηρίξει ότι περιστατικά παραβίασης της ασφάλειας οφείλονται κυρίως σε αστοχίες της μηχανικής και όχι κατ’ ανάγκη σε ευρύτερους κινδύνους από την ίδια την τεχνολογία. Το βασικό ζητούμενο, επομένως, είναι αν η διεθνής κοινότητα θα προχωρήσει από τις εθελοντικές δεσμεύσεις σε ένα σύστημα κοινών κανόνων, ανεξάρτητων ελέγχων και καταγραφής περιστατικών. Η πρόταση των επιστημόνων επαναφέρει στο προσκήνιο το ερώτημα ποιος θα ελέγχει τις δυνατότητες των ολοένα ισχυρότερων συστημάτων AI και με ποιους μηχανισμούς θα διασφαλίζεται ότι η ανάπτυξή τους δεν θα προηγείται της δυνατότητας αποτελεσματικής εποπτείας τους.
