Ο Ντόναλντ Τραμπ και επικεφαλής μεγάλων εταιρειών τεχνολογίας υπέγραψαν την Τρίτη στον Λευκό Οίκο εθελοντική συμφωνία για την ασφάλεια των προηγμένων συστημάτων τεχνητής νοημοσύνης, με τις συμμετέχουσες εταιρείες να δεσμεύονται να εφαρμόσουν τέσσερα επίπεδα ελέγχου και αξιολόγησης των μοντέλων τους.
Το White House Accord on Super Intelligence, με τον υπότιτλο «Joint Commitment on Frontier Responsibilities», αφορά εταιρείες που αναπτύσσουν και διαθέτουν frontier models και προβλέπει τη δημιουργία ενός πλαισίου εσωτερικών ελέγχων και εξωτερικών αξιολογήσεων για τα συστήματά τους.
Στη συμφωνία συμμετείχαν στελέχη των Google, Anthropic, Meta, OpenAI, Nvidia και xAI, μαζί με τον Αμερικανό πρόεδρο. Το κείμενο προβλέπει επίσης ότι οι συμμετέχουσες εταιρείες θα συναντώνται τακτικά για τη διαμόρφωση προτύπων και βέλτιστων πρακτικών που αφορούν την ασφάλεια των συστημάτων τους.
Τέσσερα επίπεδα ελέγχου και αξιολόγησης
Το πρώτο επίπεδο αφορά την εφαρμογή ισχυρών εσωτερικών ελέγχων και μηχανισμών παρακολούθησης κατά την εκπαίδευση και τη χρήση των προηγμένων μοντέλων. Οι έλεγχοι θα καλύπτουν, μεταξύ άλλων, ζητήματα κυβερνοασφάλειας, βιοασφάλειας και χημικών απειλών, καθώς και περιπτώσεις κατά τις οποίες τα μοντέλα θα μπορούσαν να αποκτήσουν πρόσβαση ή να αλληλεπιδράσουν με τεχνικά συστήματα με τρόπους που δεν είχαν προβλεφθεί.
Στο δεύτερο επίπεδο προβλέπεται μια εσωτερική ομάδα αξιολόγησης, η οποία θα ελέγχει αν οι μηχανισμοί ελέγχου, παρακολούθησης και ανίχνευσης λειτουργούν όπως προβλέπεται και αν τα προβλήματα που εντοπίζονται αντιμετωπίζονται.
Το τρίτο επίπεδο αφορά την αξιολόγηση από ανεξάρτητο εξωτερικό ελεγκτή ή αξιολογητή. Οι εταιρείες θα συνεργάζονται με εξωτερικό φορέα, ο οποίος θα εξετάζει ανεξάρτητα αν οι μηχανισμοί ελέγχου, παρακολούθησης και ανίχνευσης λειτουργούν σύμφωνα με τον σχεδιασμό τους.
Στο τέταρτο επίπεδο προβλέπεται έλεγχος σε επίπεδο διοικητικού συμβουλίου. Οι εταιρείες θα πρέπει να διαθέτουν ανεξάρτητη επιτροπή του διοικητικού συμβουλίου, η οποία θα εποπτεύει και θα λαμβάνει τις αναφορές των ομάδων που εφαρμόζουν τους ελέγχους, καθώς και των εσωτερικών και εξωτερικών αξιολογητών, με στόχο να αντιμετωπίζονται τα ζητήματα που εντοπίζονται.
Εθελοντική δέσμευση, όχι νέος νόμος
Η συμφωνία έχει εθελοντικό χαρακτήρα και δεν αποτελεί νέο ομοσπονδιακό νόμο. Ο Τραμπ την περιέγραψε ως «ηθικά δεσμευτική», ενώ το ίδιο το κείμενο αναφέρει ότι σε βάθος χρόνου μπορεί να κριθεί σκόπιμο οι συγκεκριμένες διαδικασίες ελέγχου και αξιολόγησης να ενσωματωθούν σε νόμους ή κανονισμούς.
Παράλληλα, το Accord αναφέρει ότι, ανεξάρτητα από το αν οι συγκεκριμένες διαδικασίες καταστούν υποχρεωτικές, οι εταιρείες θεωρούν την εφαρμογή των ελέγχων και των αξιολογήσεων κρίσιμη για την ασφάλεια των μελλοντικών συστημάτων και δηλώνουν ότι δεσμεύονται να τους εφαρμόσουν.
