Την ανάγκη ενίσχυσης των μηχανισμών ελέγχου για τα ολοένα πιο αυτόνομα συστήματα Τεχνητής Νοημοσύνης που χρησιμοποιούνται στις τράπεζες και τις χρηματοπιστωτικές υπηρεσίες υπογραμμίζει το Συμβούλιο Χρηματοπιστωτικής Σταθερότητας (FSB), εκφράζοντας ανησυχίες ότι η ταχεία εξάπλωσή τους μπορεί να δημιουργήσει νέους κινδύνους για τη σταθερότητα του διεθνούς χρηματοοικονομικού συστήματος.
Σε έκθεση που δημοσιοποίησε την Τετάρτη, το FSB καλεί τις διοικήσεις των χρηματοπιστωτικών οργανισμών να εξετάσουν την εφαρμογή πρόσθετων δικλίδων ασφαλείας για τα λεγόμενα συστήματα «agentic AI», δηλαδή μοντέλα τεχνητής νοημοσύνης που είναι σε θέση να σχεδιάζουν, να αναλύουν δεδομένα και να εκτελούν ενέργειες με περιορισμένη ανθρώπινη παρέμβαση.
Η χρήση των συγκεκριμένων εφαρμογών επεκτείνεται διαρκώς στον τραπεζικό κλάδο, καθώς αξιοποιούνται ήδη στην ανίχνευση απάτης, στην εξυπηρέτηση πελατών αλλά και στην αυτοματοποίηση εσωτερικών λειτουργιών και διοικητικών διαδικασιών.
Τα στοιχεία που παραθέτει το FSB, επικαλούμενο έρευνα του Cambridge Centre for Alternative Finance, δείχνουν ότι το 52% των χρηματοπιστωτικών οργανισμών έχει ήδη υιοθετήσει εφαρμογές agentic AI. Από αυτούς, σχεδόν ένας στους τέσσερις (23%) βρίσκεται σε στάδιο ευρείας ανάπτυξης ή μετασχηματισμού των λειτουργιών του, ενώ το 29% εφαρμόζει πιλοτικά προγράμματα.
Οι εποπτικές αρχές εμφανίζονται ολοένα και πιο επιφυλακτικές απέναντι στις δυνατότητες των προηγμένων μοντέλων Τεχνητής Νοημοσύνης, κυρίως λόγω των κινδύνων που ανακύπτουν για την κυβερνοασφάλεια και τη λειτουργία κρίσιμων χρηματοπιστωτικών υποδομών.
Σύμφωνα με την έκθεση, τα αυτόνομα συστήματα ενδέχεται να προχωρήσουν σε μη εξουσιοδοτημένες ή ακόμη και παράνομες ενέργειες, να προκαλέσουν παραβιάσεις δεδομένων ή να διαταράξουν διασυνδεδεμένα πληροφοριακά συστήματα, με τις επιπτώσεις να μπορούν να εξαπλωθούν σε πολύ σύντομο χρονικό διάστημα.
Ιδιαίτερη αναφορά γίνεται και στην πρόκληση της ανθρώπινης εποπτείας, καθώς οι λεγόμενοι «AI agents» ενδέχεται να λαμβάνουν πρωτοβουλίες που αποκλίνουν από τους αρχικούς στόχους ενός οργανισμού, χωρίς να υπάρχει η δυνατότητα άμεσης παρέμβασης από το προσωπικό.
Για τον περιορισμό των κινδύνων, το FSB προτείνει την υιοθέτηση αυστηρότερων κανόνων διακυβέρνησης, όπως ο σαφής καθορισμός των αρμοδιοτήτων των συστημάτων Τεχνητής Νοημοσύνης, η υποχρεωτική ανθρώπινη έγκριση για ενέργειες υψηλού κινδύνου – όπως χρηματοοικονομικές συναλλαγές που υπερβαίνουν προκαθορισμένα όρια – καθώς και η προσαρμογή των διαδικασιών διαχείρισης προσωπικού, ώστε τα συστήματα AI να αντιμετωπίζονται ως «συνθετικοί εργαζόμενοι» με συγκεκριμένους κανόνες εποπτείας.
Οι προτεινόμενες κατευθυντήριες γραμμές δεν έχουν δεσμευτικό χαρακτήρα και θα τεθούν σε δημόσια διαβούλευση έως τις 22 Ιουλίου, προτού το FSB διαμορφώσει τις τελικές του συστάσεις προς τον χρηματοπιστωτικό κλάδο.
