Μια νέα εξέλιξη στην ασφάλεια των πληροφοριακών συστημάτων καταγράφεται στην Ισπανία, όπου η Αρχή Προστασίας Δεδομένων (AEPD) έλαβε την πρώτη γνωστή γνωστοποίηση παραβίασης προσωπικών δεδομένων από επίθεση που φέρεται να εκτελέστηκε μέσω AI agent.
Η AEPD ανακοίνωσε στις 14 Σεπτεμβρίου ότι ενημερώθηκε για περιστατικό στο οποίο ένας agent τεχνητής νοημοσύνης χρησιμοποίησε ένα μεγάλο γλωσσικό μοντέλο και εκτέλεσε σειρά ενεργειών μέσα σε πληροφοριακό σύστημα. Η διερεύνηση της υπόθεσης βρίσκεται σε εξέλιξη και η ισπανική Αρχή δεν έχει δημοσιοποιήσει την ταυτότητα του οργανισμού που επηρεάστηκε ούτε το μοντέλο που χρησιμοποιήθηκε.
Σύμφωνα με την περιγραφή της AEPD, ο AI agent εντόπισε ευπάθειες στο πληροφοριακό σύστημα, απέκτησε πρόσβαση και συνέχισε να αναζητά αδυναμίες, εκτελώντας στη συνέχεια ενέργειες που οδήγησαν σε παραβίαση προσωπικών δεδομένων. Το Reuters, επικαλούμενο τα στοιχεία της ισπανικής Αρχής, αναφέρει ότι ο agent τροποποίησε προσωπικά δεδομένα και απέκτησε πρόσβαση σε στοιχεία τιμολόγησης.
Η περίπτωση έχει ιδιαίτερη σημασία επειδή ο AI agent δεν περιορίστηκε στην παραγωγή απαντήσεων. Χρησιμοποίησε το γλωσσικό μοντέλο ως μέρος μιας διαδικασίας που περιλάμβανε αναζήτηση ευπαθειών και εκτέλεση ενεργειών στο πληροφοριακό σύστημα. Αυτό είναι και ένα από τα βασικά χαρακτηριστικά της λεγόμενης agentic AI, όπου τα συστήματα μπορούν να αναλαμβάνουν και να εκτελούν διαδοχικές εργασίες με περιορισμένη ανθρώπινη παρέμβαση.
Η AEPD επισημαίνει, ωστόσο, ότι το συγκεκριμένο περιστατικό βρίσκεται ακόμη υπό διερεύνηση και δεν μπορεί από μία μόνο υπόθεση να εξαχθεί συμπέρασμα για τη συχνότητα ή την έκταση αντίστοιχων περιστατικών. Παράλληλα, η χρήση ενός μεγάλου γλωσσικού μοντέλου στη συγκεκριμένη επίθεση δεν σημαίνει ότι παραβιάστηκε το ίδιο το μοντέλο ή η υποδομή του παρόχου του.
Η ισπανική Αρχή έχει ήδη εντάξει τους AI agents στο πεδίο της προστασίας προσωπικών δεδομένων, καθώς η δυνατότητά τους να αλληλεπιδρούν με εφαρμογές, δεδομένα και πληροφοριακά συστήματα δημιουργεί διαφορετικές απαιτήσεις από εκείνες που ισχύουν για ένα σύστημα AI το οποίο απλώς παράγει περιεχόμενο.
Το περιστατικό προσθέτει έτσι ένα συγκεκριμένο παράδειγμα στη συζήτηση για την ασφάλεια των AI agents. Για τις επιχειρήσεις, το ζήτημα δεν αφορά μόνο την ασφάλεια του μοντέλου, αλλά και το τι δικαιώματα πρόσβασης διαθέτει ένας agent και ποιες ενέργειες μπορεί να εκτελεί όταν συνδέεται με εταιρικά συστήματα και δεδομένα.
