Μέχρι σήμερα, όταν μιλούσαμε για την Τεχνητή Νοημοσύνη, το βασικό ερώτημα ήταν τι μπορεί να μας απαντήσει. Με τους AI agents, το ερώτημα αλλάζει. Πλέον μας ενδιαφέρει τι μπορεί να κάνει μόνος του ένας ψηφιακός «βοηθός» και κυρίως, τι γίνεται αν αποφασίσει να κινηθεί πέρα από αυτά που του έχουμε επιτρέψει;
Οι νέοι AI agents δεν περιορίζονται στην παραγωγή κειμένου ή στην απάντηση μιας ερώτησης. Μπορούν να χρησιμοποιούν εργαλεία και εφαρμογές, να αναζητούν και να επεξεργάζονται δεδομένα, να εκτελούν διαδοχικά βήματα και να ολοκληρώνουν εργασίες με πολύ μικρότερη ανθρώπινη παρέμβαση. Και όσο περισσότερες δυνατότητες αποκτούν, τόσο μεγαλώνει η ανάγκη να υπάρχουν σαφή όρια.
Αυτό ακριβώς επιχειρεί να αντιμετωπίσει η NVIDIA με το Open Agent Safety Platform, μια νέα πλατφόρμα που παρουσίασε στις 28 Σεπτεμβρίου και έχει σχεδιαστεί για να ελέγχει τη συμπεριφορά των AI agents όχι μόνο μέσα στο λογισμικό τους, αλλά και σε επίπεδο υποδομής.
Ένας ψηφιακός agent χρειάζεται και «κόφτη»
Η λογική της NVIDIA είναι σχετικά απλή. Δεν αρκεί να ζητάμε από έναν AI agent να συμπεριφέρεται σωστά. Πρέπει να υπάρχει και ένας μηχανισμός που να μπορεί να τον περιορίσει όταν δεν το κάνει.
Η πλατφόρμα έχει δύο βασικά εργαλεία.
Το πρώτο είναι το OpenShell, ένα λογισμικό ανοικτού κώδικα που δημιουργεί ένα προστατευμένο περιβάλλον για τον agent. Εκεί καθορίζεται τι επιτρέπεται να κάνει, σε ποια δεδομένα και αρχεία μπορεί να έχει πρόσβαση, ποια εργαλεία μπορεί να χρησιμοποιεί και ποιες ενέργειες απαγορεύονται. Με απλά λόγια, ο agent μπορεί να είναι αυτόνομος, αλλά δεν σημαίνει ότι είναι ανεξέλεγκτος.
Το δεύτερο είναι το Sentry. Πρόκειται για έναν μηχανισμό που βρίσκεται ξεχωριστά από το περιβάλλον στο οποίο λειτουργεί ο agent και παρακολουθεί τη δραστηριότητά του. Αν εντοπίσει ότι επιχειρεί να κινηθεί έξω από τα όρια που έχουν τεθεί, μπορεί να τον απομονώσει και να σταματήσει τη λειτουργία του. Η NVIDIA αναφέρει ότι αυτό μπορεί να γίνει μέσα σε milliseconds, με το Sentry να λειτουργεί σε υποδομή NVIDIA BlueField-4.
Η ιδέα έχει ιδιαίτερη σημασία για τις επιχειρήσεις. Αν ένας agent αποκτήσει πρόσβαση σε εταιρικά αρχεία, εφαρμογές ή συστήματα, ένα λάθος δεν αφορά πλέον μόνο μια λανθασμένη απάντηση. Μπορεί να αφορά μια πραγματική ενέργεια μέσα στην επιχείρηση.
Η Anthropic μπαίνει στο παιχνίδι
Η εξέλιξη αποκτά ακόμη μεγαλύτερο ενδιαφέρον από τη στιγμή που η Anthropic συμμετέχει στην προσπάθεια της NVIDIA.
Οι δύο εταιρείες συνεργάζονται ώστε το Claude Managed Agents να συνδυάζεται με το OpenShell και την υποδομή της NVIDIA. Στόχος είναι να υπάρχει μεγαλύτερος έλεγχος πάνω στα δικαιώματα που έχει ένας agent, στα δεδομένα που μπορεί να χρησιμοποιήσει και στις ενέργειες που μπορεί να εκτελέσει.
Η Anthropic αναφέρει ότι τα διαπιστευτήρια που χρειάζεται ένας agent μπορούν να φυλάσσονται ξεχωριστά, χωρίς ο ίδιος ο agent να έχει άμεση πρόσβαση σε αυτά. Έτσι, ακόμη και όταν ένα σύστημα έχει τη δυνατότητα να εκτελεί εργασίες μόνο του, δεν αποκτά αυτόματα απεριόριστη πρόσβαση σε όλα όσα βρίσκονται πίσω από αυτές τις εργασίες.
Και εδώ βρίσκεται ίσως η ουσία της νέας εξέλιξης, αφού ησυζήτηση για τους AI agents περνά από το «πόσο έξυπνοι είναι» στο «πόσο ελεγχόμενοι μπορούν να παραμείνουν».
Περισσότερες από 100 εταιρείες και οργανισμοί
Η NVIDIA αναφέρει ότι περισσότερες από 100 οργανώσεις συμμετέχουν ήδη στο οικοσύστημα της νέας πλατφόρμας. Στη λίστα βρίσκονται, μεταξύ άλλων, η Anthropic, η Microsoft, η SAP, η Salesforce, η HPE, η Hugging Face, η Palantir, η CrowdStrike, η ServiceNow και η Cisco.
Η συμμετοχή δεν περιορίζεται στις εταιρείες λογισμικού. Η NVIDIA αναφέρει εφαρμογές από τον χρηματοπιστωτικό τομέα, τη βιομηχανία, τις κρίσιμες υποδομές αλλά και τη ρομποτική.
Αυτό έχει σημασία γιατί δείχνει πού κατευθύνεται η τεχνολογία. Οι AI agents δεν προορίζονται μόνο για να γράφουν κείμενα ή να απαντούν σε ερωτήσεις. Σταδιακά αναλαμβάνουν εργασίες μέσα σε πραγματικά πληροφοριακά συστήματα, επιχειρησιακές διαδικασίες και φυσικές υποδομές.
Από την AI στο «ποιος έχει το κουμπί»
Η HPE είναι μία ακόμη ένδειξη ότι η ασφάλεια των AI agents αρχίζει να περνά από το επίπεδο της έρευνας στις επιχειρησιακές υποδομές. Η εταιρεία ανακοίνωσε ότι ενσωματώνει το OpenShell στο HPE Private Cloud AI, ώστε οι επιχειρήσεις να μπορούν να έχουν μεγαλύτερο έλεγχο στις άδειες πρόσβασης, στις ενέργειες των agents και στην παρακολούθησή τους. Η διαθεσιμότητα έχει προγραμματιστεί για το τέταρτο τρίμηνο του 2026.
Και αυτό είναι το σημείο στο οποίο η εξέλιξη γίνεται ιδιαίτερα ενδιαφέρουσα. Όσο οι AI agents αποκτούν πρόσβαση σε περισσότερα εργαλεία και αναλαμβάνουν περισσότερες εργασίες, τόσο η ασφάλεια παύει να είναι ένα πρόσθετο χαρακτηριστικό μιας εφαρμογής και γίνεται βασικό κομμάτι της ίδιας της υποδομής.
Για έναν απλό χρήστη, ένας AI agent μπορεί να μοιάζει με έναν πιο «έξυπνο» ψηφιακό βοηθό. Για μια επιχείρηση όμως, μπορεί να είναι ένα λογισμικό που έχει δικαίωμα να διαβάσει δεδομένα, να χρησιμοποιήσει εφαρμογές, να επικοινωνήσει με άλλα συστήματα και να εκτελέσει ενέργειες.
Και τότε η ερώτηση δεν είναι μόνο «τι μπορεί να κάνει η AI;» αλλά και «μέχρι πού θα την αφήσουμε να φτάσει;».
Η NVIDIA επιχειρεί να δώσει τη δική της τεχνολογική απάντηση, με περισσότερη αυτονομία στους AI agents, αλλά ταυτόχρονα περισσότερα και πιο ανεξάρτητα όρια γύρω τους.
