Ένα περιστατικό που αναδεικνύει τους κινδύνους της ανεξέλεγκτης χρήσης της Τεχνητής Νοημοσύνης έφερε στο φως η KPMG, η οποία αναγκάστηκε να αποσύρει έκθεσή της αφού διαπιστώθηκε ότι περιείχε σειρά ανακριβών ή και εντελώς ανύπαρκτων παραδειγμάτων εφαρμογής της τεχνολογίας από μεγάλους οργανισμούς.
Η έκθεση, με τίτλο «Redefining Excellence in the Age of Agentic AI», είχε δημοσιευθεί τον Οκτώβριο και παρουσίαζε περιπτώσεις αξιοποίησης «έξυπνων πρακτόρων» τεχνητής νοημοσύνης από διεθνείς οργανισμούς και επιχειρήσεις. Ωστόσο, έρευνα της GPTZero και διασταύρωση των στοιχείων από τους Financial Times έδειξαν ότι αρκετοί από αυτούς τους ισχυρισμούς δεν ανταποκρίνονταν στην πραγματικότητα. Η KPMG απέσυρε στη συνέχεια το σχετικό έγγραφο και ανακοίνωσε ότι εξετάζει τις συνθήκες υπό τις οποίες δημοσιεύθηκε.
Ανάμεσα στις περιπτώσεις που αμφισβητήθηκαν ήταν η αναφορά ότι η UBS χρησιμοποιεί agentic AI για επενδυτικές συμβουλές, διαχείριση κινδύνου και κανονιστική συμμόρφωση μέσω πλατφόρμας που αναπτύχθηκε με τη Microsoft. Εκπρόσωπος της τράπεζας χαρακτήρισε τους ισχυρισμούς «αντικειμενικά ανακριβείς».
Παρόμοιες διαψεύσεις υπήρξαν και από τους Ελβετικούς Ομοσπονδιακούς Σιδηροδρόμους, οι οποίοι αρνήθηκαν ότι διαθέτουν σύστημα τεχνητής νοημοσύνης που οργανώνει εξατομικευμένα ταξίδια με βάση τις συνθήκες σε πραγματικό χρόνο και το περιβαλλοντικό αποτύπωμα. Αντίστοιχα, η Transport for London διέψευσε ότι χρησιμοποιεί agentic AI για τη διαχείριση της κυκλοφορίας και την εξατομίκευση ενημερώσεων προς τους επιβάτες, ενώ και το NHS Greater Manchester ξεκαθάρισε ότι οι αναφορές περί πρόβλεψης επανεισαγωγών και αυτοματοποίησης παραπομπών δεν αντανακλούν την πραγματική λειτουργία των υπηρεσιών του.
Το περιστατικό αποκτά ακόμη μεγαλύτερη σημασία επειδή προέρχεται από έναν από τους μεγαλύτερους συμβουλευτικούς ομίλους στον κόσμο, ο οποίος ταυτόχρονα παρέχει υπηρεσίες ψηφιακού μετασχηματισμού και συμβουλευτικής γύρω από την τεχνητή νοημοσύνη. Η υπόθεση αναζωπυρώνει τη συζήτηση για την ανάγκη αυστηρού ανθρώπινου ελέγχου πριν από τη δημοσίευση περιεχομένου που έχει παραχθεί ή υποστηριχθεί από εργαλεία γενετικής AI.
Δεν είναι μάλιστα η πρώτη φορά που εταιρεία του κλάδου βρίσκεται αντιμέτωπη με αντίστοιχο πρόβλημα. Μόλις λίγες εβδομάδες νωρίτερα, η EY απέσυρε δική της μελέτη αφού εντοπίστηκαν κατασκευασμένες παραπομπές, ανύπαρκτες πηγές και λανθασμένα στοιχεία, επίσης έπειτα από έρευνα της GPTZero.
Το μήνυμα που εκπέμπει η υπόθεση είναι σαφές: όσο εξελιγμένα κι αν γίνονται τα μοντέλα τεχνητής νοημοσύνης, η αξιοπιστία ενός ερευνητικού ή συμβουλευτικού έργου εξακολουθεί να εξαρτάται από τον ανθρώπινο έλεγχο. Οι λεγόμενες «ψευδαισθήσεις» της AI δεν αποτελούν τεχνική λεπτομέρεια, αλλά μπορούν να οδηγήσουν στη διάδοση ανακριβών πληροφοριών και να πλήξουν την αξιοπιστία ακόμη και των πιο καταξιωμένων οργανισμών.
