Η χρήση της τεχνητής νοημοσύνης στη νομική εργασία εξαπλώνεται ραγδαία, αλλά μαζί της εμφανίζονται και σοβαρά προβλήματα που ήδη απασχολούν δικηγορικά γραφεία και δικαστήρια.
Σύμφωνα με νομικούς και ειδικούς στην τεχνολογία, τα συστήματα AI δεν περιορίζονται πλέον σε απλές ανακρίβειες. Σε αρκετές περιπτώσεις παράγουν ολόκληρες «νομικές θεωρίες» και παραπομπές που φαίνονται απολύτως πειστικές, αλλά δεν αντιστοιχούν σε πραγματική νομολογία ή ισχύον δίκαιο. Το φαινόμενο αυτό έχει ήδη οδηγήσει σε κυρώσεις από δικαστήρια στις ΗΠΑ.
Πάνω από 1.300 υποθέσεις με λάθη από AI
Όπως αναφέρεται σε βάση δεδομένων που καταγράφει σχετικά περιστατικά, έχουν εντοπιστεί πάνω από 1.300 δικαστικές αποφάσεις όπου εμπλέκονται παραπλανητικές αναφορές ή επιχειρήματα που αποδίδονται σε εργαλεία AI.
Σε αρκετές από αυτές τις περιπτώσεις, δικαστήρια προχώρησαν σε πρόστιμα προς δικηγορικά γραφεία για έγγραφα που περιείχαν ανύπαρκτες νομικές παραπομπές. Τα πρόστιμα, σε ορισμένες πρόσφατες υποθέσεις, έχουν ξεπεράσει συνολικά τις 145.000 δολάρια μέσα σε ένα τρίμηνο.
Αυστηρότεροι κανόνες από τα δικαστήρια
Η αντίδραση της δικαιοσύνης είναι πλέον πιο οργανωμένη. Πάνω από 300 ομοσπονδιακοί δικαστές στις ΗΠΑ έχουν θεσπίσει ειδικούς κανόνες ή οδηγίες για τη χρήση τεχνητής νοημοσύνης στις καταθέσεις και τα νομικά υπομνήματα.
Σε ορισμένες περιπτώσεις έχουν ήδη επιβληθεί κυρώσεις, ενώ υπάρχουν και αποφάσεις όπου δικαστές αναγκάστηκαν να αποσύρουν ή να διορθώσουν γνώμες που είχαν συνταχθεί με τη βοήθεια AI, όταν εντοπίστηκαν λάθη ή ανύπαρκτες παραπομπές.
Το φαινόμενο της «shadow AI» στα γραφεία
Παράλληλα με τα λάθη των συστημάτων, ανησυχία προκαλεί και η λεγόμενη «shadow AI», δηλαδή η χρήση εργαλείων τεχνητής νοημοσύνης από εργαζόμενους χωρίς έγκριση των δικηγορικών γραφείων.
Έρευνες που επικαλούνται ειδικοί δείχνουν ότι σημαντικό ποσοστό εργαζομένων χρησιμοποιεί τέτοια εργαλεία για την παραγωγή ή επεξεργασία κειμένων, συχνά χωρίς επίσημη πολιτική ή έλεγχο. Αυτό αυξάνει τον κίνδυνο διαρροής εμπιστευτικών πληροφοριών και δεδομένων πελατών.
Το πρόβλημα της επαλήθευσης
Ιδιαίτερη ανησυχία προκαλεί το γεγονός ότι τα λάθη της AI δεν είναι πάντα εύκολο να εντοπιστούν. Σε αρκετές περιπτώσεις, οι ψευδείς νομικές παραπομπές εμφανίζονται απολύτως σωστές ακόμη και μετά από γρήγορο έλεγχο σε νομικές βάσεις δεδομένων, με αποτέλεσμα να περνούν απαρατήρητες.
Νομικοί τονίζουν ότι η τελική ευθύνη παραμένει πάντα στον δικηγόρο που υπογράφει ένα έγγραφο, ανεξάρτητα από το αν έχει χρησιμοποιηθεί τεχνητή νοημοσύνη.
Το ζήτημα πλέον δεν αντιμετωπίζεται ως τεχνολογικό πείραμα, αλλά ως καθημερινή πρόκληση για τα δικηγορικά γραφεία. Οι ειδικοί σημειώνουν ότι η ενσωμάτωση της AI στα εργαλεία νομικής έρευνας και συγγραφής κάνει τη χρήση της λιγότερο ορατή, άρα και δυσκολότερα ελεγχόμενη.
Την ίδια ώρα, πολλές εταιρείες αναγκάζονται να δημιουργήσουν εσωτερικά πρωτόκολλα ελέγχου και εκπαίδευσης, προκειμένου να περιορίσουν τον κίνδυνο λαθών που μπορεί να οδηγήσουν ακόμη και σε δικαστικές κυρώσεις.
Η εικόνα στην Ελλάδα
Στην Ελλάδα η συζήτηση για την τεχνητή νοημοσύνη στη νομική πράξη βρίσκεται ακόμη σε πρώιμο στάδιο, χωρίς μέχρι σήμερα να έχουν καταγραφεί γνωστές περιπτώσεις κυρώσεων ή δικαστικών αποφάσεων που να σχετίζονται με λανθασμένα νομικά κείμενα από χρήση AI.
Ο νομικός κλάδος κινείται κυρίως προληπτικά, με έμφαση στη σωστή και ελεγχόμενη ενσωμάτωση της τεχνολογίας στην καθημερινή πρακτική των δικηγόρων.
Σε θεσμικό επίπεδο, η Ελλάδα έχει θεσπίσει από το 2022 τον νόμο 4961/2022 για τις αναδυόμενες τεχνολογίες, ο οποίος θέτει γενικές αρχές για τη χρήση συστημάτων τεχνητής νοημοσύνης στον δημόσιο και ιδιωτικό τομέα, με έμφαση στη διαφάνεια, την ασφάλεια και την προστασία δεδομένων. Παράλληλα, η χώρα εντάσσεται στο ευρωπαϊκό πλαίσιο του AI Act, το οποίο αναμένεται να εφαρμοστεί πλήρως τα επόμενα χρόνια και προβλέπει αυστηρότερους κανόνες για εφαρμογές υψηλού ρίσκου.
Προβληματισμοί στον νομικό κόσμο
Στον πυρήνα του προβληματισμού βρίσκεται το κατά πόσο η τεχνητή νοημοσύνη μπορεί να παράγει αξιόπιστο νομικό περιεχόμενο χωρίς ανθρώπινη επαλήθευση. Τα λάθη των συστημάτων δεν είναι πάντα εύκολα ανιχνεύσιμα, καθώς συχνά εμφανίζονται με μορφή πειστικών αλλά ανύπαρκτων νομικών αναφορών.
Για τον λόγο αυτό, νομικοί τονίζουν ότι η ευθύνη παραμένει αποκλειστικά στον δικηγόρο που υπογράφει ένα έγγραφο, ανεξάρτητα από το αν έχει χρησιμοποιηθεί τεχνολογία AI στην προετοιμασία του.
