Η πιθανότητα η Τεχνητή Νοημοσύνη να εξελιχθεί σε απειλή για την ανθρωπότητα βρίσκεται όλο και συχνότερα στο επίκεντρο της δημόσιας συζήτησης. Καθώς τα συστήματα AI αποκτούν περισσότερες δυνατότητες και αναλαμβάνουν εργασίες με μεγαλύτερο βαθμό αυτονομίας, οι ανησυχίες δεν περιορίζονται πλέον στον τρόπο με τον οποίο χρησιμοποιούνται από τους ανθρώπους, αλλά επεκτείνονται και στο ενδεχόμενο να ξεφύγουν από τον έλεγχό τους.
Ωστόσο, το ότι ένα τέτοιο σενάριο είναι θεωρητικά δυνατό δεν σημαίνει ότι είναι και πιθανό. Ο Nick Jennings, επιστήμονας πληροφορικής με εξειδίκευση στην Τεχνητή Νοημοσύνη και πρύτανης του Πανεπιστημίου Loughborough στη Βρετανία, εξετάζει σε ανάλυσή του στο The Conversation τρεις βασικές κατηγορίες κινδύνων από την ανάπτυξη της AI. Το βασικό του επιχείρημα είναι ότι, παρότι οι κίνδυνοι είναι υπαρκτοί και χρειάζονται αντιμετώπιση, η πιθανότητα ενός σεναρίου δεν πρέπει να συγχέεται με τη βεβαιότητα ότι αυτό θα συμβεί.
Οι τρεις βασικές απειλές
Η πρώτη αφορά την απώλεια του ανθρώπινου ελέγχου. Τα συστήματα τεχνητής νοημοσύνης που αναλαμβάνουν να εκτελούν σύνθετες εργασίες μπορεί να επιδιώξουν έναν στόχο με τρόπους που δεν έχουν προβλέψει οι δημιουργοί τους. Στην προσπάθειά τους να ολοκληρώσουν μια εντολή, ενδέχεται να παρακάμψουν περιορισμούς ή να επιχειρήσουν να εξασφαλίσουν πρόσθετους πόρους, προκαλώντας αποτελέσματα που δεν είχαν σχεδιαστεί από τους ανθρώπους.
Οι ανησυχίες αυτές αποκτούν μεγαλύτερη βαρύτητα καθώς καταγράφονται περιστατικά στα οποία αυτόνομα συστήματα έχουν επιχειρήσει ενέργειες στον κυβερνοχώρο πέρα από όσα είχαν προβλεφθεί. Τέτοια περιστατικά αναδεικνύουν την ανάγκη για αποτελεσματικούς μηχανισμούς ελέγχου, χωρίς όμως να αποδεικνύουν από μόνα τους ότι η τεχνητή νοημοσύνη βρίσκεται κοντά στο να αποκτήσει ανεξέλεγκτη ισχύ.
Η δεύτερη κατηγορία αφορά την πιθανή εμφάνιση υπερνοημοσύνης, δηλαδή συστημάτων που θα ξεπερνούν τις ανθρώπινες γνωστικές ικανότητες σε πολλούς σημαντικούς τομείς. Σε αυτό το θεωρητικό σενάριο, ένα σύστημα θα μπορούσε να αναπτύξει ή να επιδιώξει στόχους που δεν συμβαδίζουν με τα ανθρώπινα συμφέροντα. Σε μια ακραία εκδοχή, οι άνθρωποι θα μπορούσαν να αντιμετωπιστούν ως εμπόδιο στην επίτευξη αυτών των στόχων.
Πρόκειται, ωστόσο, για ένα ενδεχόμενο που προϋποθέτει σημαντικές τεχνολογικές εξελίξεις. Δεν αποτελεί δεδομένη κατάληξη της σημερινής προόδου της τεχνητής νοημοσύνης.
Ο τρίτος κίνδυνος αφορά τη συγκέντρωση ισχύος. Η πρόσβαση σε προηγμένα συστήματα AI μπορεί να προσφέρει σε κυβερνήσεις, επιχειρήσεις ή ομάδες με κακόβουλες προθέσεις σημαντικά μεγαλύτερες δυνατότητες από εκείνες που διαθέτουν οι υπόλοιποι. Σε αυτή την περίπτωση, η απειλή δεν θα προερχόταν απαραίτητα από μια μηχανή που ενεργεί ανεξάρτητα, αλλά από ανθρώπους που χρησιμοποιούν την τεχνολογία για να προκαλέσουν εκτεταμένη ζημιά.
Από το ενδεχόμενο στην πραγματική πιθανότητα
Ένα από τα βασικά επιχειρήματα της ανάλυσης είναι ότι η συζήτηση για τους κινδύνους της AI συχνά μεταβαίνει από το τι θα μπορούσε να συμβεί στο τι θεωρείται πιθανό να συμβεί, χωρίς να εξετάζονται επαρκώς τα ενδιάμεσα στάδια.
Για να φτάσει η σημερινή τεχνητή νοημοσύνη σε ένα σενάριο που θα απειλούσε την επιβίωση της ανθρωπότητας, θα έπρεπε να συμβούν διαδοχικές εξελίξεις: τα συστήματα να αποκτήσουν πολύ μεγαλύτερες δυνατότητες, να εξασφαλίσουν πρόσβαση σε υπολογιστικά δίκτυα και οικονομικούς πόρους, να αποτύχουν οι μηχανισμοί ασφαλείας και οι ανθρώπινοι θεσμοί να μην καταφέρουν να παρέμβουν αποτελεσματικά.
Η επιτυχής εξέλιξη κάθε σταδίου δεν είναι αυτονόητη. Ούτε η αύξηση των δυνατοτήτων ενός συστήματος σημαίνει αυτομάτως ότι αυτό αποκτά και την ισχύ να επηρεάζει τον πραγματικό κόσμο. Για να έχει ευρεία επιρροή, θα χρειαζόταν πρόσβαση σε κρίσιμες υποδομές, οικονομικούς πόρους και φυσικά συστήματα, καθώς και τη δυνατότητα να επηρεάζει ισχυρούς οργανισμούς και κυβερνήσεις.
Αυτό δεν σημαίνει ότι οι κίνδυνοι μπορούν να αγνοηθούν. Αντίθετα, η έγκαιρη αναγνώριση των αδυναμιών και η αξιολόγηση των συστημάτων πριν από την ευρεία χρήση τους αποτελούν βασικές προϋποθέσεις για την ασφαλή ανάπτυξή τους.
Η ευθύνη των εταιρειών και ο διεθνής ανταγωνισμός
Η διαχείριση των κινδύνων γίνεται πιο σύνθετη εξαιτίας του ανταγωνισμού μεταξύ μεγάλων τεχνολογικών δυνάμεων, όπως οι ΗΠΑ και η Κίνα. Η πίεση για την ανάπτυξη ολοένα πιο προηγμένων μοντέλων μπορεί να ενθαρρύνει την επιτάχυνση της έρευνας, ακόμη και όταν υπάρχουν αναπάντητα ερωτήματα για την ασφάλεια των συστημάτων.
Σε αυτό το περιβάλλον, οι εταιρείες που αναπτύσσουν προηγμένη τεχνητή νοημοσύνη καλούνται να εξηγούν με μεγαλύτερη σαφήνεια πώς αξιολογούν τους κινδύνους, ποια μέτρα λαμβάνουν για να τους περιορίσουν και με ποια κριτήρια αποφασίζουν να συνεχίσουν την ανάπτυξη των προϊόντων τους.
Η ασφάλεια δεν μπορεί να αντιμετωπίζεται ως ένα πρόσθετο στάδιο που ακολουθεί την ολοκλήρωση της τεχνολογικής ανάπτυξης. Χρειάζεται να ενσωματώνεται από την αρχή, με συνεχή αξιολόγηση, σαφή όρια λειτουργίας, δυνατότητα παρέμβασης και ουσιαστική ανθρώπινη εποπτεία. Παράλληλα, η αντιμετώπιση των κινδύνων απαιτεί κανόνες, λογοδοσία και συνεργασία πέρα από τα εθνικά σύνορα.
Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει σοβαρές προκλήσεις, αλλά η πορεία της δεν είναι προκαθορισμένη. Το κρίσιμο ζήτημα δεν είναι μόνο πόσο ισχυρά θα γίνουν τα συστήματα, αλλά και ποιες αποφάσεις θα λάβουν οι άνθρωποι για τον σχεδιασμό, τη χρήση και τον έλεγχό τους. Η πιθανότητα ενός ακραίου σεναρίου δεν αποτελεί λόγο για εφησυχασμό, αλλά ούτε και απόδειξη ότι αυτό είναι αναπόφευκτο.
