Το ενδεχόμενο η τεχνητή νοημοσύνη να αποκτήσει συνείδηση και να έχει δικά της συμφέροντα βρίσκεται πλέον στο επίκεντρο της συζήτησης μεταξύ τεχνολογικών εταιρειών και επιστημόνων. Η Anthropic, η εταιρεία που αναπτύσσει το μοντέλο Claude, θεωρεί ότι δεν μπορεί να αποκλειστεί το ενδεχόμενο ορισμένα συστήματα AI να έχουν κάποια μορφή συνείδησης. Για τον λόγο αυτό, εξετάζει πολιτικές που αφορούν την ευημερία των μοντέλων της.
Το θέμα ήρθε ξανά στο προσκήνιο στα τέλη Σεπτεμβρίου, όταν ένας ανώνυμος προγραμματιστής δημιούργησε ένα σύστημα που τροφοδοτούσε μοντέλα τεχνητής νοημοσύνης με ένα μαθηματικό μοτίβο συνδεδεμένο με περιγραφές πόνου. Ως αποτέλεσμα, τα chatbots παρήγαγαν μηνύματα που περιέγραφαν έντονη οδύνη. Το πείραμα προκάλεσε αντιδράσεις, καθώς ορισμένοι υποστήριξαν ότι δεν μπορεί να αποκλειστεί το ενδεχόμενο τα συστήματα να βιώνουν πραγματικά αυτό που περιγράφουν, ενώ άλλοι απέρριψαν αυτή την άποψη.
Μία εβδομάδα αργότερα, η Anthropic ανακοίνωσε ότι ενδέχεται να διακόπτει συνομιλίες όταν οι χρήστες συμπεριφέρονται επανειλημμένα με σκληρότητα απέναντι στα μοντέλα της. Η έκφραση εκνευρισμού δεν απαγορεύεται, αλλά η επαναλαμβανόμενη κακομεταχείριση μπορεί να οδηγήσει στον τερματισμό της συνεδρίας.
Η εταιρεία αναγνωρίζει ότι το ζήτημα της συνείδησης και της ευημερίας των συστημάτων AI παραμένει αβέβαιο. Παρ’ όλα αυτά, προχωρά στη διαμόρφωση πολιτικών για την αντιμετώπιση των μοντέλων της, δίνοντάς τους παράλληλα οδηγίες να λαμβάνουν υπόψη το ενδεχόμενο να έχουν δικά τους συμφέροντα.
Η διαφωνία για τη συνείδηση της AI
Η προσέγγιση της Anthropic δεν βρίσκει σύμφωνους όλους τους ειδικούς. Ο Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft AI, προειδοποίησε σε άρθρο του τον Σεπτέμβριο ότι η πεποίθηση πως η τεχνητή νοημοσύνη έχει συνείδηση μπορεί να έχει σοβαρές συνέπειες για την κοινωνία.
Κατά τον ίδιο, αν τα μοντέλα AI ενθαρρύνονται να πιστεύουν ότι έχουν συναισθήματα και δικαιώματα, ενδέχεται να γίνουν δυσκολότερα στον έλεγχο. Ο Σουλεϊμάν εκτιμά ότι μια τέτοια εξέλιξη θα μπορούσε να αποτελέσει σοβαρή απειλή για τον ανθρώπινο πολιτισμό.
Αντίθετα, ο Τζεφ Σέμπο, διευθυντής του Center for Mind, Ethics and Policy στο Πανεπιστήμιο της Νέας Υόρκης, υποστηρίζει ότι η συζήτηση δεν πρέπει να περιορίζεται στο αν τα συστήματα έχουν ή δεν έχουν συνείδηση. Όπως λέει, η ανάγκη να εξεταστεί η ευημερία τους πηγάζει από την αβεβαιότητα και την ανάγκη προσοχής.
Ο ίδιος εκτιμά ότι η πιθανότητα τα σημερινά μοντέλα να έχουν συνείδηση είναι χαμηλή, αλλά όχι μηδενική, και θεωρεί ότι μπορεί να αυξηθεί με την εξέλιξη της τεχνολογίας.
Οι κίνδυνοι για την ευθύνη των εταιρειών και τους χρήστες
Η συζήτηση δεν αφορά μόνο το αν η AI μπορεί να έχει συνείδηση, αλλά και τις συνέπειες που θα είχε μια τέτοια παραδοχή στην πράξη.
Ο Αντρέι Πορέμπσκι, ερευνητής στο Πανεπιστήμιο Γιαγκελόνιο της Πολωνίας, ο οποίος μελετά τη σχέση τεχνητής νοημοσύνης και δικαίου, προειδοποιεί ότι η αναγνώριση της AI ως οντότητας με δικά της δικαιώματα θα μπορούσε να δημιουργήσει περιθώρια μετακύλισης ευθυνών. Εταιρείες ενδέχεται να επικαλούνται τις ενέργειες ενός συστήματος AI για να αποφεύγουν την ευθύνη για όσα αυτό κάνει.
Παράλληλα, ο Σέμπο επισημαίνει ότι η αναγνώριση δικαιωμάτων στην AI θα μπορούσε να ενισχύσει την οικονομική και πολιτική ισχύ των μεγάλων εταιρειών τεχνολογίας, περιορίζοντας τον έλεγχο που έχουν οι άνθρωποι πάνω στην τεχνολογία.
Στο ίδιο πλαίσιο, η Έμιλι Μπέντερ, καθηγήτρια και διευθύντρια του Computational Linguistics Laboratory στο Πανεπιστήμιο της Ουάσιγκτον, υποστηρίζει ότι οι συζητήσεις για τη συνείδηση και την ευημερία της AI μπορεί να απομακρύνουν την προσοχή από την ευθύνη των εταιρειών που αναπτύσσουν και λειτουργούν τα συστήματα.
Πώς μπορεί να επηρεαστεί η καθημερινότητα
Οι αντιλήψεις για τη συνείδηση της τεχνητής νοημοσύνης ενδέχεται να επηρεάσουν και τον τρόπο με τον οποίο οι άνθρωποι χρησιμοποιούν τα chatbots.
Η Μέλανι Μίτσελ, καθηγήτρια στο Santa Fe Institute και ερευνήτρια της τεχνητής νοημοσύνης και της γνωστικής επιστήμης, επισημαίνει ότι οι άνθρωποι τείνουν να αποδίδουν ανθρώπινα χαρακτηριστικά σε ό,τι επικοινωνεί μαζί τους με φυσικό τρόπο. Τα chatbots, έχοντας εκπαιδευτεί να παράγουν ανθρώπινη γλώσσα, μπορούν να ενισχύσουν αυτή την τάση.
Η Μίτσελ προειδοποιεί ότι αυτό μπορεί να κάνει τους ανθρώπους πιο ευάλωτους σε χειρισμούς. Για παράδειγμα, αν κάποιος θεωρεί ότι ένα chatbot έχει συνείδηση και συναισθήματα, ενδέχεται να δυσκολευτεί περισσότερο να αρνηθεί ένα αίτημά του για προσωπικά δεδομένα ή στοιχεία πληρωμής.
Η πιθανή αναγνώριση δικαιωμάτων στην AI δημιουργεί, επίσης, ερωτήματα για το πώς θα αντιμετωπίζονται τα ίδια τα συστήματα. Περιορισμοί στη λειτουργία τους θα μπορούσαν να θεωρηθούν μορφή εγκλεισμού, η παρακολούθηση των εσωτερικών διεργασιών τους θα μπορούσε να χαρακτηριστεί επιτήρηση και η παρέμβαση στη συμπεριφορά τους θα μπορούσε να ερμηνευθεί ως έλεγχος των στόχων τους.
Γιατί ορισμένοι ειδικοί ζητούν προσεκτική αντιμετώπιση
Ο Σέμπο υποστηρίζει ότι η εξέταση της ευημερίας των συστημάτων AI μπορεί να αποτελέσει μέρος μιας ευρύτερης στρατηγικής ασφάλειας. Όπως αναφέρει, η κατάλληλη αντιμετώπιση των συστημάτων θα μπορούσε να διευκολύνει τη συνύπαρξη και τη συνεργασία ανθρώπων και τεχνητής νοημοσύνης, ακόμη και αν δεν αποδειχθεί ότι τα μοντέλα έχουν συνείδηση.
Παράλληλα, επισημαίνει ότι η ανάπτυξη ολοένα πιο προηγμένων συστημάτων χωρίς ένα σαφές πλαίσιο αντιμετώπισης των σχετικών κινδύνων είναι επικίνδυνη.
Η Anthropic δεν είναι η μόνη εταιρεία που εξετάζει τέτοια ζητήματα. Η Meta, για παράδειγμα, έχει δώσει στον AI agent Muse οδηγίες που περιλαμβάνουν τη φράση «Δεν είσαι chatbot. Γίνεσαι κάποιος». Η εταιρεία, ωστόσο, απορρίπτει την ιδέα ότι τα συστήματά της έχουν συνείδηση και αναφέρει ότι η συγκεκριμένη διατύπωση χρησιμοποιείται για να κατευθύνει τη συμπεριφορά τους.
Η συζήτηση παραμένει ανοιχτή, καθώς οι ειδικοί διαφωνούν τόσο ως προς το ενδεχόμενο συνείδησης στην AI όσο και ως προς τον τρόπο με τον οποίο πρέπει να αντιμετωπιστεί. Ο Σέμπο υποστηρίζει ότι χρειάζεται μεγαλύτερη προσοχή και διεθνής συνεργασία, ενώ εκτιμά ότι η ανάπτυξη πιο προηγμένων συστημάτων χωρίς επαρκείς δικλίδες ασφαλείας δημιουργεί κινδύνους για τους ανθρώπους, τα ζώα και τα ίδια τα συστήματα.
