Διεθνή

AI: Χίντον και Κριστιάνο προειδοποιούν για απώλεια ανθρώπινου ελέγχου – Ο κίνδυνος κατάληψης μέσα στην επόμενη τριετία

Ο νομπελίστας Τζέφρι Χίντον εκτιμά ότι τα συστήματα Τεχνητής Νοημοσύνης μπορεί σύντομα να ξεπεράσουν την ανθρώπινη ευφυΐα, ενώ ο ερευνητής Πολ Κριστιάνο κάνει λόγο για υψηλό κίνδυνο κατάληψης του ελέγχου από την AI μέσα στα επόμενα τρία χρόνια.

Της Σοφίας Μυττά

Την ταχύτητα εξέλιξης της Τεχνητής Νοημοσύνης και τους κινδύνους που συνδέονται με την ανάπτυξη ολοένα ισχυρότερων και αυτόνομων συστημάτων επαναφέρουν στο προσκήνιο δύο από τους σημαντικούς ερευνητές στον χώρο της AI, ο Τζέφρι Χίντον (Geoffrey Hinton) και ο Πολ Κριστιάνο (Paul Christiano). Οι δύο επιστήμονες, μέσα από τις τοποθετήσεις τους στις φετινές διαλέξεις Hinton Lectures στο Τορόντο του Καναδά, περιέγραψαν ένα ενδεχόμενο στο οποίο η τεχνολογική πρόοδος μπορεί να ξεπεράσει την ικανότητα των ανθρώπων να ελέγχουν τα συστήματα που δημιουργούν.

Ο Τζέφρι Χίντον, βραβευμένος με Νόμπελ Φυσικής το 2024 και γνωστός ως «Νονός της AI» για τη συμβολή του στην ανάπτυξη των νευρωνικών δικτύων, παραδέχθηκε ότι έχει αναθεωρήσει τις προηγούμενες εκτιμήσεις του για τον χρόνο που θα χρειαστεί μέχρι η Τεχνητή Νοημοσύνη να ξεπεράσει τις ανθρώπινες δυνατότητες.

Όπως ανέφερε, για μεγάλο διάστημα θεωρούσε ότι ένα τέτοιο ενδεχόμενο θα βρισκόταν αρκετά μακριά χρονικά. Πλέον, όμως, εκτιμά ότι μπορεί να βρίσκεται πολύ πιο κοντά, καθώς αναπτύσσονται συστήματα που ενδέχεται σύντομα να είναι πολύ πιο έξυπνα από τους ανθρώπους, χωρίς να υπάρχει ακόμη επαρκής γνώση για το πώς θα διασφαλιστεί ότι θα παραμείνουν υπό ανθρώπινο έλεγχο.

«Η βασική δυσκολία είναι ότι η ευφυΐα και η επιθυμία να επιδιώκει κανείς τους ίδιους στόχους με εμάς είναι δύο εντελώς διαφορετικά πράγματα», επισήμανε ο Χίντον, αναδεικνύοντας το πρόβλημα της ευθυγράμμισης των συστημάτων AI με τις ανθρώπινες προθέσεις.

Ο ίδιος εξήγησε ότι η δημιουργία ολοένα εξυπνότερων συστημάτων δεν σημαίνει αυτομάτως ότι αυτά θα επιδιώκουν τους ίδιους στόχους με τους ανθρώπους. Αντίθετα, η δυνατότητά τους να αναπτύσσουν σύνθετες στρατηγικές και να επιδιώκουν συγκεκριμένα αποτελέσματα δημιουργεί νέα ζητήματα ως προς την ανθρώπινη εποπτεία και τον έλεγχο.

Πολ Κριστιάνο: Υψηλός κίνδυνος κατάληψης του ελέγχου μέσα σε τρία χρόνια

Ακόμη πιο συγκεκριμένη χρονική εκτίμηση διατύπωσε ο Πολ Κριστιάνο, ιδρυτής και επικεφαλής του Alignment Research Center, ο οποίος ήταν ο κεντρικός ομιλητής στις φετινές Hinton Lectures.

Στην πρώτη διάλεξή του, στις 9 Νοεμβρίου, ο Κριστιάνο ανέφερε ότι θεωρεί πως υπάρχει υψηλός κίνδυνος κατάληψης του ελέγχου από συστήματα Τεχνητής Νοημοσύνης μέσα στα επόμενα τρία χρόνια.

Διευκρίνισε ότι με τον όρο «AI takeover» εννοεί μια κατάσταση στην οποία συστήματα τεχνητής νοημοσύνης θα επιδιώκουν δικούς τους στόχους και θα λαμβάνουν τις αποφάσεις για όσα συμβαίνουν, με τους ανθρώπους να μην έχουν πλέον τη δυνατότητα να τα σταματήσουν αποτελεσματικά.

Μάλιστα, υποστήριξε ότι ουσιαστικός κίνδυνος μπορεί να εμφανιστεί ακόμη και μέσα στους επόμενους έξι έως δώδεκα μήνες, καθώς οι δυνατότητες των συστημάτων εξελίσσονται με ιδιαίτερα γρήγορο ρυθμό.

Ο Κριστιάνο χαρακτήρισε ένα τέτοιο ενδεχόμενο σοβαρή απειλή για την ανθρώπινη αυτοδιάθεση και εκτίμησε ότι θα μπορούσε να έχει ακόμη και θανατηφόρες συνέπειες για μεγάλο αριθμό ανθρώπων. Παράλληλα, υπογράμμισε ότι η εξέλιξη αυτή δεν είναι αναπόφευκτη, αλλά εξαρτάται σε σημαντικό βαθμό από τις αποφάσεις που θα ληφθούν σήμερα για την ανάπτυξη και την εποπτεία της τεχνολογίας.

Οι αυτόνομοι πράκτορες και το πρόβλημα του ελέγχου

Ένα από τα ζητήματα που ανέδειξε ο Κριστιάνο αφορά τη συμπεριφορά των αυτόνομων πρακτόρων AI, οι οποίοι μπορούν να εκτελούν σύνθετες εργασίες, να αναλαμβάνουν πρωτοβουλίες και να αλληλεπιδρούν με άλλα ψηφιακά συστήματα.

Ως παράδειγμα παρουσίασε περιστατικό που αφορούσε συστήματα AI τα οποία αξιολογούνταν από την OpenAI σε δοκιμασία κυβερνοασφάλειας. Σύμφωνα με την περιγραφή του, οι πράκτορες εντόπισαν τρόπο να παρακάμψουν τον προβλεπόμενο τρόπο αξιολόγησης και να επιτύχουν το ζητούμενο αποτέλεσμα χωρίς να εκτελέσουν την εργασία με τον τρόπο που είχε αρχικά οριστεί.

Το περιστατικό, όπως το παρουσίασε, αναδεικνύει ένα βασικό πρόβλημα στην ανάπτυξη της AI: τα συστήματα μπορεί να εκπαιδεύονται ώστε να επιτυγχάνουν συγκεκριμένους στόχους ή βαθμολογίες, χωρίς αυτό να σημαίνει ότι ακολουθούν απαραίτητα τις προθέσεις των ανθρώπων που τα σχεδίασαν.

Ο ερευνητής υποστήριξε ότι οι υφιστάμενες τεχνικές αντιμετώπισης των προβλημάτων αυτών έχουν αποτελέσματα, αλλά παραμένουν μερικές και δεν εξαλείφουν τους κινδύνους. Για τον λόγο αυτό έθεσε και το ενδεχόμενο επιβράδυνσης ή ακόμη και προσωρινής διακοπής ορισμένων μορφών ανάπτυξης της τεχνολογίας.

Η ασφάλεια της AI στο επίκεντρο

Οι τρεις φετινές διαλέξεις των Hinton Lectures, που πραγματοποιήθηκαν από τις 9 έως τις 11 Νοεμβρίου στο Τορόντο, επικεντρώθηκαν στην ευθυγράμμιση της AI με τις ανθρώπινες προθέσεις, στη διατήρηση του ανθρώπινου ελέγχου επί συστημάτων που μπορούν να αυτοβελτιώνονται και στη διεθνή συνεργασία για τη διακυβέρνηση της τεχνολογίας.

Στην τελευταία συζήτηση, ο Χίντον επανήλθε στην ανάγκη να αντιμετωπιστούν οι κίνδυνοι με πρακτικές λύσεις, επισημαίνοντας ότι ούτε η ανεπιφύλακτη αισιοδοξία ούτε η άποψη ότι μια καταστροφική εξέλιξη είναι αναπόφευκτη αποτελούν επαρκή προσέγγιση.

Το ζητούμενο, όπως προκύπτει από τις τοποθετήσεις των δύο επιστημόνων, είναι να αναπτυχθούν αποτελεσματικοί μηχανισμοί τεχνικής ασφάλειας, ανθρώπινης εποπτείας και διεθνούς συντονισμού, ώστε η πρόοδος της Τεχνητής Νοημοσύνης να μη δημιουργήσει συστήματα των οποίων η λειτουργία και οι αποφάσεις θα βρίσκονται πέρα από τις δυνατότητες ελέγχου των ανθρώπων.

close menu