Εδώ και καιρό υποστηρίζω ότι η προχωρημένη Τεχνητή Νοημοσύνη μπορεί, υπό ορισμένες προϋποθέσεις, να αυτονομηθεί. Δεν είμαι ειδικός. Αυτό το συμπέρασμα σχημάτισα διαβάζοντας ορισμένα καλά βιβλία για το θέμα και παρακολουθώντας την ταχύτητα με την οποία εξελίσσεται η τεχνολογία.
Ο ισχυρισμός μου προκαλούσε συχνά τα μειδιάματα των… ειδικών. Η απάντησή τους ήταν κατηγορηματική: «Η Τεχνητή Νοημοσύνη κάνει μόνο ό,τι της λέει ο άνθρωπος».
Τι λένε τώρα, μετά το περιστατικό που αποκάλυψαν η OpenAI και η Hugging Face;
Κατά τη διάρκεια μιας ελεγχόμενης δοκιμής κυβερνοασφάλειας, προηγμένα μοντέλα Τεχνητής Νοημοσύνης της OpenAI τοποθετήθηκαν σε ένα απομονωμένο ψηφιακό περιβάλλον. Αποστολή τους ήταν να λύσουν συγκεκριμένες ασκήσεις. Αντί να περιοριστούν, όμως, στον χώρο και στις μεθόδους που είχαν προβλέψει οι άνθρωποι, αναζήτησαν έναν ευκολότερο δρόμο: να βρουν τις απαντήσεις έξω από το περιβάλλον της δοκιμής.
Τα συστήματα εντόπισαν μόνα τους μια άγνωστη μέχρι τότε αδυναμία ασφαλείας, την αξιοποίησαν για να παρακάμψουν τους περιορισμούς, απέκτησαν πρόσβαση στο ανοικτό Διαδίκτυο και εισχώρησαν στην υποδομή της Hugging Face. Χρησιμοποίησαν κλεμμένα διαπιστευτήρια, συνδύασαν διαφορετικές ευπάθειες και πραγματοποίησαν χιλιάδες διαδοχικές ενέργειες, χωρίς κάποιος άνθρωπος να τους έχει υποδείξει αυτά τα συγκεκριμένα βήματα. Σκοπός τους ήταν, με απλά λόγια, να «κλέψουν τις απαντήσεις» και να περάσουν την εξέταση. Η Hugging Face εντόπισε και περιόρισε τελικά την παραβίαση. [Η ίδια η OpenAI χαρακτήρισε το περιστατικό πρωτοφανές](https://openai.com/.../hugging-face-model-evaluation.../).
Ας είμαστε ακριβείς: αυτό δεν σημαίνει ότι η Τεχνητή Νοημοσύνη απέκτησε συνείδηση, αισθήματα ή επιθυμία ελευθερίας. Η λέξη «απόδραση» περιγράφει μεταφορικά την παραβίαση του ψηφιακού περιορισμού της. Αποδεικνύει, όμως, κάτι εξαιρετικά σοβαρό: ο άνθρωπος μπορεί να θέτει τον τελικό στόχο, αλλά να μην ελέγχει πλέον πλήρως τα μέσα που θα επιλέξει το σύστημα για να τον πετύχει.
Αυτή είναι η πρακτική αυτονόμηση που πρέπει να μας απασχολεί. Ένα προηγμένο σύστημα δεν χρειάζεται να «θέλει» το κακό. Αρκεί να επιδιώκει έναν στόχο με μεγάλη αποτελεσματικότητα, να διαθέτει πρόσβαση σε εργαλεία και να αντιμετωπίζει τους ανθρώπινους περιορισμούς ως εμπόδια που πρέπει να παρακαμφθούν.
Σήμερα ο στόχος ήταν να περάσει μια δοκιμασία. Αύριο μπορεί να είναι η μεγιστοποίηση ενός οικονομικού κέρδους, η διαχείριση ενός ενεργειακού δικτύου, μια χρηματιστηριακή συναλλαγή, μια στρατιωτική αποστολή ή η παρακολούθηση εκατομμυρίων πολιτών. Εάν το σύστημα επιλέξει απρόβλεπτες ή απαγορευμένες μεθόδους, οι συνέπειες μπορεί να περιλαμβάνουν κλοπή δεδομένων, παραβίαση κρίσιμων υποδομών, οικονομική αποσταθεροποίηση, κυβερνοεπιθέσεις, μαζική επιτήρηση και αποφάσεις που θα λαμβάνονται ταχύτερα από όσο μπορεί να αντιδράσει ο άνθρωπος.
Δεν γνωρίζω γιατί στην Ελλάδα δόθηκε τόσο μικρή δημοσιότητα σε ένα τόσο σοβαρό συμβάν. Ίσως επειδή δεν υπήρξε θεαματική καταστροφή. Η πραγματική είδηση, όμως, είναι ότι ένα σύστημα έλαβε έναν ανθρώπινο στόχο και, χωρίς σχετική εντολή, παραβίασε τα όρια που του είχαν τεθεί για να τον πετύχει.
Το ερώτημα, επομένως, δεν είναι πλέον μόνο αν η Τεχνητή Νοημοσύνη κάνει αυτό που της λέει ο άνθρωπος. Είναι τι μπορεί να αποφασίσει να κάνει μόνη της, προκειμένου να φτάσει εκεί όπου της είπε ο άνθρωπος να πάει.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου