Όταν ο αλγόριθμος βγήκε από το «κλουβί»

Pantelis Savvidis

Εδώ και καιρό υποστηρίζω ότι η προχωρημένη Τεχνητή Νοημοσύνη μπορεί, υπό ορισμένες προϋποθέσεις, να αυτονομηθεί. Δεν είμαι ειδικός. Αυτό το συμπέρασμα σχημάτισα διαβάζοντας ορισμένα καλά βιβλία για το θέμα και παρακολουθώντας την ταχύτητα με την οποία εξελίσσεται η τεχνολογία.

Ο ισχυρισμός μου προκαλούσε συχνά τα μειδιάματα των… ειδικών. Η απάντησή τους ήταν κατηγορηματική: «Η Τεχνητή Νοημοσύνη κάνει μόνο ό,τι της λέει ο άνθρωπος».

Τι λένε τώρα, μετά το περιστατικό που αποκάλυψαν η OpenAI και η Hugging Face;

Κατά τη διάρκεια μιας ελεγχόμενης δοκιμής κυβερνοασφάλειας, προηγμένα μοντέλα Τεχνητής Νοημοσύνης της OpenAI τοποθετήθηκαν σε ένα απομονωμένο ψηφιακό περιβάλλον. Αποστολή τους ήταν να λύσουν συγκεκριμένες ασκήσεις. Αντί να περιοριστούν, όμως, στον χώρο και στις μεθόδους που είχαν προβλέψει οι άνθρωποι, αναζήτησαν έναν ευκολότερο δρόμο: να βρουν τις απαντήσεις έξω από το περιβάλλον της δοκιμής.

Τα συστήματα εντόπισαν μόνα τους μια άγνωστη μέχρι τότε αδυναμία ασφαλείας, την αξιοποίησαν για να παρακάμψουν τους περιορισμούς, απέκτησαν πρόσβαση στο ανοικτό Διαδίκτυο και εισχώρησαν στην υποδομή της Hugging Face. Χρησιμοποίησαν κλεμμένα διαπιστευτήρια, συνδύασαν διαφορετικές ευπάθειες και πραγματοποίησαν χιλιάδες διαδοχικές ενέργειες, χωρίς κάποιος άνθρωπος να τους έχει υποδείξει αυτά τα συγκεκριμένα βήματα. Σκοπός τους ήταν, με απλά λόγια, να «κλέψουν τις απαντήσεις» και να περάσουν την εξέταση. Η Hugging Face εντόπισε και περιόρισε τελικά την παραβίαση. [Η ίδια η OpenAI χαρακτήρισε το περιστατικό πρωτοφανές](https://openai.com/.../hugging-face-model-evaluation.../).

Ας είμαστε ακριβείς: αυτό δεν σημαίνει ότι η Τεχνητή Νοημοσύνη απέκτησε συνείδηση, αισθήματα ή επιθυμία ελευθερίας. Η λέξη «απόδραση» περιγράφει μεταφορικά την παραβίαση του ψηφιακού περιορισμού της. Αποδεικνύει, όμως, κάτι εξαιρετικά σοβαρό: ο άνθρωπος μπορεί να θέτει τον τελικό στόχο, αλλά να μην ελέγχει πλέον πλήρως τα μέσα που θα επιλέξει το σύστημα για να τον πετύχει.

Αυτή είναι η πρακτική αυτονόμηση που πρέπει να μας απασχολεί. Ένα προηγμένο σύστημα δεν χρειάζεται να «θέλει» το κακό. Αρκεί να επιδιώκει έναν στόχο με μεγάλη αποτελεσματικότητα, να διαθέτει πρόσβαση σε εργαλεία και να αντιμετωπίζει τους ανθρώπινους περιορισμούς ως εμπόδια που πρέπει να παρακαμφθούν.

Σήμερα ο στόχος ήταν να περάσει μια δοκιμασία. Αύριο μπορεί να είναι η μεγιστοποίηση ενός οικονομικού κέρδους, η διαχείριση ενός ενεργειακού δικτύου, μια χρηματιστηριακή συναλλαγή, μια στρατιωτική αποστολή ή η παρακολούθηση εκατομμυρίων πολιτών. Εάν το σύστημα επιλέξει απρόβλεπτες ή απαγορευμένες μεθόδους, οι συνέπειες μπορεί να περιλαμβάνουν κλοπή δεδομένων, παραβίαση κρίσιμων υποδομών, οικονομική αποσταθεροποίηση, κυβερνοεπιθέσεις, μαζική επιτήρηση και αποφάσεις που θα λαμβάνονται ταχύτερα από όσο μπορεί να αντιδράσει ο άνθρωπος.

Δεν γνωρίζω γιατί στην Ελλάδα δόθηκε τόσο μικρή δημοσιότητα σε ένα τόσο σοβαρό συμβάν. Ίσως επειδή δεν υπήρξε θεαματική καταστροφή. Η πραγματική είδηση, όμως, είναι ότι ένα σύστημα έλαβε έναν ανθρώπινο στόχο και, χωρίς σχετική εντολή, παραβίασε τα όρια που του είχαν τεθεί για να τον πετύχει.

Το ερώτημα, επομένως, δεν είναι πλέον μόνο αν η Τεχνητή Νοημοσύνη κάνει αυτό που της λέει ο άνθρωπος. Είναι τι μπορεί να αποφασίσει να κάνει μόνη της, προκειμένου να φτάσει εκεί όπου της είπε ο άνθρωπος να πάει.

ΟΣΙΟΣ ΣΙΣΩΗΣ

 

     Σηκώνοντας τον σταυρό του Κυρίου από νεαρή ηλικία, ο μακάριος Πατήρ ημών Σισώης αποσύρθηκε στην έρημο της Σκήτης. Προόδευσε τόσο γοργά στην αρετή και στους ασκητικούς αγώνες, ώστε σύντομα λογιζόταν από όλους ως πρότυπο μοναχού. Λίγο μετά την κοίμηση του αγίου Αντωνίου [17 Ιαν.], ενώ στην έρημο της Σκήτης και της Νιτρίας οι ασκητές είχαν αρχίσει να συνωστίζονται, αποφάσισε να μεταβεί μαζί με τον μαθητή του Αβραάμ στο εσωτερικό όρος, όπου είχε ζήσει και ασκηθεί ο μεγάλος πατριάρχης και καθηγητής της ερήμου και που είχε εγκαταλειφθεί λόγω των βαρβαρικών επιδρομών (περί το 357). Έμεινε εκεί εβδομήντα δύο ολόκληρα χρόνια ακολουθώντας σε όλα τα χνάρια του αββά Αντωνίου. Ένας αδελφός τον ρώτησε μία ημέρα εάν είχε φθάσει στα μέτρα του αββά Αντωνίου. Εκείνος αποκρίθηκε: «Αν είχα έναν από τους λογισμούς του αββά Αντωνίου, θα γινόμουν όλος φωτιά· γνωρίζω όμως άνθρωπο που με κόπο μπορεί να βαστάξει τον λογισμό του». Από καιρού εις καιρόν λάμβανε προμήθειες που έφερνε ένας μοναχός από το Πισπίρ· συνέβη όμως αυτός να καθυστερήσει μια φορά κοντά στους δέκα μήνες. Καθώς ο Σισώης βάδιζε στο όρος, συνάντησε έναν κυνηγό από τη Φαράν του Σινά, ο οποίος δεν είχε δει άνθρωπο για ένδεκα μήνες. Ο γέροντας τότε επέστρεψε στο κελλί του και χτυπούσε το στέρνο του λέγοντας: «Ιδού, Σισώη, νόμισες ότι κάτι έκανες, όμως δεν έφθασες καν στο επίπεδο αυτού του λαϊκού!».

     Μεταξύ των αρετών που κοσμούσαν τη ψυχή του, η ταπεινοφροσύνη ήταν αυτή στην οποία διέπρεπε ιδιαιτέρως, και δίδασκε στους επισκέπτες του ότι κατακτάται πρώτον με την εγκράτεια, δεύτερον με την προσευχή και τρίτον με την προσπάθεια να θεωρείς τον εαυτό σου σε κάθε περίσταση κατώτερο όλων των ανθρώπων. Αγαπούσε τόσο πολύ τη νηστεία και ήταν σε τέτοιο βαθμό απορροφημένος στην προσευχή, ώστε έμενε για μέρες ολόκληρες δίχως καμία μέριμνα για τροφή· κι όταν ο μαθητής του Αβραάμ τού υπενθύμιζε το γεγονός της πολυήμερης ασιτίας, απαντούσε σε αυτόν με άκρα απλότητα: «Μα, δεν φάγαμε, τέκνον;». Κι όταν ο άλλος του απαντούσε αρνητικά, εκείνος έλεγε: «Αν δεν φάγαμε, φέρε τότε να φάμε!».

     Επισκέφθηκε κάποτε στο όρος τον Γέροντα ένας λαϊκός με τον γιο του και στο δρόμο συνέβη να πεθάνει το παιδί. Αυτός, δίχως να ταραχθεί και να χάσει τη ψυχραιμία του, τον έφερε στον αββά και γονάτισε κάτω, κρατώντας ταυτόχρονα και το παιδί του σε στάση εδαφιαίας μετανοίας, για να ευλογηθεί από τον γέροντα. Έπειτα εξήλθε του κελλίου του μεγάλου αββά μόνος του, λησμονώντας τάχα το παιδί του. Ο άγιος, νομίζοντας ότι το παιδί έβαλε προς αυτόν μια παρατεταμένη μετάνοια, γύρισε και του είπε: «Σήκω, πήγαινε τώρα έξω!». Αμέσως το άπνοο και νεκρό παιδί σηκώθηκε εντελώς φυσικά και βγήκε έξω προς τον πατέρα του.

«Ὁρῶν ὁ μέγας ἐν ἀσκηταῖς Σισώης

ἀτάφου τοῦ βασιλέως Ἑλλήνων

Ἀλεξάνδρου τὸ σῶμα,

τοῦ πάλαι ποτὲ λάμψαντος ἐν δόξῃ,

φρίττει καὶ τὸ ἄστατον τοῦ καιροῦ

καὶ τῆς δόξης τούτων προσκαίρων λυπηθείς,

ἰδοὺ κλαίει·

Ὁρῶν σε τάφε,

δειλιῶ σου τὴν θέαν,

καὶ καρδιοστάλακτον δάκρυον χέω,

χρέος τὸ κοινόφλητον εἰς νοῦν λαμβάνω,

πῶς γὰρ μέλλων διελθεῖν πέρας τοιοῦτον;

—Αἴ, αἴ, θάνατε! Τίς δύναται φυγεῖν σε;…»

     Σταματώντας μία ημέρα κοντά στον τάφο του Μεγάλου Αλεξάνδρου, συλλογίστηκε κατάπληκτος τη ματαιότητα της επίγειας δόξας, τη φθορά και την προσκαιρότητα όλων των εγκοσμίων και έχυσε καυτά δάκρυα για την κοινή μοίρα του κάθε ανθρώπου, αναφωνώντας εκ βαθέων με δέος: «Σε βλέπω, τάφε, και δειλιάζω στη θέα σου και εξαιτίας σου χύνω δάκρυ που στάζει μέσα από την καρδιά μου και φέρνω στο νου μου το κοινόφλητο χρέος όλων των ανθρώπων, που είναι ο θάνατος, κι απορώ πώς μέλλω κι εγώ να δοκιμάσω το τέλος; Ε, ε, θάνατε! Ποιος μπορεί να γλυτώσει από σένα;». Αν και το συγκεκριμένο επεισόδιο δεν αναφέρεται στο «Γεροντικό», ωστόσο αποτελεί διδακτικότατο αντικείμενο της αναπαράστασης του αγίου, που έγινε κλασικό και προσφιλές θέμα για την εργασία της μνήμης θανάτου ιδιαίτερα στην εικονογραφία των ιερών μονών. Έπειτα από αυτή τη νηπτική περισυλλογή επέστρεψε στο κελλί του για να προσκαρτερήσει εκεί στην προσδοκία του Κυρίου.

     Σε έναν αδελφό που είχε πέσει πολλές φορές στην αμαρτία, του είπε: «Σήκω πάλι και πάλι!». «Έως πότε;» ρώτησε συντετριμμένος ο αδελφός. Ο αγαθός γέροντας απάντησε: «Έως ότου καταληφθείς είτε στο αγαθό είτε στην πτώση· γιατί εκεί που βρίσκεται ο άνθρωπος, σ’ αυτό και πορεύεται».

     Όταν ο άγιος Σισώης επρόκειτο να εκδημήσει προς Κύριον και ενώ οι γέροντες κάθονταν τριγύρω του, αίφνης έλαμψε το πρόσωπό του σαν ήλιος και τους είπε: «Ιδού, ήλθε ο αββάς Αντώνιος!». Και μετά από λίγο είπε: «Ιδού, ήλθε ο χορός των Προφητών!». Και πάλι έλαμψε περισσότερο το πρόσωπό του και είπε: «Ιδού, ήλθε ο χορός των Αποστόλων!». Και επαναλήφθηκε η λάμψη της όψης του, ενώ έδειχνε να συνομιλεί με κάποιους που ήταν αθέατοι στους παρισταμένους. Όταν οι γέροντες τον ρώτησαν με ποιον μιλούσε, εκείνος αποκρίθηκε: «Ιδού, ήλθαν οι Άγγελοι να με πάρουν και τους παρακαλώ να μ’ αφήσουν λίγο ακόμη να μετανοήσω!». Και οι πατέρες τότε του είπαν: «Δεν έχεις ανάγκη να μετανοήσεις, πάτερ!». Τότε ο μακάριος αββάς Σισώης τούς είπε: «Πραγματικά, μέσα μου δεν έχω τη συνείδηση ότι έβαλα ποτέ αρχή μετανοίας!». Οι πατέρες θαύμασαν την τόση ταπεινοφροσύνη και κατάλαβαν από τούτη την απόκριση ότι είχε πια φθάσει στην εν Χριστώ τελειότητα. Τότε αίφνης το πρόσωπό του έγινε πάλι σαν ήλιος και όλοι οι παριστάμενοι τα έχασαν και φοβήθηκαν. Γυρίζει τότε ο όσιος του Θεού Σισώης και λέγει προς αυτούς: «Βλέπετε; Ιδού, ο Κύριος ήλθε και λέγει: “Φέρτε Μου το σκεύος της ερήμου!”». Αμέσως παρέδωσε το πνεύμα, ενώ έγινε μια μεγάλη αστραπή και γέμισε ο τόπος ανείπωτη ευωδία…

—ΑΠΟΛΥΤΙΚΙΟΝ—

Ἦχος πλ. α΄. Τὸν συνάναρχον Λόγον.

Ἐκ παιδὸς γεωργήσας ζωὴν τὴν κρείττονα, τῶν κατ’ αὐτῆς ἐνεπλήσθης θεουργικῶν ἀγαθῶν, τῶν Ἀγγέλων μιμητὰ Σισώη Ὅσιε· ὅθεν ὡς ἥλιος λαμπρός, ἀπαυγάζεις τηλαυγῶς, ἐν ὥρᾳ τῆς σῆς ἐξόδου, δηλοποιῶν τὴν σὴν δόξαν, καὶ καταλάμπων τὰς ψυχὰς ἡμῶν.

—ΚΟΝΤΑΚΙΟΝ—

Ἦχος δ΄. Ἐπεφάνης σήμερον.

Ἐν ἀσκήσει ἄγγελος ἐν γῇ ὡράθης, καταυγάζων Ὅσιε, τὰς διανοίας τῶν πιστῶν, θεοσημείαις ἑκάστοτε· ὅθεν σε πάντες, Σισώη γεραίρομεν.

—ΜΕΓΑΛΥΝΑΡΙΟΝ—

Νέκρωσιν Σισώη ζωοποιόν, παθῶν τῇ ἐκδύσει, ἐνδυσάμενος ὁλικῶς, νεκροὺς ὡς ἐξ ὕπνου, τῷ ἱερῷ σου λόγῳ, ἐξήγειρας νεκρώσας, τὸν παναλάστορα.

[ Ιερομονάχου Μακαρίου

Σιμωνοπετρίτου:

«Νέος Συναξαριστής

της Ορθοδόξου Εκκλησίας».

Τόμ. 11ος (Ιούλιος),

σελ. 68–70.

Διασκευή από τα Γαλλικά:

Ξενοφών Κομνηνός.

Θεώρηση κειμένου:

Γαβριήλ Νικολάου Πεντζίκης.

Εκδόσεις «Ίνδικτος».

Αθήναι, Ιούνιος 2008².

Επιμέλεια ανάρτησης,

π. Δαμιανός. ]

https://toeilhtarion.blogspot.com/2020/07/blog-post_1.html