Όταν ο αλγόριθμος βγήκε από το «κλουβί»

Pantelis Savvidis

Εδώ και καιρό υποστηρίζω ότι η προχωρημένη Τεχνητή Νοημοσύνη μπορεί, υπό ορισμένες προϋποθέσεις, να αυτονομηθεί. Δεν είμαι ειδικός. Αυτό το συμπέρασμα σχημάτισα διαβάζοντας ορισμένα καλά βιβλία για το θέμα και παρακολουθώντας την ταχύτητα με την οποία εξελίσσεται η τεχνολογία.

Ο ισχυρισμός μου προκαλούσε συχνά τα μειδιάματα των… ειδικών. Η απάντησή τους ήταν κατηγορηματική: «Η Τεχνητή Νοημοσύνη κάνει μόνο ό,τι της λέει ο άνθρωπος».

Τι λένε τώρα, μετά το περιστατικό που αποκάλυψαν η OpenAI και η Hugging Face;

Κατά τη διάρκεια μιας ελεγχόμενης δοκιμής κυβερνοασφάλειας, προηγμένα μοντέλα Τεχνητής Νοημοσύνης της OpenAI τοποθετήθηκαν σε ένα απομονωμένο ψηφιακό περιβάλλον. Αποστολή τους ήταν να λύσουν συγκεκριμένες ασκήσεις. Αντί να περιοριστούν, όμως, στον χώρο και στις μεθόδους που είχαν προβλέψει οι άνθρωποι, αναζήτησαν έναν ευκολότερο δρόμο: να βρουν τις απαντήσεις έξω από το περιβάλλον της δοκιμής.

Τα συστήματα εντόπισαν μόνα τους μια άγνωστη μέχρι τότε αδυναμία ασφαλείας, την αξιοποίησαν για να παρακάμψουν τους περιορισμούς, απέκτησαν πρόσβαση στο ανοικτό Διαδίκτυο και εισχώρησαν στην υποδομή της Hugging Face. Χρησιμοποίησαν κλεμμένα διαπιστευτήρια, συνδύασαν διαφορετικές ευπάθειες και πραγματοποίησαν χιλιάδες διαδοχικές ενέργειες, χωρίς κάποιος άνθρωπος να τους έχει υποδείξει αυτά τα συγκεκριμένα βήματα. Σκοπός τους ήταν, με απλά λόγια, να «κλέψουν τις απαντήσεις» και να περάσουν την εξέταση. Η Hugging Face εντόπισε και περιόρισε τελικά την παραβίαση. [Η ίδια η OpenAI χαρακτήρισε το περιστατικό πρωτοφανές](https://openai.com/.../hugging-face-model-evaluation.../).

Ας είμαστε ακριβείς: αυτό δεν σημαίνει ότι η Τεχνητή Νοημοσύνη απέκτησε συνείδηση, αισθήματα ή επιθυμία ελευθερίας. Η λέξη «απόδραση» περιγράφει μεταφορικά την παραβίαση του ψηφιακού περιορισμού της. Αποδεικνύει, όμως, κάτι εξαιρετικά σοβαρό: ο άνθρωπος μπορεί να θέτει τον τελικό στόχο, αλλά να μην ελέγχει πλέον πλήρως τα μέσα που θα επιλέξει το σύστημα για να τον πετύχει.

Αυτή είναι η πρακτική αυτονόμηση που πρέπει να μας απασχολεί. Ένα προηγμένο σύστημα δεν χρειάζεται να «θέλει» το κακό. Αρκεί να επιδιώκει έναν στόχο με μεγάλη αποτελεσματικότητα, να διαθέτει πρόσβαση σε εργαλεία και να αντιμετωπίζει τους ανθρώπινους περιορισμούς ως εμπόδια που πρέπει να παρακαμφθούν.

Σήμερα ο στόχος ήταν να περάσει μια δοκιμασία. Αύριο μπορεί να είναι η μεγιστοποίηση ενός οικονομικού κέρδους, η διαχείριση ενός ενεργειακού δικτύου, μια χρηματιστηριακή συναλλαγή, μια στρατιωτική αποστολή ή η παρακολούθηση εκατομμυρίων πολιτών. Εάν το σύστημα επιλέξει απρόβλεπτες ή απαγορευμένες μεθόδους, οι συνέπειες μπορεί να περιλαμβάνουν κλοπή δεδομένων, παραβίαση κρίσιμων υποδομών, οικονομική αποσταθεροποίηση, κυβερνοεπιθέσεις, μαζική επιτήρηση και αποφάσεις που θα λαμβάνονται ταχύτερα από όσο μπορεί να αντιδράσει ο άνθρωπος.

Δεν γνωρίζω γιατί στην Ελλάδα δόθηκε τόσο μικρή δημοσιότητα σε ένα τόσο σοβαρό συμβάν. Ίσως επειδή δεν υπήρξε θεαματική καταστροφή. Η πραγματική είδηση, όμως, είναι ότι ένα σύστημα έλαβε έναν ανθρώπινο στόχο και, χωρίς σχετική εντολή, παραβίασε τα όρια που του είχαν τεθεί για να τον πετύχει.

Το ερώτημα, επομένως, δεν είναι πλέον μόνο αν η Τεχνητή Νοημοσύνη κάνει αυτό που της λέει ο άνθρωπος. Είναι τι μπορεί να αποφασίσει να κάνει μόνη της, προκειμένου να φτάσει εκεί όπου της είπε ο άνθρωπος να πάει.

Η '' ΠΛΗΡΟΦΟΡΙΑ '' ΣΤΗΝ ΖΩΗ ΜΑΣ

Εἶναι πέρα γιὰ πέρα ἀλήθεια αὐτὸ ποὺ ἔχει λεχθεῖ, ὅτι στὴν ἐποχή μας ἕνα ἀπὸ τὰ πιὸ ἀκριβοπληρωμένα ἀγαθὰ εἶναι ἡ πληροφορία. Γιὰ τὴν ἀνεύρεση τῶν εἰδήσεων, τὴ συλλογή τους, τὴ διαχείριση καὶ τὴ μετάδοσή τους ξοδεύονται τεράστια ποσά. Κι ὅσοι ὄχι ἁπλῶς ἔχουν πρόσβαση σ’ αὐτήν, ἀλλὰ μποροῦν μὲ τὸν ὁποιονδήποτε τρόπο νὰ τὴ διαχειρίζονται καὶ νὰ τὴ μεταδίδουν, δὲν βρίσκονται μόνο στὴν κορυφὴ τῆς κοινωνικῆς πυραμίδας, ἀλλὰ ἄρχουν καὶ κινοῦν τὰ νήματα τῆς σύγχρονης κοινωνίας. 

Ἡ διαχείριση τῶν πληροφοριῶν δὲν εἶναι μόνο μιὰ ἀπὸ τὶς πιὸ ἐπίκαιρες βιομηχανίες, ἀλλὰ πολὺ περισσότερο εἶναι μιά – ἴσως ἡ πρώτη – ἀπὸ τὶς πιὸ ἰσχυρὲς ἐξουσίες. 

Γι’ αὐτὸ καὶ οἱ ὁποιεσδήποτε «ἐξουσίες» φροντίζουν ὄχι μόνο νὰ ἔχουν ἐρείσματα στὸ χῶρο τῆς εἰδησιογραφίας, ἀλλὰ καὶ νὰ ἐλέγχουν σὲ μεγάλο βαθμὸ τὴ μετάδοσή της. 

 Ὑπερπληθώρα πληροφοριῶν σήμερα. Γιὰ τὰ πάντα: τὴν πολιτική, τὴν οἰκονομία, τὸν πολιτισμό, τὸν ἀθλητισμό. Πανεύκολη πλέον ἡ πρόσβαση σ’ αὐτήν: Μέσα Μαζικῆς Ἐνημέρωσης (Μ.Μ.Ε.) – Τηλεόραση, Ραδιόφωνο, Τύπος, Διαδίκτυο – καὶ πίσω ἀπ’ αὐτὰ τεράστια εἰδησιογραφικὰ πρακτορεῖα ποὺ συλλέγουν, συντάσσουν, φιλτράρουν, κάποτε ἴσως καὶ κατασκευάζουν τὴν εἴδηση ποὺ προωθοῦν.

Αἰσθανόμαστε, ἀλήθεια, προνομιοῦχοι σὲ σχέση μὲ τοὺς ἀνθρώπους ἄλλων ἐποχῶν. Παλιὰ τὰ «νέα» διαδίδονταν ἀπὸ στόμα σὲ στόμα. Συχνὰ παραλλαγμένα – ὄχι πάντα ἀπὸ ἰδιοτελὴ πρόθεση – διογκωμένα, ἀλλοιωμένα, καὶ σίγουρα, σὲ σχέση πάντα μὲ τὸ σήμερα, καθυστερημένα. 

 Σήμερα βρισκόμαστε στὴν καρδιὰ τῶν γεγονότων μὲ ἕνα ἁπλὸ «κλίκ». Μποροῦμε νὰ παρακολουθοῦμε καὶ μὲ κοντινὰ πλάνα τὶς ἐχθροπραξίες καὶ τὶς πολεμικὲς συγκρούσεις, ὅπου κι ἂν γίνονται αὐτὲς στὸν πλανήτη μας. Νὰ βρισκόμαστε στὸ τραπέζι τῶν συναντήσεων τῶν ἰσχυρῶν τῆς γῆς καὶ στὶς αἴθουσες συνεδριάσεων καὶ διαβουλεύσεων τῶν προσώπων ποὺ ἀποφασίζουν γιὰ τὴν τύχη καὶ τὸ μέλλον τοῦ πλανήτη. 

Νὰ βλέπουμε ἀπὸ πολὺ κοντὰ τὴν ὁποιαδήποτε φάση τοῦ ὁποιουδήποτε ἀθλήματος, ἀπὸ διάφορες ὀπτικὲς γωνίες, σὲ πολλὲς ἐπαναλήψεις καὶ σὲ ἀργὴ κίνηση. Εἴμαστε σὲ πλεονεκτικότερη θέση ἀπὸ τὸν διαιτητὴ καὶ τοὺς κριτές. Ἐκεῖνοι ζοῦν μὲ τὴν ἔνταση τῆς συλλήψεως τῶν συμβάντων ποὺ ἐκτυλίσσονται σὲ κλάσματα δευτερολέπτων κάτω ἀπὸ δύσκολες συνθῆκες παρατηρήσεως τῶν γεγονότων. Ἐμεῖς ὄχι. Ἔχουμε τὸ προνόμιο, καθισμένοι στὸν καναπέ μας, νὰ ἔχουμε πολὺ κοντινὰ πλάνα ἀπὸ διάφορες πλευρές, καὶ μάλιστα μὲ τὴ δυνατότητα νὰ ξαναδοῦμε τὴν ὁποιαδήποτε φάση ὅσες φορὲς θέλουμε καρέ-καρέ, ὅπως λέγεται, ἢ σὲ πολὺ ἀργὴ κίνηση.  

Εἴμαστε προνομιοῦχοι σὲ σχέση μὲ τοὺς ἀνθρώπους ἄλλων ἐποχῶν! Δὲν ὑπάρχει κρυφὴ πτυχή, κάτι ἄγνωστο πλέον γιὰ μᾶς. Ὅλα ζωντανὰ ἐνώπιόν μας. Ἀνὰ πάσα στιγμή! Εἴμαστε ὅμως; Ἴσως ὄχι. 

Γιατὶ ὅλη αὐτὴ ἡ δυνατότητα πρόσβασης στὴν πληροφορία ἔχει καὶ τὰ ἀρνητικά της. Ἡ ὑπερπληροφόρηση γεννᾶ ἄγχος. Τί θὰ γίνει; Πῶς θὰ ἐξελιχθοῦν τὰ πράγματα; Θὰ ὑπάρξει λύση στὸ πρόβλημα; Καὶ ὁ ἄνθρωπος ἀνεπαίσθητα μπαίνει στὸ φαῦλο κύκλο μιᾶς διαδικασίας ποὺ μόνο δυσάρεστες καταστάσεις ἔχει νὰ τοῦ προσφέρει. Ἄλλωστε εἶναι πολὺ κοινὴ ἡ ὁμολογία ὅλο καὶ περισσοτέρων ἀνθρώπων: 

 –Δὲν βλέπουμε πλέον εἰδήσεις. Δὲν ἀντέχουμε. Πιάνεται ἡ καρδιά μας μὲ τόσα δυσάρεστα ποὺ συμβαίνουν. 

 Ἡ διαρκὴς ἐνημέρωση πολὺ συχνὰ δημιουργεῖ ἄγχος. Τὸ ἄγχος αὐξάνει τὴν ἀγωνία στὸν ἄνθρωπο καὶ τοῦ δημιουργεῖ νέα ἀναπάντητα ἐρωτήματα ποὺ ἀπαιτοῦν περισσότερη ἐνημέρωση γιὰ νὰ ἀπαντηθοῦν. Νέες εἰδήσεις, λοιπόν, καὶ πιὸ σύγχρονη καὶ «ἀντικειμενικὴ» πληροφόρηση! Φθάνει ἔτσι ὁ σύγχρονος ἄνθρωπος νὰ χάνεται στὴν ἀδιάκοπη ἀνάγκη γιὰ ὅλο καὶ περισσότερη ἐνημέρωση.  

Ἀπὸ τὴν ἄλλη ἡ ὑπερπληροφόρηση δημιουργεῖ ψευδαισθήσεις τῆς ἀλήθειας. Μιᾶς ἀλήθειας ποὺ ταυτίζεται μέσα μας μὲ τὸ «νέο», τὸ ἀναγκαῖο καὶ τὴ στείρα γνώση. Γι’ αὐτὸ καὶ πολὺ συχνὰ σὲ πάρα πολλοὺς ἡ ἀλήθεια δὲν εἶναι τίποτε ἄλλο παρὰ αὐτὸ ποὺ συμβαίνει, αὐτὸ ποὺ γίνεται. Ἐνῶ ὡς γνώση ἐκλαμβάνεται ἡ ἐνημέρωση ἐπὶ τῶν συμβάντων. Αὐτὸ ἔχει ὡς τραγικὴ συνέπεια τὴ μετατόπιση τῆς ἀλήθειας στὸ ἐδῶ καὶ τώρα. Δηλαδὴ τὴ μετατόπιση καὶ τὴν παραφθορὰ τῆς οὐσίας τῆς ζωῆς, τοῦ προορισμοῦ τοῦ ἀνθρώπου καὶ τοῦ σκοποῦ τῆς ζωῆς του. Ὅλος αὐτὸς ὁ καταιγισμὸς τῆς πληροφορίας, ἐνῶ φαίνεται ὅτι ὑπηρετεῖ τὴν ἀλήθεια, ἀποβαίνει τελικὰ εἰς βάρος της. 

 Πόσο μεγάλη διαφορὰ στὴν ἀποτίμηση καὶ προσέγγιση τῆς ἀλήθειας! Πόσο ὄντως μακριὰ βρισκόμαστε ἀπὸ τὴν παρότρυνση τοῦ Κυρίου μας: «Γνώσεσθε τὴν ἀλήθειαν, καὶ ἡ ἀλήθεια ἐλευθερώσει ὑμᾶς» (Ἰω. η΄ 32)! Καὶ εἶναι αὐτὴ ἡ ἀβυσσαλέα ἀπόσταση ποὺ ἀλλοτριώνει τόσο πολὺ τὸν σύγχρονο ἄνθρωπο, σὲ τέτοιο βαθμό, ὥστε νὰ ταυτίζει κάποτε τὴν ὕπαρξή του μὲ τὴν ἐνημέρωση. «Ὑπάρχω» σημαίνει ἐνημερώνομαι - γνωρίζω. 

 Ἕνα ἄλλο ἀρνητικὸ τῆς ὑπερπληροφόρησης τῆς ἐποχῆς μας εἶναι ὅτι αὐτὴ φωτίζει διεξοδικὰ καὶ ἀναλώνεται νὰ περιγράψει τὸ τί καὶ παραθεωρεῖ σημαντικὰ τὸ γιατί τῶν συμβάντων. Πράγμα ποὺ σημαίνει ὅτι παρέχει διαρκῶς πληροφορίες γιὰ τὸ τί συμβαίνει καὶ στὸ πιὸ ἀπόμακρο σημεῖο τοῦ πλανήτη μας, χωρὶς νὰ ἐμβαθύνει στὸ γιατί τῶν γεγονότων. 

Κι ἂν καμιὰ φορὰ δείχνει νὰ ἀναζητᾶ τὸ βάθος τῶν πραγμάτων, συνήθως τὸ κάνει πρὸς ἄγραν θεαματικότητας. Ἀποκλείει ἔτσι τὸ βάθος ἀπὸ τὴ ζωὴ τῶν ἀνθρώπων. Προβάλλει διαρκῶς τὸ ἐφήμερο. Χωρὶς νὰ μπορεῖ ὁ ἄνθρωπος νὰ ἐμβαθύνει. Νὰ ἀναζητήσει αἰτίες καὶ ἀφορμές. Χωρὶς νὰ μπορεῖ νὰ διδαχθεῖ ἀπὸ τὰ γεγονότα. Τὰ πάντα θυσιάζονται στὸ βωμὸ τῆς εἰδήσεως, τοῦ νέου, τοῦ ἐντυπωσιακοῦ καὶ τῆς ἀποκλειστικῆς μετάδοσης. 

Γι᾿ αὐτὸ καὶ καμία ἀξία δὲν ἔχει μὲ βάση αὐτὴ τὴ νοοτροπία μιὰ χθεσινὴ ἢ προχθεσινὴ εἴδηση, ὅσο σημαντικὴ κι ἂν ἐκτιμήθηκε τὴν ἡμέρα τῆς μετάδοσής της. 

 Μπορεῖ ἡ ἐποχή μας ὄντως νὰ καυχᾶται γιὰ τὸν ὄγκο τῶν πληροφοριῶν ποὺ παρέχει στὸ σύγχρονο ἄνθρωπο. Μπορεῖ νὰ ἐπαίρεται γιὰ τὴν ταχύτατη μετάδοση τῶν γεγονότων. Τὸ ἐρώτημα ὅμως παραμένει ἐξίσου καυτὸ καὶ ἐπίκαιρο: Βοηθάει πράγματι ἡ ἐνημέρωση στὴν ἐξάλειψη τῶν μεγάλων προβλημάτων τοῦ ἀνθρώπου; Προσφέρει στὴν κοινωνία μας αὐτὸ ποὺ πραγματικὰ ἔχει ἀνάγκη; Καὶ τελικὰ ποιὰ θὰ πρέπει νὰ εἶναι ἡ στάση τοῦ πιστοῦ στὴν καταιγιστικὴ ὑπερπληθώρα τόσων πληροφοριῶν; Ἀλλὰ γι᾿ αὐτὰ στὸ ἑπόμενο. OΣΩΤΗΡ2100

Ελέγξτε αν είναι ασφαλές το VPN που χρησιμοποιείτε

Ελέγξτε αν είναι ασφαλές το VPN που χρησιμοποιείτε

Οι πάροχοι εικονικών δικτύων ή (Virtual Provider Networks – VPNs) χρησιμοποιούνται για διάφορους σκοπούς. Αυτοί συνήθως συμπεριλαμβάνουν την προστασία της ιδιωτικής ζωής στο Διαδίκτυο, βελτιώνοντας την ασφάλεια της σύνδεσης στο Internet, την παράκαμψη λογοκρισίας και κάθε είδους περιορισμού, ή για καθαρά για επαγγελματικούς σκοπούς.

Εάν χρησιμοποιείτε κάποιο VPN ανεξάρτητα για τον σκοπό που το χρειάζεστε, ίσως θέλετε να είστε σίγουροι ότι η πραγματική διεύθυνση IP σας μπορεί να διαρρεύσει.

Ο λόγος για αυτό είναι απλός: Η διεύθυνση IP οδηγεί άμεσα σε σας. Έτσι μια δικαστική απόφαση στον πάροχο του εικονικού δικτύου φτάνει για να αποκαλυφτούν πολύ ιδιωτικές πληροφορίες, όπως η χώρα και η περιοχή που συνδέεστε.

Ας δούμε αν το VPN σας διαρρέει τη διεύθυνση IP σας

Ο τρόπος που θα δούμε παρακάτω προτείνεται ανεπιφύλακτα για κάθε φορά που συνδέεστε με ένα εικονικό δίκτυο, έτσι για να βεβαιωθείτε ότι ή σύνδεσή σας δεν διαρρέει πληροφορίες για την πραγματική διεύθυνση IP σας. Και για να μην το κάνετε συνεχώς, πραγματοποιείστε την δοκιμή τουλάχιστον την πρώτη φορά που θα συνδεθείτε και μετά μπορείτε να το επαναλάβετε περιστασιακά.

Υπάρχουν πολλές ιστοσελίδες που μπορείτε να χρησιμοποιήσετε για το σκοπό αυτό, και τα καλά νέα είναι ότι το μόνο που χρειάζεται είναι να ανοίξετε την ιστοσελίδα για να μάθετε αν το VPN σας διαρρέει πληροφορίες που δεν πρέπει.

Θα αναφέρουμε τρεις διαφορετικές ιστοσελίδες για τον έλεγχο διαρροών της IP.

Σημείωση: Συνιστάται να απενεργοποιήσετε οποιοδήποτε script blocker χρησιμοποιείτε για να κάνετε τις δοκιμές σας, γιατί μπορεί να μπλοκάρουν τα scripts που ελέγχουν τα DNS.

Ας δούμε τις 3 σελίδες:

https://ipleak.net

https://www.dnsleaktest.com

και

http://dnsleak.com

Αν δείτε διαφορετικές διευθύνσεις IP ή περιοχές, αναφέρουν την διεύθυνση IPv4 IP, και τη διεύθυνση IPv6 IP. Τότε υπάρχει μια πιθανότητα ότι ιστοσελίδες τρίτων ή άλλες υπηρεσίες μπορούν να δουν και τις δύο διευθύνσεις IP.

Στις δοκιμές χρησιμοποιήσαμε το «VPN» του Opera (θα το λέγαμε καλύτερα proxy) και το ανώνυμο δίκτυο Tor σε ένα σύστημα Linux.

Παρατηρήσαμε ότι η ανωνυμία στον browser Opera δεν ήταν και τόσο απόλυτη αφού η ιστοσελίδα ipleak.net αν και εμφάνισε αμέσως διαφορετική IPv4 IP από αυτή της πραγματικής μου σύνδεσης συνέχιζε να αναζητεί (διακρίνεται σαν μια μαύρη γραμμούλα κάτω από το «No forwarded IP detected….»

Στην ίδια σελίδα χρησιμοποιώντας το ανώνυμο δίκτυο Tor είχαμε απόλυτα αποτελέσματα όπως θα δείτε στην παρακάτω εικόνα.