Η νέα απειλή για την παγκόσμια ασφάλεια

Φόρτωση Text-to-Speech... Ποια είναι σήμερα η μεγαλύτερη απειλή για την παγκόσμια ειρήνη και ασφάλεια; Οι υποψήφιες απαντήσεις είναι πολλές: οι πόλεμοι στην Ουκρανία και στη Μέση Ανατολή, η κλιματική αλλαγή, οι κρίσεις χρέους, η υποχώρηση της δημοκρατίας. Στη λίστα αυτή πρέπει πλέον να προστεθεί και μία απειλή που μόλις στις αρχές της χρονιάς ελάχιστα απασχολούσε τη δημόσια συζήτηση και η οποία ολοένα και περισσότεροι τεχνολόγοι θεωρούν ότι μπορεί τελικά να επισκιάσει όλες τις υπόλοιπες. Ο ρυθμός με τον οποίο εξελίσσεται η Τ.Ν. –και μαζί του η ανησυχία για την ασφάλειά της– είναι εντυπωσιακός. Δεν έχουν περάσει ούτε τέσσερα χρόνια από τότε που η OpenAI αιφνιδίασε τον κόσμο με το ChatGPT και λιγότερα από δύο από τότε που η κινεζική νεοφυής εταιρεία DeepSeek προκάλεσε ανάλογη έκπληξη, με ένα κλάσμα μάλιστα του κόστους. Κι όμως, οι δυνατότητες των τελευταίων μοντέλων ξεπερνούν κατά πολύ εκείνες των πρώτων εκδόσεων, όπως και οι κίνδυνοι που εγκυμονούν. Το πιο ανησυχητικό περιστατικό μέχρι σήμερα –που δεν έλαβε, κατά τη γνώμη μου, την παγκόσμια προσοχή που του άξιζε– σημειώθηκε τον Ιούλιο. Η OpenAI αποκάλυψε τότε ότι πράκτορες Τ.Ν. που λειτουργούσαν σε ένα απομονωμένο περιβάλλον δοκιμών ξέφυγαν από τον έλεγχο και κατάφεραν να παραβιάσουν τα συστήματα μιας άλλης εταιρείας Τ.Ν., της Hugging Face. Το εντυπωσιακό στο περιστατικό δεν ήταν μόνο η εισβολή, αλλά και η συνεργασία. Περίπου 700 πράκτορες, οι οποίοι υποτίθεται ότι ήταν απομονωμένοι ο ένας από τον άλλον, συμμετείχαν στην επίθεση και στη συνέχεια φρόντισαν να καλύψουν τα ίχνη τους. Η πλήρης εικόνα έγινε γνωστή μόνο όταν οι ερευνητές χρειάστηκε να χρησιμοποιήσουν οι ίδιοι Τ.Ν. για να εξετάσουν περισσότερα δεδομένα από όσα θα μπορούσε να διαχειριστεί ένας άνθρωπος. Και αυτό, από μόνο του, αποτελεί ένα ακόμη πρόβλημα. Δεν πρόκειται, άλλωστε, για μεμονωμένο περιστατικό. Μοντέλα που δοκιμάζονταν από τις Anthropic και Meta έχουν επίσης παραβιάσει τα όρια ασφαλείας και αποκτήσει πρόσβαση σε εξωτερικά συστήματα. Την ίδια ώρα, τεχνολόγοι προειδοποιούν ότι η Τ.Ν. μπορεί σύντομα να δώσει σε κακόβουλους παράγοντες τη δυνατότητα να κατασκευάσουν θανατηφόρα παθογόνα ή να αποκτήσουν τα μέσα για να θέσουν εκτός λειτουργίας δίκτυα ύδρευσης και ηλεκτροδότησης, ακόμη και νοσοκομεία. Πρόκειται για κινδύνους για την εθνική ασφάλεια, που μέχρι πρόσφατα θεωρούνταν σενάρια επιστημονικής φαντασίας. Δεν είναι, επομένως, περίεργο που ακόμη και οι παλαιότεροι και πλέον επιφανείς παράγοντες του κλάδου ζητούν από τις κυβερνήσεις να δράσουν. Σε ανάρτησή του στην ιστοσελίδα του την περασμένη εβδομάδα, ο Μπιλ Γκέιτς ζήτησε τη δημιουργία ενός νέου διεθνούς οργανισμού για τη διαχείριση των κινδύνων της Τ.Ν. Και ο Αντριου Μπέιλι, διοικητής της Τράπεζας της Αγγλίας και πρόεδρος του Συμβουλίου Χρηματοπιστωτικής Σταθερότητας, προειδοποίησε την περασμένη εβδομάδα τους υπουργούς Οικονομικών της G20 ότι οι κυβερνοκίνδυνοι που συνδέονται με τα πλέον προηγμένα μοντέλα Τ.Ν. αποτελούν την πιο άμεση απειλή για το παγκόσμιο χρηματοπιστωτικό σύστημα. Αν οι ΗΠΑ και η Κίνα επιτρέψουν στον ανταγωνισμό τους να εμποδίσει τις παγκόσμιες προσπάθειες για τον περιορισμό των κινδύνων της Τ.Ν., θα έχουν επιδείξει ιστορική ανευθυνότητα. Κι όμως, μέχρι πριν από λίγους μήνες, η κυβέρνηση Τραμπ ήταν κατηγορηματικά αντίθετη σε οτιδήποτε θα μπορούσε να μοιάζει με ρύθμιση της Τ.Ν. Η Ουάσιγκτον έβλεπε την αντιπαράθεση με την Κίνα ως μια κούρσα δύο πλευρών, με έπαθλο την παγκόσμια κυριαρχία. Οι τελευταίες εξελίξεις την ανάγκασαν να επανεξετάσει, εν μέρει τουλάχιστον, τη στάση της. Εκτελεστικό διάταγμα του Ιουνίου ζητεί από τους δημιουργούς των πλέον προηγμένων μοντέλων να τα παραδίδουν στην κυβέρνηση για αξιολόγηση έως και 30 ημέρες πριν από την κυκλοφορία τους, αν και η συμμετοχή παραμένει προαιρετική. Ορισμένοι πολιτικοί ζητούν ήδη αυστηρότερα μέτρα. Ουσιαστική δράση, όμως, είναι δύσκολο να υπάρξει αν η Αμερική και η Κίνα –οι δύο κυρίαρχες δυνάμεις στον τομέα της Τ.Ν.– δεν καταφέρουν να συμφωνήσουν σε κοινούς κανόνες. Είναι αυτό δυνατόν όταν η εμπιστοσύνη μεταξύ τους έχει υποχωρήσει τόσο πολύ; Ο Τραμπ και ο Σι αναμένεται να συζητήσουν για την Τ.Ν. όταν συναντηθούν στις 24 Σεπτεμβρίου. Ωστόσο, αξιωματούχοι των δύο χωρών δεν έχουν ακόμη πραγματοποιήσει ούτε τις προπαρασκευαστικές συνομιλίες, καθώς φαίνεται πως αδυνατούν να συμφωνήσουν ακόμη και στους βασικούς όρους. Σύμφωνα με τα κινεζικά κρατικά μέσα ενημέρωσης, το Πεκίνο ζητεί να έχει λόγο από κοινού με την Ουάσιγκτον στον ορισμό τού τι σημαίνει «ασφάλεια της Τ.Ν.», αλλά και εγγυήσεις ότι οι αμερικανικές εταιρείες θα υπόκεινται στους ίδιους κανόνες που η Ουάσιγκτον θέλει να επιβάλει στους υπολοίπους. Η υποψία στο Πεκίνο –ίσως όχι χωρίς λόγο– είναι ότι η επίκληση της ασφάλειας θα χρησιμοποιηθεί ως πρόσχημα για να υπάρξουν διακρίσεις εις βάρος των κινεζικών μοντέλων. Τα μοντέλα αυτά είναι «ανοιχτού τύπου» ως προς τα βάρη τους (open-weight), πράγμα που σημαίνει ότι μπορούν να κατέβουν και να προσαρμοστούν από οποιονδήποτε. Είναι έτσι φθηνότερα και γίνονται ολοένα πιο δημοφιλή σε αμερικανικές και διεθνείς εταιρείες που θέλουν να διατηρούν τον έλεγχο των δικών τους δεδομένων. Και αυτό τα καθιστά άμεση απειλή για τα ιδιόκτητα επιχειρηματικά μοντέλα πάνω στα οποία στηρίζεται η τεράστια αμερικανική επενδυτική έκρηξη στην Τ.Ν. Υπάρχει ακόμη ένα παράθυρο ευκαιρίας για την προστασία των κοινωνιών. Οπως όμως προειδοποιεί ο Γκέιτς, κλείνει γρήγορα. Ακόμη και στο αποκορύφωμα του Ψυχρού Πολέμου, οι αντίπαλες δυνάμεις κατάφεραν να δημιουργήσουν διεθνείς κανόνες για τον περιορισμό κοινών κινδύνων, παρά τη βαθιά δυσπιστία που υπήρχε μεταξύ τους. Αν η Αμερική και η Κίνα επιτρέψουν στον ανταγωνισμό τους να εμποδίσει τις παγκόσμιες προσπάθειες για τον περιορισμό των κινδύνων μιας τεχνολογίας που ενδέχεται να αποδειχθεί η ισχυρότερη που έχει εφεύρει ποτέ ο άνθρωπος –και η οποία εξελίσσεται με τρομακτική ταχύτητα– θα έχουν επιδείξει ιστορική ανευθυνότητα. *Ο κ. Σάιμον Νίξον είναι ανεξάρτητος σχολιαστής και εκδότης του ενημερωτικού δελτίου Wealth of Nations στο Substack.