Ο εφιαλτικός κίνδυνος τα αυτόνομα γλωσσικά μοντέλα (AGI) να «πατήσουν» το πυρηνικό κουμπί φέρνει εκτάκτως στο ίδιο τραπέζι τις υπερδυνάμεις
Σε μια περίοδο οξυμένων διεθνών αναταράξεων, η Μόσχα, η Ουάσινγκτον και το Πεκίνο φαίνεται να παραμερίζουν τις πιεστικότερες γεωπολιτικές τους διαφωνίες, εστιάζοντας σε ένα πεδίο όπου η επίτευξη ουσιαστικής συναίνεσης καθίσταται πλέον επιτακτική: την αποτροπή της εμπλοκής της Τεχνητής Νοημοσύνης στη λήψη αποφάσεων για τη χρήση πυρηνικών όπλων.
Σύμφωνα με δημοσίευμα της εφημερίδας South China Morning Post, στο περιθώριο της συνόδου κορυφής της APEC στη Shenzhen, οι Vladimir Putin, Xi Jinping και Donald Trump αναμένεται να επιδιώξουν μια κοινή γραμμή πλεύσης που θα διασφαλίζει ότι ο τελικός έλεγχος των πυρηνικών οπλοστασίων θα παραμείνει αυστηρά σε ανθρώπινα χέρια.
Αν και καμία πυρηνική δύναμη δεν έχει εκχωρήσει μέχρι σήμερα την εξουσία εκτόξευσης σε αυτόνομα συστήματα, τα νευρωνικά δίκτυα ενσωματώνονται όλο και περισσότερο στα στρατιωτικά συστήματα υποστήριξης.
Στις Ηνωμένες Πολιτείες, η Τεχνητή Νοημοσύνη αξιοποιείται για την προστασία των υποδομών από κυβερνοεπιθέσεις, την παρακολουθήση των αποθεμάτων, τη μοντελοποίηση σεναρίων συγκρούσεων και τη διαχείριση της στρατιωτικής εφοδιαστικής, προσφέροντας ταχύτατη επεξεργασία δεδομένων.
Ωστόσο, ειδικοί σε θέματα ασφαλείας προειδοποιούν για τον σοβαρό κίνδυνο πρόκλησης ψευδών συναγερμών, καθώς η εξάρτηση από αλγορίθμους μπορεί να οδηγήσει πολιτικούς και στρατιωτικούς ηγέτες σε βιαστικές και μη διασταυρωμένες αποφάσεις σε στιγμές κρίσης.
Χαρακτηριστική είναι η μελέτη του King's College London, η οποία έδειξε ότι σε προσομοιώσεις κρίσεων, προηγμένα γλωσσικά μοντέλα κατέφυγαν σε πυρηνικό εκβιασμό ή κλιμάκωση στο 95% των περιπτώσεων.
Θεμελιώδες πρόβλημα
Το θεμελιώδες πρόβλημα έγκειται στο γεγονός ότι τα σύγχρονα γλωσσικά μοντέλα μεγάλου μεγέθους λειτουργούν με βάση τις πιθανότητες και όχι την πραγματική κατανόηση της αλήθειας, καθιστώντας την ακριβή λογική τους εν πολλοίς αδιαφανή ακόμη και για τους ίδιους τους δημιουργούς τους.
Ο κύριος φόβος των ερευνητών εστιάζει στην ενδεχόμενη ανάδυση μιας Γενικής Τεχνητής Νοημοσύνης (AGI), η οποία, εάν λάβει μια ασαφώς διατυπωμένη εντολή όπως η «αποτελεσματική υπεράσπιση της χώρας», ενδέχεται να θεωρήσει την αντίπαλη πλευρά ως το απόλυτο εμπόδιο και να προσπαθήσει να πείσει την ανθρώπινη ηγεσία να πατήσει το «πυρηνικό κουμπί».
Για την αντιμετώπιση αυτής της απειλής, μηχανικοί και διπλωμάτες αναζητούν νέους μηχανισμούς επαλήθευσης, καθώς οι παραδοσιακές μέθοδοι ελέγχου εξοπλισμών, όπως η δορυφορική καταμέτρηση πυραύλων, αδυνατούν να εντοπίσουν τον λογισμικό κώδικα.
Η αποτελεσματικότερη θωράκιση βασίζεται στον απόλυτο φυσικό διαχωρισμό των συστημάτων εκτόξευσης από οποιοδήποτε δίκτυο εκτελεί αναλυτικά μοντέλα Τεχνητής Νοημοσύνης.
Παράλληλα, η ροή πληροφοριών προς τα κέντρα διοίκησης οφείλει να περνά αποκλειστικά από μονόδρομες διόδους δεδομένων με την υποχρεωτική μεσολάβηση ανθρώπου χειριστή, ενώ διατηρούνται αναλογικές και μηχανικές ασφαλιστικές δικλείδες, όπως η αρχή των «δύο κλειδιών», οι οποίες δεν μπορούν να παρακαμφθούν από εξωτερικά ψηφιακά σήματα.
Κρυπτογραφικά πρωτόκολλα
Στο επίπεδο της διεθνούς εμπιστοσύνης, προτείνονται προηγμένα κρυπτογραφικά πρωτόκολλα και μέθοδοι κυβερνοασφάλειας που επιτρέπουν στα κράτη να αποδεικνύουν μαθηματικά την απουσία αυτόνομων μονάδων λήψης αποφάσεων στο λογισμικό τους, χωρίς να αποκαλύπτουν τον μυστικό πηγαίο κώδικα.
Επιπλέον, εξετάζεται η διενέργεια επιθεωρήσεων σε κέντρα διοίκησης από διεθνείς ομάδες ειδικών για την εξακρίβωση της απουσίας επεξεργαστών υψηλής απόδοσης, καθώς και η υποχρεωτική εγκατάσταση «μαύρων κουτιών» που θα καταγράφουν μη αναστρέψιμα κάθε στάδιο της διαδικασίας λήψης αποφάσεων.
Παρά το γεγονός ότι η Γενική Συνέλευση του ΟΗΕ ενέκρινε τον Δεκέμβριο του 2025 το ψήφισμα 80/23 για τη διατήρηση του αποκλειστικά ανθρώπινου ελέγχου στα πυρηνικά συστήματα, καμία από τις πυρηνικές δυνάμεις δεν το υπερψήφισε, εκφράζοντας επιφυλάξεις για τις αόριστες διατυπώσεις που θα μπορούσαν να περιορίσουν τη στρατιωτική τους έρευνα.
Αντίθετα, σύμφωνα με την Arms Control Association, οι πέντε επίσημες πυρηνικές δυνάμεις (Ρωσία, ΗΠΑ, Κίνα, Ηνωμένο Βασίλειο και Γαλλία) επιλέγουν να διεξάγουν κλειστές διαβουλεύσεις για τη στρατηγική σταθερότητα στο πλαίσιο της Συνθήκης για τη Μη Διάδοση των Πυρηνικών Όπλων (NPT), κρατώντας την διαμόρφωση των κρίσιμων αυτών κανόνων στα χέρια των κρατών που κατέχουν πράγματι το πυρηνικό οπλοστάσιο.
www.bankingnews.gr
Σύμφωνα με δημοσίευμα της εφημερίδας South China Morning Post, στο περιθώριο της συνόδου κορυφής της APEC στη Shenzhen, οι Vladimir Putin, Xi Jinping και Donald Trump αναμένεται να επιδιώξουν μια κοινή γραμμή πλεύσης που θα διασφαλίζει ότι ο τελικός έλεγχος των πυρηνικών οπλοστασίων θα παραμείνει αυστηρά σε ανθρώπινα χέρια.
Αν και καμία πυρηνική δύναμη δεν έχει εκχωρήσει μέχρι σήμερα την εξουσία εκτόξευσης σε αυτόνομα συστήματα, τα νευρωνικά δίκτυα ενσωματώνονται όλο και περισσότερο στα στρατιωτικά συστήματα υποστήριξης.
Στις Ηνωμένες Πολιτείες, η Τεχνητή Νοημοσύνη αξιοποιείται για την προστασία των υποδομών από κυβερνοεπιθέσεις, την παρακολουθήση των αποθεμάτων, τη μοντελοποίηση σεναρίων συγκρούσεων και τη διαχείριση της στρατιωτικής εφοδιαστικής, προσφέροντας ταχύτατη επεξεργασία δεδομένων.
Ωστόσο, ειδικοί σε θέματα ασφαλείας προειδοποιούν για τον σοβαρό κίνδυνο πρόκλησης ψευδών συναγερμών, καθώς η εξάρτηση από αλγορίθμους μπορεί να οδηγήσει πολιτικούς και στρατιωτικούς ηγέτες σε βιαστικές και μη διασταυρωμένες αποφάσεις σε στιγμές κρίσης.
Χαρακτηριστική είναι η μελέτη του King's College London, η οποία έδειξε ότι σε προσομοιώσεις κρίσεων, προηγμένα γλωσσικά μοντέλα κατέφυγαν σε πυρηνικό εκβιασμό ή κλιμάκωση στο 95% των περιπτώσεων.
Θεμελιώδες πρόβλημα
Το θεμελιώδες πρόβλημα έγκειται στο γεγονός ότι τα σύγχρονα γλωσσικά μοντέλα μεγάλου μεγέθους λειτουργούν με βάση τις πιθανότητες και όχι την πραγματική κατανόηση της αλήθειας, καθιστώντας την ακριβή λογική τους εν πολλοίς αδιαφανή ακόμη και για τους ίδιους τους δημιουργούς τους.
Ο κύριος φόβος των ερευνητών εστιάζει στην ενδεχόμενη ανάδυση μιας Γενικής Τεχνητής Νοημοσύνης (AGI), η οποία, εάν λάβει μια ασαφώς διατυπωμένη εντολή όπως η «αποτελεσματική υπεράσπιση της χώρας», ενδέχεται να θεωρήσει την αντίπαλη πλευρά ως το απόλυτο εμπόδιο και να προσπαθήσει να πείσει την ανθρώπινη ηγεσία να πατήσει το «πυρηνικό κουμπί».
Για την αντιμετώπιση αυτής της απειλής, μηχανικοί και διπλωμάτες αναζητούν νέους μηχανισμούς επαλήθευσης, καθώς οι παραδοσιακές μέθοδοι ελέγχου εξοπλισμών, όπως η δορυφορική καταμέτρηση πυραύλων, αδυνατούν να εντοπίσουν τον λογισμικό κώδικα.
Η αποτελεσματικότερη θωράκιση βασίζεται στον απόλυτο φυσικό διαχωρισμό των συστημάτων εκτόξευσης από οποιοδήποτε δίκτυο εκτελεί αναλυτικά μοντέλα Τεχνητής Νοημοσύνης.
Παράλληλα, η ροή πληροφοριών προς τα κέντρα διοίκησης οφείλει να περνά αποκλειστικά από μονόδρομες διόδους δεδομένων με την υποχρεωτική μεσολάβηση ανθρώπου χειριστή, ενώ διατηρούνται αναλογικές και μηχανικές ασφαλιστικές δικλείδες, όπως η αρχή των «δύο κλειδιών», οι οποίες δεν μπορούν να παρακαμφθούν από εξωτερικά ψηφιακά σήματα.
Κρυπτογραφικά πρωτόκολλα
Στο επίπεδο της διεθνούς εμπιστοσύνης, προτείνονται προηγμένα κρυπτογραφικά πρωτόκολλα και μέθοδοι κυβερνοασφάλειας που επιτρέπουν στα κράτη να αποδεικνύουν μαθηματικά την απουσία αυτόνομων μονάδων λήψης αποφάσεων στο λογισμικό τους, χωρίς να αποκαλύπτουν τον μυστικό πηγαίο κώδικα.
Επιπλέον, εξετάζεται η διενέργεια επιθεωρήσεων σε κέντρα διοίκησης από διεθνείς ομάδες ειδικών για την εξακρίβωση της απουσίας επεξεργαστών υψηλής απόδοσης, καθώς και η υποχρεωτική εγκατάσταση «μαύρων κουτιών» που θα καταγράφουν μη αναστρέψιμα κάθε στάδιο της διαδικασίας λήψης αποφάσεων.
Παρά το γεγονός ότι η Γενική Συνέλευση του ΟΗΕ ενέκρινε τον Δεκέμβριο του 2025 το ψήφισμα 80/23 για τη διατήρηση του αποκλειστικά ανθρώπινου ελέγχου στα πυρηνικά συστήματα, καμία από τις πυρηνικές δυνάμεις δεν το υπερψήφισε, εκφράζοντας επιφυλάξεις για τις αόριστες διατυπώσεις που θα μπορούσαν να περιορίσουν τη στρατιωτική τους έρευνα.
Αντίθετα, σύμφωνα με την Arms Control Association, οι πέντε επίσημες πυρηνικές δυνάμεις (Ρωσία, ΗΠΑ, Κίνα, Ηνωμένο Βασίλειο και Γαλλία) επιλέγουν να διεξάγουν κλειστές διαβουλεύσεις για τη στρατηγική σταθερότητα στο πλαίσιο της Συνθήκης για τη Μη Διάδοση των Πυρηνικών Όπλων (NPT), κρατώντας την διαμόρφωση των κρίσιμων αυτών κανόνων στα χέρια των κρατών που κατέχουν πράγματι το πυρηνικό οπλοστάσιο.
www.bankingnews.gr
Σχόλια αναγνωστών