Τα σενάρια κυβερνοεπιθέσεων που κρατούν τους αξιωματούχους ξάγρυπνους
Καθώς η τεχνητή νοημοσύνη επιταχύνει, αυξάνεται και η πιθανότητα μιας κυβερνοεπίθεσης τόσο ισχυρής που θα μπορούσε να κλείσει νοσοκομεία, να προκαλέσει blackout σε πόλεις και να διαταράξει κρίσιμα κυβερνητικά συστήματα.
Με απλή κλιμάκωση και επιτάχυνση των εργαλείων κυβερνοπολέμου που ήδη διαθέτουν οι αντίπαλοι, η AI μπορεί να μετατρέψει διαχειρίσιμες παραβιάσεις σε κρίσεις μεγάλης κλίμακας.
Η Axios ρώτησε επτά πρώην ανώτερους αξιωματούχους κυβερνοασφάλειας και κορυφαίους ειδικούς τι θα μπορούσε να σημαίνει μια μεγάλη AI-ενισχυμένη κυβερνοεπίθεση και ποιο είναι το μεγαλύτερο τους άγχος για τις τρέχουσες εξελίξεις στην γενετική AI.
Το μεγάλο πλαίσιο
Πολλοί από τους ειδικούς επισημαίνουν την ευπάθεια κρίσιμων υποδομών, ιδιαίτερα του νερού και της ηλεκτρικής ενέργειας.
Ο πρώην Υπουργός Άμυνας, Leon Panetta, ανησυχεί ότι τα εργαλεία AI θα επιταχύνουν την ικανότητα των αντιπάλων να διεισδύουν σε ευαίσθητα συστήματα και να «σβήνουν τα φώτα» — ακόμη και να απενεργοποιούν τα συστήματα backup ώστε να εμποδίσουν την έγκαιρη ανάκαμψη.
Ο Στρατηγός Paul Nakasone, πρώην επικεφαλής της NSA και του Cyber Command, υπογραμμίζει την πιθανότητα μια χώρα που έχει παραβιάσει κρίσιμα συστήματα τροφίμων και νερού να προκαλέσει κατά λάθος διακοπή λειτουργίας, αν χάσει τον έλεγχο ενός AI agent.
Hackers συνδεδεμένοι με την κινεζική κυβέρνηση έχουν ήδη παραβιάσει κρίσιμες υποδομές των ΗΠΑ.
Ωστόσο, τα κράτη γνωρίζουν τους κινδύνους μιας άμεσης επίθεσης κατά των ΗΠΑ, σύμφωνα με τον Nakasone: «Οι Ηνωμένες Πολιτείες θα αντιδράσουν και η αντίδραση δεν θα περιοριστεί απαραίτητα μόνο στον κυβερνοχώρο».
Η πολυπλοκότητα
Γι’ αυτό πολλοί ειδικοί θεωρούν ότι μια τυχαία κλιμάκωση είναι τουλάχιστον τόσο πιθανή όσο μια στοχευμένη επίθεση.
Το μέλλον της AI μπορεί να μοιάζει περισσότερο με την ταινία των 1980s «WarGames», όπου ο Matthew Broderick υποδύεται έναν hacker που σχεδόν πυροδοτεί πυρηνικό πόλεμο κατά λάθος, παρά με το Skynet του Terminator.
Ο Chris Inglis, πρώτος εθνικός cyber director των ΗΠΑ, υπογραμμίζει τους κινδύνους ενός κόσμου όπου η AI εκτελεί και ανιχνεύει επιθέσεις, μεταφέροντας πληροφορίες στους ανθρώπινους decision-makers.
«Υπάρχει ανθρώπινη αδυναμία σε αυτό — όσον αφορά την εμπιστοσύνη που βασίζεται στην ικανότητα της μηχανής να ενημερώνει αυτή την εμπιστοσύνη, ώστε ο άνθρωπος να είναι πρόθυμος να πατήσει το Μεγάλο Κόκκινο Κουμπί», λέει.
Σημεία κρίσιμης ευπάθειας
«The Big One» θα μπορούσε να αφορά διάφορους τομείς: Utilities, επικοινωνίες, healthcare, logistics και ταξίδια.
«Δεν θέλω να δώσω στους κακούς όλες τις ιδέες, αλλά πιθανόν τις έχουν ήδη», λέει ο Kevin Mandia, ιδρυτής της Mandiant.
Ο Mandia θεωρεί ότι η επίθεση θα στοχεύσει συγκεκριμένα, όχι μαζικά. «Δεν θα είναι εκτεταμένη, γιατί δεν έχει νόημα να καούν όλοι οι πόροι της απόλυτης επίθεσης σε ταυτόχρονα targets.»
Ο Michael Sulmeyer, πρώην assistant secretary of Defense για cyber policy, ανησυχεί ιδιαίτερα για τον τομέα της υγείας.
«Είναι ήδη θεωρητικά δυνατό να εκμεταλλευτείς ένα AI μοντέλο για να εντοπίσει ευάλωτους στόχους που είναι νοσοκομεία», λέει, προσθέτοντας ότι μπορεί να γίνει προσπάθεια να τα «κατεβάσει» offline.
Επίπεδο απειλής
Ο πρώην επικεφαλής της CIA, Michael Hayden προβλέπει ότι μια επίθεση πρωτοφανούς κλίμακας είναι αναπόφευκτη: «Θα συμβεί, αυτό είναι σίγουρο.
Μπορεί σε ένα χρόνο, πέντε χρόνια; Δεν ξέρουμε.» Υποδεικνύει τη Ρωσία ως πιθανό ένοχο, σημειώνοντας ότι η Μόσχα είναι «πιο απελπισμένη» από το Πεκίνο.
Ο Panetta προσθέτει ότι μέρος του κινδύνου της AI είναι ότι δεν μπορείς να ελέγξεις ποιος έχει πρόσβαση, ακόμη και αν τα εργαλεία είναι αρκετά ισχυρά για να «παραλύσουν μια χώρα».
Άλλοι πρώην αξιωματούχοι επισημαίνουν ότι μια σειρά μικρότερης κλίμακας κυβερνοεπιθέσεων θα μπορούσε να είναι εξίσου επικίνδυνη με μια μεγάλη, εάν προκαλέσει πρωτοφανείς διαγραφές δεδομένων ή shutdown εταιρειών.
Μεταξύ των γραμμών
Η γενετική AI αυξάνει τους κινδύνους, καθώς ενισχύει τις δυνατότητες των επιτιθεμένων, αλλά και γιατί οι κυβερνοεπιχειρησιακοί μπορεί να εμπιστευτούν υπερβολικά τη μηχανή.
«Η AI δεν δημιουργεί εντελώς νέους κυβερνοκινδύνους — απλώς κλιμακώνει υπάρχουσες αδυναμίες σε μη ασφαλές λογισμικό, ευάλωτα συστήματα και υπερβολικά εμπιστευμένη αυτοματοποίηση, ενώ καθιστά τις επιθέσεις πιο δύσκολο να εντοπιστούν επειδή συγχωνεύονται με τις κανονικές λειτουργίες», λέει η Jen Easterly, πρώην director της Cybersecurity and Infrastructure Security Agency.
Μένει να φανεί αν εταιρείες, δημόσιοι φορείς και utilities θα μπορέσουν γρήγορα και αποτελεσματικά να χρησιμοποιήσουν εργαλεία AI για να ενισχύσουν την άμυνά τους.
www.bankingnews.gr
Με απλή κλιμάκωση και επιτάχυνση των εργαλείων κυβερνοπολέμου που ήδη διαθέτουν οι αντίπαλοι, η AI μπορεί να μετατρέψει διαχειρίσιμες παραβιάσεις σε κρίσεις μεγάλης κλίμακας.
Η Axios ρώτησε επτά πρώην ανώτερους αξιωματούχους κυβερνοασφάλειας και κορυφαίους ειδικούς τι θα μπορούσε να σημαίνει μια μεγάλη AI-ενισχυμένη κυβερνοεπίθεση και ποιο είναι το μεγαλύτερο τους άγχος για τις τρέχουσες εξελίξεις στην γενετική AI.
Το μεγάλο πλαίσιο
Πολλοί από τους ειδικούς επισημαίνουν την ευπάθεια κρίσιμων υποδομών, ιδιαίτερα του νερού και της ηλεκτρικής ενέργειας.
Ο πρώην Υπουργός Άμυνας, Leon Panetta, ανησυχεί ότι τα εργαλεία AI θα επιταχύνουν την ικανότητα των αντιπάλων να διεισδύουν σε ευαίσθητα συστήματα και να «σβήνουν τα φώτα» — ακόμη και να απενεργοποιούν τα συστήματα backup ώστε να εμποδίσουν την έγκαιρη ανάκαμψη.
Ο Στρατηγός Paul Nakasone, πρώην επικεφαλής της NSA και του Cyber Command, υπογραμμίζει την πιθανότητα μια χώρα που έχει παραβιάσει κρίσιμα συστήματα τροφίμων και νερού να προκαλέσει κατά λάθος διακοπή λειτουργίας, αν χάσει τον έλεγχο ενός AI agent.
Hackers συνδεδεμένοι με την κινεζική κυβέρνηση έχουν ήδη παραβιάσει κρίσιμες υποδομές των ΗΠΑ.
Ωστόσο, τα κράτη γνωρίζουν τους κινδύνους μιας άμεσης επίθεσης κατά των ΗΠΑ, σύμφωνα με τον Nakasone: «Οι Ηνωμένες Πολιτείες θα αντιδράσουν και η αντίδραση δεν θα περιοριστεί απαραίτητα μόνο στον κυβερνοχώρο».
Η πολυπλοκότητα
Γι’ αυτό πολλοί ειδικοί θεωρούν ότι μια τυχαία κλιμάκωση είναι τουλάχιστον τόσο πιθανή όσο μια στοχευμένη επίθεση.
Το μέλλον της AI μπορεί να μοιάζει περισσότερο με την ταινία των 1980s «WarGames», όπου ο Matthew Broderick υποδύεται έναν hacker που σχεδόν πυροδοτεί πυρηνικό πόλεμο κατά λάθος, παρά με το Skynet του Terminator.
Ο Chris Inglis, πρώτος εθνικός cyber director των ΗΠΑ, υπογραμμίζει τους κινδύνους ενός κόσμου όπου η AI εκτελεί και ανιχνεύει επιθέσεις, μεταφέροντας πληροφορίες στους ανθρώπινους decision-makers.
«Υπάρχει ανθρώπινη αδυναμία σε αυτό — όσον αφορά την εμπιστοσύνη που βασίζεται στην ικανότητα της μηχανής να ενημερώνει αυτή την εμπιστοσύνη, ώστε ο άνθρωπος να είναι πρόθυμος να πατήσει το Μεγάλο Κόκκινο Κουμπί», λέει.
Σημεία κρίσιμης ευπάθειας
«The Big One» θα μπορούσε να αφορά διάφορους τομείς: Utilities, επικοινωνίες, healthcare, logistics και ταξίδια.
«Δεν θέλω να δώσω στους κακούς όλες τις ιδέες, αλλά πιθανόν τις έχουν ήδη», λέει ο Kevin Mandia, ιδρυτής της Mandiant.
Ο Mandia θεωρεί ότι η επίθεση θα στοχεύσει συγκεκριμένα, όχι μαζικά. «Δεν θα είναι εκτεταμένη, γιατί δεν έχει νόημα να καούν όλοι οι πόροι της απόλυτης επίθεσης σε ταυτόχρονα targets.»
Ο Michael Sulmeyer, πρώην assistant secretary of Defense για cyber policy, ανησυχεί ιδιαίτερα για τον τομέα της υγείας.
«Είναι ήδη θεωρητικά δυνατό να εκμεταλλευτείς ένα AI μοντέλο για να εντοπίσει ευάλωτους στόχους που είναι νοσοκομεία», λέει, προσθέτοντας ότι μπορεί να γίνει προσπάθεια να τα «κατεβάσει» offline.
Επίπεδο απειλής
Ο πρώην επικεφαλής της CIA, Michael Hayden προβλέπει ότι μια επίθεση πρωτοφανούς κλίμακας είναι αναπόφευκτη: «Θα συμβεί, αυτό είναι σίγουρο.
Μπορεί σε ένα χρόνο, πέντε χρόνια; Δεν ξέρουμε.» Υποδεικνύει τη Ρωσία ως πιθανό ένοχο, σημειώνοντας ότι η Μόσχα είναι «πιο απελπισμένη» από το Πεκίνο.
Ο Panetta προσθέτει ότι μέρος του κινδύνου της AI είναι ότι δεν μπορείς να ελέγξεις ποιος έχει πρόσβαση, ακόμη και αν τα εργαλεία είναι αρκετά ισχυρά για να «παραλύσουν μια χώρα».
Άλλοι πρώην αξιωματούχοι επισημαίνουν ότι μια σειρά μικρότερης κλίμακας κυβερνοεπιθέσεων θα μπορούσε να είναι εξίσου επικίνδυνη με μια μεγάλη, εάν προκαλέσει πρωτοφανείς διαγραφές δεδομένων ή shutdown εταιρειών.
Μεταξύ των γραμμών
Η γενετική AI αυξάνει τους κινδύνους, καθώς ενισχύει τις δυνατότητες των επιτιθεμένων, αλλά και γιατί οι κυβερνοεπιχειρησιακοί μπορεί να εμπιστευτούν υπερβολικά τη μηχανή.
«Η AI δεν δημιουργεί εντελώς νέους κυβερνοκινδύνους — απλώς κλιμακώνει υπάρχουσες αδυναμίες σε μη ασφαλές λογισμικό, ευάλωτα συστήματα και υπερβολικά εμπιστευμένη αυτοματοποίηση, ενώ καθιστά τις επιθέσεις πιο δύσκολο να εντοπιστούν επειδή συγχωνεύονται με τις κανονικές λειτουργίες», λέει η Jen Easterly, πρώην director της Cybersecurity and Infrastructure Security Agency.
Μένει να φανεί αν εταιρείες, δημόσιοι φορείς και utilities θα μπορέσουν γρήγορα και αποτελεσματικά να χρησιμοποιήσουν εργαλεία AI για να ενισχύσουν την άμυνά τους.
www.bankingnews.gr
Σχόλια αναγνωστών