Tο στρατιωτικό προσωπικό είχε ήδη ξεκινήσει τις προετοιμασίες για την επιχείρηση αναχαίτισης του σκάφους, με τα πολεμικά αεροσκάφη να βρίσκονται ήδη στον αέρα...
Ο στρατός των ΗΠΑ γλίτωσε την τελευταία στιγμή την αναχαίτιση ενός κινεζικού πλοίου στη Μέση Ανατολή το φετινό ανοιξιάτικο διάστημα, όταν μια αναφορά πληροφοριών παραγμένη από AI υπέδειξε εσφαλμένα ότι μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων, μεταδίδει το CNN στις 18/9 επικαλούμενο πηγές.
Σύμφωνα με το δίκτυο, το στρατιωτικό προσωπικό είχε ήδη ξεκινήσει τις προετοιμασίες για την επιχείρηση αναχαίτισης του σκάφους, με τα πολεμικά αεροσκάφη να βρίσκονται ήδη στον αέρα.
Μόλις λίγο πριν την έναρξη της εφόδου, οι στρατιωτικοί εξέτασαν εξονυχιστικά την αναφορά και διαπίστωσαν ότι το chatbot που χρησιμοποίησε ο αναλυτής είχε αναγνωρίσει λανθασμένα το φορτίο του πλοίου.
Το CNN δεν μπορέσε να εξακριβώσει τι ακριβώς βρισκόταν τελικά πάνω στο σκάφος.
«Η αναφορά ήταν παντελώς ψευδής», δήλωσε μία από τις πηγές του δικτύου, προσθέτοντας ότι το περιστατικό «σχεδόν οδήγησε σε πόλεμο».
Το CNN επισημαίνει ότι οποιαδήποτε αμερικανική επιχείρηση εναντίον του κινεζικού σκάφους θα μπορούσε να είχε κλιμακωθεί σε ένοπλη σύγκρουση μεταξύ ΗΠΑ και Κίνας.
Όπως αποδείχθηκε από την έρευνα του καναλιού, ο αναλυτής ζήτησε από ένα chatbot να αναλύσει τις πληροφορίες σχετικά με τη δήλωση φορτίου του πλοίου, τις οποίες είχε λάβει από την US Pacific Special Operations Command.
Το σύστημα συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητα δεδομένα ηλεκτρονικών πληροφοριών και κατέληξε σε ένα εντελώς εσφαλμένο συμπέρασμα για τη φύση του φορτίου.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε εκ νέου το AI για να μορφοποιήσει τα ευρήματα σε μια τυπική αναφορά πληροφοριών —από αυτές που ο στρατός των ΗΠΑ εμπιστεύεται τυφλά— και διακίνησε το έγγραφο.
Το CNN σημειώνει ότι ο στρατός και οι υπηρεσίες πληροφοριών των ΗΠΑ ενσωματώνουν όλο και περισσότερο το AI, τόσο για την ανάλυση πληροφοριών όσο και για την επιλογή στόχων.
Ωστόσο, διαφορετικές μονάδες χρησιμοποιούν διαφορετικά συστήματα και πρότυπα ασφαλείας, ενώ δεν υπάρχουν ενιαίοι κανόνες για την επαλήθευση των πληροφοριών που παράγονται από AI.
Μία από τις πηγές του καναλιού ανέφερε ότι η χρήση του AI στην επιλογή στόχων επεκτείνεται ραγδαία, αλλά δεν υπάρχουν ακόμη σαφείς κατευθυντήριες γραμμές για το πώς η ανθρώπινη παρέμβαση πρέπει να αποτρέπει απώλειες αμάχων ή χτυπήματα από φίλια πυρά.
www.bankingnews.gr
Σύμφωνα με το δίκτυο, το στρατιωτικό προσωπικό είχε ήδη ξεκινήσει τις προετοιμασίες για την επιχείρηση αναχαίτισης του σκάφους, με τα πολεμικά αεροσκάφη να βρίσκονται ήδη στον αέρα.
Μόλις λίγο πριν την έναρξη της εφόδου, οι στρατιωτικοί εξέτασαν εξονυχιστικά την αναφορά και διαπίστωσαν ότι το chatbot που χρησιμοποίησε ο αναλυτής είχε αναγνωρίσει λανθασμένα το φορτίο του πλοίου.
Το CNN δεν μπορέσε να εξακριβώσει τι ακριβώς βρισκόταν τελικά πάνω στο σκάφος.
«Η αναφορά ήταν παντελώς ψευδής», δήλωσε μία από τις πηγές του δικτύου, προσθέτοντας ότι το περιστατικό «σχεδόν οδήγησε σε πόλεμο».
Το CNN επισημαίνει ότι οποιαδήποτε αμερικανική επιχείρηση εναντίον του κινεζικού σκάφους θα μπορούσε να είχε κλιμακωθεί σε ένοπλη σύγκρουση μεταξύ ΗΠΑ και Κίνας.
Όπως αποδείχθηκε από την έρευνα του καναλιού, ο αναλυτής ζήτησε από ένα chatbot να αναλύσει τις πληροφορίες σχετικά με τη δήλωση φορτίου του πλοίου, τις οποίες είχε λάβει από την US Pacific Special Operations Command.
Το σύστημα συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητα δεδομένα ηλεκτρονικών πληροφοριών και κατέληξε σε ένα εντελώς εσφαλμένο συμπέρασμα για τη φύση του φορτίου.
Στη συνέχεια, ο αναλυτής χρησιμοποίησε εκ νέου το AI για να μορφοποιήσει τα ευρήματα σε μια τυπική αναφορά πληροφοριών —από αυτές που ο στρατός των ΗΠΑ εμπιστεύεται τυφλά— και διακίνησε το έγγραφο.
Το CNN σημειώνει ότι ο στρατός και οι υπηρεσίες πληροφοριών των ΗΠΑ ενσωματώνουν όλο και περισσότερο το AI, τόσο για την ανάλυση πληροφοριών όσο και για την επιλογή στόχων.
Ωστόσο, διαφορετικές μονάδες χρησιμοποιούν διαφορετικά συστήματα και πρότυπα ασφαλείας, ενώ δεν υπάρχουν ενιαίοι κανόνες για την επαλήθευση των πληροφοριών που παράγονται από AI.
Μία από τις πηγές του καναλιού ανέφερε ότι η χρήση του AI στην επιλογή στόχων επεκτείνεται ραγδαία, αλλά δεν υπάρχουν ακόμη σαφείς κατευθυντήριες γραμμές για το πώς η ανθρώπινη παρέμβαση πρέπει να αποτρέπει απώλειες αμάχων ή χτυπήματα από φίλια πυρά.
www.bankingnews.gr
Σχόλια αναγνωστών