Οι επιστήμονες μίλησαν: Η τεχνητή νοημοσύνη μπορεί να προκαλέσει «πυρηνική καταστροφή» - Μάχη για να μπει φρένο στην «τρέλα»

Αμερικανοί βουλευτές κρούουν και «επίσημα» τον κώδωνα του κινδύνου για τη χρήση τεχνητής νοημοσύνης (AI) στο πυρηνικό οπλοστάσιο της χώρας, φοβούμενοι ότι η τεχνολογία θα μπορούσε ενδεχομένως να εκτοξεύσει από μόνη της κεφαλές.
Μια δικομματική ομάδα βουλευτών, αποτελούμενη από τρεις Δημοκρατικούς και έναν Ρεπουμπλικανό, υπέβαλε στη Βουλή των Αντιπροσώπων ένα νομοσχέδιο που επιδιώκει να περιορίσει την ανάπτυξη συστημάτων τεχνητής νοημοσύνης ικανών να εξαπολύουν πυρηνικές επιθέσεις χωρίς ανθρώπινη επίβλεψη.
Το προτεινόμενο νομοσχέδιο επιδιώκει να μπλοκάρει προληπτικά τυχόν πιθανές πολιτικές του Υπουργείου Άμυνας που μπορεί να έχουν ως αποτέλεσμα την ανάπτυξη αυτόνομων συστημάτων τεχνητής νοημοσύνης ικανών να εκτοξεύουν πυρηνικά όπλα.
Σε μια πρόσφατη συνέντευξη στο Fox News, ο εκπρόσωπος των ΗΠΑ Ken Buck, ένας Ρεπουμπλικανός από το Κολοράντο, τόνισε τον πιθανό κίνδυνο ανάπτυξης συστημάτων τεχνητής νοημοσύνης για πυρηνικά όπλα χωρίς ανθρώπινη επίβλεψη, αποκαλώντας το «απερίσκεπτο» και «επικίνδυνο».
Αν και αναγνώρισε ότι η τεχνητή νοημοσύνη θα μπορούσε να ενισχύσει την εθνική ασφάλεια, τόνισε τη σημασία της απαγόρευσης της χρήσης της σε αποφάσεις αυτόνομης εκτόξευσης πυρηνικών.
"Βλέπετε ταινίες επιστημονικής φαντασίας και ο κόσμος είναι εκτός ελέγχου επειδή η τεχνητή νοημοσύνη έχει αναλάβει αυτόνομα τις διαδικασίες όμως εμείς επιβάλλεται να έχουμε ανθρώπους σε αυτές τις εργασίες", πρόσθεσε.
Ο Ken Buck αναφέρθηκε στην απεικόνιση του Χόλιγουντ ότι η τεχνητή νοημοσύνη παίρνει τον έλεγχο των πυρηνικών όπλων σε ταινίες όπως το «WarGames» και το «Colossus: The Forbidden Project» και προειδοποίησε ότι η χρήση της τεχνητής νοημοσύνης χωρίς ανθρώπινη παρέμβαση θα ήταν ανασφαλής και ανεύθυνη.
Ο εκπρόσωπος Ted Lieu από την Καλιφόρνια συμφώνησε με τις ανησυχίες του Buck και αναγνώρισε τα πιθανά οφέλη και τους κινδύνους της AI, δηλώνοντας ότι ενώ μπορεί να μεταμορφώσει την κοινωνία, μπορεί επίσης να απειλήσει ανθρώπινες ζωές.
Ο Lieu, μαζί με δύο άλλους Δημοκρατικούς, τον εκπρόσωπο Don Beyer της Βιρτζίνια και τον γερουσιαστή Edward Markey από τη Μασαχουσέτη, είναι κορυφαίος υποστηρικτής της νομοθεσίας για την τεχνητή νοημοσύνη που επιδιώκει να αποτρέψει τυχόν κινδύνους αυτόνομων συστημάτων τεχνητής νοημοσύνης στο πυρηνικό οπλοστάσιο της χώρας.
Τον Απρίλιο, ο ηγέτης της πλειοψηφίας της Γερουσίας, Τσακ Σούμερ, παρουσίασε ένα ολοκληρωμένο πλαίσιο που καλεί τις εταιρείες που εμπλέκονται στην ανάπτυξη της τεχνητής νοημοσύνης να επιτρέπουν σε εξωτερικούς εμπειρογνώμονες να αξιολογούν την τεχνολογία τους προτού διατεθεί για δημόσια χρήση.
Το πλαίσιο στοχεύει στην προώθηση της διαφάνειας και της λογοδοσίας στην ανάπτυξη της τεχνητής νοημοσύνης, διασφαλίζοντας ταυτόχρονα ότι τα πιθανά οφέλη της είναι προσβάσιμα σε όλους.
Ενώ η ιδέα μιας πυρηνικής σύγκρουσης που καθοδηγείται από την τεχνητή νοημοσύνη μπορεί να είχε θεωρηθεί ως έργο μυθοπλασίας στο παρελθόν, πολλοί ειδικοί τη θεωρούν τώρα ως ορατό πλέον κίνδυνο μετά τις τεχνολογικές εξελίξεις.
Σύμφωνα με μια πρόσφατη έρευνα του Ινστιτούτου Στάνφορντ για την Ανθρωποκεντρική Τεχνητή Νοημοσύνη, το 36% των ειδικών της τεχνητής νοημοσύνης πιστεύουν ότι η τεχνητή νοημοσύνη μπορεί ενδεχομένως να προκαλέσει μια «καταστροφή σε πυρηνικό  μάλιστα επίπεδο».

Η θέση του Πενταγώνου σχετικά με τη χρήση της τεχνητής νοημοσύνης

Το Πεντάγωνο έχει διαθέσει 1,8 δισεκατομμύρια δολάρια ΗΠΑ αποκλειστικά για την έρευνα και την ανάπτυξη δυνατοτήτων τεχνητής νοημοσύνης στον προϋπολογισμό του οικονομικού έτους 2024.
Η επένδυση αντανακλά την αυξανόμενη εστίαση του αμερικανικού στρατού στην τεχνητή νοημοσύνη ως κρίσιμο στοιχείο για τη διατήρηση της εθνικής ασφάλειας και τη δέσμευσή του να παραμείνει στην πρώτη γραμμή της τεχνολογικής καινοτομίας σε αυτόν τον τομέα.
Η Κεντρική Διοίκηση των ΗΠΑ (CENTCOM) διόρισε πρόσφατα τον πρώτο της σύμβουλο τεχνητής νοημοσύνης, τον Δρ Andrew Moore, σηματοδοτώντας μια μεγαλύτερη έμφαση στην αξιοποίηση των πλεονεκτημάτων της ταχέως εξελισσόμενης τεχνολογίας στον στρατό.
Εν τω μεταξύ, ο Schuyler Moore, ο επικεφαλής τεχνολογίας στην CENTCOM, δήλωσε νωρίτερα ότι η τεχνητή νοημοσύνη θεωρείται ως ένας «διακόπτης φωτός» που βοηθά τα άτομα να ερμηνεύουν δεδομένα και να τα καθοδηγούν προς τη σωστή κατεύθυνση.
Τόνισε ότι η θέση του Πενταγώνου είναι ότι πρέπει πάντα να υπάρχει ένας άνθρωπος στον κύκλο που λαμβάνει την τελική απόφαση και ότι η τεχνητή νοημοσύνη θα είναι συμπληρωματική της ανθρώπινης κρίσης και όχι υποκατάστατο.
Ο Schuyler Moore πρόσθεσε ότι μια εφαρμογή τεχνητής νοημοσύνης στον τομέα της CENTCOM χρησιμοποιείται για την καταπολέμηση των παράνομων αποστολών όπλων σε όλο το Ιράν.
Ανέφερε ότι ο στρατός πιστεύει ότι η τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στη μείωση του αριθμού των δυνητικά ύποπτων αποστολών, κατανοώντας τα τακτικά πρότυπα αποστολής και επισημαίνοντας τυχόν ανωμαλίες που αποκλίνουν από τον κανόνα.
Αξιωματούχοι του Πενταγώνου έχουν επανειλημμένα δηλώσει ότι οι ΗΠΑ βρίσκονται σε έναν αγώνα δρόμου για την ανάπτυξη ενός πιο ηθικού και υπεύθυνου συστήματος τεχνητής νοημοσύνης από τα συστήματα που αναπτύχθηκαν από τους αντιπάλους τους.
Έχουν εκφράσει ανησυχίες ότι ορισμένα έθνη γίνονται ανησυχητικά ικανά να χρησιμοποιούν την τεχνητή νοημοσύνη για μη εξουσιοδοτημένη παρακολούθηση. Τόνισαν την ανάγκη οι ΗΠΑ να είναι προετοιμασμένες να αντιμετωπίσουν τέτοιες τακτικές εάν χρησιμοποιηθούν εναντίον της χώρας.

www.bankingnews.gr