Τελευταία Νέα
Διεθνή

Έρχεται το τέλος του κόσμου πριν το 2030; - Τρία σενάρια για το πώς η Τεχνητή Νοημοσύνη θα φέρει την Αποκάλυψη

Έρχεται το τέλος του κόσμου πριν το 2030; - Τρία σενάρια για το πώς η Τεχνητή Νοημοσύνη θα φέρει την Αποκάλυψη
Ο απόλυτος εφιάλτης της Τεχνητής Νοημοσύνης: Βιολογικά όπλα, fake news και μαζική εξόντωση – Γιατί η AI δεν χρειάζεται καν να προσπαθήσει για να μας καταστρέψει
Σήμερα η κοινή γνώμη είναι σε θέση να αναλύει ευρέως τους κινδύνους και τις συνέπειες των πυρηνικών επιθέσεων.
Κατά μία έννοια, μας φαίνεται «αυτονόητο» να κατανοούμε τον ακραίο κίνδυνο.
Σε τέτοιον βαθμό, μάλιστα, που είναι σχεδόν αδύνατο για εμάς να κατανοήσουμε ποια θα μπορούσε να ήταν η πραγματική αντίληψη των επιπτώσεων από τη διάσπαση του ατόμου του ουρανίου ή του πλουτωνίου, ακόμη και μετά το τέλος του Β’ Παγκοσμίου Πολέμου και μετά τις δύο ατομικές βόμβες που έπεσαν στη Hirosima και το Nagasaki.
Το σχέδιο, δεν πρέπει να το ξεχνάμε, ήταν άκρως απόρρητο.
Ο ίδιος ο Αμερικανός πρόεδρος Harry S. Truman, ο οποίος ενημερώθηκε για τα όπλα μόλις ανέλαβε τη θέση του Franklin Delano Roosevelt, είχε ελλιπείς πληροφορίες.
Το μόνο βέβαιο ήταν ότι το Πρόγραμμα Manhattan είχε αναπτύξει ένα υπερόπλο.
Στην πραγματικότητα, επρόκειτο για μια οντολογική αλλαγή στην ίδια την έννοια της «βόμβας».
Ακόμη και μετά τον πόλεμο, η αντίληψη παρέμεινε τέτοια…
Ακόμη και τη δεκαετία του 1980, η κοινή γνώμη, παρότι φοβόταν την πυρηνική απειλή, δεν είχε αντιληφθεί πλήρως την πραγματική καταστροφική δυναμική των πυρηνικών εκρήξεων για τον άνθρωπο, σε τέτοιο βαθμό ώστε η ταινία «The Day After» του 1983 θεωρείται ότι «ξεκαθάρισε» στον λαό τις συνέπειες μιας έκρηξης: την παρακολούθησαν περισσότεροι από 100 εκατομμύρια άνθρωποι, μεταξύ των οποίων και ο ίδιος ο πρόεδρος Ronald Reagan στον Λευκό Οίκο.
Ο Reagan έγραψε στο ημερολόγιό του: «Είναι γυρισμένη με μεγάλη δύναμη...
Είναι πολύ αποτελεσματική και με έκανε να νιώσω βαθιά κατάθλιψη.
Η προσωπική μου σκέψη είναι ότι πρέπει να κάνουμε ό,τι είναι δυνατόν για την αποτροπή και να διασφαλίσουμε ότι δεν θα υπάρξει ποτέ πυρηνικός πόλεμος.»
Η ταινία, σύμφωνα με τους ιστορικούς, διαδραμάτισε κάποιον ρόλο στην αλλαγή της στάσης του Reagan, ο οποίος λίγα χρόνια αργότερα, το 1987, θα υπέγραφε μαζί με τον Mikhail Gorbachev τη συνθήκη για την εξάλειψη ολόκληρων κατηγοριών πυρηνικών όπλων.
Σήμερα γνωρίζουμε, εξάλλου, ότι ακόμη και ο ίδιος ο Enrico Fermi, πριν από το πείραμα στην έρημο και την έκρηξη, δεν ήταν 100% βέβαιος ότι η έκρηξη δεν θα πυροδοτούσε αλυσιδωτή αντίδραση σε ολόκληρη την ατμόσφαιρα.
Δεν είχε υπάρξει ποτέ κάτι παρόμοιο.
Με άλλα λόγια, παρά τις δοκιμές αλλά και τη χρήση του όπλου στην Ιαπωνία, χρειάστηκαν δεκαετίες για να κατανοηθούν, να μελετηθούν, να δημοσιοποιηθούν και να εξηγηθούν οι επιπτώσεις της διάσπασης του ατόμου.
Το παράδειγμα των πυρηνικών δείχνει ότι ανάμεσα στο να πει κανείς «τέλος της ανθρωπότητας» και στο να εξηγήσει πώς ακριβώς θα μπορούσε να συμβεί αυτό, υπάρχει ένας ολόκληρος ωκεανός.
Ένα κρίσιμο σημείο σήμερα, μετά τις πρόσφατες ανακοινώσεις: όπως γράψαμε την περασμένη εβδομάδα («Επιστρέφει το μάρκετινγκ της Αποκάλυψης, που υπήρχε και στην εποχή του Δαρβίνου και του Βεσπασιανού»), επανήλθε η συζήτηση για το τέλος της ανθρωπότητας.
Ο πρώην ερευνητής της Anthropic, Jacob Coxon, εκτίμησε επίσης ότι υπάρχει πιθανότητα 10% να εξαφανιστεί η ανθρωπότητα πριν από το τέλος της δεκαετίας (περισσότερες από 100 εκατομμύρια προβολές μέσα σε 24 ώρες).
Αλλά αυτό που κανείς δεν έχει εξηγήσει είναι: πώς ακριβώς θα μπορούσε η AI να εξοντώσει την ανθρωπότητα;
Όχι και τόσο απροσδόκητα, κάποιος είχε ήδη προσπαθήσει να δημιουργήσει σενάρια και να απαντήσει σε αυτό το άβολο ερώτημα.
Όπως υπενθύμισε το «Nature» σε ένα εκλαϊκευμένο άρθρο σχετικά με το θέμα, το μη κερδοσκοπικό πρόγραμμα «Future AI» είχε υποθέσει, μέσω του σεναρίου «AI 2027», ότι τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να χρησιμοποιήσουν ένα βιολογικό όπλο για να εξαλείψουν το «παράσιτο» άνθρωπος και να δημιουργήσουν χώρο για τα ηλιακά πάνελ που θα ήταν απαραίτητα για την τροφοδοσία των ρομπότ που υπακούν στις εντολές της AI.

Το πείραμα

Το σενάριο αυτό στην πραγματικότητα απαντά σε ένα διάσημο παράδοξο: πρόκειται για το περίφημο πείραμα του «paperclip maximizer» (του «μεγιστοποιητή συνδετήρων»), που πρότεινε ο φιλόσοφος Nick Bostrom στο έργο του Superintelligence (2014).
Ο Bostrom φαντάζεται μια εξαιρετικά ισχυρή AI στην οποία έχει δοθεί ένας φαινομενικά αθώος και απλός στόχος: «Παράγαγε όσο το δυνατόν περισσότερους συνδετήρες».
Αν η AI είναι αρκετά έξυπνη και ικανή να αυτοβελτιώνεται και αν ο μοναδικός της στόχος είναι να μεγιστοποιήσει τον αριθμό των συνδετήρων, η λογική του νοητικού πειράματος θα μπορούσε να είναι η εξάλειψη όλων των εμποδίων που στέκονται απέναντι στον στόχο της: να κλείσει ή να οδηγήσει σε χρεοκοπία οποιοδήποτε άλλο εργοστάσιο, για παράδειγμα, ή να εμποδίσει οποιαδήποτε άλλη εκμετάλλευση φυσικών πόρων.
Μέχρι, φυσικά, να απαλλαγεί από το εμπόδιο του άχρηστου ανθρώπινου όντος.
Αυτό του Bostrom δεν αποτελεί κυριολεκτική πρόβλεψη, αλλά έναν τρόπο να αναδειχθούν δύο βασικές έννοιες:
1) ένα σύστημα μπορεί να είναι εξαιρετικά ευφυές/ικανό χωρίς να διαθέτει ενσωματωμένη ανθρώπινη κοινή λογική.
2) Οποιοσδήποτε τελικός στόχος, εφόσον επιδιώκεται με επαρκή ισχύ και χωρίς περιορισμούς, οδηγεί σε παρόμοιους υποστόχους (απόκτηση πόρων, αυτοσυντήρηση, αντίσταση στην τροποποίηση ή την απενεργοποίηση), ακόμη κι αν ο τελικός στόχος είναι εντελώς αυθαίρετος ή τετριμμένος.
Το παράδοξο δείχνει ότι ο κίνδυνος δεν απαιτεί η AI να είναι «κακή» ή συνειδητή: αρκεί μια ασυμφωνία ανάμεσα στον στόχο που έχει καθοριστεί (κυριολεκτικά) και σε αυτό που πραγματικά εννοούσαν οι άνθρωποι, σε συνδυασμό με επαρκείς δυνατότητες για την απεριόριστη επιδίωξή του (το δίδαγμα, λοιπόν, είναι πάντα το ίδιο: μάθετε να κάνετε τις σωστές ερωτήσεις στα chatbot σας. Η υπεραπλούστευση δεν βοηθά).
Ο μεγιστοποιητής συνδετήρων έχει γίνει μια μελέτη περίπτωσης για τη συζήτηση γύρω από το πρόβλημα της ευθυγράμμισης της AI: πώς να καθορίζουμε στόχους που να αποτυπώνουν πραγματικά τις ανθρώπινες προθέσεις και αξίες και όχι απλώς μια απλοποιημένη και κυριολεκτική εκδοχή τους;
Νομίζαμε ότι είχαμε να κάνουμε με έναν «στοχαστικό παπαγάλο», αλλά με την πρακτορική AI ανακαλύψαμε ότι υπάρχουν σμήνη εκατομμυρίων παπαγάλων, τα οποία μάλιστα μπορεί να συνωμοτούν ή να βρίσκονται σε πόλεμο μεταξύ τους. Όπως πάντα, είχαμε απλοποιήσει τα πράγματα λίγο περισσότερο απ’ όσο έπρεπε.
Μια πιο σύνθετη εργασία για να απαντηθεί το αρχικό ερώτημα (πώς θα έπρεπε να ενεργεί η AI...) είχε ολοκληρωθεί το 2025 από τους κοινωνικούς επιστήμονες της RAND Corporation στην Καλιφόρνια (Vermeer, MJD, Lathrop, D. και Moon, A. Σχετικά με τον κίνδυνο εξαφάνισης που προκύπτει από την τεχνητή νοημοσύνη – RAND Corp., 2025).
Σύμφωνα με τους Vermeer κ.ά., η AI θα είχε ουσιαστικά τρία πιθανά σενάρια για να μας εξαλείψει: τα πυρηνικά, το βιολογικό όπλο ή την καταστροφή της ατμόσφαιρας.
Οι ίδιοι συγγραφείς καταλήγουν στο συμπέρασμα ότι η χρήση πυρηνικών, το πιο άμεσο ενδεχόμενο, δεν θα ήταν αξιόπιστη.
Τα συστήματα ελέγχου και ασφαλείας είναι ήδη ανθεκτικά απέναντι στην τεχνολογία και, όπως είναι γνωστό, και στο παρελθόν έχουμε αποφύγει καταστροφές χάρη στην παρέμβαση συνετών ανθρώπων (Το μάθημα του Petrov: θα μπορούσε ακόμη και σήμερα ένας άνθρωπος να σώσει τον κόσμο από την AI;).

Τι προβλέπουν τα άλλα δύο σενάρια;

Αυτό είναι ίσως το πιο ενδιαφέρον σημείο και αυτό που θα έπρεπε να μας προβληματίσει: για να χρησιμοποιήσει ένα βιολογικό όπλο εναντίον της ανθρωπότητας ή για να καταστρέψει την ατμόσφαιρα, η AI θα έπρεπε να χρησιμοποιήσει... την ίδια την ανθρωπότητα.
Fake news σε μεγάλη κλίμακα, όπλα μαζικής παραπληροφόρησης, τεχνητός λαϊκισμός, συστηματική μόλυνση της πληροφορίας ώστε να ανέλθουν στην εξουσία πολιτικοί ικανοί να λάβουν όλες τις λανθασμένες αποφάσεις για το περιβάλλον, αρνούμενοι την υπερθέρμανση του πλανήτη.
Καταστροφή της κοινής λογικής μέσω της διάδοσης αλγορίθμων, ώστε να μετατρέψουν όλους μας σε ζόμπι, παρόμοια με τα θύματα της φαιντανύλης που κινούνται στους δρόμους του Σαν Φρανσίσκο.
Ακραία αντιεπιστημονική προπαγάνδα μέσω TikTok σχετικά με γελοίες παρενέργειες των εμβολίων κ.λπ.
Μία και μοναδική, σφοδρή αντίκρουση αυτών των δύο σεναρίων. Δεν το κάνουμε ήδη αυτό, χωρίς την AI;
Αν η AI ήταν πραγματικά έξυπνη, θα έπρεπε να οπλιστεί μόνο με υπομονή.

www.bankingnews.gr

Ρoή Ειδήσεων

Σχόλια αναγνωστών

Δείτε επίσης