Συναγερμός από τους επικεφαλής των Anthropic και OpenAI για την υπερ-ευφυή τεχνητή νοημοσύνη – Γιατί τα ομόλογα, τα put options και οι κυβερνήσεις δεν μπορούν να σώσουν το χρηματοπιστωτικό σύστημα από ένα ψηφιακό blackout
Οι προειδοποιήσεις για μια «Αρμαγεδδώνα» που θα προκαλέσει η Τεχνητή Νοημοσύνη (AI) έχουν πλέον φτάσει στο αποκορύφωμά τους.
Την περασμένη εβδομάδα, ο ερευνητής της Anthropic Jacob Coxon προκάλεσε παγκόσμια αίσθηση όταν ανακοίνωσε την παραίτησή του, αποκαλύπτοντας ότι «οι άνθρωποι που κατασκευάζουν την AI πιστεύουν πραγματικά και ειλικρινά ότι θα μπορούσε να μας εξοντώσει όλους μέχρι το τέλος της δεκαετίας».
Οι δηλώσεις του ενισχύθηκαν από τον Evan Hubinger, επικεφαλής της ομάδας επιστήμης ευθυγράμμισης (alignment science) της εταιρείας, ο οποίος εκτίμησε σε πάνω από 10% την πιθανότητα η AI να οδηγήσει στην εξόντωση ολόκληρης της ανθρωπότητας.
Μέσα σε λίγες ημέρες, ο διευθύνων σύμβουλος της Anthropic Dario Amodei, ο διευθύνων σύμβουλος της OpenAI Sam Altman και άλλα κορυφαία στελέχη του χώρου της AI τάχθηκαν υπέρ της επιβράδυνσης του ρυθμού ανάπτυξης της τεχνολογίας.
Οι φόβοι για ένα σενάριο καταστροφής που θα προκληθεί από την AI αυξάνονται εδώ και αρκετό καιρό.
Ο Geoffrey Hinton, που θεωρείται «νονός της AI», υποστηρίζει εδώ και χρόνια ότι η απώλεια του ελέγχου υπερ-ευφυών συστημάτων AI θα μπορούσε να «οδηγήσει στην εξαφάνιση της ανθρωπότητας».
Πιο πρόσφατα, ο Bill Gates έχει επισημάνει τον κίνδυνο σοβαρών οικονομικών αναταράξεων που θα μπορούσαν να προκληθούν από την AI.
Παράλληλα, ο Elon Musk ζητά εδώ και τουλάχιστον από το 2023 να υπάρξει παύση στην κούρσα ανάπτυξης της AI.
Η ανησυχία της κοινής γνώμης, ωστόσο, ξεπερνά κατά πολύ τα ακραία σενάρια μιας αποκάλυψης.
Τροφοδοτείται επίσης από τον φόβο για απώλειες θέσεων εργασίας, από την τεράστια κατανάλωση νερού και ενέργειας των κέντρων δεδομένων, από τη χρήση της AI από παιδιά, καθώς και από την αύξηση των κινδύνων στον κυβερνοχώρο και στον τομέα της εθνικής ασφάλειας.
Πρόσφατη δημοσκόπηση της Gallup έδειξε ότι πλέον επτά στους δέκα Αμερικανούς αντιτίθενται στην κατασκευή κέντρων δεδομένων κοντά στις κατοικίες τους.
Μόλις το 32% των Αμερικανών δηλώνει ότι εμπιστεύεται την AI, έναντι 87% στην Κίνα.
Πώς θα πρέπει, λοιπόν, οι υπεύθυνοι χάραξης πολιτικής, οι επιχειρηματικοί ηγέτες και οι επενδυτές να προστατευθούν έναντι των κινδύνων που συνδέονται με την AI;
Ακόμη και τα πιο ακραία σενάρια για την AI είναι υπερβολικά σοβαρά για να απορριφθούν, όσο απίθανα κι αν φαίνονται.
Οι κυβερνήσεις έχουν την ευθύνη να προστατεύουν το κοινό, ενώ οι επιχειρηματικοί ηγέτες έχουν την υποχρέωση να διαφυλάσσουν τα συμφέροντα των μετόχων και των πελατών τους.
Δεδομένων των δυνητικά καταστροφικών συνεπειών, ίσως είναι συνετό να περιοριστεί η έκθεση στους σχετικούς κινδύνους προτού επέλθει μια καταστροφή.
Ωστόσο, η αντιστάθμιση κινδύνων που έχουν μικρή πιθανότητα να εκδηλωθούν αλλά θα μπορούσαν να απειλήσουν την ίδια την ύπαρξη της ανθρωπότητας είναι εξαιρετικά δύσκολη.
Στον δυστοπικό κόσμο που θα μπορούσε να δημιουργήσει μια ανεξέλεγκτη AI, οι παραδοσιακές μορφές αντιστάθμισης κινδύνου, όπως τα ομόλογα και τα δικαιώματα πώλησης (put options), δεν θα προσέφεραν ιδιαίτερη προστασία, καθώς ακόμη και οι χρηματοπιστωτικοί λογαριασμοί, τα συστήματα πληρωμών και τα αρχεία θα μπορούσαν να παραβιαστούν ή να καταστραφούν.
Ούτε θα μπορούσαν οι επενδυτές να θεωρούν δεδομένο ότι οι κυβερνήσεις θα παρενέβαιναν για να αποκαταστήσουν τη σταθερότητα των αγορών.
Εάν οι ίδιοι οι θεσμοί που υπό κανονικές συνθήκες λειτουργούν ως δίχτυ ασφαλείας σε περιόδους κρίσης είχαν αποδυναμωθεί ή καταστεί ανενεργοί, η επιβολή των συμβάσεων και η προστασία των δικαιωμάτων ιδιοκτησίας θα ήταν σχεδόν αδύνατη.
Πραγματικά περιουσιακά στοιχεία, όπως η γη και τα δικαιώματα επί υδάτινων πόρων, θα μπορούσαν να διατηρήσουν την αξία τους σε λιγότερο ακραία σενάρια.
Ακόμη και αυτά, όμως, θα ήταν άνευ σημασίας σε περίπτωση μιας πραγματικής «αποκάλυψης» της AI.
Πρακτικά μέτρα
Ωστόσο, υπάρχουν αρκετά πρακτικά μέτρα που μπορούν να λάβουν οι υπεύθυνοι χάραξης πολιτικής και οι επιχειρηματικοί ηγέτες.
Ένα από αυτά είναι η θέσπιση αυστηρότερων «air gaps», δηλαδή η απομόνωση των κρίσιμων δικτύων και συστημάτων ενός οργανισμού από μη ασφαλή δίκτυα, όπως το δημόσιο διαδίκτυο.
Προς το παρόν, μπορούν να αντλούν ανακούφιση από το γεγονός ότι τα σημερινά μοντέλα τεχνητής νοημοσύνης παραμένουν υπερβολικά αναξιόπιστα και απρόβλεπτα για να εξαπολύσουν μια συντονισμένη εκστρατεία τέτοιου μεγέθους, ώστε να απειληθεί η επιβίωση της ανθρωπότητας.
Ωστόσο, η αυξανόμενη πολυπλοκότητα και η ολοένα μεγαλύτερη εμβέλειά τους επιβάλλουν την άμεση επανεξέταση των υφιστάμενων μηχανισμών κυβερνοάμυνας.
Δεύτερον, υπάρχει σημαντικό περιθώριο για αυστηρότερη ρύθμιση της τεχνητής νοημοσύνης, συμπεριλαμβανομένων αυστηρών ελέγχων ασφαλείας και απαιτήσεων αδειοδότησης.
Αναμφίβολα, η ρύθμιση της τεχνητής νοημοσύνης σε διασυνοριακό επίπεδο δεν θα είναι εύκολη, σε μια περίοδο εντεινόμενου γεωπολιτικού ανταγωνισμού.
Κανένας διεθνής οργανισμός δεν διαθέτει σήμερα την εξουσία να εποπτεύσει, πόσο μάλλον να επιβάλει κανόνες, στην ανάπτυξη τεχνητής νοημοσύνης αιχμής στις Ηνωμένες Πολιτείες, την Κίνα ή αλλού, ιδίως όταν πρόκειται για μοντέλα ανοιχτών βαρών (open-weight models).
Οι συμφωνίες ελέγχου των πυρηνικών όπλων αποτελούν ένα προφανές, αν και ατελές, προηγούμενο.
Τον Ιούλιο του 2026, περισσότεροι από 1.000 εργαζόμενοι σε εταιρείες που αναπτύσσουν τεχνητή νοημοσύνη αιχμής υπέγραψαν επιστολή, με την οποία ζητούν μια «διεθνή προσπάθεια» για την ανάπτυξη των «τεχνικών και θεσμικών εργαλείων που απαιτούνται, ώστε να επιβραδυνθεί σκόπιμα η ανάπτυξη της τεχνητής νοημοσύνης αιχμής».
Κάποιοι μπορεί να χλευάσουν την ιδέα ότι οι Ηνωμένες Πολιτείες και η Κίνα, που βρίσκονται εγκλωβισμένες σε μια σφοδρή αντιπαλότητα, θα μπορούσαν να συνεργαστούν στον τομέα της τεχνητής νοημοσύνης.
Ωστόσο, καμία από τις δύο χώρες δεν έχει συμφέρον από μια ανεξέλεγκτη τεχνολογική κούρσα που θα μπορούσε να καταλήξει σε αμοιβαία καταστροφή.
Ο κίνδυνος εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης ενδέχεται, επομένως, να αποτελέσει πρόβλημα συλλογικής δράσης, αναγκάζοντας κυβερνήσεις και επιχειρήσεις να αντιμετωπίσουν κινδύνους που καμία χώρα ή κανένας οργανισμός δεν μπορεί να διαχειριστεί μόνος του.
Οι εταιρείες ήδη συνεργάζονται μέσω εμπορικών ενώσεων και κλαδικών οργανώσεων για τον περιορισμό των κυβερνοαπειλών, και η τεχνητή νοημοσύνη τους δίνει ακόμη περισσότερους λόγους να εντείνουν αυτή τη συνεργασία.
Η προοπτική μιας τεχνητής νοημοσύνης που θα μπορεί να αυτοβελτιώνεται επαναληπτικά, η οποία βρίσκεται πίσω από πολλά από τα σενάρια εξαφάνισης της ανθρωπότητας, θα μπορούσε να καταστήσει ξεπερασμένο το συνηθισμένο εγχειρίδιο διαχείρισης κρίσεων.
Τα μέτρα ανθεκτικότητας που βοήθησαν τους θεσμούς να αντιμετωπίσουν την πανδημία COVID-19 θα είναι ελάχιστα χρήσιμα απέναντι σε ισχυρά συστήματα τεχνητής νοημοσύνης, ικανά να αλλοιώνουν αρχεία και να διαταράσσουν κρίσιμες υποδομές και επιχειρησιακές λειτουργίες.
Ακόμη και οι σημερινοί πράκτορες τεχνητής νοημοσύνης μπορούν να εντοπίζουν γρήγορα τρόπους παράκαμψης των μηχανισμών ελέγχου που έχουν σχεδιαστεί για να τους περιορίζουν, όπως έδειξε το περιστατικό παραβίασης που αφορούσε το Hugging Face.
Οι επιχειρηματικοί ηγέτες δεν χρειάζεται να περιμένουν τις κυβερνήσεις να αναλάβουν δράση.
Μπορούν να επιβραδύνουν ή ακόμη και να αναστείλουν την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης και να εγκαταστήσουν «kill switches», δηλαδή μηχανισμούς άμεσης απενεργοποίησης, οι οποίοι θα τους επιτρέπουν να θέτουν εκτός λειτουργίας ανεξέλεγκτα συστήματα, εφόσον αυτό καταστεί αναγκαίο.
Μπορούν επίσης να στηρίξουν τις εκκλήσεις για προσωρινή παύση της ανάπτυξης τεχνητής νοημοσύνης αιχμής ή ακόμη και για απαγόρευση της επιδίωξης δημιουργίας υπερευφυούς τεχνητής νοημοσύνης.
Υπάρχει, επίσης, ο κίνδυνος ισχυρά εργαλεία τεχνητής νοημοσύνης να πέσουν σε λάθος χέρια.
Ορισμένες από τις σημαντικότερες εξελίξεις στην ανάπτυξη της τεχνητής νοημοσύνης προέρχονται από χώρες των οποίων οι αξίες και τα συμφέροντα έρχονται σε αντίθεση με εκείνα της Δύσης.
Ακόμη και χωρίς την ύπαρξη αυτόνομης υπερευφυούς τεχνητής νοημοσύνης, εχθρικά κράτη και τρομοκρατικές οργανώσεις θα μπορούσαν να χρησιμοποιήσουν εργαλεία τεχνητής νοημοσύνης για να προκαλέσουν τεράστιας κλίμακας ζημιές.
Το γεγονός ότι κορυφαίοι ειδικοί της βιομηχανίας τεχνητής νοημοσύνης θεωρούν ότι υπάρχει μη μηδενική πιθανότητα τα ίδια τα προϊόντα τους να προκαλέσουν την εξαφάνιση της ανθρωπότητας στο προβλεπτό μέλλον θα πρέπει να αποτελέσει ένα ισχυρό καμπανάκι αφύπνισης για τους υπεύθυνους χάραξης πολιτικής και τις επιχειρήσεις.
Εάν αυτές οι δυσοίωνες προβλέψεις είναι έστω και στο ελάχιστο βάσιμες, οι συμβατικές στρατηγικές διαχείρισης κινδύνων δεν θα επαρκούν.
www.bankingnews.gr
Την περασμένη εβδομάδα, ο ερευνητής της Anthropic Jacob Coxon προκάλεσε παγκόσμια αίσθηση όταν ανακοίνωσε την παραίτησή του, αποκαλύπτοντας ότι «οι άνθρωποι που κατασκευάζουν την AI πιστεύουν πραγματικά και ειλικρινά ότι θα μπορούσε να μας εξοντώσει όλους μέχρι το τέλος της δεκαετίας».
Οι δηλώσεις του ενισχύθηκαν από τον Evan Hubinger, επικεφαλής της ομάδας επιστήμης ευθυγράμμισης (alignment science) της εταιρείας, ο οποίος εκτίμησε σε πάνω από 10% την πιθανότητα η AI να οδηγήσει στην εξόντωση ολόκληρης της ανθρωπότητας.
Μέσα σε λίγες ημέρες, ο διευθύνων σύμβουλος της Anthropic Dario Amodei, ο διευθύνων σύμβουλος της OpenAI Sam Altman και άλλα κορυφαία στελέχη του χώρου της AI τάχθηκαν υπέρ της επιβράδυνσης του ρυθμού ανάπτυξης της τεχνολογίας.
Οι φόβοι για ένα σενάριο καταστροφής που θα προκληθεί από την AI αυξάνονται εδώ και αρκετό καιρό.
Ο Geoffrey Hinton, που θεωρείται «νονός της AI», υποστηρίζει εδώ και χρόνια ότι η απώλεια του ελέγχου υπερ-ευφυών συστημάτων AI θα μπορούσε να «οδηγήσει στην εξαφάνιση της ανθρωπότητας».
Πιο πρόσφατα, ο Bill Gates έχει επισημάνει τον κίνδυνο σοβαρών οικονομικών αναταράξεων που θα μπορούσαν να προκληθούν από την AI.
Παράλληλα, ο Elon Musk ζητά εδώ και τουλάχιστον από το 2023 να υπάρξει παύση στην κούρσα ανάπτυξης της AI.
Η ανησυχία της κοινής γνώμης, ωστόσο, ξεπερνά κατά πολύ τα ακραία σενάρια μιας αποκάλυψης.
Τροφοδοτείται επίσης από τον φόβο για απώλειες θέσεων εργασίας, από την τεράστια κατανάλωση νερού και ενέργειας των κέντρων δεδομένων, από τη χρήση της AI από παιδιά, καθώς και από την αύξηση των κινδύνων στον κυβερνοχώρο και στον τομέα της εθνικής ασφάλειας.
Πρόσφατη δημοσκόπηση της Gallup έδειξε ότι πλέον επτά στους δέκα Αμερικανούς αντιτίθενται στην κατασκευή κέντρων δεδομένων κοντά στις κατοικίες τους.
Μόλις το 32% των Αμερικανών δηλώνει ότι εμπιστεύεται την AI, έναντι 87% στην Κίνα.
Πώς θα πρέπει, λοιπόν, οι υπεύθυνοι χάραξης πολιτικής, οι επιχειρηματικοί ηγέτες και οι επενδυτές να προστατευθούν έναντι των κινδύνων που συνδέονται με την AI;
Ακόμη και τα πιο ακραία σενάρια για την AI είναι υπερβολικά σοβαρά για να απορριφθούν, όσο απίθανα κι αν φαίνονται.
Οι κυβερνήσεις έχουν την ευθύνη να προστατεύουν το κοινό, ενώ οι επιχειρηματικοί ηγέτες έχουν την υποχρέωση να διαφυλάσσουν τα συμφέροντα των μετόχων και των πελατών τους.
Δεδομένων των δυνητικά καταστροφικών συνεπειών, ίσως είναι συνετό να περιοριστεί η έκθεση στους σχετικούς κινδύνους προτού επέλθει μια καταστροφή.
Ωστόσο, η αντιστάθμιση κινδύνων που έχουν μικρή πιθανότητα να εκδηλωθούν αλλά θα μπορούσαν να απειλήσουν την ίδια την ύπαρξη της ανθρωπότητας είναι εξαιρετικά δύσκολη.
Στον δυστοπικό κόσμο που θα μπορούσε να δημιουργήσει μια ανεξέλεγκτη AI, οι παραδοσιακές μορφές αντιστάθμισης κινδύνου, όπως τα ομόλογα και τα δικαιώματα πώλησης (put options), δεν θα προσέφεραν ιδιαίτερη προστασία, καθώς ακόμη και οι χρηματοπιστωτικοί λογαριασμοί, τα συστήματα πληρωμών και τα αρχεία θα μπορούσαν να παραβιαστούν ή να καταστραφούν.
Ούτε θα μπορούσαν οι επενδυτές να θεωρούν δεδομένο ότι οι κυβερνήσεις θα παρενέβαιναν για να αποκαταστήσουν τη σταθερότητα των αγορών.
Εάν οι ίδιοι οι θεσμοί που υπό κανονικές συνθήκες λειτουργούν ως δίχτυ ασφαλείας σε περιόδους κρίσης είχαν αποδυναμωθεί ή καταστεί ανενεργοί, η επιβολή των συμβάσεων και η προστασία των δικαιωμάτων ιδιοκτησίας θα ήταν σχεδόν αδύνατη.
Πραγματικά περιουσιακά στοιχεία, όπως η γη και τα δικαιώματα επί υδάτινων πόρων, θα μπορούσαν να διατηρήσουν την αξία τους σε λιγότερο ακραία σενάρια.
Ακόμη και αυτά, όμως, θα ήταν άνευ σημασίας σε περίπτωση μιας πραγματικής «αποκάλυψης» της AI.
Πρακτικά μέτρα
Ωστόσο, υπάρχουν αρκετά πρακτικά μέτρα που μπορούν να λάβουν οι υπεύθυνοι χάραξης πολιτικής και οι επιχειρηματικοί ηγέτες.
Ένα από αυτά είναι η θέσπιση αυστηρότερων «air gaps», δηλαδή η απομόνωση των κρίσιμων δικτύων και συστημάτων ενός οργανισμού από μη ασφαλή δίκτυα, όπως το δημόσιο διαδίκτυο.
Προς το παρόν, μπορούν να αντλούν ανακούφιση από το γεγονός ότι τα σημερινά μοντέλα τεχνητής νοημοσύνης παραμένουν υπερβολικά αναξιόπιστα και απρόβλεπτα για να εξαπολύσουν μια συντονισμένη εκστρατεία τέτοιου μεγέθους, ώστε να απειληθεί η επιβίωση της ανθρωπότητας.
Ωστόσο, η αυξανόμενη πολυπλοκότητα και η ολοένα μεγαλύτερη εμβέλειά τους επιβάλλουν την άμεση επανεξέταση των υφιστάμενων μηχανισμών κυβερνοάμυνας.
Δεύτερον, υπάρχει σημαντικό περιθώριο για αυστηρότερη ρύθμιση της τεχνητής νοημοσύνης, συμπεριλαμβανομένων αυστηρών ελέγχων ασφαλείας και απαιτήσεων αδειοδότησης.
Αναμφίβολα, η ρύθμιση της τεχνητής νοημοσύνης σε διασυνοριακό επίπεδο δεν θα είναι εύκολη, σε μια περίοδο εντεινόμενου γεωπολιτικού ανταγωνισμού.
Κανένας διεθνής οργανισμός δεν διαθέτει σήμερα την εξουσία να εποπτεύσει, πόσο μάλλον να επιβάλει κανόνες, στην ανάπτυξη τεχνητής νοημοσύνης αιχμής στις Ηνωμένες Πολιτείες, την Κίνα ή αλλού, ιδίως όταν πρόκειται για μοντέλα ανοιχτών βαρών (open-weight models).
Οι συμφωνίες ελέγχου των πυρηνικών όπλων αποτελούν ένα προφανές, αν και ατελές, προηγούμενο.
Τον Ιούλιο του 2026, περισσότεροι από 1.000 εργαζόμενοι σε εταιρείες που αναπτύσσουν τεχνητή νοημοσύνη αιχμής υπέγραψαν επιστολή, με την οποία ζητούν μια «διεθνή προσπάθεια» για την ανάπτυξη των «τεχνικών και θεσμικών εργαλείων που απαιτούνται, ώστε να επιβραδυνθεί σκόπιμα η ανάπτυξη της τεχνητής νοημοσύνης αιχμής».
Κάποιοι μπορεί να χλευάσουν την ιδέα ότι οι Ηνωμένες Πολιτείες και η Κίνα, που βρίσκονται εγκλωβισμένες σε μια σφοδρή αντιπαλότητα, θα μπορούσαν να συνεργαστούν στον τομέα της τεχνητής νοημοσύνης.
Ωστόσο, καμία από τις δύο χώρες δεν έχει συμφέρον από μια ανεξέλεγκτη τεχνολογική κούρσα που θα μπορούσε να καταλήξει σε αμοιβαία καταστροφή.
Ο κίνδυνος εξαφάνισης της ανθρωπότητας εξαιτίας της τεχνητής νοημοσύνης ενδέχεται, επομένως, να αποτελέσει πρόβλημα συλλογικής δράσης, αναγκάζοντας κυβερνήσεις και επιχειρήσεις να αντιμετωπίσουν κινδύνους που καμία χώρα ή κανένας οργανισμός δεν μπορεί να διαχειριστεί μόνος του.
Οι εταιρείες ήδη συνεργάζονται μέσω εμπορικών ενώσεων και κλαδικών οργανώσεων για τον περιορισμό των κυβερνοαπειλών, και η τεχνητή νοημοσύνη τους δίνει ακόμη περισσότερους λόγους να εντείνουν αυτή τη συνεργασία.
Η προοπτική μιας τεχνητής νοημοσύνης που θα μπορεί να αυτοβελτιώνεται επαναληπτικά, η οποία βρίσκεται πίσω από πολλά από τα σενάρια εξαφάνισης της ανθρωπότητας, θα μπορούσε να καταστήσει ξεπερασμένο το συνηθισμένο εγχειρίδιο διαχείρισης κρίσεων.
Τα μέτρα ανθεκτικότητας που βοήθησαν τους θεσμούς να αντιμετωπίσουν την πανδημία COVID-19 θα είναι ελάχιστα χρήσιμα απέναντι σε ισχυρά συστήματα τεχνητής νοημοσύνης, ικανά να αλλοιώνουν αρχεία και να διαταράσσουν κρίσιμες υποδομές και επιχειρησιακές λειτουργίες.
Ακόμη και οι σημερινοί πράκτορες τεχνητής νοημοσύνης μπορούν να εντοπίζουν γρήγορα τρόπους παράκαμψης των μηχανισμών ελέγχου που έχουν σχεδιαστεί για να τους περιορίζουν, όπως έδειξε το περιστατικό παραβίασης που αφορούσε το Hugging Face.
Οι επιχειρηματικοί ηγέτες δεν χρειάζεται να περιμένουν τις κυβερνήσεις να αναλάβουν δράση.
Μπορούν να επιβραδύνουν ή ακόμη και να αναστείλουν την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης και να εγκαταστήσουν «kill switches», δηλαδή μηχανισμούς άμεσης απενεργοποίησης, οι οποίοι θα τους επιτρέπουν να θέτουν εκτός λειτουργίας ανεξέλεγκτα συστήματα, εφόσον αυτό καταστεί αναγκαίο.
Μπορούν επίσης να στηρίξουν τις εκκλήσεις για προσωρινή παύση της ανάπτυξης τεχνητής νοημοσύνης αιχμής ή ακόμη και για απαγόρευση της επιδίωξης δημιουργίας υπερευφυούς τεχνητής νοημοσύνης.
Υπάρχει, επίσης, ο κίνδυνος ισχυρά εργαλεία τεχνητής νοημοσύνης να πέσουν σε λάθος χέρια.
Ορισμένες από τις σημαντικότερες εξελίξεις στην ανάπτυξη της τεχνητής νοημοσύνης προέρχονται από χώρες των οποίων οι αξίες και τα συμφέροντα έρχονται σε αντίθεση με εκείνα της Δύσης.
Ακόμη και χωρίς την ύπαρξη αυτόνομης υπερευφυούς τεχνητής νοημοσύνης, εχθρικά κράτη και τρομοκρατικές οργανώσεις θα μπορούσαν να χρησιμοποιήσουν εργαλεία τεχνητής νοημοσύνης για να προκαλέσουν τεράστιας κλίμακας ζημιές.
Το γεγονός ότι κορυφαίοι ειδικοί της βιομηχανίας τεχνητής νοημοσύνης θεωρούν ότι υπάρχει μη μηδενική πιθανότητα τα ίδια τα προϊόντα τους να προκαλέσουν την εξαφάνιση της ανθρωπότητας στο προβλεπτό μέλλον θα πρέπει να αποτελέσει ένα ισχυρό καμπανάκι αφύπνισης για τους υπεύθυνους χάραξης πολιτικής και τις επιχειρήσεις.
Εάν αυτές οι δυσοίωνες προβλέψεις είναι έστω και στο ελάχιστο βάσιμες, οι συμβατικές στρατηγικές διαχείρισης κινδύνων δεν θα επαρκούν.
www.bankingnews.gr
Σχόλια αναγνωστών