Διακυβέρνηση χωρίς ανθρώπους... ποτέ - Η αυτοματοποίηση και η Τεχνητή Νοημοσύνη χτίζουν ένα ανεξέλεγκτο κράτος - Μεταβαίνουμε ραγδαία από μια κοινωνία που κυβερνάται από νόμους και συνταγματικές διαδικασίες σε μια κοινωνία που κυβερνάται από λογισμικό.
«Οι αμερικανικές εταιρείες Τεχνητής Νοημοσύνης πρέπει να είναι ελεύθερες να καινοτομούν χωρίς επαχθείς ρυθμίσεις», δήλωσε ο πρόεδρος Donald Trump μέσω του Εκτελεστικού Διατάγματος 14365.
Ωστόσο, η εποχή του «μικρού κράτους» έχει τελειώσει και όποιος ισχυρίζεται το αντίθετο απλά εθελοτυφλεί.
Ο Donald Trump υποσχέθηκε να συρρικνώσει τη γραφειοκρατία της ομοσπονδιακής κυβέρνησης.
Τι συμβαίνει όμως αν η δέσμευσή του για μείωση του προσωπικού δεν αφορά την κατάργηση του γραφειοκρατικού μηχανισμού, αλλά την ανάθεσή του στον ιδιωτικό τομέα της Τεχνητής Νοημοσύνης;
Τι γίνεται αν, με τη στήριξη μιας τεχνολογικής βιομηχανίας που ανυπομονεί να αυτοματοποιήσει τη διακυβέρνηση, κατασκευάζεται ένα κράτος που απλώς δεν χρειάζεται πλέον τόσους ανθρώπους για να λειτουργήσει;
Εκατοντάδες χιλιάδες δημοσιοϋπάλληλοι εξαφανίζονται από τη μισθοδοσία, την ίδια ώρα που η Ουάσινγκτον τρέχει να αντικαταστήσει το έργο τους με συστήματα Τεχνητής Νοημοσύνης (AI).
Από την επιστροφή του Trump στην εξουσία, το ομοσπονδιακό εργατικό δυναμικό έχει συρρικνωθεί κατά περισσότερους από 270.000 εργαζομένους μέσω «παγώματος» προσλήψεων, εθελούσιων εξόδων, πρόωρων συνταξιοδοτήσεων και απολύσεων.
Παράλληλα, η Διοίκηση Γενικών Υπηρεσιών (GSA) δίνει οδηγίες στις κρατικές υπηρεσίες να «εξαλείψουν, να βελτιστοποιήσουν και να αυτοματοποιήσουν» την εργασία τους όπου είναι εφικτό.
Αυτό δεν συνιστά επιστροφή σε ένα μικρότερο κράτος. Πρόκειται για μια επικίνδυνη αναδιάταξη της κρατικής εξουσίας. Παρακολουθούμε τη δημιουργία μιας κυβέρνησης που απαιτεί λιγότερους ανθρώπους για να εκτελέσει τη βούλησή της, λιγότερους ανθρώπους για να αμφισβητήσουν τις διαταγές της και λιγότερους ανθρώπους για να σταθούν εμπόδιο όταν η αποτελεσματικότητα συγκρούεται με τη νομιμότητα, την ηθική ή τις συνταγματικές ασφαλιστικές δικλίδες.
Ο κίνδυνος της μηχανικής υπακοής
Αυτός είναι ο πραγματικός κίνδυνος της αυτοματοποίησης του κράτους.
Οι άνθρωποι διστάζουν.
Οι άνθρωποι αμφισβητούν.
Οι άνθρωποι προβάλλουν αντιρρήσεις.
Οι άνθρωποι αρνούνται.
Οι άνθρωποι αποκαλύπτουν σκάνδαλα (whistleblowers).
Οι μηχανές δεν διστάζουν, δεν διαμαρτύρονται και δεν αποκαλύπτουν αυθαιρεσίες.
Κατά κανόνα, εκτελούν όσα έχουν προγραμματιστεί να κάνουν.
Για μια διακυβέρνηση που ανυπομονεί να απαλλαγεί από νομικούς περιορισμούς, θεσμικές αντιστάσεις και όσους λένε «όχι», αυτό δεν είναι μια απλή τεχνολογική διευκόλυνση, αλλά ένας αυταρχικός πειρασμός.
Όποιος πιστεύει ότι το μικρότερο κράτος σημαίνει λιγότερη κρατική εξουσία, πλανάται.
Μια κυβέρνηση που διοικείται από μηχανές παραμένει κυβέρνηση.
Μια κυβέρνηση χωρίς γραφειοκράτες δεν είναι κυβέρνηση χωρίς γραφειοκρατία· είναι απλώς γραφειοκρατία χωρίς ανθρώπους.
Και αυτή η μορφή εξουσίας μπορεί να αποδειχθεί πολύ πιο ισχυρή, διεισδυτική και ανεξέλεγκτη από οποιαδήποτε προηγούμενη.
Διαμορφώνεται ένα κράτος που, αν και απασχολεί λιγότερους υπαλλήλους, διαθέτει εκθετικά μεγαλύτερη ισχύ να παρακολουθεί, να επεξεργάζεται, να κατηγοριοποιεί, να ερευνά και να ελέγχει τον πληθυσμό.
Ήδη η αμερικανική κυβέρνηση λάνσαρε το America.gov, μια κεντρική ψηφιακή πύλη AI μέσω της οποίας οι πολίτες θα αλληλεπιδρούν με τις υπηρεσίες, με τον Λευκό Οίκο να κομπάζει ότι το κράτος θα διεκπεραιώνει μόνο του τη «γραφική του δουλειά».
Από τη διευκόλυνση στην αυτόματη επιβολή της εξουσίας
Η Τεχνητή Νοημοσύνη μπορεί πράγματι να μειώσει τη γραφειοκρατία, να απλοποιήσει τις αιτήσεις, να εντοπίσει τη σπατάλη, να μεταφράσει τη διοικητική ορολογία και να απαλλάξει τους εργαζομένους από ανιαρά καθήκοντα.
Το πρόβλημα δεν είναι αν η AI είναι χρήσιμη.
Είναι.
Ο κίνδυνος ξεκινά όταν παύει να επικουρεί τον άνθρωπο και αρχίζει να τον αντικαθιστά — όχι απλώς ως υπάλληλο, αλλά ως λήπτη αποφάσεων, ερευνητή, ελεγκτή και εκτελεστή της κρατικής ισχύος.
Μεταβαίνουμε ραγδαία από μια κοινωνία που κυβερνάται από νόμους και συνταγματικές διαδικασίες σε μια κοινωνία που κυβερνάται από λογισμικό.
Σε ένα τέτοιο καθεστώς, ο νόμος δεν ερμηνεύεται πλέον· εκτελείται αυτόματα, μηχανικά, με την ταχύτητα του επεξεργαστή.
Το αποτέλεσμα είναι ένα σύστημα όπου το κράτος δεν κυβερνά, αλλά διεκπεραιώνει: την αίτησή σας, τη φορολογική σας δήλωση, την αναπηρική σας σύνταξη, το καθεστώς αλλοδαπού, το πρόσωπό σας, τις μετακινήσεις σας, τις οικονομικές σας συναλλαγές, το προφίλ επικινδυνότητάς σας — και ενδεχομένως, σε στρατιωτικό επίπεδο, το αν αποτελείτε στόχο εξόντωσης.
Εδώ η υποτιθέμενη αποτελεσματικότητα της AI συγκρούεται μετωπικά με το Σύνταγμα.
Το κράτος δεν είναι ιδιωτική εταιρεία με σκοπό την ταχύτητα και τη μείωση του κόστους.
Διαθέτει εξουσίες που καμία εταιρεία δεν έχει: μπορεί να φορολογήσει, να ερευνήσει, να συλλάβει, να φυλακίσει, να κατασχέσει περιουσία και να αφαιρέσει τη ζωή.
Όταν ασκούνται αυτές οι εξουσίες, η αποτελεσματικότητα δεν μπορεί να είναι η ύψιστη αξία· η ελευθερία πρέπει να είναι.
Οι συνταγματικές διαδικασίες, τα εντάλματα, οι δίκες, οι εφέσεις και οι θεσμικοί έλεγχοι είναι αναποτελεσματικά και αργά βάσει σχεδίου.
Το Σύνταγμα τοποθετεί επίτηδες εμπόδια ανάμεσα στην κρατική ισχύ και τον πολίτη.
Όλα αυτά απαιτούν χρόνο και ανθρώπους.
Η AI υπόσχεται να παρακάμψει αυτά τα εμπόδια.
Αυτό είναι εξαιρετικό για τον προγραμματισμό ενός ραντεβού, αλλά τρομακτικό όταν το κράτος αποφασίζει για την ελευθερία ή τη ζωή σας.
Η παρακολούθηση σε κλίμακα και το αδιέξοδο της λογοδοσίας
Ιστορικά, η κρατική αυθαιρεσία περιοριζόταν από τη διαθέσιμη ανθρωποδύναμη.
Ένας ερευνητής μπορούσε να παρακολουθήσει συγκεκριμένο αριθμό ατόμων.
Ένας αλγόριθμος όμως μπορεί να αναλύσει εκατομμύρια.
Το κράτος παρακολούθησης δεν χρειάζεται πλέον ανθρώπους για να προσέχουν τους πάντες· χρειάζεται απλώς υπολογιστική ισχύ.
Αυτό επιτρέπει στην κρατική κατάχρηση να λειτουργεί σε κλίμακα που οι θεμελιωτές του αμερικανικού Συντάγματος δεν μπορούσαν καν να διανοηθούν.
Παράλληλα, δημιουργείται ένα τεράστιο πρόβλημα λογοδοσίας.
Η αντικατάσταση του γραφειοκράτη από έναν αλγόριθμο δεν λύνει το πρόβλημα της αυθαιρεσίας, αλλά το επιδεινώνει.
Ο υπάλληλος έχει όνομα, μπορεί να ανακριθεί, να αρνηθεί μια παράνομη διαταγή ή να καταγγείλει μια αυθαιρεσία.
Τι γίνεται όμως όταν το κράτος απαντά ότι «η μηχανή πήρε την απόφαση»;
Ποιον ανακρίνεις;
Ποιος αναλαμβάνει την ευθύνη για το λάθος;
Κι αν ο αλγόριθμος ανήκει σε μια ιδιωτική εταιρεία της οποίας ο κώδικας προστατεύεται ως επιχειρηματικό μυστικό, η εξουσία παραμένει κρατική, αλλά η λογοδοσία ιδιωτικοποιείται.
Ηδη βλέπουμε τα πρώτα δείγματα: Ομοσπονδιακές υπηρεσίες δοκιμάζουν εργαλεία AI για την εξέταση αιτημάτων αποδέσμευσης δημόσιων εγγράφων, αποφασίζοντας ποιες πληροφορίες θα αποκρυφτούν από το κοινό.
Όταν η AI αποφασίζει για τη ζωή και τον θάνατο
Τα διακυβεύματα εκτοξεύονται όταν η AI περνά από τα έγγραφα στην αστυνόμευση και τον πόλεμο.
Νωρίτερα φέτος, το Πεντάγωνο ήρθε σε σύγκρουση με την εταιρεία Anthropic (δημιουργό του συστήματος Claude AI), όταν η τελευταία επέμεινε να διατηρήσει απαγορεύσεις στη χρήση της τεχνολογίας της για μαζική εγχώρια παρακολούθηση και για πλήρως αυτόνομα όπλα.
Η Anthropic προειδοποίησε ότι τα σημερινά συστήματα δεν είναι αξιόπιστα για αυτόνομες επιθέσεις και ότι η παρακολούθηση μέσω AI μπορεί να φανερώσει τεράστιες ποσότητες προσωπικών δεδομένων.
Η αντίδραση του Πενταγώνου ήταν να χαρακτηρίσει την εταιρεία ως «κίνδυνο για την εφοδιαστική αλυσίδα», οδηγώντας την υπόθεση στα δικαστήρια.
Η βιομηχανία της αυτόματης στοχοποίησης έχει ήδη αιματηρές συνέπειες.
Τον Φεβρουάριο, αμερικανικοί πύραυλοι έπληξαν το δημοτικό σχολείο θηλέων Shajarah Tayyebeh στη Minab του Ιράν, σκοτώνοντας πάνω από 150 ανθρώπους, ανάμεσά τους τουλάχιστον 120 παιδιά.
Το σχολείο λειτουργούσε ανοιχτά εδώ και χρόνια, αλλά παλιές πληροφορίες το είχαν καταχωρίσει ως στρατιωτικό στόχο.
Σύμφωνα με έρευνες, τα λανθασμένα στοιχεία διοχετεύθηκαν στο Maven, το σύστημα στοχοποίησης AI του αμερικανικού στρατού.
Οι υπεύθυνοι βασίστηκαν υπερβολικά στην τεχνολογία, η οποία συμπίεσε διαδικασίες ωρών σε λεπτά, ενώ οι ομάδες πρόληψης απωλειών αμάχων είχαν υποστελεχωθεί δραματικά.
Η πορεία είναι σαφής: Πρώτα η AI διεκπεραιώνει τα έγγραφα.
Μετά προτείνει την απόφαση.
Μετά λαμβάνει την απόφαση.
Και τελικά αποφασίζει ποιος ζει και ποιος πεθαίνει.
Η τεχνολογία δεν εξαλείφει τις ανθρώπινες προκαταλήψεις ή την κρατική αυθαιρεσία· τις αυτοματοποιεί, τις μεγεθύνει και τις κρύβει πίσω από ένα τεχνολογικό «μαύρο κουτί».
Η αυταπάτη της αυτορρύθμισης και η παρακαταθήκη της εξουσίας
Οι διαβεβαιώσεις ότι οι εταιρείες AI μπορούν να αυτορρυθμιστούν δεν προσφέρουν καμία ασφάλεια.
ε συνάντηση με στελέχη της τεχνολογίας, ο Trump εξήρε την «τρομερή αυτοαστυνόμευση» του κλάδου και υπέγραψε εθελοντικά σύμφωνα ασφαλείας.
Ωστόσο, οι Θεμελιωτές του Αμερικανικού Συντάγματος γνώριζαν ότι η εξουσία δεν αυτοσυγκρατείται.
Όπως έγραψε ο James Madison στο Federalist No. 51: «Αν οι άνθρωποι ήταν άγγελοι, καμία κυβέρνηση δεν θα ήταν απαραίτητη».
Οι μηχανές δεν είναι άγγελοι, ούτε οι εταιρείες, ούτε οι πολιτικοί που τις χρησιμοποιούν.
Η εξουσία πάντα επιζητά να επεκταθεί.
Αυτό είναι το παράδοξο που αντιμετωπίζουμε: Χτίζουμε ένα μικρότερο ομοσπονδιακό εργατικό δυναμικό, αλλά μια γιγαντιαία κρατική μηχανή.
Ο Trump δεν θα είναι για πάντα πρόεδρος.
Όμως οι υποδομές AI που στήνονται τώρα —οι βάσεις δεδομένων, τα συστήματα παρακολούθησης, οι ψηφιακές πύλες— θα κληρονομηθούν από κάθε μελλοντική διακυβέρνηση. Μόλις αυτές οι εξουσίες ενσωματωθούν στη μηχανή του κράτους, είναι σχεδόν αδύνατο να αποσυναρμολογηθούν.
Το θεμελιώδες ερώτημα δεν είναι αν η AI εξοικονομεί χρήματα ή δημιουργεί θέσεις εργασίας.
Το ερώτημα είναι τι συμβαίνει όταν όλο και λιγότεροι άνθρωποι στέκονται ανάμεσα στην κρατική εξουσία και τον πολίτη.
Τι συμβαίνει όταν δεν υπάρχει ανθρώπινο πρόσωπο, ανθρώπινη κρίση, ανθρώπινος δισταγμός, ανθρώπινο έλεος και ανθρώπινη συνείδηση πίσω από μια απόφαση;
Ο μεγάλος κίνδυνος δεν είναι να καταλάβει ξαφνικά η Τεχνητή Νοημοσύνη την κυβέρνηση.
Ειναι οι ίδιοι οι κρατικοί αξιωματούχοι να παραδώσουν οικειοθελώς τον έλεγχο σε αυτήν, επειδή οι μηχανές είναι φθηνότερες, ταχύτερες, πιο υπάκουες και ευκολότερες στο να τις κατηγορήσεις για ένα λάθος.
Έτσι, η γραφειοκρατία χωρίς γραφειοκράτες μετατρέπεται σε αυταρχισμό χωρίς λογοδοσία.
Ένα κράτος που μπορεί να παρακολουθεί, να ερευνά και να ασκεί εξουσία σε περισσότερες ζωές από ποτέ, δεν είναι μικρότερο κράτος.
Είναι ένα κράτος χωρίς ανθρώπινα φρένα.
www.bankingnews.gr
Ωστόσο, η εποχή του «μικρού κράτους» έχει τελειώσει και όποιος ισχυρίζεται το αντίθετο απλά εθελοτυφλεί.
Ο Donald Trump υποσχέθηκε να συρρικνώσει τη γραφειοκρατία της ομοσπονδιακής κυβέρνησης.
Τι συμβαίνει όμως αν η δέσμευσή του για μείωση του προσωπικού δεν αφορά την κατάργηση του γραφειοκρατικού μηχανισμού, αλλά την ανάθεσή του στον ιδιωτικό τομέα της Τεχνητής Νοημοσύνης;
Τι γίνεται αν, με τη στήριξη μιας τεχνολογικής βιομηχανίας που ανυπομονεί να αυτοματοποιήσει τη διακυβέρνηση, κατασκευάζεται ένα κράτος που απλώς δεν χρειάζεται πλέον τόσους ανθρώπους για να λειτουργήσει;
Εκατοντάδες χιλιάδες δημοσιοϋπάλληλοι εξαφανίζονται από τη μισθοδοσία, την ίδια ώρα που η Ουάσινγκτον τρέχει να αντικαταστήσει το έργο τους με συστήματα Τεχνητής Νοημοσύνης (AI).
Από την επιστροφή του Trump στην εξουσία, το ομοσπονδιακό εργατικό δυναμικό έχει συρρικνωθεί κατά περισσότερους από 270.000 εργαζομένους μέσω «παγώματος» προσλήψεων, εθελούσιων εξόδων, πρόωρων συνταξιοδοτήσεων και απολύσεων.
Παράλληλα, η Διοίκηση Γενικών Υπηρεσιών (GSA) δίνει οδηγίες στις κρατικές υπηρεσίες να «εξαλείψουν, να βελτιστοποιήσουν και να αυτοματοποιήσουν» την εργασία τους όπου είναι εφικτό.
Αυτό δεν συνιστά επιστροφή σε ένα μικρότερο κράτος. Πρόκειται για μια επικίνδυνη αναδιάταξη της κρατικής εξουσίας. Παρακολουθούμε τη δημιουργία μιας κυβέρνησης που απαιτεί λιγότερους ανθρώπους για να εκτελέσει τη βούλησή της, λιγότερους ανθρώπους για να αμφισβητήσουν τις διαταγές της και λιγότερους ανθρώπους για να σταθούν εμπόδιο όταν η αποτελεσματικότητα συγκρούεται με τη νομιμότητα, την ηθική ή τις συνταγματικές ασφαλιστικές δικλίδες.
Ο κίνδυνος της μηχανικής υπακοής
Αυτός είναι ο πραγματικός κίνδυνος της αυτοματοποίησης του κράτους.
Οι άνθρωποι διστάζουν.
Οι άνθρωποι αμφισβητούν.
Οι άνθρωποι προβάλλουν αντιρρήσεις.
Οι άνθρωποι αρνούνται.
Οι άνθρωποι αποκαλύπτουν σκάνδαλα (whistleblowers).
Οι μηχανές δεν διστάζουν, δεν διαμαρτύρονται και δεν αποκαλύπτουν αυθαιρεσίες.
Κατά κανόνα, εκτελούν όσα έχουν προγραμματιστεί να κάνουν.
Για μια διακυβέρνηση που ανυπομονεί να απαλλαγεί από νομικούς περιορισμούς, θεσμικές αντιστάσεις και όσους λένε «όχι», αυτό δεν είναι μια απλή τεχνολογική διευκόλυνση, αλλά ένας αυταρχικός πειρασμός.
Όποιος πιστεύει ότι το μικρότερο κράτος σημαίνει λιγότερη κρατική εξουσία, πλανάται.
Μια κυβέρνηση που διοικείται από μηχανές παραμένει κυβέρνηση.
Μια κυβέρνηση χωρίς γραφειοκράτες δεν είναι κυβέρνηση χωρίς γραφειοκρατία· είναι απλώς γραφειοκρατία χωρίς ανθρώπους.
Και αυτή η μορφή εξουσίας μπορεί να αποδειχθεί πολύ πιο ισχυρή, διεισδυτική και ανεξέλεγκτη από οποιαδήποτε προηγούμενη.
Διαμορφώνεται ένα κράτος που, αν και απασχολεί λιγότερους υπαλλήλους, διαθέτει εκθετικά μεγαλύτερη ισχύ να παρακολουθεί, να επεξεργάζεται, να κατηγοριοποιεί, να ερευνά και να ελέγχει τον πληθυσμό.
Ήδη η αμερικανική κυβέρνηση λάνσαρε το America.gov, μια κεντρική ψηφιακή πύλη AI μέσω της οποίας οι πολίτες θα αλληλεπιδρούν με τις υπηρεσίες, με τον Λευκό Οίκο να κομπάζει ότι το κράτος θα διεκπεραιώνει μόνο του τη «γραφική του δουλειά».
Από τη διευκόλυνση στην αυτόματη επιβολή της εξουσίας
Η Τεχνητή Νοημοσύνη μπορεί πράγματι να μειώσει τη γραφειοκρατία, να απλοποιήσει τις αιτήσεις, να εντοπίσει τη σπατάλη, να μεταφράσει τη διοικητική ορολογία και να απαλλάξει τους εργαζομένους από ανιαρά καθήκοντα.
Το πρόβλημα δεν είναι αν η AI είναι χρήσιμη.
Είναι.
Ο κίνδυνος ξεκινά όταν παύει να επικουρεί τον άνθρωπο και αρχίζει να τον αντικαθιστά — όχι απλώς ως υπάλληλο, αλλά ως λήπτη αποφάσεων, ερευνητή, ελεγκτή και εκτελεστή της κρατικής ισχύος.
Μεταβαίνουμε ραγδαία από μια κοινωνία που κυβερνάται από νόμους και συνταγματικές διαδικασίες σε μια κοινωνία που κυβερνάται από λογισμικό.
Σε ένα τέτοιο καθεστώς, ο νόμος δεν ερμηνεύεται πλέον· εκτελείται αυτόματα, μηχανικά, με την ταχύτητα του επεξεργαστή.
Το αποτέλεσμα είναι ένα σύστημα όπου το κράτος δεν κυβερνά, αλλά διεκπεραιώνει: την αίτησή σας, τη φορολογική σας δήλωση, την αναπηρική σας σύνταξη, το καθεστώς αλλοδαπού, το πρόσωπό σας, τις μετακινήσεις σας, τις οικονομικές σας συναλλαγές, το προφίλ επικινδυνότητάς σας — και ενδεχομένως, σε στρατιωτικό επίπεδο, το αν αποτελείτε στόχο εξόντωσης.
Εδώ η υποτιθέμενη αποτελεσματικότητα της AI συγκρούεται μετωπικά με το Σύνταγμα.
Το κράτος δεν είναι ιδιωτική εταιρεία με σκοπό την ταχύτητα και τη μείωση του κόστους.
Διαθέτει εξουσίες που καμία εταιρεία δεν έχει: μπορεί να φορολογήσει, να ερευνήσει, να συλλάβει, να φυλακίσει, να κατασχέσει περιουσία και να αφαιρέσει τη ζωή.
Όταν ασκούνται αυτές οι εξουσίες, η αποτελεσματικότητα δεν μπορεί να είναι η ύψιστη αξία· η ελευθερία πρέπει να είναι.
Οι συνταγματικές διαδικασίες, τα εντάλματα, οι δίκες, οι εφέσεις και οι θεσμικοί έλεγχοι είναι αναποτελεσματικά και αργά βάσει σχεδίου.
Το Σύνταγμα τοποθετεί επίτηδες εμπόδια ανάμεσα στην κρατική ισχύ και τον πολίτη.
Όλα αυτά απαιτούν χρόνο και ανθρώπους.
Η AI υπόσχεται να παρακάμψει αυτά τα εμπόδια.
Αυτό είναι εξαιρετικό για τον προγραμματισμό ενός ραντεβού, αλλά τρομακτικό όταν το κράτος αποφασίζει για την ελευθερία ή τη ζωή σας.
Η παρακολούθηση σε κλίμακα και το αδιέξοδο της λογοδοσίας
Ιστορικά, η κρατική αυθαιρεσία περιοριζόταν από τη διαθέσιμη ανθρωποδύναμη.
Ένας ερευνητής μπορούσε να παρακολουθήσει συγκεκριμένο αριθμό ατόμων.
Ένας αλγόριθμος όμως μπορεί να αναλύσει εκατομμύρια.
Το κράτος παρακολούθησης δεν χρειάζεται πλέον ανθρώπους για να προσέχουν τους πάντες· χρειάζεται απλώς υπολογιστική ισχύ.
Αυτό επιτρέπει στην κρατική κατάχρηση να λειτουργεί σε κλίμακα που οι θεμελιωτές του αμερικανικού Συντάγματος δεν μπορούσαν καν να διανοηθούν.
Παράλληλα, δημιουργείται ένα τεράστιο πρόβλημα λογοδοσίας.
Η αντικατάσταση του γραφειοκράτη από έναν αλγόριθμο δεν λύνει το πρόβλημα της αυθαιρεσίας, αλλά το επιδεινώνει.
Ο υπάλληλος έχει όνομα, μπορεί να ανακριθεί, να αρνηθεί μια παράνομη διαταγή ή να καταγγείλει μια αυθαιρεσία.
Τι γίνεται όμως όταν το κράτος απαντά ότι «η μηχανή πήρε την απόφαση»;
Ποιον ανακρίνεις;
Ποιος αναλαμβάνει την ευθύνη για το λάθος;
Κι αν ο αλγόριθμος ανήκει σε μια ιδιωτική εταιρεία της οποίας ο κώδικας προστατεύεται ως επιχειρηματικό μυστικό, η εξουσία παραμένει κρατική, αλλά η λογοδοσία ιδιωτικοποιείται.
Ηδη βλέπουμε τα πρώτα δείγματα: Ομοσπονδιακές υπηρεσίες δοκιμάζουν εργαλεία AI για την εξέταση αιτημάτων αποδέσμευσης δημόσιων εγγράφων, αποφασίζοντας ποιες πληροφορίες θα αποκρυφτούν από το κοινό.
Όταν η AI αποφασίζει για τη ζωή και τον θάνατο
Τα διακυβεύματα εκτοξεύονται όταν η AI περνά από τα έγγραφα στην αστυνόμευση και τον πόλεμο.
Νωρίτερα φέτος, το Πεντάγωνο ήρθε σε σύγκρουση με την εταιρεία Anthropic (δημιουργό του συστήματος Claude AI), όταν η τελευταία επέμεινε να διατηρήσει απαγορεύσεις στη χρήση της τεχνολογίας της για μαζική εγχώρια παρακολούθηση και για πλήρως αυτόνομα όπλα.
Η Anthropic προειδοποίησε ότι τα σημερινά συστήματα δεν είναι αξιόπιστα για αυτόνομες επιθέσεις και ότι η παρακολούθηση μέσω AI μπορεί να φανερώσει τεράστιες ποσότητες προσωπικών δεδομένων.
Η αντίδραση του Πενταγώνου ήταν να χαρακτηρίσει την εταιρεία ως «κίνδυνο για την εφοδιαστική αλυσίδα», οδηγώντας την υπόθεση στα δικαστήρια.
Η βιομηχανία της αυτόματης στοχοποίησης έχει ήδη αιματηρές συνέπειες.
Τον Φεβρουάριο, αμερικανικοί πύραυλοι έπληξαν το δημοτικό σχολείο θηλέων Shajarah Tayyebeh στη Minab του Ιράν, σκοτώνοντας πάνω από 150 ανθρώπους, ανάμεσά τους τουλάχιστον 120 παιδιά.
Το σχολείο λειτουργούσε ανοιχτά εδώ και χρόνια, αλλά παλιές πληροφορίες το είχαν καταχωρίσει ως στρατιωτικό στόχο.
Σύμφωνα με έρευνες, τα λανθασμένα στοιχεία διοχετεύθηκαν στο Maven, το σύστημα στοχοποίησης AI του αμερικανικού στρατού.
Οι υπεύθυνοι βασίστηκαν υπερβολικά στην τεχνολογία, η οποία συμπίεσε διαδικασίες ωρών σε λεπτά, ενώ οι ομάδες πρόληψης απωλειών αμάχων είχαν υποστελεχωθεί δραματικά.
Η πορεία είναι σαφής: Πρώτα η AI διεκπεραιώνει τα έγγραφα.
Μετά προτείνει την απόφαση.
Μετά λαμβάνει την απόφαση.
Και τελικά αποφασίζει ποιος ζει και ποιος πεθαίνει.
Η τεχνολογία δεν εξαλείφει τις ανθρώπινες προκαταλήψεις ή την κρατική αυθαιρεσία· τις αυτοματοποιεί, τις μεγεθύνει και τις κρύβει πίσω από ένα τεχνολογικό «μαύρο κουτί».
Η αυταπάτη της αυτορρύθμισης και η παρακαταθήκη της εξουσίας
Οι διαβεβαιώσεις ότι οι εταιρείες AI μπορούν να αυτορρυθμιστούν δεν προσφέρουν καμία ασφάλεια.
ε συνάντηση με στελέχη της τεχνολογίας, ο Trump εξήρε την «τρομερή αυτοαστυνόμευση» του κλάδου και υπέγραψε εθελοντικά σύμφωνα ασφαλείας.
Ωστόσο, οι Θεμελιωτές του Αμερικανικού Συντάγματος γνώριζαν ότι η εξουσία δεν αυτοσυγκρατείται.
Όπως έγραψε ο James Madison στο Federalist No. 51: «Αν οι άνθρωποι ήταν άγγελοι, καμία κυβέρνηση δεν θα ήταν απαραίτητη».
Οι μηχανές δεν είναι άγγελοι, ούτε οι εταιρείες, ούτε οι πολιτικοί που τις χρησιμοποιούν.
Η εξουσία πάντα επιζητά να επεκταθεί.
Αυτό είναι το παράδοξο που αντιμετωπίζουμε: Χτίζουμε ένα μικρότερο ομοσπονδιακό εργατικό δυναμικό, αλλά μια γιγαντιαία κρατική μηχανή.
Ο Trump δεν θα είναι για πάντα πρόεδρος.
Όμως οι υποδομές AI που στήνονται τώρα —οι βάσεις δεδομένων, τα συστήματα παρακολούθησης, οι ψηφιακές πύλες— θα κληρονομηθούν από κάθε μελλοντική διακυβέρνηση. Μόλις αυτές οι εξουσίες ενσωματωθούν στη μηχανή του κράτους, είναι σχεδόν αδύνατο να αποσυναρμολογηθούν.
Το θεμελιώδες ερώτημα δεν είναι αν η AI εξοικονομεί χρήματα ή δημιουργεί θέσεις εργασίας.
Το ερώτημα είναι τι συμβαίνει όταν όλο και λιγότεροι άνθρωποι στέκονται ανάμεσα στην κρατική εξουσία και τον πολίτη.
Τι συμβαίνει όταν δεν υπάρχει ανθρώπινο πρόσωπο, ανθρώπινη κρίση, ανθρώπινος δισταγμός, ανθρώπινο έλεος και ανθρώπινη συνείδηση πίσω από μια απόφαση;
Ο μεγάλος κίνδυνος δεν είναι να καταλάβει ξαφνικά η Τεχνητή Νοημοσύνη την κυβέρνηση.
Ειναι οι ίδιοι οι κρατικοί αξιωματούχοι να παραδώσουν οικειοθελώς τον έλεγχο σε αυτήν, επειδή οι μηχανές είναι φθηνότερες, ταχύτερες, πιο υπάκουες και ευκολότερες στο να τις κατηγορήσεις για ένα λάθος.
Έτσι, η γραφειοκρατία χωρίς γραφειοκράτες μετατρέπεται σε αυταρχισμό χωρίς λογοδοσία.
Ένα κράτος που μπορεί να παρακολουθεί, να ερευνά και να ασκεί εξουσία σε περισσότερες ζωές από ποτέ, δεν είναι μικρότερο κράτος.
Είναι ένα κράτος χωρίς ανθρώπινα φρένα.
www.bankingnews.gr
Σχόλια αναγνωστών