Το ερώτημα δεν είναι θεωρητικό...
Θα σκάσει η Τεχνητή Νοημοσύνη σαν φούσκα; Μήπως ο κόσμος βαδίζει προς μια ψηφιακή αυταπάτη που θα καταλήξει σε οικονομικό και κοινωνικό κραχ;
Ή μήπως βρισκόμαστε μπροστά στη γέννηση ενός νέου ιδεολογικού μοντέλου, ενός «ψηφιακού σοσιαλισμού» που θα ανατρέψει τα σημερινά αδιέξοδα;
Το ερώτημα δεν είναι θεωρητικό.
Σε μια συγκυρία κατά την οποία ολόκληρος ο πλανήτης δοκιμάζεται από οικονομική αστάθεια, γεωπολιτικές εντάσεις και ενεργειακές ανατροπές, η Τεχνητή Νοημοσύνη προβάλλεται ως πανάκεια.
Όμως πίσω από τον θόρυβο, κορυφαίοι επιστήμονες προειδοποιούν: η πραγματικότητα είναι πολύ πιο σύνθετη – και πολύ πιο επικίνδυνη.
Ο Konstantin Vorontsov, καθηγητής στη Ρωσική Ακαδημία Επιστημών, επικεφαλής των Τμημάτων Μηχανικής Μάθησης στο Κρατικό Πανεπιστήμιο Lomonosov της Μόσχας και στο Ινστιτούτο Φυσικής και Τεχνολογίας της Μόσχας, βραβευμένος με το βραβείο Yandex ML για τη συμβολή του στην ανάπτυξη της ΤΝ στη Ρωσία, και η Elena Veduta, διδάκτωρ Οικονομικών και επικεφαλής του Τμήματος Στρατηγικού Σχεδιασμού και Οικονομικής Πολιτικής στη Σχολή Δημόσιας Διοίκησης του ίδιου πανεπιστημίου, καταθέτουν μια ανησυχητική αλλά και αποκαλυπτική οπτική.
Η Τεχνητή Νοημοσύνη δεν είναι καινούργια.
Ο όρος επινοήθηκε το 1956 από Αμερικανούς επιστήμονες, αποτυπώνοντας το όνειρο για μηχανές με ανθρώπινη ευφυΐα.
Για περίπου 70 χρόνια, η πρόοδος ήταν σταδιακή.
Όμως πριν από περίπου μία δεκαετία συνέβη το άλμα: η εκρηκτική αύξηση της υπολογιστικής ισχύος επέτρεψε την εκπαίδευση γιγαντιαίων νευρωνικών δικτύων πάνω σε ολόκληρο τον όγκο κειμένων που έχει παραγάγει η ανθρωπότητα, σε όλες τις γλώσσες και σε όλη την ιστορική διαδρομή της.
Το αποτέλεσμα ήταν η εμφάνιση γλωσσικών μοντέλων που απαντούν σε ερωτήσεις με τρόπο δυσδιάκριτο από τον ανθρώπινο λόγο.
Κανείς δεν τους «δίδαξε» να συλλογίζονται, να αναπτύσσουν ιδέες, να γράφουν δοκίμια ή να μεταφράζουν.
Τα έμαθαν μόνα τους, αποκαλύπτοντας ότι η ίδια η ανθρώπινη γλώσσα ενσωματώνει δομές σκέψης, λογικής και συστηματικής ανάλυσης. Ήδη, τέτοια μοντέλα αποδεικνύουν θεωρήματα σε επίπεδο κορυφαίων μαθηματικών και διακρίνονται σε διεθνείς διαγωνισμούς.
Κι όμως, πίσω από την τεχνολογική ευφορία, διαγράφεται μια σκοτεινή διαπίστωση: για πρώτη φορά στην ιστορία, η ίδια η ανθρωπότητα έχει καταστεί απειλή για τον εαυτό της.
Οι τεχνολογίες που δημιούργησε, οι ενεργειακές δυνατότητες που κατέκτησε, αυξάνουν εκθετικά τον κίνδυνο αυτοκαταστροφής.
Μια ολοένα και μικρότερη ομάδα ανθρώπων, με ολοένα λιγότερους πόρους, μπορεί να προκαλέσει πλανητική καταστροφή.
Παλιές ιδεολογίες
Σε αυτό το περιβάλλον, κατά τον Vorontsov, οι παλιές ιδεολογίες δεν επαρκούν.
Μέχρι σήμερα, οι ιδεολογίες διαμορφώνονταν προς όφελος συγκεκριμένων κοινωνικών ομάδων: για υποδούλωση, για άμυνα, για επικράτηση.
Σήμερα απαιτείται μια πανανθρώπινη ιδεολογία, ικανή να αντιμετωπίσει την πανανθρώπινη απειλή που οι ίδιοι δημιουργήσαμε.
Μπορεί η ΤΝ να συμβάλει σε αυτό;
Ο ίδιος είναι ξεκάθαρος: η ΤΝ δεν θα θέσει από μόνη της αναπτυξιακούς στόχους.
Δεν θα αποφασίσει ποιο είναι το μέλλον που θέλουμε. Μπορεί όμως να λειτουργήσει ως εργαλείο σε μεγάλα διεπιστημονικά έργα, όπως ο σχεδιασμός της οικονομίας μιας μεγάλης χώρας.
Σε ένα τέτοιο εγχείρημα, μόνο ένα ισχυρό think tank μπορεί να ανταποκριθεί.
Και εκεί, η ΤΝ μπορεί να διευκολύνει την κατανόηση μεταξύ ειδικών διαφορετικών κλάδων, να «μεταφράσει» όχι μόνο γλώσσες αλλά και επιστημονικά ιδιώματα, να δημιουργήσει συνθήκες σύγκλισης.
Η Veduta, ωστόσο, προειδοποιεί για μια άλλη πραγματικότητα.
Κατά την άποψή της, η σημερινή παγκόσμια οικονομική πολιτική είναι σκληρή και αυτοκαταστροφική.
Το παγκόσμιο σύστημα διακυβέρνησης, όπως λειτουργεί, κατευθύνεται προς την καταστροφή.
Η ΤΝ που επιχειρείται να ενσωματωθεί στην οικονομία δεν διορθώνει τις στρεβλώσεις• απλώς «ψηφιοποιεί» το χάος.
Η δυτική πρακτική, υποστηρίζει, δεν επιτρέπει τη δημιουργία αλγορίθμων που θα μπορούσαν να ενεργοποιήσουν την ΤΝ προς όφελος της ποιότητας ζωής.
Οι σημερινές τεράστιες δαπάνες για ΤΝ, με ενεργοβόρα κέντρα δεδομένων και κολοσσιαίες επενδύσεις, ενδέχεται να συντηρούν μια νέα φούσκα.
Και όταν αυτή σκάσει, η κρίση θα είναι τρομακτική.
Η κατεύθυνση της έρευνας και ανάπτυξης, λέει, δεν σχετίζεται με τη βελτίωση της κοινωνικής παραγωγικότητας ή της αποτελεσματικότητας της οικονομικής διαχείρισης. Βελτιώνει κυρίως την καθημερινή άνεση.
Ο Vorontsov διαχωρίζει την ΤΝ σε λειτουργική και γενετική. Η λειτουργική ΤΝ, που αναπτύσσεται από τη δεκαετία του 1950, αφορά αλγορίθμους που μαθαίνουν από δεδομένα για να λαμβάνουν αποφάσεις και να κάνουν προβλέψεις.
Αυτή είναι που ήδη στηρίζει την αυτοματοποίηση παραγωγής, τον επιχειρηματικό σχεδιασμό, την εφοδιαστική, την έκδοση δανείων.
Αυτή κινεί πραγματικά την οικονομία. Δεν απαιτεί εκατοντάδες γιγαβάτ ενέργειας ούτε τρισεκατομμύρια σε υποδομές.
Αντίθετα, η γενετική ΤΝ – που παράγει κείμενα, εικόνες και βίντεο – είναι εκείνη που προκαλεί τον θόρυβο. Από τη μία, μπορεί να συσκοτίσει τον συναισθηματικό μας χώρο• από την άλλη, μπορεί να εκτελέσει χρήσιμες εργασίες. Όμως ο υπερενθουσιασμός γύρω της ενδέχεται να αποπροσανατολίζει από τις ουσιαστικές εφαρμογές.
Στο βαθύτερο επίπεδο, η συζήτηση αγγίζει τα πολιτικοοικονομικά θεμέλια. Η βελτίωση της ποιότητας ζωής, παραδέχεται ο Vorontsov, δεν αποτελεί αυτοσκοπό για όσους βρίσκονται στην κορυφή. Το κύριο κίνητρο είναι η διατήρηση της εξουσίας. Αν η ευημερία εξυπηρετεί αυτόν τον στόχο, θα επιδιωχθεί. Διαφορετικά, όχι. Οι ελίτ, κατά την άποψή του, δεν είναι τυχαίοι άνθρωποι• διαθέτουν έντονα χαρακτηριστικά κυριαρχίας και δεν κινούνται απαραίτητα από αλτρουιστικά κίνητρα.
Η Veduta επισημαίνει ότι πέρα από την οικονομία υπάρχει το πρόβλημα της καλλιέργειας των ανθρώπων που θα ηγηθούν.
Υπάρχει επίσης το ζήτημα του ελέγχου «από τα κάτω» στις αποφάσεις «από τα πάνω».
Πάντα υπάρχουν αλτρουιστές, άνθρωποι που νοιάζονται για τις μελλοντικές γενιές. Όμως, όπως υπενθυμίζει, στο «Κεφάλαιο» του Μαρξ επισημαίνεται ότι χωρίς υλική και τεχνική βάση για ένα νέο σύστημα, υπάρχει πάντα ο κίνδυνος επιστροφής στο παλιό. Και αυτό, υπονοεί, έχει ήδη συμβεί.
Η ανάγκη, κατά τον Vorontsov, είναι η καλλιέργεια μιας νέας ελίτ. Το ζήτημα είναι ψυχολογικό και βιολογικό. Ποια είναι τα κίνητρα για να γίνει κάποιος διευθυντής;
Αν ένας άνθρωπος μετατρέπεται σε εργαλείο επίτευξης KPI και όχι σε αυτοσκοπό, όπως θα έλεγε ο Καντ, τότε η ίδια η έννοια της ανθρώπινης αξίας υπονομεύεται.
Στο ζήτημα της ρύθμισης, οι κίνδυνοι είναι υπαρκτοί. Πολλοί πολίτες χρησιμοποιούν γενετικά μοντέλα εκπαιδευμένα σε μεροληπτικά δεδομένα, ήδη διαποτισμένα με πολιτικές προκαταλήψεις.
Απαιτείται εκπαίδευση στην αποφυγή γνωστικών στρεβλώσεων και υπερβολικής εξάρτησης. Και, κυρίως, η δημιουργία εγχώριων μοντέλων υψηλού επιπέδου.
Όσο για τη «ψηφιακή κυριαρχία» μέσω απαγορεύσεων, όπως το μπλοκάρισμα του Telegram, ο Vorontsov θεωρεί ότι η απαγόρευση είναι πάντα ευκολότερη από τη συμφωνία. Το Telegram, κατά την άποψή του, δεν συνιστά τέτοια απειλή που να δικαιολογεί απαγόρευση.
Η λύση είναι η εκπαίδευση και η κριτική σκέψη.
Η Veduta προσθέτει ότι οι απαγορεύσεις είναι στάση αδυναμίας και εντείνουν τη δυσπιστία προς τις αρχές.
Το τελικό ερώτημα παραμένει αμείλικτο: η Τεχνητή Νοημοσύνη θα αποτελέσει το εργαλείο για έναν νέο, ορθολογικό, κοινωνικά προσανατολισμένο σχεδιασμό της οικονομίας ή θα λειτουργήσει ως επιταχυντής ενός ήδη ασταθούς παγκόσμιου συστήματος, οδηγώντας σε μια κρίση που θα θυμίζει αποκάλυψη;
Σε έναν κόσμο όπου οι τεχνολογικές δυνατότητες αυξάνονται ταχύτερα από την πολιτική ωριμότητα, η απάντηση δεν θα δοθεί από τους αλγορίθμους. Θα δοθεί από τις κοινωνίες.
Και ίσως από το αν θα προλάβουν να τιθασεύσουν τη φούσκα πριν αυτή εκραγεί.
www.bankingnews.gr
Ή μήπως βρισκόμαστε μπροστά στη γέννηση ενός νέου ιδεολογικού μοντέλου, ενός «ψηφιακού σοσιαλισμού» που θα ανατρέψει τα σημερινά αδιέξοδα;
Το ερώτημα δεν είναι θεωρητικό.
Σε μια συγκυρία κατά την οποία ολόκληρος ο πλανήτης δοκιμάζεται από οικονομική αστάθεια, γεωπολιτικές εντάσεις και ενεργειακές ανατροπές, η Τεχνητή Νοημοσύνη προβάλλεται ως πανάκεια.
Όμως πίσω από τον θόρυβο, κορυφαίοι επιστήμονες προειδοποιούν: η πραγματικότητα είναι πολύ πιο σύνθετη – και πολύ πιο επικίνδυνη.
Ο Konstantin Vorontsov, καθηγητής στη Ρωσική Ακαδημία Επιστημών, επικεφαλής των Τμημάτων Μηχανικής Μάθησης στο Κρατικό Πανεπιστήμιο Lomonosov της Μόσχας και στο Ινστιτούτο Φυσικής και Τεχνολογίας της Μόσχας, βραβευμένος με το βραβείο Yandex ML για τη συμβολή του στην ανάπτυξη της ΤΝ στη Ρωσία, και η Elena Veduta, διδάκτωρ Οικονομικών και επικεφαλής του Τμήματος Στρατηγικού Σχεδιασμού και Οικονομικής Πολιτικής στη Σχολή Δημόσιας Διοίκησης του ίδιου πανεπιστημίου, καταθέτουν μια ανησυχητική αλλά και αποκαλυπτική οπτική.
Η Τεχνητή Νοημοσύνη δεν είναι καινούργια.
Ο όρος επινοήθηκε το 1956 από Αμερικανούς επιστήμονες, αποτυπώνοντας το όνειρο για μηχανές με ανθρώπινη ευφυΐα.
Για περίπου 70 χρόνια, η πρόοδος ήταν σταδιακή.
Όμως πριν από περίπου μία δεκαετία συνέβη το άλμα: η εκρηκτική αύξηση της υπολογιστικής ισχύος επέτρεψε την εκπαίδευση γιγαντιαίων νευρωνικών δικτύων πάνω σε ολόκληρο τον όγκο κειμένων που έχει παραγάγει η ανθρωπότητα, σε όλες τις γλώσσες και σε όλη την ιστορική διαδρομή της.
Το αποτέλεσμα ήταν η εμφάνιση γλωσσικών μοντέλων που απαντούν σε ερωτήσεις με τρόπο δυσδιάκριτο από τον ανθρώπινο λόγο.
Κανείς δεν τους «δίδαξε» να συλλογίζονται, να αναπτύσσουν ιδέες, να γράφουν δοκίμια ή να μεταφράζουν.
Τα έμαθαν μόνα τους, αποκαλύπτοντας ότι η ίδια η ανθρώπινη γλώσσα ενσωματώνει δομές σκέψης, λογικής και συστηματικής ανάλυσης. Ήδη, τέτοια μοντέλα αποδεικνύουν θεωρήματα σε επίπεδο κορυφαίων μαθηματικών και διακρίνονται σε διεθνείς διαγωνισμούς.
Κι όμως, πίσω από την τεχνολογική ευφορία, διαγράφεται μια σκοτεινή διαπίστωση: για πρώτη φορά στην ιστορία, η ίδια η ανθρωπότητα έχει καταστεί απειλή για τον εαυτό της.
Οι τεχνολογίες που δημιούργησε, οι ενεργειακές δυνατότητες που κατέκτησε, αυξάνουν εκθετικά τον κίνδυνο αυτοκαταστροφής.
Μια ολοένα και μικρότερη ομάδα ανθρώπων, με ολοένα λιγότερους πόρους, μπορεί να προκαλέσει πλανητική καταστροφή.
Παλιές ιδεολογίες
Σε αυτό το περιβάλλον, κατά τον Vorontsov, οι παλιές ιδεολογίες δεν επαρκούν.
Μέχρι σήμερα, οι ιδεολογίες διαμορφώνονταν προς όφελος συγκεκριμένων κοινωνικών ομάδων: για υποδούλωση, για άμυνα, για επικράτηση.
Σήμερα απαιτείται μια πανανθρώπινη ιδεολογία, ικανή να αντιμετωπίσει την πανανθρώπινη απειλή που οι ίδιοι δημιουργήσαμε.
Μπορεί η ΤΝ να συμβάλει σε αυτό;
Ο ίδιος είναι ξεκάθαρος: η ΤΝ δεν θα θέσει από μόνη της αναπτυξιακούς στόχους.
Δεν θα αποφασίσει ποιο είναι το μέλλον που θέλουμε. Μπορεί όμως να λειτουργήσει ως εργαλείο σε μεγάλα διεπιστημονικά έργα, όπως ο σχεδιασμός της οικονομίας μιας μεγάλης χώρας.
Σε ένα τέτοιο εγχείρημα, μόνο ένα ισχυρό think tank μπορεί να ανταποκριθεί.
Και εκεί, η ΤΝ μπορεί να διευκολύνει την κατανόηση μεταξύ ειδικών διαφορετικών κλάδων, να «μεταφράσει» όχι μόνο γλώσσες αλλά και επιστημονικά ιδιώματα, να δημιουργήσει συνθήκες σύγκλισης.
Η Veduta, ωστόσο, προειδοποιεί για μια άλλη πραγματικότητα.
Κατά την άποψή της, η σημερινή παγκόσμια οικονομική πολιτική είναι σκληρή και αυτοκαταστροφική.
Το παγκόσμιο σύστημα διακυβέρνησης, όπως λειτουργεί, κατευθύνεται προς την καταστροφή.
Η ΤΝ που επιχειρείται να ενσωματωθεί στην οικονομία δεν διορθώνει τις στρεβλώσεις• απλώς «ψηφιοποιεί» το χάος.
Η δυτική πρακτική, υποστηρίζει, δεν επιτρέπει τη δημιουργία αλγορίθμων που θα μπορούσαν να ενεργοποιήσουν την ΤΝ προς όφελος της ποιότητας ζωής.
Οι σημερινές τεράστιες δαπάνες για ΤΝ, με ενεργοβόρα κέντρα δεδομένων και κολοσσιαίες επενδύσεις, ενδέχεται να συντηρούν μια νέα φούσκα.
Και όταν αυτή σκάσει, η κρίση θα είναι τρομακτική.
Η κατεύθυνση της έρευνας και ανάπτυξης, λέει, δεν σχετίζεται με τη βελτίωση της κοινωνικής παραγωγικότητας ή της αποτελεσματικότητας της οικονομικής διαχείρισης. Βελτιώνει κυρίως την καθημερινή άνεση.
Ο Vorontsov διαχωρίζει την ΤΝ σε λειτουργική και γενετική. Η λειτουργική ΤΝ, που αναπτύσσεται από τη δεκαετία του 1950, αφορά αλγορίθμους που μαθαίνουν από δεδομένα για να λαμβάνουν αποφάσεις και να κάνουν προβλέψεις.
Αυτή είναι που ήδη στηρίζει την αυτοματοποίηση παραγωγής, τον επιχειρηματικό σχεδιασμό, την εφοδιαστική, την έκδοση δανείων.
Αυτή κινεί πραγματικά την οικονομία. Δεν απαιτεί εκατοντάδες γιγαβάτ ενέργειας ούτε τρισεκατομμύρια σε υποδομές.
Αντίθετα, η γενετική ΤΝ – που παράγει κείμενα, εικόνες και βίντεο – είναι εκείνη που προκαλεί τον θόρυβο. Από τη μία, μπορεί να συσκοτίσει τον συναισθηματικό μας χώρο• από την άλλη, μπορεί να εκτελέσει χρήσιμες εργασίες. Όμως ο υπερενθουσιασμός γύρω της ενδέχεται να αποπροσανατολίζει από τις ουσιαστικές εφαρμογές.
Στο βαθύτερο επίπεδο, η συζήτηση αγγίζει τα πολιτικοοικονομικά θεμέλια. Η βελτίωση της ποιότητας ζωής, παραδέχεται ο Vorontsov, δεν αποτελεί αυτοσκοπό για όσους βρίσκονται στην κορυφή. Το κύριο κίνητρο είναι η διατήρηση της εξουσίας. Αν η ευημερία εξυπηρετεί αυτόν τον στόχο, θα επιδιωχθεί. Διαφορετικά, όχι. Οι ελίτ, κατά την άποψή του, δεν είναι τυχαίοι άνθρωποι• διαθέτουν έντονα χαρακτηριστικά κυριαρχίας και δεν κινούνται απαραίτητα από αλτρουιστικά κίνητρα.
Η Veduta επισημαίνει ότι πέρα από την οικονομία υπάρχει το πρόβλημα της καλλιέργειας των ανθρώπων που θα ηγηθούν.
Υπάρχει επίσης το ζήτημα του ελέγχου «από τα κάτω» στις αποφάσεις «από τα πάνω».
Πάντα υπάρχουν αλτρουιστές, άνθρωποι που νοιάζονται για τις μελλοντικές γενιές. Όμως, όπως υπενθυμίζει, στο «Κεφάλαιο» του Μαρξ επισημαίνεται ότι χωρίς υλική και τεχνική βάση για ένα νέο σύστημα, υπάρχει πάντα ο κίνδυνος επιστροφής στο παλιό. Και αυτό, υπονοεί, έχει ήδη συμβεί.
Η ανάγκη, κατά τον Vorontsov, είναι η καλλιέργεια μιας νέας ελίτ. Το ζήτημα είναι ψυχολογικό και βιολογικό. Ποια είναι τα κίνητρα για να γίνει κάποιος διευθυντής;
Αν ένας άνθρωπος μετατρέπεται σε εργαλείο επίτευξης KPI και όχι σε αυτοσκοπό, όπως θα έλεγε ο Καντ, τότε η ίδια η έννοια της ανθρώπινης αξίας υπονομεύεται.
Στο ζήτημα της ρύθμισης, οι κίνδυνοι είναι υπαρκτοί. Πολλοί πολίτες χρησιμοποιούν γενετικά μοντέλα εκπαιδευμένα σε μεροληπτικά δεδομένα, ήδη διαποτισμένα με πολιτικές προκαταλήψεις.
Απαιτείται εκπαίδευση στην αποφυγή γνωστικών στρεβλώσεων και υπερβολικής εξάρτησης. Και, κυρίως, η δημιουργία εγχώριων μοντέλων υψηλού επιπέδου.
Όσο για τη «ψηφιακή κυριαρχία» μέσω απαγορεύσεων, όπως το μπλοκάρισμα του Telegram, ο Vorontsov θεωρεί ότι η απαγόρευση είναι πάντα ευκολότερη από τη συμφωνία. Το Telegram, κατά την άποψή του, δεν συνιστά τέτοια απειλή που να δικαιολογεί απαγόρευση.
Η λύση είναι η εκπαίδευση και η κριτική σκέψη.
Η Veduta προσθέτει ότι οι απαγορεύσεις είναι στάση αδυναμίας και εντείνουν τη δυσπιστία προς τις αρχές.
Το τελικό ερώτημα παραμένει αμείλικτο: η Τεχνητή Νοημοσύνη θα αποτελέσει το εργαλείο για έναν νέο, ορθολογικό, κοινωνικά προσανατολισμένο σχεδιασμό της οικονομίας ή θα λειτουργήσει ως επιταχυντής ενός ήδη ασταθούς παγκόσμιου συστήματος, οδηγώντας σε μια κρίση που θα θυμίζει αποκάλυψη;
Σε έναν κόσμο όπου οι τεχνολογικές δυνατότητες αυξάνονται ταχύτερα από την πολιτική ωριμότητα, η απάντηση δεν θα δοθεί από τους αλγορίθμους. Θα δοθεί από τις κοινωνίες.
Και ίσως από το αν θα προλάβουν να τιθασεύσουν τη φούσκα πριν αυτή εκραγεί.
www.bankingnews.gr
Σχόλια αναγνωστών