Εξάμηνη παύση στην εκπαίδευση συστημάτων ισχυρότερων από το μοντέλο GPT-4 της OpenAI, ζητούν ο Elon Musk και ομάδα επιστημόνων
Δραματική έκκληση για εξάμηνη παύση στην εκπαίδευση συστημάτων ισχυρότερων από το μοντέλο GPT-4 της OpenAI που μόλις κυκλοφόρησε, απευθύνουν ο Elon Musk και ομάδα εξειδικευμένων επιστημόνων, σε ανοιχτή επιστολή τους, επικαλούμενοι πιθανούς κινδύνους για την κοινωνία και την ανθρωπότητα.
Σύμφωνα με το Reuters, η επιστολή, η οποία εκδόθηκε από το μη κερδοσκοπικό Ινστιτούτο Future of Life Institute και υπογράφεται από περισσότερα από 1.000 άτομα, μεταξύ των οποίων ο Μασκ, ο διευθύνων σύμβουλος της Stability ΑΙ Emad Mostaque, ερευνητές της DeepMind που ανήκει στην Alphabet, καθώς και τα βαριά ονόματα της τεχνητής νοημοσύνης Yoshua Bengio και Stuart Russell, ζητούν να υπάρξει παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης μέχρι να αναπτυχθούν, να εφαρμοστούν και να ελεγχθούν από ανεξάρτητους εμπειρογνώμονες κοινά πρωτόκολλα ασφαλείας για τέτοιου είδους σχέδια.
"Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτύσσονται μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι", αναφέρεται στην επιστολή.
Κίνδυνοι για την κοινωνία και την ανθρωπότητα
Η επιστολή περιγράφει επίσης λεπτομερώς τους πιθανούς κινδύνους για την κοινωνία και τον πολιτισμό από τα ανταγωνιστικά προς τον άνθρωπο συστήματα ΤΝ με τη μορφή οικονομικών και πολιτικών διαταραχών και καλεί τους προγραμματιστές να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για τη διακυβέρνηση και τις ρυθμιστικές αρχές.
Η επιστολή έρχεται καθώς η αστυνομική δύναμη της ΕΕ Europol προσχώρησε τη Δευτέρα σε μια έκφραση των ηθικών και νομικών ανησυχιών σχετικά με την προηγμένη τεχνητή νοημοσύνη όπως το ChatGPT, προειδοποιώντας για την πιθανή κατάχρηση του συστήματος σε απόπειρες phishing, παραπληροφόρησης και εγκλήματα στον κυβερνοχώρο.
Ο Musk, του οποίου η αυτοκινητοβιομηχανία Tesla χρησιμοποιεί AI για ένα σύστημα αυτόματου πιλότου, έχει εκφράσει έντονα τις ανησυχίες του για την AI.
Από την κυκλοφορία του πέρυσι, το ChatGPT της OpenAI που υποστηρίζεται από τη Microsoft έχει ωθήσει τους αντιπάλους να επιταχύνουν την ανάπτυξη παρόμοιων μεγάλων γλωσσικών μοντέλων και τις εταιρείες να ενσωματώσουν γενετικά μοντέλα AI στα προϊόντα τους.
Ο Sam Altman διευθύνων σύμβουλος της OpenAI, δεν έχει υπογράψει την επιστολή, δήλωσε στο Reuters εκπρόσωπος του Future of Life. Η OpenAI δεν απάντησε αμέσως σε αίτημα για σχολιασμό.
"Η επιστολή δεν είναι τέλεια, αλλά το πνεύμα είναι σωστό: πρέπει να επιβραδύνουμε μέχρι να κατανοήσουμε καλύτερα τις επιπτώσεις", δήλωσε ο Gary Marcus, ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης, ο οποίος υπέγραψε την επιστολή.
"Μπορούν να προκαλέσουν σοβαρή ζημιά ... οι μεγάλοι παίκτες γίνονται όλο και πιο μυστικοπαθείς σχετικά με το τι κάνουν, γεγονός που καθιστά δύσκολο για την κοινωνία να αμυνθεί απέναντι στις όποιες ζημιές μπορεί να προκύψουν", τόνισε.
www.bankingnews.gr
Σύμφωνα με το Reuters, η επιστολή, η οποία εκδόθηκε από το μη κερδοσκοπικό Ινστιτούτο Future of Life Institute και υπογράφεται από περισσότερα από 1.000 άτομα, μεταξύ των οποίων ο Μασκ, ο διευθύνων σύμβουλος της Stability ΑΙ Emad Mostaque, ερευνητές της DeepMind που ανήκει στην Alphabet, καθώς και τα βαριά ονόματα της τεχνητής νοημοσύνης Yoshua Bengio και Stuart Russell, ζητούν να υπάρξει παύση στην ανάπτυξη προηγμένης τεχνητής νοημοσύνης μέχρι να αναπτυχθούν, να εφαρμοστούν και να ελεγχθούν από ανεξάρτητους εμπειρογνώμονες κοινά πρωτόκολλα ασφαλείας για τέτοιου είδους σχέδια.
"Τα ισχυρά συστήματα τεχνητής νοημοσύνης θα πρέπει να αναπτύσσονται μόνο όταν είμαστε βέβαιοι ότι τα αποτελέσματά τους θα είναι θετικά και οι κίνδυνοι τους θα είναι διαχειρίσιμοι", αναφέρεται στην επιστολή.
Κίνδυνοι για την κοινωνία και την ανθρωπότητα
Η επιστολή περιγράφει επίσης λεπτομερώς τους πιθανούς κινδύνους για την κοινωνία και τον πολιτισμό από τα ανταγωνιστικά προς τον άνθρωπο συστήματα ΤΝ με τη μορφή οικονομικών και πολιτικών διαταραχών και καλεί τους προγραμματιστές να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για τη διακυβέρνηση και τις ρυθμιστικές αρχές.
Η επιστολή έρχεται καθώς η αστυνομική δύναμη της ΕΕ Europol προσχώρησε τη Δευτέρα σε μια έκφραση των ηθικών και νομικών ανησυχιών σχετικά με την προηγμένη τεχνητή νοημοσύνη όπως το ChatGPT, προειδοποιώντας για την πιθανή κατάχρηση του συστήματος σε απόπειρες phishing, παραπληροφόρησης και εγκλήματα στον κυβερνοχώρο.
Ο Musk, του οποίου η αυτοκινητοβιομηχανία Tesla χρησιμοποιεί AI για ένα σύστημα αυτόματου πιλότου, έχει εκφράσει έντονα τις ανησυχίες του για την AI.
Από την κυκλοφορία του πέρυσι, το ChatGPT της OpenAI που υποστηρίζεται από τη Microsoft έχει ωθήσει τους αντιπάλους να επιταχύνουν την ανάπτυξη παρόμοιων μεγάλων γλωσσικών μοντέλων και τις εταιρείες να ενσωματώσουν γενετικά μοντέλα AI στα προϊόντα τους.
Ο Sam Altman διευθύνων σύμβουλος της OpenAI, δεν έχει υπογράψει την επιστολή, δήλωσε στο Reuters εκπρόσωπος του Future of Life. Η OpenAI δεν απάντησε αμέσως σε αίτημα για σχολιασμό.
"Η επιστολή δεν είναι τέλεια, αλλά το πνεύμα είναι σωστό: πρέπει να επιβραδύνουμε μέχρι να κατανοήσουμε καλύτερα τις επιπτώσεις", δήλωσε ο Gary Marcus, ομότιμος καθηγητής στο Πανεπιστήμιο της Νέας Υόρκης, ο οποίος υπέγραψε την επιστολή.
"Μπορούν να προκαλέσουν σοβαρή ζημιά ... οι μεγάλοι παίκτες γίνονται όλο και πιο μυστικοπαθείς σχετικά με το τι κάνουν, γεγονός που καθιστά δύσκολο για την κοινωνία να αμυνθεί απέναντι στις όποιες ζημιές μπορεί να προκύψουν", τόνισε.
www.bankingnews.gr
Σχόλια αναγνωστών