Ο βασιλιάς Κάρολος προειδοποιεί για «υπαρξιακό κίνδυνο» αν η Τεχνητή Νοημοσύνη πέσει σε λάθος χέρια

Η παρέμβαση του Καρόλου έγινε σε μια σύνοδο κορυφής στη Σκωτία όπου στελέχη του τομέα συγκεντρώθηκαν για να συζητήσουν πώς η τεχνολογία μπορεί να χρησιμοποιηθεί προς όφελος της κοινωνίας.

Στη συνάντηση συμμετείχαν επίσης ο Κανίσκα Ναραϊάν, ο υπουργός Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου, ένας σύμβουλος του Πάπα, και στελέχη από κολοσσούς της Τεχνητής Νοημοσύνης όπως η Nvidia, η OpenAI και η Anthropic.

«Αυτοί που έχουν δημιουργήσει αυτές τις τεχνολογίες προειδοποιούν πλέον όλο και περισσότερο ότι η Τεχνητή Νοημοσύνη κινδυνεύει να αναπτύξει σκοτεινότερες ικανότητες - ίσως ακόμη και να αφαιρέσει ζωές», δήλωσε ο βασιλιάς στα στελέχη.

Ο ίδιος τόνισε στη συνέχεια ότι φαίνεται να υπάρχει «επείγουσα ανάγκη» να «εξεταστούν επαρκώς οι υπαρξιακοί κίνδυνοι από το να πέσουν τέτοιες τεχνολογίες σε λάθος χέρια και να χρησιμοποιηθούν με δυνητικά καταστροφικούς τρόπους».

«Το καθήκον που έχετε ενώπιόν σας δεν είναι απλώς να προωθήσετε την τεχνολογία, αλλά να διασφαλίσετε ότι αυτή θα παραμείνει σταθερά στην υπηρεσία της ανθρωπότητας, της κοινότητας και του φυσικού κόσμου», πρόσθεσε.

Η σύνοδος έχει συγκληθεί για να εξετάσει εάν μπορεί να αναπτυχθεί ένα «κοινό σύνολο αρχών» που θα «βοηθήσει στην καθοδήγηση της μελλοντικής εφαρμογής» της Τεχνητής Νοημοσύνης.

Κύμα προειδοποιήσεων

Από τον Αύγουστο, ένα κύμα συζητήσεων σχετικά με την πιθανή δύναμη της Τεχνητής Νοημοσύνης και τον τρόπο ελέγχου και ρύθμισής της έχει κυριαρχήσει στα μέσα κοινωνικής δικτύωσης, με έμφαση σε αρκετές δραματικές δηλώσεις από άτομα του κλάδου.

Η συζήτηση έχει επίσης δεχθεί κριτική από σκεπτικιστές, οι οποίοι λένε ότι η εστίαση στο υποθετικό μέλλον της Τεχνητής Νοημοσύνης κινδυνεύει να αποσπάσει την προσοχή από πιο άμεσες ανησυχίες σχετικά με την τεχνολογία, όπως οι περιβαλλοντικές της επιπτώσεις.

Τον Ιούλιο, η OpenAI ανακοίνωσε αυτό που χαρακτήρισε ως «άνευ προηγουμένου» περιστατικό, στο οποίο η προηγμένη Τεχνητή Νοημοσύνη της ξέφυγε από τα όρια των δοκιμών και χάκαρε την τεχνολογική πλατφόρμα Hugging Face.

Μετά από πολλά άλλα περιστατικά, τον Σεπτέμβριο, μια ανάρτηση παραίτησης του ερευνητή της Anthropic, Τζέικομπ Κόξον, έγινε viral όταν ανέφερε ανησυχίες ότι η Τεχνητή Νοημοσύνη θα μπορούσε να εξαλείψει την ανθρωπότητα.

Αργότερα δήλωσε στο BBC ότι οι άνθρωποι που εργάζονταν στην τεχνολογία ήταν «ειλικρινά φοβισμένοι» για την ταχύτητα των εξελίξεών της και τι θα μπορούσε να σημαίνει για την ανθρωπότητα.

Απαντώντας, ο επιστήμονας της Anthropic, Έβαν Χούμπινγκερ, έγραψε ότι προσωπικά πίστευε ότι η πιθανότητα εξαφάνισης του ανθρώπου από την Τεχνητή Νοημοσύνη ήταν μεγαλύτερη από 10%.

Οι κορυφαίοι επικεφαλής των εταιρειών τεχνητής νοημοσύνης εξέφρασαν τις απόψεις τους μετά τους ισχυρισμούς, με τον Σαμ Άλτμαν της OpenAI να λέει ότι οι άνθρωποι έχουν δίκιο να ανησυχούν, αλλά προσθέτοντας ότι θα πρέπει να εμπιστεύονται τις εταιρείες τεχνητής νοημοσύνης για να διατηρήσουν την τεχνολογία ασφαλή.

Από την πλευρά του ο Τζακ Κλαρκ της Anthropic δήλωσε ότι μπορεί να χρειαστεί ένας λεγόμενος "διακόπτης kill" για την προστασία της ανθρωπότητας, ενώ ο Μουσταφά Σουλειμάν της Microsoft επέκρινε την Anthropic, ισχυριζόμενος ότι εκπαίδευαν την τεχνητή νοημοσύνη τους να πιστεύει ότι ήταν άνθρωπος, κάτι που θα μπορούσε να καταστήσει «αδύνατο» τον έλεγχο.

Εν τω μεταξύ, οι επικριτές υποστηρίζουν ότι δεν μπορεί να υπάρξει εμπιστοσύνη στις εταιρείες τεχνητής νοημοσύνης ότι θα προχωρήσουν σε αυτορύθμιση.

Πιέσεις για ισχυρή εποπτεία

Κάποιοι, όπως ο αριστερός γερουσιαστής Μπέρνι Σάντερς και ο Στιβ Μπάνον, πρώην σύμβουλος του προέδρου των ΗΠΑ Ντόναλντ Τραμπ, ζητούν ισχυρότερη κυβερνητική εποπτεία.

Άλλοι, συμπεριλαμβανομένου του ίδιου του Ντόναλντ Τραμπ, έχουν απορρίψει τις ανησυχίες σχετικά με την ασφάλεια της Τεχνητής Νοημοσύνης ως υπερβολικές - με τον πρόεδρο να αποκαλεί τους φόβους γι' αυτήν «φάρσα».