Το αμερικανικό Πεντάγωνο, η Anthropic και η «μάχη» για το ποιος εγγυάται τη σωστή χρήση του ΑΙ

Η ουσία της διαμάχης είναι η επιμονή της Anthropic να διασφαλιστεί ότι η τεχνολογία της -και ειδικά το Claude, ένα εκ των πλέον δημοφιλών μοντέλων τεχνητής νοημοσύνης- δεν θα χρησιμοποιηθεί από τις ένοπλες δυνάμεις των ΗΠΑ για θανατηφόρα χρήση. Για την ακρίβεια, αυτό που ζητά η Anthropic είναι η τεχνολογία της να μη χρησιμοποιηθεί για την παρακολούθηση των Αμερικανών πολιτών όπως για τη δημιουργία πλήρως αυτόνομων οπλικών συστημάτων.

Το αμερικανικό Πεντάγωνο απαντά ότι και οι δύο αυτές περιπτώσεις θα αποτελέσουν παραβίαση της νομοθεσίας των ΗΠΑ, οπότε δεν χρειάζεται να υπάρχει σχετική διατύπωση στη σύμβαση που επρόκειτο να υπογράψουν οι δύο πλευρές. Η σύμβαση είναι ύψους 200 εκατ. δολαρίων, η κατ’ αρχήν συμφωνία επετεύχθη τον περασμένο Ιούλιο αλλά το πιο ενδιαφέρον στοιχείο είναι πως πρόκειται για την πρώτη φορά που μία εταιρεία από το χώρο του ΑΙ θα ενσωμάτωσε τα μοντέλα της σε διαδικασίες που σχετίζονται με κρίσιμα για τις ένοπλες δυνάμεις των ΗΠΑ δίκτυα.

ΑΙ και άμυνα

Τα τελευταία χρόνια, το Πεντάγωνο επενδύει επιθετικά σε τεχνολογίες AI για ανάλυση πληροφοριών, αυτόνομα συστήματα, κυβερνοάμυνα και επιχειρησιακό σχεδιασμό. Εταιρείες όπως η OpenAI, η Microsoft και η Palantir Technologies έχουν ήδη συνεργαστεί ή συνεργάζονται με αμερικανικές αμυντικές δομές. Και η τελευταία προσθήκη στη σχετική λίστα ήταν αυτή της Anthropic.

Η Anthropic ιδρύθηκε το 2021 από τον Dario Amodei, ο οποίος αποχώρησε από την OpenAI προκειμένου να δημιουργήσει μία εταιρεία τεχνητής νοημοσύνης που θα έδινε έμφαση στην ορθή χρήση του ΑΙ και την αποτροπή επικίνδυνων χρήσεων προηγμένων μοντέλων.

Η Anthropic έχει διατυπώσει δημοσίως ότι εεν επιθυμεί να εμπλακεί σε ανάπτυξη επιθετικών στρατιωτικών συστημάτων και ότι θέλει αυστηρούς περιορισμούς στη χρήση των μοντέλων της για οπλικά ή θανατηφόρα αυτόνομα συστήματα. Επίσης, δίνει έμφαση στη ρυθμιστική εποπτεία και στους μηχανισμούς ελέγχου πριν από την κλιμάκωση της στρατιωτικής αξιοποίησης της AI.

Το Πεντάγωνο, από την άλλη πλευρά, βλέπει την AI ως κρίσιμο παράγοντα για τη βελτίωση των οπλικών συστημάτων, ιδίως σε μία περίοδο που εκτιμάται ότι η Κίνα χρησιμοποιεί εκτενώς το ΑΙ για στρατιωτικούς σκοπούς. Και πιθανότατα εδώ βρίσκεται η ουσία της «διαμάχης»: πόσο ελεγχόμενη και περιορισμένη πρέπει να είναι η χρήση της AI στην άμυνα; Και ποιος βάζει τα όρια;

Τα επόμενα «επεισόδια»

Αρκετά στελέχη από ανταγωνίστριες εταιρείες έχουν εκφράσει δημόσια την υποστήριξη τους προς την Anthropic, η διοίκηση της οποίας, όμως, ρισκάρει αρκετά σε επιχειρηματικό επίπεδο. Το υπουργείο Άμυνας των ΗΠΑ προειδοποιεί την Anthropic ότι αν δεν υπάρξει συμφωνία τότε θα χαρακτηριστεί ως «επικίνδυνη» για την εθνική εφοδιαστική αλυσίδα, όπερ σημαίνει πρακτικά ότι δεν θα μπορεί να αναλάβει συμβόλαια από την ομοσπονδιακή κυβέρνηση.

Επιπλέον, οι ιθύνοντες του αμερικανικού Πενταγώνου αφήνουν ανοικτό το ενδεχόμενο να εφαρμόσουν το Defense Production Act. Ο συγκεκριμένος νόμος δίνει τη δυνατότητα στην κυβέρνηση να επιβάλλει σε μία αμερικανική εταιρεία να παραχωρήσει τη χρήση των τεχνολογιών της εφόσον αυτό κριθεί απαραίτητο για την εθνική ασφάλεια.

Όμως, υπάρχει και ένα άλλο θέμα: ποια θα είναι η αντίδραση των επενδυτών της Anthropic αν η διαμάχη κλιμακωθεί; Ιδίως σε μία περίοδο που η Anthropic έχει δει την αποτίμηση της να φθάνει στο δυσθεώρητο για μία εταιρεία ηλικίας 5 ετών ποσό των 380 δισ. δολαρίων και γενικώς υπάρχει η αίσθηση ότι οι ΑΙ εταιρείες είναι μία «φούσκα».

Συμβόλαια όπως αυτό με το Πεντάγωνο λειτουργούν συνήθως κατευναστικά στις ανησυχίες καθώς διασφαλίζουν σημαντική κερδοφορία που είναι τελικά και το ζητούμενο για όλες τις επιχειρήσεις.

Τα επόμενα επεισόδια στο συγκεκριμένο σίριαλ αναμένονται πάντως με ιδιαίτερο ενδιαφέρον και ιδίως αν ο διευθύνων σύμβουλος της Anthropic επιμείνει στην στάση του απέναντι στο Πεντάγωνο. Αλλά η υπόθεση φέρνει στο προσκήνιο μίας σειρά από ερωτήματα.

Μπορεί μια εταιρεία που χτίζει «γενικής χρήσης» AI να ελέγξει πραγματικά πού καταλήγουν τα μοντέλα της; Είναι ρεαλιστικό να απέχει από τον αμυντικό τομέα όταν ο στρατηγικός ανταγωνισμός ΗΠΑ–Κίνας εντείνεται; Και τελικά αν δεν συμμετέχουν οι εταιρείες με έμφαση στην ασφάλεια, ποιος θα διαμορφώσει τα πρότυπα ορθής χρήσης;