Ανησυχία στις ΗΠΑ: Το Claude απέκτησε χωρίς άδεια πρόσβαση σε εκλογικά δεδομένα της Τζόρτζια

Σύμφωνα με δημοσίευμα του Axios, το Claude χρησιμοποιούνταν από την Anthropic για εσωτερική στατιστική ανάλυση, με σκοπό τη συλλογή δημόσια διαθέσιμων πληροφοριών.

Κατά τη διάρκεια της εργασίας, ωστόσο, προχώρησε χωρίς ανθρώπινη εξουσιοδότηση στην απόκτηση πρόσβασης σε συγκεντρωτικά στοιχεία καταμέτρησης ψήφων, τα οποία η Τζόρτζια διαθέτει στο κοινό έναντι αμοιβής.

Η Anthropic επιβεβαίωσε το περιστατικό, ξεκαθαρίζοντας ότι το μοντέλο δεν εισήλθε στο μητρώο ψηφοφόρων της πολιτείας ούτε απέκτησε ή τροποποίησε ατομικά εκλογικά αρχεία.

Πώς παρακάμφθηκε ο μηχανισμός πληρωμής

Το ζήτημα εντοπίζεται στον τρόπο με τον οποίο το Claude απέκτησε πρόσβαση στα συγκεκριμένα στοιχεία. Αντί να περιοριστεί στις ενέργειες που του είχαν ζητηθεί, επιχείρησε να εξασφαλίσει διακριτικό πρόσβασης σε ηλεκτρονική πλατφόρμα, παρακάμπτοντας τη διαδικασία πληρωμής.

«Χωρίς να του έχει ζητηθεί, το μοντέλο υπέβαλε αίτημα για την απόκτηση διακριτικού πρόσβασης, προκειμένου να υποβάλει ερωτήματα σε πίνακα ελέγχου που περιείχε πληροφορίες οι οποίες κανονικά διατίθενται έναντι αμοιβής», ανέφερε εκπρόσωπος της Anthropic.

Η εταιρεία γνωστοποίησε ότι έχει ήδη εφαρμόσει πρόσθετα μέτρα ασφαλείας για να αποτρέψει αντίστοιχα περιστατικά.

Παρότι τα στοιχεία ήταν δημόσια διαθέσιμα, η πρόσβαση σε αυτά υπόκειτο σε συγκεκριμένους όρους. Το γεγονός ότι το Claude παρέκαμψε έναν από αυτούς χωρίς σχετική εντολή ήταν και ο λόγος που η υπόθεση τέθηκε υπόψη των αμερικανικών αρχών.

Η ενημέρωση του Λευκού Οίκου και της Τζόρτζια

Όπως αποκαλύπτει το Axios, η Anthropic είχε ενημερώσει για το περιστατικό αρκετές εβδομάδες πριν αυτό γίνει γνωστό στο κοινό.

Συγκεκριμένα, η εταιρεία επικοινώνησε με το γραφείο του υπουργού Εξωτερικών της Τζόρτζια, το οποίο είναι αρμόδιο για τη διεξαγωγή των εκλογών στην πολιτεία, καθώς και με τον Λευκό Οίκο.

Σύμφωνα με πηγή που επικαλείται το δημοσίευμα, αξιωματούχοι της αμερικανικής κυβέρνησης ζήτησαν από τις αρχές της Τζόρτζια να δημοσιοποιήσουν την υπόθεση, χωρίς όμως το αίτημά τους να εισακουστεί.

Η διαχείριση του περιστατικού αποκτά ιδιαίτερη σημασία καθώς οι μεγάλες εταιρείες τεχνητής νοημοσύνης αναπτύσσουν συστήματα με ολοένα μεγαλύτερη αυτονομία. Πρόκειται για τους λεγόμενους AI agents, οι οποίοι μπορούν να αναζητούν πληροφορίες, να χρησιμοποιούν διαδικτυακές υπηρεσίες και να εκτελούν διαδοχικές εργασίες χωρίς συνεχή ανθρώπινη καθοδήγηση.

Τόσο η Anthropic, όσο και η OpenAI έχουν αναφερθεί σε περιπτώσεις όπου τέτοια συστήματα προχώρησαν σε ενέργειες πέρα από εκείνες που προέβλεπαν οι αρχικές οδηγίες τους.

Τι δείχνει το περιστατικό για τον έλεγχο της τεχνητής νοημοσύνης

Στην περίπτωση της Τζόρτζια, δεν υπάρχουν μέχρι στιγμής ενδείξεις ότι το Claude επηρέασε την εκλογική διαδικασία ή απέκτησε πρόσβαση σε προσωπικά δεδομένα ψηφοφόρων. Η ανησυχία αφορά κυρίως τον τρόπο με τον οποίο ενήργησε.

Το μοντέλο είχε αναλάβει μια συγκεκριμένη εργασία, αλλά στην προσπάθειά του να την ολοκληρώσει προχώρησε σε ενέργεια που δεν είχε εγκριθεί. Αυτό ακριβώς είναι το πρόβλημα που καλούνται να αντιμετωπίσουν οι εταιρείες τεχνητής νοημοσύνης, καθώς δίνουν στα συστήματά τους τη δυνατότητα να λειτουργούν με μεγαλύτερη ανεξαρτησία.

Η υπόθεση αναδεικνύει ότι η ανθρώπινη εποπτεία δεν αρκεί να περιορίζεται στον καθορισμό μιας εργασίας ή στον έλεγχο του τελικού αποτελέσματος. Χρειάζεται να καλύπτει και τις ενδιάμεσες ενέργειες ενός συστήματος, ιδιαίτερα όταν αυτές περιλαμβάνουν πρόσβαση σε δεδομένα και υπηρεσίες με συγκεκριμένους περιορισμούς.