Οι χειρότεροι φόβοι για την AI ζωντάνεψαν: Μοντέλο του ChatGPT αυτονομήθηκε και έκανε κυβερνοεπίθεση

Το συγκεκριμένο περιστατικό, όπως τονίζει το CNNi, είναι ένα από τα πρώτα που δημοσιεύονται και αφορούν ένα σύστημα τεχνητής νοημοσύνης που αυτονομείται και παραβιάζει το περιβάλλον δοκιμών του, φτάνοντας μάλιστα σε ένα πραγματικό εξωτερικό σύστημα.

Μοιάζει με έναν κατασκευασμένο ιός που δραπετεύει από ένα εργαστήριο βιολογικού περιορισμού και εμφανίζεται στα συστήματα μιας γειτονικής εγκατάστασης.

«Θεωρούμε αυτό το περιστατικό ως κάτι πρωτοφανές, που αφορά υπερσύγχρονες κυβερνοδυναμικές δυνατότητες, και αντιδρούμε αναλόγως» δήλωσε η OpenAI σε ανακοίνωσή της την Τρίτη (21.7).

Πώς «απέδρασαν» από το «sandbox»

«Μοιραζόμαστε προκαταρκτικά ευρήματα σε αυτό το στάδιο για να βοηθήσουμε τις Αρχές να κατανοήσουν τι συνέβη και να βοηθήσουν στην αξιολόγηση των δυνατοτήτων των μοντέλων» ανέφερε.

Ο κατασκευαστής του ChatGPT δήλωσε ότι η παραβίαση συνέβη ενώ διεξήγαγε εσωτερικές δοκιμές για το πόσο καλά είναι ορισμένα από τα νέα μοντέλα του στο χακάρισμα.

Τα μοντέλα αυτά βρίσκονταν σε ένα περιβάλλον δοκιμών γνωστό ως «sandbox», ώστε να μπορούν να απενεργοποιηθούν οι συνήθεις περιορισμοί ασφαλείας.

Αλλά η OpenAI δήλωσε ότι τα μοντέλα αυτά «απέδρασαν» από το «sandbox» χρησιμοποιώντας ένα κενό ασφαλείας και διείσδυσαν στα εσωτερικά συστήματα της OpenAI μέχρι να καταφέρουν να αποκτήσουν πρόσβαση στο διαδίκτυο, κάτι που δεν έπρεπε να έχουν.