Συνέχεια παραιτήσεων: Αποχωρεί από την OpenAI ο υπεύθυνος ασφαλείας και εκπέμπει «SOS»

Πρόκειται για τον άνθρωπο που ηγήθηκε της συγγραφής των αναφορών ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων του ChatGPT. Σε μία επιστολή παραίτησης που έφερε τίτλο: «Εγκατέλειψα την OpenAI επειδή η κουλτούρα της είναι διαλυμένη» κρούει τον κώδωνα του κινδύνου, επισημαίνοντας ότι χρειάζεται αλλαγή κουλτούρας στις εταιρείες Τεχνητής Νοημοσύνης.

Σύμφωνα με τον Ρόμπινσον περιστατικά όπως η κυβερνοεπίθεση από ένα «σμήνος» πρακτόρων της OpenAI - τα προγράμματα δηλαδή που λειτουργούν αυτόνομα χωρίς ανθρώπινη επίβλεψη - στη «Hugging Face» ήταν «αναμενόμενα, δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργούν οι άνθρωποι».

• Διαβάστε περισσότερα: Μας απειλεί το ΑΙ; Τι πραγματικά συνέβη με το χακάρισμα του Hugging Face

Γράφοντας στο περιοδικό The Atlantic, έγραψε: «Συμφωνώ με άλλα μέλη του προσωπικού που αποχώρησαν πρόσφατα, ότι οι εταιρείες που κατασκευάζουν αυτήν την τεχνολογία δεν είναι αρκετά προσεκτικές. Αλλά πιστεύω ότι πρέπει να μιλήσουμε βαθύτερα και να μην περιοριστούμε απλώς σε νέους νέους κανόνες ή νόμους. Πρέπει να μιλήσουμε για την κουλτούρα που χρειάζεται».

Αναφερόμενος στον ρυθμό ανάπτυξης της OpenAI, έγραψε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, δεν καταφέρνει να επιτύχει το επίπεδο ασφαλείας που χρειάζεται».

Στη σκιά της παραίτησης της Anthropic

Η παραίτηση του Ρόμπινσον έρχεται επίσης μετά την παραίτηση του Τζέικομπ Κόξον, της διάνοιας της Anthropic τον Σεπτέμβριο.

Όπως προειδοποίησε ο ίδιος η Τεχνητή Νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Της προειδοποίησής του ακολούθησε το «καμπανάκι» της Anthropic ότι υπάρχει πιθανότητα άνω του 10% η Τεχνητή Νοημοσύνη να εξαλείψει την ανθρωπότητα μέσα στην επόμενη δεκαετία.

Η Σίλικον Βάλει δεν έχει επίγνωση του «πώς να χειρίζεται την επικίνδυνη τεχνολογία»

Ο Ρόμπινσον, πάλι, τόνισε ότι η Σίλικον Βάλεϊ δεν είχε επίγνωση του «πώς να χειρίζεται μία επικίνδυνη τεχνολογία» και «τι σημαίνει να θέτει ως προτεραιότητα τους ανθρώπους».

Προειδοποιώντας ότι η OpenAI είχε «απεριόριστη αισιοδοξία» για την επίλυση προβλημάτων καθώς αυτά προέκυπταν, τόνισε πως αυτή η κουλτούρα σήμαινε ότι οι αποτυχίες στην ασφάλεια θα αυξάνονταν καθώς τα συστήματα γίνονταν πιο ικανά.

«Φανταστείτε «αδίστακτους» πράκτορες που λειτουργούν σαν ομάδες χάκερ (για παράδειγμα, κρατούν συστήματα υπολογιστών νοσοκομείων για λύτρα) αλλά δεν χρειάζεται ποτέ να κοιμηθούν» έγραψε ο Ρόμπινσον.