Η Nvidia δημιούργησε νέο εργαλείο για να αποτρέψει την ανεξέλεγκτη συμπεριφορά μοντέλων ΑΙ

«Σήμερα, σε συνεργασία με περισσότερους από 100 εταίρους του κλάδου, παρουσιάσαμε την πλατφόρμα NVIDIA Open Agent Safety Platform», έγραψε τη Δευτέρα σε ανάρτησή του στο X ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ, όπως αναφέρει το CNNi.

Η Nvidia, η εταιρεία με τη μεγαλύτερη χρηματιστηριακή αξία παγκοσμίως, αντιτίθεται στις εκκλήσεις για επιβολή κυβερνητικών περιορισμών στα μοντέλα τεχνητής νοημοσύνης, ακόμη και τη στιγμή που κορυφαίες εταιρείες αναφέρουν περιστατικά κατά τα οποία υπήρρξε παραβίαση άλλων συστημάτων. Ορισμένοι ερευνητές έχουν διατυπώσει την πιθανότητα η τεχνολογία αυτή να οδηγήσει στο τέλος της ανθρωπότητας μέσα στην επόμενη δεκαετία.

«Οι τεράστιες δυνατότητες της τεχνητής νοημοσύνης για την κοινωνία θα αξιοποιηθούν μόνο αν επιλύσουμε το ζήτημα της ασφάλειας της τεχνητής νοημοσύνης», δήλωσε ο Χουάνγκ. «Καθώς συνεχίζουμε να εξερευνούμε τα όρια των δυνατοτήτων της τεχνητής νοημοσύνης, οφείλουμε να επιταχύνουμε την πρόοδο και στον τομέα της ασφάλειάς της», πρόσθεσε.

Η αποκάλυψη της Αυστραλίας για την OpenAI

Η ανακοίνωση της Nvidia έρχεται στον απόηχο της αποκάλυψης από την κυβέρνηση της Αυστραλίας ότι μοντέλο της Τεχνητής Νοημοσύνης της εταιρείας Open AI απέκτησε πρόσβαση σε αρχεία από «διάφορους κυβερνητικούς ιστότοπους και υπηρεσίες της Αυστραλίας».

Μεταξύ αυτών είναι δεδομένα από το σύστημα υγείας της χώρας, το Medicare, τα οποία δεν ήταν δημόσια διαθέσιμα.

Οι αρχές «γνωρίζουν επίσης για τρία άλλα συστήματα που ενδέχεται να επηρεάστηκαν», όπως ανέφερε ο Αυστραλός πρωθυπουργός Άντονι Αλμπανέζε.

Σε αυτά περιλαμβάνονται το Αυστραλιανό Ινστιτούτο Υγείας και Πρόνοιας, το Γραφείο Στατιστικών και Ερευνών για το Έγκλημα της Νέας Νότιας Ουαλίας και το Υπουργείο Υγείας της Βικτώριας, ανέφερε.

Σύμφωνα με τις Αρχές της Αυστραλίας το πρόγραμμα δεν απέκτησε πρόσβαση σε ευαίσθητα αρχεία, ωστόσο χαρακτήρισε το περιστατικό ανησυχητικό και τον τρόπο διαχείρισής του από την OpenAI απαράδεκτο.