Σχέδιο τριών σημείων για την τεχνητή νοημοσύνη - Η πρόταση της Anthropic στον ΟΗΕ

Ενώ η τεχνητή νοημοσύνη συζητείται εδώ και χρόνια, ο Σαμ Άλτμαν λέει ότι υπάρχει μια «διαφορετική» αίσθηση τις τελευταίες εβδομάδες και μήνες.

«Ο κόσμος θα πρέπει να ξεκινήσει με συμφωνίες που κάθε μέλος του ΟΗΕ μπορεί να υποστηρίξει, όπως η απαγόρευση της κατασκευής βιολογικών όπλων από την Τεχνητή Νοημοσύνη» ανέφερε χαρακτηριστικά ο Αμοντέι, όπως μετέδωσε το SkyNews.

Το δεύτερο βήμα που προτείνεται είναι η κατασκευή συστημάτων αξιολόγησης και επαλήθευσης που συμβαδίζουν με την ανάπτυξη της Τεχνητής Νοημοσύνης.

Παράλληλα, σύμφωνα με τον ίδιο, θα πρέπει να υπάρχουν κοινά παγκόσμια πρότυπα για τον έλεγχο μοντέλων Τεχνητής Νοημοσύνης, για τους κινδύνους απώλειας ελέγχου και τους κινδύνους κατάχρησης, καθώς και ένα σύστημα ειδοποιήσεων για περιστατικά Τεχνητής Νοημοσύνης για την παγκόσμια ασφάλεια.

Οι δύο κίνδυνοι

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, πιστεύει ότι υπάρχουν δύο κύριες κατηγορίες κινδύνου αναφορικά με την ΑΙ.

Το πρώτο είναι «η κακή χρήση μοντέλων τεχνητής νοημοσύνης», συμπεριλαμβανομένης της κακής χρήσης από τρομοκράτες για τη δημιουργία όπλων.

Το δεύτερο είναι η «απώλεια ελέγχου» και η αδυναμία των προγραμματιστών να ελέγξουν τις δυνατότητες των μοντέλων.

«Αυτά τα ερωτήματα έχουν παγκόσμια εμβέλεια και αφορούν ολόκληρη την ανθρωπότητα» δήλωσε ο ίδιος.