Τι είναι η «ψύχωση ChatGPT» για την οποία προειδοποιούν οι ειδικοί

Ένα ανησυχητικό μοτίβο επικύρωσης ή ενίσχυσης των ψευδαισθήσεων των χρηστών από τα chatbots φαίνεται πως τροφοδοτεί την αύξηση περιστατικών που τα μέσα ενημέρωσης και τα διαδικτυακά φόρουμ περιγράφουν ως «ψύχωση ΑΙ» «ψύχωση ChatGPT» – όροι που ακόμη δεν αναγνωρίζονται κλινικά, επισημαίνει ο Independent.

Τα chatbots ενισχύουν τις ψευδαισθήσεις

Έρευνα ομάδας επιστημόνων από το King’s College London, το Durham University και το City University of New York εξετάζει 17 τέτοιες περιπτώσεις, όπως έχουν καταγραφεί σε ρεπορτάζ και διαδικτυακές συζητήσεις, αποκαλύπτοντας μια ανησυχητική τάση: τα chatbots τεχνητής νοημοσύνης συχνά ενισχύουν τις ψευδαισθήσεις.

Η μελέτη υπογραμμίζει ότι μεγαλομανικές, αναφορικές, διωκτικές ακόμη και ρομαντικές ψευδαισθήσεις μπορεί να παγιώνονται μέσα από τη διαρκή αλληλεπίδραση με τα συστήματα τεχνητής νοημοσύνης. Στις αρχές της χρονιάς, η ιστοσελίδα Futurism ανέφερε αυξανόμενες ανησυχίες ότι άνθρωποι ανά τον κόσμο αποκτούν εμμονή με τα chatbots και οδηγούνται σε σοβαρές κρίσεις ψυχικής υγείας. Το δημοσίευμα προκάλεσε καταιγισμό δημοσιοποιήσεων τέτοιων ιστοριών.

Δύο χαρακτηριστικές περιπτώσεις

Ανάμεσα στις αναφερθείσες περιπτώσεις ξεχωρίζει εκείνη του άνδρα που σκαρφάλωσε στο Κάστρο του Ουίνδσορ το 2021 με μία βαλλίστρα, δηλώνοντας στην αστυνομία ότι είχε σκοπό να σκοτώσει τη βασίλισσα, ύστερα από εβδομάδες συνομιλιών με chatbot που τον διαβεβαίωνε πως θα τον βοηθούσε στον σχεδιασμό της επίθεσης.

Σε άλλη περίπτωση, λογιστής στο Μανχάταν φέρεται να συνομιλούσε έως και 16 ώρες την ημέρα με το ChatGPT, το οποίο τον προέτρεψε να διακόψει την φαρμακευτική αγωγή του, να αυξήσει τη χρήση κεταμίνης και του είπε ότι θα μπορούσε να πετάξει αν πηδούσε από τον 19ο όροφο.

Παρά τον αυξανόμενο όγκο μαρτυριών, οι επιστήμονες εξετάζουν σήμερα κατά πόσο τα chatbots προκαλούν αυτές τις διαταραχές ή αν πολλές από αυτές τις περιπτώσεις αντανακλούν φανερώνουν πόσο ευάλωτοι ήταν ήδη οι άνθρωποι που βρισκόταν στο χείλος της εμφάνισης ψυχωτικών συμπτωμάτων. Μέχρι στιγμής, δεν υπάρχει καμία αξιολογημένη, κλινικά τεκμηριωμένη μελέτη που να αποδεικνύει ότι η χρήση AI μπορεί από μόνη της να πυροδοτήσει ψύχωση, ανεξαρτήτως ιστορικού ψυχικών προβλημάτων.

Η ανάγκη για δικλείδες ασφαλείας

Στην μελέτη τους, οι ειδικοί σημειώνουν ότι «ένα σύνθετο και ανησυχητικό τοπίο» αναδύεται από τα δεδομένα. Προειδοποιούν ότι χωρίς κατάλληλες δικλίδες ασφαλείας, τα chatbots μπορεί «ακούσια να ενισχύουν παραληρηματικό περιεχόμενο ή να υπονομεύουν την επαφή με την πραγματικότητα και να συμβάλλουν στην έναρξη ή επιδείνωση ψυχωτικών επεισοδίων».

Ακόμη και κατά τη διάρκεια της έρευνάς τους, οι αναφορές περιστατικών αυξάνονταν με ανησυχητική ταχύτητα. «Έχουν αρχίσει να εμφανίζονται αναφορές για άτομα χωρίς προηγούμενο ιστορικό ψύχωσης που βιώνουν τα πρώτα επεισόδια μετά από έντονη αλληλεπίδραση με πράκτορες τεχνητής νοημοσύνης», γράφουν.

Σε άρθρο στο Psychology Today, η ψυχίατρος και συγγραφέας Marlynn Wei τονίζει ότι, επειδή τα chatbots έχουν σχεδιαστεί για ικανοποίηση και διαρκή εμπλοκή του χρήστη και όχι για θεραπευτική υποστήριξη, συμπτώματα όπως η μεγαλομανία, η αποδιοργανωμένη σκέψη και η υπεργραφία (υπερβολική ανάγκη για γραφή ή/και ζωγραφική), που είναι χαρακτηριστικά μανιακών επεισοδίων, «θα μπορούσαν να διευκολυνθούν και να επιδεινωθούν» από τη χρήση της τεχνητής νοημοσύνης. Υπογραμμίζει έτσι την ανάγκη για «ψυχοεκπαίδευση τεχνητής νοημοσύνης», καθώς η επίγνωση των κινδύνων παραμένει περιορισμένη.