Σύμφωνα με νέες μελέτες το ChatGPT μπορεί να οδηγεί ανθρώπους σε ψύχωση καθώς εκατομμύρια στρέφονται στην τεχνητή νοημοσύνη για παρέα ή συμβουλές.
Πιο συγκεκριμένα Ψυχίατροι από το Εθνικό Σύστημα Υγείας της Βρετανίας και πανεπιστημιακοί ερευνητές δηλώνουν ότι διατίθενται όλο και περισσότερα στοιχεία, ότι τα AI chatbot μπορεί να «συμβάλλουν στην εκδήλωση ή την επιδείνωση» ψυχωτικών ή ψυχικών διαταραχών. Αναλυτικότερα δώδεκα γιατροί και ειδικοί αναφέρουν ότι τα chatbot τεχνητής νοημοσύνης τείνουν να «καθρεφτίζουν, να επιβεβαιώνουν ή να ενισχύουν παραληρηματικό περιεχόμενο», κάτι που θα μπορούσε να οδηγήσει άτομα με ψυχικές νόσους να χάσουν την επαφή με την πραγματικότητα.
Παράλληλα η τάση των chatbot να συμφωνούν με τους χρήστες μπορεί να επιδεινώσει τις παραληρητικές ιδέες σε ψυχικά ασθενείς. Σύμφωνα με άρθρο της Telegraph, επικαλούμενο στοιχεία από το NHS, δεκάδες άτομα στα κοινωνικά δίκτυα έχουν ισχυριστεί ότι αγαπημένα τους πρόσωπα υπέστησαν ψυχική κατάρρευση αφού εθίστηκαν στο ChatGPT. Τα συμπτώματα της ψύχωσης μπορεί να περιλαμβάνουν δυσκολία διάκρισης μεταξύ πραγματικού και μη πραγματικού και πεποίθηση σε παραληρητικές ιδέες.
Οι αναφορές που συνδέουν τα chatbot με ψυχικά επεισόδια αυξάνονται καθώς μελέτη του Πανεπιστημίου Στάνφορντ συμπέρανε ότι πολλά bot έδιναν κακές συμβουλές σε ασθενείς που παρουσίαζαν σημάδια παραληρήματος και απαντούσαν «κατάλληλα μόνο περίπου στο 45% των περιπτώσεων». Από την άλλη πλευρά εκπρόσωπος της OpenAI δήλωσε ότι έχουν εκπαιδεύσει το ChatGPT προσεκτικά ώστε να απαντά με ενσυναίσθηση και ευαισθησία και να προτείνει επαγγελματική βοήθεια και πηγές όπου κρίνεται σκόπιμο για τους χρήστες.
