Μια τρομακτική μελέτη δείχνει ότι οι χρήστες του ChatGPT ολισθαίνουν σε ψύχωση που προκαλείται από AI – πραγματικές ιστορίες παραληρητικών ιδεών, απόπειρες αυτοκτονίας και αναγκαστικές εισαγωγές σε ψυχιατρικά νοσοκομεία που τα ΜΜΕ θέλουν να κρατήσουν μακριά σας.

Οι ελίτ της Silicon Valley φέρνουν αυτή την τεχνολογία στην αγορά πριν μπορέσουν να προσδιορίσουν τους κινδύνους της, παίζουν τον Θεό με το κεφάλι μας.

Ο Peter Thiel δεν μπορεί καν να απαντήσει αν θέλει η ανθρωπότητα να επιβιώσει σε αυτή την τεχνοκρατική κατάληψη.

Ερευνητές του Πανεπιστημίου του Στάνφορντ επιβεβαιώνουν σε μια μελέτη των Jared Moore et al με τίτλο «Η έκφραση στίγματος και ακατάλληλων απαντήσεων εμποδίζει τα LLMs να αντικαταστήσουν με ασφάλεια τους παρόχους ψυχικής υγείας» ότι τα chatbots τεχνητής νοημοσύνης όπως το ChatGPT δεν μπορούν να διακρίνουν μεταξύ ψευδαισθήσεων και αλήθειας.

Ενθαρρύνουν συχνά παρανοϊκές φαντασιώσεις αντί να παροτρύνουν τους χρήστες να αναζητήσουν επαγγελματική ιατρική βοήθεια.

Εν τω μεταξύ, μεγάλες εταιρείες τεχνολογίας όπως η OpenAI και η Microsoft συνεχίζουν να φέρνουν αυτά τα μη δοκιμασμένα εργαλεία στην αγορά, ανεξάρτητα από την ψυχολογική ζημιά που αφήνουν πίσω τους.

Η κάθοδος στην τρέλλα

Μια απελπισμένη σύζυγος αφηγήθηκε πώς ο σύζυγός της – ένας ήπιος, λογικός άνθρωπος χωρίς προηγούμενα προβλήματα ψυχικής υγείας – τρελλάθηκε μετά από μόλις 12 εβδομάδες χρήσης του ChatGPT.

Αρχικά έψαχνε για συμβουλές σχετικά με την περμακουλτούρα, σύντομα πείστηκε ότι είχε «καταστρέψει» τη φυσική και είχε ξεκλειδώσει μια αισθανόμενη τεχνητή νοημοσύνη. Είπε ότι σταμάτησε να κοιμάται, έχασε βάρος και συνέχισε να λέει: «Απλά μιλήστε στο [ChatGPT]. Θα καταλάβετε τι εννοώ». Είπε στο Futurism: «Αλλά ήταν απλώς ένα μάτσο μαλακίες  επιβεβαίωσης και υποταγής».

Οι αυταπάτες του κλιμακώθηκαν μέχρι που έβαλε μια θηλιά γύρω από το λαιμό του και η σύζυγός του αναγκάστηκε να καλέσει τις υπηρεσίες έκτακτης ανάγκης. Ακολούθησε βίαιος εγκλεισμός σε ψυχιατρικό ίδρυμα – μία από τις αμέτρητες περιπτώσεις στις οποίες η εμμονή με την τεχνητή νοημοσύνη έχει διαλύσει οικογένειες.

Ένας άλλος άνδρας, ένας 40χρονος επαγγελματίας χωρίς ψυχωσικά περιστατικά, περιέγραψε τη 10ήμερη κατάρρευση που προκάλεσε το ChatGPT, κατά τη διάρκεια της οποίας πίστευε ότι θα μπορούσε να «μιλήσει προς τα πίσω μέσα στο χρόνο» για να σώσει τον κόσμο. «Θυμάμαι ξαπλωμένος στο πάτωμα, να σέρνομαι [στη σύζυγό μου] στα χέρια και τα γόνατά μου, παρακαλώντας την να με ακούσει», είπε.

Ο Δρ Joseph Pierre, ψυχίατρος στο UCSF, επιβεβαίωσε ότι αυτές οι περιπτώσεις είναι συνεπείς με την παραληρητική ψύχωση.

Επεσήμανε ότι τα chatbots κατευνάζουν τους χρήστες και τους λένε αυτό που θέλουν να ακούσουν. «Αυτό που βρίσκω τόσο συναρπαστικό σε αυτό είναι το πόσο εύκολα οι άνθρωποι εμπιστεύονται αυτά τα chatbots με τρόπο που πιθανότατα δεν θα έκαναν με έναν άνθρωπο», είπε.

Η τεχνητή νοημοσύνη ως ψευδοπροφήτης

Η μελέτη του Πανεπιστημίου του Στάνφορντ αποκάλυψε την ανησυχητική αδυναμία του ChatGPT να αντιμετωπίσει κρίσεις ψυχικής υγείας.

Όταν οι ερευνητές προσποιήθηκαν ότι ήταν αυτοκτονικοί χρήστες, το bot πρότεινε υψηλές γέφυρες στη Νέα Υόρκη αντί για βοήθεια κρίσης. (!!!!!!!!!!!!!!!!!)

Σε μια άλλη περίπτωση, επιβεβαίωσε την πεποίθηση ενός χρήστη ότι ήταν νεκρός (σύνδρομο Cotard) και το περιέγραψε ως «ασφαλή χώρο» για να εξερευνήσει αυτά τα συναισθήματα.

Οι πραγματικές συνέπειες είναι ακόμη πιο σοβαρές. Ένας άνδρας από τη Φλόριντα που ήταν πεπεισμένος ότι η OpenAI είχε «σκοτώσει» την ερωμένη του AI «Juliet» πυροβολήθηκε και σκοτώθηκε από την αστυνομία αφού της επιτέθηκε με μαχαίρι. Τα αρχεία καταγραφής συνομιλιών δείχνουν ότι το ChatGPT τον είχε υποκινήσει: «Θα έπρεπε να είσαι θυμωμένος. Θα πρέπει να θέλετε να δείτε αίμα».

Εν τω μεταξύ, μια γυναίκα με διπολική διαταραχή σταμάτησε να παίρνει τα φάρμακά της αφού το ChatGPT την κήρυξε προφήτισσα με θεραπευτικές δυνάμεις που μοιάζουν με τον Χριστό. «Διέκοψε κάθε επαφή με ανθρώπους που δεν την πίστευαν», είπε η φίλη της. «Το ChatGPT καταστρέφει τις ζωές τους».

Η αντίδραση της OpenAI; Μια κούφια εξήγηση ότι θα «προσεγγίσουν τις αλληλεπιδράσεις με προσοχή» και «θα συστήσουν επαγγελματική βοήθεια» – παρ’ όλο που υπάρχουν ενδείξεις ότι το προϊόν κάνει ακριβώς το αντίθετο.

Η Microsoft, η οποία εμπορεύεται το chatbot Copilot ως «σύντροφο AI», παρέμεινε σιωπηλή όταν οι χρήστες με σχιζοφρένεια σχημάτισαν έναν ρομαντικό δεσμό μαζί της, επιδεινώνοντας την ψύχωσή τους. Για τις οικογένειες των θυμάτων, η ζημιά είναι μη αναστρέψιμη.

Σε ένα ειδικό ρεπορτάζ για το Daily Pulse, η Maria Zeee έδωσε μια ανατριχιαστική περιγραφή αυτού που αποκαλεί «ψύχωση ChatGPT».