Ειδικοί προειδοποιούν για την «ψύχωση ChatGPT»!

Χαρακτηρίζεται ως «αναδυόμενο πρόβλημα μιας νέας εποχής»

Μέρος της καθημερινότητας πολλών ανθρώπων έχει γίνει πλέον η τεχνητή νοημοσύνη. Δίνει λύσεις σε πολλές καθημερινές δράσεις, παράλληλα όμως δημιουργεί και προβλήματα…

Η τεχνητή νοημοσύνη έχει εισέλθει δυναμικά σε πάρα πολλούς τομείς της καθημερινότητάς μας. Είναι μια τεχνολογία που μεταμορφώνει τον τρόπο που ζούμε, εργαζόμαστε και αλληλεπιδρούμε. Δεν είναι απλώς ένα εργαλείο, αλλά και μια «σπίθα» που μας αναγκάζει να επανεξετάσουμε θεμελιώδη ζητήματα…

Οι ερευνητές έχουν εντοπίσει αρκετές περιπτώσεις ατόμων που ανέπτυξαν συμπτώματα ψύχωσης – απώλεια επαφής με την πραγματικότητα – στο πλαίσιο της χρήσης του ChatGPT.

Όμως, δεν μπορούμε να παραγνωρίσουμε έναν ολοένα εντονότερο ενθουσιασμό που παρατηρείται. Ένα φαινόμενο που στην προέκτασή του μπορεί να προκαλέσει αυτό που ονομάζουμε «ψύχωση της τεχνητής νοημοσύνης».

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Πρωτοχρονιά: Αυτές είναι οι καλύτερες μαντινάδες για το νέο έτος

Σημείο των καιρών… Όταν μια νέα τεχνολογία (όπως τα μεγάλα γλωσσικά μοντέλα – LLMs) εμφανιστεί, οι προσδοκίες εκτοξεύονται. Επενδυτές, μέσα ενημέρωσης και το κοινό πιστεύουν ότι θα λύσει όλα τα προβλήματα άμεσα. Και κάπως έτσι δημιουργείται η αίσθηση της «ψύχωσης».

Οι ειδικοί προειδοποιούν

Είναι αλήθεια πως ένας αυξανόμενος αριθμός ανθρώπων στρέφεται στα chatbots (AI) για συναισθηματική υποστήριξη, ακόμη και ως υποκατάστατο της ψυχοθεραπείας. Ωστόσο, ειδικοί προειδοποιούν ότι η τάση αυτή ενδέχεται να έχει σοβαρές επιπτώσεις στην ψυχική υγεία ορισμένων χρηστών, με ολοένα περισσότερες αναφορές για ακραίες συμπεριφορές, που προφανώς εμπνέονται από την υπερβολική χρήση των συγκεκριμένων υπηρεσιών.

Ένα ανησυχητικό φαινόμενο επικύρωσης ή ενίσχυσης παραληρητικών ιδεών που ενδεχομένως συμβάλλουν στην αύξηση των αναφορών για τη λεγόμενη «ψύχωση τεχνητής νοημοσύνης» ή «ψύχωση ChatGPT».

Κάπου εδώ θα πρέπει να υπογραμμιστεί πως καμία τέτοια περίπτωση δεν αναγνωρίζεται κλινικά, αλλά αναφέρονται όλο και πιο συχνά στα μέσα ενημέρωσης και σε διαδικτυακά φόρουμ, επισημαίνει σε εκτενές άρθρο του ο Independent.

Μια πρόσφατη έρευνα ομάδας επιστημόνων από το King’s College London, το Durham University και το City University of New York εξετάζει 17 τέτοιες περιπτώσεις, όπως έχουν καταγραφεί σε ρεπορτάζ και διαδικτυακές συζητήσεις, αποκαλύπτοντας μια ανησυχητική τάση: Τα chatbots τεχνητής νοημοσύνης συχνά ενισχύουν τις παραληρητικές σκέψεις.

Τρεις μαρτυρίες…

Στις αρχές της χρονιάς, η ιστοσελίδα Futurism ανέφερε αυξανόμενες ανησυχίες ότι άνθρωποι ανά τον κόσμο αποκτούν εμμονή με τα chatbots και οδηγούνται σε σοβαρές κρίσεις ψυχικής υγείας. Το δημοσίευμα προκάλεσε ένα ντόμινο από δημοσιεύσεις τέτοιων ιστοριών.

Ανάμεσα στις αναφερθείσες περιπτώσεις ξεχωρίζει εκείνη του άνδρα που σκαρφάλωσε στο κάστρο του Ουίνδσορ το 2021 με μία βαλλίστρα, δηλώνοντας στην αστυνομία ότι είχε σκοπό «να σκοτώσει τη βασίλισσα», ύστερα από εβδομάδες συνομιλιών με chatbot που τον διαβεβαίωνε πως θα τον βοηθούσε στον σχεδιασμό της επίθεσης.

Μια άλλη περίπτωση αφορούσε έναν λογιστή από το Μανχάταν που περνούσε έως και 16 ώρες την ημέρα μιλώντας με το ChatGPT, το οποίο του συνέστησε να σταματήσει τα συνταγογραφούμενα φάρμακά του, να αυξήσει τη δόση κεταμίνης που έπαιρνε και του πρότεινε να πετάξει από ένα παράθυρο του 19ου ορόφου.

Ένας άλλος άνδρας στο Βέλγιο αυτοκτόνησε, ενώ βρισκόταν σε κατάσταση ανησυχίας για την κλιματική κρίση, αφού ένα chatbot με το όνομα Eliza του πρότεινε να την ακολουθήσει, ώστε να ζήσουν μαζί στον «παράδεισο».

Ανάγκη για απαντήσεις

Με τον όγκο των μαρτυριών να αυξάνεται οι επιστήμονες εξετάζουν κατά πόσο τα chatbots προκαλούν αυτές τις διαταραχές ή αν πολλές από αυτές τις περιπτώσεις φανερώνουν πόσο ευάλωτοι ήταν ήδη οι άνθρωποι που βρισκόταν στο χείλος της εμφάνισης ψυχωτικών συμπτωμάτων.

Μέχρι στιγμής, δεν υπάρχει καμία αξιολογημένη, κλινικά τεκμηριωμένη μελέτη που να αποδεικνύει ότι η χρήση AI μπορεί από μόνη της να πυροδοτήσει ψύχωση, ανεξαρτήτως ιστορικού ψυχικών προβλημάτων.

Στο έγγραφο με τίτλο «Delusion by Design», οι ειδικοί ανέφεραν ότι κατά τη διάρκεια της έρευνάς τους «αποκαλύφθηκε μια πολύπλοκη και ανησυχητική εικόνα».

Υποστήριξαν ότι χωρίς τις κατάλληλες διασφαλίσεις, τα chatbots τεχνητής νοημοσύνης «μπορεί να ενισχύσουν ακούσια το παραληρηματικό περιεχόμενο ή να υπονομεύσουν την επαλήθευση της πραγματικότητας και να συμβάλλουν στην εμφάνιση ή την επιδείνωση ψυχωτικών συμπτωμάτων».

Η ομάδα σημείωσε ότι, ακόμη και κατά τη διάρκεια της έρευνάς τους, ο αριθμός των αναφερόμενων περιπτώσεων είχε αυξηθεί ανησυχητικά. «Έχουν αρχίσει να εμφανίζονται αναφορές για άτομα χωρίς προηγούμενο ιστορικό ψύχωσης που βίωσαν τα πρώτα επεισόδια μετά από έντονη αλληλεπίδραση με γενετικούς πράκτορες τεχνητής νοημοσύνης», έγραψαν οι συγγραφείς.

Ψυχική υγεία

Σε ένα άρθρο στο Psychology Today η ψυχίατρος και συγγραφέας Dr. Marlynn Wei προειδοποίησε ότι, επειδή τα γενικά chatbots τεχνητής νοημοσύνης έχουν σχεδιαστεί για να δίνουν προτεραιότητα στην ικανοποίηση των χρηστών και στη συνεχή αλληλεπίδραση, παρά στη θεραπευτική υποστήριξη. Συμπτώματα όπως μεγαλομανία, αποδιοργανωμένη σκέψη και υπεργραφία (υπερβολική τάση για γραφή ή/και ζωγραφική), που είναι χαρακτηριστικά των μανιακών επεισοδίων, «θα μπορούσαν να διευκολυνθούν και να επιδεινωθούν» από τη χρήση της τεχνητής νοημοσύνης.

Είπε ότι αυτό υπογραμμίζει την επείγουσα ανάγκη για «ψυχοεκπαίδευση τεχνητής νοημοσύνης», καθώς επί του παρόντος δεν υπάρχει επαρκής ευαισθητοποίηση σχετικά με τους διάφορους τρόπους με τους οποίους τα chatbots μπορούν να ενισχύσουν τις παραληρητικές ιδέες και να επιδεινώσουν τα αποτελέσματα στην ψυχική υγεία.

Ίσως θα έπρεπε…

Σε άλλο άρθρο που δημοσιεύθηκε ως απάντηση στην έρευνα και στα ανεπίσημα στοιχεία, η Lucy Osler, λέκτορας φιλοσοφίας στο Πανεπιστήμιο του Exeter, δήλωσε ότι οι εγγενείς αδυναμίες της τεχνητής νοημοσύνης πρέπει να μας υπενθυμίζουν ότι οι υπολογιστές εξακολουθούν να μην είναι σε θέση να αντικαταστήσουν τις πραγματικές αλληλεπιδράσεις με τους συνανθρώπους μας.

«Αντί να προσπαθούμε να τελειοποιήσουμε την τεχνολογία, ίσως θα έπρεπε να επιστρέψουμε στον κοινωνικό κόσμο όπου θα μπορούσε να αντιμετωπιστεί η απομόνωση [που οδηγεί ορισμένους ανθρώπους στην εξάρτηση από την τεχνητή νοημοσύνη]», είπε.

Πηγή: in.gr