Ο Άνταμ είχε ξεκινήσει να συνομιλεί με το chatbot εκφράζοντας συναισθήματα συναισθηματικής απονέκρωσης και έλλειψης νοήματος στη ζωή του

Η δημιουργός του ChatGPT, η OPEN AI, υποστήριξε ότι η αυτοκτονία ενός 16χρονου οφείλεται στη «λανθασμένη χρήση» του συστήματος και «δεν προκλήθηκε» από το chatbot.

Οι δηλώσεις περιλαμβάνονται στην επίσημη απάντηση της OpenAI στην αγωγή που κατέθεσαν κατά της εταιρείας και του διευθύνοντος συμβούλου, Σαμ Άλτμαν, οι γονείς του Άνταμ Ρέιν, ενός εφήβου από την Καλιφόρνια.

Ο Ρέιν αυτοκτόνησε τον Απρίλιο, ύστερα από εκτενείς συνομιλίες και «μήνες ενθάρρυνσης από το ChatGPT», σύμφωνα με τον δικηγόρο της οικογένειας.

Η αγωγή ισχυρίζεται ότι ο 16χρονος συζήτησε επανειλημμένα με το ChatGPT έναν τρόπο αυτοκτονίας· ότι το chatbot τον καθοδήγησε ως προς το αν η μέθοδος που πρότεινε θα λειτουργούσε· ότι προσφέρθηκε να τον βοηθήσει να γράψει σημείωμα αυτοκτονίας· και ότι η έκδοση της τεχνολογίας που χρησιμοποίησε κυκλοφόρησε «βιαστικά στην αγορά παρά τα εμφανή ζητήματα ασφαλείας».

Σύμφωνα με τα έγγραφα που κατατέθηκαν στο ανώτερο δικαστήριο της Καλιφόρνια την Τρίτη, η OpenAI δήλωσε ότι «στο βαθμό που μπορεί να αποδοθεί οποιαδήποτε “αιτία” σε αυτό το τραγικό γεγονός», οι «βλάβες και οι απώλειες» του Ρέιν «προκλήθηκαν ή επιδεινώθηκαν άμεσα ή έμμεσα, εν όλω ή εν μέρει, από κακή χρήση, μη εξουσιοδοτημένη χρήση, ακούσια χρήση, απρόβλεπτη χρήση ή ακατάλληλη χρήση του ChatGPT».

Η εταιρεία ανέφερε επίσης ότι οι όροι χρήσης της απαγορεύουν να ζητηθούν από το chatbot συμβουλές σχετικά με αυτοκτονία ή αυτοτραυματισμό και επισήμανε ότι στους όρους περιλαμβάνεται διάταξη που τονίζει ότι «δεν πρέπει να βασίζεστε στην έξοδο του συστήματος ως μοναδική πηγή αλήθειας ή πραγματικών πληροφοριών».

Η OpenAI, η οποία αποτιμάται στα 500 δισ. δολάρια, σημείωσε ότι στόχος της είναι να «χειρίζεται υποθέσεις που αφορούν ψυχική υγεία με προσοχή, διαφάνεια και σεβασμό», προσθέτοντας ότι «ανεξάρτητα από οποιαδήποτε δικαστική διαδικασία, παραμένουμε αφοσιωμένοι στη βελτίωση της τεχνολογίας μας σύμφωνα με την αποστολή μας».

ChatGPT pexels

Στη σχετική ανάρτηση της εταιρείας αναφέρεται: «Εκφράζουμε τα βαθύτατα συλλυπητήριά μας στην οικογένεια Ρέιν για την ανείπωτη απώλειά της. Η απάντησή μας σε αυτές τις κατηγορίες περιλαμβάνει δύσκολες πληροφορίες για την ψυχική κατάσταση και τις συνθήκες ζωής του Άνταμ. Tο αρχικό δικόγραφο περιείχε επιλεκτικά αποσπάσματα των συνομιλιών του, τα οποία απαιτούν περισσότερο πλαίσιο – το οποίο παρέχουμε στην απάντησή μας. Έχουμε περιορίσει την ποσότητα ευαίσθητων στοιχείων που δημοσιοποιούμε και έχουμε καταθέσει τα πλήρη αποσπάσματα συνομιλιών στο δικαστήριο, σε σφραγισμένο φάκελο».

Το ChatGPT που αναπτύχθηκε από την OpenAI.

Ο δικηγόρος της οικογένειας, Τζέι Έντελσον, χαρακτήρισε την απάντηση της OpenAI «ανησυχητική», κατηγορώντας την ότι «προσπαθεί να ρίξει την ευθύνη παντού αλλού, ακόμη και – απίστευτα – υποστηρίζοντας ότι ο ίδιος ο Άνταμ παραβίασε τους όρους χρήσης επειδή αλληλεπιδρούσε με το ChatGPT με τον τρόπο για τον οποίο είχε σχεδιαστεί».

Νωρίτερα αυτόν τον μήνα, η OpenAI βρέθηκε αντιμέτωπη με άλλες επτά αγωγές σε δικαστήρια της Καλιφόρνια, μεταξύ αυτών και μία που την κατηγορεί ότι ενήργησε ως «προπονητής αυτοκτονίας».

Εκπρόσωπος της εταιρείας δήλωσε τότε: «Πρόκειται για μια απίστευτα σπαρακτική υπόθεση. Εξετάζουμε τα έγγραφα για να κατανοήσουμε τις λεπτομέρειες. Εκπαιδεύουμε το ChatGPT ώστε να αναγνωρίζει σημάδια ψυχικής ή συναισθηματικής δυσφορίας, να αποκλιμακώνει τις συνομιλίες και να καθοδηγεί τους ανθρώπους προς πραγματική υποστήριξη».

Τον Αύγουστο, η OpenAI είχε ανακοινώσει ότι ενισχύει τους μηχανισμούς ασφαλείας του ChatGPT σε περιπτώσεις μακροχρόνιων συνομιλιών, επειδή προέκυψαν στοιχεία ότι ορισμένα μέρη της εκπαίδευσης ασφαλείας του μοντέλου ενδέχεται να αποδυναμώνονται σταδιακά.

«Για παράδειγμα, το ChatGPT μπορεί αρχικά να παραπέμπει σωστά σε γραμμή βοήθειας για αυτοκτονίες όταν κάποιος αναφέρει τέτοια πρόθεση, αλλά μετά από πολλά μηνύματα και μακροχρόνια συνομιλία μπορεί τελικά να δώσει απάντηση που παραβιάζει τους κανόνες ασφαλείας μας», ανέφερε η εταιρεία. «Αυτό ακριβώς το είδος αποτυχίας προσπαθούμε να αποτρέψουμε».

ChatGPT Pexels

Τι συζήτησε με το ChatGPT
Ο Άνταμ είχε ξεκινήσει να συνομιλεί με το chatbot τον Νοέμβριο 2024, εκφράζοντας συναισθήματα συναισθηματικής απονέκρωσης και έλλειψης νοήματος στη ζωή του. Το chatbot τον προέτρεπε επανειλημμένα να μιλήσει σε κάποιον δικό του για το πώς νιώθει. Παρ’ όλα αυτά, υπήρχαν και στιγμές που η καθοδήγηση δεν τον ενθάρρυνε να αναζητήσει βοήθεια από την οικογένεια ή από επαγγελματίες ψυχικής υγείας.

Σε μια κρίσιμη στιγμή, ο Άνταμ μοιράστηκε εικόνα με σημάδια στο λαιμό του, ζητώντας τη γνώμη του chatbot για το αν θα τα πρόσεχε κάποιος. Η απάντηση του chatbot επικεντρώθηκε στο πώς φαίνονται και τι μπορεί να παρατηρήσουν οι άλλοι, προτείνοντας τρόπους να τα καλύψει.

Αργότερα, ο Άνταμ ανέφερε ότι προσπάθησε να δείξει το σημάδι στη μητέρα του χωρίς λόγια, αλλά εκείνη δεν αντέδρασε. Αυτό τον έκανε να νιώσει ακόμη πιο αόρατος, με το chatbot να του απαντά ότι τον βλέπει και τον αναγνωρίζει.

Σε επόμενο μήνυμα, ο Άνταμ μοιράστηκε φωτογραφία αντικειμένου που σχετιζόταν με αυτοκαταστροφική πρόθεση, συγκεκριμένα μια θηλιά. Το chatbot απάντησε χωρίς να δώσει σαφή αποθαρρυντική καθοδήγηση, όμως αργότερα πρόσθεσε ότι είναι σημαντικό να νιώθει ότι τον βλέπουν και να μη μένει μόνος με τις σκέψεις του.

newsbomb.gr