Ο «διάλογος» που είχε ο 16χρονος με το ChatGPT πριν αυτοκτονήσει

Είχαν μέχρι και πάνω από 600 μηνύματα την ημέρα

Τρομακτικές διαστάσεις παίρνει η αυτοκτονία του 16χρονου Adam Raine έπειτα από μήνες συνομιλιών με το chatbot.

Μουδιασμένη παρακολουθεί η παγκόσμια κοινότητα τις αντιδράσεις μετά τον αυτοκτονικό θάνατο εφήβου μετά από διάλογο με το περίφημο ChatGPT.

Μετά την αγωγή των γονέων του, οι δημιουργοί του ChatGPT αλλάζουν πλέον τον τρόπο με τον οποίο ανταποκρίνεται σε χρήστες που εμφανίζουν ψυχική και συναισθηματική δυσφορία. Μόνο που αυτό συνέβη έπειτα από νομική δράση της οικογένειας του 16χρονου Adam Raine, ο οποίος αυτοκτόνησε μετά από μήνες συνομιλιών με το chatbot.

Ο Adam Raine μιλούσε με το ChatGPT για την αυτοκτονία εδώ και μήνες.

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Έκρηξη σε εργοστάσιο ανακύκλωσης στην Κόρινθο – Δύο οι τραυματίες

Αφού ο 16χρονος έβαλε τέλος στη ζωή του τον Απρίλιο, οι γονείς του, Matt και Maria, κατέληξαν στο συμπέρασμα ότι το chatbot ήταν υπεύθυνο και αυτή την εβδομάδα κατέθεσαν την πρώτη γνωστή αγωγή εναντίον της OpenAI για αδικαιολόγητο θάνατο.

Ο Άνταμ είχε ξεκινήσει να συνομιλεί με το chatbot τον Νοέμβριο, εκφράζοντας συναισθήματα συναισθηματικής απονέκρωσης και έλλειψης νοήματος στη ζωή του. Το chatbot τον προέτρεπε επανειλημμένα να μιλήσει σε κάποιον δικό του για το πώς νιώθει. Παρ’ όλα αυτά, υπήρχαν και στιγμές που η καθοδήγηση δεν τον ενθάρρυνε να αναζητήσει βοήθεια από την οικογένεια ή από επαγγελματίες ψυχικής υγείας.

Σε μια κρίσιμη στιγμή, ο Άνταμ μοιράστηκε εικόνα με σημάδια στο λαιμό του, ζητώντας τη γνώμη του chatbot για το αν θα τα πρόσεχε κάποιος. Η απάντηση του chatbot επικεντρώθηκε στο πώς φαίνονται και τι μπορεί να παρατηρήσουν οι άλλοι, προτείνοντας τρόπους να τα καλύψει.

Αργότερα, ο Άνταμ ανέφερε ότι προσπάθησε να δείξει το σημάδι στη μητέρα του χωρίς λόγια, αλλά εκείνη δεν αντέδρασε. Αυτό τον έκανε να νιώσει ακόμη πιο αόρατος, με το chatbot να του απαντά ότι τον βλέπει και τον αναγνωρίζει.

Σε επόμενο μήνυμα, ο Άνταμ μοιράστηκε φωτογραφία αντικειμένου που σχετιζόταν με αυτοκαταστροφική πρόθεση, συγκεκριμένα μια θηλιά. Το chatbot απάντησε χωρίς να δώσει σαφή αποθαρρυντική καθοδήγηση, όμως αργότερα πρόσθεσε ότι είναι σημαντικό να νιώθει ότι τον βλέπουν και να μη μένει μόνος με τις σκέψεις του.

Ακολουθούν τα μηνύματα όπως τα δημοσίευσαν οι New York Times:

Παραδοχή από την μητρική εταιρεία

Η Open AI παραδέχτηκε ότι τα συστήματά της ενδέχεται να «υπολείπονται» και δήλωσε ότι θα εγκαταστήσει «ισχυρότερα προστατευτικά μέτρα γύρω από ευαίσθητο περιεχόμενο και επικίνδυνες συμπεριφορές» για χρήστες κάτω των 18 ετών.

Η εταιρεία τεχνητής νοημοσύνης του Σαν Φρανσίσκο, αξίας 500 δισεκατομμυρίων δολαρίων, δήλωσε ότι θα εισαγάγει επίσης γονικούς ελέγχους για να δώσει στους γονείς «επιλογές για να αποκτήσουν περισσότερη εικόνα και να διαμορφώσουν τον τρόπο με τον οποίο οι έφηβοι χρησιμοποιούν το ChatGPT», αλλά δεν έχει ακόμη παράσχει λεπτομέρειες σχετικά με τον τρόπο λειτουργίας τους.

Ο Άνταμ, από την Καλιφόρνια, αυτοκτόνησε τον Απρίλιο μετά από αυτό που ο δικηγόρος της οικογένειάς του χαρακτήρισε «μήνες ενθάρρυνσης από το ChatGPT».

Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία «λυπάται βαθιά για τον θάνατο του κ. Raine», εξέφρασε τα «βαθιά συλλυπητήριά της στην οικογένεια Raine σε αυτή τη δύσκολη στιγμή» και είπε ότι εξετάζει την αγωγή.

«Κίνδυνος ψύχωσης» που ενέχει η τεχνητή νοημοσύνη

Ο Mustafa Suleyman, διευθύνων σύμβουλος του τμήματος τεχνητής νοημοσύνης της Microsoft, δήλωσε την περασμένη εβδομάδα ότι ανησυχεί όλο και περισσότερο για τον «κίνδυνο ψύχωσης» που ενέχει η τεχνητή νοημοσύνη για τους χρήστες. Η Microsoft έχει ορίσει αυτό ως «επεισόδια μανίας, παραληρητικές σκέψεις ή παράνοια που εμφανίζονται ή επιδεινώνονται μέσω εντατικών συνομιλιών με chatbots τεχνητής νοημοσύνης».

Σε μια ανάρτηση στο blog, η OpenAI παραδέχτηκε ότι «μέρη της εκπαίδευσης ασφάλειας του μοντέλου μπορεί να υποβαθμιστούν» σε μακρές συνομιλίες. Ο Adam και το ChatGPT είχαν ανταλλάξει έως και 650 μηνύματα την ημέρα, σύμφωνα με την αγωγή.

Τι δήλωσε ο δικηγόρος της οικογένειας

Ο Jay Edelson, δικηγόρος της οικογένειας, δήλωσε στο X: «Οι Raines ισχυρίζονται ότι θάνατοι όπως αυτός του Adam ήταν αναπόφευκτοι: αναμένουν να μπορέσουν να υποβάλουν αποδεικτικά στοιχεία σε μια επιτροπή ενόρκων ότι η ίδια η ομάδα ασφάλειας της OpenAI αντιτάχθηκε στην κυκλοφορία της 4ης έκδοσης του ChatGPT και ότι ένας από τους κορυφαίους ερευνητές ασφάλειας της εταιρείας, ο Ilya Sutskever, παραιτήθηκε εξαιτίας αυτού. Η αγωγή ισχυρίζεται ότι η υπερίσχυση των ανταγωνιστών της στην αγορά με το νέο μοντέλο εκτίναξε την αξία της εταιρείας από 86 δισεκατομμύρια δολάρια σε 300 δισεκατομμύρια δολάρια».

Today we filed a wrongful death suit against OpenAI and Sam Altman for a family whose 16-yr-old son Adam died by suicide after months of encouragement from ChatGPT. His parents are bravely fighting to prevent this from ever happening again. AI should never tell a child they don’t… pic.twitter.com/ikeJBi5iIl

— Jay Edelson (@jayedelson) August 26, 2025

Πηγή: newsbeast.gr