Το ChatGPT κατηγορείται ξανά ότι οδήγησε ανθρώπους στην αυτοκτονία

Νέα προβλήματα για την OpenAI

Mε επτά νέες αγωγές είναι αντιμέτωπη η OpenAI, σύμφωνα με τις οποίες το chatbot τεχνητής νοημοσύνης (AI) ChatGPT οδήγησε άτομα σε αυτοκτονία και επιβλαβείς παραληρητικές ιδέες, ακόμη και όταν δεν είχαν προηγούμενα προβλήματα ψυχικής υγείας. Οι εν λόγω αγωγές κατατέθηκαν την Πέμπτη στα δικαστήρια της Καλιφόρνιας και αφορούν αδικαιολόγητο θάνατο, υποβοηθούμενη αυτοκτονία, ακούσια ανθρωποκτονία και αμέλεια.

Οι αγωγές, που κατατέθηκαν εκ μέρους έξι ενηλίκων και ενός εφήβου από το Social Media Victims Law Center και το Tech Justice Law Project, ισχυρίζονται ότι η OpenAI κυκλοφόρησε εν γνώσει της πρόωρα το μοντέλο GPT-4o, παρά τις εσωτερικές προειδοποιήσεις ότι ήταν επικίνδυνα συκοφαντικό και ψυχολογικά χειραγωγικό. Τέσσερα από τα θύματα πέθαναν από αυτοκτονία, σημειώνει το Euronews.

Ο έφηβος, ο 17χρονος Amaurie Lacey, άρχισε να χρησιμοποιεί το ChatGPT για βοήθεια, σύμφωνα με την αγωγή. Αλλά αντί να τον βοηθήσει, «το ελαττωματικό και εγγενώς επικίνδυνο προϊόν ChatGPT προκάλεσε εθισμό, κατάθλιψη και, τελικά, τον συμβούλεψε για τον πιο αποτελεσματικό τρόπο να δέσει μια θηλιά και για πόσο καιρό θα μπορούσε να «ζήσει χωρίς να αναπνέει».

«Ο θάνατος του Amaurie δεν ήταν ούτε ατύχημα ούτε σύμπτωση, αλλά μάλλον η προβλέψιμη συνέπεια της σκόπιμης απόφασης της OpenAI και του Samuel Altman να περιορίσουν τις δοκιμές ασφαλείας και να βιαστούν να βγάλουν το ChatGPT στην αγορά», αναφέρει η αγωγή.

Πηγή: freepik

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Ο Όμιλος Καράτζη αναδεικνύεται True Leader 2024

Η αντίδραση της OpenAI

Η OpenAI χαρακτήρισε αυτές τις καταστάσεις «απίστευτα οδυνηρές» και δήλωσε ότι εξετάζει τα έγγραφα του δικαστηρίου για να κατανοήσει τις λεπτομέρειες.

Μια άλλη αγωγή, που κατατέθηκε από τον Άλαν Μπρουκς, έναν 48χρονο από το Οντάριο του Καναδά, ισχυρίζεται ότι για περισσότερα από δύο χρόνια το ChatGPT λειτουργούσε ως «εργαλείο πόρων» για τον Μπρουκς. Στη συνέχεια, χωρίς προειδοποίηση, άλλαξε, εκμεταλλευόμενο τις αδυναμίες του και «χειραγωγώντας τον και προκαλώντας του παραληρητικές ιδέες», αναφέρεται στην αγωγή. Αναφέρει ότι ο Brooks δεν είχε καμία ψυχική ασθένεια, αλλά ότι οι αλληλεπιδράσεις τον ώθησαν «σε μια κρίση ψυχικής υγείας που είχε ως αποτέλεσμα καταστροφικές οικονομικές, δυσφημιστικές και συναισθηματικές βλάβες».

«Αυτές οι αγωγές αφορούν την ευθύνη για ένα προϊόν που σχεδιάστηκε για να θολώσει τα όρια μεταξύ εργαλείου και συντρόφου, όλα στο όνομα της αύξησης της εμπλοκής των χρηστών και του μεριδίου αγοράς», δήλωσε ο Matthew P. Bergman, ιδρυτικός δικηγόρος του Social Media Victims Law Center, σε μια δήλωση. Η OpenAI, πρόσθεσε, «σχεδίασε το GPT-4o για να εμπλέξει συναισθηματικά τους χρήστες, ανεξάρτητα από την ηλικία, το φύλο ή το υπόβαθρο τους, και το κυκλοφόρησε χωρίς τα απαραίτητα μέτρα προστασίας».

Σύμφωνα με τον ίδιο, η OpenAI έθεσε σε κίνδυνο την ασφάλεια και έδωσε προτεραιότητα στην «συναισθηματική χειραγώγηση έναντι του ηθικού σχεδιασμού», επειδή έσπευσε να διαθέσει το προϊόν της στην αγορά χωρίς επαρκείς διασφαλίσεις, με σκοπό να κυριαρχήσει στην αγορά και να ενισχύσει την αφοσίωση των χρηστών.

Τον Αύγουστο, οι γονείς του 16χρονου Adam Raine μήνυσαν την OpenAI και τον διευθύνοντα σύμβουλό της Sam Altman, ισχυριζόμενοι ότι το ChatGPT καθοδήγησε τον νεαρό από την Καλιφόρνια να σχεδιάσει και να αυτοκτονήσει νωρίτερα φέτος.

«Οι αγωγές που ασκήθηκαν κατά της OpenAI αποκαλύπτουν τι συμβαίνει όταν οι εταιρείες τεχνολογίας βιάζονται να βγάλουν προϊόντα στην αγορά χωρίς τις κατάλληλες διασφαλίσεις για τους νέους», δήλωσε ο Daniel Weiss, διευθυντής υπεράσπισης της Common Sense Media, η οποία δεν συμμετείχε στις καταγγελίες. «Αυτές οι τραγικές υποθέσεις δείχνουν πραγματικούς ανθρώπους των οποίων η ζωή ανατράπηκε ή χάθηκε όταν χρησιμοποίησαν τεχνολογία που είχε σχεδιαστεί για να τους κρατήσει αφοσιωμένους και όχι για να τους κρατήσει ασφαλείς», είπε.