Το ChatGPT αλλάζει για τους ανηλίκους

Το σύστημα αξιολογεί έναν συνδυασμό σημάτων

Η OpenAI προχωρά σε ένα σημαντικό βήμα ενίσχυσης της ασφάλειας των νεότερων χρηστών, λανσάροντας ένα νέο σύστημα πρόβλεψης ηλικίας σε όλα τα καταναλωτικά προγράμματα του ChatGPT.

Στόχος της πρωτοβουλίας είναι ο σαφής διαχωρισμός της εμπειρίας μεταξύ εφήβων και ενηλίκων, με αυστηρότερους μηχανισμούς προστασίας για τους ανηλίκους και λιγότερους περιορισμούς για τους ενήλικες χρήστες.

Η συγκεκριμένη εξέλιξη σηματοδοτεί μια στροφή από την αποκλειστική εξάρτηση από τις αυτοδηλωθείσες ηλικίες προς μια πιο αυτοματοποιημένη προσέγγιση, που βασίζεται στη συμπεριφορά και στα χαρακτηριστικά χρήσης των λογαριασμών. Σύμφωνα με την OpenAI, το νέο μοντέλο έχει σχεδιαστεί για να εντοπίζει πότε ένας χρήστης ενδέχεται να είναι κάτω των 18 ετών, ώστε να ενεργοποιούνται αυτόματα οι κατάλληλες δικλείδες ασφαλείας.

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Θρήνος στο Τυμπάκι για την οικογένεια Λεμονάκη που έχασε το τρίτο τους παιδί

Το σύστημα αξιολογεί έναν συνδυασμό σημάτων, όπως το πόσο καιρό υπάρχει ένας λογαριασμός, τα μοτίβα χρήσης με την πάροδο του χρόνου, τις ώρες δραστηριότητας, καθώς και πληροφορίες ηλικίας που μπορεί να έχουν δοθεί στο παρελθόν. Η εταιρεία τονίζει ότι αυτή η μέθοδος επιτρέπει την εκτίμηση της ηλικίας χωρίς επαναλαμβανόμενες ερωτήσεις ή συνεχείς ελέγχους ταυτότητας, περιορίζοντας την τριβή για τους χρήστες.

Η OpenAI περιγράφει το σύστημα ως προσαρμοστικό και όχι απόλυτο. Όταν τα δεδομένα δεν είναι ξεκάθαρα, το ChatGPT επιλέγει προληπτικά μια πιο «ασφαλή» εμπειρία. Αν το μοντέλο εκτιμήσει ότι ένας λογαριασμός πιθανόν ανήκει σε ανήλικο, ενεργοποιούνται πρόσθετοι περιορισμοί περιεχομένου. Αυτοί περιλαμβάνουν τη μείωση της έκθεσης σε γραφική βία, αιματηρές εικόνες, απεικονίσεις αυτοτραυματισμού, σεξουαλικά ή βίαια παιχνίδια ρόλων, καθώς και διαδικτυακές προκλήσεις που θα μπορούσαν να οδηγήσουν σε επικίνδυνες συμπεριφορές. Παράλληλα, περιορίζεται περιεχόμενο που προωθεί ακραία πρότυπα ομορφιάς, ανθυγιεινές δίαιτες ή σωματική ντροπή.

Οι αποφάσεις αυτές, σύμφωνα με την εταιρεία και όσα αναφέρει το interestingengineering.com, βασίζονται στη συμβολή ειδικών στην ανάπτυξη παιδιών και σε έρευνες που δείχνουν ότι οι έφηβοι διαφέρουν από τους ενήλικες ως προς την αντίληψη του κινδύνου και τον έλεγχο των παρορμήσεων.

Αναγνωρίζοντας ότι τα αυτοματοποιημένα συστήματα δεν είναι αλάνθαστα, η OpenAI δίνει τη δυνατότητα στους χρήστες που έχουν χαρακτηριστεί λανθασμένα ως ανήλικοι να επαληθεύσουν την ηλικία τους. Η διαδικασία γίνεται μέσω selfie verification με τη βοήθεια της πλατφόρμας Persona και είναι, όπως σημειώνεται, γρήγορη, αναστρέψιμη και φιλική προς την ιδιωτικότητα, χωρίς μόνιμη αποθήκευση εγγράφων.

Η νέα λειτουργία εντάσσεται σε ένα ευρύτερο πλαίσιο πρωτοβουλιών για την προστασία των εφήβων, όπως οι γονικοί έλεγχοι, οι ώρες ησυχίας και οι ειδοποιήσεις για σημάδια οξείας δυσφορίας. Παράλληλα, η OpenAI έχει συγκροτήσει εξωτερικό συμβούλιο ειδικών για τις επιπτώσεις της τεχνητής νοημοσύνης στην ψυχική υγεία.

Η κυκλοφορία του συστήματος έρχεται σε μια περίοδο αυξημένης ρυθμιστικής πίεσης, με αρχές στις ΗΠΑ και διεθνώς να εξετάζουν τον αντίκτυπο των AI chatbots στους ανηλίκους. Η OpenAI δηλώνει ότι θα συνεχίσει να βελτιώνει το μοντέλο, παρακολουθώντας την ακρίβειά του και τις απόπειρες παράκαμψης, ενώ η διάθεσή του στην Ευρωπαϊκή Ένωση αναμένεται τις επόμενες εβδομάδες, με προσαρμογές στις τοπικές απαιτήσεις.