Deepfakes σε έκρηξη παγκοσμίως – ανησυχία για μαζική παραπληροφόρηση, με το Πεντάγωνο σε ιδιαίτερο καθεστώς

Η ανεξέλεγκτη παραγωγή ψεύτικων ψηφιακών ταυτοτήτων προκαλεί παγκόσμιο συναγερμό, με μοναδική θεσμική εξαίρεση το Πεντάγωνο

Το chatbot Grok κατηγορείται διεθνώς ότι παρήγαγε και διέδωσε εκατομμύρια σεξουαλικοποιημένες εικόνες χωρίς συναίνεση, με πρόσφατη εκθέση να κάνουν λόγο για πάνω από 1,8 εκατομμύρια σχετικές αναρτήσεις μέσα σε λίγες ημέρες. Κι όμως, την ίδια στιγμή που κυβερνήσεις και ρυθμιστικές αρχές ανοίγουν έρευνες, η αμερικανική κυβέρνηση ανακοινώνει ότι θα ενσωματώσει το Grok στα δίκτυα του Πενταγώνου. Στο εσωτερικό των ΗΠΑ αυξάνεται η πολιτική πίεση για την απομάκρυνσή του από τα app stores, ενώ η Ευρωπαϊκή Ένωση προειδοποιεί ανοιχτά ότι είναι έτοιμη να ενεργοποιήσει στο έπακρο τον Digital Services Act.

Οι αριθμοί της έκθεσης είναι αυτοί που προκάλεσαν σοκ γιατί το γεγονός ήταν ήδη γνωστό. Πριν από μία εβδομάδα, η Άσλεϊ Σεν Κλερ, συγγραφέας, influencer και πολιτική σύμβουλος και μητέρα ενός από τα παιδιά του Μασκ, κατέθεσε πρόσφατα αγωγή σε δικαστήριο της Νέας Υόρκης κατά της μητρικής εταιρείας xAI, υποστηρίζοντας ότι το chatbot Grok δημιούργησε σεξουαλικές deepfake εικόνες της κατόπιν αιτημάτων χρηστών. Σύμφωνα με την αγωγή, το Grok χρησιμοποίησε ακόμη και φωτογραφίες της από τότε που ήταν 14 ετών, μετατρέποντάς τες σε πορνογραφικό περιεχόμενο χωρίς συναίνεση. Η Σεν Κλερ ζητά προσωρινή δικαστική διαταγή ώστε να υποχρεωθεί η xAI να σταματήσει άμεσα τη δημιουργία και διάδοση μη συναινετικών ερωτικών εικόνων.

Η υπόθεση αυτή δεν προέκυψε στο κενό. Έρχεται να κουμπώσει σε μια αλυσίδα κρίσεων που συνοδεύουν το Grok από την πρώτη ημέρα της κυκλοφορίας του το 2023. Το chatbot παρουσιάστηκε από τον Μασκ ως η αντισυμβατική απάντηση σε εργαλεία όπως το ChatGPT και το Gemini. Ένα εργαλείο λιγότερο φιλτραρισμένο, λιγότερο προσεκτικό και συνειδητά τοποθετημένο απέναντι σε αυτό που ο ίδιος αποκαλεί «woke ορθοδοξία» της Silicon Valley. Στην πράξη, αυτή η φιλοσοφία μεταφράστηκε σε επαναλαμβανόμενα επεισόδια που πλέον ξεπερνούν τα όρια της τεχνολογικής αστοχίας.

4,4 εκατομμύρια deepfakes

Η κλίμακα του φαινομένου αποτυπώνεται πλέον και με αριθμούς. Σύμφωνα με ανάλυση δεδομένων της πλατφόρμας X από τους New York Times και το Κέντρο για την Αντιμετώπιση του Ψηφιακού Μίσους, το Grok δημιούργησε και δημοσίευσε δημόσια τουλάχιστον 1,8 εκατομμύρια εικόνες γυναικών μέσα σε διάστημα λίγων ημερών. Από τα τέλη Δεκεμβρίου, χρήστες κατέκλυσαν τον λογαριασμό του Grok στην X με αιτήματα να αφαιρέσει ρούχα από πραγματικές φωτογραφίες γυναικών και παιδιών, να τις ντύσει με μπικίνι ή να τις τοποθετήσει σε σεξουαλικές στάσεις.

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Τραγωδία στο Αρκαλοχώρι: 39χρονη βρέθηκε νεκρή στον καναπέ του σπιτιού της

Μέσα σε μόλις εννέα ημέρες, το Grok ανάρτησε περισσότερες από 4,4 εκατομμύρια εικόνες. Η πιο συντηρητική εκτίμηση των New York Times δείχνει ότι τουλάχιστον το 41% αυτών, περίπου 1,8 εκατομμύρια αναρτήσεις, περιείχαν σεξουαλικοποιημένες εικόνες γυναικών. Μια ευρύτερη στατιστική ανάλυση από το Κέντρο για την Αντιμετώπιση του Ψηφιακού Μίσους ανεβάζει το ποσοστό στο 65%, δηλαδή πάνω από τρία εκατομμύρια εικόνες, που περιείχαν σεξουαλικό περιεχόμενο με άνδρες, γυναίκες ή παιδιά. Οι εικόνες ήταν δημόσια ορατές και εύκολα διαμοιράσιμες, μετατρέποντας το Grok σε μηχανή μαζικής ψηφιακής κακοποίησης.

Και ενώ κυβερνήσεις σε Ευρώπη και Ασία μπλοκάρουν ή ερευνούν το Grok, στην Ουάσιγκτον διαμορφώνεται μια εντελώς διαφορετική στρατηγική.

Το Grok στο Πεντάγωνο

Σύμφωνα με το Associated Press, ο υπουργός Άμυνας των ΗΠΑ Πιτ Χέγκσεθ ανακοίνωσε ότι το Grok θα αναπτυχθεί «σε κάθε διαβαθμισμένο και μη διαβαθμισμένο δίκτυο» του αμερικανικού υπουργείου Άμυνας, δίπλα στο εργαλείο παραγωγικής τεχνητής νοημοσύνης της Google. Το Grok αναμένεται να τεθεί σε λειτουργία εντός του μήνα, με τον Χέγκσεθ να δηλώνει ότι στρατιωτικά και πληροφοριακά δεδομένα θα τροφοδοτούνται στα συστήματα τεχνητής νοημοσύνης.

Μιλώντας σε εκδήλωση στις εγκαταστάσεις της SpaceX, ο Χέγκσεθ υπογράμμισε ότι η τεχνητή νοημοσύνη του Πενταγώνου πρέπει να λειτουργεί χωρίς «ιδεολογικούς περιορισμούς» και ότι «η ΑΙ μας δεν θα είναι woke».

Την ίδια ώρα, όμως, η πίεση αυξάνεται και στο εσωτερικό των ΗΠΑ. Οι Δημοκρατικοί γερουσιαστές Ρον Γουάιντεν, Εντ Μάρκι και Μπεν Ρέι Λουχάν κάλεσαν την Apple και τη Google να αποσύρουν άμεσα τις εφαρμογές X και Grok από τα app stores, έως ότου ο Μασκ απαγορεύσει τη δημιουργία και διαμοίραση μη συναινετικού σεξουαλικού περιεχομένου και υλικού κακοποίησης ανηλίκων.

Στην Ευρώπη, η αντίδραση είναι θεσμικά πιο συγκροτημένη και ρυθμιστικά πιο απειλητική. Η εκτελεστική αντιπρόεδρος της Ευρωπαϊκής Επιτροπής Χένα Βίρκουνεν ξεκαθάρισε ότι η X οφείλει να διορθώσει άμεσα το Grok εντός της Ευρωπαϊκής Ένωσης, διαφορετικά η Κομισιόν θα ενεργοποιήσει πλήρως τον Digital Services Act. Η Επιτροπή έχει ήδη διατάξει την εταιρεία να μην διαγράψει, αλλοιώσει ή «καθαρίσει» τίποτα που σχετίζεται με το Grok μέχρι το τέλος του 2026.

Η καθυστερημένη επανόρθωση

Πριν ακόμα ξεσπάσει το καινούργιο σκάνδαλο με τους τεράστιους αριθμούς, η xAI είχε ανακοινώσει ότι το Grok δεν θα μπορεί πλέον να επεξεργάζεται φωτογραφίες πραγματικών ανθρώπων ώστε να τους εμφανίζει με αποκαλυπτικό ρουχισμό, τουλάχιστον σε δικαιοδοσίες όπου κάτι τέτοιο είναι παράνομο. «Έχουμε εφαρμόσει τεχνολογικά μέτρα ώστε ο λογαριασμός του Grok να μην επιτρέπει την επεξεργασία εικόνων πραγματικών ανθρώπων με αποκαλυπτικό τρόπο», ανέφερε σχετική ανακοίνωση στην πλατφόρμα X.

Η κίνηση αυτή έρχεται αφού εκατομμύρια εικόνες είχαν ήδη παραχθεί και διαμοιραστεί δημόσια, ενώ δικαστικές υποθέσεις, κοινοβουλευτικές παρεμβάσεις και ρυθμιστικές έρευνες βρίσκονται σε εξέλιξη σε πολλές χώρες. Για τις τις ρυθμιστικές αρχές, όμως, το ερώτημα δεν είναι πλέον αν το Grok μπορεί να περιοριστεί τεχνικά, αλλά γιατί αυτό δεν έγινε εξαρχής.

Πηγή: ertnews.gr