Σκάνδαλο με TikTok και Meta που κατηγορούνται για επικίνδυνο περιεχόμενο προκειμένου για να γίνουν viral

Πώς λειτουργεί το σύστημα προτάσεων

Σοβαρές ανησυχίες προκαλούν νέες αποκαλύψεις για τον τρόπο με τον οποίο οι πλατφόρμες κοινωνικής δικτύωσης TikTok και Meta Platforms φέρονται να προωθούν επιβλαβές ή ακραίο περιεχόμενο στους χρήστες, με βασικό στόχο την αύξηση της αλληλεπίδρασης και των προβολών.

Σύμφωνα με αναφορές και μαρτυρίες εργαζομένων στον χώρο της τεχνολογίας, οι αλγόριθμοι των πλατφορμών ενδέχεται να ενισχύουν περιεχόμενο που προκαλεί έντονα συναισθήματα – ακόμη κι αν αυτό θεωρείται προβληματικό ή επικίνδυνο – καθώς τέτοιου είδους αναρτήσεις κρατούν τους χρήστες περισσότερη ώρα στις εφαρμογές.

Ο «πόλεμος των αλγορίθμων»

Οι δύο τεχνολογικοί κολοσσοί βρίσκονται εδώ και χρόνια σε έντονο ανταγωνισμό για την προσοχή των χρηστών. Στο πλαίσιο αυτό, σύμφωνα με καταγγελίες, τα συστήματα προτάσεων περιεχομένου φέρεται να έχουν τροποποιηθεί ώστε να αυξάνουν τη διάδοση περιεχομένου που προκαλεί έντονες αντιδράσεις.

Οι καταγγελίες αναφέρουν ότι σε ορισμένες περιπτώσεις οι εταιρείες αποδέχθηκαν μεγαλύτερο ρίσκο όσον αφορά την ασφάλεια των χρηστών, ώστε να διατηρήσουν υψηλή αλληλεπίδραση στις πλατφόρμες τους.

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Τα 5 ζώδια που θα δουν τις σχέσεις τους να απογειώνονται μέχρι τα τέλη Μάϊου

Η πρακτική αυτή συνδέεται με τη λειτουργία των αλγορίθμων που προτείνουν περιεχόμενο στις ροές των χρηστών – όπως το γνωστό “For You” feed στο TikTok – το οποίο επιλέγει βίντεο και αναρτήσεις με βάση την πιθανότητα να προκαλέσουν engagement.

Πώς λειτουργεί το σύστημα προτάσεων

Οι σύγχρονες πλατφόρμες κοινωνικής δικτύωσης βασίζονται σε συστήματα τεχνητής νοημοσύνης που αναλύουν τη συμπεριφορά των χρηστών, όπως το πόσο χρόνο βλέπουν ένα βίντεο, σε τι κάνουν like ή share και σε ποιο περιεχόμενο σταματούν να σκρολάρουν

Με βάση αυτά τα δεδομένα, οι αλγόριθμοι προτείνουν παρόμοιο περιεχόμενο, δημιουργώντας πολλές φορές ένα «σπιράλ» προτάσεων γύρω από συγκεκριμένα θέματα. Έρευνες έχουν δείξει ότι τέτοια συστήματα μπορούν να ενισχύσουν γρήγορα συγκεκριμένα είδη περιεχομένου και να μειώσουν τη διαφορετικότητα στις προτάσεις που βλέπει ο χρήστης.

Ειδικοί στον χώρο της ψηφιακής ασφάλειας προειδοποιούν ότι η υπερβολική έμφαση στο engagement μπορεί να οδηγήσει στην προώθηση περιεχομένου που σχετίζεται με βία, παραπληροφόρηση, ακραίες ιδεολογίες και επιβλαβείς συμπεριφορές

Σε αρκετές περιπτώσεις, μάλιστα, τέτοιου είδους υλικό εμφανίζεται ακόμη και σε χρήστες που δεν το αναζητούν ενεργά. Έρευνες δείχνουν ότι αλγοριθμικές προτάσεις στα social media μπορούν να εκθέσουν χρήστες – ιδιαίτερα νέους – σε βίαιο ή ανησυχητικό περιεχόμενο, ακόμη κι αν δεν ακολουθούν σχετικούς λογαριασμούς.

Αυξάνονται οι πιέσεις από κυβερνήσεις και ρυθμιστικές αρχές

Οι αποκαλύψεις έρχονται σε μια περίοδο που κυβερνήσεις και ρυθμιστικές αρχές σε Ευρώπη και ΗΠΑ αυξάνουν την πίεση προς τις πλατφόρμες κοινωνικής δικτύωσης για την προστασία των χρηστών, ειδικά των ανηλίκων.

Οι αρχές ζητούν από τις εταιρείες να ενισχύσουν τους μηχανισμούς ελέγχου περιεχομένου, να βελτιώσουν τη διαφάνεια των αλγορίθμων και να περιορίσουν την προώθηση επιβλαβούς υλικού.

Παράλληλα, εντείνεται η συζήτηση για το κατά πόσο τα επιχειρηματικά μοντέλα των social media – που βασίζονται στην προσοχή των χρηστών – ενθαρρύνουν την εξάπλωση ακραίου ή σοκαριστικού περιεχομένου προκειμένου να αυξηθούν οι προβολές και τα διαφημιστικά έσοδα.

Πηγή: newsbeast.gr