Deepfakes: Πώς μπορεί ένα βίντεο να μας κάνει να πιστέψουμε ένα ψέμα;

Η τεχνητή νοημοσύνη δημιουργεί εικόνες, βίντεο και ηχητικά μηνύματα που μοιάζουν απόλυτα αληθινά 

Από την παραπληροφόρηση και τις πολιτικές παρεμβάσεις μέχρι τις διαδικτυακές απάτες, τα deepfakes αλλάζουν τον τρόπο με τον οποίο αντιλαμβανόμαστε την πραγματικότητα. Πώς μπορούμε να αναγνωρίσουμε ένα κατασκευασμένο βίντεο και να προστατευτούμε;

Ένα βίντεο στο οποίο ένας πολιτικός εμφανίζεται να κάνει μια δήλωση που δεν έκανε ποτέ. Ένας γνωστός άνθρωπος φαίνεται να προωθεί ένα προϊόν ή να ζητά χρήματα. Μια φωνή ακούγεται σχεδόν ίδια με εκείνη ενός συγγενικού προσώπου, μεταφέροντας ένα επείγον μήνυμα. Όλα μοιάζουν αληθινά. Ωστόσο, τίποτα από αυτά μπορεί να μην έχει συμβεί.

Τα deepfakes, δηλαδή τα ψηφιακά κατασκευασμένα ή αλλοιωμένα οπτικοακουστικά αρχεία με τη βοήθεια της τεχνητής νοημοσύνης, αποτελούν μία από τις μεγαλύτερες προκλήσεις της ψηφιακής εποχής. Η τεχνολογία επιτρέπει πλέον τη δημιουργία ιδιαίτερα πειστικών εικόνων, βίντεο και ηχητικών αποσπασμάτων, στα οποία ένα πρόσωπο μπορεί να εμφανίζεται να λέει ή να κάνει πράγματα που δεν συνέβησαν ποτέ.

Το πρόβλημα δεν περιορίζεται στην τεχνολογική εξέλιξη. Αφορά την ίδια την εμπιστοσύνη μας σε όσα βλέπουμε και ακούμε καθημερινά στο διαδίκτυο.

Πώς δημιουργούνται τα deepfakes;

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Ο Γιώργος Ανδρουλάκης στον Creta One 102.3 για τα προβλήματα στην πισίνα του Ηρακλείου: “Περπατάμε σε τεντωμένο σχοινί”

Η δημιουργία ενός deepfake βασίζεται σε τεχνικές τεχνητής νοημοσύνης και μηχανικής μάθησης. Τα σχετικά συστήματα εκπαιδεύονται με εικόνες, βίντεο ή ηχητικά δείγματα ενός προσώπου και στη συνέχεια μπορούν να αναπαράγουν χαρακτηριστικά της εμφάνισης και της φωνής του.

Με αυτόν τον τρόπο είναι δυνατόν να αλλοιωθεί το πρόσωπο ενός ανθρώπου σε ένα βίντεο, να συγχρονιστούν τεχνητά οι κινήσεις των χειλιών με μια διαφορετική ομιλία ή να δημιουργηθεί μια φωνή που προσομοιάζει σε εκείνη ενός πραγματικού προσώπου.

Η εξέλιξη των εργαλείων τεχνητής νοημοσύνης έχει κάνει τη διαδικασία ευκολότερη και τα αποτελέσματα πιο πειστικά. Έτσι, ένα κατασκευασμένο οπτικοακουστικό υλικό μπορεί να διαδοθεί στα μέσα κοινωνικής δικτύωσης και να εκληφθεί ως πραγματικό γεγονός.

Από την παραπληροφόρηση στις διαδικτυακές απάτες

Οι κίνδυνοι από τη χρήση των deepfakes είναι πολλαπλοί. Στον χώρο της ενημέρωσης, ένα παραποιημένο βίντεο μπορεί να παρουσιάσει έναν δημόσιο πρόσωπο να κάνει μια δήλωση που δεν έκανε ποτέ, επηρεάζοντας τη δημόσια συζήτηση και δημιουργώντας λανθασμένες εντυπώσεις.

Στον χώρο των οικονομικών συναλλαγών, η τεχνολογία μπορεί να χρησιμοποιηθεί για απάτες με τη μίμηση της φωνής στελεχών επιχειρήσεων ή συγγενικών προσώπων. Ένα τηλεφώνημα ή ένα ηχητικό μήνυμα που φαίνεται να προέρχεται από κάποιον γνωστό μπορεί να αξιοποιηθεί για να ζητηθεί η μεταφορά χρημάτων ή η αποκάλυψη προσωπικών στοιχείων.

Ιδιαίτερα σοβαρές είναι και οι περιπτώσεις δημιουργίας ψεύτικου προσωπικού ή σεξουαλικού περιεχομένου χωρίς τη συγκατάθεση του εικονιζόμενου προσώπου, με συνέπειες για την προσωπική ζωή, την αξιοπρέπεια και την ψυχολογική του κατάσταση.

Πώς μπορούμε να καταλάβουμε ότι ένα βίντεο είναι ψεύτικο;

Η αναγνώριση ενός deepfake δεν είναι πάντα εύκολη. Τα παλαιότερα τεχνολογικά χαρακτηριστικά, όπως οι αφύσικες κινήσεις του προσώπου ή ο κακός συγχρονισμός των χειλιών, δεν εμφανίζονται απαραίτητα στα νεότερα και πιο εξελιγμένα βίντεο.

Υπάρχουν, ωστόσο, ορισμένα σημεία που αξίζει να ελέγχουμε:

• Οι λεπτομέρειες του προσώπου: Παρατηρούμε εάν υπάρχουν ασυνέπειες στις εκφράσεις, στα μάτια, στα δόντια ή στις κινήσεις του στόματος.
• Ο συγχρονισμός φωνής και εικόνας: Εξετάζουμε εάν τα χείλη κινούνται φυσιολογικά σε σχέση με όσα ακούγονται.
• Ο φωτισμός και οι σκιές: Αναζητούμε πιθανές ασυνέπειες στον φωτισμό του προσώπου και του περιβάλλοντος.
• Η πηγή δημοσίευσης: Ελέγχουμε ποιος ανάρτησε το βίντεο και εάν υπάρχει επιβεβαίωση από αξιόπιστα μέσα ενημέρωσης.
• Το αρχικό υλικό: Αναζητούμε εάν το βίντεο έχει δημοσιευθεί από τον ίδιο τον άνθρωπο ή από επίσημο λογαριασμό.

Σημαντικό είναι να θυμόμαστε ότι κανένα από αυτά τα σημάδια δεν αποδεικνύει από μόνο του ότι ένα βίντεο είναι πλαστό. Αντίστοιχα, η απουσία εμφανών αλλοιώσεων δεν εγγυάται ότι είναι αυθεντικό.

Τι πρέπει να κάνουμε πριν κοινοποιήσουμε ένα βίντεο;

Η πιο αποτελεσματική προστασία ξεκινά από την κριτική σκέψη και την επιβεβαίωση της πληροφορίας.

Πριν κοινοποιήσουμε ένα βίντεο που προκαλεί έντονες αντιδράσεις, καλό είναι να αναζητούμε την αρχική πηγή του, να ελέγχουμε εάν το γεγονός επιβεβαιώνεται από ανεξάρτητες πηγές και να αποφεύγουμε την άμεση αναπαραγωγή περιεχομένου που δεν έχει διασταυρωθεί.

Σε περιπτώσεις οικονομικών αιτημάτων που μεταφέρονται μέσω φωνητικών μηνυμάτων ή τηλεφωνικών κλήσεων, η επικοινωνία με το συγκεκριμένο πρόσωπο μέσω ενός γνωστού και ανεξάρτητου αριθμού μπορεί να αποτρέψει μια απάτη.

Παράλληλα, υπάρχουν εργαλεία ψηφιακού ελέγχου που μπορούν να βοηθήσουν στην ανάλυση εικόνων και βίντεο. Ωστόσο, κανένα εργαλείο ανίχνευσης δεν είναι αλάνθαστο και τα αποτελέσματά του χρειάζονται προσεκτική αξιολόγηση.

Η μεγαλύτερη πρόκληση: Να μην αμφισβητούμε τα πάντα, αλλά να ελέγχουμε όσα βλέπουμε

Η εξάπλωση των deepfakes δημιουργεί ένα νέο και ιδιαίτερα σύνθετο πρόβλημα: όχι μόνο μπορεί να πιστέψουμε κάτι που δεν συνέβη ποτέ, αλλά μπορεί να αρχίσουμε να αμφισβητούμε ακόμη και πραγματικά γεγονότα.

Η τεχνητή νοημοσύνη προσφέρει σημαντικές δυνατότητες στην εκπαίδευση, την επιστήμη, την ενημέρωση και τη δημιουργικότητα. Το ζητούμενο δεν είναι η απόρριψη της τεχνολογίας, αλλά η υπεύθυνη χρήση της και η προστασία των πολιτών από την κακόβουλη αξιοποίησή της.

Στην εποχή της ψηφιακής εικόνας, το «το είδα με τα μάτια μου» δεν αποτελεί πλέον απόλυτη απόδειξη. Η διασταύρωση των πληροφοριών, η αξιολόγηση των πηγών και η ψηφιακή παιδεία γίνονται απαραίτητα εργαλεία για όλους.

Γιατί, τελικά, το μεγαλύτερο όπλο απέναντι σε ένα πειστικό ψηφιακό ψέμα παραμένει η ικανότητά μας να αμφισβητούμε, να ελέγχουμε και να αναζητούμε την αλήθεια.