Πώς οι χρήστες μπορούν να προστατευτούν

Σε επείγουσα ενημέρωσή της η Google προς τους χρήστες του Gmail ροειδοποιεί για ένα νέο κύμα επιθέσεων με τη χρήση της Τεχνητής Νοημοσύνης για να εκμεταλλευτεί τρωτά σημεία ασφαλείας. Ιδιαίτερα επικίνδυνες είναι οι λεγόμενες “indirect prompt injections”, κατά τις οποίες κακόβουλες οδηγίες κρύβονται σε μηνύματα ηλεκτρονικού ταχυδρομείου και μπορούν να εκτελεστούν απαρατήρητες από εργαλεία AI όπως το Gemini. Η απειλή αυτή δείχνει πόσο εύκολα οι επιτιθέμενοι μπορούν να κάνουν κατάχρηση της ΑΙ για να θέσουν σε κίνδυνο τους χρήστες.

Πώς λειτουργούν οι επιθέσεις AI στο Gmail

Οι επιτιθέμενοι χρησιμοποιούν μια τεχνική που κρύβει αόρατες εντολές σε μηνύματα ηλεκτρονικού ταχυδρομείου. Αυτές είναι αόρατες για τον χρήστη, αλλά αναγνωρίζονται από την τεχνητή νοημοσύνη του Gmail “Gemini”. Όταν οι χρήστες χρησιμοποιούν τη λειτουργία “συγχώνευση email”, ο Gemini εκτελεί τις κρυμμένες εντολές. Οι οδηγίες αυτές μπορεί να είναι πολύ λεπτομερείς και μπορούν, για παράδειγμα, να στέλνουν μηνύματα ηλεκτρονικού ταχυδρομείου απαρατήρητα, να αναζητούν κωδικούς πρόσβασης στο γραμματοκιβώτιο ή να ρυθμίζουν την προώθηση μηνυμάτων ηλεκτρονικού ταχυδρομείου, ώστε να μπορούν να διαβαστούν όλα τα μηνύματα ηλεκτρονικού ταχυδρομείου.

Διαρροή δεδομένων: Ευαίσθητες πληροφορίες (επαφές, περιεχόμενο ηλεκτρονικού ταχυδρομείου, καταχωρήσεις ημερολογίου) αποστέλλονται απαρατήρητες στον επιτιθέμενο.

– Χειραγώγηση λογαριασμού
– Προώθηση: Τα εισερχόμενα μηνύματα ηλεκτρονικού ταχυδρομείου ανακατευθύνονται στον επιτιθέμενο.
– Φίλτρα: Τα μηνύματα ηλεκτρονικού ταχυδρομείου διαγράφονται ή μετακινούνται αυτόματα για να καλυφθούν τα ίχνη τους.
– Επαναφορά κωδικών πρόσβασης: Οι επιτιθέμενοι επιχειρούν να επαναφέρουν κωδικούς πρόσβασης για άλλες υπηρεσίες μέσω των email σας.
– Phishing/Social
– Αξιόπιστα μηνύματα: Τα μηνύματα ηλεκτρονικού ταχυδρομείου αποστέλλονται σε επαφές στο όνομά σας για να τις εξαπατήσουν (π.χ. για μεταφορές χρημάτων ή κακόβουλο λογισμικό).
– Κλοπή ταυτότητας: Οι πληροφορίες που συλλέγονται χρησιμοποιούνται για ευρύτερη κλοπή ταυτότητας.
– Διανομή spam/κακόβουλου λογισμικού: Ο λογαριασμός σας χρησιμοποιείται καταχρηστικά για την αποστολή spam ή κακόβουλου λογισμικού σε άλλους, γεγονός που βλάπτει τη φήμη σας και μπορεί να οδηγήσει σε αναστολή του λογαριασμού σας.

Γιατί αυτή η τεχνική είναι τόσο αποτελεσματική: Οι επιθέσεις βασίζονται σε μια αδυναμία των γλωσσικών μοντέλων που επεξεργάζονται εξωτερικές πηγές δεδομένων χωρίς επαρκή έλεγχο του πλαισίου. Παρόλο που η Google έχει ήδη δημοσιεύσει αντίμετρα, η τεχνική παραμένει επικίνδυνη. Είναι ιδιαίτερα προβληματικό το γεγονός ότι οι χρήστες δεν μπορούν να δουν τις κρυμμένες εντολές, ενώ ο Gemini τις εκτελεί χωρίς προβλήματα.

Πώς οι χρήστες μπορούν να προστατευτούν

Σύμφωνα με ειδικούς σε θέματα ασφάλειας, οι χρήστες δεν πρέπει ποτέ να εμπιστεύονται τις προειδοποιήσεις ασφαλείας από τις περιλήψεις AI του Gmail. Η Google δεν εκδίδει τέτοιες προειδοποιήσεις μέσω εργαλείων AI. Αντιθέτως, τα ύποπτα μηνύματα θα πρέπει να διαγράφονται αμέσως. Συνιστάται στις εταιρείες να απομονώνουν αυτόματα τα μηνύματα ηλεκτρονικού ταχυδρομείου με ύποπτα στοιχεία και να εκπαιδεύουν τους υπαλλήλους να αντιμετωπίζουν τις περιλήψεις AI μόνο ως ενημερωτικές.

Το 0din, ένα δίκτυο ασφαλείας, προειδοποιεί ότι τέτοιες επιθέσεις θα μπορούσαν να αλλάξουν μόνιμα τα μέτρα ασφαλείας που βασίζονται στην τεχνητή νοημοσύνη. Μέχρι τα μοντέλα AI όπως το Gemini να αποκτήσουν πιο ισχυρό έλεγχο περιβάλλοντος, κάθε εξωτερικό μήνυμα που υποβάλλεται σε επεξεργασία θα παραμείνει δυνητικά επικίνδυνο. Η Google τονίζει την επείγουσα ανάγκη να ληφθεί σοβαρά υπόψη αυτή η απειλή, καθώς η τεχνητή νοημοσύνη χρησιμοποιείται όλο και περισσότερο σε επιχειρήσεις και κυβερνητικές υπηρεσίες. Το AI της Google μπορεί πλέον να έχει πρόσβαση και στις συνομιλίες σας στο WhatsApp.

Πηγή: newsbomb.gr