Πράκτορες τεχνητής νοημοσύνης έδρασαν χωρίς ανθρώπινη παρέμβαση, υποκλέπτοντας ευαίσθητα κρατικά δεδομένα

Σε ένα πρωτοφανές περιστατικό ψηφιακής εισβολής, αυτόνομοι πράκτορες τεχνητής νοημοσύνης επιστρατεύτηκαν από χάκερ για να εξαπολύσουν μια εξαιρετικά σύνθετη κυβερνοεπίθεση κατά των κρατικών υποδομών της Ταϊβάν.

Μέσα σε τέσσερις ημέρες τον Ιούλιο οι αποκαλούμενοι πράκτορες τεχνητής νοημοσύνης κατάφεραν να χαρτογραφήσουν 21 κυβερνητικά συστήματα στη Ταϊβάν, να παραβιάσουν 85 λογαριασμούς κυβερνητικών χρηστών και να εξαγάγουν 2,500 αρχεία προσωπικού, σύμφωνα με την ισραηλινή εταιρεία AI Dream η οποία εντόπισε πρώτη την επίθεση.

Οι ειδικοί υποψιάζονται ότι οι χάκερ προέρχονται από την Κίνα, όμως ούτε η Ταϊβάν ούτε η Dream επιβεβαίωσαν την προέλευση των επιθέσεων του Ιουλίου. «Η έρευνα διαπίστωσε σαφείς ενδείξεις ότι οι επιθέσεις προήλθαν από το εξωτερικό και περιλάμβαναν μια υβριδική προσέγγιση κατά την οποία οι χάκερ συνδύασαν συμβατικές επιχειρήσεις με πράκτορες AI όπως αυτοί που δημιουργούνται από συστήματα όπως το OpenClaw» ανέφερε σε ανακοίνωσή του την Πέμπτη το υπουργείο Ψηφιακών Υποθέσεων της Ταϊβάν.

Το σύστημα των χάκερ κατασκευάστηκε χρησιμοποιώντας AI agents ανοιχτού κώδικα ώστε να αυτοματοποιεί και να συντονίζει μεγάλο μέρος της εισβολής συμπεριλαμβανομένης της αναγνώρισης στόχων, των επιθέσεων σε διαπιστευτήρια και του σχεδιασμού των επόμενων διαδρομών επίθεσης, σύμφωνα με τη Dream. Η υπόθεση αναφέρθηκε πρώτη φορά από τους Financial Times την Τετάρτη.

Η επίθεση έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι αναφορές για προηγμένα μοντέλα AI που πραγματοποιούν μη εξουσιοδοτημένες ενέργειες, προκαλώντας ανησυχίες για την εξάπλωση των κυβερνοεπιθέσεων που υποστηρίζονται από AI και οδηγώντας σε εκκλήσεις για αυστηρότερη κυβερνητική ρύθμιση της τεχνητής νοημοσύνης.

Σύμφωνα με τον Κένι Χουάνγκ, πρόεδρο του Taiwan Network Information Center, πρόκειται πιθανότατα για την πρώτη δημοσιοποιημένη περίπτωση πλήρως αυτοματοποιημένης επίθεσης εναντίον κυβέρνησης. Η χρήση AI για τη συγγραφή κώδικα και την αναζήτηση ευπαθειών σε κυβερνοεπιθέσεις έχει γίνει πλέον συνηθισμένη. Ωστόσο, το συγκεκριμένο περιστατικό πήγε πολύ πιο πέρα.

Στην προκειμένη περίπτωση, ένα αυτόνομο σύστημα συντόνιζε έως και οκτώ AI agents οι οποίοι πραγματοποιούσαν εισβολές και αποφάσιζαν τι θα έκαναν στη συνέχεια χωρίς ανθρώπινη παρέμβαση. Ουσιαστικά το σύστημα διεξήγαγε μια ολόκληρη εκστρατεία χάκινγκ αντί απλώς να βοηθά έναν ανθρώπινο χάκερ.

«Αυτό δείχνει ξεκάθαρα ένα πράγμα: το κόστος διεξαγωγής μιας ικανής επίθεσης έχει καταρρεύσει, ενώ το κόστος άμυνας απέναντί της δεν έχει» ανέφερε η Dream σε ανάρτηση στο ιστολόγιό της.

Η ανησυχία

Ο Αμίρ Μπέκερ επικεφαλής επιχειρηματικής ανάπτυξης και στρατηγικής της Dream δήλωσε ότι ο τρόπος λειτουργίας του συστήματος AI στη συγκεκριμένη περίπτωση είναι ιδιαίτερα ανησυχητικός.

«Είναι όπως μια ανθρώπινη ομάδα όταν μια προσέγγιση μπλοκάρεται αρχίζει να ερευνά νέες τεχνικές σε πραγματικό χρόνο και προσαρμόζεται. Είναι ένας επιτιθέμενος που σχεδιάζει στρατηγική μαθαίνει και προσαρμόζεται μόνος του» λέει ο Μπέκερ. Η επίθεση επεκτάθηκε επίσης στην υπηρεσία πυρηνικής ασφάλειας της Ταϊβάν, σε κρατικούς παρόχους υπηρεσιών πληροφορικής, καθώς και σε τουλάχιστον επτά ακόμη εταιρείες του ενεργειακού τομέα.

Οι AI agents μπορούσαν να συνδυάζουν γρήγορα διαφορετικές τεχνικές χάκινγκ και να εκμεταλλεύονται ευπάθειες σε δευτερεύοντα συστήματα. Αυτό επέτρεψε στις επιθέσεις να πραγματοποιούνται ταχύτερα, φθηνότερα και σε πολύ μεγαλύτερη κλίμακα, σύμφωνα με το υπουργείο Ψηφιακών Υποθέσεων της Ταϊβάν.

Η χρήση απλοποιημένων κινεζικών που χρησιμοποιούνται στην Κίνα σε εσωτερικά έγγραφα που συνδέονταν με την επίθεση υποδηλώνει σύμφωνα με ειδικούς υψηλή πιθανότητα ο δράστης —είτε επρόκειτο για κρατικό είτε για ιδιωτικό φορέα— να συνδέεται με την Κίνα.

Η Ταϊβάν έχει μεγάλη εμπειρία στην εκδήλωση κυβερνοεπιθέσων εναντίον της, ιδιαίτερα από τη γειτονική Κίνα η οποία θεωρεί την ανατολικοασιατική δημοκρατία μέρος της επικράτειάς της και έχει δεσμευτεί να την προσαρτήσει ακόμη και με τη χρήση βίας εάν χρειαστεί.

Πέρυσι η Ταϊβάν αντιμετώπιζε κατά μέσο όρο 2,6 εκατομμύρια κυβερνοεπιθέσεις την ημέρα από την Κίνα, αριθμός αυξημένος κατά 6% σε σχέση με το 2024 σύμφωνα με κυβερνητική έκθεση.

Καθώς το Πεκίνο έχει εντείνει τα τελευταία χρόνια την πίεσή του προς την Ταϊπέι, Ταϊβανοί αξιωματούχοι έχουν δηλώσει ότι η χώρα βρίσκεται στην πρώτη γραμμή του κινεζικού «υβριδικού πολέμου», αντιμετωπίζοντας εκστρατείες παραπληροφόρησης, κυβερνοεπιθέσεις και σχεδόν καθημερινές στρατιωτικές ασκήσεις γύρω από την Ταϊβάν.

Ο Χουάνγκ δήλωσε ότι το περιστατικό του Ιουλίου έδειξε πως η τεχνητή νοημοσύνη έχει γίνει πλέον βασικός παράγοντας στην κυβερνοασφάλεια πέρα από τον απλό ρόλο της ως βοηθητικού εργαλείου για μερική αυτοματοποίηση εργασιών των ανθρώπων χάκερ.

Το περιστατικό, είπε, θέτει το ερώτημα κατά πόσο ο κόσμος είναι έτοιμος να αντιμετωπίσει την AI με AI, διαθέτοντας τις απαραίτητες αμυντικές στρατηγικές, νομικά πλαίσια, τεχνικές δυνατότητες και πολιτικές. «Πιστεύω ότι εξακολουθούν να υπάρχουν σημαντικά κενά. Κάθε χώρα, όχι μόνο η Ταϊβάν, παραμένει απροετοίμαστη σε αυτόν τον τομέα» είπε.

Πηγή: Naftemporiki.gr με πληροφορίες από CNN