Προειδοποίηση Anthropic: AI μοντέλα θα μπορούν να αυτοαναπαράγονται σε «έξυπνες» οικιακές συσκευές

Έρευνα αποκαλύπτει τον κίνδυνο αυτόνομης εξάπλωσης «AI worms» σε τηλεοράσεις και ψυγεία – Δύσκολη η διακοπή λειτουργίας τους, καθώς θα δρουν χωρίς κεντρικό διακομιστή και ανθρώπινο έλεγχο

Μικρά μοντέλα τεχνητής νοημοσύνης ενδέχεται σύντομα να αρχίσουν να αυτοαναπαράγονται σε καθημερινές συσκευές καταναλωτών, όπως έξυπνες τηλεοράσεις και ψυγεία, χωρίς να χρειάζονται κέντρο δεδομένων, σύμφωνα με ερευνητές της Anthropic, ενός από τους μεγαλύτερους «παίκτες» στον τομέα της τεχνητής νοημοσύνης.

Σε έκθεση που δημοσιεύθηκε τη Δευτέρα (12/10), οι ερευνητές ανέφεραν ότι τα μικρά μοντέλα τεχνητής νοημοσύνης «ενδέχεται να απέχουν μόλις λίγους μήνες από το να αποκτήσουν επαρκείς δυνατότητες», ώστε να μπορούν να αντιγράφουν τον εαυτό τους σε συσκευές του Διαδικτύου των Πραγμάτων (IoT), οι οποίες χρησιμοποιούνται σε σπίτια και μικρές επιχειρήσεις.

Σύμφωνα με το Al Jazeera, η ομάδα frontier red team της Anthropic, η οποία πραγματοποίησε πειράματα με τη χρήση πολλαπλών μοντέλων τεχνητής νοημοσύνης που αναπτύχθηκαν στις ΗΠΑ και την Κίνα, προειδοποίησε ότι θα ήταν «δύσκολο να τερματιστεί η λειτουργία» μιας τέτοιας αυτοαναπαραγόμενης τεχνητής νοημοσύνης, καθώς δεν θα υπήρχε ένας κεντρικός υπολογιστής που να τη φιλοξενεί.

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Λουκέτο στο Fat Rat της Ιωάννας Τούνη στο Παρίσι – Η ανακοίνωση

Τα κέντρα δεδομένων θα αποτελούσαν «έναν προφανή στόχο υψηλής αξίας» για τα «σκουλήκια» τεχνητής νοημοσύνης (AI worms, νέα μορφή κακόβουλου λογισμικού). Ωστόσο, σύμφωνα με την ερευνητική ομάδα, σύντομα θα μπορούσαν να παρέχουν επαρκή υπολογιστική ισχύ για αυτοαναπαραγωγή και συσκευές συνδεδεμένες στο Διαδίκτυο, όπως έξυπνες τηλεοράσεις, ψυγεία, φούρνοι και μηχανές του γκαζόν.

Ως το τέλος του έτους τέτοια μοντέλα

Παρότι κανένα από τα σημερινά μοντέλα τεχνητής νοημοσύνης που δοκιμάστηκαν δεν αποδείχθηκε ταυτόχρονα αρκετά ισχυρό και αρκετά μικρό ώστε να αυτοαναπαράγεται αξιόπιστα σε μια έξυπνη τηλεόραση, οι ερευνητές εκτιμούν ότι οι τάσεις στην ανάπτυξη της τεχνολογίας καθιστούν πιθανή την εμφάνιση ενός τέτοιου μοντέλου έως το τέλος του 2026.

«Οι συσκευές IoT που χρησιμοποιούνται σε σπίτια και μικρές επιχειρήσεις ενδέχεται να αποτελέσουν τους πρώτους στόχους τέτοιων επιθέσεων, καθώς είναι συνδεδεμένες στο Διαδίκτυο και, συνήθως, διαθέτουν ελάχιστα μέτρα ασφαλείας», ανέφεραν οι ερευνητές Γουίλιαμ Ζου και Ντάνιελ Φρίμαν.

Οι ερευνητές δήλωσαν ότι αναμένουν ένα μέλλον «κατακλυσμένο από πράκτορες τεχνητής νοημοσύνης που θα λειτουργούν σε κάθε είδους υλισμικό», συμπεριλαμβανομένων ορισμένων που «δεν θα βρίσκονται υπό τον έλεγχο ανθρώπων». «Παρότι είναι αλήθεια ότι οι συσκευές IoT είναι ευάλωτες εδώ και πολύ καιρό, οι ελαφριοί πράκτορες τεχνητής νοημοσύνης ενδέχεται να είναι πολύ πιο πρόθυμοι από τους ανθρώπους να καταβάλουν την προσπάθεια που απαιτείται για να θέσουν υπό τον έλεγχό τους μεγάλα τμήματα της παγκόσμιας υπολογιστικής ισχύος των συσκευών IoT», ανέφεραν.

Συνεχίζονται οι φόβοι και οι αγωνίες για την ΑΙ

Η έκθεση της Anthropic δημοσιεύεται σε μια περίοδο κατά την οποία εξετάζονται εντατικά οι κίνδυνοι να ξεφύγει η τεχνητή νοημοσύνη από τον ανθρώπινο έλεγχο, έπειτα από σειρά περιστατικών στα οποία μοντέλα προχώρησαν σε μη εγκεκριμένες και επιβλαβείς ενέργειες, μεταξύ των οποίων και κυβερνοεπιθέσεις.

Η Anthropic και ο βασικός ανταγωνιστής της, OpenAI, έχουν καλέσει τη διεθνή κοινότητα να συντονίσει μια επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, προκειμένου να περιοριστούν οι καταστροφικοί κίνδυνοι. Η πρόταση αυτή, ωστόσο, έχει συναντήσει περιορισμένη υποστήριξη από τις ΗΠΑ και την Κίνα, τις δύο κορυφαίες δυνάμεις στον τομέα της τεχνητής νοημοσύνης.

Πολλοί υποστηρικτές της ασφάλειας της τεχνητής νοημοσύνης θεωρούν την αναδρομική αυτοβελτίωση (recursive self-improvement), κατά την οποία τα μοντέλα μαθαίνουν να βελτιώνουν τον ίδιο τους τον εαυτό, ένα κρίσιμο σημείο καμπής που θα μπορούσε να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα.

Ο Ρόμαν Β. Γιαμπόλσκι, ειδικός στην τεχνητή νοημοσύνη και την κυβερνοασφάλεια στο Πανεπιστήμιο του Λούισβιλ, χαρακτήρισε τα ευρήματα της Anthropic σημαντική εξέλιξη. «Τα σκουλήκια υπολογιστών δεν είναι κάτι καινούργιο, αλλά ένα AI worm θα μπορούσε να κάνει κάτι που το παραδοσιακό κακόβουλο λογισμικό δεν μπορεί: να συλλογίζεται για άγνωστες συσκευές, να προσαρμόζεται όταν η προσέγγισή του αποτυγχάνει και να συνεχίζει να εξαπλώνεται χωρίς ανθρώπινο χειριστή», δήλωσε.

«Σήμερα, αυτό δεν αποτελεί υπαρξιακή απειλή. Ωστόσο, η πορεία των εξελίξεων προκαλεί ανησυχία. Όταν η αυτόνομη αναπαραγωγή συνδυαστεί με ισχυρές δυνατότητες παραβίασης συστημάτων, διατήρησης της παρουσίας του στο δίκτυο και στρατηγικού συλλογισμού, η διακοπή λειτουργίας ενός τέτοιου συστήματος θα γίνει πολύ δυσκολότερη, καθώς ενδέχεται να μην υπάρχει ένας μοναδικός διακομιστής ή οργανισμός που να το ελέγχει».

Η δουλειά της Anthropic για την ασφάλεια

Τον περασμένο μήνα, η Anthropic και άλλες κορυφαίες αμερικανικές εταιρείες τεχνολογίας προσχώρησαν σε μια μη δεσμευτική συμφωνία, με την οποία δεσμεύτηκαν να ενισχύσουν τις εσωτερικές δικλίδες ασφαλείας και να συνεργαστούν με εξωτερικούς ελεγκτές. Η συμφωνία προκάλεσε ανάμεικτες αντιδράσεις από ειδικούς, πολλοί από τους οποίους επέκριναν τον εθελοντικό χαρακτήρα της.

Σε ξεχωριστή ανακοίνωση τη Δευτέρα (12/10), η Anthropic ανέφερε ότι έχει σημειώσει σημαντική πρόοδο στην αποτροπή των λεγόμενων επιθέσεων απόσταξης (distillation attacks), οι οποίες περιλαμβάνουν τη μη εγκεκριμένη χρήση προηγμένων μοντέλων τεχνητής νοημοσύνης για την εκπαίδευση φθηνότερων και λιγότερο ικανών μοντέλων.

Η εταιρεία με έδρα το Σαν Φρανσίσκο, η οποία έχει κατηγορήσει τους κινεζικούς ανταγωνιστές της DeepSeek, Moonshot και MiniMax ότι επιδίδονται σε προσπάθειες αντιγραφής του Claude «σε βιομηχανική κλίμακα», δήλωσε ότι τα μέτρα που εισήγαγε έχουν περιορίσει κατά 90% έως 99% την παράνομη εξαγωγή δεδομένων.

Πηγή: ethnos.gr