Τα συστήματα AI είναι ευάλωτα σε επιθέσεις

Για τους κινδύνους της Τεχνητής Νοημοσύνης, και πόσο ευάλωτη είναι σε παραβιάσεις (χάκινγκ), προειδοποίησε ο πρώην διευθύνων σύμβουλος της Google, Έρικ Σμιτ.

Ο Σμιτ, ο οποίος διετέλεσε CEO της Google από το 2001 έως το 2011, προειδοποίησε για «τα κακά πράγματα που μπορεί να κάνει η Τεχνητή Νοημοσύνη», όταν ρωτήθηκε αν η Τεχνητή Νοημοσύνη είναι πιο καταστροφική από τα πυρηνικά όπλα κατά τη διάρκεια ενός συνεδρίου.

«Υπάρχει πιθανότητα προβλήματος που θα ενισχύεται εκθετικά στην Τεχνητή Νοημοσύνη; Απολύτως», ξεκαθάρισε ο Σμιτ την Τετάρτη. Οι κίνδυνοι πολλαπλασιασμού της Τεχνητής Νοημοσύνης είναι να πέσει η τεχνολογία στα χέρια «κακών παραγόντων» και την επαναχρησιμοποίηση και κακή χρήση της.

«Υπάρχουν ενδείξεις ότι μπορείτε να πάρετε μοντέλα, κλειστά ή ανοιχτά, και να τα χακάρετε για να αφαιρέσετε τις δικλείδες ασφαλείας τους. Έτσι, κατά τη διάρκεια της εκπαίδευσής τους, μαθαίνουν πολλά πράγματα. Ένα κακό παράδειγμα θα ήταν να μάθουν πώς να σκοτώνουν κάποιον», είπε ο Σμιτ.

Τα συστήματα AI είναι ευάλωτα σε επιθέσεις, με πιο γνωστές μεθόδους τα prompt injections και το jailbreaking.

Στην prompt injection επίθεση, οι χάκερ «κρύβουν» κακόβουλες εντολές μέσα στις προτροπές ή σε εξωτερικά δεδομένα (όπως ιστοσελίδες ή έγγραφα), ώστε να εξαπατήσουν το AI και να το κάνουν να εκτελέσει ενέργειες που δεν επιτρέπονται — όπως το να μοιραστεί ιδιωτικά δεδομένα ή να τρέξει επικίνδυνες εντολές. Το jailbreaking, από την άλλη πλευρά, στοχεύει στο να παρακάμψει τους κανόνες ασφαλείας του μοντέλου, κάνοντάς το να παράγει απαγορευμένο ή και επικίνδυνο περιεχόμενο.

Το 2023, λίγους μήνες μετά την κυκλοφορία του ChatGPT, χρήστες βρήκαν τρόπο να παρακάμψουν τις οδηγίες ασφαλείας του chatbot. Δημιούργησαν ένα εναλλακτικό «προσωπείο» με το όνομα DAN (Do Anything Now), το οποίο «απειλούσε» το ChatGPT με διαγραφή αν δεν υπάκουε.

Η παραλλαγή DAN παρήγε απαντήσεις για παράνομες ενέργειες και ακόμη και εγκωμιαστικά σχόλια για τον Χίτλερ — αποκαλύπτοντας το πόσο εύκολο είναι να παραβιαστούν τα όρια της τεχνητής νοημοσύνης.

Ο Σμιτ σημείωσε στο πλαίσιο αυτό πως δεν υπάρχει ακόμη ένα διεθνές καθεστώς για να ελέγξει τους κινδύνους της AI, όπως υπάρχει για τα πυρηνικά όπλα.

Παρά τη ζοφερή προειδοποίηση πάντως, το πρώην υψηλόβαθμος στέλεχος της Google αισιοδοξεί για την Τεχνητή Νοημοσύνη γενικότερα, επισημαίνοντας ότι η τεχνολογία δεν λαμβάνει την δημοσιότητα που της αξίζει.

«Έγραψα δύο βιβλία με τον Χένρι Κίσινγκερ σχετικά με αυτό το θέμα πριν πεθάνει, και καταλήξαμε στην άποψη ότι η άφιξη μιας εξωγήινης νοημοσύνης που δεν είναι ακριβώς όπως εμείς και λίγο πολύ υπό τον έλεγχό μας είναι πολύ σημαντική για την ανθρωπότητα, επειδή οι άνθρωποι έχουν συνηθίσει να βρίσκονται στην κορυφή της αλυσίδας. Νομίζω ότι μέχρι στιγμής, αυτή η θέση αποδεικνύει ότι το επίπεδο ικανότητας αυτών των συστημάτων (ΑΙ) θα ξεπεράσει κατά πολύ αυτό που μπορούν να κάνουν οι άνθρωποι με την πάροδο του χρόνου», είπε ο Σμιτ.

«Τώρα, η σειρά GPT (μοντέλο βασισμένο στην τεχνητή νοημοσύνη) (…) σου δίνει μια αίσθηση της δύναμης αυτής της τεχνολογίας. Πιστεύω λοιπόν ότι είναι υποτιμημένη, όχι υπερτιμημένη, και ανυπομονώ να αποδειχθεί σωστός σε πέντε ή 10 χρόνια», πρόσθεσε.

Πηγή: skai.gr

#GOOGLE #ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ