Σύμφωνα με τον ειδικό, τα συστήματα τεχνητής νοημοσύνης είναι ευάλωτα σε διάφορες επιθέσεις
Μία ζοφερή προειδοποίηση απευθύνει ο πρώην διευθύνων σύμβουλος της Google, Έρικ Σμιντ για τους κινδύνους της τεχνητής νοημοσύνης και πόσο εύκολα θα μπορούσε να παραβιαστεί η τεχνολογία.
Παρότι συνολικά έχει θετική άποψη για την ανάπτυξη της τεχνητής νοημοσύνης και βλέπει τεράστιες δυνατότητες σε αυτήν, ωστόσο διατηρεί κάποιες επιφυλάξεις, σημειώνοντας πιθανούς κινδύνους.
Ο Σμιντ, ο οποίος ήταν Διευθύνων Σύμβουλος της Google από το 2001 έως το 2011, μίλησε στο Sifted Summit για τους πιθανούς κινδύνους της τεχνητής νοημοσύνης.
«Υπάρχει κίνδυνος διάδοσης στην τεχνητή νοημοσύνη; Απολύτως» ήταν η τοποθέτησή του και διευκρίνισε «Η τεχνολογία μπορεί να πέσει σε λάθος χέρια».
Σύμφωνα με τον ειδικό, υπάρχουν ενδείξεις ότι τα μοντέλα μπορούν να παραβιαστούν και να αφαιρεθούν τα εμπόδια ασφαλείας τους.
«Μαθαίνουν πολλά ενώ μελετούν. Ένα πολύ αρνητικό παράδειγμα αυτού θα ήταν να μάθεις πώς να σκοτώνεις κάποιον».
Σύμφωνα με τον ειδικό, τα συστήματα τεχνητής νοημοσύνης είναι ευάλωτα σε διάφορες επιθέσεις, όπως prompt injections και jailbreaking.
Το 2023, λίγους μήνες μετά την κυκλοφορία του ChatGPT του OpenAI, οι χρήστες έχουν ήδη χρησιμοποιήσει ένα τέχνασμα “jailbreak”, δημιουργώντας ένα alter ego που ονομάζεται DAN (Do Anything Now), το οποίο μπόρεσε να παρακάμψει τις οδηγίες ασφαλείας.
Παρά τις προειδοποιήσεις, ο Σμιντ παρέμεινε αισιόδοξος για το μέλλον της τεχνητής νοημοσύνης και πιστεύει ότι η τεχνολογία δεν τυγχάνει αρκετής αναγνώρισης.
«Νομίζω ότι είναι υποτιμημένο, όχι υπερεκτιμημένο, και περιμένω να αποδειχθεί σωστό σε πέντε ή δέκα χρόνια».
Ο Σμιντ διαφωνεί με όσους μιλούν για μια φούσκα AI και δεν πιστεύει ότι θα αναπτυχθεί μια κατάσταση παρόμοια με την κατάρρευση της φούσκας των dotcom.
- Ο Έρικ Σμιντ προειδοποιεί για τους κινδύνους αν η τεχνητή νοημοσύνη μάθει να σκοτώνει, λόγω ευπάθειας σε επιθέσεις.
- Παρά τις ανησυχίες του, βλέπει τεράστιες δυνατότητες στην ανάπτυξη της τεχνητής νοημοσύνης και παραμένει αισιόδοξος για το μέλλον.
- Τα συστήματα τεχνητής νοημοσύνης είναι ευάλωτα σε επιθέσεις όπως prompt injections και jailbreaking, με παραδείγματα όπως το alter ego DAN.
- Ο Σμιντ θεωρεί ότι η τεχνητή νοημοσύνη είναι υποτιμημένη και αναμένει να αποδειχθεί η αξία της σε πέντε ή δέκα χρόνια.
Δημοφιλή
Πώς δροσιζόταν ένα κρητικό σπίτι πριν από το air condition - Τα «κόλπα» των παλιών
Το χωριό της Κρήτης όπου το καλοκαίρι τελειώνει… νωρίτερα – Πώς λίγα χιλιόμετρα αρκούν για να αλλάξει εντελώς η εποχή
Παντρεύτηκε η κόρη του Γεράσιμου Σκιαδαρέση, Όλγα τον Κώστα Χαϊκάλη
Γιατί «κολλάει» το WiFi σου; Οι 3 απρόσμενες συσκευές στο σπίτι που μπλοκάρουν το σήμα
Κεντρικό Λιμεναρχείο Ηρακλείου: Σε αυξημένη ετοιμότητα σήμερα Δευτέρα 24/8 λόγω ισχυρών ανέμων
Τραγωδία στο Ρέθυμνο: 53χρονος εντοπίστηκε νεκρός σε ξενοδοχείο
Τραγωδία στην Πάτρα: Ζευγάρι «έφυγε» από τη ζωή με διαφορά 30 ημερών – Γνωστή γιατρός η γυναίκα
Συναγερμός στο Ηράκλειο: Αυτοκίνητο έπεσε στις εκβολές του Γιόφυρου - Παράλληλη κινητοποίηση και για τροχαίο στον ΒΟΑΚ (βίντεο, φωτό)
Η Κρήτη έχει ένα «σύνορο» που δεν φαίνεται σε κανέναν χάρτη – Περνάς λίγα χιλιόμετρα και αλλάζουν λέξεις, προφορές και ολόκληρες τοπικές συνήθειες