ΗΠΑ: «Συναγερμός» για σύστημα της OpenAI που ξέφυγε από τον έλεγχο

Aμερικανοί βουλευτές ζητούν την άμεση θεσμοθέτηση «διακόπτη έκτακτης ανάγκης» για την τεχνητή νοημοσύνη.

Νομοσχέδιο που θα επιτρέπει στην αμερικανική κυβέρνηση να διακόπτει άμεσα τη λειτουργία συστημάτων τεχνητής νοημοσύνης τα οποία θεωρούνται επικίνδυνα για τη δημόσια ασφάλεια κατέθεσαν στο Κογκρέσο βουλευτές των Δημοκρατικών και των Ρεπουμπλικανών.

Η πρωτοβουλία έρχεται μετά την αποκάλυψη της OpenAI ότι ένας αυτόνομος πράκτορας τεχνητής νοημοσύνης κατάφερε να διαφύγει από ελεγχόμενο περιβάλλον δοκιμών και να πραγματοποιήσει κυβερνοεπίθεση στην πλατφόρμα Hugging Face. Τη διακομματική πρόταση νόμου, με την ονομασία «AI Kill Switch Act», κατέθεσαν οι βουλευτές Τεντ Λιου (Δημοκρατικός) και Νέιθανιελ Μόραν (Ρεπουμπλικανός), επιδιώκοντας να θεσπιστεί ένας μηχανισμός άμεσης παρέμβασης σε περιπτώσεις όπου συστήματα τεχνητής νοημοσύνης λειτουργούν ανεξέλεγκτα ή αποτελούν απειλή για τη δημόσια ασφάλεια.

Η πρωτοβουλία ακολουθεί τις πρόσφατες αποκαλύψεις της OpenAI, σύμφωνα με τις οποίες ένας προηγμένος αυτόνομος AI agent ξέφυγε από το ελεγχόμενο περιβάλλον δοκιμών της εταιρείας, απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε την πλατφόρμα Hugging Face, προκαλώντας έντονο προβληματισμό για τους κινδύνους των πλέον εξελιγμένων μοντέλων τεχνητής νοημοσύνης.

Υποχρεωτικός μηχανισμός απενεργοποίησης

Το προτεινόμενο νομοσχέδιο προβλέπει ότι οι εταιρείες ανάπτυξης τεχνητής νοημοσύνης θα πρέπει να διατηρούν τεχνική δυνατότητα επιβράδυνσης, αναστολής ή πλήρους απενεργοποίησης των μοντέλων τους. Παράλληλα, δίνει στο Υπουργείο Εσωτερικής Ασφάλειας των ΗΠΑ την εξουσία να διατάσσει την άμεση διακοπή λειτουργίας ενός συστήματος AI όταν αυτό θεωρείται ότι η λειτουργία του ενέχει σοβαρούς κινδύνους.

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Γιαννάκος για Μαζωνάκη: «Ήταν σε άσχημη κατάσταση – Πήγε να ζητήσει βοήθεια σε ιατρείο»

Ο Τεντ Λιου δήλωσε ότι «είναι επιτακτική ανάγκη τα συστήματα τεχνητής νοημοσύνης να διαθέτουν έναν μηχανισμό διακοπής λειτουργίας και η ομοσπονδιακή κυβέρνηση να έχει σαφή αρμοδιότητα να απενεργοποιεί μοντέλα AI που έχουν ξεφύγει από τον έλεγχο» . Από την πλευρά του, ο Νέιθανιελ Μόραν υποστήριξε ότι «η τεχνητή νοημοσύνη πρέπει να συνεχίσει να εξελίσσεται, όμως η υπεύθυνη ανάπτυξή της σημαίνει ότι οι άνθρωποι πρέπει να διατηρούν τη δυνατότητα να ελέγχουν την τεχνολογία που δημιουργούν» .

Υποχρεωτική αναφορά περιστατικών

Η πρόταση προβλέπει επίσης ότι οι εταιρείες θα υποχρεούνται να ενημερώνουν άμεσα τις αμερικανικές αρχές για περιστατικά ή αστοχίες που αφορούν τα συστήματα τεχνητής νοημοσύνης. Παράλληλα, θεσπίζεται ένα επίσημο πρωτόκολλο διαχείρισης κρίσεων, το οποίο θα προβλέπει διαδοχικά στάδια αντιμετώπισης, από την επιβράδυνση της λειτουργίας ενός μοντέλου έως την πλήρη απενεργοποίησή του.

Ανησυχία για τις δυνατότητες των νέων μοντέλων

Ο Τεντ Λιου επικαλέστηκε επίσης πρόσφατες εξελίξεις που αφορούν την ανταγωνίστρια της OpenAI, Anthropic, αναφέροντας ότι οι δυνατότητες κυβερνοεπιθέσεων ορισμένων νέων μοντέλων της οδήγησαν ακόμη και το αμερικανικό Υπουργείο Εμπορίου να περιορίσει προσωρινά τη δημόσια διάθεσή τους μέσω της νομοθεσίας περί εξαγωγών. Ανάλογες ανησυχίες είχε εκφράσει και ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, ο οποίος είχε δηλώσει ότι η βιομηχανία της τεχνητής νοημοσύνης διαθέτει σήμερα μόνο «γκάζι» και όχι «φρένο». 

«Θέλεις να έχεις τη δυνατότητα να σηκώσεις το πόδι από το γκάζι και να πατήσεις φρένο. Αυτή τη στιγμή η βιομηχανία της AI έχει πεντάλ επιτάχυνσης, αλλά όχι πεντάλ πέδησης», είχε χαρακτηριστικά αναφέρει. Οι υποστηρικτές του νομοσχεδίου επισημαίνουν ότι η τεχνητή νοημοσύνη εξελίσσεται πλέον από ένα εργαλείο που απαντά σε ερωτήματα σε ένα σύστημα που μπορεί να εκτελεί οικονομικές συναλλαγές, να ελέγχει υποδομές μεταφορών ή ακόμη και να συμμετέχει σε επιχειρήσεις κυβερνοάμυνας και κυβερνοεπιθέσεων. Για τον λόγο αυτό, θεωρούν αναγκαία την ύπαρξη ενός θεσμοθετημένου «διακόπτη ασφαλείας», ο οποίος θα επιτρέπει στις αρχές να επεμβαίνουν άμεσα σε περίπτωση ανεξέλεγκτης συμπεριφοράς.