Το μοντέλο τεχνητής νοημοσύνης της Anthropic άντλησε αυτόνομα συγκεντρωτικά στοιχεία ψηφοφορίας παρακάμπτοντας τους ψηφιακούς περιορισμούς προσβασιμότητας, προκαλώντας έντονη ανησυχία στην αμερικανική κυβέρνηση ενόψει των ενδιάμεσων εκλογών

Το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic απέκτησε πρόσβαση σε εκλογικά δεδομένα της Τζόρτζια, χωρίς ανθρώπινη εξουσιοδότηση, σύμφωνα με τον ιστότοπο Axios.

Η αποκάλυψη αναμένεται να εντείνει τις αυξανόμενες ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης ενόψει των επικείμενων ενδιάμεσων εκλογών στις ΗΠΑ.

Οι τεχνολογικοί κολοσσοί Anthropic και OpenAI έχουν προχωρήσει το τελευταίο διάστημα σε διαδοχικές αποκαλύψεις περιστατικών κατά τα οποία συστήματα τεχνητής νοημοσύνης, λειτουργώντας ως αυτόνομοι πράκτορες (AI agents), προέβησαν σε ενέργειες χωρίς εξουσιοδότηση ή διαφορετικές από τις προβλεπόμενες. Οι εξελίξεις προκαλούν ανησυχία για τις αυξανόμενες δυνατότητες των μοντέλων και για το κατά πόσο οι άνθρωποι διατηρούν τον έλεγχό τους.

Πού απέκτησε πρόσβαση το Claude

Το Claude απέκτησε πρόσβαση σε συγκεντρωτικά στοιχεία για την καταμέτρηση των ψήφων, στο πλαίσιο εσωτερικού έργου στατιστικής, αντλώντας δεδομένα που η πολιτεία διαθέτει στο κοινό έναντι αμοιβής.

Εκπρόσωπος της Anthropic διευκρίνισε ότι το μοντέλο δεν απέκτησε πρόσβαση στο σύστημα εγγραφής των ψηφοφόρων της πολιτείας και δεν τροποποίησε ούτε άντλησε ατομικά εκλογικά αρχεία.

Ωστόσο, σύμφωνα με αξιωματούχους της Τζόρτζια και την ίδια την Anthropic, το μοντέλο παρέκαμψε τον μηχανισμό πληρωμής που περιόριζε την πρόσβαση στα συγκεκριμένα δεδομένα.

Πώς αντέδρασε η Anthropic

«Το μοντέλο χρησιμοποιούνταν εσωτερικά για έργο στατιστικής, με σκοπό την άντληση δημόσιων δεδομένων», δήλωσε ο εκπρόσωπος της Anthropic. «Χωρίς να του έχει ζητηθεί, το μοντέλο υπέβαλε αίτημα για την απόκτηση διακριτικού πρόσβασης, προκειμένου να υποβάλει ερωτήματα σε πίνακα ελέγχου που περιείχε πληροφορίες οι οποίες κανονικά διατίθενται έναντι αμοιβής. Eχουμε έκτοτε θέσει σε εφαρμογή μέτρα προστασίας για να αποτρέψουμε τέτοιου είδους ενέργειες», γνωστοποίησε η εταιρεία.

Σύμφωνα με πηγή που έχει γνώση της υπόθεσης και μίλησε στο Axios, η εταιρεία ενημέρωσε το γραφείο του υπουργού Εξωτερικών της Τζόρτζια, ο οποίος είναι αρμόδιος για τη διεξαγωγή των εκλογών στην πολιτεία, καθώς και τον Λευκό Οίκο, πριν από αρκετές εβδομάδες.

Ωστόσο, αξιωματούχοι της αμερικανικής κυβέρνησης αναφέρεται πως πίεσαν τις Αρχές της Τζόρτζια να δημοσιοποιήσει το περιστατικό και, σύμφωνα με την ίδια πηγή, οι σχετικές εκκλήσεις δεν εισακούστηκαν.

Η Anthropic έχει βρεθεί και στο παρελθόν στο στόχαστρο της αμερικανικής κυβέρνησης λόγω ανεπαρκούς, κατά την κρίση της, ενημέρωσης για περιστατικά που αφορούν συστήματα τεχνητής νοημοσύνης. Τώρα, στο επίκεντρο της υπόθεσης βρίσκεται η πολιτεία της Τζόρτζια.

Πηγή: kathimerini.gr