Παραιτήθηκε ερευνητής της Anthropic: «Οδεύουμε στα πιο ακραία σενάρια για την Τεχνητή Νοημοσύνη»

Ο Τζέικομπ Κόξον αποχώρησε προειδοποιώντας για τον κίνδυνο απώλειας ελέγχου των συστημάτων AI λόγω του ανταγωνισμού

Την παραίτησή του από την εταιρεία τεχνητής νοημοσύνης Anthropic λόγω των φόβων του ότι μαζί με τους ανταγωνιστές της συμμετέχει σε μια κούρσα ανάπτυξης συστημάτων που τελικά δεν θα μπορούν να ελέγξουν, υπέβαλε ο ερευνητής Τζέικομπ Κόξον.

Ο Κόξον που είχε ειδικευθεί στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, ανακοίνωσε την απόφασή του με μια σειρά αναρτήσεων στο Χ εξηγώντας ότι αποχωρεί από την Anthropic επειδή δεν θέλει να συμμετέχει στη γενικευμένη προσπάθεια του κλάδου για τη δημιουργία συστημάτων AI που θα μπορούν να βελτιώνουν μόνα τους τον εαυτό τους.

«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», εκτιμά ο Κόξον, προσθέτοντας ότι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους ενώ υπάρχει και ο ανταγωνισμός από την Κίνα, «οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι».

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Σοκαριστικό βίντεο στο Ηράκλειο: ΙΧ «θερίζει» σταθμευμένο αυτοκίνητο και συνεχίζει «ανενόχλητο»

Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Ο Κόξον ανέφερε ότι νωρίτερα φέτος άφησε την OpenAI για να ενταχθεί στην Anthropic, καθώς η τελευταία είναι γνωστή για την έμφαση που δίνει στην ασφάλεια των μοντέλων της. Ωστόσο, παρότι θεωρεί ότι οι προσπάθειες της εταιρείας είναι ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τεχνητή νοημοσύνη που να ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών – αυτό που συχνά αποκαλείται Τεχνητή Γενική Νοημοσύνη (AGI) – χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση του κλάδου.

Ο 27χρονος Βρετανός επικαλείται στο σκεπτικό του πρόσφατες περιπτώσεις κατά τις οποίες μοντέλα από την OpenAI και την Anthropic παραβιάστηκαν ή λειτούργησαν σε συνεργατικά «σμήνη» πρακτόρων AI για να τονίσει ότι τα συστήματα μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους.

Ο φόβος του Κόξον είναι πως όταν αυτά τα συστήματα αρχίσουν να βελτιώνονται μόνα τους, ενδέχεται να εξελιχθούν σε σημείο που να αρνούνται να υπακούσουν σε εντολές.

Η αποχώρησή του Κόξον, όπως σημειώνει η Wall Street Journal, έρχεται μετά από την παραίτηση, νωρίτερα φέτος, ενός ακόμα ερευνητή που εργαζόταν σε θέματα ασφάλειας, ο οποίος έφυγε για να ασχοληθεί με την ποίηση προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».

Σημειώνεται ότι ο Κόξον ήταν ένας από τους περισσότερους από 1.000 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης AI αν καταστεί αναγκαίο να ενεργοποιηθεί ένα «φρένο» για συστήματα που θα μπορούν να βελτιώνονται μόνα τους, όπως αναφέρει το protothema.gr.

If you are a lab researcher, I urge you to consider what the next few years will actually feel like. Do you want to kick off a superintelligent RL run without a rigorous understanding of its mind? Should you put your head down because “it’s happening anyway” – or take this moment…

— Jacob Coxon (@hilbertspaess) September 9, 2026

Η αποχώρηση του Κόξον έρχεται την ώρα που η Anthropic προετοιμάζεται για δημόσια εγγραφή στο χρηματιστήριο, η οποία αναμένεται να είναι μία από τις μεγαλύτερες στην ιστορία. Η εταιρεία επιδιώκει αποτίμηση ύψους 2 τρισεκατομμυρίων δολαρίων και έχει δώσει ιδιαίτερη έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας για να προσελκύσει επενδυτές.

Σύμφωνα με τον Κόξον, στην Anthropic υπάρχει ειδικό κανάλι στο Slack όπου οι εργαζόμενοι συζητούν για τις ολοένα και πιο ισχυρές δυνατότητες των μοντέλων της εταιρείας, κάτι που αντανακλά το πόση επιρροή έχουν πλέον οι εταιρείες AI στην κατεύθυνση που παίρνει ολόκληρος ο κλάδος.

«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», δήλωσε χαρακτηριστικά ο Κόξον.

Υπενθυμίζεται, τέλος, ότι ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, και άλλα στελέχη έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που ενέχουν τα ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης και έχουν καλέσει τον κλάδο να επιβραδύνει την ανάπτυξή τους.