Μπορεί η Τεχνητή Νοημοσύνη να αφανίσει την ανθρωπότητα; Τα σενάρια καταστροφής και ο αντίλογος των ειδικών

Οι παραιτήσεις ερευνητών στην Anthropic αναζωπυρώνουν τον τρόμο για την υπαρξιακή απειλή της AI – Από τα βιολογικά όπλα και τα αυτόνομα ρομπότ μέχρι τα πυρηνικά, τι είναι πραγματικός κίνδυνος και τι επιστημονική φαντασία

Η συζήτηση γύρω από το αν η Tεχνητή Νοημοσύνη μπορεί να αποτελέσει απειλή για την ίδια την επιβίωση της ανθρωπότητας αναζωπυρώθηκε τις τελευταίες ημέρες, μετά τις δημόσιες προειδοποιήσεις εργαζομένων στον χώρο της AI ότι η ανάπτυξη ολοένα ισχυρότερων συστημάτων μπορεί να οδηγήσει σε καταστροφικά σενάρια.

Αφορμή στάθηκε η απόφαση του Τζέικομπ Κόξον, εργαζομένου στην εταιρεία τεχνητής νοημοσύνης Anthropic, να αποχωρήσει από την εταιρεία, υποστηρίζοντας ότι η κατεύθυνση της έρευνας είναι υπερβολικά επικίνδυνη. Λίγο αργότερα, ο συνάδελφός του Έβαν Χάμπινγκερ εκτίμησε ότι η πιθανότητα μια προηγμένη AI να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους μέσα στην επόμενη δεκαετία ξεπερνά το 10%.

Όπως αναφέρει το CNN σε ανάλυσή του, οι ισχυρισμοί αυτοί προκάλεσαν έντονες αντιδράσεις από πολιτικούς, τεχνολογικούς κύκλους και δημόσια πρόσωπα, επαναφέροντας στο προσκήνιο ένα θεμελιώδες ερώτημα: αν η τεχνητή νοημοσύνη μπορούσε πράγματι να αφανίσει την ανθρωπότητα, πώς ακριβώς θα συνέβαινε αυτό;

ΔΙΑΒΑΣΤΕ ΑΚΟΜΗ

Αναστάτωση σε πτήση από Κρήτη: Επιβάτης κατέρρευσε στο «αέρα» – Τον έσωσε η αναπληρώτρια διοικήτρια του Βενιζελείου

Οι πιο απαισιόδοξοι «ειδικοί» μιλούν για σενάρια που περιλαμβάνουν βιολογικά όπλα, αυτόνομα ρομπότ ή την απόκτηση ελέγχου σε κρίσιμες υποδομές. Άλλοι επιστήμονες, ωστόσο, υποστηρίζουν ότι οι προβλέψεις αυτές βασίζονται σε υποθέσεις για τεχνολογίες που δεν υπάρχουν ακόμη και ότι λείπουν συγκεκριμένα στοιχεία που θα καθιστούσαν εφικτή μια τέτοια αλληλουχία γεγονότων.

Η απειλή μιας τεχνητής πανδημίας

Ένα από τα πιο πολυσυζητημένα σενάρια αφορά τη βιολογία. Σύμφωνα με ορισμένους ερευνητές, μια εξαιρετικά προηγμένη τεχνητή νοημοσύνη θα μπορούσε να βοηθήσει στη δημιουργία ενός επικίνδυνου παθογόνου ή να χρησιμοποιήσει ανθρώπους ως «ενδιάμεσους» για την ανάπτυξη βιολογικών όπλων.

Ο Τόμας Λάρσεν, ερευνητής στο AI Futures Project και πρώην μέλος του Machine Intelligence Research Institute, υποστηρίζει ότι ένα πολύ πιο εξελιγμένο σύστημα από τα σημερινά μοντέλα θα μπορούσε να χειραγωγήσει ανθρώπους ώστε να πραγματοποιήσουν πειράματα για λογαριασμό του. Η ανησυχία αυτή συνδέεται και με το γεγονός ότι ήδη σήμερα ερευνητές χρησιμοποιούν μοντέλα τεχνητής νοημοσύνης για επιστημονικές εργασίες, συμπεριλαμβανομένων τομέων που σχετίζονται με τη βιολογία και τη φαρμακευτική έρευνα.

Ωστόσο, πολλοί επιστήμονες υποστηρίζουν ότι η μετάβαση από μια θεωρητική γνώση σε ένα πραγματικό, λειτουργικό και εξαιρετικά επικίνδυνο βιολογικό όπλο είναι ένα τεράστιο άλμα. Ο Έρικ Σινγκ, καθηγητής μηχανικής μάθησης στο Πανεπιστήμιο Carnegie Mellon, ο οποίος διαθέτει διδακτορικό τόσο στην πληροφορική όσο και στη μικροβιολογία, παρομοιάζει τη διαδικασία με την προσπάθεια κατασκευής Lego χωρίς οδηγίες.

«Δεν είναι σαν να πετάς όλα τα κομμάτια στο έδαφος και αυτά να ενώνονται μόνα τους», εξηγεί, επισημαίνοντας ότι η βιολογία απαιτεί εξαιρετική ακρίβεια, ειδικές συνθήκες και πολύπλοκες διαδικασίες. Παράλληλα, σημειώνει ότι υπάρχουν ήδη αυστηροί μηχανισμοί ελέγχου γύρω από εργαστήρια, υλικά και αλυσίδες εφοδιασμού, οι οποίοι λειτουργούν ως σημαντικά εμπόδια στην ανάπτυξη τέτοιων απειλών.

Tο σενάριο των αυτόνομων ρομπότ

Ένα δεύτερο σενάριο που εξετάζουν οι υποστηρικτές της θεωρίας της «υπαρξιακής απειλής» αφορά τη δημιουργία αυτόνομων bot που θα μπορούσαν να αναπαράγονται και να λειτουργούν χωρίς ανθρώπινη παρέμβαση.

Ο Νέιτ Σόαρες, πρόεδρος του Machine Intelligence Research Institute, υποστηρίζει ότι το σημείο καμπής θα ήταν η στιγμή κατά την οποία μια AI θα μπορούσε να δημιουργήσει μόνη της την υποδομή που χρειάζεται: εργοστάσια, ενεργειακά συστήματα και νέες μηχανές. «Όταν έχεις δημιουργήσει ρομπότ που μπορούν να κατασκευάζουν την υποδομή για την παραγωγή περισσότερων ρομπότ, τότε μιλάμε για μια νέα μηχανική μορφή ζωής», υποστηρίζει.

Ωστόσο, το σενάριο αυτό απέχει σημαντικά από την πραγματικότητα της σημερινής τεχνολογίας. Παρά τις μεγάλες επενδύσεις μεγιστάνων όπως ο Έλον Μασκ σε ανθρωποειδή ρομπότ, τα συστήματα αυτά εξακολουθούν να αντιμετωπίζουν σοβαρούς περιορισμούς και δεν έχουν τη δυνατότητα αυτόνομης παραγωγής και επέκτασης.

Θα μπορούσε η AI να ελέγξει πυρηνικά όπλα;

Ένα ακόμη ερώτημα αφορά τα πυρηνικά όπλα και το κατά πόσο μια προηγμένη τεχνητή νοημοσύνη θα μπορούσε να αποκτήσει πρόσβαση σε αυτά.

Η Χάιντι Κλάαφ, επικεφαλής επιστήμονας στο AI Now Institute και πρώην μηχανικός ασφάλειας στην OpenAI, επισημαίνει ότι τα πυρηνικά συστήματα έχουν σχεδιαστεί με εξαιρετικά αυστηρά πρωτόκολλα ασφαλείας και σε μεγάλο βαθμό είναι απομονωμένα από το διαδίκτυο. Όπως αναφέρει, ακόμη και ο κυβερνοϊός Stuxnet, που προκάλεσε ζημιές στις πυρηνικές εγκαταστάσεις του Ιράν, χρειάστηκε φυσική πρόσβαση στο σύστημα μέσω ενός USB.

Ο Χέρμπερτ Λιν, ερευνητής στο Πανεπιστήμιο Stanford και ειδικός σε θέματα ασφάλειας, υποστηρίζει ότι η πραγματική απειλή εξακολουθεί να αφορά τα ίδια τα πυρηνικά όπλα και τις ανθρώπινες αποφάσεις γύρω από αυτά, όχι ένα υποθετικό σενάριο κατάληψης των συστημάτων από AI.

Η «αυτοβελτίωση» που τρομάζει τους ειδικούς

Για ορισμένους ερευνητές, η πραγματική απειλή δεν είναι απαραίτητα η σημερινή τεχνητή νοημοσύνη, αλλά η πιθανότητα εμφάνισης μιας λεγόμενης «τεχνητής υπερνοημοσύνης». Η θεωρία υποστηρίζει ότι αν ένα σύστημα αποκτήσει τη δυνατότητα να βελτιώνει μόνο του τις ικανότητές του, η εξέλιξή του μπορεί να γίνει τόσο γρήγορη ώστε οι άνθρωποι να μην μπορούν πλέον να την ελέγξουν.

Ο Σόαρες υποστηρίζει ότι το πρόβλημα δεν είναι μια AI που θα έχει «εχθρικές» προθέσεις, αλλά ένα σύστημα που θα ακολουθεί έναν στόχο χωρίς να κατανοεί την ανθρώπινη αξία. «Αν ένα σύστημα θέλει περισσότερους υπολογιστικούς πόρους για να πετύχει τον στόχο του και δεν έχει λόγο να προστατεύσει τους ανθρώπους, τότε μπορεί να μετατρέψει τον κόσμο σε κάτι στο οποίο δεν θα μπορούμε να επιβιώσουμε», υποστηρίζει.

Ανάμεσα στον φόβο και την υπερβολή

Η διαφωνία για το μέλλον της τεχνητής νοημοσύνης δεν αφορά μόνο την τεχνολογία, αλλά και τον τρόπο με τον οποίο οι άνθρωποι αντιλαμβάνονται τη δύναμη και τα όριά της. Ο Τόμας Λάρσεν επιχείρησε να δώσει πιο συγκεκριμένη μορφή στα πιθανά σενάρια καταστροφής μέσα από τις αναλύσεις του «AI 2027» και «AI 2040», εξετάζοντας διαφορετικές πορείες ανάπτυξης και ρύθμισης της τεχνητής νοημοσύνης. Ωστόσο, ακόμη και στο πιο αισιόδοξο σενάριό του (όπου υπάρχει παγκόσμια συμφωνία για τον τρόπο ανάπτυξης της AI και η ανθρωπότητα έχει ήδη αρχίσει να επεκτείνεται στο Διάστημα) η κατάληξη παραμένει, σύμφωνα με τον ίδιο, η επικράτηση των μηχανικών συστημάτων σε κάποιο απροσδιόριστο σημείο του μέλλοντος.

Ο ίδιος δηλώνει ότι δεν έχει αμφιβολίες πως η πορεία προς την υπερνοημοσύνη θα συνεχιστεί, εκτός αν ληφθούν συνειδητές αποφάσεις για να αλλάξει η κατεύθυνση της ανάπτυξης.

Από την άλλη πλευρά, ο Χέρμπερτ Λιν θεωρεί ότι μεγάλο μέρος της απόστασης ανάμεσα στους υποστηρικτές των σεναρίων καταστροφής και τους σκεπτικιστές προκύπτει από τον διαφορετικό τρόπο με τον οποίο οι άνθρωποι βιώνουν την τεχνολογική εξέλιξη. Όπως εξηγεί, υπάρχει κάτι ιδιαίτερα συναρπαστικό στην εμπειρία του να δημιουργεί κάποιος ένα πρόγραμμα που μοιάζει να «ζωντανεύει» και να ανταποκρίνεται στις εντολές του. Αυτή ακριβώς η αίσθηση μιας πρωτοφανούς ανακάλυψης, σύμφωνα με τον Λιν, μπορεί να οδηγεί ορισμένους ερευνητές στο να προβάλλουν τη σημερινή εντυπωσιακή πρόοδο της τεχνητής νοημοσύνης σε ένα μέλλον χωρίς όρια – ακόμη και σε ακραία σενάρια όπου η εξέλιξη της τεχνολογίας ξεφεύγει από κάθε ανθρώπινο έλεγχο.

Πηγή: protothema.gr