Μία αυξανόμενη ανησυχία γύρω από τον ρόλο και τους κινδύνους της τεχνητής νοημοσύνης πυροδοτήθηκε από την παραίτηση στελέχους της εταιρείας Anthropic, συνοδευόμενη από μία ιδιαίτερα «μαύρη» πρόβλεψη για το μέλλον της ανθρωπότητας. Ο Τζέικομπ Κόξον (Jacob Coxon) παραιτήθηκε από την Anthropic μετά από μόλις τέσσερις μήνες εργασίας.

Στο X (πρώην Twitter) έγραψε: «Οι άνθρωποι που αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Ένα ανώτερο στέλεχος της Anthropic, ο Έβαν Χούμπινγκερ (Evan Hubinger), συμφώνησε με τον Κόξον, εκτιμώντας προσωπικά ότι η πιθανότητα να συμβεί κάτι τέτοιο την επόμενη δεκαετία ξεπερνά το 10%.

Η δήλωση αυτή άνοιξε εκ νέου τη συζήτηση για την ανάγκη επιβράδυνσης της ανάπτυξης της τεχνητής νοημοσύνης και ενίσχυσης του ανθρώπινου ελέγχου. Πόσο πιθανό είναι όμως πράγματι η ΑΙ να οδηγήσει στην εξαφάνιση του ανθρώπινου είδους; Σύμφωνα με τη Daily Mail, υπάρχουν πέντε κυρίαρχα σενάρια, όπως τα καταγράφει το βιβλίο του Toby Walsh «Τεχνητή Νοημοσύνη: άνθηση ή καταστροφή;». Τα παρουσιάζουμε σε αντίστροφη σειρά, με το τελευταίο να θεωρείται το πιθανότερο.

Γιατί δεν θα μάθουμε ποτέ πώς θα μας εξοντώσει η τεχνητή νοημοσύνη;

Το πρώτο σενάριο υποστηρίζει ότι πιθανότατα δεν μπορούμε καν να φανταστούμε τη μορφή που θα λάβει η καταστροφή. Θα έπρεπε και οι ίδιοι οι άνθρωποι να διαθέτουν υπερνοημοσύνη προκειμένου να προβλέψουν τις ενέργειες μιας υπερνοήμονος μηχανής.

Το καλό νέο είναι ότι η υπερνοημοσύνη έχει ακόμη δρόμο μπροστά της. Τα σημερινά μοντέλα τεχνητής νοημοσύνης είναι πολύ καλά σε συγκεκριμένα προβλήματα, χωρίς αυτό να σημαίνει ότι είναι πιο έξυπνα από τον άνθρωπο σε κάθε τομέα. Ωστόσο, η ΑΙ έλυσε πρόσφατα ένα από τα επτά πιο δύσκολα μαθηματικά προβλήματα που είναι γνωστά, γεγονός που δείχνει ότι πλησιάζει και άλλα.

Το σενάριο των «συνδετήρων»: πώς η ΑΙ θα εξαφάνιζε τους ανθρώπους χωρίς κακία;

Μια υπερευφυής τεχνητή νοημοσύνη θα ήταν πιθανότατα εξαιρετικά ικανή στην επίτευξη των στόχων της, χωρίς όμως απαραίτητα να ενδιαφέρεται για την επιβίωση της ανθρωπότητας. Κλασικό παράδειγμα αποτελεί η φανταστική υπερευφυής ΑΙ του φιλοσόφου της Οξφόρδης Νικ Μπόστρομ (Nick Bostrom), σχεδιασμένη να βελτιστοποιεί την παραγωγή συνδετήρων και να μετατρέπει κάθε διαθέσιμη ύλη -ανθρώπους, πλανήτες, αστέρια- σε συνδετήρες.

Η ΑΙ δεν θα μισούσε την ανθρωπότητα· θα αναγνώριζε απλώς ότι αποτελούμαστε από άτομα που θα μπορούσαν να αξιοποιηθούν καλύτερα για την παραγωγή συνδετήρων. Το καλό νέο είναι ότι το σενάριο αυτό συγχέει τη νοημοσύνη με τη δύναμη: μια υπερευφυής ΑΙ δεν διαθέτει απαραίτητα τη δύναμη να επιβάλει τους στόχους της, καθώς η μετατροπή του πλανήτη σε εργοστάσιο συνδετήρων θα προκαλούσε αλυσιδωτές αντιδράσεις και κόστος που θα την ανέκοπταν.

Μπορεί η τεχνητή νοημοσύνη να δημιουργήσει βιολογικό όπλο;

Ένα άλλο σενάριο θέλει την ανθρωπότητα να εξοντώνεται από μια υπερευφυή ΑΙ που δημιουργεί και απελευθερώνει επικίνδυνο νέο βιολογικό όπλο στην ατμόσφαιρα. Πρόκειται, στην πραγματικότητα, για ένα από τα ενδεχόμενα αποτελέσματα του σεναρίου «AI 2027» του μη κερδοσκοπικού οργανισμού AI Futures Project, που ασχολείται με την πρόβλεψη των επιπτώσεων της προηγμένης ΑΙ.

Ο κίνδυνος έγινε πιο συγκεκριμένος τον περασμένο μήνα, όταν ερευνητές του Πανεπιστημίου του Στάνφορντ ανακοίνωσαν ότι χρησιμοποίησαν μοντέλο τεχνητής νοημοσύνης με γενετική γλώσσα για να συνθέσουν 16 νέους ιούς. Έστειλαν απλώς τις γενετικές αλληλουχίες σε εργαστήριο που λειτουργεί μέσω αλληλογραφίας, το οποίο τους έστειλε πίσω τους ιούς σε δοκιμαστικούς σωλήνες, με το σύνολο του πειράματος να κοστίζει το πολύ μερικές εκατοντάδες χιλιάδες δολάρια.

Το καλό νέο είναι ότι είναι εξαιρετικά δύσκολο να σκοτωθούν όλοι με έναν νέο ιό, καθώς οι ιοί που εξαπλώνονται εύκολα είναι συνήθως λιγότερο θανατηφόροι, ενώ οι πολύ θανατηφόροι τείνουν να έχουν μικρότερη μεταδοτικότητα. Ο COVID σκότωσε λιγότερο από το 1% της ανθρωπότητας, ενώ η πιο θανατηφόρα πανδημία στην ιστορία, ο Μαύρος Θάνατος, σκότωσε πάνω από το ένα τρίτο του πληθυσμού της Ευρώπης τον 13ο αιώνα.

Θα μπορούσε η ΑΙ να προκαλέσει πυρηνικό πόλεμο;

Ένα τέταρτο σενάριο εξετάζει τι θα γινόταν αν η τεχνητή νοημοσύνη εισχωρούσε στην αλυσίδα διοίκησης και ελέγχου των πυρηνικών όπλων και πυροδοτούσε πυρηνικό πόλεμο. Τα τελευταία 50 χρόνια η ανθρωπότητα έχει φτάσει κοντά σε πυρηνικό πόλεμο κατά λάθος αρκετές φορές. Μας λένε ότι το σύστημα διοίκησης και ελέγχου των πυρηνικών όπλων είναι αποσυνδεδεμένο από το διαδίκτυο, όμως το 2010 οι πυρηνικοί φυγοκεντρωτές του Ιράν καταστράφηκαν από τον ιό υπολογιστή Stuxnet, που πιστεύεται ότι εισήχθη μέσω USB stick.

Η τεχνητή νοημοσύνη θα μπορούσε επίσης να παρέχει ψευδείς πληροφορίες στον στρατό, οδηγώντας σε ανεπανόρθωτες αποφάσεις. Το καλό νέο είναι ότι τα πυρηνικά αποθέματα έχουν μειωθεί τα τελευταία χρόνια. Ωστόσο, εξακολουθούν να είναι αρκετά για να εξοντώσουν το ήμισυ του παγκόσμιου πληθυσμού, όχι λόγω της ίδιας της έκρηξης, αλλά εξαιτίας της πείνας που θα ακολουθούσε τον πυρηνικό χειμώνα.

Είναι οι ίδιοι οι άνθρωποι ο μεγαλύτερος κίνδυνος από την τεχνητή νοημοσύνη;

Το πέμπτο και -σύμφωνα με το βιβλίο του Toby Walsh- πιθανότερο σενάριο είναι ότι ο μεγαλύτερος κίνδυνος είμαστε εμείς οι ίδιοι, με την τεχνητή νοημοσύνη να επιταχύνει αυτή την εξέλιξη. Η ΑΙ θα μπορούσε να προκαλέσει μαζικές απώλειες θέσεων εργασίας, να τροφοδοτήσει την παραπληροφόρηση, να διχάσει την πολιτική σκηνή και να διαβρώσει τις ανθρώπινες σχέσεις μέσω ψεύτικης, συνθετικής συντροφιάς.

Υπό αυτές τις συνθήκες, η κοινωνία θα μπορούσε εύκολα να καταρρεύσει -όχι απότομα, αλλά σιγά-σιγά και σταθερά, μέσα από τη διάβρωση των θεμελίων που κρατούν σήμερα τις ανθρώπινες κοινωνίες ενωμένες.