Ανώτερος ερευνητής της Anthropic δήλωσε την Τρίτη ότι πολλοί στην εταιρεία πιστεύουν πως η τεχνητή νοημοσύνη θα μπορούσε να εξαλείψει την ανθρωπότητα, προειδοποιώντας ότι η εταιρεία δεν βρίσκεται σε καλό δρόμο για να λύσει το ζήτημα της ευθυγράμμισης των στόχων της τεχνητής νοημοσύνης με αυτούς των ανθρώπων, παρά τις προσπάθειές της. Η δήλωση ήρθε μία ημέρα μετά την παραίτηση ενός άλλου ερευνητή της εταιρείας, ο οποίος την κατηγόρησε ότι δεν ενεργεί υπεύθυνα.

Ο Έβαν Χάμπινγκερ (Evan Hubinger), επικεφαλής της επιστήμης ευθυγράμμισης στην Anthropic, έγραψε στο X ότι ο ίδιος και οι συνάδελφοί του «πιστεύουν ειλικρινά ότι η τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει όλους τους ανθρώπους», εκτιμώντας ότι η πιθανότητα αυτή υπερβαίνει το 10% την επόμενη δεκαετία. Σύμφωνα με τον ίδιο, η εταιρεία «καταβάλλει κάθε δυνατή προσπάθεια», αλλά δεν διαθέτει ακόμη σχέδιο για την «ευθυγράμμιση της υπερνοημοσύνης» και δεν βρίσκεται σαφώς σε καλό δρόμο προς αυτή την κατεύθυνση.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Ποιος είναι ο Τζέικομπ Κόξον και γιατί παραιτήθηκε από την Anthropic;

Η ανάρτηση του Χάμπινγκερ αποτελούσε απάντηση σε νήμα στο X από άλλον ερευνητή της Anthropic, τον Τζέικομπ Κόξον (Jacob Coxon), ο οποίος ανακοίνωσε την παραίτησή του από την εταιρεία λόγω ανησυχιών για την ασφάλεια της τεχνητής νοημοσύνης, όπως σημειώνει το Forbes.

Ο Κόξον, που είχε εργαστεί σε έρευνα προ-εκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic, προειδοποίησε ότι οι ανταγωνιστικές εταιρείες δεν ενεργούν υπεύθυνα, καθώς «σπεύδουν κατευθείαν προς την αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας». Σημείωσε ότι όσοι αναπτύσσουν την τεχνητή νοημοσύνη πιστεύουν πως αυτή θα μπορούσε να «μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας» και ότι αυτό δεν αποτελεί «διαφημιστικό τέχνασμα».

Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Τι απαντά ο Χάμπινγκερ για τους κινδύνους της υπερνοημοσύνης

Σε επόμενη ανάρτησή του, ο Χάμπινγκερ επικαλέστηκε την τελευταία έκθεση κινδύνου της Anthropic, δηλώνοντας ότι η απειλή από τα σημερινά μοντέλα είναι χαμηλή. «Αυτό που με ανησυχεί είναι η υπερνοημοσύνη που προκύπτει από την αναδρομική αυτοβελτίωση, η οποία, όπως έχουμε πει, εξελίσσεται ταχύτερα από ό,τι πιστεύαμε», ανέφερε.

Η εφημερίδα The Wall Street Journal ήταν η πρώτη που ανέφερε την αποχώρηση του Κόξον, ο οποίος δήλωσε στην εφημερίδα ότι πιστεύει πως ο κόσμος οδεύει προς «πολλά από τα πιο επιθετικά σενάρια, όπου μέχρι το τέλος του επόμενου έτους η κατάσταση θα μπορούσε να έχει ήδη ξεφύγει από τον έλεγχο».

Η σύγκριση Anthropic - OpenAI και το κάλεσμα για επιβράδυνση της τεχνητής νοημοσύνης

Στις αναρτήσεις του, ο Κόξον συνέκρινε την εργασία στην OpenAI με αυτή στην Anthropic, επισημαίνοντας ότι το προσωπικό της εταιρείας που δημιούργησε το ChatGPT δεν έχει «εσωτερικεύσει βαθιά τα διακυβεύματα για τον πολιτισμό». Στην Anthropic, είπε, τα διακυβεύματα «γίνονται πλήρως κατανοητά», όμως η εταιρεία «έχει εγκλωβιστεί σε έναν αγώνα για να φτάσει πρώτη στον στόχο», πιστεύοντας ότι «κανείς άλλος δεν θα ενεργήσει υπεύθυνα, οπότε πρέπει να το κάνουν οι ίδιοι, παρά τον κίνδυνο».

Η προειδοποίηση και η παραίτηση έρχονται εν μέσω πίεσης από κορυφαίους ερευνητές και στελέχη του κλάδου για επιβράδυνση της ανάπτυξης προηγμένης τεχνητής νοημοσύνης. Τον Ιούλιο, δήλωση υπέγραψαν μεταξύ άλλων οι συνιδρυτές της Anthropic Ντάριο Αμοντέι (Dario Amodei) και Τζάρεντ Κάπλαν (Jared Kaplan), ο επικεφαλής επιστήμονας της OpenAI Γιάκουμπ Πατσότσκι (Jakub Pachocki), και ο επικεφαλής επιστήμονας της Meta AI Σενγκζία Τζάο (Shengjia Zhao). Η δήλωση ζητούσε από τη βιομηχανία, την κυβέρνηση και την κοινωνία «χρόνο για να αντιμετωπίσουν τους αναδυόμενους κινδύνους, να αναπτύξουν μέτρα ασφαλείας και να ενισχύσουν την εποπτεία», καλώντας την κυβέρνηση των ΗΠΑ να στηρίξει διεθνή προσπάθεια για ελεγχόμενο ρυθμό ανάπτυξης της αυτοματοποιημένης τεχνητής νοημοσύνης.

Σε ανάρτηση σε μπλογκ την Κυριακή, ο Πατσότσκι επανέλαβε τις προειδοποιήσεις, σημειώνοντας ότι πιστεύει πως «κανένα εργαστήριο δεν έχει επιλύσει τα ζητήματα της ευθυγράμμισης και της παρακολούθησης σε επαρκή βαθμό, ώστε να συνεχίσει να επεκτείνεται υπεύθυνα με τη μέγιστη ταχύτητα για πολύ περισσότερο χρόνο».