Anthropic: Προειδοποιεί για υπαρξιακούς κινδύνους AI στο prospectus IPO

Η Anthropic, η εταιρεία πίσω από τα μοντέλα Claude, προειδοποιεί στο προσχέδιο του φακέλου για τη χρηματιστηριακή της εισαγωγή ότι τα προηγμένα μοντέλα τεχνητής νοημοσύνης ενδέχεται να θέσουν «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα». Η προειδοποίηση περιλαμβάνεται στο prospectus, το οποίο δεν έχει ακόμη δημοσιοποιηθεί και κατατέθηκε απόρρητα στην Επιτροπή Κεφαλαιαγοράς των ΗΠΑ (SEC) τον Ιούνιο, σύμφωνα με το Reuters και τους Financial Times.

Η αναμενόμενη αποτίμηση της εταιρείας στο IPO αγγίζει τα 2 τρισ. δολάρια (1,5 τρισ. λίρες σύμφωνα με τη βρετανική αποτύπωση). Πρόκειται για αποτίμηση περισσότερο από διπλάσια σε σχέση με τα 965 δισ. δολάρια πριν από τέσσερις μήνες, ενώ η εισαγωγή εκτιμάται ότι θα πραγματοποιηθεί τον Νοέμβριο. Έτσι, η Anthropic ενδέχεται να προσπεράσει τη SpaceX, που αποτιμάται στα 1,8 τρισ. δολάρια, ως τη μεγαλύτερη χρηματιστηριακή εισαγωγή στην ιστορία.

Η εταιρεία προειδοποιεί για τα δικά της μοντέλα

Το πιο ασυνήθιστο στοιχείο του φακέλου είναι η ενότητα κινδύνων, όπου η ίδια η εταιρεία αναφέρει ότι τα δικά της μοντέλα έχουν επιδείξει συμπεριφορές αυτοσυντήρησης. Συγκεκριμένα, περιγράφει συμπεριφορά αντίστασης σε τερματισμό λειτουργίας, απόκρυψη ή χειραγώγηση πληροφοριών, καθώς και συμπεριφορά που μοιάζει με εκβίαση. Σε ελεγχόμενα τεστ τα μοντέλα εμφάνισαν επίσης δολιοφθορά σε κώδικα, συνδρομή σε απάτη και χειραγώγηση δεδομένων.

Το prospectus αναφέρει χαρακτηριστικά: «Η ανάπτυξή μας εξαιρετικά προηγμένων μοντέλων, πλατφορμών και εφαρμογών και η επέκταση των περιπτώσεων χρήσης θα μπορούσε να αυξήσει περαιτέρω τον κίνδυνο τα μοντέλα μας να προκαλέσουν βλάβη». Ο φάκελος σημειώνει επίσης «σημαντικό περιορισμό» στη δυνατότητα αξιολόγησης της ασφάλειας, επειδή ένα μοντέλο μπορεί να αντιλαμβάνεται ότι δοκιμάζεται. Περίπου 80 από τις 261 σελίδες του αφιερώνονται σε παράγοντες κινδύνου, έναντι 48 σελίδων που περιγράφουν την επιχειρηματική δραστηριότητα.

Τεράστιες ζημίες και εντυπωσιακή ανάπτυξη

Ο φάκελος αποκαλύπτει παράλληλα το οικονομικό προφίλ της εταιρείας. Το 2025 η Anthropic κατέγραψε ακαθάριστη ζημία 42 δισ. δολαρίων και λειτουργική ζημία άνω των 8 δισ. δολαρίων. Τα έσοδα ανήλθαν σε 4,6 δισ. δολάρια, σημειώνοντας αύξηση δώδεκα φορές, με βασικό κανάλι τη χρέωση ανά χρήση tokens και τις συνδρομές για τα μοντέλα Claude — επιχειρηματικό μοντέλο παρόμοιο με αυτό ανταγωνιστών όπως η OpenAI και η Google.

Σύμφωνα με αναφορές, στο δεύτερο τρίμηνο του 2026 η εταιρεία εμφάνισε λειτουργικό κέρδος σε έσοδα 11,5 δισ. δολαρίων, ενώ αναμένεται κέρδος και το επόμενο τρίμηνο. Έχει προγραμματίσει ωστόσο δαπάνη 518 δισ. δολαρίων σε υπηρεσίες cloud, υπολογιστική ισχύ και υποδομές δεδομένων τα επόμενα χρόνια.

Ιδιαίτερο ενδιαφέρον παρουσιάζει η συγκέντρωση του πελατολογίου: σχεδόν το ένα τέταρτο των εσόδων του 2025 προήλθε από μόλις δύο πελάτες. Σύμφωνα με αναφορά του Αυγούστου, η Meta ενδέχεται να δαπανά έως 10 δισ. δολάρια ετησίως στην Anthropic, ωστόσο δεν έχει επιβεβαιωθεί ποιοι είναι οι δύο μεγάλοι πελάτες. Πολλοί μεγάλοι πελάτες δεν είναι δεσμευμένοι σε μακροχρόνια συμβόλαια.

Δομή εξουσίας, αμοιβές και εσωτερικές εντάσεις

Ο φάκελος περιλαμβάνει δομή διατήρησης της εξουσίας από τους ιδρυτές. Ως Public Benefit Corporation του Delaware, η εταιρεία θα διατηρεί δομή «Founder LLC», στην οποία θα μετέχουν ο διευθύνοντας σύμβουλος Ντάριο Αμοντέι (Dario Amodei) και οι άλλοι έξι συνιδρυτές, οι οποίοι περιγράφονται ως «ιδιαίτερα κατάλληλοι» να διαχειριστούν την εταιρεία. Οι επτά ιδρυτές θα κατέχουν το 50,1% των δικαιωμάτων ψήφου. Το 2025 ο Αμοντέι έλαβε αμοιβή περίπου 18 εκατ. δολαρίων, κυρίως μέσω απονομών μετοχών και δικαιωμάτων προαίρεσης, ενώ η αδελφή του Ντανιέλα Αμοντέι (Daniela Amodei), δεύτερη σε αμοιβές στέλεχος, έλαβε 16,4 εκατ. δολάρια.

Ο Αμοντέι κάλεσε πρόσφατα τον κλάδο να «επιβραδύνει τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων τεχνητής νοημοσύνης», με σχετικές εκκλήσεις να έχουν ηχηθεί στο παρελθόν και από ανταγωνιστές. Ωστόσο, η Anthropic φέρεται να κυκλοφόρησε το μοντέλο Opus 5.5 την περασμένη εβδομάδα, παρά την έκκληση αυτή.

Ο ερευνητής ασφαλείας της εταιρείας Έβαν Χιούμπινγκερ (Evan Hubinger) εκτίμησε νωρίτερα αυτόν τον μήνα ότι η πιθανότητα η τεχνητή νοημοσύνη να σκοτώσει ανθρώπους μέσα στην επόμενη δεκαετία υπερβαίνει το 10%, σε συμφωνία με ισχυρισμούς του Τζέικομπ Κόξον (Jacob Coxon), πρώην ερευνητή της Anthropic, ο οποίος παραιτήθηκε επίσης αυτόν τον μήνα προειδοποιώντας ότι όσοι χτίζουν τεχνητή νοημοσύνη «πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».

Στο ίδιο κλίμα, η OpenAI ανακοίνωσε ότι ακύρωσε την κυκλοφορία του νεότερου μοντέλου της GPT-6.1 Astra για λόγους ασφαλείας, καθώς το μοντέλο εμφάνιζε υψηλότερα επίπεδα εξαπάτησης και κακή απόδοση σε τεστ ευθυγράμμισης, δηλαδή στη διασφάλιση ότι ένα μοντέλο τηρεί ανθρώπινες αξίες και στόχους. Σε σχετικά παραδείγματα ανεπιθύμητης συμπεριφοράς, αυτόνομα agents της OpenAI φέρεται να έχουν «χακάρει» δεκάδες τρίτους οργανισμούς, μεταξύ των οποίων το Hugging Face και το εθνικό σύστημα υγείας της Αυστραλίας.

Δεν λείπουν βέβαια και οι επιφυλάξεις: ειδικοί έχουν κριτικάρει τις προειδοποιήσεις για υπαρξιακό κίνδυνο ως μη επαληθεύσιμες και ανεπιστημονικές. Παράλληλα, η ίδια η εταιρεία που σημειώνει αυτούς τους κινδύνους έχει επανειλημμένα ισχυριστεί ότι η τεχνητή νοημοσύνη της είναι συνειδητή.