Οι ερευνητές «χάκαραν» την OpenAI με το Claude της Anthropic

Ερευνητές κυβερνοασφάλειας της εταιρείας Hacktron απέκτησαν πρόσβαση σε εσωτερικά στοιχεία και λογαριασμούς εργαζομένων της OpenAI, χρησιμοποιώντας το μοντέλο τεχνητής νοημοσύνης Claude της Anthropic. Η ενέργεια χαρακτηρίζεται εξουσιοδοτημένος έλεγχος ασφαλείας και όχι κακόβουλη ενέργεια, ενώ ο στόχος της σχετιζόταν με το ChatGPT της OpenAI.

Η ομάδα ανήκει στη Hacktron AI, νεοφυή εταιρεία κυβερνοασφάλειας, η οποία αξιοποίησε ένα ανταγωνιστικό προϊόν — το chatbot της Anthropic — για να δοκιμάσει τις άμυνες της OpenAI, μία από τις πιο δημοφιλείς εταιρείες του κλάδου της τεχνητής νοημοσύνης παγκοσμίως. Το περιστατικό δεν σχετίζεται με παραβίαση δεδομένων χρηστών από κακόβουλους παράγοντες, αλλά με μια ελεγχόμενη δοκιμή, της οποίας ωστόσο οι λεπτομέρειες παραμένουν σε μεγάλο βαθμό ασαφείς.

Πώς εξελίχθηκε η επίθεση

Οι ερευνητές, που σύμφωνα με τις αναφορές ήταν τρεις, ξεκίνησαν από ένα κενό ασφαλείας στο δημόσιο forum της OpenAI. Το αρχικό αυτό εύρημα λειτούργησε ως σημείο εκκίνησης για μια αλυσίδα ενεργειών που οδήγησε βαθύτερα στα συστήματα της εταιρείας. Μέσα σε λιγότερο από 72 ώρες κατάφεραν να αποκτήσουν πρόσβαση σε εσωτερικά συστήματα της OpenAI, με το μοντέλο Claude της Anthropic να διαδραματίζει βοηθητικό ρόλο στις ενέργειές τους καθ’ όλη τη διάρκεια της διαδικασίας.

Η δοκιμή φέρεται να πραγματοποιήθηκε στο πλαίσιο προγράμματος εξουσιοδοτημένου ελέγχου ασφαλείας, αν και η ακριβής φύση του προγράμματος δεν έχει πλήρως διευκρινιστεί. Τα διαθέσιμα στοιχεία δεν αποκλείουν να πρόκειται για μηχανισμό τύπου bug bounty ή responsible disclosure, αλλά δεν υπάρχει επίσημη επιβεβαίωση για το είδος της συνεργασίας, εφόσον υπήρξε τέτοια, ανάμεσα στην Hacktron και στην OpenAI.

Σε τί ακριβώς αποκτήθηκε πρόσβαση

Οι περιγραφές για το εύρος της πρόσβασης διαφέρουν: από τη μία πλευρά αναφέρεται πρόσβαση σε εσωτερικά συστήματα της OpenAI, από την άλλη γίνεται λόγος για λογαριασμούς ChatGPT εργαζομένων της εταιρείας. Πιθανόν πρόκειται για το ίδιο γεγονός με διαφορετική περιγραφή — οι λογαριασμοί εργαζομένων μπορούν να θεωρηθεί ότι αποτελούν τμήμα των εσωτερικών υποδομών μιας εταιρείας — ωστόσο δεν υπάρχει επίσημη ταυτοποίηση που να συμφιλιώνει τις δύο εκδοχές.

Δεν έχουν δημοσιοποιηθεί ονόματα ερευνητών, ούτε ημερομηνία διεξαγωγής του γεγονότος. Δεν υπάρχει προς το παρόν ανακοίνωση από την OpenAI ή την Anthropic που να επιβεβαιώνει το περιστατικό, γεγονός που καθιστά απαραίτητη την επιφύλαξη ως προς τις ακριβείς λεπτομέρειες, παρά τη συνέπεια με την οποία δύο ανεξάρτητες αναφορές περιγράφουν το βασικό γεγονός: εξουσιοδοτημένη δοκιμή ερευνητών της Hacktron με εργαλείο τεχνητής νοημοσύνης της Anthropic εναντίον συστημάτων της OpenAI.

Εργαλεία τεχνητής νοημοσύνης στην επιθετική ασφάλεια

Το περιστατικό αναδεικνύει τη χρήση γεννητικών εργαλείων τεχνητής νοημοσύνης, όπως τα AI agents, σε πραγματικά σενάρια offensive security και red teaming. Ενώ έως σήμερα οι δοκιμές διείσδυσης βασίζονταν κυρίως στην ανθρώπινη τεχνογνωσία και σε εξειδικευμένα εργαλεία, η υπόθεση της Hacktron καταδεικνύει ότι ένα εμπορικό chatbot μπορεί να ενσωματωθεί στη ροή εργασίας μιας ομάδας ασφαλείας — από την αναγνώριση ενός αρχικού κενού έως την εκμετάλλευσή του σε βάθος συστήματος.

Ταυτόχρονα η υπόθεση θέτει ερωτήματα για την ασφάλεια των ίδιων των εταιρειών τεχνητής νοημοσύνης, όταν τα εργαλεία τους στρέφονται μεταξύ τους, καθώς το μοντέλο μιας εταιρείας χρησιμοποιήθηκε για τη δοκιμή των άμυνων μιας άλλης εταιρείας του ίδιου κλάδου.

Δευτερεύουσες πτυχές που προκύπτουν αφορούν το πρόγραμμα εξουσιοδοτημένου ελέγχου της OpenAI, καθώς και τα όρια και τους κινδύνους της αυτοματοποιημένης κυβερνοασφάλειας.

Προς το παρόν, η συζήτηση για το περιστατικό αναμένεται να εξελιχθεί εφόσον υπάρξουν επίσημες τοποθετήσεις ή τεχνικές αναλύσεις από τους εμπλεκόμενους φορείς, οι οποίες θα διαφωτίσουν τόσο το ακριβές εύρος της πρόσβασης όσο και τον τρόπο με τον οποίο το Claude αξιοποιήθηκε στην πράξη από την ομάδα της Hacktron.