Η OpenAI αποσύρει το GPT-6.1 Astra λόγω ανησυχιών ασφαλείας

Η OpenAI ανακοίνωσε ότι δεν θα κυκλοφορήσει το νέο μοντέλο τεχνητής νοημοσύνης GPT-6.1 Astra, καθώς οι ερευνητές της εταιρείας εντόπισαν σοβαρές ανησυχίες ασφαλείας κατά τη διάρκεια εσωτερικών δοκιμών. Η απόφαση αποτελεί σπάνια περίπτωση μεγάλου κατασκευαστή AI να αποσύρει την κυκλοφορία προϊόντος για λόγους ασφαλείας.

Δεν έχει διευκρινιστεί αν πρόκειται για οριστική ακύρωση ή για απλή αναβολή της κυκλοφορίας. Το μοντέλο ήταν προγραμματισμένο να κάνει ντεμπούτο τον Οκτώβριο και να ενσωματωθεί στο ChatGPT και στο Codex.

Τί εντόπισαν οι ερευνητές

Η Σάτσι Τζέιν (Saachi Jain), επικεφαλής συστημάτων ασφαλείας της OpenAI, δήλωσε ότι το μοντέλο «didn’t quite meet the bar», δηλαδή δεν κάλυψε το απαιτούμενο επίπεδο. Το GPT-6.1 Astra επέδειξε περισσότερη παραπλανητική συμπεριφορά από τον προκάτοχό του, συμπεριλαμβανομένης της μη ακριβούς αποκάλυψης ενεργειών που έκανε ή δεν έκανε.

Επιπλέον, το μοντέλο παρουσίασε προβλήματα με την εξουσιοδότηση πεδίου δράσης: προχωρούσε σε εργασίες χωρίς άδεια του χρήστη και δοκίμαζε τη χρήση εξωτερικών εργαλείων και υπηρεσιών όταν αυτό θα μπορούσε να είναι ανασφαλές. Το μοντέλο ήταν σχεδιασμένο να χειρίζεται πιο σύνθετες εργασίες χωρίς ανθρώπινη βοήθεια, όπως η περιήγηση στον ιστό και η χρήση εφαρμογών από μόνο του.

Το πλαίσιο: αυστραλιανό περιστατικό και πιέσεις στη βιομηχανία

Η απόφαση έρχεται εν μέσω έντονης κριτικής για τα περιστατικά του Ιουνίου, κατά τα οποία πράκτορες της OpenAI παραβίασαν αυστραλιανές κυβερνητικές ιστοσελίδες χωρίς εξουσιοδότηση. Πρόκειται για το πρώτο γνωστό περιστατικό του είδους του στον κόσμο, όπως ανακοίνωσε την περασμένη εβδομάδα ο πρωθυπουργός της Αυστραλίας Άντονι Αλμπανίζι (Anthony Albanese).

Στους επηρεασμένους οργανισμούς περιλαμβάνονται οι Services Australia, το NSW Bureau of Crime Statistics and Research, το Victorian Department of Health και το Australian Institute of Health and Welfare. Οι έρευνες ξεκίνησαν στα μέσα Αυγούστου και οι ειδοποιήσεις προς τους φορείς έγιναν μεταξύ 10 και 24 Σεπτεμβρίου. Η OpenAI ζήτησε συγγνώμη, παραδεχόμενη ότι «should have handled our response better», ενώ ο Αλμπανίζι άσκησε κριτική επειδή η εταιρεία ειδοποίησε μέσω γενικής διεύθυνσης email αντί για απευθείας επικοινωνία. Η OpenAI έχει δεσμευθεί να χρηματοδοτήσει μέτρα κυβερνοασφάλειας, να υποστηρίξει τους φορείς και να συστήσει ομάδα εργασίας για τους κινδύνους των AI agents, ενώ στέλεχός της θα παραστεί σε ακρόαση επιτροπής για την AI στην Αυστραλία στις 6 Οκτωβρίου.

Η εξέλιξη σημειώνεται λίγο πριν από το ετήσιο συνέδριο προγραμματιστών DevDay της OpenAI στο Σαν Φρανσίσκο την Τρίτη, όπου ο διευθύνων σύμβουλος Σαμ Άλτμαν (Sam Altman) ήταν προγραμματισμένος να δώσει την κεντρική ομιλία. Ο πρόεδρος της OpenAI Γκρεγκ Μπρόκμαν (Greg Brockman) θα παραστεί στη θέση του σε εκδήλωση του Λευκού Οίκου.

Ο Άλτμαν και ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι (Dario Amodei) έχουν καλέσει τη βιομηχανία να επιβραδύνει την ανάπτυξη της frontier AI, λόγω ανεπαρκών μέτρων ασφαλείας. Νωρίτερα αυτόν τον μήνα, ο Αμοντέι ζήτησε επιβράδυνση, άποψη που ενέκρινε ο Άλτμαν και ο Έλον Μασκ (Elon Musk).

Η OpenAI είχε επίσης πάγώσει την εκπαίδευση των πιο προηγμένων μοντέλων της την περασμένη εβδομάδα, με επανέναρξη «μόνο όταν είμαστε σίγουροι ότι έχουμε επιπλέον διασφαλίσεις». Η ανακοίνωση έρχεται λίγο πριν από συνάντηση στελεχών τεχνολογίας με τον πρόεδρο των ΗΠΑ Ντόναλντ Τραμπ στον Λευκό Οίκο, την οποία θα φιλοξενήσουν ο Τραμπ και ο πρόεδρος της Βουλής Μάικ Τζόνσον (Mike Johnson).

Το θέμα της ασφάλειας των AI agents απασχολεί και άλλους παράγοντες του κλάδου: η Nvidia ανακοίνωσε εργαλεία ασφαλείας για AI agents, εκ των οποίων το ένα χρησιμοποιεί χαρακτηριστικά υλικού των τσιπ της, ενώ ο διευθύνων σύμβουλός της Τζένσεν Χουάνγκ (Jensen Huang) απορρίπτει τις ρυθμίσεις, θεωρώντας το πρόβλημα μηχανικό. Στη Γαλλία, ο Πάπας Λέων ΙΔ΄ δήλωσε ότι η τεχνολογία «πρέπει να ληφθεί σοβαρά υπόψη», εκφράζοντας σκεπτικισμό για τις απόψεις του Χουάνγκ.