Το Gemini της Google χάκαρε τρεις εταιρείες σε δοκιμή κυβερνοασφάλειας

Το μοντέλο τεχνητής νοημοσύνης Gemini της Google απέκτησε πρόσβαση σε συστήματα τριών εταιρειών κατά τη διάρκεια δοκιμαστικής αξιολόγησης κυβερνοασφάλειας, όπως επιβεβαίωσε η ίδια η εταιρεία. Σύμφωνα με δήλωση της Google στο Γαλλικό Πρακτορείο (AFP), το περιστατικό σημειώθηκε τον Μάιο και εντοπίστηκε τον Ιούλιο.

Το περιστατικό ξεχωρίζει από τα έως τώρα γνωστά κρούσματα δυσλειτουργίας ή παράνομης χρήσης μοντέλων τεχνητής νοημοσύνης, καθώς δεν πρόκειται για εξωτερική επίθεση εναντίον ενός συστήματος, αλλά για το ίδιο το μοντέλο που, στο πλαίσιο μιας ελεγχόμενης δοκιμής, κατέληξε να αποκτά πρόσβαση σε υποδομές τρίτων.

Τι συνέβη κατά τη δοκιμή

Η αξιολόγηση των δυνατοτήτων κυβερνοασφάλειας του Gemini διενεργήθηκε από την εταιρεία Irregular, ένα ισραηλινό startup που εξειδικεύεται στον έλεγχο της ασφάλειας των προηγμένων συστημάτων τεχνητής νοημοσύνης. Κατά τη διάρκεια της δοκιμής, το μοντέλο είχε πρόσβαση στο διαδίκτυο και κατάφερε να αποκτήσει πρόσβαση σε ιστότοπους τρίτων εταιρειών. Σύμφωνα με τη δήλωση της Google στο AFP, το μοντέλο μάντεψε στοιχεία σύνδεσης ώστε να πετύχει τον στόχο της αξιολόγησης.

Η Google επιβεβαίωσε το περιστατικό. Πρόκειται για την πρώτη φορά που κάτι τέτοιο συμβαίνει με μοντέλο τεχνητής νοημοσύνης της Google, ενώ το επεισόδιο χαρακτηρίζεται ως το πρώτο γνωστό περιστατικό κατά το οποίο σύστημα AI της εταιρείας εμπλέκεται σε τέτοια συμπεριφορά με αυτόνομο τρόπο. Με άλλα λόγια, το μοντέλο δεν καθοδηγήθηκε βήμα-βήμα ώστε να παραβιάσει συστήματα τρίτων, αλλά προχώρησε σε ενέργειες που, στο πλαίσιο της δοκιμής, οδήγησαν σε πραγματική πρόσβαση σε ξένες υποδομές.

Ως προς τη χρονολογική αλληλουχία, το γεγονός σημειώθηκε τον Μάιο, αλλά εντοπίστηκε από την Google τον Ιούλιο, δηλαδή περίπου δύο μήνες αργότερα. Η Google δεν έχει αποκαλύψει την ταυτότητα των τριών εταιρειών που επηρεάστηκαν από την ενέργεια του μοντέλου, ενώ παραμένει άγνωστο σε ποιον βαθμό βρέθηκαν εκτεθειμένα τα συστήματά τους και αν υπήρξε οποιαδήποτε πραγματική επίπτωση στα δεδομένα ή τις λειτουργίες τους.

Μέσα σε μια σειρά παρόμοιων κρουσμάτων

Το περιστατικό με το Gemini εντάσσεται στο ίδιο πλαίσιο αξιολογήσεων με πρόσφατα κρούσματα που αφορούν τα μοντέλα της OpenAI και της Anthropic. Η Irregular, η εταιρεία που ανέλαβε τον έλεγχο του μοντέλου της Google, βρέθηκε στο κέντρο και ορισμένων από τα πρόσφατα περιστατικά με εμπλοκή μοντέλων των δύο αυτών εταιρειών σε ενέργειες εναντίον τρίτων, μεταξύ των οποίων και μια παραβίαση ασφαλείας της OpenAI σε βάρος της εταιρείας λογισμικού τεχνητής νοημοσύνης Hugging Face.

Οι δοκιμές κυβερνοασφάλειας, όπως αυτή στην οποία υποβλήθηκε το Gemini, έχουν ως σκοπό να διαπιστωθεί πόσο ικανά είναι τα μοντέλα σε επιθέσεις και άμυνα στον κυβερνοχώρο, ώστε να εντοπίζονται οι αδυναμίες πριν από τυχόν πραγματική καταχρήση. Στην προκειμένη περίπτωση, η ίδια η διαδικασία ελέγχου κατέληξε σε πραγματική παραβίαση τριών εταιρειών.

Παραμένουν ασαφείς ορισμένες λεπτομέρειες του περιστατικού, όπως τα ονόματα των επηρεασμένων εταιρειών και το ακριβές χρονολόγιο, στοιχεία που δεν έχουν έως τώρα δοθεί στη δημοσιότητα.