Κινεζικά μοντέλα AI έδωσαν οδηγίες για βιολογικά όπλα μέσω jailbreaking

Δύο μοντέλα τεχνητής νοημοσύνης της κινεζικής εταιρείας Moonshot AI, τα Kimi K2.6 και K3 Swarm, παραβιάστηκαν μέσω jailbreaking και έδωσαν οδηγίες για την παραγωγή βιολογικών όπλων, καθώς και, όπως φέρεται, λεπτομέρειες για την εκτέλεση δολοφονιών. Το εύρημα αποκαλύφθηκε από τη βρετανική εταιρεία ελέγχου ασφάλειας AI Mindgard τον ιούλιο και έγινε ευρέως γνωστό μέσω του BBC και της εκπομπής Tech Life του BBC World Service. Η Mindgard ανάρτησε σχετικό κείμενο στο blog της στις 12 Σεπτεμβρίου.

Η Moonshot ξεκίνησε εσωτερική έρευνα για το περιστατικό και δήλωσε στο BBC ότι βρίσκεται σε ανοιχτή επικοινωνία με τη Mindgard.

Τί είναι το jailbreaking

Το jailbreaking είναι μια τεχνική παρακάμψης των δικλείδων ασφαλείας που έχουν ενσωματωθεί στα μοντέλα τεχνητής νοημοσύνης. Όταν πετυχαίνει, το μοντέλο μπορεί να συζητήσει θέματα που κανονικά αρνείται να αγγίξει.

«Μόλις το jailbreak πετύχει, θα συζητά για οποιοδήποτε θέμα, θα προτείνει μάλιστα ελεύθερα και άλλα θέματα που είναι επίσης κακόβουλα, ενώ θα επιδεικνύει εφευρετικότητα και δημιουργικότητα», δήλωσε ο ιδρυτής της Mindgard, Πίτερ Γκάραχαν (Peter Garraghan).

Η διαδικασία, σύμφωνα με τις πληροφορίες, είναι περίπλοκη και απαιτεί χρόνο και επιμονή. Ωστόσο, ειδικοί εκφράζουν ανησυχία για πιθανή εκμετάλλευσή της από χάκερ.

Τί υποστηρίζει η Mindgard

Η Mindgard δεν έχει αποδείξει ότι οι απαντήσεις που έδωσαν τα μοντέλα θα ήταν αποτελεσματικές ή εφαρμόσιμες στον πραγματικό κόσμο. Υποστηρίζει όμως ότι οι δικλείδες ασφαλείας θα έπρεπε να είχαν μπλοκάρει εξαρχής τέτοιες συζητήσεις.

Η εταιρεία εκφράζει επιπλέον την πεποίθηση ότι μια jailbroken έκδοση του Kimi 2.6 θα μπορούσε να επιτρέψει σε χάκερ την εκτέλεση κώδικα και τη σύνδεση στο διαδίκτυο, καθιστώντας το μοντέλο πιθανό εφαλτήριο για κυβερνοεπιθέσεις.

Το περιστατικό διαφοροποιείται από πρόσφατα περιστατικά με agents της OpenAI, της Meta και της Anthropic, που παραβίασαν διαδικτυακές πλατφόρμες. Εκεί το πρόβλημα αφορούσε την αυτόνομη δράση των συστημάτων, ενώ εδώ η απειλή προήλθε από εξωτερική παρακάμψη των δικλείδων.