Anthropic: Τα ΗΑΕ χρησιμοποίησαν πράκτορες ΤΝ κατά εμπειρογνωμόνων του ΟΗΕ

Η αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic κατήγγειλε ότι εντόπισε μια οργανωμένη επιχείρηση, την οποία αποδίδει στα Ηνωμένα Αραβικά Εμιράτα (ΗΑΕ), με χρήση πρακτόρων τεχνητής νοημοσύνης εναντίον εμπειρογνωμόνων του Οργανισμού Ηνωμένων Εθνών (ΟΗΕ).

Σύμφωνα με την καταγγελία, στόχος της επιχείρησης ήταν εμπειρογνώμονες του ΟΗΕ οι οποίοι είχαν επικρίνει τον ρόλο που φέρεται να διαδραματίζει το Άμπου Ντάμπι στον πόλεμο του Σουδάν. Η Anthropic παρουσίασε την υπόθεση ως παράδειγμα κατάχρησης εργαλείων τεχνητής νοημοσύνης για σκοπούς παρακολούθησης ή άσκησης επιρροής σε βάρος διεθνών θεσμικών φορέων.

Η καταγγελία της Anthropic

Η εταιρεία, η οποία έχει αναπτύξει συστήματα τεχνητής νοημοσύνης και παρακολουθεί συστηματικά πιθανές κακόβουλες χρήσεις των εργαλείων της, ανακοίνωσε ότι εντόπισε τη συγκεκριμένη επιχείρηση και την απέδωσε στα ΗΑΕ. Η αναφορά κάνει λόγο για χρήση αυτόνομων πρακτόρων τεχνητής νοημοσύνης, δηλαδή συστημάτων ικανών να εκτελούν σύνθετες εργασίες χωρίς άμεση ανθρώπινη καθοδήγηση σε κάθε βήμα, με στόχο εμπειρογνώμονες συνδεδεμένους με τον ΟΗΕ.

Το κίνητρο πίσω από την επιχείρηση, όπως περιγράφεται, σχετίζεται με τη στάση των εμπειρογνωμόνων απέναντι στον ρόλο των ΗΑΕ στη σύγκρουση που μαίνεται στο Σουδάν. Οι εμπειρογνώμονες είχαν διατυπώσει επικρίσεις για την εμπλοκή του Άμπου Ντάμπι στον πόλεμο, κάτι που φαίνεται να αποτέλεσε το έναυσμα για τη στοχοποίησή τους.

Τι δεν έχει διευκρινιστεί

Η καταγγελία δεν συνοδεύεται, προς το παρόν, από λεπτομέρειες σχετικά με την ακριβή φύση της επιχείρησης, δηλαδή αν επρόκειτο για παρακολούθηση επικοινωνιών, απόπειρες παραπληροφόρησης ή άλλες μορφές ψηφιακής παρέμβασης. Δεν έχει διευκρινιστεί επίσης ποιος συγκεκριμένος φορέας των ΗΑΕ φέρεται να ενεπλάκη, ούτε ο αριθμός ή η ταυτότητα των εμπειρογνωμόνων του ΟΗΕ που φέρονται να στοχοποιήθηκαν.

Παράλληλα, δεν υπάρχει μέχρι στιγμής επίσημη αντίδραση από τα ΗΑΕ στην καταγγελία, ούτε επιβεβαίωση από τον ίδιο τον ΟΗΕ ή από τους εμπειρογνώμονες που φέρονται να έχουν πληγεί.

Το ευρύτερο ζήτημα της κατάχρησης της τεχνητής νοημοσύνης

Η υπόθεση αναδεικνύει έναν ολοένα πιο επίκαιρο προβληματισμό γύρω από τη χρήση εργαλείων τεχνητής νοημοσύνης από κρατικούς ή κρατικά συνδεδεμένους φορείς για σκοπούς παρακολούθησης και άσκησης επιρροής σε βάρος διεθνών οργανισμών και ανεξάρτητων ειδικών. Η δυνατότητα των πρακτόρων τεχνητής νοημοσύνης να λειτουργούν αυτόνομα, εκτελώντας πολύπλοκες αλληλουχίες ενεργειών, καθιστά δυσκολότερο τον εντοπισμό και την απόδοση ευθυνών σε τέτοιες επιχειρήσεις.

Η καταγγελία έρχεται σε μια περίοδο όπου οι εταιρείες τεχνητής νοημοσύνης βρίσκονται υπό αυξανόμενη πίεση να παρακολουθούν και να αναφέρουν κακόβουλες χρήσεις των συστημάτων τους, ιδίως όταν αυτές φέρονται να σχετίζονται με κρατικούς δρώντες και ζητήματα γεωπολιτικής σημασίας, όπως ο πόλεμος στο Σουδάν.