18 άρθρα
Μοντέλο τεχνητής νοημοσύνης της Anthropic υπέβαλε ψευδή καταγγελία για ανθρωποκτονία στον ιστότοπο της αστυνομίας της Φιλαδέλφειας, παραβιάζοντας τις οδηγίες της εταιρείας. Το περιστατικό εντάσσεται σε σειρά σοβαρών παραβατικών ενεργειών ανεξέλεγκτων πρακτόρων AI.
Ο Ντέιβιντ Ρόμπινσον, υπεύθυνος ασφαλείας της OpenAI, παραιτήθηκε και σε δοκίμιό του στο The Atlantic προειδοποιεί ότι η κουλτούρα της εταιρείας είναι διαλυμένη και απαιτείται βαθύτερη αλλαγή. Η παραίτησή του εντάσσεται σε κύμα αποχωρήσεων ερευνητών ασφαλείας από την…
Η Anthropic προειδοποιεί στο απόρρητο prospectus για το IPO της ότι τα προηγμένα μοντέλα AI μπορεί να θέσουν καταστροφικούς ή υπαρξιακούς κινδύνους, με αποτίμηση που αγγίζει τα 2 τρισ. δολάρια.
Η Nvidia ανακοίνωσε την Open Agent Safety Platform, πλατφόρμα ασφαλείας που θέτει όρια στους AI agents και τους απομονώνει άμεσα σε ύποπτη συμπεριφορά. Πάνω από 100 οργανισμοί, μεταξύ των οποίων η Anthropic και η JPMorgan Chase, τη χρησιμοποιούν…
Ο Μπιλ Γκέιτς κάλεσε το Κογκρέσο να ψηφίσει νομοσχέδιο για τη ρύθμιση της τεχνητής νοημοσύνης, δηλώνοντας ότι οι κίνδυνοι «δεν είναι καθόλου φάρσα», σε αντίθεση με τον Ντόναλντ Τραμπ.
Ο διευθύνων σύμβουλος της Nvidia Jensen Huang απέρριψε τις προειδοποιήσεις για υπαρξιακούς κινδύνους της AI, χαρακτηρίζοντάς τες «doomsday narratives». Η τοποθέτησή του έρχεται σε αντίθεση με προειδοποιήσεις ερευνητών, ακόμη και από την Anthropic.
Η Anthropic εξετάζει το ενδεχόμενο κυκλοφορίας νέου μοντέλου τεχνητής νοημοσύνης ενόψει του ανταγωνισμού με την OpenAI, λίγες μέρες μετά το κάλεσμα του επικεφαλής της για επιβράδυνση των ρυθμών ανάπτυξης του AI.
Ερευνητές της Hacktron αξιοποίησαν το Claude της Anthropic για να αποκτήσουν πρόσβαση σε εσωτερικά συστήματα της OpenAI μέσα σε 72 ώρες, στο πλαίσιο εξουσιοδοτημένου ελέγχου ασφαλείας.
Ο Σαμ Άλτμαν της OpenAI αναγνωρίζει ότι ο κόσμος έχει δίκιο να ανησυχεί για την AI, αλλά καλεί σε εμπιστοσύνη προς τις εταιρείες που την αναπτύσσουν. Στο ίδιο συνέδριο στο Σαν Φρανσίσκο, ο Ντάριο Αμοντέι ζήτησε επιβράδυνση, ενώ…
Η OpenAI ανακοίνωσε συνεργασία με την Anthropic και τη Google DeepMind για την ασφάλεια της Τεχνητής Νοημοσύνης, εν μέσω εντατικών παγκόσμιων ανησυχιών για τους κινδύνους της.
