Ένα νέο πλαίσιο ανοιχτού κώδικα με την ονομασία Cybersecurity AI (CAI) κυκλοφόρησε, προσφέροντας στους επαγγελματίες της ασφάλειας ένα ισχυρό σύνολο εργαλείων για τη δημιουργία και την ανάπτυξη παραγόντων που βασίζονται στην AI. Το πλαίσιο έχει σχεδιαστεί για να χειρίζεται τόσο επιθετικές όσο και αμυντικές επιχειρήσεις κυβερνοασφάλειας, καθιστώντας τις προηγμένες δυνατότητες της AI προσιτές σε ένα ευρύτερο κοινό, συμπεριλαμβανομένων ερευνητών και ηθικών χάκερ.
Το CAI είναι ένα ελαφρύ πλαίσιο ανοιχτού κώδικα που δίνει τη δυνατότητα στους επαγγελματίες ασφαλείας να δημιουργούν και να αναπτύσσουν αυτοματισμούς επίθεσης και άμυνας με τεχνητή νοημοσύνη. Προορίζεται για ένα ευρύ φάσμα χρηστών, από ανεξάρτητους ερευνητές ασφαλείας και ηθικούς χάκερ έως εσωτερικά τμήματα πληροφορικής και μεγάλους οργανισμούς. Ο πρωταρχικός στόχος του CAI είναι η αξιοποίηση της AI για την αυτοματοποίηση και την ενίσχυση των εργασιών ασφαλείας. Το πλαίσιο παρέχει τα δομικά στοιχεία για τη δημιουργία προσαρμοσμένων παραγόντων AI που είναι σε θέση να εκτελούν ένα ευρύ φάσμα εργασιών ασφαλείας, όπως σάρωση ευπαθειών, εκμετάλλευση, μετριασμό και ολοκληρωμένες αξιολογήσεις ασφαλείας.
Βασικά χαρακτηριστικά του πλαισίου CAI περιλαμβάνουν την αρθρωτή, βασισμένη σε πράκτορες αρχιτεκτονική του, η οποία επιτρέπει στους χρήστες να κατασκευάζουν εξειδικευμένους πράκτορες για διακριτούς στόχους ασφαλείας. Το πλαίσιο είναι εξοπλισμένο με ένα σύνολο ενσωματωμένων εργαλείων που καλύπτουν κρίσιμους τομείς ασφαλείας, όπως η αναγνώριση, η εκμετάλλευση και η κλιμάκωση προνομίων. Επιπλέον, το CAI περιλαμβάνει σημαντικά χαρακτηριστικά ασφαλείας, όπως προστατευτικά κιγκλιδώματα που έχουν σχεδιαστεί για την πρόληψη επιθέσεων εισαγωγής εντολών (prompt injection) και την εκτέλεση μη ασφαλών εντολών. Το πλαίσιο υποστηρίζει πάνω από 300 διαφορετικά μοντέλα AI, συμπεριλαμβανομένων εκείνων από τα OpenAI, Anthropic, DeepSeek και Ollama.
Η απόφαση να καταστεί το CAI ανοιχτού κώδικα καθοδηγείται από δύο βασικές αρχές. Πρώτον, η πεποίθηση ότι τα προηγμένα εργαλεία κυβερνοασφάλειας AI δεν πρέπει να περιορίζονται σε καλά χρηματοδοτούμενες ιδιωτικές εταιρείες ή κρατικούς φορείς. Κάνοντας το CAI ανοιχτού κώδικα, οι προγραμματιστές στοχεύουν να δώσουν στους ερευνητές, τους ηθικούς χάκερ και τους οργανισμούς πρόσβαση στις ίδιες δυνατότητες, εξισορροπώντας το πεδίο. Δεύτερον, υπάρχει έλλειψη σαφήνειας σχετικά με το τι μπορούν πραγματικά να κάνουν τα τρέχοντα συστήματα AI στην ασφάλεια, με πολλούς προμηθευτές να υποβαθμίζουν αυτές τις δυνατότητες. Η ανοιχτή φύση του CAI προωθεί τη διαφάνεια, επιτρέποντας στους οργανισμούς να επαληθεύουν τους μηχανισμούς ασφαλείας και να εντοπίζουν πιθανές ευπάθειες. Το Cybersecurity AI είναι διαθέσιμο δωρεάν στο GitHub.