Μια νέα έρευνα που ανατέθηκε από την κυβέρνηση του Ηνωμένου Βασιλείου αποκάλυψε μια βαθιά ριζωμένη επιφυλακτικότητα μεταξύ των κορυφαίων επαγγελματιών της επιθετικής κυβερνοασφάλειας της χώρας, γνωστών ως red teams, σχετικά με τις τρέχουσες δυνατότητες και τις υποσχέσεις της τεχνητής νοημοσύνης (AI) για την ενίσχυση της κυβερνοάμυνας.
Η μελέτη, που διεξήχθη από την εταιρεία συμβούλων κυβερνοασφάλειας Prism Infosec για λογαριασμό του Υπουργείου Επιστήμης, Καινοτομίας και Τεχνολογίας (DSIT), διαπίστωσε ότι οι ειδικοί που προσομοιώνουν τις επιθέσεις εχθρικών παραγόντων για να δοκιμάσουν τις άμυνες των οργανισμών, παραμένουν σε μεγάλο βαθμό ανεπηρέαστοι από τη διαφημιστική εκστρατεία γύρω από την AI. Σύμφωνα με την έκθεση, οι συνεντεύξεις έδειξαν «συντριπτικά ότι ο τομέας παραμένει βαθιά επιφυλακτικός απέναντι στις υποσχέσεις της AI, θεωρώντας πολλές από τις δυνατότητές της υπερβολικές και υπερβολικά χρησιμοποιημένες σε προϊόντα, δημιουργώντας ένα συγκεχυμένο περιβάλλον ως προς το πραγματικό της δυναμικό και τις δυνατότητές της».
Οι red teams είναι ζωτικής σημασίας για την εθνική υποδομή κυβερνοασφάλειας, ενεργώντας ως εξουσιοδοτημένοι αντίπαλοι που μιμούνται τις τακτικές, τις τεχνικές και τις διαδικασίες πραγματικών επιτιθεμένων. Ο στόχος τους είναι να εντοπίσουν τρωτά σημεία σε ανθρώπους, διαδικασίες και τεχνολογία προτού τα εκμεταλλευτούν κακόβουλοι παράγοντες. Η επιφυλακτικότητά τους, επομένως, αποτελεί μια σημαντική ένδειξη της ωριμότητας της AI στον τομέα της ασφάλειας.
Οι βασικές ανησυχίες που εξέφρασαν οι ερωτηθέντες περιλαμβάνουν τους κινδύνους για την προστασία των δεδομένων, το υψηλό κόστος που συνδέεται με την ανάπτυξη της AI και την ασφάλεια των δημόσιων μοντέλων. Αυτοί οι παράγοντες θεωρούνται σημαντικά εμπόδια για την ευρεία υιοθέτηση της τεχνολογίας στις τρέχουσες προσφορές τους. Επιπλέον, οι ειδικοί αντιλαμβάνονται ότι η πιο κοινή χρήση της AI από τους εχθρικούς παράγοντες αυτή τη στιγμή είναι η πραγματοποίηση πιο εξελιγμένων επιθέσεων κοινωνικής μηχανικής.
Αντίθετα με τον θόρυβο γύρω από την AI, η μελέτη διαπίστωσε ότι η υιοθέτηση του cloud είχε πολύ μεγαλύτερο αντίκτυπο στις υπηρεσίες επιθετικής κυβερνοασφάλειας. Η μετάβαση στο cloud έχει επιβάλει την ανάπτυξη νέων εργαλείων και πρακτικών καθώς ο τομέας προσαρμόζεται στον τρόπο με τον οποίο οι οργανισμοί-πελάτες έχουν μεταναστεύσει μετά την παγκόσμια πανδημία.
Παρά την τρέχουσα επιφυλακτικότητα, υπάρχει μια αίσθηση αισιοδοξίας για το μέλλον. Οι επαγγελματίες της Red team αναμένουν ότι η AI θα μπορούσε τελικά να γίνει ένα πολύτιμο εργαλείο στο οπλοστάσιό τους. Αυτό εξαρτάται από την εμφάνιση πιο προσιτών, ιδιωτικών μοντέλων που μπορούν να φιλοξενηθούν και να προσαρμοστούν με ασφάλεια από τις εταιρείες κυβερνοασφάλειας. Μέχρι να φτάσει η τεχνολογία σε αυτό το επίπεδο ωριμότητας, ο τομέας θα συνεχίσει να βασίζεται σε εξειδικευμένες, χειροκίνητες ανθρώπινες προσπάθειες για την παροχή επιθετικών υπηρεσιών κυβερνοασφάλειας.
Η έρευνα υπογραμμίζει επίσης ότι ο τομέας έχει μείνει πίσω στην ανάπτυξη εργαλείων για περιβάλλοντα εκτός Windows. Οι συμμετέχοντες θεώρησαν ότι οι επενδύσεις στην ανάπτυξη επιθετικών εργαλείων και δυνατοτήτων για MacOS, Linux, Android και iOS έχουν καθυστερήσει σημαντικά.
Αυτή η επιφυλακτική στάση από τους ειδικούς της πρώτης γραμμής έρχεται σε αντίθεση με την ευρύτερη υιοθέτηση της AI σε άλλους επιχειρηματικούς τομείς. Μια ξεχωριστή έκθεση της Darktrace αποκάλυψε ότι σχεδόν τα τρία τέταρτα (71%) των επιχειρήσεων έχουν ήδη δει σημαντικό αντίκτυπο από απειλές κυβερνοασφάλειας που υποστηρίζονται από AI. Παρόλα αυτά, η συντριπτική πλειοψηφία (95%) των ερωτηθέντων στο Ηνωμένο Βασίλειο δεν είναι απόλυτα βέβαιοι για την ικανότητα των οργανισμών τους να αμυνθούν έναντι τέτοιων επιθέσεων.
Το μήνυμα από τους red teamers του Ηνωμένου Βασιλείου είναι σαφές: ενώ η AI υπόσχεται πολλά, ο δρόμος προς την αξιόπιστη και ασφαλή ενσωμάτωσή της στις κρίσιμες λειτουργίες κυβερνοασφάλειας απαιτεί προσεκτική προσέγγιση, περαιτέρω ανάπτυξη και μια υγιή δόση σκεπτικισμού.