Breve immersione:

  • L’industria della sicurezza informatica dedica molta attenzione a come l’intelligenza artificiale aiuta gli hacker ad analizzare le vulnerabilità più rapidamente e a creare malware migliori, ma un nuovo rapporto sostiene che la migliore imitazione dei leader aziendali da parte dell’intelligenza artificiale si sta rivelando altrettanto consequenziale.
  • Quest’anno gli attacchi di furto d’identità hanno preso di mira dirigenti o dipendenti di livello inferiore in più della metà (53%) delle organizzazioni, ha affermato in un rapporto la società di sicurezza Outtake pubblicato il 4 giugno.
  • Allo stesso tempo, il rapporto ha rilevato che tre quarti degli intervistati del sondaggio di Outtake hanno eseguito solo un monitoraggio limitato dell’impersonificazione o hanno reagito agli attacchi solo nel momento in cui si sono verificati.

Informazioni sull’immersione:

La capacità dell’intelligenza artificiale di generare media falsi convincenti ha aperto “un secondo fronte” nella guerra delle imprese contro schemi di imitazioneha affermato Outtake nel suo rapporto, basato su un sondaggio condotto su oltre 1.100 leader della sicurezza informatica e della gestione del rischio.

Secondo il rapporto, quasi la metà (47%) delle aziende “ha già riscontrato, confermata o sospetta, l’imitazione tramite media sintetici di un dirigente o di un rappresentante del marchio”. Inoltre, le aziende identificano Attacchi generati dall’intelligenza artificiale come il più grande divario di visibilità nella loro strategia di prevenzione della furto d’identità.

“Le persone rappresentano la superficie di attacco più esposta e meno protetta”, ha affermato Outtake. Secondo il rapporto, solo il 43% delle aziende conduce simulazioni di spoofing dell’identità coinvolgendo i propri dirigenti per identificare i maggiori rischi potenziali di impersonificazione.

La preparazione delle aziende alle minacce legate all’intelligenza artificiale non è molto migliore quando si tratta di tecnologie basate su agenti, rileva il rapporto. Secondo Outtake, le aziende non riescono in gran parte a supervisionare e proteggere questi agenti, il che amplifica il rischio di attacchi di dirottamento degli agenti che potrebbero danneggiare la reputazione o le finanze delle aziende. Solo il 4% delle aziende ha dichiarato di monitorare e controllare completamente i propri agenti di intelligenza artificiale.

Il rapporto offre un esempio di un agente AI nel reparto contabilità che riceve un’e-mail di richiesta di pagamento apparentemente innocua che contiene un codice nascosto che sovrascrive la programmazione dell’agente e lo costringe a condividere informazioni con una terza parte non attendibile.

“L’agente ora si trova su un nuovo confine di fiducia: un piede nel mondo esterno non fidato, l’altro nel sistema interno fidato”, ha detto Outtake. “Un’istruzione piantata attraversa il confine tra loro.”

La frammentazione della governance è un’altra grave debolezza delle imprese, rileva il rapporto. Nel 21% delle aziende non esiste un team responsabile della valutazione e della gestione del rischio di fiducia digitale per l’organizzazione. I centri operativi di sicurezza gestiscono la responsabilità nel 18% delle aziende; i team antifrode e di sicurezza lo gestiscono al 13%; e i team di intelligence sulle minacce lo gestiscono all’11%. Oltre il 60% delle aziende ha descritto le proprie attività di gestione del rischio di fiducia digitale come frammentate e isolate.