Non c'è giorno in cui non si parli di intelligenza artificiale, sull'onda delle continue nuove soluzioni create per variegate finalità e in innumerevoli forme, hardware o software. La sicurezza informatica sta beneficiando delle capacità di apprendimento automatico degli algoritmi, che cominciano a essere usati in affiancamento alle tradizionali tecnologie. Ma l'AI sta anche creando nuove opportunità per i cybercriminali, come ci racconta Dave Palmer, director of technology di Darktrace.
Dave Palmer, director of technology di Darktrace
Le tecniche di intelligenza artificiale stanno creando nuove opportunità anche per i criminali, che possono operare su larga scala evolvendosi verso nuovi modelli. Facciamo qualche esempio. In primo luogo, pensate a un software dannoso sul vostro Pc portatile, capace di leggere il vostro calendario, e-mail, messaggi, ecc. Ora immaginate che sia basato su tecnologie di intelligenza artificiale che possano comprendere tutto il materiale e apprendere i vostri diversi modi di comunicare con i vari interlocutori. Potrebbe contattare contestualmente i vostri colleghi e clienti replicando il vostro stile individuale di comunicazione con ognuno di loro, riuscendo così a diffondersi.
Potrebbe trattarsi di un appuntamento in agenda con qualcuno al quale viene inviata una mappa del luogo dell’incontro, e, nascosta nella mappa, una copia del software dannoso. Potrebbe trattarsi di un documento che si sta realizzando insieme a un collega: il programma può inviargli una risposta dopo aver compiuto una lieve modifica, e di nuovo, aver incluso il software dannoso. I vostri colleghi aprirebbero queste email? Assolutamente sì. Perché avrebbero esattamente il vostro stile e sarebbero contestualmente rilevanti. Sia che la relazione con tale collega sia formale o informale, sia che si discuta di calcio o di Masterchef, tutto può essere imparato e replicato. Un attacco simile ha una probabilità elevata di verificarsi nelle filiere produttive. Se si volesse colpire un target difficile, come un dipendente bancario o un personaggio pubblico, questa sarebbe la strada migliore.
Come secondo scenario, immaginiate che tutte le smart Tv e i sistemi di videoconferenza installati nelle sale riunioni di un’azienda target siano connessi tra loro. Pensiamo ad esempio a uno studio legale. Di norma, questi dispositivi sono decisamente poco dotati di sicurezza rispetto ai Pc portatili moderni. Se poi attivassimo i microfoni e condividessimo l’audio di tutte le riunioni con un servizio di traduzione e trascrizione basato su tecnologie di intelligenza artificiale (che sono già disponibili grazie a Google e Amazon) allora, grazie alle trascrizioni, un semplice modello aggiuntivo d’intelligenza artificiale potrebbe avvisare automaticamente i criminali quando si discute un argomento di loro interesse. Improvvisamente il criminale avrebbe a disposizione un metodo facilmente scalabile di accesso alla sorveglianza di un’azienda senza dover effettivamente ascoltare le riunioni in prima persona. Potrebbe scoprire, per esempio, fusioni e acquisizioni non ancora di dominio pubblico, o i dettagli preparatori di un determinato processo. Fino a oggi la sorveglianza ambientale è stata appannaggio delle spie, non perché si acceda a contenuti di poco interesse ma perché non era sufficientemente scalabile.
L’intelligenza artificiale cambia totalmente le regole del gioco proprio nel momento in cui la nostra economia è attivamente impegnata a riempire gli ambienti di videocamere e microfoni Infine, i dati sono diventati un tramite fondamentale per le scelte dell’azienda. In un futuro più distante rispetto ai primi due casi (che sono già realizzabili oggi), sarà possibile alterare deliberatamente i dati cosicché i dirigenti di un’impresa petrolifera partecipino a una gara di appalto per i diritti di trivellazione in un luogo non redditizio. Oppure una serie di bilanci degli istituti bancari, scelti casualmente, potrà essere modificata subdolamente e in modo coerente nei backup digitali della banca prima di essere cambiati nei sistemi operativi; il risultato sarebbe una serie inspiegabile di libretti bancari e un’enorme perdita di fiducia da parte dei consumatori. Questa tipologia di attacchi è più elaborata e si affiderebbe a software intelligenti in grado di manipolare i dati in un modo a prima vista credibile, ma in grado di diventare pericoloso su larga scala. Non è irragionevole credere che questo sarà possibile nei prossimi dieci anni.
L'intelligenza artificiale è totalmente democratizzata per chiunque abbia un Pc portatile e una connessione Internet. Un programmatore di software “a tempo perso” ma sufficientemente motivato potrebbe quasi certamente iniziare da una comprensione dell’intelligenza artificiale pressoché nulla e riuscire a compiere gli attacchi descritti nei primi due esempi in soli sei o dodici mesi. Un criminale più esperto sarebbe in grado di riuscirci ancora prima, ed è in qualche modo sorprendente che questo non si sia ancora verificato.