Il legame tra intelligenza artificiale e spam è sempre più stretto. Per questa attività ormai i cybercriminali e i truffatori digitali possono fare a meno della propria creatività e affidare il lavoro agli algoritmi, mentre per operazioni un po’ più mirate e sofisticate, come quelle di Bec (Business Email Compromise) si preferisce ancora, quasi sempre, usare il cervello. A dirlo sono i dati di una ricerca della Columbia University e della University of Chicago, basata sui dati della rete di Barracuda Networks.
Il periodo di osservazione è recente, il mese di aprile scorso. Il 51% dei messaggi di spam rilevati da Barracuda nel periodo è ti dipo AI-generated, mentre solo nel 14% dei casi di Bec si può dire lo stesso. L'uso dell'intelligenza artificiale, comunque, cresce per entrambe le attività.
L’AI viene usata dai malfattori non tanto per risparmiare tempo e fatica o per agire facilmente su larga scala: serve sopratutto per perfezionare i contenuti dei messaggi, variando magari lo stile o le scelte lessicali, e quindi per risultare più efficaci. Strumenti basati su Large Language Model, come ChatGPT, vengono per esempio utilizzati per testare diverse scelte linguistiche e verificare quali siano più efficaci per eludere le difese di un filtro antispam o per spingere un maggior numero di vittime a cliccare sui link. Le tattiche offensive restano, invece, quelle consolidate.
Come distinguere se un messaggio sia frutto dell’AI o solo opera dell’uomo? I ricercatori hanno utilizzato come modello di riferimento un insieme di email di spam e di Bec raccolte prima del lancio mondiale di ChatGpt, nel novembre del 2022. Per lo spam, in particolare, si è vista una notevole accelerata dal marzo del 2024.
“Determinare se o come l'AI sia stata utilizzata nei cyberattacchi è una sfida difficile poiché noi abbiamo visibilità solo sull'attacco, ma non sappiamo come è stato generato”, ha precisato Asaf Cidon, professore associato di ingegneria elettrica e informatica alla Columbia University. “La nostra analisi suggerisce che ad aprile 2025 la maggior parte delle email di spam non fosse scritta da esseri umani, bensì dall'intelligenza artificiale. Per gli attacchi più sofisticati, come le truffe mirate alla compromissione dell’email aziendale che richiedono una più attenta elaborazione del contenuto in base al contesto della vittima, la maggior parte delle email è ancora prodotta dall'uomo, ma il volume generato dall'AI è in costante e consistente aumento”.