L'intelligenza artificiale crea e-mail di phishing meglio degli umani

Le reti neurali continuano a mostrare risultati sorprendenti in un'ampia varietà di compiti. È vero, questa volta il loro lavoro non è stato affatto nobile: con l'aiuto dell'intelligenza artificiale, i ricercatori di Singapore hanno creato email di phishing che si sono rivelate più convincenti di quelle scritte da persone reali.

In particolare, alle conferenze sulla sicurezza informatica Black Hat e Defcon tenutesi a Las Vegas la scorsa settimana, esperti della Government Technology Agency (Singapore) detto sui risultati di un insolito esperimento.

Hanno scritto centinaia di e-mail di phishing per conto proprio e poi ne hanno create altrettante utilizzando l'algoritmo di elaborazione del linguaggio naturale GPT-3 e altre tecnologie di intelligenza artificiale. Hanno quindi inviato quelle lettere a 200 colleghi per testare quali pensavano fossero più convincenti.

In entrambi i casi, le e-mail contenevano collegamenti tracker: non scaricavano il virus sul dispositivo, ma inviavano semplicemente un rapporto sui clic ai ricercatori. Il risultato è stato sorprendente: le persone "significativamente più spesso" hanno cliccato sui link delle lettere composte dall'intelligenza artificiale rispetto a quelle scritte da altre persone. Sfortunatamente, non vengono fornite statistiche esatte.

Gli autori fanno notare che le lettere scritte dall'IA suonavano "sorprendentemente umane" e che la piattaforma aggiungeva automaticamente elementi inaspettati, per rendere il testo più convincente - ad esempio, ha citato le leggi di Singapore, poiché l'input indicava che i destinatari da Singapore.

Gli esperti hanno a lungo discusso se abbia senso per i truffatori addestrare le reti neurali per creare e-mail di phishing: dopo tutto, gli invii di massa rimangono estremamente efficaci e convenienti. Ma se hai bisogno di email mirate, la cui compilazione richiede un lavoro aggiuntivo, le reti neurali possono davvero essere utili.

Anche se può sembrare scoraggiante, la buona notizia è che un addestramento di qualità per l'intelligenza artificiale costa milioni di dollari, probabilmente no. aspettatevi che nel prossimo futuro i truffatori decideranno in maniera massiccia di sborsare per migliorare il sistema, che è già eccellente Lavorando.