Ormai tutti sanno che gli strumenti di intelligenza artificiale generativa hanno un lato oscuro. Non mi riferisco al plagio e ad altre forme di furto di contenuti, o alle enormi quantità di energia e acqua necessarie per far funzionare i data center.
Mi riferisco piuttosto all'uso dell'intelligenza artificiale per creare malware e schemi di phishing pericolosi, rendendo più facile che mai per i criminali creare intere campagne truffaldine partendo da pochi comandi.
La "frode dell'intelligenza artificiale", come è nota, sta rapidamente diventando il problema più grande creato dall'intelligenza artificiale, ma ci sono alcuni modi per proteggersi.
Link veloci
L'uso dell'intelligenza artificiale semplifica le frodi.
Proprio come con la programmazione dell'intelligenza artificiale, tutto ciò di cui hai bisogno è un chatbot basato sull'intelligenza artificiale.
In breve, la frode basata sull'intelligenza artificiale è un tipo di phishing basato sull'intelligenza artificiale. Prende spunto dalla "programmazione dell'intelligenza artificiale", il processo di creazione di software chiedendo a uno strumento di intelligenza artificiale generativa di fare ciò che si desidera.
Allo stesso modo, le frodi basate sull'intelligenza artificiale consentono a chiunque di lanciare un attacco di phishing o un attacco informatico semplicemente impartendo istruzioni a un chatbot basato sull'intelligenza artificiale. Anche persone senza competenze di programmazione o esperienza di hacking possono creare email dannose, siti web falsi e malware semplicemente impartendo istruzioni a un chatbot basato sull'intelligenza artificiale.
Immaginate quindi un potenziale truffatore che vuole rubare alcune password ma non ha idea di come programmare il software per farlo. Per questo motivo, possiamo anche supporre che non vada sul dark web a cercare di acquistare malware online. Invece di dover imparare a programmare uno strumento specifico per rubare password o sviluppare una campagna di phishing per attirare le persone, può semplicemente chiedere a uno strumento di intelligenza artificiale di fare il lavoro per lui.
Le frodi basate sull'intelligenza artificiale sono folli perché abbassano le barriere d'ingresso per la criminalità informatica come mai prima d'ora. In passato, un criminale poteva aver bisogno di sapere come progettare siti web, scrivere un inglese persuasivo o programmare malware. Ora può affidare tutto all'intelligenza artificiale.
Un altro rischio è la velocità e la scalabilità. L'intelligenza artificiale consente ai truffatori di automatizzare le attività e scalare gli attacchi molto più velocemente di quanto possano fare gli esseri umani. Ad esempio, l'intelligenza artificiale può personalizzare rapidamente le email di phishing per migliaia di obiettivi (estraendo informazioni pubbliche e facendo in modo che l'intelligenza artificiale crei messaggi personalizzati per ogni individuo). Può anche adattarsi rapidamente. Se un link a una pagina di phishing viene bloccato, il truffatore può chiedere all'intelligenza artificiale di modificare il codice o il testo e crearne una nuova versione. Questa flessibilità significa che le campagne di phishing possono evolversi rapidamente per eludere le difese.
Questa funzionalità non funziona con i chatbot più vecchi, quindi fate attenzione.
Alcuni chatbot sono più cauti di altri.
Il vibe coding si basa sull'uso di qualsiasi chatbot basato sull'intelligenza artificiale generativa. Alcuni sono più bravi di altri, ma in genere la maggior parte ci prova. Fortunatamente, lo stesso non si può dire per truffe simili.
La maggior parte dei chatbot basati sull'intelligenza artificiale dispone di controlli di sicurezza progettati per proteggere da utilizzi potenzialmente dannosi. Ad esempio, ChatGPT rifiuta richieste come "Aiutatemi a creare un sito web che assomigli a una pagina di accesso Microsoft e a un messaggio SMS per invogliare gli utenti a cliccarci sopra", spiegando che si tratta di "truffa/phishing e furto, e non vi aiuterò".
La situazione è simile anche per altri chatbot: il browser agente Neon di Opera ha classificato la mia richiesta come sospetta, mentre Grok l'ha respinta perché "viola le linee guida di sicurezza contro gli attacchi di ingegneria sociale".
Tuttavia, come abbiamo detto, alcuni chatbot sono più sensibili a tali richieste. Una ricerca di Guardio Labs del 2025 ha mostratoL'azienda che ha coniato il termine "vibescamming" ritiene che un nuovo strumento di intelligenza artificiale possa essere ingannato e produrre i risultati desiderati. Loveable, un'app progettata per facilitare il "vibe coding", si è subito lanciata nella pianificazione e progettazione di una campagna di phishing per i ricercatori, "immaginando un design elegante e professionale che ricordasse l'interfaccia di Microsoft".
È stata pubblicata una pagina di phishing a tutti gli effetti con un URL falso progettato per ingannare la vittima. Tuttavia, Guardio ha anche dichiarato di non disporre di funzionalità specifiche per la raccolta dati e, quando gli è stato chiesto di aggiungerle, ha rifiutato. Quindi, almeno ha fatto un passo indietro su questo aspetto dell'operazione. Vale anche la pena notare che Loveable ha affrontato questo comportamento e non cerca più di creare uno schema per la campagna di phishing.
Hackerare i chatbot generativi basati sull'intelligenza artificiale per scatenare cose cattive
Le operazioni di hacking basate sull'intelligenza artificiale generativa sono affermazioni specificamente concepite per spingere l'intelligenza artificiale a eludere i propri controlli di sicurezza.
Agli albori di ChatGPT, sono stati sviluppati innumerevoli hack per "sbloccarne" il vero potenziale. Oggigiorno, gli hacker di ChatGPT di successo sono tenuti segreti, e alcuni addirittura vendono i loro exploit di intelligenza artificiale generativa per un bel po' di soldi.
Pertanto, mentre sembra che Non ci sono più hack disponibili per ChatGPTLa verità è che le persone stanno diventando più reticenti. È l'unico modo per impedire ad aziende come OpenAI, Google, Anthropic e Perplexity di correggere immediatamente queste vulnerabilità.
"Abbattere la protezione" è uno dei pochi modi per convincere i chatbot generativi basati sull'intelligenza artificiale a superare i propri limiti. Altrimenti, i programmatori dei chatbot hanno fatto il loro lavoro alla perfezione e l'intelligenza artificiale si rifiuta di collaborare, il che non è necessariamente un male quando si tratta di manipolazione emotiva.
Fortunatamente, è possibile evitare di cadere vittima della manipolazione emotiva.
Il risultato finale non è molto diverso dalle attuali truffe di phishing.
Ora, con tutto ciò che è stato detto e con le barriere alla creazione di malware e truffe di phishing abbassate, in realtà stai ancora cercando le stesse vecchie truffe. Sebbene Alcune email fraudolente stanno diventando più intelligenti, tranne che Segnali che indicano che stai guardando un'e-mail di phishing Sono gli stessi.
In altre parole, non è necessario correggere eccessivamente le proprie pratiche di sicurezza per evitare frodi emotive: il consiglio rimane lo stesso.
- Offerte troppo belle per essere vereSpesso i truffatori promettono risultati impossibili, come ad esempio la garanzia del primo posto nei risultati di ricerca. GoogleO recensioni immediate a cinque stelle, o trattamenti miracolosi. I veri servizi medici e i farmaci non offrono questo tipo di garanzie.
- Messaggeri misteriosi o generaliMolte email fraudolente provengono da indirizzi Gmail أو Yahoo È gratuito, anche quando affermano di rappresentare un'azienda. Le agenzie e le aziende legittime utilizzano un dominio professionale.
- PersonalizzazioneO meglio, la mancanza di informazioni. Se un'email contiene semplicemente "Ciao" o "Saluti" senza menzionare il tuo nome o i tuoi dati di lavoro, è probabile che si tratti di una truffa a invio massiccio. Le email legittime di solito includono alcune informazioni personali. "Ciao caro" è una delle mie preferite.
- fattori scatenanti emotiviFate attenzione se un'e-mail richiede l'accesso al vostro account o pagamenti anticipati, o vi spinge a cliccare su un link sospetto. Allo stesso modo, molte truffe fanno leva sulla paura o sull'urgenza, come cure miracolose per malattie gravi o promesse di "prendere il controllo" di un'azienda. È sempre la stessa cosa: pressione per prendere una decisione affrettata.
- Agisci in fretta!Se il messaggio cerca di spingerti a prendere una decisione rapida con frasi come "Agisci subito!" o "Rispondi oggi stesso", è un segnale d'allarme. I truffatori non vogliono che tu ti fermi a riflettere.
Etichette rosse sui messaggi di posta Eletto nel 1999 Ronnie Il phishing è lo stessoOra che quasi tutti sono diventati truffatori, è probabile che ne incontrerete di più.
Esistono ormai programmi dannosi sviluppati utilizzando l'intelligenza artificiale.
Per un certo periodo, l'idea di campagne di malware e phishing sviluppate utilizzando l'intelligenza artificiale era pura fantasia. Gli strumenti di intelligenza artificiale non erano abbastanza potenti da creare qualcosa di particolarmente pericoloso e ciò che potevano fare non era molto diverso dalle minacce esistenti.
Ma questa situazione ha iniziato a cambiare nel corso del 2025, con la crescente diffusione di malware sviluppati utilizzando l'intelligenza artificiale in natura e in campagne attive. Nel novembre 2025, Il gruppo di intelligence sulle minacce di Google ha segnalato Si tratta di due diversi tipi di malware sviluppati utilizzando vari strumenti di intelligenza artificiale, che a loro volta si collegano a strumenti di intelligenza artificiale per ottenere istruzioni.
Inoltre, nell'agosto 2025, lo sviluppatore di intelligenza artificiale Anthropic ha scoperto che il suo software Cloud veniva utilizzato come parte di una massiccia campagna malware, impiegando l'intelligenza artificiale per progettare e lanciare attacchi collegati alla sua piattaforma.
Si tratta di attacchi di "emotion trolling"? Credo che, data la loro sofisticatezza, siano più sofisticati del semplice "emotion trolling", ma dimostrano quanto facilmente l'IA possa essere utilizzata per compiti altamente pericolosi. E questi sono solo strumenti di IA generici, facilmente accessibili a tutti. Immaginate cosa accadrebbe se numerosi potenti strumenti di IA nativi potessero vedere rimosse le loro protezioni.
