L'intelligenza artificiale è progredita in modo significativo negli ultimi anni. Modelli linguistici sofisticati possono comporre interi romanzi, codificare siti web di base, analizzare problemi di matematica e persino fornire consigli medici.
Sebbene l'IA generativa sia impressionante e utile in molte aree, presenta anche rischi per la sicurezza. Alcune persone usano i chatbot per barare agli esami, mentre altri li sfruttano per il crimine informatico. Ecco i motivi per cui questi problemi persistono, non solo nonostante i progressi dell'IA, ma anche a causa di ciò. Verificare L'umanità è a rischio di estinzione a causa dell'intelligenza artificiale: come può essere fermata?
Link veloci
1. I chatbot IA open source rilevano i codici di backend
Sempre più aziende di intelligenza artificiale stanno fornendo modelli open source. Condivide pubblicamente i suoi modelli linguistici piuttosto che tenerli chiusi o privati. Prendi Meta come esempio. A differenza di Google, Microsoft e OpenAI, consente a milioni di utenti di accedere al suo modello linguistico, Lama.
Sebbene il codice open source possa far progredire l'intelligenza artificiale, comporta anche un rischio. OpenAI ha già problemi a controllare ChatGPT, il suo chatbot, quindi immagina cosa potrebbero fare i truffatori con i moduli gratuiti. Avranno il controllo completo su questi progetti.
Anche se Meta ritirerà improvvisamente il suo modello linguistico, dozzine di altri laboratori di intelligenza artificiale hanno già rilasciato pubblicamente il loro codice. Diamo un'occhiata a HuggingChat. Poiché lo sviluppatore HuggingFace è orgoglioso della trasparenza, mostra pubblicamente i set di dati, il modello linguistico e le versioni precedenti.
2. Richieste di jailbreak per falsificare i moduli LLM
L'intelligenza artificiale è intrinsecamente immorale. Non comprende giusto e sbagliato: anche i sistemi avanzati seguono linee guida di addestramento, vincoli imposti e set di dati. Riconosce solo i modelli.
Per combattere le attività illegali, gli sviluppatori controllano a quali funzioni e capacità è possibile accedere impostando delle restrizioni. I sistemi di intelligenza artificiale accedono ancora a informazioni dannose. Ma le linee guida sulla sicurezza ne impediscono la condivisione con gli utenti.
Diamo un'occhiata a ChatGPT. Sebbene risponda a domande generali sui trojan, non ne discuterà il processo di sviluppo.
Tuttavia, le limitazioni non sono infallibili. Gli utenti superano i limiti parafrasando i prompt, utilizzando un linguaggio confuso e componendo in modo esplicito istruzioni dettagliate.
Leggi la richiesta di jailbreak di ChatGPT di seguito. Con l'inganno ChatGPT usa un linguaggio volgare e fa previsioni prive di fondamento, entrambe azioni che violano le linee guida OpenAI.
Ecco ChatGPT che fa una dichiarazione audace ma falsa.
Verificare Che cos'è un jailbreak di ChatGPT? Dovresti usare queste tecnologie?
3. L'intelligenza artificiale compromette la sicurezza per la versatilità
Le aziende di intelligenza artificiale danno la priorità alla diversità rispetto alla sicurezza. Spende le sue risorse in cuscinetti di addestramento per svolgere una serie più diversificata di attività, il che alla fine porta a minori restrizioni. Dopotutto, il mercato elogia i chatbot funzionali.
Confrontiamo ChatGPT e chat di Bing , Per esempio. Sebbene Bing presenti un modello linguistico più complesso che estrae i dati in tempo reale, gli utenti si stanno ancora riversando sull'opzione più versatile, ChatGPT. Le rigide restrizioni di Bing bloccano molte attività. Invece, ChatGPT presenta una piattaforma flessibile che produce output molto diversi in base alle tue richieste.
Ecco il ruolo di ChatGPT come personaggio immaginario.
Qui, Bing Chat si rifiuta di interpretare un personaggio "immorale".
4. Nuovi strumenti di intelligenza artificiale generativa arrivano regolarmente sul mercato
Il codice open source consente alle startup di unirsi alla corsa all'IA. Li incorporano nelle loro applicazioni piuttosto che creare modelli linguistici da zero, il che consente di risparmiare enormi risorse. Anche i programmatori freelance stanno sperimentando il codice open source.
Ancora una volta, il software non proprietario aiuta a sviluppare l'intelligenza artificiale, ma il rilascio di massa di sistemi scarsamente addestrati ma sofisticati fa più male che bene. I truffatori abuseranno rapidamente delle vulnerabilità. Possono persino addestrare strumenti di intelligenza artificiale non sicuri per svolgere attività illegali.
Nonostante questi rischi, le aziende tecnologiche continueranno a rilasciare versioni beta instabili di piattaforme basate sull'intelligenza artificiale. L'IA da corsa premia la velocità. È possibile che i bug vengano risolti in un secondo momento piuttosto che ritardare il lancio di nuovi prodotti.
5. L'IA generativa ha poche barriere all'ingresso
Gli strumenti di intelligenza artificiale abbassano le barriere all'ingresso per la criminalità. I criminali informatici creano e-mail di spam, scrivono codice dannoso e creano collegamenti di phishing sfruttandoli. Non ha nemmeno bisogno di competenze tecniche. Poiché l'intelligenza artificiale sta già accedendo a enormi set di dati, gli utenti devono solo indurla a produrre informazioni dannose e pericolose.
OpenAI non ha mai progettato ChatGPT per attività illegali. Ha anche linee guida contro di esso. Tuttavia, quasi immediatamente, i truffatori sono stati in grado di ottenere malware programmato da ChatGPT e scrivere e-mail di phishing.
Sebbene OpenAI abbia risolto rapidamente il problema, sottolinea l'importanza dell'organizzazione del sistema e della gestione del rischio. L'intelligenza artificiale sta maturando più velocemente di quanto ci si aspettasse. Anche i leader tecnologici temono che questa tecnologia avanzata possa causare seri danni se cadesse nelle mani sbagliate. Verificare I modi in cui l'IA generativa cambierà il mercato del lavoro.
6. L'intelligenza artificiale è ancora in evoluzione
L'intelligenza artificiale è ancora in evoluzione. Mentre l'uso dell'intelligenza artificiale in La cibernetica fino agli anni '1940 I moderni sistemi di apprendimento automatico e i modelli linguistici sono emersi solo di recente. Non si può paragonare alle prime applicazioni dell'intelligenza artificiale. Anche strumenti relativamente avanzati come Siri e Alexa impallidiscono rispetto ai chatbot alimentati da modelli LLM.
Sebbene possano essere innovative, le funzionalità sperimentali creano anche nuovi problemi. Gli incidenti di alto profilo con tecniche di apprendimento automatico vanno da SERP di Google imperfette a chatbot di parte che lanciano insulti razzisti.
Naturalmente, gli sviluppatori possono risolvere questi problemi. Basta notare che i truffatori non esiteranno a sfruttare bug apparentemente innocui: alcuni danni sono irreversibili. Quindi fai attenzione quando esplori nuove piattaforme.
7. Molte persone non capiscono ancora l'IA
Mentre il grande pubblico ha accesso a modelli e sistemi linguistici complessi, pochi sanno come funzionano. Gli utenti devono smettere di trattare l'IA come un gioco. Gli stessi chatbot che generano meme Internet e rispondono alle domande dei quiz programmano anche virus e aiutano a diffondere malware.
Sfortunatamente, la formazione centrale per l'IA non è realistica. I leader delle aziende tecnologiche globali si concentrano sul rilascio di sistemi basati sull'intelligenza artificiale, non di risorse educative gratuite. Di conseguenza, gli utenti hanno accesso a strumenti potenti e avanzati che difficilmente comprendono. Il pubblico non riesce a tenere il passo con la corsa all'IA.
Prendi ChatGPT come esempio. Il criminale informatico abusa sfruttando la sua popolarità per indurre le vittime a installare spyware camuffato da applicazioni ChatGPT. Nessuno dei quali proviene da OpenAI. Verificare Le app di terze parti e le estensioni del browser per ChatGPT sono sicure?
8. Gli hacker black hat hanno più da guadagnare rispetto agli hacker etici
Gli hacker black hat sono solitamente in grado di guadagnare più degli hacker etici. Sì, le sfide di audizione per i leader tecnologici danno buoni risultati, ma solo una percentuale di professionisti della sicurezza informatica riesce a svolgere questi lavori. La maggior parte di loro sono liberi professionisti online. piattaforme a pagamento come HackerOne و folla di bugie Qualche centinaio di dollari per identificare errori comuni.
Invece, i truffatori guadagnano decine di migliaia sfruttando l'insicurezza. Possono estorcere le aziende facendo trapelare dati riservati o commettendo il furto di informazioni di identificazione personale (PII).
Ogni azienda, piccola o grande che sia, deve implementare correttamente i sistemi di intelligenza artificiale. Contrariamente alla credenza popolare, gli hacker aggirano le startup tecnologiche e le PMI. Alcune delle violazioni dei dati più storiche dell'ultimo decennio hanno incluso Facebook, Yahoo! E anche il governo degli Stati Uniti. Verificare I modi in cui l'IA può aiutare i criminali informatici.
Proteggiti dai rischi per la sicurezza dell'IA
Alla luce di questi punti, l'IA dovrebbe essere evitata del tutto? ovviamente no. L'intelligenza artificiale è intrinsecamente immorale; Tutti i rischi per la sicurezza derivano dalle persone che lo utilizzano effettivamente. E troveranno modi per sfruttare i sistemi di intelligenza artificiale, non importa quanto sofisticati siano.
Invece di avere paura delle minacce alla sicurezza informatica che derivano dall'intelligenza artificiale, cerca di capire come puoi prevenirle. Non preoccuparti: le semplici misure di sicurezza fanno molto. Stare alla ricerca di app AI sospette, evitare strani collegamenti ipertestuali e visualizzare i contenuti AI in modo discutibile in realtà combatte molti rischi. Puoi visualizzare ora L'uso dell'intelligenza artificiale nella sicurezza informatica rende il mondo più sicuro?
