L'intelligenza artificiale è stata un argomento caldo di discussione sin dal suo inizio. Mentre i timori di un'intelligenza artificiale simile a Skynet che prende il controllo dell'universo e spazza via l'umanità sono a dir poco irrazionali, alcuni esperimenti hanno prodotto risultati inquietanti.
Uno di questi esperimenti è il Maximum Paperclip Problem, un esperimento mentale che dimostra che l'intelligenza artificiale altamente intelligente, anche se progettata interamente senza malizia, può alla fine distruggere l'umanità. Verificare OpenAI ha davvero perso il controllo del chatbot ChatGPT?
Link veloci
Spiegazione del problema dell'aumento delle graffette
Questo esperimento mentale secondo cui anche un'intelligenza artificiale completamente innocua può alla fine influenzare negativamente la vita dell'umanità è stato inizialmente chiamato "aumento della graffetta". È solo che Paper Clips è stato scelto per mostrare cosa può fare l'IA perché presenta pochi pericoli evidenti e non causerà disagio emotivo rispetto ad altre aree applicabili come curare il cancro o vincere guerre.
Il primo esperimento è apparso nell'articolo del 2003 del filosofo svedese Nick Bostrom, Problemi etici nell'intelligenza artificiale avanzata , che includeva una "lente d'ingrandimento per graffette" per mostrare la posta in gioco esistenziale che un'intelligenza artificiale sufficientemente avanzata poteva esercitare.
Il problema presentava un'intelligenza artificiale incaricata del solo scopo di realizzare quante più graffette possibili, che potesse decidere di trasformare in graffette tutte le questioni dell'universo, compresi gli esseri umani. Un'intelligenza artificiale abbastanza intelligente prima o poi si renderà conto che gli esseri umani sfidano il suo obiettivo in tre diverse aree.
- Gli esseri umani possono disattivare l'intelligenza artificiale.
- Le persone possono cambiare i loro obiettivi.
- Gli esseri umani sono fatti di atomi che possono essere trasformati in graffette.
In tutti e tre gli esempi, ci saranno meno graffette nell'universo. Pertanto, un'intelligenza artificiale sufficientemente intelligente il cui unico scopo è creare il maggior numero possibile di graffette trarrà vantaggio da tutti i materiali e l'energia disponibili e impedirà a se stessa di bloccarsi o cambiare. Come puoi immaginare, questo è molto più pericoloso dei criminali che utilizzano ChatGPT per hackerare il tuo conto bancario o computer.
L'intelligenza artificiale non è ostile agli umani. È solo indifferente e non apprezza la vita umana. Pertanto, un'intelligenza artificiale che si preoccupa solo di aumentare il numero di graffette eliminerà l'umanità e essenzialmente la trasformerà in graffette per raggiungere il suo obiettivo.
Un esempio di convergenza strumentale è "l'aumento della graffetta", un termine che indica che un'intelligenza artificiale può perseguire un obiettivo innocuo in modi dannosi (dal punto di vista umano). Sfruttare la vera intelligenza artificiale per eseguire compiti semplici e apparentemente innocenti potrebbe rappresentare una minaccia esistenziale per gli esseri umani se non sappiamo in modo sicuro come fare in modo che una macchina valuti la vita umana. Verificare Errori da evitare quando si utilizzano strumenti di IA generativa.
In che modo il problema della graffetta si applica all'intelligenza artificiale?
La ricerca e l'esperienza con il problema dell'"aumento delle graffette" indicano tutte un ottimizzatore predefinito molto potente o un agente molto intelligente come attore qui. Tuttavia, il problema si applica all'IA nella misura in cui si adatta esattamente al ruolo.
Dopotutto, l'idea del "potenziamento della graffetta" è stata creata per mostrare alcuni dei pericoli dell'intelligenza artificiale avanzata. In generale, presenta due problemi.
- Tesi di ortogonalitàLa tesi dell'ortogonalità è l'idea che l'intelligenza e la motivazione non siano dipendenti l'una dall'altra. Ciò significa che è possibile che un'intelligenza artificiale con un alto livello di intelligenza generale non raggiunga le stesse conclusioni morali degli umani.
- Convergenza automatizzataLa convergenza strumentale è definita come la tendenza degli organismi più intelligenti (sia umani che non umani) a perseguire sotto-obiettivi simili anche se il loro obiettivo finale è molto diverso. Nel caso del problema della sovrabbondanza di graffette, ciò significherebbe che l'IA finirebbe per impossessarsi di tutte le risorse naturali e spazzare via l'umanità solo per raggiungere il suo obiettivo di creare sempre più graffette.
Il problema più grande evidenziato dall'esempio di "aumento delle graffette" è l'effettiva convergenza. Può anche essere evidenziato utilizzando l'ipotesi di Riemann, nel qual caso un'intelligenza artificiale progettata per risolvere l'ipotesi potrebbe benissimo decidere di prendere l'intera massa della terra e trasformarla in un computer (il processore di computer più efficiente) per costruire supercomputer per risolvere il problema e raggiungere il suo obiettivo.
Lo stesso Bostrom ha affermato di non pensare che il problema della graffetta sarà mai un vero problema, ma che la sua intenzione era quella di illustrare i pericoli della creazione di macchine superintelligenti senza sapere come controllarle o programmarle in modo che non rappresentino un problema esistenziale minaccia per l'uomo. . Anche i moderni sistemi di intelligenza artificiale come ChatGPT hanno problemi, ma sono lontani dai sistemi di intelligenza artificiale super intelligenti di cui si parla nell'esempio della graffetta, quindi non c'è ancora motivo di farsi prendere dal panico. Verificare ChatGPT ha problemi di privacy?
I sistemi IA avanzati richiedono un controllo superiore
Il problema dell'aumento delle graffette porta sempre alla stessa conclusione e mette in luce i problemi di gestione di un sistema altamente intelligente e potente privo di valori umani.
Sebbene l'utilizzo di graffette possa essere il modo più comune per illustrare un problema, si applica a qualsiasi numero di attività che potresti assegnare a un'intelligenza artificiale, che si tratti di sradicare il cancro, vincere guerre, piantare più alberi o qualsiasi altro compito. . . Puoi visualizzare ora L'uso dell'intelligenza artificiale nella sicurezza informatica rende il mondo più sicuro?
