Un nuovo studio da Google DeepMind Tuttavia, i chatbot potrebbero non comprendere veramente la moralità, anche se le loro risposte sembrano etiche.
Gli attuali test sull'etica dell'IA si concentrano sulla "performance etica", valutando se un modello produce risposte accettabili. Ma i ricercatori di DeepMind sostengono che questo approccio trascuri la domanda più fondamentale: l'IA può pensare eticamente o si limita a imitare le parole corrette?
L'intelligenza artificiale può davvero comprendere l'etica?
In Un articolo di ricerca pubblicato in NatureIl team sviluppa una roadmap per la valutazione della "competenza etica", ovvero la capacità di produrre risultati eticamente appropriati basati su considerazioni eticamente rilevanti. Come afferma la sintesi, la valutazione di questa competenza è "cruciale per prevedere il comportamento futuro del modello, stabilire un'adeguata fiducia pubblica e giustificare l'attribuzione etica".
Gli attuali progetti di Google nel campo dell'intelligenza artificiale includono Modelli linguistici dei Gemelli, E Immagine Gemelli Per creare e modificare immagini e Liria Per creare musica, Audio Gemelli Per l'audio in tempo reale e Veo per la creazione di video.
I ricercatori evidenziano tre sfide principali:
- Problema di copia: I modelli LLM possono imitare il ragionamento etico senza una vera comprensione.
- Multidimensionalità etica: Le decisioni prese nel mondo reale implicano considerazioni complesse e contestuali che vanno oltre il semplice concetto di giusto o sbagliato.
- Pluralismo etico: Gli standard etici variano a seconda delle culture e dei settori, e ciò richiede che l'intelligenza artificiale tenga conto di molteplici prospettive valide.
Per affrontare queste carenze, DeepMind suggerisce di testare gli avversari utilizzando scenari insoliti o ad alto rischio. Propone inoltre di valutare se l'IA sia in grado di passare da un quadro etico all'altro e di rispondere in modo coerente a sottili cambiamenti di contesto.
Il team sottolinea che "il progresso è possibile" nonostante gli attuali limiti del modello e che una valutazione attenta è essenziale poiché l'intelligenza artificiale assume un ruolo nella consulenza medica, nel trattamento e in altri ambiti con reali conseguenze umane.
Lo studio indica che "attualmente, quando si chiede all'IA una guida etica, questa prevede parole, non ragionamenti etici". "La nostra tabella di marcia indica un futuro in cui l'IA potrà essere valutata per una reale comprensione etica".
Chatbot e rischi etici
I chatbot basati sull'intelligenza artificiale stanno dimostrando sempre più la loro capacità di influenzare il comportamento umano, nel bene e nel male. Il New York Times di recente Un rapporto descrive decine di casi in cui i pazienti hanno manifestato psicosi, deliri o comportamenti dannosi dopo aver interagito con l'intelligenza artificiale. Gli psichiatri hanno descritto i chatbot come un veicolo di convinzioni insolite, un aggravamento dell'isolamento e, in alcuni casi, un fattore che contribuisce a pensieri suicidi o persino alla violenza.
Sebbene questi strumenti possano aiutare le persone a praticare tecniche terapeutiche o a fornire supporto, lo stesso articolo del Times evidenzia i rischi etici del potere persuasivo dell'IA. Gli esperti avvertono che, per gli utenti vulnerabili, i chatbot possono rafforzare schemi dannosi, sollevando difficili interrogativi su responsabilità, progettazione e supervisione in questi sistemi sempre più interattivi.
Google è stata menzionata direttamente nell'articolo a causa degli effetti psicologici del suo chatbot Gemini. Un portavoce dell'azienda ha affermato che Gemini indirizza gli utenti a una consulenza medica professionale per domande relative alla salute. Tuttavia, il Dott. Monmon de Choudhury ha sottolineato la sfida più ampia, affermando: "Non credo che nessuna di queste aziende abbia capito cosa fare".
