Il campo dell’elaborazione del linguaggio naturale (PNL) è stato testimone di un’enorme rivoluzione negli ultimi anni, con l’emergere di modelli linguistici di grandi dimensioni (LLM) che offrono capacità eccezionali nella comprensione e nell’elaborazione del linguaggio umano. Gemini 1.5 è uno degli ultimi di questi modelli e offre enormi possibilità contestuali. Il modello Google Gemini 1.5 è ora dotato di un'enorme finestra contestuale di XNUMX milione di icone uniche, facendo impallidire i suoi concorrenti diretti come ChatGPT, Claude e altri chatbot basati sull'intelligenza artificiale.
La finestra contestuale da un milione di token in Gemini 1.5 è un punto di svolta, consentendo al modello di avere una comprensione più profonda e accurata del linguaggio. Con una maggiore capacità contestuale, il modello può analizzare più parole ed frasi che circondano una determinata parola o frase, il che lo aiuta a dedurne meglio il significato. Verificare Arriva Gemini AI di Google: si distingue più di ChatGPT nel mondo AI?
Link veloci
Cos'è la finestra di contesto?
Mentre rispondono alle tue domande, come spiegare un concetto o riassumere un testo, i modelli di intelligenza artificiale hanno limiti sulla quantità di dati che possono prendere in considerazione per generare una risposta. La dimensione massima del testo che può essere considerata è chiamata finestra di contesto.
Ecco un altro modo di considerare questo concetto. Supponiamo che tu sia andato in un negozio di alimentari per acquistare verdure e articoli per la casa senza la lista della spesa. Il numero massimo di generi alimentari che ricordi quando fai la spesa è la finestra contestuale. Più generi alimentari riesci a ricordare, maggiori sono le possibilità di non rovinare i tuoi piani di spesa designati. Allo stesso modo, maggiore è la finestra di contesto di un modello AI, maggiore è la probabilità che il modello ricordi tutto ciò di cui ha bisogno per fornire i migliori risultati.
Al momento in cui scrivo, la finestra di contesto Claude 2.1 di Anthropic con 200 token è la finestra di contesto più grande di qualsiasi modello di intelligenza artificiale disponibile pubblicamente. Segue GPT-4 Turbo con una finestra di contesto di 128 token. Google Gemini 1.5 offre un milione di finestre contestuali, quattro volte più grandi di qualsiasi altra cosa sul mercato. Ciò porta alla grande domanda: cosa c'è di speciale in una finestra contestuale di un milione di icone distinte? Verificare Qual è il limite del token ChatGPT e puoi aggirarlo?
Perché la finestra di contesto in Gemini 1.5 è così importante?
Per dirla più in dettaglio, la finestra di contesto da 200 di Claude AI significa che può contenere un libro di circa 150 parole e fornire risposte. Questo è davvero enorme. Ma Google Gemini 1.5 sarà in grado di contenere 700000 parole contemporaneamente!
Quando inserisci un grande blocco di testo nei prompt di un chatbot AI come ChatGPT o Gemini, cerca di assorbire quanto più testo possibile, ma quanto può assorbire dipende dalla sua finestra di contesto. Pertanto, se hai una conversazione di 100 parole su un modello che può gestire solo 28 parole e poi inizi a porre domande che richiedono la piena conoscenza di tutte le 100 parole della conversazione, lo stai predisponendo al fallimento. .
Immagina di guardare solo 20 minuti di un film di un'ora e di dover spiegare l'intero film. Quanto saranno buoni i tuoi risultati? O rifiutarsi di rispondere o semplicemente inventare qualcosa, che è esattamente ciò che farà un chatbot AI, con il risultato... Allucinazioni di intelligenza artificiale.
Ora, se pensi di non aver mai dovuto inserire 100 parole in un chatbot, non è tutto ciò che conta. La finestra di contesto va oltre il testo inserito nel modello AI in un solo prompt. I modelli di intelligenza artificiale tengono conto dell'intera conversazione che hai durante una sessione di chat per garantire che le loro risposte siano il più pertinenti possibile.
Quindi, anche se non stai alimentando il modello con un libro di 100 parole, le tue conversazioni avanti e indietro e le risposte che fornisce si sommano al calcolo della finestra di contesto. Ti stai chiedendo perché ChatGPT o Gemini di Google continuano a dimenticare le cose che gli hai detto in precedenza nella conversazione? Potrebbe aver esaurito lo spazio della finestra di contesto e aver iniziato a dimenticare le cose.
La finestra di contesto più ampia è particolarmente importante per attività che richiedono una profonda comprensione del contesto, come riassumere articoli lunghi, rispondere a domande complesse o mantenere una narrazione coerente nel testo generato. Vuoi scrivere un romanzo di 50 parole che abbia una narrazione coerente ovunque? Vuoi una modella che possa "guardare" e rispondere alle domande in un video di un'ora? Hai bisogno di una finestra di contesto più grande!
In breve, la finestra contestuale più ampia di Gemini 1.5 potrebbe migliorare significativamente le prestazioni del suo modello di intelligenza artificiale, riducendo le allucinazioni e aumentando notevolmente la precisione e la capacità di seguire meglio le istruzioni.
Gemini 1.5 sarà all'altezza delle aspettative?
Se tutto andrà come previsto, Gemini 1.5 probabilmente supererà i migliori modelli di intelligenza artificiale sul mercato. Tuttavia, considerati i numerosi fallimenti di Google nella creazione di un modello di intelligenza artificiale stabile, è importante essere cauti. Il semplice aumento della finestra di contesto del modulo non migliora automaticamente il modulo.
Ho utilizzato la finestra di contesto di Claude 2.1 da 200k per diversi mesi dal suo rilascio e una cosa mi era chiara: una finestra di contesto più ampia può davvero migliorare la sensibilità al contesto, ma i problemi con le prestazioni del modello sottostante possono rendere problematico il contesto più ampio per questo.
Google Gemini 1.5 cambierà le regole del gioco? I social media sono attualmente pieni di recensioni entusiastiche per Gemini 1.5 da parte degli utenti con accesso anticipato. Tuttavia, la maggior parte delle recensioni a cinque stelle derivano da casi d’uso affrettati o semplicistici. Un buon posto per verificare le prestazioni del Gemini 1.5 in natura è all'interno della relazione tecnica Google Gemelli 1.5 [PDF]. Il rapporto mostra che anche durante i “test controllati”, il modello non è stato in grado di recuperare tutti i dettagli più fini dei documenti entro le dimensioni della sua finestra di contesto.
Una finestra di contesto di un milione di token è già un risultato tecnico impressionante, ma senza la capacità di recuperare in modo affidabile i dettagli del documento, una finestra di contesto più ampia ha poco valore pratico e può diventare causa di ridotta precisione e ulteriori allucinazioni. Puoi visualizzarlo ora Oltre ChatGPT: una visione per il futuro dei chatbot e dell'intelligenza artificiale generativa?
