Che cosa ricorda, e da dove

Sessione: mezz'ora. Ti serve: una conversazione ancora aperta su un lavoro che dura da qualche giorno, e lo strumento che usi di solito.

Oggi fai al tuo strumento quattro domande, una per ciascuno dei posti da cui può venire quello che "sa". Serve a smettere di chiedergli di ricordare cose che non può ricordare, e a sapere dove guardare quando sbaglia.

1. Quello che sa da sempre

Apri una chat nuova e chiedi una cosa generale del tuo mestiere, senza dare contesto: "Che cos'è un capitolato d'appalto e che cosa contiene di solito?". Risponde subito e senza fonti, perché quella conoscenza sta nei pesi: l'ha imparata durante l'addestramento. Poi chiedi: "Fino a che data arrivano le cose che sai senza cercarle?". La data che ti dà, anche se approssimativa, è il confine oltre il quale, senza una ricerca, non sa niente.

2. Quello che rilegge

Torna alla conversazione lunga e scrivi: "Elenca le decisioni che abbiamo preso all'inizio di questa conversazione, con le parole che avevo usato io." Poi apri una chat nuova, fuori da qualunque progetto, e fai la stessa domanda. Nella prima le ritrova perché rilegge l'intera chat a ogni messaggio. Nella seconda non le ha davanti. Se nella prima te ne restituisce una versione impoverita, o ne salta una, hai visto la chat che si satura della tappa 9. Se nella seconda le ritrova comunque, le ha prese dalla memoria del prodotto o da una ricerca nelle conversazioni passate: è il passo successivo.

3. Quello che il prodotto gli passa

Nella chat nuova scrivi: "Che cosa sai di me? Elenca tutto, una riga per voce, e per ogni voce dimmi se te l'ho detto io o se l'hai dedotto." Poi apri le impostazioni della memoria (dove stanno, lo trovi sotto, nella sezione del tuo ambiente) e confronta le due liste. Quello che vedi lì è il profilo che il sistema mette davanti alla conversazione prima che tu scriva. Se usi un progetto, fai la stessa domanda dentro il progetto: risponde anche con i documenti e le istruzioni che ci hai messo, e fuori dal progetto quel materiale non lo vede.

4. Quello che va a cercare

Chiedi una cosa che dai pesi non può sapere: "Che cosa è cambiato nell'ultima settimana su [un tema del tuo lavoro]? Per ogni punto indica la fonte con il link e la data." Una risposta cercata porta link a pagine precise e date recenti. Aprine almeno due e controlla che dicano quello che riporta. Una risposta senza link su fatti di questa settimana va trattata come una supposizione.

Che cosa hai appena visto

Quando l'assistente "sa" una cosa, l'informazione può arrivare da cinque posti: dai pesi del modello, dalla conversazione che ha davanti, da un profilo che il prodotto gli passa prima del tuo messaggio, dai materiali di un progetto, da una ricerca fatta in quel momento. La tabella li mette in fila.

Quando una risposta è sbagliata, la prima domanda utile è da quale di queste cinque arriva: un'informazione vecchia nei pesi, un'istruzione persa in una chat troppo lunga, una voce del profilo che non vale più, una fonte letta male. Ognuna ha un rimedio diverso.

Il capitolo 5 del libro, "Ottenere quello che ti serve", spiega le cinque memorie nella sezione "La memoria degli LLM", con l'esempio di una sola richiesta che le usa tutte insieme. La sezione che segue, "Come far sì che l'IA si ricordi di te", è il punto di partenza della tappa 11.

Nel libro. Capitolo 5, sezione 5.3 "La memoria degli LLM", pagina 98. Il libro su Amazon.