Il context window: quanto tiene sul tavolo

In breve

Il context window è il tavolo: tutto quello che il modello ha davanti adesso.
Non è memoria: è capienza. E si svuota chiudendo la sessione.
Lo riempiono le istruzioni, i file che apre, gli esiti dei comandi e tutta la conversazione.
Tavolo pieno = risposte peggiori e costi più alti, senza nessun avviso.

Il tavolo, non la memoria

Immagina il tuo collaboratore seduto a un tavolo. Per lavorare deve avere davanti tutto insieme: le note appese in studio, i documenti che ha aperto, gli appunti di quello che vi siete detti finora.

Quel tavolo ha una superficie, ed è finita. Il context window è quella superficie.

Attenzione a non confonderlo con la memoria, perché sono cose opposte: la memoria è quello che resta dopo, il tavolo è quanto ci sta adesso. E il tavolo, a fine sessione, si svuota completamente.

Cosa lo riempie

Le tue istruzioni permanenti — il CLAUDE.md, appoggiato lì dall'inizio. È il motivo per cui la lezione scorsa insisteva sulla lunghezza.
I file che apre. Ogni file letto finisce sul tavolo e ci resta.
Gli esiti dei comandi, compresi quelli lunghissimi e quelli falliti.
Tutta la conversazione, la tua e la sua, dall'inizio della sessione.

E adesso richiama la lezione sul modello smemorato: siccome a ogni giro il modello si rilegge tutto da capo, il tavolo non è solo capienza — è anche il conto. Più roba c'è sopra, più costa ogni singola mossa.

Pieno non vuol dire meglio

Il tavolo di questi modelli è enorme, e la reazione naturale è: benissimo, allora ci butto sopra tutto. È lo stesso errore della cartella troppo grande e del file di istruzioni troppo lungo.

Quando il tavolo si riempie di roba che non serve più — file aperti mezz'ora fa, comandi falliti, un argomento che avete abbandonato — le cose che contano pesano di meno. Il risultato è che le risposte peggiorano, lentamente, senza nessun avviso.

Non ricevi un errore. Ricevi risposte via via più imprecise, e dai la colpa al modello.

Guardarlo: /context

Non serve andare a sensazione: /context ti mostra quanto è pieno e da cosa. È lo stesso comando che avevi conosciuto nel capitolo sull'installazione, ed è anche il posto dove verificare che il tuo file di istruzioni sia stato caricato.

Nell'app desktop non serve nemmeno il comando: il pallino in basso a destra, accanto all'effort, apre il riepilogo.

Animazione ciclica: il puntatore clicca il pallino in fondo alla barra, dopo modello ed effort, e si apre il riepilogo: «Finestra di contesto» a zero e sotto i limiti del piano, con la quota delle 5 ore e quella settimanale e le rispettive percentuali. — Nello stesso pannello ci sono due contatori diversi che è facile confondere: sopra il tavolo di questa sessione, sotto quanto hai consumato del piano. Il primo si svuota chiudendo la sessione, il secondo no.

La cosa utile non è il numero: è la ripartizione. Se scopri che metà del tavolo è occupata dalle tue istruzioni, sai cosa tagliare. Se è la conversazione ad aver preso tutto, sai che è ora di ripulire.

E adesso

"Ripulire" l'ho detto tre volte in due lezioni senza mai spiegarlo. Nella prossima vediamo i due gesti che lo fanno — e sono due, diversi, e usarli al posto sbagliato è un peccato.

Hai capito?

Due minuti, nessun voto. Provare a rispondere — anche sbagliando — fissa i concetti molto più che rileggere. Se non ti va, salta pure: la lezione si completa lo stesso.

Cos'è il context window?

Il tavolo è quasi pieno. Cosa ti aspetti?

Come guardi quanto spazio hai occupato?

1
1. 1
2. 2
3. 3
2
1. 4
2. 5
3. 6
4. 7
3
1. 8
2. 9
3. 10
4. 11
5. 12
4
1. 13
2. 14
3. 15
4. 16
5. 17
6. 18
5
1. 19
2. 20
3. 21
4. 22
5. 23
6. 24
6
1. 25
2. 26
3. 27
4. 28
5. 29
6. 30
7
1. 31
2. 32
3. 33
4. 34
8
1. 35
2. 36
3. 37
4. 38
9
1. 39
2. 40
3. 41
10
1. 42
2. 43
3. 44
11
1. 45
2. 46