Skip to navigation

Fin dove arrivano le capacità

I numeri che spiegano perché una risposta è venuta così, e cosa fare quando non basta.

View as Markdown

Ogni cosa che l’AI fa per te ha un confine: quanti passaggi recupera da un documento, quante pagine web apre, quanto a lungo può calcolare, quanta conversazione si porta dietro. Qui trovi quei confini, con la contromossa accanto.

Non è la pagina dei limiti amministrativi (quanto pesa un file, quante chat puoi aprire): quelli stanno in formati, limiti e quote. Questa risponde a una domanda diversa: perché la risposta è venuta così.

Ricerca nei documenti

Quando fai una domanda con Ricerca nei documenti attiva, la domanda non viene usata così com’è.

1

La domanda diventa 4 domande

Userbot ne genera 3 varianti che esplorano angolazioni diverse (definizioni, procedure, dati, casi d’uso) e cerca con quelle più la tua: 4 ricerche in parallelo.

2

Si raccolgono i candidati

Dalle 4 ricerche escono fino a 40 passaggi candidati.

3

Se ne tengono 10

I candidati vengono riordinati per pertinenza reale e ne entrano nella risposta i primi 10. Gli altri vengono scartati.

Ne discendono alcune conseguenze pratiche.

La riformulazione ha 2 secondi di tempo. Se il servizio che la produce tarda oltre, Userbot cerca solo con la tua domanda originale e prosegue senza dirtelo. La risposta arriva comunque, ma più povera. Se una domanda ti sembra aver trovato meno del solito, rifarla è gratis e spesso basta.

Non c’è una soglia di rilevanza. I 10 passaggi migliori entrano nella risposta anche quando sono tutti scadenti: il sistema tiene i primi 10, non i 10 buoni. È il motivo per cui una risposta può citare un documento che c’entra poco. Le citazioni non certificano la pertinenza, la rendono verificabile: aprile.

10 passaggi si esauriscono in fretta. Se una domanda copre 3 argomenti, i 10 posti si dividono fra i 3 e nessuno viene coperto bene. Chiedi una cosa alla volta.

Com’è tagliato un documento

I documenti indicizzati non vengono cercati per intero: vengono spezzati in blocchi, ed è un blocco l’unità che entra nella risposta.

Tipo di contenutoCome viene spezzato
TestoBlocchi da circa 512 token (poco meno di una pagina) con 50 token di sovrapposizione fra un blocco e il successivo
Fogli di calcolo50 righe per blocco

La sovrapposizione serve a non tagliare in due una frase che conta. Resta però vero che un’informazione distribuita su molte pagine entra solo in parte: per quella conviene allegare il file invece di cercarci dentro.

→ Cercare nei documenti

Ricerca web

Ogni ricerca restituisce di solito 5 risultati, e di una pagina aperta l’AI legge solo la prima parte del testo, non la pagina intera.

5 risultati non sono una rassegna. Per un confronto ampio, spezza la richiesta in più domande mirate invece di chiederne una che copra tutto.

La lettura parziale spiega il caso più fastidioso: l’AI apre la pagina giusta e non trova l’informazione, perché stava in fondo. Quando sai dove guardare, dillo: «nella pagina dei prezzi, la fascia enterprise».

→ Ricerca web

Analisi dati: motori diversi

Dietro le analisi ci sono 2 motori, e sapere quale sta lavorando spiega quasi tutti i comportamenti strani.

Il motore leggero

Calcola e disegna grafici. Ha 25 secondi, conosce solo gli strumenti di calcolo di base e, questo è il punto, non vede i file: né gli allegati, né i documenti, né gli asset di una skill.

Il motore sui file

Apre, elabora e produce file veri. Ha 120 secondi di orologio e 60 secondi di calcolo effettivo, e lavora in una cartella che resta a disposizione per tutta la conversazione.

Quando i dati stanno in un file, lavora il secondo. Quando il calcolo è su numeri già presenti nella conversazione, lavora il primo. Per sapere quale dei due ha lavorato, apri il pannello Ragionamento sopra la risposta, oppure il pannello Strumenti dalla riga sotto la risposta: il codice che ci trovi dentro dice cosa è stato aperto e cosa è stato calcolato.

Il pannello Ragionamento aperto, con il riquadro Codice: il foglio Excel viene letto e i valori sommati per linea di prodotto, segno che sta lavorando il motore che vede i file
CosaValore
File che il motore sui file può ricevere in una volta8
Testo che l’AI legge da un documento in una volta120.000 caratteri

Se ne indichi più di 8, i file oltre l’ottavo vengono ignorati in silenzio: nessun errore, nessuna nota nella risposta. Su una richiesta tipo «confronta questi 12 report» ottieni un confronto che sembra completo e ne copre 8. Dividi il lavoro in 2 richieste e dichiara tu quali file vanno insieme.

La cartella di lavoro si svuota

I file intermedi che il motore produce (un foglio ripulito, un modello compilato, un grafico da rifinire) restano disponibili nelle richieste successive finché la conversazione è viva. Dopo 30 minuti senza attività, quella cartella viene cancellata.

Riprendere una chat il giorno dopo funziona: la conversazione c’è tutta. Ma i file intermedi non ci sono più, e l’AI riparte dai dati di origine. Se un passaggio ti serve davvero, chiedi di salvarlo nella Libreria mentre stai lavorando, non dopo.

→ Analizzare dati e creare grafici

Conoscenza aziendale

Cercare dentro gli strumenti collegati è l’operazione più lenta e più costosa che l’AI faccia, ed è quella con più confini.

CosaValore
Tentativi prima di arrendersi3
Tempo massimo della ricerca3 minuti
Dimensione di un documento scaricato10 MB
Materiale complessivo che entra nella risposta80.000 caratteri
Risultati tenuti per ogni fonteDa 10 a 50, secondo la fonte

I numeri fonte per fonte sono nella pagina della Conoscenza aziendale. Anche 50 risultati sono pochi se la domanda è vaga. La contromossa è sempre la stessa: dai un’ancora che restringa il campo (un nome, un progetto, un periodo). «Cosa ci siamo detti con il fornitore Beta sul rinnovo negli ultimi 2 mesi» funziona; «rinnovo Beta» no.

→ Conoscenza aziendale

Conversazioni lunghe

Quando la conversazione arriva all’80% della finestra di contesto (200.000 token), i messaggi più vecchi vengono riassunti per il modello e gli ultimi 20 restano parola per parola. Nella risposta compare la riga Conversazione compattata, e l’anello Contesto e utilizzo sotto il campo ti dice in ogni momento a che punto sei.

Un riassunto perde i dettagli. I sintomi sono riconoscibili: l’AI torna a chiederti il contesto che avevi già dato, perde il tono che avevi impostato all’inizio, ignora un vincolo che avevi posto molti messaggi prima. → Contesto e conversazioni lunghe

Su un lavoro lungo, ogni volta che si consolida qualcosa di importante (destinatario, formato, vincoli, decisioni prese) chiedi una sintesi dello stato, poi apri una chat nuova incollandola in apertura. Vale più di qualunque tentativo di tenere viva una conversazione infinita. Se il contesto è stabile e ti serve sempre, non è materia da chat: mettilo nelle istruzioni personalizzate o in un progetto.

Passaggi con gli strumenti

In un singolo turno l’AI può fare fino a 50 passaggi con gli strumenti: cercare, leggere un documento, eseguire un calcolo, disegnare, riprovare. All’ultimo passaggio disponibile viene invitata a concludere con quello che ha raccolto.

Se il budget si esaurisce comunque, la risposta si chiude con una nota esplicita: «Troppi passaggi con gli strumenti, mi fermo qui». Non è un errore ed è recuperabile: quello che ha già prodotto resta nella conversazione. Riparti da lì chiedendo il pezzo mancante, invece di rifare tutto da capo.

50 passaggi bastano quasi sempre. Quando non bastano, il problema è quasi sempre la richiesta: una che chiede 6 cose insieme le fa tutte a metà. Falla in più volte.