Perché l’AI ti risponde sicura anche quando sbaglia

Un modello linguistico non cerca la verità: produce la continuazione più plausibile di quello che gli hai chiesto. Capire questa differenza è ciò che separa chi usa l’AI da chi si fida dell’AI.

In sintesi

  • L’AI non consulta un archivio: genera testo probabile, e la sicurezza nel tono non è una prova di correttezza.
  • Tre segnali che dicono che sta inventando: dettagli troppo precisi, nessuna fonte, versione diversa se chiedi di ripetere.
  • La regola pratica: usa l’AI dove puoi verificare in pochi minuti, non dove la verifica costa più del lavoro.

Come funziona davvero, in due righe

Un modello linguistico ha un solo compito: dato un testo, indovinare quale parola viene dopo. Lo fa così bene che il risultato sembra un ragionamento. Ma il motore non è un motore di ricerca: non apre documenti, non controlla fonti, non sa se quello che scrive è vero. Sa che è plausibile.

Da qui nasce la cosa che confonde tutti: quando sbaglia, sbaglia con lo stesso tono con cui ha ragione. Non esita, non si scusa, non abbassa la voce. È questo che inganna, non l’errore.

Tre segnali che sta inventando

Non esiste un modo per essere sicuri al cento per cento, ma ci sono tre indizi che funzionano quasi sempre.

Primo: i dettagli troppo precisi. Numeri di pagina, date, nomi di studi, percentuali con il decimale. Più un dettaglio è specifico, più è probabile che sia stato costruito per somigliare a un fatto. Un essere umano che ricorda aggiunge «mi pare», «verso»; un modello che inventa non ha dubbi.

Secondo: nessuna fonte, o una fonte che non esiste. Chiedi da dove viene un’affermazione. Se ti risponde con un titolo, un autore e un link, apri il link. Capita spesso che il documento sia plausibile e introvabile.

Terzo: la versione cambia. Fai la stessa domanda due volte in due conversazioni diverse. Se il numero cambia e nessuno dei due viene da un documento tuo, non è un dato: è un’ipotesi travestita.

La regola che uso io

Non chiedo all’AI le cose che non posso controllare. Le chiedo le cose che posso verificare in pochi minuti: una bozza da correggere, un riassunto da confrontare con il testo, una struttura da riempire con i miei dati.

Il criterio è semplice: se verificare costa più che farlo a mano, l’AI non serve. Se costa meno, allora vale la pena.

Dove è pericoloso e dove no

È pericoloso su tutto ciò che ha conseguenze: prezzi comunicati a un cliente, scadenze normative, dosaggi, clausole contrattuali, dati sanitari. Lì l’errore non costa cinque minuti, costa un cliente o una multa.

È prezioso su tutto ciò che è forma: riscrivere una mail, riordinare un elenco, trasformare tre pagine di appunti in una scaletta, tradurre mantenendo il tono, spiegare un concetto in tre modi diversi finché uno funziona.

Come si riduce il rischio (senza diventare tecnici)

Tre abitudini bastano.

Dagli i tuoi documenti. Se gli passi il tuo listino, non deve indovinare i prezzi. La maggior parte degli errori gravi nasce dal contesto mancante, non dal modello.

Chiedigli di dire «non lo so». Nella richiesta scrivi che preferisci un «non ho informazioni sufficienti» a una risposta inventata. Funziona più di quanto sembri.

Tieni il controllo su ciò che esce. Un assistente che prepara una bozza è utile; un assistente che invia da solo è un rischio che non vale il tempo risparmiato.

Il punto, in una riga

L’AI non è inaffidabile: è indifferente alla verità. Sta a te decidere dove metterla, e su cosa tenere gli occhi aperti.

Se vuoi capire dove l’AI può sbagliare nella tua azienda, e dove invece conviene lasciarla lavorare.

Parliamone venti minuti

Ciao, sono l'assistente di Angelo. Ti spiego come funziona, oppure ti fisso venti minuti al telefono.