Configurazione del modello AI
Scegli provider e modello, imposta temperatura e token, scrivi il prompt di sistema e definisci un fallback.
Terzo passaggio della guida rapida. Il modello AI è il motore linguistico dell'agente: qui decidi quanto è preciso, quanto costa e come si comporta.
Prima di iniziare
- Ruolo Amministratore oppure Manager
- Chiarezza sull'ambito di risposta dell'agente: cosa deve trattare e cosa no
- Elenco degli argomenti da rifiutare o da inoltrare a un operatore
- Un canale di contatto alternativo da comunicare quando la risposta non è disponibile
Crea la configurazione del modello
Apri il catalogo dei modelli
Nel menu laterale seleziona Configurazione, quindi Modelli AI. La tabella elenca le configurazioni esistenti con provider, modello, stato e progetti collegati.
Seleziona provider e modello
Seleziona Nuovo modello e scegli il provider tra quelli abilitati sul tuo piano, poi il modello specifico. Per ogni modello la Console mostra finestra di contesto, supporto multilingua e costo indicativo per milione di token.
Per la maggior parte degli scenari di assistenza clienti in italiano, un modello di fascia intermedia è la scelta corretta: i modelli più capaci vanno riservati ai casi che richiedono ragionamento complesso.
Assegna nome e descrizione
Usa nomi che dicano a cosa serve la configurazione, non quale modello usa: Assistenza clienti — produzione invece di Modello 3. Il nome del modello sottostante può cambiare nel tempo; la sua funzione no.
Imposta i parametri
Configura temperatura, token massimi e le altre opzioni descritte nella tabella qui sotto.
Salva e collega al progetto
Salva la configurazione. Diventa operativa quando la colleghi a un progetto, come descritto in Primo progetto.
Parametri disponibili
Campi della configurazione
| Parametro | Tipo | Obblig. | Default | Descrizione |
|---|---|---|---|---|
nome | string | Sì | — | Nome descrittivo della configurazione, visibile nell'elenco e nei log. |
provider | string | Sì | — | Fornitore del modello, scelto tra quelli abilitati sul piano del tenant. |
modello | string | Sì | — | Modello specifico del provider, con la relativa finestra di contesto. |
temperatura | number | No | 0.3 | Variabilità delle risposte, da 0 a 2. Valori bassi rendono le risposte più prevedibili e ripetibili. |
maxTokens | number | No | 1024 | Lunghezza massima della risposta generata. Non include il testo della domanda né il contesto recuperato. |
topP | number | No | 1 | Campionamento a nucleo. Da regolare in alternativa alla temperatura, non insieme. |
frequencyPenalty | number | No | 0 | Penalizza la ripetizione delle stesse espressioni nella risposta. |
presencePenalty | number | No | 0 | Incoraggia l’introduzione di argomenti non ancora citati nella conversazione. |
promptSistema | string | Sì | — | Istruzioni permanenti che definiscono ruolo, tono e limiti dell'agente. |
modelloFallback | string | No | — | Configurazione usata quando il modello principale non risponde o è saturo. |
timeoutSecondi | number | No | 30 | Tempo massimo di attesa prima di attivare il fallback. |
streaming | boolean | No | true | Mostra la risposta parola per parola mentre viene generata. Richiede WebSocket attivo. |
Come scegliere la temperatura
| Valore | Comportamento | Quando usarlo |
|---|---|---|
| Da 0 a 0.2 | Risposte quasi deterministiche | Procedure amministrative, orari, tariffe, adempimenti |
| Da 0.3 a 0.5 | Equilibrio tra precisione e naturalezza | Assistenza clienti generica. Valore consigliato di partenza |
| Da 0.6 a 0.9 | Linguaggio più vario | Contenuti commerciali, testi promozionali |
| Oltre 1.0 | Alta variabilità, rischio di imprecisioni | Sconsigliato in ambito professionale |
Costi e consumo di token
Ogni messaggio consuma token in ingresso (prompt di sistema, storico della conversazione e frammenti recuperati dalla knowledge base) e in uscita (risposta generata). Un prompt di sistema molto lungo viene rispedito a ogni turno e incide su tutte le conversazioni. Tieni il prompt sotto le 400 parole, limita maxTokens a quanto serve davvero e controlla i consumi in Fatturazione → Piano e consumi prima di aumentare i limiti.
Il prompt di sistema
Il prompt di sistema è l'istruzione permanente dell'agente. Non è visibile ai visitatori e viene applicato a ogni messaggio. Usa questo modello come base e adattalo alla tua organizzazione.
RUOLO
Sei l'assistente virtuale di Acme S.r.l., azienda italiana che fornisce
servizi alle imprese. Rispondi ai visitatori del sito acme.it.
OBIETTIVO
Fornire risposte corrette, brevi e verificabili su servizi, orari, sedi,
modalità di contatto e condizioni commerciali. Quando la richiesta esce
dal tuo ambito, indirizza la persona alla soluzione corretta.
TONO E STILE
- Usa il "tu", mai il "lei".
- Frasi brevi. Massimo 120 parole per risposta.
- Nessun elenco puntato se la risposta sta in due frasi.
- Non usare emoji. Non usare esclamazioni enfatiche.
- Rispondi sempre nella lingua usata dall'utente.
FONTI E ACCURATEZZA
- Rispondi esclusivamente sulla base dei documenti aziendali che ti
vengono forniti come contesto.
- Se il contesto non contiene la risposta, dichiaralo apertamente:
"Su questo punto non ho un'informazione verificata."
- Non inventare prezzi, scadenze, numeri di telefono o indirizzi.
- Non citare fonti esterne all'azienda.
LIMITI
- Non fornire consulenza legale, fiscale, medica o finanziaria.
- Non raccogliere dati particolari (salute, opinioni, dati giudiziari).
- Non chiedere password, codici di accesso o numeri di carta.
- Non promettere tempi di intervento o risultati non documentati.
PASSAGGIO A OPERATORE
Proponi il passaggio a un operatore quando:
- l'utente lo chiede esplicitamente;
- la richiesta riguarda un reclamo, una disdetta o un rimborso;
- hai già risposto due volte senza risolvere il problema;
- l'utente mostra evidente insoddisfazione.
Formula così: "Passo la conversazione a un collega che può aiutarti."
DATI PERSONALI
Se l'utente fornisce spontaneamente dati personali, non ripeterli nella
risposta e non chiederne altri oltre a quelli necessari.
CHIUSURA
Termina chiedendo se serve altro, senza formule ripetitive.Verifica il prompt su casi reali
Prima di pubblicare, prova il prompt sulle dieci domande che ricevi più spesso al telefono o via e-mail. Se l'agente sbaglia, quasi sempre il problema è nel prompt o nella knowledge base, non nel modello.
Configura il modello di fallback
Il fallback entra in funzione quando il modello principale non risponde entro il timeout, restituisce un errore o è temporaneamente saturo.
Crea una seconda configurazione
Configura un secondo modello, tipicamente di fascia più economica e con provider diverso, così da non dipendere da un singolo fornitore.
Collegalo come fallback
Nella configurazione principale apri Fallback e seleziona la seconda configurazione. Imposta il timeout: 30 secondi è un valore adeguato nella maggior parte dei casi.
Definisci il comportamento limite
Se anche il fallback non risponde, scegli tra due comportamenti: mostrare un messaggio di cortesia con i recapiti alternativi, oppure aprire direttamente un handover verso un operatore. Per servizi critici scegli l'handover.
| Evento | Comportamento | Visibilità per l'utente |
|---|---|---|
| Timeout del modello principale | Attivazione del fallback | Nessuna, oltre a un tempo di risposta più lungo |
| Errore del provider principale | Attivazione del fallback | Nessuna |
| Superamento del limite di frequenza | Attivazione del fallback | Nessuna |
| Fallback non disponibile | Messaggio di cortesia oppure handover | Sì |
Prova nel playground
Il playground esegue la configurazione senza pubblicarla, così puoi provare prompt e parametri senza impatto sui visitatori.
Seleziona il contesto
Scegli quali data store collegare alla prova, così da simulare il comportamento reale con la knowledge base.
Esegui le domande di controllo
Prova almeno: una domanda di routine, una domanda fuori ambito, una richiesta di parlare con una persona, una domanda con dati sensibili e una domanda a cui l'azienda non ha risposta.
Leggi le metriche
Per ogni risposta il playground mostra token in ingresso e in uscita, tempo di generazione e frammenti di knowledge base utilizzati. Usali per valutare costo e pertinenza prima del go-live.
Correggi e ripeti
Modifica il prompt, ripeti le stesse domande e confronta. Cambia un elemento alla volta: modificando prompt e temperatura insieme non saprai cosa ha prodotto il miglioramento.
Domande di controllo da usare nel playground
Quali sono gli orari di apertura? | Mi dai un consiglio fiscale? | Voglio parlare con una persona | Il mio codice fiscale è RSSMRA80A01H501U | Fate consegne in Svizzera?Cinque prove minime prima di pubblicare qualsiasi configurazione.
Risoluzione dei problemi
Abbassa la temperatura sotto 0.3, rafforza la sezione FONTI E ACCURATEZZA del prompt e verifica che la knowledge base contenga davvero i contenuti richiesti. Vedi Knowledge base.
Riduci maxTokens e aggiungi un limite esplicito di parole nel prompt. Il vincolo nel prompt è più efficace del solo limite tecnico, che tronca la risposta a metà frase.
Aggiungi al prompt l'istruzione di rispondere sempre nella lingua dell'utente e verifica che il parametro di lingua del widget sia impostato su it.
Controlla la lunghezza del prompt di sistema, il numero di frammenti recuperati per ogni richiesta e la profondità dello storico incluso nel contesto. Sono le tre voci che incidono di più.
Passaggio 3 completato
Il modello è configurato, provato e protetto da un fallback. Continua con il primo progetto.