Per i team di ricerca AI che non hanno ancora un designer

Gli utenti si fidano di un modello che dice quanto è affidabile.

Progettiamo il prodotto attorno alle risposte del modello, e anche ai modi in cui sbaglia.

Fig. 01Una risposta, cinque livellidati di esempio
Assistente contratti · il tuo prodottoLivello 1 / 5
Quando si rinnova il contratto di fornitura degli imballaggi?
Si rinnova in automatico il 1° marzo 2027.
Affidabilità84 / 100 · probabile
FonteClausola 14.2, pag. 6 ↗ La clausola 9 può modificarla
Non lo saPreavviso: non lo so. La pagina 7 è scansionata male.
Per l’utenteAcquistiSe vuoi disdire, decidi entro il 1° dicembre.AvvocatoRinnovo di 12 mesi, clausola 14.2. Clausola sul preavviso non letta.
Stesso modello, stessa risposta. Cinque livelli di design.
la sola risposta lascia due scelte
tocca un livello

Livello 1 · la sola risposta. La risposta del modello, senza nient’altro attorno. Sembra certa, che lo sia o no. L’utente può solo accettarla o rifiutarla.

Livello 2 · quanto è affidabile. 84 su 100: probabile, non certo. Il punteggio è confrontato con le risposte passate che gli utenti hanno verificato. Da 90 in su mostrata come risposta; Da 70 a 89 mostrata come probabile, fonte a un tocco; Sotto 70 il modello dice che non lo sa

Livello 3 · la fonte. Clausola 14.2, a pagina 6. Un tocco apre la frase. La clausola 9 consente il recesso anticipato: per questo è segnalata accanto alla data di rinnovo.

Livello 4 · non lo so. Il preavviso è a pagina 7, scansionata male. Il modello lo dice invece di tirare a indovinare, e indica la pagina che l’utente può controllare.

Livello 5 · per questo utente. Gli stessi fatti, con il livello di dettaglio che serve a ciascun utente. All’ufficio acquisti arrivano la data e cosa fare. All’avvocato la clausola e ciò che il modello non è riuscito a leggere.

Fig. 02Prove

Progettato tenendo conto di ciò che il modello fa bene e di dove può sbagliare.

Prodotto · Mentally Copilot. Un assistente di ricerca giuridica e fiscale che risponde citando le fonti. Da ogni fonte apri il passaggio pertinente, il documento completo e il link ufficiale: il professionista la verifica prima di usarla.

Prodotto · Mentally Copilot. Gli indicatori finanziari standard escono da formule fisse e visibili. Un modello linguistico non li calcola mai. I modelli lavorano dove servono giudizio o linguaggio, e un professionista ne rivede il risultato.

Interno · documento di progetto. Prima un report già pronto, poi l’utente fa domande libere dove vede una lacuna. Le risposte libere possono essere sbagliate, quindi le rivede un professionista. Il costo di questa scelta è documentato.

Parti da un prototipo dell’interfaccia, provato con utenti reali.