Il vocabolario dell'IA

Orchestrazione: chi decide che cosa?

L'orchestrazione è lo strato che decide l'ordine delle operazioni: quale modello interrogare, con quali informazioni, in quale sequenza, e che cosa fare del risultato di ciascuna tappa. Non produce alcun testo. Organizza il lavoro di chi lo produce.

Da dove viene il termine

Dall'informatica distribuita, dove l'orchestratore coordina componenti che non si conoscono tra loro. L'immagine musicale è esatta: gli strumenti suonano, il direttore no, e tuttavia il risultato dipende in larga misura da lui.

Applicato all'intelligenza artificiale, l'orchestratore è ciò che si trova tra la vostra richiesta e il modello. Decide che cosa il modello veda, il momento in cui lo chiama, e che cosa fare della sua risposta.

Che cosa decide, concretamente

Su un compito appena complesso, una decina di decisioni vengono assunte prima che il modello produca alcunché. Occorre suddividere la richiesta in più tappe? Quali documenti allegare, posto che non si può allegare tutto? Occorre cercare una fonte prima di rispondere? Il risultato ottenuto deve essere verificato da una seconda passata?

Nessuna di quelle decisioni appartiene al modello. Sono assunte dallo strato che lo circonda, e determinano gran parte della qualità finale.

Una decisione merita di essere isolata perché è invisibile e determinante: la scelta di ciò che non si allega. Nessun sistema può trasmettere l'integralità di una pratica al modello; occorre dunque selezionare, e quella selezione è operata dall'orchestrazione secondo regole che l'utente non vede mai.

Perché è il tema meno visibile

Perché un utente non vede mai l'orchestrazione. Vede una richiesta e un risultato; tutto ciò che accade tra i due gli è invisibile, e attribuisce naturalmente la qualità del risultato al modello.

È un errore di attribuzione paragonabile a quello di chi giudicasse un'orchestra dalla qualità degli strumenti. A parità di modello, due orchestrazioni diverse producono risultati che hanno poco in comune.

Quell'invisibilità spiega anche perché due organizzazioni dotate dello stesso modello ottengano risultati molto diversi, e perché confrontare strumenti sul nome del loro motore non informi quasi su nulla.

Che cosa non risolve

Una buona orchestrazione non compensa l'assenza di contesto. Può decidere intelligentemente che cosa allegare a una richiesta; occorre ancora che qualcosa esista da allegare.

Non elimina nemmeno gli errori del modello. Può renderli più rilevabili, prevedendo una passata di verifica o imponendo che ogni affermazione sia collegata a una fonte, ma non ne impedisce il verificarsi.

Un segno consente di misurare la maturità di un'orchestrazione: sa fermarsi? Un dispositivo che risponde sempre, quale che sia la qualità di ciò che ha trovato, non orchestra granché. Un dispositivo che constata di non avere di che rispondere e lo dice ha assunto una decisione.

E l'orchestrazione aggiunge una complessità che ha un costo: ogni tappa supplementare allunga il tempo di risposta e moltiplica i punti in cui qualcosa può andare storto.

Perché conta per un giurista

Perché è lì che si assumono le decisioni che vi riguardano, e sono assunte dal fornitore senza che voi le vediate. Decidere che una risposta sarà prodotta senza verificarne le fonti è una decisione di orchestrazione, non un limite del modello.

La domanda utile non è dunque quale modello venga impiegato, che cambia ogni sei mesi, ma che cosa il sistema faccia prima e dopo averlo interrogato.