Il vocabolario dell'IA

Copilota: chi tiene la barra?

Il termine è mutuato dall'aeronautica, dove il copilota è un professionista abilitato che condivide i comandi e può assumere la guida. Applicato a un software, promette un'assistenza che lavora al vostro fianco. Non dice invece nulla sulla ripartizione delle responsabilità — ed è precisamente lì che un giurista deve guardare.

Che cosa promette la metafora

Tre cose, implicitamente. Che il sistema sia presente in permanenza, nell'ambiente in cui lavorate anziché in una finestra separata. Che sia competente, cioè capace di svolgere da solo una parte del lavoro. E che sia subordinato: assiste, non decide.

Quelle tre promesse sono coerenti tra loro, ed è ciò che dà forza al termine. Designa un rapporto di lavoro, non una funzionalità.

Che cosa il termine non dice

In una cabina di pilotaggio, il copilota è titolare di una licenza, impegna la propria responsabilità, e la ripartizione dei compiti tra i due piloti è scritta in una procedura. Nulla di tutto ciò esiste nel caso di un software.

Un copilota software non ha licenza, non impegna nulla, e la ripartizione dei compiti non è scritta da nessuna parte: si decide nella pratica, uso dopo uso, da ciascun utente. È lì che la metafora diventa ingannevole, perché lascia credere a una condivisione che non è avvenuta.

Il confronto merita di essere spinto su un punto preciso. In aeronautica la ripartizione cambia a ogni fase del volo ed è annunciata ad alta voce: in ogni istante i due piloti sanno quale dei due comanda. Con un software nessuno annuncia nulla, e la ripartizione varia secondo l'utente, la sua stanchezza e l'ora che è.

La domanda da porre

È semplice e discrimina: su ciò che il copilota produce, che cosa devo verificare, e come lo saprò?

Un fornitore che risponda che il controllo resta interamente vostro non ha promesso nulla di utile. Un fornitore che indichi che cosa il sistema segnali da sé — i punti in cui ha esitato, le fonti che ha aperto, ciò che non ha trovato — descrive un rapporto di lavoro utilizzabile.

La risposta a quella domanda determina ciò che potrete dire a un cliente che vi interrogherà sul modo in cui la sua pratica è stata trattata.

Che cosa non risolve

Il termine non modifica in nulla la vostra responsabilità. Firmate, dunque rispondete, esattamente come prima. La differenza è che ormai rispondete di una lettura anziché di una conduzione, il che è più difficile e non meno impegnativo.

E l'integrazione nel vostro ambiente, che è la promessa più concreta del termine, non dice nulla della qualità. Un sistema mal concepito collocato nel posto giusto resta un sistema mal concepito, semplicemente più facile da sollecitare.

Il termine dice però qualcosa di vero su un punto: la presenza nell'ambiente di lavoro. Un sistema che si apre in un'altra scheda viene consultato; un sistema presente là dove si scrive viene impiegato. Quella differenza è reale e spiega buona parte degli scarti di adozione tra strumenti comparabili.

Perché conta per un giurista

Perché il lessico installa aspettative, e queste si riversano sulla vigilanza. Un «assistente» che si interroga richiama naturalmente una verifica; un «copilota» che lavora al vostro fianco richiama una fiducia, poiché è ciò che il termine descrive.

Quello scivolamento è impercettibile ed è reale. Il termine non è disonesto, è semplicemente più impegnativo di ciò che il prodotto garantisce, e conviene saperlo leggendolo.