Pratica

La responsabilità senza autore

Quando l'IA produce il ragionamento, firmare non basta: la responsabilità richiede una catena che risponda davvero.

Chiedetevi perché una ricetta medica ha valore. Non perché è medicalmente esatta: può esserlo anche una pagina di enciclopedia. È perché un medico l'ha firmata, cioè una persona identificabile, formata, assicurata, radiabile, ha impegnato la propria responsabilità sul suo contenuto. Lo stesso vale per i progetti di un architetto, i conti certificati da un revisore, l'atto redatto da un avvocato. In tutti questi casi, il valore del documento non sta anzitutto in ciò che dice, ma nel fatto che qualcuno ne risponde. Una professione non è un sapere. È un sapere di cui qualcuno risponde.

Questa evidenza è così antica che si è smesso di vederla. Risale in superficie perché l'intelligenza artificiale produce ormai, in quantità, un oggetto nuovo nella storia delle professioni: lavoro senza autore. Un lavoro competente, spesso eccellente, perfettamente presentabile, e di cui nessuno è l'autore nel senso pieno, cioè nel senso di qualcuno che si impegna. Il testo esiste, la qualità esiste, ma l'impegno non esiste. E tutta la questione, per i mestieri che vivono di responsabilità, è sapere quanto vale un lavoro di cui nessuno risponde.

Una professione non è un sapere. È un sapere di cui qualcuno risponde.

Che cosa fa davvero una firma

Bisogna anzitutto dissipare un malinteso sulla firma. Si crede che certifichi l'esattezza, che sia una sorta di etichetta di qualità apposta alla fine. È falso, e l'errore è istruttivo. La firma non garantisce che il lavoro sia giusto; nessuno può garantirlo. Designa chi dovrà rispondere se non lo è. Converte un documento in impegno, un contenuto in posizione, un testo in atto. Il medico che firma non promette l'infallibilità; accetta che l'errore, se sopravviene, sia il suo, con tutto ciò che ne segue: la sua coscienza, la sua reputazione, la sua assicurazione, il suo diritto di esercitare.

È per questo che la firma è circondata da istituzioni, e non da tecnologie. L'ordine professionale che ammette e radia, il giuramento che impegna pubblicamente, la deontologia che codifica, l'assicurazione che indennizza, la disciplina che sanziona: tutto questo apparato esiste solo per rendere la firma seria, cioè costosa. Una firma che non costa nulla non vale nulla. La società non ha dato fiducia alle professioni perché erano sapienti; ha dato loro fiducia perché avevano organizzato, su se stesse, un sistema in cui sbagliare ha un prezzo e qualcuno lo paga.

Vista così, la responsabilità non è un peso che grava sulle professioni: è il loro attivo più prezioso. È essa a spiegare perché si paga un avvocato per un parere che un libro darebbe, un medico per una diagnosi che un manuale descriverebbe. Ciò che si compra non è l'informazione, che non è mai stata così abbondante né così gratuita. Ciò che si compra è l'impegno di una persona che mette la propria carriera dietro la propria conclusione. Nell'ora in cui l'informazione diventa un flusso illimitato e senza costo, quell'impegno è precisamente ciò che resta raro.

La firma non certifica che il lavoro sia giusto. Designa chi dovrà rispondere se non lo è.

Il lavoro orfano

Ora, ecco ciò che l'IA introduce: un lavoro che ha tutte le proprietà del lavoro professionale, salvo quella. Il memorandum generato è strutturato come un memorandum, argomentato come un memorandum, citato come un memorandum. Ma dietro di esso non c'è nessuno nel senso inteso dalle istituzioni della responsabilità. Non si può sanzionare un modello, né assicurarlo, né radiarlo, né convocarlo davanti a una camera disciplinare. Non può essere rovinato dalla propria colpa, né vergognarsene, né trarne una lezione che lo impegni. Il lavoro c'è; l'autore, nel senso pieno, non esiste.

Si risponderà che lo strumento è sempre esistito e che la responsabilità dell'utilizzatore basta: chi impiega il risultato ne risponde, come il chirurgo risponde del bisturi. L'argomento vale per gli strumenti che eseguono un gesto deciso dall'uomo. Si indebolisce per un sistema che compie il ragionamento stesso. Quando la macchina sceglie gli argomenti, gerarchizza i rischi, formula la conclusione, la persona che firma non ha più fatto il lavoro: lo ha ricevuto. Può rileggerlo, e lo deve. Ma rileggere non è fare, e la responsabilità che impegna porta ormai su un ragionamento che non ha condotto, di cui vede il risultato senza aver attraversato il cammino.

Il pericolo non è dunque che la responsabilità scompaia di colpo. È che si svuoti dall'interno conservando le proprie forme. La firma rimane, le polizze assicurative rimangono, gli ordini rimangono; ma ciò che la firma copre ha cambiato natura. Firmare un lavoro che si è fatto è rispondere delle proprie scelte. Firmare un lavoro che si è ricevuto è rispondere di una lettura. Se la professione non vi presta attenzione, la firma scivola dall'impegno alla registrazione, dal «ne rispondo» al «l'ho visto passare». E una firma che non impegna più che una rilettura è una firma che, lentamente, cessa di valere ciò che valeva.

Non si può né sanzionare un modello, né assicurarlo, né radiarlo. Il lavoro c'è; l'autore, nel senso pieno, non esiste.

La diluizione silenziosa

Questo scivolamento ha una china naturale, che tutte le organizzazioni conoscono: quando nessuno può rispondere interamente, tutti rispondono un po', cioè nessuno. L'errore nato da un lavoro assistito si cercherà degli autori: chi ha formulato la richiesta, chi ha riletto, chi ha scelto lo strumento, chi ne ha approvato il dispiegamento, l'editore del sistema, il fornitore del modello. Ognuno sarà stato un anello; nessuno sarà stato l'autore. La responsabilità, che era un punto, diventa una sfumatura. E una sfumatura di responsabilità, per un cliente, un paziente, una parte in giudizio, equivale a un'assenza.

Le professioni hanno già incontrato questa china, e ciò che hanno costruito per resistervi è illuminante. L'aviazione non ha diluito la responsabilità nell'automazione della cabina: ha mantenuto, contro l'evidenza tecnologica, un comandante unico che risponde del volo, qualunque siano i sistemi che lo assistono. La decisione è talvolta quasi interamente automatica; la responsabilità, lei, non si è spostata di un sedile. Questa scelta non è tecnica, è istituzionale: si è deciso che un volo avrebbe sempre avuto un autore. È esattamente la decisione che le professioni intellettuali hanno davanti, e non si prenderà da sola.

Quando nessuno può rispondere interamente, tutti rispondono un po'. Cioè nessuno.

Il diritto, ancora una volta avamposto

Il diritto incontra questa domanda prima degli altri, per una ragione semplice: la responsabilità non vi è un accessorio del lavoro, ne è la materia stessa. Un atto d'avvocato vale per la responsabilità che impegna; un parere vale per chi lo porta; un'arringa esiste solo firmata da un nome iscritto a un ordine forense. La professione si è interamente costruita sull'idea che un lavoro giuridico è un lavoro di cui si risponde, davanti al cliente, davanti all'ordine, davanti al giudice. È dunque la prima a sperimentare che cosa diventa questa architettura quando una parte crescente del lavoro è prodotta da ciò che non può rispondere di nulla.

Ma ciò che si gioca negli studi prefigura ciò che attende tutti i mestieri dell'impegno. Il medico la cui diagnosi è suggerita dal sistema, il revisore la cui anomalia è rilevata dall'algoritmo, l'ingegnere il cui calcolo è prodotto dallo strumento affrontano la stessa domanda a qualche anno di distanza: che cosa significa firmare, quando non si è più condotto il ragionamento che si firma? Il diritto non è un'eccezione protetta dal suo conservatorismo. È l'avamposto in cui la domanda si pone nella sua forma più pura, perché in nessun altro luogo il valore del lavoro si confonde a tal punto con la responsabilità del suo autore.

In nessun altro luogo il valore del lavoro si confonde a tal punto con la responsabilità di chi lo firma.

Rendere di nuovo possibile la firma

La risposta non può essere rifiutare l'assistenza, e bisogna dirlo senza giri di parole: un professionista che si priva dei migliori strumenti manca anch'egli ai propri obblighi, e la qualità media del lavoro assistito ne rende l'uso inevitabile e auspicabile. La questione non è sapere se l'IA produrrà lavoro giuridico, medico o contabile. Lo produce già. La questione è sapere a quali condizioni una persona può ancora, onestamente, risponderne. Non formalmente, apponendo un nome in fondo a una pagina, ma realmente, nel senso che la firma impegna qualcosa che il firmatario ha effettivamente governato.

Queste condizioni si lasciano descrivere. Che il firmatario possa vedere il ragionamento, e non solo la conclusione, senza di che firma un risultato e non un cammino. Che le scelte importanti gli siano state sottoposte come scelte, con le loro alternative, e non sepolte in una risposta levigata. Che la verifica sia organizzata alla misura della posta in gioco, e non lasciata alla vigilanza residua di una giornata piena. Che si sappia, infine, che cosa viene dalla macchina e che cosa viene dall'uomo, non per distribuire il biasimo, ma perché l'impegno del secondo porti su ciò che ha realmente tenuto. A queste condizioni, la firma ridiventa possibile: non più la traccia di una rilettura, ma l'atto di una persona che governa un lavoro che non ha interamente fatto, come il comandante governa un volo che non pilota più a mano.

Resterà allora alle professioni una decisione che appartiene solo a loro, perché è istituzionale e non tecnica: riaffermare che ogni lavoro che impegna altri avrà un autore, uno vero, unico e identificabile, qualunque siano i sistemi che vi avranno contribuito. Non è una resistenza al progresso; l'aviazione lo ha mostrato, è la condizione perché il progresso sia accettato. I mestieri che manterranno un autore dietro ogni lavoro conserveranno ciò che li fa esistere: la fiducia di coloro che non hanno i mezzi di verificare, e che, precisamente per questo, hanno bisogno che qualcuno risponda. Gli altri scopriranno che un lavoro senza autore, per quanto brillante, vale esattamente quanto vale la sua ultima rilettura.

Un lavoro di cui nessuno risponde vale quanto vale la sua ultima rilettura. Le professioni esistono per valere di più.