Il vocabolario dell'IA
Sorveglianza umana: a partire da quando si rilegge davvero?
La sorveglianza umana designa l'intervento di una persona nel funzionamento di un sistema automatizzato. Il regolamento europeo la impone per i sistemi ad alto rischio e lascia a ciascuna organizzazione il compito di definirne il livello. Ora, tre livelli molto diversi portano lo stesso nome.
I tre livelli
La sorveglianza di principio: una persona può intervenire, ne ha la possibilità tecnica, e non lo fa sistematicamente. È il livello più debole, ed è spesso quello che esiste in pratica quando nulla è stato deciso.
La sorveglianza per campione: una persona controlla una parte della produzione, secondo un criterio definito in anticipo. Quel livello ha valore soltanto se il criterio è oggettivo e se il campione è effettivamente prelevato.
La sorveglianza effettiva: una persona esamina ciascun risultato prima che produca un effetto, con i mezzi per correggerlo o scartarlo. È il solo livello in cui si possa dire che la decisione resti umana.
Che cosa distingue i tre in pratica
Non l'intenzione, che è sempre buona, ma l'innesco. Un dispositivo in cui il controllo dipenda dalla disponibilità di chi controlla rientra nel primo livello, quale che sia la coscienza professionale delle persone.
Un innesco oggettivo — la natura dell'elaborato, il suo destinatario, l'esposizione della pratica — fa passare al secondo. Un controllo sistematico preliminare fa passare al terzo.
È per questo che un regime di verifica deciso a freddo vale più di un impegno di vigilanza: il primo si verifica, il secondo si constata soltanto dopo un incidente.
Il livello applicabile non è nemmeno uniforme in un'organizzazione. Uno stesso studio può rientrare nel terzo livello per i propri scritti giudiziari e nel primo per le proprie note interne, senza incoerenza: è l'esposizione dell'elaborato a comandare, non lo statuto dello strumento impiegato.
Che cosa non risolve
La sorveglianza non compensa un lavoro che il revisore non può valutare. Su un testo omogeneo che non emetta alcun segnale, una rilettura attenta verte su tutto e dunque su nulla in particolare.
Non si rafforza nemmeno raddoppiandola. Due revisori davanti a un testo che non segnala nulla non producono più informazione: si raddoppia il costo senza aumentare il rendimento.
E non protegge dall'assuefazione. Un controllo esercitato 1.000 volte senza mai trovare nulla si allenta, il che è documentato in tutti i mestieri in cui la verifica è di routine.
Che cosa il regolamento lascia a vostro carico
Il testo impone che misure di sorveglianza esistano e siano proporzionate al rischio; non dice quale dei tre livelli applicare a quale produzione. Spetta all'organizzazione definirlo, e poterlo documentare.
Una pagina basta: quali elaborati rientrino in quale livello, secondo quale innesco, e chi ne risponda. Quel documento è anche ciò che protegge chi rilegge — ha applicato il regime previsto, non ha esercitato un giudizio solitario alle otto di sera.
Una nota sul lessico del regolamento, che impiega l'espressione «controllo umano effettivo». L'aggettivo non è decorativo: esclude precisamente il primo livello, quello in cui la possibilità di intervenire esiste senza essere esercitata.
Perché conta per un giurista
Perché è il punto in cui la conformità regolamentare e la responsabilità professionale si incontrano. Il regolamento chiede che qualcuno sorvegli; il vostro ordine e il vostro cliente chiedono che qualcuno risponda.
La stessa pagina risponde a entrambi, a condizione che descriva un regime innescato da fatti e non dalla vigilanza residua di ciascuno.