Il vocabolario dell'IA

Fine-tuning o prompt: quanto costa davvero un'IA specializzata?

Il fine-tuning consiste nel riaddestrare un modello sui vostri dati per modificarne durevolmente il comportamento. Il prompt consiste nel dargli istruzioni al momento di ciascuna richiesta. Il primo costa caro, richiede settimane e invecchia; il secondo è immediato, gratuito e si rifà a volontà.

Che cosa fa il fine-tuning

Si parte da un modello esistente e se ne prosegue l'addestramento su un corpus scelto — i vostri atti, le vostre note, le vostre formulazioni. Il modello ne esce con abitudini diverse: adotta più naturalmente il vostro stile, il vostro lessico, le vostre strutture.

Ciò presuppone un volume significativo di dati, una preparazione accurata di quel corpus, tempo di calcolo, e una valutazione per verificare che il risultato sia migliore e non soltanto diverso.

Che cosa fa un prompt

Si danno al modello, a ogni richiesta, le istruzioni e gli esempi utili. Non si addestra nulla: il modello è lo stesso, lo si orienta sul momento.

La modifica è immediata, reversibile, e si corregge in 10 secondi quando non conviene. I sistemi professionali lo fanno in secondo piano, senza che l'utente debba occuparsene.

Che cosa il primo non fa e che gli si attribuisce

Il fine-tuning insegna un modo di fare, non delle conoscenze. È la confusione più diffusa e più costosa: riaddestrare un modello sui vostri contratti non gli insegna il contenuto dei vostri contratti, gli insegna a scrivere contratti che somigliano ai vostri.

Se volete che un sistema sappia che cosa contenga la vostra pratica, occorre dargliela nel momento in cui lo interrogate. Nessun riaddestramento sostituisce ciò, e un modello affinato sui vostri dati inventerà le vostre clausole con il vostro stile, il che è più pericoloso che inventarle con uno stile neutro.

Quando si giustifica comunque

Due situazioni lo rendono pertinente, e sono più rare di quanto si sostenga.

La prima è un'esigenza di forma molto marcata e molto stabile: uno studio i cui atti seguono da anni una struttura propria, e che vuole ritrovarla senza doverla richiedere ogni volta.

La seconda è un lessico di nicchia che i modelli generali padroneggiano male — talune materie tecniche, taluni contenziosi specializzati in cui la terminologia usuale del modello non è quella giusta.

In entrambi i casi si tratta di un miglioramento marginale su una base che già funziona, mai di un mezzo per far funzionare ciò che non funziona.

Che cosa non risolve

Il fine-tuning è datato per costruzione. Il modello affinato corrisponde a uno stato delle vostre prassi; sei mesi dopo le vostre posizioni sono evolute e lui no. Mantenerlo presuppone di ricominciare periodicamente.

Crea inoltre una dipendenza: il modello affinato è inscindibile dal fornitore che lo ospita, e non si trasporta altrove.

E pone una questione di riservatezza che va posta esplicitamente: ciò che è servito all'addestramento non si ritira facilmente da un modello.

Perché conta per un giurista

Perché il fine-tuning è spesso proposto come la risposta a «non conosce il nostro modo di lavorare», mentre tratta soltanto una piccola parte di quell'esigenza — la forma, non il merito.

Prima di avviare un progetto di questo tipo, la domanda da porsi è semplice: ciò che cerchiamo attiene allo stile o alla conoscenza delle nostre pratiche? Nel secondo caso, il fine-tuning non è lo strumento.