Il vocabolario dell'IA

Embedding: come fa un testo a diventare un punto nello spazio?

Un embedding trasforma un testo in una sequenza di numeri che ne rappresenta il senso. Due testi di senso vicino producono sequenze vicine, anche se non hanno alcuna parola in comune. È questo meccanismo a consentire a un sistema di ritrovare un passaggio pertinente senza che abbiate impiegato le parole giuste.

L'idea in un'immagine

Immaginate che ogni testo riceva delle coordinate, come un punto su una mappa. Testi che parlano della stessa cosa si ritrovano vicini; testi senza rapporto si ritrovano lontani.

La mappa ha molte più di due dimensioni — diverse centinaia, di solito — ma il principio resta quello: cercare diventa misurare una distanza.

Il termine non ha traduzione italiana consacrata. Si incontra «rappresentazione vettoriale» nella letteratura tecnica, pressoché mai nella pratica.

Che cosa cambia rispetto a una ricerca classica

Una ricerca per parole chiave cerca occorrenze: se digitate «risoluzione», trova i documenti che contengono quel termine e manca quelli che parlano di «recesso anticipato» o di «cessazione del contratto».

Una ricerca per embedding cerca il senso. Ritrova le tre formulazioni, perché occupano posizioni vicine sulla mappa.

È ciò che rende possibile interrogare un fondo documentale in linguaggio naturale, senza conoscere il lessico esatto impiegato da chi ha redatto.

Un esempio giuridico

Cercate, in un fondo di contratti, quelli che limitano la responsabilità del prestatore. Le redazioni variano: massimale espresso in mesi di corrispettivi, in percentuale del prezzo, per esclusione di determinati pregiudizi, o mediante rinvio a un importo in allegato.

Una ricerca per parole chiave vi obbliga a immaginare tutte quelle formulazioni e a cercarle una per una. Una ricerca per embedding le avvicina da sé, perché occupano una zona comune della mappa.

È il caso in cui il meccanismo dà il proprio pieno effetto: un medesimo oggetto giuridico detto in quattro modi diversi.

Che cosa non risolve

La prossimità di senso non è la pertinenza giuridica. Due clausole di non concorrenza sono molto vicine sulla mappa, anche quando l'una è valida e l'altra nulla; la distinzione che vi interessa non vi si vede.

La negazione si rappresenta male. «Il conduttore è tenuto a» e «il conduttore non è tenuto a» occupano posizioni molto vicine pur dicendo il contrario. È un limite noto e ha conseguenze dirette in materia contrattuale.

E il frazionamento dei testi pesa molto. Per essere trasformati in punti, i documenti vengono suddivisi; una clausola la cui portata dipenda da una definizione situata 40 pagine più avanti sarà rappresentata senza di essa.

Un ultimo punto tecnico ha conseguenze pratiche: gli embedding sono calcolati da un modello particolare, distinto da quello che redige le risposte. Cambiarlo obbliga a ricalcolare tutto sull'intero fondo documentale, operazione onerosa e raramente anticipata al momento della scelta iniziale.

Perché conta per un giurista

Perché è il meccanismo che decide che cosa il sistema veda prima di rispondere, e i suoi limiti spiegano buona parte delle risposte deludenti. Quando un risultato manca l'argomento, la causa sta più spesso qui che nel modello.

La domanda utile verte dunque su ciò che accade quando la ricerca fallisce: il sistema segnala di non aver trovato nulla di pertinente, o risponde comunque con ciò che ha di meno peggio?