Un programma di approvvigionamento di cacao costruisce una baseline del carbonio organico del suolo per la sua prima origine. Il team raccoglie campioni in tutto il bacino di approvvigionamento, adatta un modello che predice lo stock di carbonio a partire da covariate pedologiche e di paesaggio, e lo valida con la validazione incrociata. L'R² è 0,78. Abbastanza buono da riportare. Un anno dopo il programma si estende a una seconda origine in un altro paese, e riutilizza lo stesso modello per stimare la nuova baseline, perché ricostruirlo costerebbe una campagna di campo che il budget non può permettersi. Il verificatore pone una sola domanda: quale prova avete che la seconda origine rientri nell'intervallo di condizioni su cui il modello è stato calibrato? Il team indica lo 0,78. Ma quel numero descrive quanto bene il modello predice all'interno delle condizioni della prima origine. Non dice nulla sulla seconda. Nella sala cala il silenzio.
È questo il problema di rappresentatività che i team di monitoraggio incontrano più spesso e nominano meno chiaramente. Non riguarda davvero il campione. Riguarda la relazione tra tre elementi: dove si è misurato, dove ora si vuole un numero, e la porzione di mondo che il modello ha effettivamente visto.
Tutto ciò che segue comincia dopo che il modello è stato adattato, e dà per scontato l'adattamento. La questione preliminare, ossia come quel modello sia stato calibrato e su che cosa verta realmente il suo punteggio di validazione incrociata, è l'oggetto della guida pratica alla calibrazione e alla validazione. L'R² di 0,78 citato sopra è un buon esempio del perché ciò conti.
Due domande nascoste in una sola parola
La rappresentatività viene usata per due affermazioni distinte, ed è confondendole che cominciano i guai. La prima affermazione riguarda un campione e una popolazione: che il campione rispecchi l'area che si vuole descrivere, così che una media calcolata da esso sia una stima corretta della media vera. È il campo del disegno di campionamento, e il senso che approfondiamo in Quanto deve essere ampia la Sua campagna di campionamento del carbonio del suolo? e Segnale contro rumore.
La seconda affermazione riguarda un nuovo punto e un modello. La maggior parte del monitoraggio odierno non si ferma a una media campionaria. Adatta un modello, un'equazione allometrica, una mappa del carbonio del suolo, una calibrazione spettrale, un modello di processo come RothC o un fattore di emissione predefinito, e lo applica a luoghi in cui non è stato misurato nulla. Una previsione in un nuovo luogo è affidabile solo quanto l'esperienza che il modello ha di condizioni simili a quelle di quel luogo. Al di fuori dell'intervallo di condizioni presenti nei dati di addestramento, il modello sta estrapolando, e il suo errore non è né limitato né conoscibile dalle statistiche di adattamento.
Queste due affermazioni corrispondono ai due modi classici di inferenza. L'inferenza basata sul disegno (design-based) trae la propria validità dal modo in cui il campione è stato selezionato, e risponde alla domanda dal campione alla popolazione. L'inferenza basata sul modello (model-based) trae la propria validità dal fatto che il modello sia corretto là dove viene applicato, e risponde alla domanda dal nuovo punto al modello 78. Un campione può essere un campione probabilistico da manuale della propria popolazione e collocare comunque una previsione ben al di fuori dell'esperienza di un modello preso in prestito. Le due domande sono indipendenti, e la seconda è quella che zittisce la sala.
Il dominio di applicabilità, definito
Il concetto che governa la seconda domanda ha già un nome, preso in prestito da un campo che ha imparato la lezione presto. In chimica, i modelli quantitativi struttura-attività predicono le proprietà di una molecola a partire dalla sua struttura, e i regolatori si sono accorti che questi modelli producevano previsioni sicure e sbagliate per molecole diverse da qualsiasi cosa presente nel set di addestramento. La risposta è stata definire un dominio di applicabilità: la regione dello spazio degli input in cui un modello produce previsioni affidabili, con una regola esplicita per decidere se un nuovo caso vi rientri 12.
Il monitoraggio ambientale usa la stessa idea, di solito senza chiamarla per nome. Ogni equazione allometrica è adattata su un intervallo di diametri degli alberi 11, e applicarla oltre quell'intervallo è un'estrapolazione: per questo la regola pratica è confrontare graficamente la distribuzione dei diametri del Suo inventario con l'intervallo di adattamento dell'equazione, come descriviamo in Come calcolare la quantità di carbonio in un albero? Un intervallo di diametri è un dominio di applicabilità a una dimensione. Un modello del suolo moderno dipende da molte covariate contemporaneamente, i fattori SCORPAN che la cartografia digitale dei suoli formalizza 9, e i dati di addestramento occupano una nuvola in quello spazio ad alta dimensionalità. Il dominio di applicabilità è la regione di quello spazio che la nuvola copre effettivamente, e l'intera questione diventa geometrica: il nuovo punto si trova dentro la nuvola, o in un angolo che il modello non ha mai visitato?
Il Suo set di calibrazione copre la nuova regione?
Tutto ciò che precede tratta un punto alla volta, che è la domanda giusta quando si sta per riportare un numero per un'azienda agricola. È la domanda sbagliata quando un programma si chiede se un modello costruito in un'origine possa essere riutilizzato su un'intera seconda origine. Questa è una domanda su due distribuzioni, e ha un test diretto che richiede un pomeriggio.
Etichetti con 0 ogni campione di calibrazione e con 1 ogni sito dell'area obiettivo. Scarti i valori di carbonio del suolo e conservi solo le covariate. Ora addestri un classificatore a distinguere le due etichette, e lo validi con la validazione incrociata. Se il classificatore non fa meglio del caso, i due insiemi sono statisticamente indistinguibili rispetto alle variabili usate dal modello, e i Suoi dati di calibrazione sono un campione plausibile delle condizioni dell'area obiettivo. Se li separa facilmente, c'è uno spostamento delle covariate (covariate shift), e ora ne ha una misura numerica anziché un'argomentazione. È il test a due campioni basato su classificatore, e la teoria che autorizza a leggere una distanza tra domini nell'accuratezza di un classificatore è più antica del suo uso in questo contesto 2223.
Il classificatore fornisce tre cose che un R² di facciata non può dare. La sua accuratezza, letta come area sotto la curva ROC, è il numero di sintesi. Le sue importanze delle variabili dicono quale covariata determina la discrepanza, cioè ciò su cui si interverrebbe effettivamente. E le sue probabilità stimate forniscono il rapporto di densità tra le due popolazioni, la quantità che formalizza lo spostamento delle covariate 24 e che ritroveremo quando arriveremo all'incertezza.
ESS = (Σ wi)² / Σ wi²
La seconda riga è quella da mettere davanti a un cliente. Ripesare un set di calibrazione verso una nuova popolazione obiettivo è una pratica standard 25, ma i pesi concentrano il lavoro su una manciata sempre più ridotta di campioni, e la dimensione campionaria effettiva di Kish misura quanti ne restano 26. Un set di calibrazione di 200 campioni che, una volta ripesato, si riduce a un valore effettivo di 14 per la nuova regione ha risposto alla domanda. Quel numero è più difficile da contestare di qualsiasi statistica di bontà dell'adattamento, perché è un conteggio dei dati che fanno effettivamente il lavoro.
Muova i cursori qui sotto e osservi i tre numeri muoversi insieme. Vale la pena provocare deliberatamente due comportamenti. Allontani l'area obiettivo dal set di calibrazione: il classificatore li separa, la dimensione campionaria effettiva crolla e la quota dell'area obiettivo che rientra nel dominio diminuisce; quando l'area sotto la curva raggiunge 0,94, settanta campioni di calibrazione ne valgono effettivamente quindici. Poi riporti lo spostamento a zero e allarghi invece l'area obiettivo. Il classificatore torna a 0,50, dichiarando in apparenza identici i due insiemi, mentre ben meno della metà dell'area obiettivo si trova ancora nel dominio.
Questo secondo caso è il limite onesto del metodo, ed è importante. Un classificatore lineare separa in base alla media, quindi è cieco rispetto a un'area obiettivo che condivide il centro del set di calibrazione e semplicemente si estende su più terreno, che è esattamente ciò che fa un bacino di approvvigionamento quando si espande verso terreni più variabili. Usi un algoritmo di apprendimento flessibile anziché una regressione logistica, e non legga mai il classificatore da solo: lo riporti accanto alla quota dell'area obiettivo che rientra nel dominio. Un numero rileva uno spostamento di posizione, l'altro uno spostamento di dispersione, e un programma può soffrire dell'uno o dell'altro.
Per un piano di monitoraggio, quella quota è la frase che vale la pena mettere per iscritto: non «il modello è applicabile», ma «il 62% del nuovo bacino di approvvigionamento rientra nel dominio di calibrazione, il resto è concentrato nel nord ad alta piovosità, ed ecco che cosa abbiamo fatto al riguardo».
Come capire se un nuovo punto rientra nel dominio
L'appartenenza al dominio è misurabile, e i metodi formano una scala più che un menu. Ogni gradino corregge una specifica cecità di quello sottostante, per cui la domanda utile non è quale metodo sia il migliore, ma quale cecità ci si possa permettere.
Una variabile alla volta. Per ogni covariata, il nuovo sito cade tra il minimo e il massimo dei dati di addestramento? Questo individua l'estrapolazione più grossolana in cinque minuti. La versione pubblicata di questo controllo, la superficie di similarità ambientale multivariata (MESS), assegna a un sito un punteggio da 0 a 100 in base a quanto la sua variabile più estrema si trovi all'interno della distribuzione di riferimento, e diventa negativa non appena una variabile esce dall'intervallo di riferimento, con la grandezza che esprime lo scostamento come percentuale dell'intervallo di quella variabile 17. Un punteggio di 100 significa che il punto si trova alla mediana dei dati di riferimento per ogni variabile.
La sua debolezza è strutturale: prende il minimo tra le variabili, quindi è multivariata solo a malapena. Un punto può trovarsi comodamente nell'intervallo di ogni variabile ed essere comunque una combinazione impossibile che il modello non ha mai visto, la piovosità di un sito umido con il contenuto di argilla di uno secco. Nessun controllo variabile per variabile, per quanto esteso, lo rileva.
Le combinazioni inedite. Il metodo di rilevamento dell'estrapolazione (ExDet) separa esplicitamente la novità nei due tipi 16. Il suo primo indice somma lo scostamento di ciascuna variabile oltre l'intervallo di riferimento, espresso come frazione di quell'intervallo, ed è pari a zero quando tutte le variabili sono nell'intervallo. Il suo secondo indice divide la distanza di Mahalanobis di un punto dal centroide di riferimento per la più grande di tali distanze tra i dati di riferimento stessi. Valori superiori a 1 significano che il punto è più lontano dal centro della nuvola di addestramento di quanto lo sia mai stato qualsiasi punto di addestramento: una combinazione inedita, invisibile a qualsiasi controllo di intervallo.
NT2 = D²(x, μref) / maxi∈ref D²(xi, μref)
La distanza dalla nuvola di addestramento. Alla base di entrambi c'è la distanza di Mahalanobis, che misura la distanza in unità della dispersione e della correlazione proprie dei dati di addestramento: un passo lungo una direzione che i dati di addestramento hanno appena esplorato conta quindi più di un passo lungo una direzione che hanno coperto bene. La sua distribuzione di riferimento è un chi quadrato con tanti gradi di libertà quante sono le covariate, il che fornisce una soglia anziché un'impressione: segnali tutto ciò che supera il 95° percentile. Per un modello lineare la stessa idea compare come leverage, la diagonale della matrice cappello, con la consolidata linea di allerta a tre volte il leverage medio, e il grafico del leverage rispetto al residuo standardizzato è la diagnostica che i regolatori della disciplina che ha dato il nome al dominio di applicabilità usano effettivamente 1210.
h(x) = xᵀ (XᵀX)−1 x segnalare se h > 3p / n
Due avvertenze decidono se funziona nella pratica. La matrice di covarianza deve essere stimata in modo robusto, perché una manciata di punti di addestramento insoliti la gonfia e la matrice gonfiata dichiara allora tutto interno al dominio. E si inverte male quando le covariate sono collineari o numerose, come lo sono immancabilmente le covariate pedologiche: lavori quindi nello spazio delle componenti principali trattenute o usi uno stimatore shrinkage. Dove le variabili sono miste, continue e categoriche, la distanza di Gower e le semplici distanze dai vicini più prossimi sono il ripiego non parametrico robusto.
L'area di applicabilità, per le mappe. Quando il modello produce una mappa continua, la domanda è spaziale: a quali pixel si può applicare il modello? Il metodo dell'area di applicabilità risponde esattamente a questo 3. Standardizza le covariate, pesa ciascuna in base alla sua importanza nel modello adattato, misura in quello spazio pesato la distanza di ogni pixel dal punto di addestramento più vicino, e la divide per la media di tutte le distanze a coppie tra i dati di addestramento. I pixel oltre una soglia derivata dalle dissimilarità proprie dei dati di addestramento sono fuori dall'area di applicabilità, e l'errore riportato del modello lì non vale. Una mappa regionale può apparire completa e autorevole mentre ampie parti di essa sono, secondo questa misura, fuori dominio 4.
soglia = il più grande DI non anomalo tra i dati di addestramento in validazione incrociata
Vale la pena enunciare con precisione quella soglia, perché è citata spesso in modo errato. È il massimo, al netto dei valori anomali, degli indici di dissimilarità dei punti di addestramento stessi. La nota espressione del baffo superiore, il 75° percentile più 1,5 volte lo scarto interquartile, è la regola per decidere quali valori contino come anomali, non la soglia stessa. Il preprint che circola liberamente specifica ancora un'altra regola, il quantile 0,95, modificata durante la revisione paritaria; è la versione pubblicata quella da implementare.
Quanto supporto, non solo quanta vicinanza. L'indice di dissimilarità guarda solo al singolo punto di addestramento più vicino, quindi non sa distinguere un sito sorretto da un unico campione isolato da uno supportato da duecento. Contare quanti punti di addestramento cadono entro la distanza soglia di un sito colma questa lacuna, e il conteggio è correlato a quanto bene il modello funzioni effettivamente in quel punto 15. È una misura a posteriori che non costa nulla in più una volta calcolate le distanze, ed è la differenza tra «dentro il dominio» e «dentro il dominio, e ben supportato».
Le calibrazioni spettrali hanno la loro versione. Se il carbonio del suolo è predetto da spettri nel medio infrarosso anziché da covariate, l'analisi delle componenti principali del set di calibrazione definisce lo spazio che esso conosce, e servono due statistiche in coppia anziché singolarmente. Il T² di Hotelling misura quanto un nuovo spettro sia lontano dal centro all'interno di quello spazio; il residuo Q misura quanto si trovi al di fuori di esso, in direzioni che la calibrazione non ha mai modellato. Un campione può superare l'uno o l'altro preso singolarmente ed essere comunque un campione che la calibrazione non è mai stata addestrata a leggere.
| Controllo | Rileva | Non rileva |
|---|---|---|
| Intervallo per variabile // MESS | Qualsiasi variabile fuori dal suo intervallo calibrato | Combinazioni inedite di variabili ciascuna nel proprio intervallo |
| ExDet NT1 + NT2 | Novità di intervallo e combinazioni inedite, separatamente | Quale direzione dello spazio delle covariate è priva di supporto |
| Mahalanobis // leverage | La distanza dalla nuvola, in unità della sua stessa dispersione | Lacune locali all'interno dell'inviluppo complessivo |
| Area di applicabilità | La distanza per pixel, pesata per l'importanza delle covariate | Quanti punti di addestramento forniscono il supporto |
| Densità locale dei punti dati | Un supporto scarso in una regione nominalmente coperta | Se la relazione stessa è cambiata |
| T² di Hotelling + Q | Spettri diversi dalla calibrazione, dentro e fuori dal suo spazio | Nulla, se i due sono letti insieme |
La trappola della validazione: perché un buon R² può mentire
C'è un modo specifico in cui questo va storto, e lusinga chi lo pratica. Quando un modello è validato con una normale validazione incrociata casuale, i punti esclusi sono sparsi tra i punti di addestramento. Se i dati sono spazialmente autocorrelati, e i dati di suolo e vegetazione lo sono quasi sempre, allora ogni punto escluso ha un vicino prossimo nel set di addestramento. Il modello viene testato quasi interamente all'interno del suo dominio, su punti facili. La validazione a struttura spaziale, che esclude interi blocchi di spazio, rivela ripetutamente che modelli con ottimi punteggi di validazione incrociata casuale predicono male quando devono spingersi più lontano 56. Una mappa regionale può essere non distorta in media su tutta la sua estensione ed essere comunque sbagliata per ogni singolo progetto al suo interno.
La risposta onesta non è semplicemente sostituire la validazione incrociata casuale con quella spaziale e passare oltre, perché il disegno di validazione giusto è esso stesso oggetto di dibattito: il blocking spaziale può essere pessimistico se esclude regioni che al modello non verrebbe mai chiesto di predire, e l'opzione più difendibile, dove il budget lo consente, è un campione di validazione separato estratto con campionamento probabilistico dall'area obiettivo, che stima l'accuratezza della mappa senza appoggiarsi affatto al modello 78. Il punto che sopravvive al dibattito è più semplice: un numero di accuratezza ha senso solo insieme a una dichiarazione di dove, nello spazio delle covariate e nello spazio geografico, è stato misurato, e se il luogo in cui ora si vuole una previsione gli somigli.
Esiste ora una risposta più precisa che schierarsi. Invece di suddividere lo spazio in blocchi arbitrari, adatti la validazione alla previsione: escluda i punti in modo che la distribuzione delle distanze tra punto di test e dati di addestramento somigli alla distribuzione delle distanze tra i luoghi che predirà effettivamente e i dati di addestramento 13. La validazione incrociata misura allora la portata che al modello verrà davvero richiesta, né lusingata da vicini prossimi né penalizzata per regioni di cui nessuno chiederà. La formulazione originale escludeva un punto alla volta e non era scalabile; la versione k-fold riduce un dataset raggruppato di quattromila punti da giorni a circa un minuto 14, il che conta, perché il motivo abituale per cui i team ripiegano sulla validazione incrociata casuale è che l'alternativa onesta era fuori portata dal punto di vista computazionale. I campioni raggruppati richiedono cautele specifiche 39.
Che cosa dovrebbe significare davvero «gonfiare l'incertezza»
Il consiglio di allargare le barre d'errore per i punti al limite è facile da dare e difficile da seguire. Allargarle di quanto? Esiste una risposta rigorosa, e i suoi limiti sono istruttivi quanto le sue garanzie.
La predizione conforme a suddivisione (split conformal) costruisce un intervallo a partire da residui esclusi anziché da qualsiasi ipotesi sulla forma degli errori 18. Adatti il modello su una parte dei dati, calcoli i residui assoluti su un set di calibrazione escluso, e prenda una specifica statistica d'ordine di quei residui come semiampiezza dell'intervallo. L'intervallo risultante copre il valore vero almeno 1 − α delle volte, con campioni finiti, senza alcuna ipotesi distributiva.
n ≥ ⌈1/α⌉ − 1 quindi un intervallo al 95% richiede almeno 19 punti di calibrazione
La seconda riga non è un tecnicismo. Al di sotto di quel numero di punti di calibrazione il metodo restituisce un intervallo di ampiezza infinita, che è il suo modo onesto di dire che i dati non possono sostenere l'affermazione che si chiede loro. Un metodo che si rifiuta di rispondere quando non può vale di più, per un programma di monitoraggio, di uno che produce sempre un numero.
Una semiampiezza costante su un intero progetto raramente è ciò che si vuole, e il rimedio è standard: valuti la conformità rispetto a quantili stimati anziché a una media stimata, e l'intervallo si adatta a quanto il modello sia incerto in ogni luogo mantenendo la garanzia di copertura 20. I siti in condizioni ben campionate ottengono intervalli stretti, quelli difficili intervalli ampi, e nessuno deve scegliere a mano il fattore di gonfiamento.
Ecco il punto critico, ed è l'intero argomento di questo articolo. Quella garanzia vale solo se i punti di calibrazione e il nuovo punto sono scambiabili, che è esattamente ciò che il passaggio a una nuova regione infrange. La predizione conforme non è una via di fuga dal problema del dominio. Applicata ingenuamente attraverso un confine di dominio, produce intervalli che sembrano rigorosi e non lo sono.
Ciò che la salva è la quantità che abbiamo già costruito. Se conosce il rapporto di densità tra la popolazione obiettivo e quella di calibrazione, può pesare ogni residuo di calibrazione con esso e recuperare la garanzia in presenza di spostamento delle covariate 19. Il meccanismo è elegante: il nuovo punto contribuisce con il proprio peso al quantile, così, man mano che si sposta in un territorio che i dati di calibrazione coprono appena, una parte crescente della massa di probabilità si colloca all'infinito e l'intervallo si allarga da solo, diventando illimitato non appena quel peso supera α. È il classificatore della sezione sulla copertura a fornire il rapporto, ed è per questo che le due sezioni vanno insieme. Un'avvertenza onesta: la garanzia è esatta solo quando il rapporto è noto, mentre nella pratica è stimato; tratti quindi la copertura come approssimata e in peggioramento con la qualità di quella stima.
Un limite più rigido merita di essere conosciuto prima che qualcuno lo prometta. Una copertura condizionata ai valori esatti delle covariate di un sito non può essere ottenuta in modo non banale per covariate continue: qualsiasi procedura che la rivendichi deve restituire intervalli di ampiezza infinita 21. Il compromesso praticabile è garantire la copertura all'interno di strati dichiarati in anticipo, per regione, tessitura del suolo o uso del suolo, ciascuno con il proprio set di calibrazione. È la forma giusta per l'MRV, e comporta una conseguenza operativa: una regione scarsamente campionata riceve una garanzia grossolana o nessuna, il che è un'informazione più che un difetto.
Una regola decisionale difendibile
Messo tutto insieme, il test del dominio è un flusso di lavoro breve e ripetibile che sta in una pagina di un piano di monitoraggio. Definire il dominio di calibrazione (la distribuzione multivariata delle covariate nei dati di addestramento). Collocare ogni nuovo punto rispetto a esso: prima il controllo dell'intervallo variabile per variabile, poi una metrica di distanza. Classificarlo come interno al dominio, al limite o fuori dominio rispetto a soglie fissate in anticipo. Poi agire in base alla classe: i punti interni al dominio ricevono la previsione così com'è; i punti al limite la ricevono con un'incertezza esplicitamente gonfiata e una segnalazione; i punti fuori dominio non ricevono affatto un numero preso in prestito, ma fanno scattare un campionamento di riferimento locale e una nuova stima.
Il valore di metterlo per iscritto è che trasforma un'argomentazione («pensiamo che la nuova regione sia abbastanza simile») in una prova («ecco dove cade ogni nuovo punto, ed ecco la regola che abbiamo applicato»). È la differenza tra un'affermazione che un verificatore accetta e una che un verificatore approfondisce.
Un esempio svolto: un modello, due regioni
Un modello del carbonio del suolo è calibrato su aziende in pieno sole e con ombra leggera in una regione di approvvigionamento. L'approvvigionamento si estende a una seconda regione di agroforestazione ombreggiata consolidata. Cinque delle covariate del modello, confrontate con il sito rappresentativo della nuova regione:
| Covariata | Intervallo di calibrazione (A) | Nuovo sito (B) | Nell'intervallo? |
|---|---|---|---|
| Argilla (%) | 12–34 | 41 | No (sopra) |
| Piovosità media annua (mm) | 900–1500 | 1850 | No (sopra) |
| Temperatura media annua (°C) | 23–27 | 25 | Sì |
| Altitudine (m) | 40–320 | 180 | Sì |
| Copertura arborea d'ombra (%) | 0–15 | 55 | No (sopra) |
Tre covariate su cinque cadono fuori dall'intervallo calibrato, e le due che contano di più per il carbonio, piovosità e ombra, sono tra queste. Una distanza di Mahalanobis o un indice di area di applicabilità collocherebbero questo sito ben oltre la nuvola di addestramento. Il verdetto è inequivocabile: qui il modello è fuori dominio, e applicarlo significherebbe riportare un numero privo di supporto. È la stessa conclusione, in miniatura, a cui giungono valutazioni indipendenti a scala continentale, dove relazioni del carbonio del suolo calibrate su sistemi temperati di colture in file non si trasferiscono a sistemi perenni ombreggiati senza una nuova stima locale. Affrontiamo la scelta del modello e la ricalibrazione locale in Come modellare la variazione del carbonio del suolo nel tempo?
Quando la risposta è «fuori»: estendere il dominio a basso costo
«Far scattare un campionamento locale» è il punto in cui si ferma la maggior parte delle trattazioni di questo argomento, ed è il momento in cui un responsabile di programma ha più bisogno di aiuto. La notizia utile è che estendere un dominio costa molto meno che costruirne uno, e i numeri in gioco sono sorprendentemente piccoli.
Scelga i nuovi punti per coprire lo spazio, non per imitare la popolazione. Il campionamento a ipercubo latino condizionato, l'opzione predefinita nella cartografia digitale dei suoli, seleziona i siti in modo che il campione riproduca le distribuzioni marginali delle covariate e le loro correlazioni 29. Il campionamento di copertura invece raggruppa l'area obiettivo in cluster nello spazio delle covariate e campiona vicino al centro di ciascun cluster, coprendo lo spazio congiunto anziché riprodurne i margini 30. Per calibrare un modello, di solito è la copertura ciò che si vuole, e un confronto raccomanda di distribuire il campione nello spazio delle covariate più importanti 31.
Diffidi di chiunque Le proponga un vincitore netto tra i due. Le evidenze sono davvero contrastanti: il campionamento di copertura prevale in media in alcuni confronti, l'ipercubo latino prevale con piccole dimensioni campionarie in altri, e nella maggior parte di essi la dimensione campionaria conta più della scelta del metodo. I confronti basati su una singola realizzazione di ciascun disegno sono quasi privi di informazione, perché le distribuzioni dei risultati si sovrappongono ampiamente.
Spesso non è affatto necessario ricostruire il modello. La spettroscopia del suolo lo ha imparato per prima: una grande libreria che fallisce localmente può essere riparata aggiungendovi una manciata di campioni locali, una pratica chiamata spiking. I numeri in letteratura sono coerenti e piccoli: una quindicina di campioni locali riducono nettamente la distorsione della previsione 32, dodici hanno portato le prestazioni di un modello regionale da un R² compreso tra 0,07 e 0,36 a un R² compreso tra 0,69 e 0,86 33, e da dodici a venti campioni locali combinati con una grande libreria hanno eguagliato calibrazioni specifiche per il sito costruite su un massimo di trecento campioni 34. Da dieci a trenta campioni ben scelti costituiscono l'intervallo di lavoro.
La stessa economia si ritrova nell'allometria. Usando equazioni pubblicate come prior anziché partire da zero, sei alberi bastano a stimare i parametri bene quanto da quaranta a sessanta nell'approccio classico 35. È il pooling parziale a fare il lavoro: il modello preso in prestito fornisce la forma, i dati locali lo spingono verso la verità locale, e la componente di varianza tra siti è essa stessa una misura di quanto la relazione fosse trasferibile in partenza.
Se può permettersi solo di testare, testi la distorsione. Un piccolo campione locale che non può sostenere un nuovo adattamento può comunque dire se il modello preso in prestito sbaglia sistematicamente in quel luogo. È un confronto a due campioni, e usa la stessa formula della potenza di qualsiasi disegno di rilevazione del cambiamento, che approfondiamo in Quanto deve essere ampia la Sua campagna di campionamento del carbonio del suolo? Sostituendo alla differenza minima rilevabile la distorsione che Le interesserebbe, si ottiene il numero di campioni locali necessari per individuarla.
Un risultato controintuitivo merita un posto in qualsiasi decisione di trasferimento. Quando funzioni di pedotrasferimento sono state trasferite a una nuova regione, quelle costruite solo su sabbia e argilla hanno superato le versioni che usavano undici covariate 38. Più predittori significano uno spazio a più alta dimensionalità, una nuvola di addestramento più rada e più modi per un nuovo sito di caderne fuori. La parsimonia acquista copertura del dominio, che è una ragione migliore per preferirla rispetto all'eleganza. Il costo di sbagliare su questo punto è ben documentato: equazioni pantropicali hanno sovrastimato la biomassa di circa il 40% in un sito dell'Africa centrale 36, e le equazioni costruite su piccoli campioni presentano una distorsione media a livello di sito vicina a +70%, con un intervallo da −4% a +193% 37.
Il ricampionamento, e il dominio che si sposta
C'è un secondo modo, più silenzioso, in cui la rappresentatività fallisce, e si manifesta proprio quando un programma fa tutto il resto nel modo giusto. Il monitoraggio si basa sul ricampionamento: rivisitare la stessa rete nel tempo, confrontare e riportare il cambiamento. L'ipotesi implicita è che la rete resti rappresentativa del sistema che monitora. I sistemi si muovono. La gestione cambia, un programma di ombreggiamento arriva a maturità, una siccità rimodella il regime di umidità del suolo, l'uso del suolo si sposta ai margini del bacino di approvvigionamento. Un modello calibrato una volta sul sistema originario può scivolare fuori dominio rispetto al sistema che esiste ora, senza che nessuno ripeta un controllo. Gli statistici lo chiamano spostamento delle covariate o deriva di concetto (concept drift); sul campo assomiglia a una baseline che silenziosamente smette di descrivere il presente.
La deriva è verificabile con lo strumento già presentato. Esegua il classificatore di dominio tra cicli di monitoraggio anziché tra regioni: etichetti con 0 le covariate del primo ciclo e con 1 quelle del secondo, e veda se un classificatore riesce a distinguere gli anni. Se ci riesce, il sistema si è spostato rispetto al modello, e le importanze delle variabili indicano che cosa si è spostato. Non costa nulla oltre alle covariate che già possiede, e trasforma un avvertimento in un controllo programmato.
Perché i verificatori cominciano a chiederlo
L'affermazione secondo cui il monitoraggio ambientale usa questa idea senza chiamarla per nome richiede una correzione, ed è una correzione utile. La VM0042 di Verra la nomina. La sua sezione delle definizioni definisce un dominio di progetto come l'insieme di condizioni, compresi tipo di coltura, tessitura del suolo e clima, in cui l'applicazione del modello è stata validata 40. Il dominio di applicabilità non è qui un'astrazione presa in prestito dalla chimica; è un termine definito nella metodologia su cui è redatta un'ampia quota dei progetti sul carbonio del suolo.
Il suo modulo complementare trasforma la definizione in un test verificabile. Ogni zona climatica o regione agricola definita a livello nazionale che il progetto dichiara deve comparire nel dataset di validazione; le tre classi tessiturali del suolo che si prevede dominino l'area di progetto devono essere incluse; e i dati devono coprire 15 punti percentuali di contenuto di argilla. Il modulo dichiara apertamente lo scopo, che è confermare che il modello non sia stato ipercalibrato su una sola combinazione di condizioni e poi applicato altrove. Due limiti meritano di essere enunciati con esattezza: il requisito si applica alla quantificazione basata su misurazione e modellazione, non all'accreditamento basato sulla sola misurazione, e non fissa alcun numero minimo di siti. La disciplina riguarda la copertura, non la dimensione campionaria.
Tutti gli altri quadri di riferimento sono meno stringenti, ed è bene non sopravvalutarli. L'IPCC lo tratta come buona pratica a scala nazionale, raccomandando che i modelli di Tier 3 siano calibrati e testati rispetto a misurazioni che riflettano la variabilità di clima, suolo e uso del suolo su cui verranno applicati. Il regolamento UE sugli assorbimenti di carbonio, nonostante frequenti affermazioni contrarie, non impone alcun requisito di validazione dei modelli: il suo obbligo di rappresentatività riguarda la baseline, e la sostanza è rinviata ad atti delegati ancora da adottare. Chi lo cita a questo scopo non lo ha letto.
Non è più soltanto una finezza metodologica. I quadri contabili che governano le dichiarazioni sul carbonio convergono sulla richiesta che l'incertezza sia quantificata e resa nota, e una previsione applicata fuori dal dominio di un modello è un'incertezza che è stata nascosta anziché quantificata. La GHG Protocol Land Sector and Removals Guidance, in vigore dal 1° gennaio 2027, chiede alle aziende di calibrare gli approcci basati su modelli e su telerilevamento con dati empirici specifici per il territorio e la gestione in esame, e dove si rivendicano assorbimenti trasforma quella raccomandazione in un requisito, con un ricampionamento almeno ogni cinque anni. Il 2019 Refinement dell'IPCC spinge verso fattori di livello superiore e adatti al contesto locale anziché valori predefiniti presi in prestito, proprio perché i valori predefiniti sono fuori dominio per molti dei luoghi in cui vengono applicati 12. I verificatori cominciano a chiedere una validazione a struttura spaziale o indipendente anziché un R² di facciata, e prove che un modello riutilizzato si adatti al sito su cui viene riutilizzato. I team che supereranno queste domande sono quelli che hanno testato l'appartenenza al dominio prima che venisse loro chiesto, e possono dimostrarlo.
Punti chiave
La rappresentatività comprende due domande separate: il campione è rappresentativo della popolazione (disegno di campionamento), e un nuovo punto rientra nel dominio calibrato del modello (applicabilità)? La seconda è quella che la maggior parte dei programmi trascura.
Un campione può essere perfettamente rappresentativo della propria popolazione e cadere comunque fuori dal dominio di applicabilità di un modello preso in prestito. Le due cose sono indipendenti.
Il dominio di applicabilità è la regione dello spazio delle covariate che i dati di addestramento coprono effettivamente. L'intervallo di diametri di un'equazione allometrica è questa idea a una dimensione; il dominio di una mappa del carbonio del suolo è la stessa idea in molte dimensioni.
Per un'intera regione anziché per un punto, addestri un classificatore a separare i campioni di calibrazione dai siti dell'area obiettivo sulla base delle sole covariate. Un'AUC vicina a 0,5 significa che gli insiemi sono indistinguibili; la dimensione campionaria effettiva dei pesi risultanti dice quanti campioni di calibrazione fanno davvero il lavoro.
Legga quel classificatore accanto alla quota dell'area obiettivo che rientra nel dominio. Un classificatore lineare separa in base alla media, quindi è cieco rispetto a un'area obiettivo che condivide il centro della calibrazione e semplicemente si estende su più terreno.
L'appartenenza al dominio è una scala, in cui ogni gradino corregge una cecità di quello sottostante: intervallo per variabile e MESS, poi la separazione operata da ExDet tra novità di intervallo e combinazioni inedite, poi la distanza di Mahalanobis rispetto a una soglia del chi quadrato, poi l'area di applicabilità per le mappe, poi la densità locale dei punti dati per sapere quanto supporto esista.
La soglia dell'area di applicabilità è il massimo, al netto dei valori anomali, degli indici di dissimilarità propri dei dati di addestramento. L'espressione del baffo superiore è la regola per i valori anomali, non la soglia, e il preprint che circola liberamente specifica una regola diversa da quella dell'articolo pubblicato.
Un punteggio elevato di validazione incrociata casuale può essere un artefatto dell'autocorrelazione spaziale. Adatti la validazione alla previsione mediante l'appaiamento delle distanze dai vicini più prossimi, o usi un campione probabilistico indipendente, e riporti sempre dove è stata misurata l'accuratezza.
«Gonfiare l'incertezza» ha una forma rigorosa: la predizione conforme fornisce intervalli privi di ipotesi distributive, ma solo in condizioni di scambiabilità, che una nuova regione infrange. Pesare con il rapporto di densità ripristina la garanzia, e le barre d'errore del modello stesso non aiuteranno: le quantile regression forest diventano più strette al bordo dell'intervallo di addestramento, non più larghe.
Estendere un dominio costa poco. Da dieci a trenta campioni locali ben scelti riparano una calibrazione spettrale presa in prestito; sei alberi con prior informativi ne valgono da quaranta a sessanta senza di essi. Meno covariate spesso si trasferiscono meglio, perché è più facile cadere fuori da una nuvola rada ad alta dimensionalità.
La VM0042 di Verra definisce già un dominio di progetto come le condizioni in cui l'applicazione del modello è stata validata, e il suo modulo complementare rende verificabile la copertura di zone climatiche, tessiture del suolo e di un intervallo di 15 punti di argilla. Il regolamento UE sugli assorbimenti di carbonio, contrariamente a quanto si afferma spesso, non richiede nulla di simile.
Bibliografia
- 1.Netzeva, T.I. et al. (2005). Current status of methods for defining the applicability domain of (quantitative) structure-activity relationships. ATLA Alternatives to Laboratory Animals, 33(2), 155–173. doi:10.1177/026119290503300209
- 2.Jaworska, J., Nikolova-Jeliazkova, N., Aldenberg, T. (2005). QSAR applicability domain estimation by projection of the training set in descriptor space, a review. ATLA, 33(5), 445–459. doi:10.1177/026119290503300508
- 3.Meyer, H., Pebesma, E. (2021). Predicting into unknown space? Estimating the area of applicability of spatial prediction models. Methods in Ecology and Evolution, 12(9), 1620–1633. doi:10.1111/2041-210X.13650
- 4.Meyer, H., Pebesma, E. (2022). Machine learning-based global maps of ecological variables and the challenge of assessing them. Nature Communications, 13, 2208. doi:10.1038/s41467-022-29838-9
- 5.Ploton, P. et al. (2020). Spatial validation reveals poor predictive performance of large-scale ecological mapping models. Nature Communications, 11, 4540. doi:10.1038/s41467-020-18321-y
- 6.Roberts, D.R. et al. (2017). Cross-validation strategies for data with temporal, spatial, hierarchical, or phylogenetic structure. Ecography, 40(8), 913–929. doi:10.1111/ecog.02881
- 7.Wadoux, A.M.J-C., Heuvelink, G.B.M., de Bruin, S., Brus, D.J. (2021). Spatial cross-validation is not the right way to evaluate map accuracy. Ecological Modelling, 457, 109692. doi:10.1016/j.ecolmodel.2021.109692
- 8.Brus, D.J., Kempen, B., Heuvelink, G.B.M. (2011). Sampling for validation of digital soil maps. European Journal of Soil Science, 62(3), 394–407. doi:10.1111/j.1365-2389.2011.01364.x
- 9.McBratney, A.B., Mendonça Santos, M.L., Minasny, B. (2003). On digital soil mapping. Geoderma, 117(1–2), 3–52. doi:10.1016/S0016-7061(03)00223-4
- 10.Sheridan, R.P. et al. (2004). Similarity to molecules in the training set is a good discriminator for prediction accuracy in QSAR. Journal of Chemical Information and Computer Sciences, 44(6), 1912–1928. doi:10.1021/ci049782w
- 11.Chave, J. et al. (2014). Improved allometric models to estimate the aboveground biomass of tropical trees. Global Change Biology, 20(10), 3177–3190. doi:10.1111/gcb.12629
- 12.IPCC (2019). 2019 Refinement to the 2006 IPCC Guidelines for National Greenhouse Gas Inventories. Intergovernmental Panel on Climate Change. ipcc.ch
- 13.Milà, C., Mateu, J., Pebesma, E., Meyer, H. (2022). Nearest neighbour distance matching Leave-One-Out Cross-Validation for map validation. Methods in Ecology and Evolution, 13(6), 1304–1316. doi:10.1111/2041-210X.13851
- 14.Linnenbrink, J., Milà, C., Ludwig, M., Meyer, H. (2024). kNNDM CV: k-fold nearest-neighbour distance matching cross-validation for map accuracy estimation. Geoscientific Model Development, 17(15), 5897–5912. doi:10.5194/gmd-17-5897-2024
- 15.Schumacher, F.L., Knoth, C., Ludwig, M., Meyer, H. (2025). Estimation of local training data point densities to support the assessment of spatial prediction uncertainty. Geoscientific Model Development, 18(24), 10185–10202. doi:10.5194/gmd-18-10185-2025
- 16.Mesgaran, M.B., Cousens, R.D., Webber, B.L. (2014). Here be dragons: a tool for quantifying novelty due to covariate range and correlation change when projecting species distribution models. Diversity and Distributions, 20(10), 1147–1159. doi:10.1111/ddi.12209
- 17.Elith, J., Kearney, M., Phillips, S. (2010). The art of modelling range-shifting species. Methods in Ecology and Evolution, 1(4), 330–342. doi:10.1111/j.2041-210X.2010.00036.x
- 18.Lei, J., G'Sell, M., Rinaldo, A., Tibshirani, R.J., Wasserman, L. (2018). Distribution-free predictive inference for regression. Journal of the American Statistical Association, 113(523), 1094–1111. doi:10.1080/01621459.2017.1307116
- 19.Tibshirani, R.J., Foygel Barber, R., Candès, E.J., Ramdas, A. (2019). Conformal prediction under covariate shift. Advances in Neural Information Processing Systems 32. arXiv:1904.06019
- 20.Romano, Y., Patterson, E., Candès, E.J. (2019). Conformalized quantile regression. Advances in Neural Information Processing Systems 32. arXiv:1905.03222
- 21.Vovk, V. (2012). Conditional validity of inductive conformal predictors. Proceedings of the Asian Conference on Machine Learning, PMLR 25, 475–490. proceedings.mlr.press
- 22.Lopez-Paz, D., Oquab, M. (2017). Revisiting classifier two-sample tests. International Conference on Learning Representations. arXiv:1610.06545
- 23.Ben-David, S., Blitzer, J., Crammer, K., Kulesza, A., Pereira, F., Vaughan, J.W. (2010). A theory of learning from different domains. Machine Learning, 79(1–2), 151–175. doi:10.1007/s10994-009-5152-4
- 24.Shimodaira, H. (2000). Improving predictive inference under covariate shift by weighting the log-likelihood function. Journal of Statistical Planning and Inference, 90(2), 227–244. doi:10.1016/S0378-3758(00)00115-4
- 25.Sugiyama, M., Suzuki, T., Nakajima, S., Kashima, H., von Bünau, P., Kawanabe, M. (2008). Direct importance estimation for covariate shift adaptation. Annals of the Institute of Statistical Mathematics, 60(4), 699–746. doi:10.1007/s10463-008-0197-x
- 26.Kish, L. (1965). Survey Sampling. John Wiley & Sons, New York. The effective sample size used here is the algebraic restatement of Kish's unequal-weighting design effect.
- 27.Dega, S., Dietrich, P., Schrön, M., Paasche, H. (2023). Probabilistic prediction by means of the propagation of response variable uncertainty through a Monte Carlo approach in regression random forest. Frontiers in Environmental Science, 11, 1009191. doi:10.3389/fenvs.2023.1009191
- 28.Hateffard, F., Steinbuch, L., Heuvelink, G.B.M. (2024). Evaluating the extrapolation potential of random forest digital soil mapping. Geoderma, 441, 116740. doi:10.1016/j.geoderma.2023.116740
- 29.Minasny, B., McBratney, A.B. (2006). A conditioned Latin hypercube method for sampling in the presence of ancillary information. Computers & Geosciences, 32(9), 1378–1388. doi:10.1016/j.cageo.2005.12.009
- 30.Ma, T., Brus, D.J., Zhu, A.-X., Zhang, L., Scholten, T. (2020). Comparison of conditioned Latin hypercube and feature space coverage sampling for predicting soil classes using simulation from soil maps. Geoderma, 370, 114366. doi:10.1016/j.geoderma.2020.114366
- 31.Wadoux, A.M.J-C., Brus, D.J., Heuvelink, G.B.M. (2019). Sampling design optimization for soil mapping with a random forest. Geoderma, 355, 113913. doi:10.1016/j.geoderma.2019.113913
- 32.Seidel, M. et al. (2019). Strategies for the efficient estimation of soil organic carbon at the field scale with vis-NIR spectroscopy: Spectral libraries and spiking vs. local calibrations. Geoderma, 354, 113856. doi:10.1016/j.geoderma.2019.07.014
- 33.Guy, A.L., Siciliano, S.D., Lamb, E.G. (2015). Spiking regional vis-NIR calibration models with local samples to predict soil organic carbon in two High Arctic polar deserts using a vis-NIR probe. Canadian Journal of Soil Science, 95(3), 237–249. doi:10.4141/cjss-2015-004
- 34.Lobsey, C.R., Viscarra Rossel, R.A., Roudier, P., Hedley, C.B. (2017). rs-local data-mines information from spectral libraries to improve local calibrations. European Journal of Soil Science, 68(6), 840–852. doi:10.1111/ejss.12490
- 35.Zapata-Cuartas, M., Sierra, C.A., Alleman, L. (2012). Probability distribution of allometric coefficients and Bayesian estimation of aboveground tree biomass. Forest Ecology and Management, 277, 173–179. doi:10.1016/j.foreco.2012.04.030
- 36.Ngomanda, A. et al. (2014). Site-specific versus pantropical allometric equations: Which option to estimate the biomass of a moist central African forest?. Forest Ecology and Management, 312, 1–9. doi:10.1016/j.foreco.2013.10.029
- 37.Duncanson, L., Rourke, O., Dubayah, R. (2015). Small sample sizes yield biased allometric equations in temperate forests. Scientific Reports, 5, 17153. doi:10.1038/srep17153
- 38.Schoch, J., Nussbaum, M., Walthert, L., Carminati, A., Lehmann, P. (2025). Transferability of pedotransfer functions for estimating soil hydraulic properties: An analysis of controlling factors for forest soils in Switzerland. Geoderma, 460, 117397. doi:10.1016/j.geoderma.2025.117397
- 39.de Bruin, S., Brus, D.J., Heuvelink, G.B.M., van Ebbenhorst Tengbergen, T., Wadoux, A.M.J.-C. (2022). Dealing with clustered samples for assessing map accuracy by cross-validation. Ecological Informatics, 69, 101665. doi:10.1016/j.ecoinf.2022.101665
- 40.Verra (2025). VM0042 Methodology for Improved Agricultural Land Management, v2.2, and VMD0053 Model Calibration, Validation and Uncertainty Guidance for Biogeochemical Modeling, v2.1. Verified Carbon Standard. verra.org
- 41.Meinshausen, N. (2006). Quantile regression forests. Journal of Machine Learning Research, 7(35), 983–999. jmlr.org