Il 30 aprile 2026 Cisco ha rilasciato il Model Provenance Kit, descritto dall’azienda come un «DNA test for AI models». Il kit è pubblicato su GitHub e accompagnato da un dataset di fingerprint pubblicato su Hugging Face. La logica: quando un’organizzazione sta per integrare un modello in un proprio flusso, deve poter verificare che il modello provenga effettivamente da chi dichiara di averlo addestrato.
Come funziona
Il kit costruisce un fingerprint di ogni modello sulla base di tre caratteristiche:
- metadati di architettura;
- struttura del tokenizer;
- pesi appresi dal modello durante il training.
A partire dal fingerprint, calcola un provenance score che indica se due modelli condividono un’origine o una linea di training comune. Le modalità di uso sono due:
- Compare mode: dati due modelli, calcola lo score reciproco;
- Scan mode: dato un modello e un database di fingerprint noti, restituisce le linee di derivazione più probabili.
Sulla validazione interna di Cisco, su 111 coppie di modelli classificate come matched/unmatched, il kit ha sbagliato 4 volte (96,4% di accuratezza). Le quattro classificazioni errate riguardavano «extreme architectural transformations», casi limite già difficili da inquadrare anche manualmente.
A cosa serve davvero
Il problema che il kit affronta è concreto e crescente. Su Hugging Face circolano modelli che dichiarano di essere addestrati da zero ma sono in realtà copie o varianti minime di modelli esistenti. Per chi sta integrando AI in produzione, questo apre tre rischi:
- rischio di compliance e licenza: usare un modello che eredita una licenza diversa da quella dichiarata;
- rischio di compromissione: un modello che è stato modificato durante lo sviluppo senza che le modifiche siano state tracciate, o un modello che è stato avvelenato (data poisoning) durante il fine-tuning di una variante;
- rischio di supply chain: integrare un modello la cui catena di derivazione include passaggi non controllati.
In contesti regolati — AI Act, NIS 2, vincoli settoriali in finanza e sanità — la tracciabilità dell’origine del modello sta diventando uno dei punti che il regolatore richiede di documentare. Strumenti come Model Provenance Kit forniscono parte dell’evidenza tecnica.
Fonti
Cisco AI, repository GitHub Model Provenance Kit: github.com/cisco-ai/model-provenance-kit. Dataset fingerprint su Hugging Face: huggingface.co. The Deep View, «Cisco launches DNA Test for AI models», 1 maggio 2026.