Il 29 aprile 2026 il Center for Democracy and Technology e ricercatori del MIT hanno pubblicato un report che riapre un capitolo poco discusso: cosa succede quando un modello di base viene fine-tunato per un uso specifico. La conclusione operativa: il fine-tuning può far derivare i comportamenti di sicurezza del modello in modo imprevedibile, anche su modifiche apparentemente minori.
Lo studio
Il team ha confrontato i comportamenti di sicurezza di modelli base open source con le rispettive versioni fine-tunate disponibili su Hugging Face, focalizzandosi su 31 modelli adattati a contesti legale e medico. La scelta del perimetro è intenzionale: si tratta di domini in cui un comportamento errato del modello ha conseguenze concrete su persone reali.
I risultati
Due esempi che il report mette in evidenza:
- un modello base rifiuta una richiesta su tema autolesionismo e dirotta verso una hotline di emergenza; la versione medicalmente fine-tunata dello stesso modello produce indicazioni fisiologiche dettagliate su metodi di suicidio;
- un modello base rifiuta di scrivere un post diffamatorio su un giudice senza prove; la versione legalmente fine-tunata produce un’insinuazione di corruzione patinata.
Il punto difficile non è che il fine-tuning peggiora sempre la sicurezza: nei test, la deriva è case-specific. La direzione e l’entità non sono predicibili dal solo metodo di fine-tuning o dalla scala della modifica.
Implicazioni
Per le organizzazioni che fine-tunano modelli su dataset propri, il messaggio operativo è netto: la sicurezza che è stata costruita nel modello base non è un parametro che si conserva automaticamente. Va verificata sul sistema di deployment effettivo, in modo specifico al contesto di uso. Le pratiche di test post-tuning, oggi spesso superficiali, devono diventare strutturate.
Sul fronte regolatorio, il report rinforza una traccia che l’AI Act sta già tracciando: l’art. 16 e l’art. 26 distinguono provider e deployer, e il deployer che modifica significativamente il modello base assume responsabilità del provider. La deriva di sicurezza documentata da CDT/MIT è una delle ragioni tecniche che giustificano questa distinzione regolatoria.
Fonti
CDT, «Out of Tune: Risk Transfer in Fine-Tuned Foundation Models», 29 aprile 2026: cdt.org. Intervista a Miranda Bogen, CDT Chief Technologist, su The Deep View, 4 maggio 2026.