Intelligenza artificiale e debito tecnico: rischi e soluzioni

L’era dell’AI e il debito tecnico

L’ascesa dei sistemi abilitati all’AI e in particolare dell’AI generativa e degli LLM, è destinata ad aumentare ulteriormente il debito tecnico. I sistemi di Machine Learning sono particolarmente inclini a contrarre questo debito, poiché presentano tutti i problemi di manutenzione del codice tradizionale, più un insieme di problematiche specifiche del ML.

Questo AI Technical Debt (AITD) si riferisce alle passività potenziali legate allo sviluppo di tali sistemi. I professionisti lo percepiscono come grave e dannoso, sebbene la sua prevalenza sia spesso sottovalutata.

> Scopri la formazione specializzata in AI & Machine Learning Engineering

Le Nuove Forme di Debito Tecnico nell’AI

L’AITD si manifesta in forme specifiche che richiedono attenzione:

• Pipeline Jungle: una pipeline AI diventa eccessivamente complessa e difficile da mantenere a causa di troppi componenti interconnessi. La continua aggiunta di moduli è un aspetto critico da gestire per evitare un’esplosione di complessità. Può essere identificata analizzando le configurazioni della pipeline e la complessità dei flussi di dati.
• Undeclared Consumers: utenti che accedono liberamente a un modello, rendendo difficile l’analisi degli accessi e aumentando i rischi. La loro identificazione è eccezionalmente difficile.
• Jumbled Model Architecture: un’architettura confusa che rende il codice difficile da mantenere e il sistema difficile da comprendere.
• Correction Cascades: creazione di modelli di correzione che introducono nuove dipendenze nel sistema e aumentano i costi futuri di analisi e miglioramento.
• Glue Code: grandi quantità di codice di supporto scritto per far comunicare pacchetti generici di ML con i dati specifici del sistema.
• Utilizzo irregolare delle librerie ML: uso disperso di API di ML in più file, che richiede modifiche in diversi punti quando l’API deve essere aggiornata, aumentando complessità e dipendenze.
• Deep God File: un singolo file che contiene più componenti di un sistema AI (es. training, validazione, testing), violando i principi di separazione delle responsabilità.
• Unwanted Debugging Code: frammenti di codice di debug non più utilizzati ma ancora presenti nel codice sorgente. È generalmente considerato un problema di bassa gravità.
• Multiple Language Smell: l’uso di più linguaggi nell’architettura, che rende difficile la gestione e l’aggiornamento del sistema.
• Algorithm Debt: debito derivante dalla scelta, implementazione o manutenzione di algoritmi troppo semplici, complessi, mal ottimizzati o inefficienti.
• Data Debt: carenze nella raccolta, gestione e applicazione dei dati, come scarsa qualità dei dati o dipendenze non regolate.
• Model Debt: accumulo di pratiche subottimali nel ciclo di vita dei modelli, come selezione inadeguata delle feature o tuning improprio degli iperparametri.
• Ethics Debt: carenze relative a equità algoritmica, bias di previsione e mancanza di trasparenza e responsabilità.
• Accessibility Debt: barriere che gli utenti potrebbero incontrare a causa della mancanza di usabilità immediata delle tecnologie, potendo dissuadere la partecipazione.

Impatto e Manifestazioni dell’AI Technical Debt

L’AITD ha un impatto pervasivo sulla qualità e la gestione dei sistemi AI.

Impatti sulla Qualità del Sistema

• Comprensibilità: problemi come il “Deep God File” e la “Jumbled Model Architecture” rendono il sistema difficile da capire.
• Manutenibilità: fortemente influenzata da sette tipi di AITD, tra cui la “Jumbled Model Architecture”, che rendono le modifiche e la manutenzione significativamente più complesse.
• Sicurezza: particolarmente colpita dagli “Undeclared Consumers” che, accedendo liberamente al modello, possono portare a violazioni della sicurezza e a un uso improprio di informazioni sensibili. Puoi
• Prestazioni: l’aggiunta incontrollata di passaggi può ridurre le performance. Anche il “Glue Code” e l’uso disperso di librerie ML influiscono negativamente.
• Propensione ai difetti: quasi tutti i problemi di AITD aumentano la probabilità di difetti. In particolare, “Undeclared Consumers” e “Pipeline Jungle” possono aumentare la complessità architetturale.
• Complessità e dimensioni: la presenza di “Glue Code” e “Pipeline Jungle” implica un aumento delle dimensioni del sistema, rendendo le classi difficili da mantenere e comprendere.

> Leggi anche: “Intelligenza Artificiale e Cyber Security: tre campi di applicazione”

Impatti sui Fattori Socio-Tecnici

• Comunicazione del Team: problemi come “Jumbled Model Architecture”, “Multiple Language Smell” e “Pipeline Jungle” possono limitare la comunicazione tra i membri del team, portando a conflitti e soluzioni non ottimali.
• Familiarità e Competenza: la presenza di più linguaggi (“Multiple Language Smell”) riduce la familiarità degli sviluppatori con il sistema, complicando gli aggiornamenti.

L’introduzione di nuovi membri in progetti AI complessi può creare divari di competenze, portando a codice confuso (“spaghetti code”) e offuscando le responsabilità.