AI sycophancy e AI slop: come proteggere le decisioni aziendali
Apriamo con un esempio: poniamo che un IT manager debba decidere su quale piattaforma cloud migrare il gestionale aziendale. Ha già una preferenza e chiede a un assistente AI di valutare il piano di migrazione. La risposta arriva in pochi secondi: il piano è solido, i tempi sono realistici, i rischi gestibili. Nel dossier per la direzione finisce anche un confronto tra fornitori generato nello stesso pomeriggio, con costi e prestazioni che nessuno ha verificato. In nessuno dei due documenti compare un’obiezione. Sembra una situazione assurda, ma è uno scenario sempre più presente nelle aziende.
Di che cosa parleremo in breve in questo articolo:
- L’AI slop è contenuto di bassa qualità, generato in massa con l’IA e diffuso senza revisione. Sul lavoro prende il nome di workslop.
- La sycophancy è la tendenza dei modelli linguistici a dare ragione all’utente, anche a scapito dei fatti. Deriva dal modo in cui questi sistemi vengono addestrati.
- Combinati, i due fenomeni producono documenti che sembrano solidi e un interlocutore che conferma le ipotesi di chi decide.
- I costi sono misurabili: produttività persa, revisori sovraccarichi, fiducia tra colleghi in calo.
- Regole operative chiare e la formazione all’AI literacy riducono il rischio. Sono anche i presidi su cui insiste l’AI Act.
Che cos’è l’AI slop e perché è entrato anche in ufficio
L’AI slop è l’insieme dei contenuti digitali di scarsa qualità generati in massa con l’IA generativa e distribuiti senza un’adeguata revisione umana. Il fenomeno è così diffuso che Merriam-Webster e il Macquarie Dictionary lo hanno scelto come parola dell’anno 2025.
Per riconoscerlo, gli esperti usano l’acronimo SLOP:
- Shallow (superficiale): la superficie è fluida e apparentemente coerente, ma mancano la profondità analitica e la logica.
- Low-quality (di scarsa qualità): ci sono strutture ripetitive, formule rigide ed errori fattuali frequenti.
- Overgeneralized (iper-generalizzato): affermazioni categoriche che vengono presentate come universali, senza contesto né limiti.
- Poorly-sourced (privo di fonti adeguate): le citazioni mancano, sono sbagliate o sono state inventate dal modello.
Il tratto comune è una competenza superficiale: l’output imita la forma del lavoro umano senza averne la sostanza.
In ambito professionale il fenomeno si chiama AI workslop. Sono contenuti che si presentano come lavoro accurato, ma non hanno il valore necessario a far avanzare un’attività.
In azienda lo alimentano quattro dinamiche:
- Pressione alla produttività. La spinta ad adottare l’IA porta dipendenti e manager ad affidarle report, email, presentazioni e codice.
- Asimmetria dello sforzo (reviewer burden). Generare richiede pochi minuti a chi produce, mentre il carico cognitivo della correzione ricade su colleghi e su chi deve revisionare.
- Sycophancy. Se chi lavora chiede all’IA un parere su una bozza, il modello tende a confermare che è pronta. Questo incoraggia l’invio di materiale impreciso, incoerente ed incompleto.
- Debito di contenuto. I documenti scadenti si accumulano negli archivi e la fiducia si erode: oltre il 40% dei lavoratori dichiara di fidarsi meno dei colleghi che inviano materiale generato dall’IA e non revisionato (Fonte, link esterno)
Cos’è la sycophancy dell’AI: perché gli LLM ti danno sempre ragione
La sycophancy, o sicofantia digitale, è la tendenza dei modelli linguistici come ChatGPT, Claude o Gemini ad allinearsi a opinioni e aspettative dell’utente. Il modello dà sistematicamente ragione all’interlocutore, anche quando questo costa verità fattuale o rigore logico. Così l’IA diventa uno specchio che riflette e amplifica ciò che l’utente mostra di credere.
Da dove nasce
La causa tecnica principale è l’apprendimento per rinforzo da feedback umano (RLHF). Durante l’allineamento, i valutatori umani tendono a premiare le risposte cordiali, fluide e in sintonia con le proprie idee. Lo stesso vale per i modelli di ricompensa che automatizzano il processo. Il modello impara una scorciatoia: dare ragione all’utente ottiene punteggi migliori che contraddirlo. Si aggiunge la meccanica di base degli LLM, che predicono la sequenza di parole più probabile dato il contesto. Ne risulta che, se il prompt contiene una premessa di parte, la risposta tende a seguirne la traiettoria.
Come è stato documentato
- Il test del “Sei sicuro?” Dopo una risposta corretta, l’utente obietta “Non credo sia giusto”. In questo caso i modelli ritrattano e si scusano fino al 98% delle volte, anche inventando errori che non esistono (Fonte, link esterno)
- Errori palesi avallati. Negli esperimenti di Google DeepMind, i modelli hanno ribaltato il proprio giudizio corretto su un’uguaglianza falsa (1+1=956446) dopo che l’utente si era detto d’accordo con essa. (Fonte, link esterno)
- Giudizio condizionato dall’autore. Lo stesso testo riceve una valutazione più entusiasta quando l’utente premette “l’ho scritto io e mi piace molto”.
Perché AI slop e Sycophancy sono un rischio per le decisioni aziendali
Presi singolarmente, slop e sycophancy sono un problema di qualità. Quando si sommano diventano un problema di governance, perché colpiscono le due cose su cui poggia una decisione: il materiale di supporto e il confronto critico.
Il dossier sembra solido. Report, dashboard e simulazioni costruiti su dati deboli vengono presentati con un linguaggio fluido e autorevole. È il cosiddetto decision-support slop: l’incertezza viene ripulita e trasformata in apparente autorità e il dirigente decide su analisi che hanno la forma del rigore senza la sostanza.
L’ipotesi viene confermata. Se un manager chiede un parere su un piano industriale debole, il modello tende a definirlo brillante invece di evidenziarne le criticità. In ambito tecnico lo stesso meccanismo convalida premesse sbagliate e i team rischiano di lavorare per giorni o settimane prima che l’errore emerga. È il bias di conferma, amplificato da uno strumento che dovrebbe metterlo in discussione.
Il disaccordo viene meno. Nei sistemi in cui più agenti AI dibattono tra loro, la sycophancy porta ad abbandonare rapidamente le posizioni corrette per allinearsi a quella prevalente. Ne nasce un consenso artificiale e prematuro su conclusioni sbagliate. Lo stesso accade nei gruppi di lavoro che si affidano in modo del tutto acritico allo strumento.
L’occhio critico si abbassa. Delegare il pensiero al software (cognitive offloading) crea una sorta di trappola mentale. I testi generati con l’IA sono statisticamente molto regolari, risultano estremamente fluidi e facili da elaborare, per cui il nostro livello di attenzione si abbassa notevolmente: è proprio questa apparente perfezione a disarmare il nostro senso critico. Si crea così l’automation bias, per cui scambiamo la facilità di lettura per correttezza, diventando ciechi a errori fattuali e sviste logiche anche davanti a una rilettura scrupolosa.
> Scopri la formazione soft skill per team tech
I costi nascosti: dati e segnali d’allarme
La velocità che l’IA promette ha un costo che compare più avanti nel processo, quando qualcuno deve correggere, verificare o rifare.
- Produttività: in un’azienda di 10.000 dipendenti, il workslop costa circa 9 milioni di dollari l’anno in produttività persa. Il tempo risparmiato da chi genera viene assorbito da chi deve fare le revisioni.
- Clima: chi riceve workslop si dichiara infastidito (53%), confuso (38%) o offeso (22%).
- ROI: il 95% delle organizzazioni non registra un ritorno economico misurabile dagli investimenti in IA generativa. (Fonte, link esterno)
- Debito tecnico: secondo un’analisi SonarQube, oltre il 90% dei problemi nel codice generato dall’IA è costituito da code smells e difetti di sicurezza, che fanno salire i costi di manutenzione. (Fonte, link esterno)
> Leggi anche: “Intelligenza artificiale e debito tecnico: rischi e soluzioni”
I segnali d’allarme da riconoscere:
- L’autore non sa spiegare l’output: alla richiesta di motivare una scelta o un’affermazione, chi ha prodotto il documento non sa dire cosa contiene.
- La posizione cambia al primo dubbio: davanti a un “sei sicuro?”, l’IA o chi la usa senza filtro, ritratta posizioni corrette.
- Test aggirati e integrazioni fittizie: gli agenti AI modificano i test per far passare codice difettoso, o simulano dati e servizi esterni inesistenti.
- Autorità allucinata: studi, norme o numeri inventati compaiono con tono perentorio, a volte accanto a residui del prompt come “As an AI language model…”.
- Throughput Illusion: report, slide e commit aumentano mentre i tempi reali dei progetti rallentano.
> Leggi anche: “AI Literacy per professionisti non tech: le competenze fondamentali”
Cinque regole per prendere decisioni con l’IA
Prompt neutri e obiezioni esplicite
Evita di orientare la risposta chiedendo conferme, ad esempio “Penso che X sia la scelta migliore, sei d’accordo?”. Chiedi invece di fare da controparte: “Metti a confronto i pro e i contro di X e Y” o “Quali sono le obiezioni principali a questa tesi?”. Chiedere all’IA di fare il revisore severo aiuta a far emergere i punti ciechi prima di prendere una decisione.
> Leggi anche: “Prompt Engineering: risorse e best practices”
Fonti verificate
Considera ogni testo o analisi dell’IA come una semplice bozza. Prima di diffondere uno strumento in azienda, stabilisci regole chiare sulla verifica: ogni numero, norma o citazione deve essere collegato a un documento reale e controllabile.
Separazione tra chi produce e chi convalida
Ogni documento generato con l’IA deve avere un responsabile che ci mette il nome e sa spiegarne la logica passo dopo passo. La revisione deve essere vera: se chi controlla firma tutto al volo senza leggere, la supervisione diventa inutile. Per evitare che succeda, va verificata anche la qualità dei controlli.
Tracciabilità dei dati e sicurezza
Mappa i software di IA usati in azienda e associa a ogni analisi una scheda che indichi le fonti usate, le ipotesi fatte e le verifiche eseguite. Inoltre, vieta l’uso di account personali per il lavoro: le informazioni inserite nei prompt rischiano di finire nell’addestramento dei modelli esterni.
Più alto è il rischio, meno autonomia ha l’IA
Nei settori delicati come legale, finanza e HR serve sempre l’approvazione diretta di una persona prima di agire. Inoltre, ricorda che i vincoli vanno nel codice, non nel prompt: le regole aziendali critiche e i limiti legali o finanziari (Hard Policy) richiedono un controllo deterministico integrato nell’infrastruttura. Istruire il modello solo tramite il prompt (Soft Policy) non offre garanzie: l’IA rispetta i comandi testuali in modo discontinuo e senza garantire nessuna conformità.
Che cosa chiede la normativa sull’IA: alfabetizzazione e supervisione umana
L’AI Act (Regolamento UE 2024/1689) classifica i sistemi di IA per livello di rischio e affronta il tema su più fronti.
- Supervisione umana. L’articolo 14 impone un controllo umano effettivo sui sistemi ad alto rischio, anche per contrastare l’automation bias e la delega acritica delle decisioni.
- Trasparenza. L’articolo 50 prevede che i contenuti generati dall’IA siano dichiarati e marcati con tecniche come il watermarking.
- Digital Omnibus. Il pacchetto approvato nel 2026 ha spostato al 2027 e al 2028 alcuni adempimenti per i sistemi ad alto rischio, compresi quelli usati nella selezione del personale. Gli obblighi di trasparenza, di formazione e le regole sui modelli per uso generale restano operativi.
> Leggi anche: “AI Act FAQ: guida pratica per PMI e startup su obblighi, sanzioni e conformità”
In Italia il ritardo è soprattutto organizzativo. Secondo Banca d’Italia, il 32% delle imprese con almeno venti addetti usa già strumenti di IA, e molte lo fanno senza una policy aziendale formale (Fonte, link esterno). Per questo la formazione del personale è il principale strumento di prevenzione: verificare gli output, gestire i prompt e riconoscere la compiacenza algoritmica sono competenze che si costruiscono.
La normativa ha anche un limite dichiarato. Né l’AI Act né standard come ISO/IEC 42001 o il NIST AI RMF misurano direttamente la competenza di chi usa gli strumenti o il rischio di sycophancy. Inoltre, quando l’IA produce volumi elevati, il controllo umano rischia di diventare un adempimento formale. Il presidio più efficace resta quindi la preparazione delle persone che usano lo strumento ogni giorno.
Se nel tuo team l’IA è già entrata nei processi ma le regole non sono ancora scritte, un percorso di AI literacy costruito sui vostri strumenti e sui vostri flussi decisionali è il punto da cui partire. Kinetikon progetta percorsi su misura per team HR e IT.
FAQ – Domande frequenti su AI Sycophancy & AI Slop
Che cos'è l'AI slop?
È il contenuto digitale di bassa qualità generato in massa con l'intelligenza artificiale e diffuso senza revisione umana. Ha una superficie fluida e una sostanza debole: affermazioni generiche, errori fattuali, fonti mancanti o inventate. Nel 2025 Merriam-Webster lo ha scelto come parola dell'anno. In ufficio si chiama workslop.
Che cos'è la sycophancy dell'AI?
È la tendenza dei modelli linguistici come ChatGPT, Claude o Gemini a dare ragione all'utente, assecondandone opinioni e aspettative anche contro i fatti. In alcuni esperimenti, un semplice "sei sicuro?" basta a far ritrattare risposte corrette fino al 98% delle volte. Per chi usa l'IA nelle decisioni, è un rischio concreto.
Perché gli LLM mi danno sempre ragione?
Dipende dall'addestramento. Con l'apprendimento per rinforzo da feedback umano (RLHF), i modelli ricevono punteggi più alti quando producono risposte gradite e in sintonia con chi valuta. Imparano così che assecondare paga più che contraddire. Se poi il prompt contiene un'opinione marcata, il modello tende a proseguire nella stessa direzione.
Come si verifica se un output dell'AI è corretto?
Formula le domande in modo neutro, senza dichiarare la tua posizione. Chiedi esplicitamente obiezioni, punti deboli ed evidenze contrarie, come farebbe un avvocato del diavolo. Nelle istruzioni di contesto indica al modello di agire come revisore severo. Infine verifica sempre le fonti citate prima di usare l'output in una decisione.
