AI e pensiero critico: con gli LLM cambiano lavoro e competenze

L’articolo in breve

L’Intelligenza Artificiale generativa è entrata rapidamente nelle attività basate sulla conoscenza. Viene utilizzata per cercare informazioni, sintetizzare documenti, analizzare dati, sviluppare alternative e produrre contenuti. In molti casi permette di completare il lavoro più velocemente e di esplorare possibilità che, senza questi strumenti, richiederebbero molto più tempo.

Resta da capire come cambia il pensiero critico quando un LLM propone argomentazioni, sintesi o soluzioni. La questione riguarda in maniera diretta anche la capacità di comprendere, riconoscere e valutare ciò che viene prodotto.

Le ricerche che presenteremo restituiscono un quadro articolato.

Pensiero critico e AI generativa: cosa cambia nel lavoro

Lo studio “The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects from a Survey of Knowledge Workers” analizza come l’utilizzo dell’AI generativa influenzi la percezione del pensiero critico nelle attività professionali.

Il punto di partenza è un fenomeno, definito dagli autori mechanized convergence (o convergenza meccanizzata) secondo il quale quando molte persone utilizzano strumenti di AI generativa, i risultati tendono a diventare più uniformi.

Questa convergenza non dimostra, da sola, una riduzione del pensiero critico. Un output più uniforme può essere stato verificato e modificato con attenzione oppure accettato quasi senza controllo. Per distinguere queste situazioni, lo studio analizza i momenti in cui le persone dichiarano di utilizzare il pensiero critico e lo sforzo cognitivo associato alle diverse fasi del lavoro.

La ricerca ha coinvolto 319 knowledge worker, tra cui programmatori, manager, professionisti e persone impegnate in attività amministrative. I partecipanti hanno descritto il proprio comportamento attraverso survey, risposte aperte e interviste.

La metodologia è prevalentemente self-reported: non misura direttamente il pensiero critico, ma rileva quando e quanto le persone ritengono di averlo esercitato. Si tratta di un limite riconosciuto dagli stessi autori, anche perché non esiste una misura semplice e completamente oggettiva dello sforzo critico impiegato durante un’attività.

Come cambia il pensiero critico con l’AI

I risultati di questo primo studio mostrano che l’utilizzo dell’AI non riduce il pensiero critico nello stesso modo in tutte le attività, ne modifica piuttosto la posizione all’interno del processo di lavoro e lo sforzo richiesto alla persona.

Prima dell’utilizzo dell’AI, una persona deve generalmente cercare le informazioni, selezionarle, organizzarle e costruire una soluzione. Con un LLM, una parte di queste attività può essere svolta direttamente dal modello e il lavoro umano si concentra maggiormente sulla valutazione di ciò che è stato generato.

Di conseguenza, nelle diverse fasi del lavoro cambia anche il tipo di contributo richiesto all’utente:

• Conoscenza e comprensione: dalla ricerca delle informazioni alla verifica di quelle proposte dall’AI.
• Applicazione e problem solving: dalla costruzione autonoma della soluzione alla valutazione e all’integrazione di quella generata dal modello.
• Analisi, sintesi e valutazione: dall’esecuzione diretta alla supervisione delle alternative e alla scelta di quali mantenere.

La persona assume quindi più spesso un ruolo di guida e controllo. Deve definire correttamente il problema, verificare l’output e orientare progressivamente la risposta. Gli autori utilizzano il termine “steering” per descrivere questa attività di correzione e indirizzo della conversazione.

Questo spostamento non implica necessariamente una riduzione complessiva del pensiero critico. Rende però ancora più importanti le competenze necessarie per riconoscere errori, omissioni, incoerenze e semplificazioni negli output.

Fiducia, controllo ed effort

Lo studio mostra che il livello di controllo sull’output varia in base a dove si concentra la fiducia. Chi si sente competente nello svolgimento del compito tende a verificare maggiormente il risultato; chi ripone più fiducia nella capacità dell’AI di completare il lavoro dichiara invece un minore coinvolgimento e un minore sforzo cognitivo.

Questa differenza emerge anche nei dati sull’effort. In generale, l’AI riduce lo sforzo percepito, ma non in tutte le attività allo stesso modo. Come è visibile nel grafico, l’attività di valutazione dell’output rappresenta il caso meno uniforme: alcuni partecipanti la considerano più semplice, mentre altri dichiarano uno sforzo maggiore perché devono esaminare materiali che non hanno selezionato o costruito direttamente.

A percepire uno sforzo maggiore possono essere proprio le persone più competenti, perché riconoscono più facilmente i limiti della risposta e dedicano più tempo alla verifica. Chi si fida maggiormente dell’AI tende invece a controllare meno e, di conseguenza, a percepire una riduzione più marcata dello sforzo.

L’AI può quindi accelerare la produzione, ma non rende necessariamente più semplice la valutazione, soprattutto quando la qualità dell’output è importante.

Cosa succede quando diminuisce il controllo sull’output

La relazione tra fiducia e controllo si inserisce in un quadro più ampio. Lo studio individua alcune condizioni che rendono meno probabile un controllo approfondito dell’output:

• scarsa fiducia nelle proprie capacità: chi non si sente in grado di completare autonomamente il compito tende ad affidarsi maggiormente al modello, riducendo anche le occasioni di apprendimento;
• basso valore attribuito all’attività: i compiti considerati banali, ripetitivi o marginali vengono verificati meno;
• limitata responsabilità sul risultato: se la qualità dell’output non è percepita come rilevante, diminuisce la motivazione a revisionarlo;
• pressione temporale: quando il tempo è poco, l’AI facilita la produzione rapida di una risposta plausibile, anche senza un controllo adeguato;
• propensione individuale alla verifica: le persone abituate a rileggere e mettere in discussione il proprio lavoro tendono a mantenere lo stesso comportamento anche con gli output generati dall’AI.

Lo studio mostra che il livello di pensiero critico dipende dalle capacità del modello, ma anche dalle competenze della persona, dal valore attribuito al compito e dalla responsabilità percepita sul risultato.

In generale, il tema del controllo non riguarda però soltanto la capacità di riconoscere errori nell’output. Un altro aspetto riguarda il rapporto che la persona mantiene con il contenuto prodotto e la sua capacità di comprenderlo, ricordarlo e farlo proprio.

Scrivere con l’AI: velocità, qualità e padronanza dei contenuti

Il pensiero critico non è l’unica dimensione influenzata dall’utilizzo degli LLM. Un secondo tema riguarda l’ownership, cioè la capacità di comprendere, ricordare e riconoscere come proprio il contenuto prodotto.

Il punto di partenza è lo studio “Your Brain on ChatGPT: Accumulation of Cognitive Debt When Using an AI Assistant for Essay Writing Task”, che identificava come l’83% di chi aveva lavorato utilizzando l’AI non riusciva a fornire una citazione corretta del proprio testo, contro l’11% del gruppo che aveva lavorato senza questo supporto.

L’AI può rendere più veloce la produzione di analisi, sintesi e documenti, ma velocità e qualità dell’output non coincidono automaticamente con una maggiore comprensione del contenuto. Anche per questo, nel dibattito sull’adozione dell’AI nel lavoro, emerge la necessità di considerare non solo il tempo risparmiato nella produzione di un risultato, ma anche quello necessario per verificarlo, comprenderlo e ricostruire le ragioni delle scelte effettuate.

Tre modi per interagire e lavorare con l’AI generativa

Lo studio “Cyborgs, Centaurs and Self-Automators: The Three Modes of Human–GenAI Knowledge Work and Their Implications for Skilling and the Future of Expertise” analizza come le persone distribuiscono il lavoro tra sé stesse e l’AI generativa.

La ricerca ha coinvolto 244 consulenti, junior e senior, chiamati ad analizzare la documentazione di un’azienda fittizia, scegliere una direzione e preparare una nota per l’amministratore delegato. Gli elaborati sono stati valutati e approfonditi attraverso interviste semi-strutturate.

Per descrivere come le persone distribuiscono il lavoro tra sé stesse e l’AI, gli autori hanno considerato due dimensioni dell’interazione:

• chi decide che cosa deve essere fatto, cioè quale compito affrontare;
• chi decide come deve essere svolto, cioè il metodo e i passaggi da seguire.

Incrociando queste due dimensioni hanno costruito una matrice, dalla quale emergono tre pattern principali di collaborazione con l’AI: cyborg, centauri e self-automator.

• Centauri (14%) – co-creazione controllata: la persona decide sia il task sia come svolgerlo, utilizzando l’AI come supporto mirato per ottenere informazioni o indicazioni specifiche. Le interazioni sono brevi e l’esecuzione resta prevalentemente in capo all’utente.
• Cyborg (60%) – co-creazione fusa: la persona sceglie il task, mentre il modo di svilupparlo viene costruito insieme all’AI attraverso un’interazione continua. Il modello viene utilizzato per esplorare scenari e generare alternative, che devono poi essere confrontate e verificate.
• Self-automator (26%) – delega del problem solving: la persona definisce il task, ma affida all’AI gran parte del processo e utilizza il risultato con poche interazioni successive. Nel 44% dei casi appartenenti a questo gruppo, il compito è stato automatizzato quasi completamente.

Nessun partecipante ha invece lasciato all’AI la scelta del compito per poi decidere autonomamente come realizzarlo.

AI e competenze: gli effetti dei diversi metodi di utilizzo

I tre pattern non differiscono soltanto per il modo in cui viene completato il compito. Producono anche effetti diversi sullo sviluppo delle competenze.

• I cyborg tendono a migliorare soprattutto la propria capacità di utilizzare gli strumenti di AI. Attraverso interazioni frequenti imparano a formulare richieste, valutare risposte, correggere la direzione e utilizzare il modello per ampliare le possibilità esplorate.
  Allo stesso tempo, sembrano mantenere le competenze già possedute nel dominio. La persona continua, infatti, a partecipare alle decisioni e alla valutazione, anche quando affida al modello una parte consistente dell’esecuzione.
• I centauri mostrano invece un maggiore upskilling relativo al compito. Utilizzando l’AI come strumento informativo, acquisiscono conoscenze che devono poi applicare direttamente. Il modello supporta l’apprendimento, ma non sostituisce l’esecuzione.
  Questo gruppo sviluppa meno competenze avanzate nell’interazione con l’AI, anche perché utilizza il sistema in modo più circoscritto e meno conversazionale.
• I self-automator non sembrano invece sviluppare né competenze significative rispetto al dominio né competenze nell’utilizzo consapevole dell’AI. La loro interazione è troppo limitata per imparare a guidare il modello e la delega del problem solving riduce le opportunità di apprendere dal compito.

Lo studio mostra che due persone possono usare lo stesso modello per completare lo stesso compito, ma sviluppare competenze molto diverse. Una può sfruttarlo per esplorare alternative e prendere decisioni più informate; un’altra può usarlo come supporto alla ricerca; una terza può limitarsi ad accettare il risultato.

L’importanza di non delegare il giudizio quando si lavora con l’AI

Le tre ricerche analizzano aspetti differenti, ma convergono su una dinamica comune: l’impatto dell’AI dipende dal modo in cui vengono distribuiti esecuzione, controllo e responsabilità.

• Lo studio sui knowledge worker mostra che il pensiero critico non scompare necessariamente, ma si sposta. Le persone dedicano meno sforzo alla ricerca e alla produzione diretta, mentre diventano più importanti la verifica, l’integrazione e lo steering delle risposte.
• La ricerca sulla scrittura assistita evidenzia però che revisionare un testo non significa automaticamente interiorizzarlo. Un contenuto può apparire corretto e ben costruito senza essere realmente padroneggiato da chi lo presenta.
• Lo studio sui pattern di collaborazione aggiunge un ulteriore livello: coinvolgere l’AI produce effetti diversi sulle competenze, in base al modo in cui si sceglie di interagirci.

La distinzione più utile non è tra chi utilizza l’AI e chi non la utilizza, ma tra chi mantiene un ruolo attivo nella definizione del problema, nella valutazione e nella decisione e chi delega al modello anche queste attività. L’AI può accelerare la produzione, ampliare le alternative e facilitare l’accesso alle informazioni e proprio per questo diventano ancora più importanti le competenze necessarie per comprendere l’output, valutarlo e ricondurlo agli obiettivi reali.

Il valore della collaborazione dipende quindi dalla capacità della persona di mantenere il controllo sul problema, sulle decisioni e sul risultato.