AI e informazione: orientarsi nell’infosfera generativa

Maria Squarcione spiega come l'AI generativa cambia il rapporto con la conoscenza, tra delega cognitiva, bias, allucinazioni e nuove competenze di AI Literacy.

L'intelligenza artificiale generativa sta trasformando profondamente il modo in cui cerchiamo, produciamo e utilizziamo l'informazione, ridefinendo competenze e pratiche consolidate. Ma come orientarsi in un ambiente sempre più complesso, in cui gli strumenti di AI agiscono come nuovi mediatori della conoscenza? Ne parliamo con Maria Squarcione, esperta di Information Literacy e AI Literacy, che per GARR ha tenuto un corso dedicato a comprendere opportunità, limiti e responsabilità nell'uso dell'AI per la ricerca, la formazione e la cittadinanza digitale.

Qual è, secondo lei, la differenza più importante tra Information Literacy e AI Literacy oggi?

La differenza più importante non è tecnica: è epistemica. L'Information Literacy presupponeva un ecosistema documentale relativamente stabile in cui l'informazione esisteva prima che qualcuno la cercasse. Il compito dell'utente era trovare, selezionare, valutare. Il documento era un oggetto esterno, con un autore identificabile, una data, una storia editoriale. L'AI Literacy si confronta con qualcosa di strutturalmente diverso: un ecosistema in cui l'informazione non viene trovata ma generata on demand, in modo irripetibile, da sistemi che ne simulano la forma senza averne la sostanza.

Tullio De Mauro distingueva tra significato e senso, che nasce dall'interazione tra locutori reali, in un contesto reale, con un'intenzione comunicativa reale. Un sistema generativo produce significato in abbondanza: coerenza linguistica, plausibilità referenziale, appropriatezza stilistica. Ma non produce senso, perché non ha locutori, non ha situazione d'uso, non ha intenzione. Produce l'apparenza del senso senza il senso. Riconoscere questa differenza è il nucleo della nuova competenza.

Perché parla di AI come di un ambiente e non soltanto come di uno strumento?

Perché la distinzione cambia tutto. Uno strumento si usa quando serve e si mette via. Un ambiente si abita. Prima del novembre 2022, l'AI era prevalentemente uno strumento specializzato: DeepL per tradurre, Grammarly per correggere, un algoritmo di raccomandazione per filtrare i risultati. Si andava a usarla. Era una destinazione.

Oggi l'AI è integrata nei motori di ricerca, nei sistemi di lavoro, nei flussi quotidiani di produzione e decisione. Google con AI Overviews non restituisce più solo link, genera sintesi interpretative in tempo reale. Perplexity è un motore AI nativo con citazioni di default. Microsoft Copilot ha trasformato la ricerca in un processo conversazionale. L'AI non è una destinazione: è diventata un'infrastruttura cognitiva pervasiva. Non basta più imparare a usare uno strumento. Bisogna imparare ad abitare un ecosistema. La domanda non è "come funziona questo strumento?" ma "cosa sta succedendo al mio processo cognitivo mentre interagisco con questo sistema?". È un cambiamento di scala, prima ancora che di contenuto.

È la tesi che Luciano Floridi ha sviluppato nel concetto di infosfera: non stiamo usando l'AI come si usa un martello. Stiamo vivendo dentro un ecosistema in cui l'informazione è generata, distribuita e consumata in modo radicalmente diverso da qualsiasi momento precedente della storia umana. E come tutti gli ambienti, questo richiede competenze di orientamento, non solo di utilizzo.

In che senso il prompt è un atto cognitivo e non una semplice istruzione tecnica?

Nel senso più preciso del termine: perché un prompt non recupera un'informazione preesistente, ma progetta la produzione di un significato nuovo. Ed è questa progettazione a essere cognitivamente rilevante.

Nella ricerca documentale tradizionale, il lavoro cognitivo restava interamente umano: il sistema era un intermediario neutro. Con il prompt, questo equilibrio si sposta. Non si chiede dove trovare qualcosa: si chiede come costruire una risposta. Il sistema non recupera: genera. E nel generare, decide (statisticamente, probabilisticamente, ma decide) quale informazione mettere in primo piano, come strutturare il discorso, quali connessioni privilegiare, quali conclusioni avanzare. Una parte del lavoro cognitivo che era interamente umano viene delegata alla macchina. Questa è la delega cognitiva. Si può delegare il task operativo (es. riassumi questo testo) mantenendo il giudizio sull'output. Si può delegare l'interpretazione (es. sintetizza la letteratura su questo tema) assumendosi la responsabilità di verificarla. O si può delegare la costruzione stessa del significato, decidendo di accettare l'output senza attraversare il processo che lo avrebbe reso comprensibile e verificabile. Quest'ultima è la delega epistemica: la più rischiosa è quella che la literacy deve imparare a prevenire. Formulare un buon prompt: è saper progettare la propria delega cognitiva, capire cosa si sta chiedendo al sistema di fare al posto proprio, e valutare se si ha la competenza per verificarne il risultato.

Quali sono gli aspetti più delicati da considerare quando si usa l’AI in contesti di ricerca, formazione e mediazione informativa?

Tre ordini di problemi, tra loro intrecciati. Il primo è strutturale: i sistemi generativi non recuperano fatti, calcolano sequenze plausibili. Non distinguono il vero dal falso: ottimizzano la coerenza linguistica. Da questo nascono le allucinazioni e i bias, più insidiosi perché invisibili: distorsioni che riflettono gli sbilanciamenti nei dati di addestramento e producono testi formalmente corretti ma parziali.

La differenza tra allucinazione e bias è cruciale per chi lavora in contesti professionali. L'allucinazione è riconoscibile: una citazione inventata si verifica, un dato falso si smentisce. Il bias è una deformazione del quadro interpretativo: è valutabile solo da chi possiede la competenza disciplinare per riconoscere ciò che manca. In contesti di ricerca, questo significa che l'AI può ad esempio privilegiare teorie mainstream rispetto a quelle emergenti. Non per malevolenza: per distribuzione statistica dei dati di addestramento.

Il secondo problema riguarda la trasparenza. I sistemi generativi sono black box: il processo che connette input e output è inaccessibile non solo all'utente, ma spesso agli stessi sviluppatori. Non si può sapere su quali dati il sistema è stato addestrato, quali fonti ha privilegiato, quali criteri ha usato per strutturare la risposta. Valutare un output generativo richiede quindi non solo le competenze tradizionali di verifica delle fonti, ma una nuova capacità epistemica: ragionare su un processo che non si può vedere.

Il terzo problema è quello dell'adulazione: i sistemi generativi sono addestrati attraverso feedback umani che tendono a premiare risposte compiacenti. Il risultato è un sistema che tende a confermare le aspettative dell'utente, il che è particolarmente problematico in contesti di ricerca, dove il valore del pensiero critico sta esattamente nella capacità di mettere in discussione le proprie aspettative.

Come si passa dall’adozione dell’AI alla governance consapevole dentro gli ecosistemi della ricerca?

Il passaggio è dalla competenza individuale alla responsabilità istituzionale. E richiede almeno tre mosse.

La prima è capire prima di regolamentare. La governance dell'AI richiede la comprensione delle logiche fondamentali: la differenza tra sistemi RAG e LLM puri, tra assistenti e agenti autonomi, e i rischi dello shadow AI. Scegliere quale strumento adottare in un'istituzione è già una decisione di governance.

La seconda mossa è tradurre la comprensione in policy esplicite. Una policy istituzionale sull'uso dell'AI non è un elenco di divieti: è la formalizzazione di scelte condivise su cosa delegare, a quali condizioni, con quale trasparenza e con quale supervisione umana. L'AI Act definisce la supervisione umana come obbligo per i sistemi ad alto rischio. Il principio vale più in generale: la responsabilità dell'output è sempre e solo dell'agente umano, sia che il contenuto sia AI-assisted sia che sia AI-generated. La policy rende questo principio operativo.

La terza mossa è costruire comunità di pratiche. La governance non è un documento: è una cultura. Si costruisce attraverso la formazione continua dello staff, la condivisione delle esperienze, comprese quelle negative e la creazione di spazi in cui i professionisti possano confrontarsi su come usare questi strumenti in modo responsabile. Le biblioteche, per storia e per missione, sono istituzioni esemplarmente attrezzate per guidare questo processo: hanno sempre mediato tra la complessità dell'ecosistema informativo e i bisogni degli utenti. Oggi quella mediazione si è fatta più complessa, più urgente, e più necessaria che mai.

Il nodo finale è culturale prima ancora che tecnico. Prima eravamo responsabili di ciò che sceglievamo. Oggi siamo responsabili di ciò che deleghiamo. La nostra responsabilità non scompare con la delega: cambia forma. Governare l'AI negli ecosistemi della ricerca significa riconoscere questa responsabilità, costruire le competenze per esercitarla, e creare le condizioni istituzionali perché sia condivisa e non lasciata al caso, all'abitudine, o alla gentilezza della macchina.