Fallacie e bias nell’AI: per una scrittura consapevole 

Lo vediamo, ogni giorno: l’intelligenza artificiale è al centro di una grande trasformazione nei campi della comunicazione e della produzione di contenuti.  

Oggi, algoritmi avanzati come i modelli linguistici basati su reti neurali sono in grado di generare testi coerenti, credibili e, in molti casi, indistinguibili da quelli scritti da esseri umani. 

Ma… tutto ciò non è sempre vero. 

Perché questa apparente perfezione nasconde una serie di rischi profondamente legati alla logica e al ragionamento, che vanno ben oltre la superficie dei soliti discorsi su bias e fallacie. 

E con questo articolo desidero non solo farti presente quali sono i rischi di errore nei quali l’AI può incorrere, ma anche  

• chiarire in quale modo, queste dinamiche, possono influenzare non solo la produzione di contenuti, ma anche la nostra comprensione della realtà e la conoscenza di essa 

• suggerirti qualche strategia per evitare il rischio di perpetuazione e rafforzamento di fallacie e bias. 

Oltre l’automazione: L’impatto cognitivo dell’AI sulla logica argomentativa 

Sebbene gli strumenti di intelligenza artificiale rappresentino una conquista tecnologica straordinaria, essi operano in un ambito puramente statistico e correlazionale. 

 L’IA non “pensa” né comprende il significato delle frasi che elabora: le sue creazioni si basano su modelli probabilistici che identificano pattern linguistici comuni nei dati su cui è stata addestrata. 

Cosa significa? 

Significa che l’AI non “capisce” veramente il significato delle parole, come farebbe un essere umano. 

Lei analizza enormi quantità di dati (testi, articoli, dialoghi) e identifica schemi ripetitivi, o “pattern”, su come le parole vengono usate insieme. 

Immagina che l’AI legga milioni di libri e articoli. 

Con il tempo, impara che certe parole appaiono frequentemente insieme.  

Per esempio, vede che la parola “cane” spesso si trova vicina alla parola “correre”. Quindi, se un giorno dovesse scrivere una frase su un cane, il modello probabilistico le suggerirà che “correre” è una parola che ha buone probabilità di seguire “cane”.  

Ma questo non significa che l’AI sappia davvero cosa significa correre o cosa sia un cane: si limita a fare una “previsione” basata su quello che ha visto più spesso nei testi passati. 

È qui che si manifesta il primo problema cruciale: il suo “pensiero” è vincolato a ripetere strutture già presenti nei dati, che spesso contengono errori di logica formale e distorsioni cognitive profonde. 

E qui si apre la questione del rapporto tra l’AI e fallacie/bias. 

Le fallacie logiche: un rischio amplificato dall’AI 

Una fallacia logica è un errore nel ragionamento che mina la validità di un’argomentazione, rendendola inefficace o fuorviante.  

Gli esseri umani, pur inclini a commettere fallacie, sono spesso in grado di riconoscerle e correggerle grazie al pensiero critico proprio della nostra specie 

L’AI non possiede il pensiero critico perché non è dotata del livello di autoconsapevolezza necessario a produrlo. 

Lei non comprende la logica alla base delle informazioni che genera: si limita a riprodurre modelli presenti nei dati di addestramento.  

Questo comporta un rischio elevato di perpetuare fallacie logiche nei testi generati. 

L’esperienza di editing degli ultimi due anni mi racconta che le fallacie logiche più comuni nei testi generati dall’AI sono:  

1. la generalizzazione affrettata 

L’AI potrebbe trarre conclusioni basate su dati insufficienti o non rappresentativi.
Se i dati utilizzati per addestrare il modello sono limitati o parziali, l’AI può produrre argomentazioni che appaiono convincenti, ma che sono in realtà basate su un campione ridotto e non generalizzabile. 

Esempio
Se l’IA attinge solo da fonti provenienti da un determinato paese o periodo storico, potrebbe produrre contenuti che riflettono una visione distorta o parziale del fenomeno trattato. 

1. La petizione di principio (ovvero, il circolo vizioso)  

Può succedere che l’AI ripeta affermazioni circolari, in cui la conclusione è utilizzata come premessa.  

Questo può accadere quando i dati di addestramento includono affermazioni non adeguatamente giustificate. 

Esempio
Potrebbe affermare: “Le AI sono affidabili perché sono state create per essere tali”, senza fornire prove esterne o verificabili che confermino l’affidabilità delle IA. 

1. la falsa dicotomia 

Immagina che l’AI ti presenti solo due alternative opposte, ignorando la complessità o le soluzioni intermedie: può e sa farlo benissimo dal momento che il dataset di addestramento privilegia scenari binari o conclusioni nette. 

Esempio 

“Se non usi l’AI per la scrittura, stai sprecando tempo e risorse.”  

Questa affermazione ignora le numerose soluzioni ibride che combinano creatività umana e tecnologie emergenti. 

1. la falsa correlazione  

Questo errore si verifica quando due eventi che si verificano insieme vengono erroneamente interpretati come causalmente collegati. 

Un modello linguistico, infatti, non distingue tra correlazione e causalità, cioè non distingue questa importante differenza: 

•  la correlazione riguarda due eventi si verificano insieme, ma non è necessariamente detto che l’uno sia causa dell’altro. 

•  la causalità, invece, implica che un evento è la diretta conseguenza di un altro. 

Ti faccio un esempio pratico 

L’AI osserva che quando piove, le persone portano spesso un ombrello.  

C’è una correlazione tra pioggia e ombrelli, perché succedono insieme. 

Tuttavia, la pioggia non è causata dal portare un ombrello, e viceversa: il fatto di avere un ombrello non fa piovere.  

Lavorando su correlazioni statistiche, l’intelligenza artificiale potrebbe confondere questi concetti e generare una frase che suggerisca, erroneamente, una relazione causale tipo questa: “Le persone portano l’ombrello, quindi piove.” 

Vedi che l’AI non dispone della capacità di distinguere tra coincidenze e veri rapporti di causa-effetto? 

I bias cognitivi: un rischio sistemico nell’addestramento dell’AI 

I bias non sono semplicemente errori di giudizio. 

I bias sono riflessi di pregiudizi profondi che attraversano la società e la cultura.  

E Il rischio non risiede solo nella riproduzione di bias evidenti, come quelli legati al genere o alla razza, ma anche nella loro sottile ricontestualizzazione.  

Nell’ambito dell’intelligenza artificiale, i bias derivano principalmente dalla natura dei dati utilizzati per addestrarla. 

In altre parole, se il dataset contiene pregiudizi culturali, sociali o ideologici, l’AI riprodurrà e amplificherà questi bias nei contenuti che genera.  

Questo può portare a risultati distorti o persino discriminatori, soprattutto in settori sensibili come la giustizia, la medicina, o la politica. 

Sono tre i bias che mi è capitato di incontrare più spesso  in fase di editing:
 

1. bias di conferma 

Se i dati di addestramento (i testi che l’IA legge per imparare) provengono da fonti che hanno tutte una visione simile su un argomento, l’IA tenderà a riprodurre solo quella visione, ignorando punti di vista opposti o differenti.  

Per esempio, se un modello di AI viene addestrato solo su articoli che negano il cambiamento climatico, esso tenderà a generare contenuti che supportano quella posizione, ignorando le montagne di prove scientifiche che affermano il contrario 

1. bias di rappresentanza 

I dati di addestramento non riflettono adeguatamente la diversità culturale, sociale o geografica? 

È molto probabile che l’AI produca contenuti che escludono o marginalizzano determinati gruppi. 

Un esempio? 

L’intelligenza artificiale che genera contenuti sulla salute pubblica attingendo solo da studi condotti in paesi occidentali potrebbe produrre raccomandazioni inadatte o addirittura dannose per contesti non occidentali. 

1. bias razziale o di genere 

I dati che contengono stereotipi legati al genere o alla razza, faranno sì che l’AI li perpetui, generando contenuti che rinforzano pregiudizi o discriminazioni. 

Pertanto, un’intelligenza addestrata su testi che descrivono le donne in ruoli tradizionali potrebbe produrre contenuti che rafforzano questi stereotipi.  

Persino quando l’argomento trattato è neutro rispetto al genere. 

Il ruolo critico dell’autore: strategie per mitigare fallacie e bias 

Ricorda questo. 

Quando scrivi testi con l’aiuto dell’AI, tu non svolgi il ruolo di revisore passivo dei testi da lei generati. 

No.  

Tu svolgi il ruolo centrale ed essenziale di mediatore attivo e critico tra l’AI e i tuoi lettori.  

La semplice correzione di errori evidenti non è sufficiente: è necessario un approccio metodologico che preveda la revisione critica a più livelli. 

Una delle strategie più efficaci è l’analisi comparativa delle fonti. 

Mentre l’AI può produrre testi coerenti e formalmente corretti, tu devi sempre verificare l’affidabilità delle fonti utilizzate e confrontarle con dati provenienti da fonti di diversa natura e orientamento.  

Questo processo non si limita a correggere eventuali errori o omissioni, ma contribuisce a diversificare il discorso, introducendo prospettive alternative che, per sua natura, l’algoritmo non è in grado di considerare. 

Una seconda strategia è l’uso di tecniche dialettiche nella costruzione delle argomentazioni. 

Adotta una struttura che preveda la presentazione di tesi e contro-tesi, basata su un modello argomentativo ispirato alla dialettica socratica (oppure, per te che hai competenze filosofiche, hegeliana).  

Questo approccio non solo bilancia il discorso, ma ti pone nella condizione di interrogarti costantemente sulla validità dei propri presupposti, evitando così la cristallizzazione di un’unica narrativa. 

Un’altra tecnica avanzata consiste nella verifica incrociata delle fonti. 

Per garantire che i dati citati siano accurati, verifica che ogni affermazione sia supportata da almeno due fonti  

• autorevoli e recenti 

• autorevoli e datate, ma non smentite o contraddette 

• autorevoli, datate, smentite, ma non nell’affermazione in esame. 

     Questo riduce il rischio di errori o informazioni obsolete. 

In conclusione… 

…siamo chiamati a una nuova etica della scrittura assistita dall’AI. 

L’autore ha una responsabilità nei confronti del suo pubblico. 

Ed è per questo che l’adozione dell’intelligenza artificiale nella scrittura richiede lo sviluppo di una nuova etica che, di questa responsabilità, tenga conto 

Perché la sfida non è solo tecnica, ma profondamente epistemologica: solo attraverso un dialogo continuo tra intelligenza artificiale e pensiero critico umano sarà possibile una scrittura più robusta, inclusiva e, soprattutto, realistica.