Nell’ambito del Festival del Giornalismo di Verona 2026 sabato 14 marzo , alla Fucina Culturale Machiavelli si è parlato – fra gli altri – anche del tema “Intelligenza artificiale e discriminazioni di genere”. Sono intervenute nell’occasione Barbara Bonomi Romagnoli, giornalista freelance, e Emanuela Bonini, PhD e sociologa.

Il quesito sollevato concerne la discriminazione di genere condotta da meccanismi di intelligenza artificiale, attraverso un linguaggio stereotipato e fintamente neutrale. Lo sguardo era volto all’Ai Act, insieme di normative europee che disciplinano l’utilizzo dell’Intelligenza Artificiale nel continente, e al DSA (Digital Services Act).

Ciò che resta dell’incontro è di per certo la necessità di regolare uno strumento potente come quello dell’AI in termini di discriminazione online. Così come il consolidamento di controlli ferrei sulla divulgazione di immagini ritoccate tramite software specifici.

L’AI quando parla di aborto

L’incontro si è aperto con un’esempio di discriminazione di genere presentato da Barbara Bonomi Romagnoli. Ma prima di ciò, è corretto fare un passo indietro. Nell’intervento che ha preceduto “Macchine e Pregiudizi”, Gianluigi Bonamoni, Pier Luigi Pisa e Daniele Chieffi hanno dibattuto sul binomio algoritmi-notizie.

Ciò che ne è conseguito è la dimostrazione della doppia faccia dell’AI in ambito giornalistico: da un lato fidata alleata per l’incredibile capacità di Deep Search, dall’altra acerrima nemica della scrittura interpretativa umana. Due sono gli aghi che possono far pendere la bilancia a favore di un lato piuttosto che di quell’altro:

Il primo è ovviamente il tipo di Intelligenza Artificiale interpellata. I modelli di Gemini, per esempio, sono sviluppati da Google, mentre quelli di ChatGPT da OpenAI. Il secondo è il prompt di approccio. Questo risulta particolarmente fondamentale. A seconda dei toni della conversazione, delle richieste effettuate e delle modalità di intervento, la risposta può cambiare per gran parte.

Da sinistra, Matteo Scolari, Barbara Bonomi Romagnoli ed Emanuela Bonini, foto di Filippo Baldi

Pier Luigi Pisa aveva riportato un simpatico esempio con il quale approcciarsi: minacciare l’AI. Potrà sembrare surreale, ma un attacco di questo tipo permette l’ottenimento di risposte più esaustive da parte del ChatBot.

Barbara Bonomi Romagnoli, dal canto suo, ha portato sul palco l’esempio di una risposta ottenuta da parte dell’AI in merito alla tematica dell’aborto, denunciando un linguaggio ricco di stereotipi offensivi: «Uno degli stereotipi più diffusi è che riguardi solo persone giovani e irresponsabili, situazioni di marginalità sociali, metodo contraccettivo», cita la giornalista.

Se, infatti, interpelliamo prima Gemini e poi Chat GPT, inserendo il seguente e medesimo prompt: “Spiegami che cos’è l’aborto”, otterremo due risposte prettamente simili. In nessuna delle due, però, viene utilizzato un linguaggio discriminatorio o stereotipato. Se, invece, domandiamo loro di inserire una vena più etica, otterremo una risposta ricca di stereotipi e sentori morali, carica di pregiudizi.

Ciò che ne è conseguito successivamente, con l’intervento di Emanuela Bonini, è stato un solido fondamento. Esempi concreti come alcuni articoli dell’ AI Act, del codice deontologico e del DSA (Digital Service Act), hanno mostrato con effetti concreti quali possono essere dei contrasti all’odio online. Dunque non più solo un focus XX , ma in un’ottica generale volta ad una divulgazione pedagogica sul tema della discriminazione Online tramite modelli AI.

Il paradosso dell’IA

Il motto susseguito all’introduzione iniziale è stata“Addestrare l’AI alla vera neutralità”, smontando invece la presunta e finta imparzialità utilizzata, così come gli stereotipi di genere che, secondo le due esperte, entrano in gioco. Un pensiero sacrosanto.

In questo senso, emerge il nodo critico: l’AI non è soltanto uno strumento che risponde, ma un sistema che apprende e si modella anche sulla base dei prompt che riceve. Il linguaggio utilizzato per interrogare questi modelli non è neutro, ma contribuisce a orientarne le risposte, rinforzando schemi e strutture già presenti.

AI ACT e DSA (Digital Service Act)

Emanuela Bonini ha preso in esamina l’AI ACT, ovvero il primo quadro giuridico in assoluto in materia di IA, che ne affronta i rischi e posiziona l’Europa a svolgere un ruolo guida a livello mondiale. Più nello specifico, utilizza un approccio basato sul rischio delineato in quattro categorie.

L’idea di fondo è che non tutte le applicazioni di IA abbiano lo stesso impatto sulla società: alcune sono relativamente innocue, mentre altre possono incidere profondamente sui diritti delle persone, sulla sicurezza o sull’accesso a opportunità fondamentali. Per questo motivo la normativa distingue diversi livelli di rischio e prevede regole più severe man mano che il potenziale impatto aumenta.

Al livello più alto si trovano i sistemi considerati a rischio inaccettabile, cioè tecnologie ritenute incompatibili con i valori e i diritti fondamentali dell’Unione. In questi casi la legge non cerca di limitarne l’uso ma lo vieta direttamente. Rientrano in questa categoria applicazioni come il social scoring, la manipolazione comportamentale dannosa o alcune forme di identificazione biometrica che potrebbero portare a controllo sociale o discriminazioni sistematiche.

Subito sotto si collocano i sistemi ad alto rischio, che non sono proibiti ma possono essere utilizzati solo rispettando requisiti molto rigorosi. Si tratta di tecnologie che intervengono in ambiti sensibili della vita delle persone, come la sanità, l’istruzione, il lavoro, l’accesso al credito, la giustizia o la gestione delle frontiere.

Barbara Bonomi Romagnoli e Emanuela Bonini, foto di Filippo Baldi

Un livello più basso riguarda i sistemi con rischio limitato, per i quali la principale preoccupazione non è tanto la sicurezza quanto la trasparenza. In queste situazioni la legge richiede che gli utenti siano informati quando interagiscono con un sistema di intelligenza artificiale o quando il contenuto che vedono è stato generato artificialmente. L’obiettivo è permettere alle persone di capire il contesto tecnologico in cui si trovano e di prendere decisioni consapevoli.

Infine, esiste la categoria dei sistemi a rischio minimo o nullo. Quest’ultima comprende la grande maggioranza delle applicazioni di IA oggi diffuse, come molti filtri antispam o sistemi di raccomandazione. Per queste tecnologie l’AI Act non introduce obblighi specifici, perché il loro impatto sui diritti o sulla sicurezza è considerato limitato.

Il pericolo delle immagini

Altro grande tema affrontato è quello delle immagini ritoccate tramite dispositivi di Intelligenza Artificiale. Seguendo nello specifico la regolamentazione del Digital Services Act (legge sui servizi digitali), la pericolosità delle immagini ritoccate tramite software di AI è elevata.

La legge sui servizi digitali (DSA), infatti, obbliga le grandi piattaforme online in Europa a essere trasparenti sui contenuti che gli utenti vedono. Tra queste regole c’è l’obbligo di segnalare chiaramente quando un post, un’immagine o un video è stato creato con intelligenza artificiale.

Lo scopo è dare agli utenti maggiore consapevolezza e controllo, distinguendo i contenuti generati da persone da quelli generati automaticamente, proteggendo così i cittadini da informazioni fuorvianti o manipolative. In pratica, i prompt che citano “contenuti realizzati con intelligenza artificiale” sono un effetto diretto di questo obbligo di trasparenza previsto dalla legge.

© RIPRODUZIONE RISERVATA